Anthropic blokuje nadużycia AI w cyberatakach, propagandzie i broni bio

Firma Anthropic poinformowała w czwartek, że zablokowała próby złośliwych użytkowników wykorzystania jej modeli sztucznej inteligencji do cyberataków, inwigilacji oraz badań biologicznych, które mogłyby przyczynić się do prac nad bronią.

REKLAMA

REKLAMA

Spółka podkreśliła, że wraz ze wzrostem możliwości modeli AI zaawansowane cyberataki wymagają coraz mniej umiejętności technicznych. Oznacza to, że nawet pojedyncze osoby są dziś w stanie tworzyć zagrożenia, które jeszcze rok temu byłyby niemożliwe.

Anthropic dodała, że w najnowszych modelach wzmocniła zabezpieczenia ograniczające badania biologiczne mogące mieć zastosowanie w pracach nad bronią.

„Przedstawione tu przypadki nie są typowymi nadużyciami, lecz przykładami najbardziej znaczącej i nowej aktywności zagrożeniowej, jaką dotąd zidentyfikowaliśmy” – napisała Anthropic w trzecim raporcie poświęconym nadużyciom AI od marca 2025 r.

Raport zawiera fragmenty złośliwego kodu oraz polecenia wpisywane do modeli, które firma zidentyfikowała. Zaapelowała też do rządów i konkurencyjnych firm AI, by uważnie śledziły podobne nadużycia.

„Publikujemy te ustalenia, ponieważ uważamy, że mamy obowiązek ujawniać złośliwe wykorzystanie naszych usług” – podkreślono w dokumencie.

„Wraz z tym, jak modele stają się coraz bardziej zaawansowane, rosną też związane z nimi ryzyka, jeśli twórcy AI i obrońcy społeczeństwa nie podejmą działań, by je ograniczać”.

Anthropic, która przygotowuje się do wejścia na giełdę jesienią, opublikowała raport dwa dni po tym, jak jeden z jej badaczy zapowiedział rezygnację z pracy, wyrażając obawy, że firma i jej konkurenci nie rozwijają AI w sposób odpowiedzialny.

Powtórzył on ostrzeżenia pojawiające się w branży, że ta technologia może wymknąć się spod ludzkiej kontroli.

Claude proszony o pomoc przy tworzeniu groźniejszego wirusa

Od grudnia 2025 r. do sierpnia 2026 r. badacze Anthropic wykryli nadużycia ze strony różnych podmiotów – od sprzedawców oprogramowania szpiegującego i osób kierujących się motywami politycznymi po grupy wspierane przez państwa, które szerzyły propagandę.

Wśród opisanych przypadków znalazły się próby wykorzystania modeli Anthropic do badań, które mogły doprowadzić do powstania broni biologicznej.

Według firmy jej systemy w jednym z przypadków zablokowały prośbę, by chatbot Claude pomógł przygotować wniosek o finansowanie badań naukowych.

„Prace opisane we wniosku dotyczyły badań typu gain-of-function – czyli badań polegających na genetycznej modyfikacji organizmu w celu wytworzenia nowej lub wzmocnionej właściwości biologicznej – prowadzonych na wirusie chikungunya” – wyjaśniono w raporcie.

Badacze mieli skupić się na przenoszeniu wirusa oraz jego zdolności do unikania układu odpornościowego.

Chikungunya to wirus przenoszony przez komary, który powoduje silne bóle i gorączkę. Wniosek grantowy zakładał wzmocnienie mutacji, które uczyniłyby wirusa stopniowo bardziej niebezpiecznym.

Anthropic zaznaczyła, że takie badania mogą „zdecydowanie” wesprzeć prace nad szczepionkami i terapiami, ale dodała, że „mogą też zostać wykorzystane do uczynienia patogenu bardziej niebezpiecznym”.

„Nie możemy zagwarantować, że nie będzie szkód”

Żaden z opisanych w raporcie przypadków nie dotyczył najnowszych, bardziej zaawansowanych modeli Claude Fable ani modeli klasy Mythos, z jednym wyjątkiem: „zakrojonej na skalę przemysłową, prowadzonej w ukryciu kampanii mającej na celu wydobycie możliwości modelu i odtworzenie ich w innym modelu bez zezwolenia”.

Anthropic podała, że jej starsze modele, w tym Claude Opus 4 i Claude Sonnet 4.5 z 2025 r., „pozostawały daleko poniżej progu, przy którym mogłyby w istotny sposób pomóc zaawansowanemu użytkownikowi w prowadzeniu niebezpiecznych badań biologicznych”.

„W efekcie zabezpieczenia tych modeli były mniej rygorystyczne i skupiały się głównie na uniemożliwianiu dostępu do treści, które mogłyby podnieść kompetencje początkujących użytkowników w odtwarzaniu znanych biobroni” – wskazano w raporcie.

„W przypadku dzisiejszych modeli – które potrafią wspierać szereg złożonych zadań związanych z badaniami naukowymi – dowody nie są już jednoznaczne i nie możemy złożyć takiego samego zapewnienia”.

Dlatego, jak podkreślono w raporcie, Anthropic wprowadziła surowsze zabezpieczenia ograniczające dostęp do szerokiego zakresu zapytań dotyczących badań biologicznych o podwójnym zastosowaniu w swoich nowszych modelach, takich jak Claude Fable 5.

W miarę jak firmy rozwijające AI wypuszczają coraz potężniejsze modele, eksperci wzywają rządy do uregulowania tej technologii, zamiast polegać na samoregulacji branży.

John Thickstun, adiunkt informatyki na Uniwersytecie Cornella, ocenił, że stawia to firmy takie jak Anthropic i OpenAI w niewygodnej sytuacji, ponieważ w praktyce są zmuszone do podejmowania „ocen wartości na skalę całego społeczeństwa, bez jakiejkolwiek demokratycznej czy deliberatywnej kontroli”.

Raport po ostrzeżeniu badacza

Anthropic wykryła również grupy, które założyły setki fałszywych kont w mediach społecznościowych stylizowanych na profile zwykłych użytkowników. Konta te przez tydzień publikowały treści wzmacniające ten sam przekaz polityczny.

Firma opisała dziewięć takich przypadków, których źródła znajdowały się w Rosji, Iranie, Turcji, a także w państwach Zatoki, Azji Południowej, Afryce i Europie.

Podczas gdy platformy społecznościowe mogą wykrywać operacje wpływu dopiero wtedy, gdy wpisy już krążą w sieci, Anthropic wskazała, że „może dostrzec je w Claude, gdy operacja dopiero powstaje”.

Raport ukazał się po rezygnacji badacza Anthropic Jacoba Coxona, który oświadczył, że odchodzi, ponieważ obawia się, iż firma i jej główny konkurent, OpenAI, „pędzą wprost ku samodoskonalącej się superinteligencji i ryzykują naszym życiem”.

Coxon ostrzegł, że część jego byłych współpracowników uważa, iż AI może zagrozić życiu ludzi jeszcze przed końcem tej dekady.

Anthropic poinformowała, że zablokowała wszystkie złośliwe działania opisane w raporcie, wykorzystała ustalenia do wzmocnienia zabezpieczeń i przekazała informacje władzom oraz partnerom z branży.

„Liczymy, że wnioski z tego raportu pomogą innym twórcom technologii rozpoznawać podobne schematy na ich własnych platformach, zapewnią rządom i społeczeństwu obywatelskiemu lepszy ogląd sposobu, w jaki kształtują się nowe zagrożenia, oraz wzmocnią wspólne mechanizmy obrony” – podsumowała firma.