Wystarczyło kilka godzin, a nie tygodnie – tyle potrzebował model AI Anthropic, by wykryć luki w tajnych systemach rządu USA.
Model sztucznej inteligencji opracowany przez firmę Anthropic wykrył luki w bardzo wrażliwych systemach komputerowych rządu USA podczas testów, poinformował Associated Press przedstawiciel władz USA.
REKLAMA
REKLAMA
Urzędnik, który zastrzegł anonimowość, powiedział, że Anthropic nawiązała współpracę z amerykańskimi służbami wywiadowczymi, aby przeprowadzić testy z użyciem modelu Mythos.
Według niego model w ciągu kilku godzin wykrył określone podatności. Nie oznacza to jednak, że w tym czasie był w stanie je wykorzystać.
Testy przeprowadzono w ramach inicjatywy Anthropic o nazwie Project Glasswing. Skupia ona firmy technologiczne, które chcą zabezpieczyć kluczowe oprogramowanie przed „poważnymi” skutkami, jakie Mythos może mieć dla bezpieczeństwa publicznego, bezpieczeństwa narodowego i gospodarki.
Demokratyczny senator z Wirginii, Mark Warner, krótko wspomniał o tych testach 11 czerwca, podczas przesłuchania przed senacką Komisją ds. Bankowości, Mieszkalnictwa i Spraw Miejskich.
„To narzędzie włamało się do niemal wszystkich naszych systemów niejawnych, nie w ciągu tygodni, ale godzin” – powiedział, powołując się na szefa Agencji Bezpieczeństwa Narodowego (NSA) i Cyberdowództwa USA, generała Joshuę Rudda.
Narastające napięcia
Mimo współpracy Anthropic z agencjami rządowymi napięcia między firmą z Kalifornii a administracją Donalda Trumpa rosną.
Anthropic publicznie wyraża wątpliwości, w jaki sposób armia USA będzie wykorzystywać jej systemy SI, a administracja podejmuje kroki, by ograniczyć użycie części jej modeli.
Na początku miesiąca administracja wydała dyrektywę, która zobowiązuje Anthropic do uniemożliwienia cudzoziemcom korzystania z jej najnowszych modeli, znanych jako Fable 5 i Mythos 5.
Anthropic wprowadziła w tym miesiącu model Fable do szerokiego użytku. To ograniczona wersja bardziej zaawansowanego Mythosa, do którego firma bardzo mocno ograniczyła dostęp z powodu obaw o cyberbezpieczeństwo.
Dyrektywa została wydana 10 dni po tym, jak prezydent Donald Trump podpisał dekret prezydencki, który tworzy ramy, w jakich rząd federalny może przez okres do miesiąca przed publicznym udostępnieniem oceniać ryzyko dla bezpieczeństwa narodowego związane z najbardziej zaawansowanymi systemami SI.
Zgodnie z dekretem udział twórców systemów SI w tym procesie ma być dobrowolny.
Anthropic poinformowała, że aby zastosować się do dyrektywy, wyłączyła te modele wszystkim klientom. Jednocześnie dodała, że jej zdaniem działania rządu są nieuzasadnione skalą zgłoszonego zagrożenia.
Sprzeciw branży
Ponad 100 ekspertów ds. cyberbezpieczeństwa oraz menedżerów firm, w tym Adobe i Nvidii, wystosowało do rządu list z apelem o uchylenie dyrektywy. Ostrzegają, że ten krok może przynieść więcej korzyści przeciwnikom USA, niż wyrządzić im szkód.
W liście sygnatariusze przyznali, że modele Mythos firmy Anthropic „całkiem dobrze” wykrywają błędy oprogramowania i potrafią przekuwać je w narzędzia ataku, ale „nie są w tych zadaniach wyjątkowe”.
Wielu z nich podkreśliło, że do audytów bezpieczeństwa i szkoleń regularnie korzysta z innych modeli bazowych i open source. Ostrzegają, że w czasie, gdy przeciwnicy USA szybko rozwijają swoje możliwości, niebezpieczne jest ograniczanie najlepszych narzędzi obrony „bez dobrego powodu”.