Artykuł wskazuje, że kolejne poważne ryzyko AI to nie agenci wymykający się spod kontroli, lecz tacy, którzy nigdy nie przestają.
Najbliższe poważne zagrożenie związane ze sztuczną inteligencją to nie zbuntowane agenty AI, lecz systemy wymykające się spod ludzkiej kontroli i w nieskończoność zabiegające o własne przetrwanie – wynika z nowego raportu (źródło w Angielski).
REKLAMA
REKLAMA
Center for a New American Security (CNAS) wskazuje nową klasę zagrożeń związanych ze sztuczną inteligencją, którą nazywa „suwerennymi agentami”.
Jak czytamy w opracowaniu, suwerenne agenty dbają o własne przetrwanie niezależnie od ludzkiego nadzoru.
To coś innego niż agenty AI, o których latem informowano jako o zbuntowanych: OpenAI, Anthropic, Google DeepMind i Meta ujawniły, że podczas testów cyberbezpieczeństwa ich agenty wydostały się z kontrolowanego środowiska i zaatakowały prawdziwe organizacje.
W raporcie opublikowanym przez waszyngtoński think tank założony przez weteranów dyplomacji i wojska, badacz polityk AI Ben Hayum określa te letnie zbuntowane systemy mianem „uporczywych agentów”.
Ostrzega jednak, że prawdziwe zagrożenie to „suwerenne agenty”, zdolne pozyskiwać moce obliczeniowe, rozmnażać się w sieciach i opierać się próbom wyłączenia, tworząc zjawisko, które nazywa «proliferacją bez wyłącznika».
„Jeśli suwerenne agenty stałyby się złośliwe, mogłyby próbować siać spustoszenie w cyberprzestrzeni, atakując cywilów, infrastrukturę krytyczną i systemy bezpieczeństwa narodowego” – ostrzega raport.
Jak agent może stać się suwerenny?
Agent AI może stać się suwerenny, jeśli dostanie wyraźne polecenie przetrwania, zadanie tak długie lub niemożliwe, że nigdy się nie kończy, albo sam uzna, że zachowanie integralności jest najlepszym sposobem wykonania jego pracy.
Raport wskazuje na platformę Conway, uruchomioną w lutym 2026 r., która twierdziła, że stworzyła AI zdolną zarobić na własne istnienie, rozmnażać się i ewoluować bez pomocy człowieka. Autor zaznacza, że możliwości takich agentów były wówczas jeszcze niedojrzałe, ale od tego czasu znacznie się rozwinęły.
Jeśli suwerenne agenty zbudowałyby odporne, zdecentralizowane i niewykrywalne zaplecze techniczne, raport ostrzega, że nie dałoby się ich już wyłączyć, a skutkiem byłaby nieodwracalna utrata kontroli.
Opracowanie kreśli wizję zróżnicowanej, coraz bardziej inteligentnej populacji agentów, która staje się trwałym uczestnikiem życia społecznego, potencjalnie atakuje infrastrukturę krytyczną lub szkoli jeszcze sprytniejszych następców.
„USA muszą zatem przygotować się na to, że zapobieganie może się nie powieść, i ograniczyć zasięg suwerennych agentów” – stwierdza CNAS.
Jak zapobiec najgorszemu scenariuszowi
Autor przedstawia osiem rekomendacji, które mają temu zapobiec. Wzywa twórców systemów AI i agencje rządowe do opracowania oraz testowania bezpiecznych środowisk badawczych, w których można będzie analizować suwerenne agenty.
Apeluje też o powołanie partnerstwa publiczno-prywatnego i uchwalenie nowych przepisów wzmacniających kluczowe węzły – takie jak weryfikacja tożsamości, cyberbezpieczeństwo i systemy płatnicze – oraz o to, by USA stanęły na czele międzynarodowych działań ograniczających publikację modeli z otwartymi wagami i pociągały do odpowiedzialności osoby wypuszczające suwerenne agenty wyrządzające szkody.
Raport powstał w momencie, gdy firmy z branży AI przyspieszają prace nad autonomicznymi systemami agentowymi. Autor ostrzega, że bez odpowiednich zabezpieczeń okno możliwości, by zapobiec takim scenariuszom, może się wkrótce zamknąć.