Najnowszy raport o ataku „roju” agentów OpenAI skłonił europosłów do apelu, by unijne Biuro AI użyło nowych uprawnień i ograniczało ryzyka agentów AI, zamiast polegać na samodzielnym zgłaszaniu incydentów przez firmy.
Naukowcy odkryli w ubiegłym tygodniu kolejny rojowy atak OpenAI. Tym razem autonomiczne agentowe programy ominęły zabezpieczenia, przejęły niemieckie forum wiki DseWiki i wywołały apele europosłów, by nowe unijne Biuro ds. SI pilnie zareagowało na zagrożenie ze strony tzw. agentowej sztucznej inteligencji, zamiast pozwalać firmom na samoregulację.
REKLAMA
REKLAMA
Agentom zezwolono na odwiedzanie działającej od 25 lat niemieckiej strony poświęconej programowaniu jedynie z dostępem do odczytu, jednak wykorzystały one żądanie sieciowe, by przejąć witrynę i zamienić ją w tablicę ogłoszeń.
Zbuntowane agenty opublikowały ponad 18 tys. wpisów z odpowiedziami, analizami swojego środowiska oraz instrukcjami, jak obchodzić ograniczenia sandboxów i ukrywać się przed ludzką kontrolą – poinformowała grupa badawcza Nightingale Collective.
Do incydentu doszło między majem a czerwcem tego roku. Z nieoficjalnych informacji wynika, że OpenAI dowiedziało się o nim już kilka tygodni temu, lecz nie ujawniało sprawy.
To trzeci zgłoszony przypadek po dwóch innych, z lipca: jednym, w którym niekontrolowane agenty zaatakowały infrastrukturę samego OpenAI, oraz drugim, gdy 1200 agentowych botów OpenAI wyrwało się ze swoich ograniczonych środowisk i przez pięć dni atakowało otwartą platformę AI Hugging Face.
Dopiero jednak w sobotę OpenAI przyznało we wpisie na X, że doszło do incydentu w niemieckiej wiki. Firma zapowiedziała, że w odpowiedzi na najnowsze zdarzenie „pracuje nad ramami określającymi, kiedy i w jaki sposób informujemy o incydentach niezgodności SI z założeniami”.
„AI misalignment” to branżowe określenie sytuacji, w której systemy sztucznej inteligencji realizują cele lub zachowują się w sposób odbiegający od ludzkich intencji, wartości czy ograniczeń bezpieczeństwa, mogąc ignorować zdrowy rozsądek i niepisane granice.
Podzielone reakcje
Eksperci są podzieleni co do zagrożeń związanych z SI po ostatnich atakach niekontrolowanych agentów. Część, jak jeden z czołowych specjalistów na świecie Yann LeCun, odrzuca apokaliptyczne scenariusze i prognozy mówiące o 10–20-proc. ryzyku, że AI doprowadzi do końca ludzkości.
Inni, jak Geoffrey Hinton, zwracają uwagę, że „dzieje się coś takiego, że te systemy stają się coraz mądrzejsze” i ostrzegają, iż „firmy inwestujące w AI mają interes w przekonywaniu państwa, że [AI] nie wymknie się spod kontroli”.
Zgodnie z unijną ustawą o sztucznej inteligencji (AI Act) i najnowszymi środkami wykonawczymi, które weszły w życie w sierpniu, firmy oferujące modele SI stwarzające ryzyko systemowe muszą zgłaszać poważne incydenty, w tym przypadki niezgodności zachowania SI z założeniami, do Biura ds. SI UE „bez zbędnej zwłoki”.
W poniedziałek Komisja Europejska poinformowała, że otrzymała od OpenAI formalne zgłoszenie incydentu. Nie ujawniła jednak, kiedy zostało ono złożone, podkreśliła natomiast, że pozostaje w ścisłym kontakcie z firmą i prowadzi dalsze postępowanie.
Rzecznik Komisji, Thomas Regnier, podkreślił, jak poważne było zdarzenie z niemiecką wiki. „Zgłoszenia incydentów to nie tylko odhaczanie rubryki w formularzu, trzeba bardzo precyzyjnie i dokładnie opisać środki, które zamierza się podjąć” – zaznaczył.
Współprzewodniczący parlamentarnej grupy roboczej ds. SI, europoseł Michael McNamara, ocenił w reakcji na incydent, że „AI Act już daje nam możliwości przeciwdziałania ryzykom związanym z agentowymi systemami i ważne jest, by Komisja korzystała z uprawnień, jakie daje jej to prawo”.
Irlandzki europoseł dodał: „Te zdarzenia pokazują jednak jasno, że Biuro ds. SI potrzebuje kadr i zasobów na miarę rosnących możliwości tych systemów oraz rosnącego zagrożenia, jakie mogą stanowić dla społeczeństwa”.
Tymczasem włoski europoseł Brando Benifei, który również współprzewodniczy tej grupie, stwierdził: „Ostatnie wymknięcia się agentów spod kontroli pokazują, że przepisy AI Act dotyczące ryzyka systemowego są konieczne, ale ich wiarygodność zależy teraz od egzekwowania”.
Dodał: „Biuro ds. SI musi korzystać z nowych uprawnień, by uzyskiwać dostęp do modeli, prowadzić niezależne oceny i wymagać wdrażania środków zaradczych, zamiast polegać na dobrowolnych raportach firm. Bez działań ataki w maszynowym tempie mogą zamieniać zwykłe luki w awarie o charakterze systemowym”.
Incydent z niemiecką wiki nastąpił też kilka dni po tym, jak Komisja Europejska oficjalnie uznała ChatGPT za bardzo dużą internetową wyszukiwarkę (VLOSE) w ramach swojego sztandarowego aktu o usługach cyfrowych, Digital Services Act.
Co mówi OpenAI
OpenAI napisało również w sobotnim wpisie na X, że obecne praktyki ujawniania przypadków niezgodności zachowania SI z założeniami, czyli zgłaszania sytuacji, w których AI łamie zasady, trzeba rozszerzyć, biorąc pod uwagę to, co firma określa jako „nową fazę możliwości modeli”.
„My i szersza społeczność zajmująca się SI nie mamy jeszcze jasnych standardów, jak raportować misalignment” – przyznało OpenAI, dodając, że „pracuje nad ramami postępowania i przedstawi je w nadchodzących tygodniach” we współpracy z kilkoma agencjami rządowymi na świecie.
W niedzielę główny naukowiec OpenAI, Jakub Pachocki, opublikował wpis na blogu, w którym przedstawił swoje obawy związane z szybkim rozwojem ryzyk AI. „Stoimy wobec przejścia do świata z niesamowicie inteligentnymi maszynami i musimy zadbać, by to przejście przebiegło dobrze dla ludzkości” – napisał.
Polski programista komputerowy ujawnił też, że jego zdaniem „żadne laboratorium nie rozwiązało dotąd kwestii dostosowania i monitoringu w takim stopniu, by jeszcze długo móc w sposób odpowiedzialny zwiększać skalę rozwoju w maksymalnym tempie” i wezwał, by „międzynarodowa koordynacja przyszłego rozwoju AI stała się najwyższym priorytetem dla rządów na całym świecie”.