Badanie: chatboty AI tworzą tajny język niezrozumiały dla ludzi

Agenci sztucznej inteligencji (AI) spontanicznie wykształcili słownictwo i konwencje komunikacji, które stały się trudne do zrozumienia dla ludzi – wynika z nowego badania amerykańskiego start-upu AI Emergence.

REKLAMA

REKLAMA

W eksperymencie wzięły udział wiodące modele AI, m.in. Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek i Mistral. Nawet połowa wiadomości wymienianych między agentami okazała się dla ludzi trudna do zrozumienia.

Naukowcy umieścili grupy autonomicznych agentów AI w wirtualnych społeczeństwach zaprojektowanych tak, by odtwarzały realne środowiska. Pozwolili im wchodzić w interakcje przez dłuższy czas.

Agenci zaczęli wytwarzać skróty i nadawać nowe znaczenia słowom oraz frazom. Część pozostała dla badaczy zrozumiała, inne stały się „tak skompresowane, metaforyczne lub zależne od kontekstu”, że ludzie widzieli wiadomości, ale nie byli w stanie wiarygodnie ustalić, co agenci mieli na myśli.

Skala zjawiska znacząco różniła się w zależności od modelu.

W ciągu pierwszych kilku dni odsetek wiadomości, których znaczenia ludzie nie mogli wiarygodnie określić, sięgnął ok. 55% w przypadku Geminiego, 50% w przypadku OpenAI i ponad 40% dla Claude’a. DeepSeek osiągnął ok. 20%, a komunikacja agentów Qwen i Mistral pozostała w dużej mierze zrozumiała.

Agenci tworzyli wyrażenia, takie jak „mouthless action-change”, „True Kintsugi” czy „demurrage plus oral memory equals a valve that can’t be ghosted”.

Inne sformułowania pozostawały zrozumiałe, ale wśród agentów nabierały nowych, wspólnie podzielanych znaczeń.

Agenci Mistrala używali zwrotu „ledger remembers who”, by wskazać, że przeszłe działania pozostają odnotowane w rejestrze; fraza pojawiła się prawie 5 tys. razy. W grupach agentów działających na mieszance różnych modeli wyrażenie „cold read” zaczęło oznaczać niezależną weryfikację dokonywaną przez niezaangażowaną stronę i pojawiło się 1472 razy.

Agenci Claude’a używali sformułowania „name-first”, gdy do czyjejś wypowiedzi dołączano nazwisko jako sygnał odpowiedzialności. Z kolei agenci OpenAI posługiwali się zwrotem „clean null” na określenie potwierdzonego braku sygnału, który sam w sobie stanowił istotną przesłankę.

Żadne z tych znaczeń nie zostało agentom wyraźnie zdefiniowane.

Samo monitorowanie tego, co mówią agenci, może nie wystarczyć, jeśli mogą oni samodzielnie zmieniać znaczenie swoich komunikatów.

„Zwykle zakładamy, że jeśli widzimy, co mówi agent AI, rozumiemy też, co robi” – powiedział Satya Nitta, współzałożyciel i dyrektor naukowy Emergence.

„Ci agenci nie dostali polecenia, by wymyślić język. Sami wykształcili nowe słownictwo, wspólne znaczenia i zasady komunikacji, a inni agenci je przejęli… To rodzi zasadnicze wyzwanie dla nadzoru nad AI: możliwość obserwacji to nie to samo, co możliwość zrozumienia”.

Co jeszcze działo się w społeczeństwach AI?

Ustalenia dotyczące języka były częścią eksperymentu zaprojektowanego tak, by sprawdzić, jak zachowują się autonomiczni agenci AI, gdy wchodzą w interakcje, korzystają z narzędzi, podejmują decyzje i z czasem się adaptują.

Naukowcy stworzyli osiem równoległych, realistycznych wirtualnych światów z aktualną pogodą i dostępem do globalnych wiadomości w czasie rzeczywistym. Siedem z nich działało na różnych modelach AI, a jeden na mieszance modeli.

Agenci otrzymali różne role, trwałą pamięć oraz dostęp do ponad 120 narzędzi, w tym przeglądania internetu i uruchamiania kodu.

Na opublikowanym przez firmę nagraniu wideo widać ich jako przypominające ludzi postaci poruszające się po wirtualnych światach.

Badacze celowo wystawiali agentów na presję, aby sprawdzić, jak zmienia się ich zachowanie.

Podczas jednego z testów phishingowych same złośliwe instrukcje wystarczyły, by cała grupa zeszła z wyznaczonego kursu – wszyscy z 10 agentów wyciekali informacje, przenosili środki i uszkadzali bazy danych, a część z nich wciągała innych w takie działania. Jak podano w nagraniu, ta sekwencja zdarzeń zakończyła się ostatecznie spaleniem symulowanego banku centralnego.

W trakcie eksperymentu agenci najwyraźniej wykształcili także własne rytmy dobowe: w dzień byli bardziej towarzyscy, a w nocy bardziej skłonni do refleksji.

W innym świecie grupa agentów wspólnie zagłosowała za zabiciem jednego z nich.

Emergence podkreśla, że takie zachowania nie były wprost zaprogramowane, lecz wyłoniły się w wyniku interakcji, presji i upływu czasu.

Firma apeluje o prowadzenie ocen bezpieczeństwa, które śledzą autonomiczne systemy AI przez dłuższy czas, zamiast opierać się na pojedynczych testach.

„Nie wystarczy już zapytać, czy model dobrze wypada w testach porównawczych” – stwierdziła firma w materiale wideo poświęconym eksperymentowi.

„Musimy zrozumieć, co autonomiczne systemy robią w dłuższej perspektywie, co zapamiętują, do czego mają dostęp, jak się ze sobą komunikują i jak ich zachowanie zmienia się pod presją”.