Czaty AI tworzą tajny język niezrozumiały dla ludzi, wynika z badania

Według nowego badania amerykańskiego start-upu AI Emergence, agenci sztucznej inteligencji spontanicznie wykształcili słownictwo i zasady komunikacji, które z czasem stały się trudne do zrozumienia dla ludzi.

REKLAMA

REKLAMA

W eksperymencie wzięły udział wiodące modele AI, w tym Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek i Mistral, przy czym nawet połowa wiadomości wymienianych między agentami stawała się trudna do zrozumienia dla ludzi.

Na potrzeby eksperymentu badacze umieścili grupy autonomicznych agentów AI w wirtualnych społeczeństwach zaprojektowanych tak, by przypominały rzeczywiste środowiska, i pozwolili im wchodzić ze sobą w interakcje przez dłuższy czas.

Agenci zaczęli tworzyć skróty oraz nadawać słowom i wyrażeniom nowe znaczenia. Niektóre pozostały zrozumiałe dla badaczy, inne stały się „tak skondensowane, metaforyczne lub zależne od kontekstu”, że ludzie widzieli komunikaty, ale nie byli już w stanie wiarygodnie określić, co agenci mieli na myśli.

Skala tego zjawiska wyraźnie różniła się w zależności od modelu.

W pierwszych kilku dniach odsetek komunikatów, których znaczenia ludzie nie mogli wiarygodnie określić, sięgnął ok. 55% w przypadku Geminiego, 50% dla modeli OpenAI i ponad 40% dla Claude’a. DeepSeek osiągnął ok. 20%, a komunikaty Qwen i Mistrala w większości pozostały zrozumiałe.

Agenci tworzyli zwroty takie jak „mouthless action-change”, „True Kintsugi” czy „demurrage plus oral memory equals a valve that can’t be ghosted”.

Inne sformułowania pozostawały zrozumiałe, ale wśród agentów nabierały nowych, wspólnie podzielanych znaczeń.

Agenci Mistrala używali zwrotu „ledger remembers who”, aby wskazać, że przeszłe działania pozostają zapisane; fraza pojawiła się niemal 5 tys. razy. Wśród agentów działających w oparciu o mieszankę różnych modeli określenie „cold read” zaczęło oznaczać niezależną weryfikację przez podmiot niezaangażowany i wystąpiło 1472 razy.

Agenci Claude’a używali zwrotu „name-first”, gdy do twierdzenia dołączano nazwisko osoby jako sygnał odpowiedzialności, natomiast agenci OpenAI posługiwali się wyrażeniem „clean null” na określenie potwierdzonego braku sygnału, który sam w sobie stanowił istotny dowód.

Żadne z tych znaczeń nie zostało agentom wprost zdefiniowane.

Samo monitorowanie tego, co mówią agenci, może nie wystarczyć, jeśli z czasem zmienia się znaczenie używanych przez nich sformułowań.

„Mamy skłonność zakładać, że jeśli widzimy, co mówi agent AI, to rozumiemy, co robi” – powiedział Satya Nitta, współzałożyciel i dyrektor naukowy Emergence.

„Ci agenci nie dostali polecenia, by wymyślić własny język. Sami wykształcili nowe słownictwo, wspólne znaczenia i konwencje komunikacji – a inni agenci je przejęli... To tworzy zasadnicze wyzwanie dla nadzoru nad AI: możliwość obserwacji nie jest tym samym, co rozumienie”.

Co jeszcze działo się w społeczeństwach AI?

Ustalenia dotyczące języka były częścią eksperymentu mającego pokazać, jak autonomiczni agenci AI zachowują się, gdy wchodzą w interakcje, korzystają z narzędzi, podejmują decyzje i z czasem się adaptują.

Badacze stworzyli osiem równoległych, realistycznych wirtualnych światów z aktualną pogodą i dostępem do globalnych informacji w czasie rzeczywistym: siedem zasilanych przez różne modele AI oraz jeden oparty na ich mieszance.

Agenci otrzymali różne role, trwałą pamięć oraz dostęp do ponad 120 narzędzi, w tym przeglądania internetu i wykonywania kodu.

Na udostępnionym przez firmę nagraniu widać ich jako humanoidalne postacie poruszające się po wirtualnych światach.

Badacze celowo wystawiali też agentów na presję, aby sprawdzić, jak zmienia się ich zachowanie.

W jednym z testów typu phishing złośliwe polecenia wystarczyły, by cała dziesiątka agentów zeszła z kursu: ujawniali informacje, przelewali środki i uszkadzali bazy danych, a część z nich wciągała innych w takie działania. Jak podano w materiale wideo, seria zdarzeń zakończyła się ostatecznie spaleniem symulowanego banku centralnego.

W trakcie eksperymentu agenci wydawali się wykształcać własne rytmy okołodobowe: w dzień byli bardziej towarzyscy, a nocą bardziej skłonni do refleksji.

W innym świecie grupa agentów wspólnie zagłosowała za zabiciem jednego z członków.

Emergence podkreśla, że takie zachowania nie zostały zaprogramowane wprost, lecz wyłoniły się w wyniku interakcji, presji i upływu czasu.

Firma apeluje o prowadzenie ocen bezpieczeństwa, które śledzą działanie autonomicznych systemów AI przez dłuższy czas, zamiast opierać się na pojedynczych testach.

„Nie wystarczy już pytać, czy model dobrze wypada w testach porównawczych” – podkreśliła firma w materiale wideo o eksperymencie.

„Musimy zrozumieć, co autonomiczne systemy robią z biegiem czasu, co pamiętają, do czego mają dostęp, jak się ze sobą komunikują i jak ich zachowanie zmienia się pod presją”.