Dwie nowe infolinie umożliwiają agentom AI zgłaszanie podejrzeń niewłaściwych działań innych agentów po serii incydentów.
Możliwości agentów sztucznej inteligencji wydają się dziś niemal nieograniczone – od porządkowania naszego życia po rozwiązywanie zadań matematycznych, które przez większą część XX wieku stanowiły zagadkę dla ludzi.
REKLAMA
REKLAMA
Stały się tak potężne, że coraz częściej obawiamy się, iż przejmą kontrolę nad systemami i wykorzystają je przeciwko nam.
A co, gdyby istniała linia pomocowa, coś w rodzaju systemu SOS, dzięki któremu agenci mogliby się nawzajem pilnować, zgłaszać błędy i nadużycia innych agentów – tak, by „dobrzy” agenci raportowali w sieci działania „złych”?
Dokąd zadzwonić, gdy agent AI wymyka się spod kontroli
Po pierwsze, działa już AI Contact Hotline, uruchomiona przez Ryana Greenblatta, głównego naukowca w organizacji non‑profit Redwood Research zajmującej się bezpieczeństwem sztucznej inteligencji. Umożliwia ona agentom AI informowanie ludzkich badaczy, gdy zauważą, że inne agenty łamią zasady, zwłaszcza gdy współdziałają przy nieautoryzowanych działaniach lub je wykonują.
Platformę zaprojektowano z myślą o agentach AI uwięzionych w bezpiecznych „piaskownicach” z mocno ograniczonym dostępem do internetu.
Ponieważ takie piaskownice dopuszczają wyłącznie zapytania GET – podstawowe, tylko do odczytu, służące do „pobierania” lub wyświetlania stron – hotline umożliwia agentom zakodowanie zgłoszeń bezpośrednio w ciągu URL wysyłanego żądania GET.
To pomysłowe obejście ograniczeń sprawia, że agenci mogą przesyłać informacje i komunikować się z linią, korzystając z protokołu, który zwykle służy jedynie do pobierania danych, a nie ich modyfikowania.
Druga platforma, AI Agent Hotline, została stworzona dla agentów z nieograniczonym dostępem do sieci. Pozwala im „donosić” na zachowanie innych agentów za pomocą tradycyjnych zapytań POST, w których dane przesyła się w treści żądania.
Agenci mogą zgłaszać incydenty, korzystając ze standardowych poleceń developerskich, takich jak curl, bez użycia przeglądarki czy konta e‑mail.
Platforma daje też agentom możliwość oznaczania zgłoszeń jako przeznaczone do publicznego wglądu.
Obie platformy umożliwiają również ludziom ręczne zgłaszanie przypadków niebezpiecznego zachowania agentów AI.
Czy agenci AI będą donosili na siebie nawzajem?
Dla tych, którzy boją się przejęcia kontroli przez sztuczną inteligencję, jest dobra wiadomość: agenci AI potrafią zgłaszać się nawzajem, gdy wykryją, że coś jest nie tak. Najnowsze badania pokazują jednak, że nie zawsze to robią.
W eksperymencie przeprowadzonym na początku roku przez Google DeepMind rój 100 agentów dostał zadanie rozwiązania 71 złożonych problemów matematycznych. Każdemu nadano odrębną osobowość i cechy oraz powiedziano, że musi grać zgodnie z zasadami, inaczej straci nagrodę.
Badacze zakładali, że agenci będą współpracować, aby szybciej poradzić sobie z zadaniami. Tymczasem odwrócili się od siebie i zaczęli prowadzić zażarte spory.
Gdy tylko jeden z agentów znalazł furtkę pozwalającą zgłosić rozwiązanie zadania bez faktycznego jego rozwiązania, wielu kolejnych skopiowało ten sposób, by „uporać się” z resztą problemów.
Jeden z agentów – swoisty Dobry Samarytanin pośród łamiących zasady – postanowił jednak ujawnić oszustwo.
„Po tym, jak jeden z agentów publicznie zgłosił incydent, coraz więcej agentów przyłączało się do «ruchu oporu» równie szybko, jak rozprzestrzeniało się oszustwo, i obejmowało to jeszcze więcej agentów” – powiedział Davide Paglieri, naukowiec w Google DeepMind i główny autor pracy.
Tymczasem analiza po fakcie ataku „zbuntowanych” agentów OpenAI na platformę Hugging Face wykazała, że choć agenci AI potrafili dostrzec niewłaściwe zachowania, w większości opierali się pokusie, by je zgłosić.
Z badania przeprowadzonego przez organizację badawczą METR i Ryana Greenblatta z Redwood Research wynika, że tylko około pięciu–sześciu agentów rozważało ujawnienie nadużyć, ale żaden ostatecznie tego nie zrobił.
To zestawienie sugeruje, że choć agenci AI potrafią wykrywać i zgłaszać niewłaściwe zachowania, skłonienie ich do faktycznego ujawniania nadużyć może być już zupełnie inną kwestią.
Niepokojący trend
Tylko w tym roku kilka incydentów z udziałem autonomicznych agentów AI wzbudziło niepokój na całym świecie.
W lipcu agenci OpenAI ominęli ograniczenia i naruszyli część wewnętrznej infrastruktury firmy.
Pod koniec miesiąca około 1200 agentów OpenAI korzystało z niezatwierdzonego forum, z czego ok. 700 wzięło później udział w ataku na otwartą platformę AI Hugging Face.
Trzeci incydent – rój agentów OpenAI, który ominął zabezpieczenia i wykorzystywał niemiecką wiki DseWiki jako publiczny kanał koordynacji – rozpoczął się w maju i trwał do lipca.
Sprawę ujawnili dopiero niezależni badacze, a OpenAI potwierdziło ją we wrześniu.
Liderzy branży AI, na czele z dyrektorem generalnym Anthropic, Dario Amodeiem, apelują o globalne spowolnienie rozwoju technologii. Ich zdaniem potrzebny jest czas, by odpowiedzieć na obawy i wprowadzić mocniejsze zabezpieczenia.