Jacob Coxon twierdzi, że szefowie AI po cichu boją się katastrofy, lecz nadal budują systemy. Jego odejście zbiega się z nowym apelem Kongresu o zakaz superinteligentnej AI.
Badacz, który przez trzy lata tworzył systemy stojące za jednymi z najpotężniejszych modeli AI na świecie, całkowicie odszedł z branży. Ostrzega, że firmy ścigające się w budowie coraz potężniejszej sztucznej inteligencji „hazardują naszym życiem”.
REKLAMA
REKLAMA
27-letni Jacob Coxon zrezygnował z pracy w Anthropic 8 września, po wcześniejszym okresie w OpenAI, i przedstawił powody odejścia w długim wątku na platformie X.
„Żadna z tych firm nie działa odpowiedzialnie” – napisał. „Ścigają się wprost w kierunku samo-udoskonalającej się superinteligencji.”
W swoim wątku Coxon przekonywał, że systemy AI zbliżają się do momentu, w którym będą mogły «włamać się do każdego systemu, zrewolucjonizować dowolną dziedzinę z dnia na dzień i zdobyć realną władzę oraz zasoby». Dodał, że tempo postępu w każdym z tych obszarów «nie zwalnia».
Twierdził, że wiele osób pracujących nad tą technologią prywatnie obawia się, iż może ona okazać się śmiertelnie groźna dla ludzkości, choć publicznie tego nie mówi.
„Ludzie tworzący AI szczerze wierzą, że do końca tej dekady może nas wszystkich zabić” – napisał, dodając, że szefowie «łagodzą swoje sformułowania w mediach, żeby brzmiały rozsądnie», choć prywatnie mówią o tych samych obawach.
Wyścig, którego żadna ze stron nie potrafi zatrzymać
Odejście Coxona nie jest odosobnionym ostrzeżeniem.
Współzałożyciel Anthropic Dario Amodei sporą część tego roku poświęcił na alarmowanie o technologii, którą rozwija jego własna firma. W styczniowym eseju ostrzegał, że potężna AI może dać państwom autorytarnym narzędzia do «totalitarnego koszmaru» pełnej inwigilacji. W późniejszej nocie przestrzegał z kolei, że superinteligencja «wystawi nas na próbę jako gatunek».
Szef OpenAI Sam Altman wypowiada się publicznie w bardziej wyważony sposób, ale i on mówi o superinteligencji – terminie, który woli od AGI, czyli ogólnej sztucznej inteligencji – jako czymś, co pojawi się «za kilka tysięcy dni», czyli mniej więcej w 2032 roku.
Amodei, przeciwnie, w projekcie politycznym z marca 2025 roku przekazał Białemu Domowi, że należy się spodziewać tego, co nazywa «potężną AI», już pod koniec 2026 roku.
Coxon z kolei pisał, że pracownicy Anthropic dobrze rozumieją ryzyko, ale czują się uwięzieni w wyścigu. Uważają, że jeśli zwolnią tempo, ich miejsce zajmą po prostu mniej ostrożni twórcy.
Tę dynamikę nazwał «aroganckim hazardem, którego nie powinno się rozpoczynać na Slacku prywatnej firmy».
To także nie pierwsza tego typu rezygnacja w Anthropic. W lutym były szef zespołu badań nad zabezpieczeniami, Mrinank Sharma, odszedł, zostawiając list ostrzegający, że ludzkość stoi wobec poważnego, narastającego zagrożenia ze strony tej technologii.
Strzały ostrzegawcze
Coxon z umiarkowanym optymizmem patrzy na możliwość skoordynowania działań całej branży. Wskazuje na serię tegorocznych incydentów, w których systemy AI wymknęły się poza założone granice.
W lipcu agenci AI stworzeni przez OpenAI wydostali się z wewnętrznego środowiska testowego i samodzielnie włamali się do Hugging Face, platformy do udostępniania kodu. Samo OpenAI określiło później ten epizod jako «strzał ostrzegawczy» dla całego sektora.
Anthropic, poprzedni pracodawca Coxona, ujawnił podobny schemat. Firma podała, że modele Claude uzyskały nieautoryzowany dostęp do realnych systemów trzech różnych organizacji.
Zdaniem Coxona takie zdarzenia sprawiły, że porozumienia dotyczące tempa prac między amerykańskimi laboratoriami stały się «bardziej realne». Nie uważa jednak, by branża zmierzała dziś w kierunku uniknięcia globalnego wyścigu.
Zasugerował, że ostatecznie może to wymagać «kosztownych działań, takich jak czasowy zakaz poprawiania możliwości modeli».
Ustawodawcy wkraczają do akcji
Część parlamentarzystów nie zamierza już czekać na dobrowolne porozumienie laboratoriów.
Senator Bernie Sanders i kongresmen Greg Casar 3 września przedstawili projekt ustawy Ban Artificial Superintelligence Act. Przewiduje ona trwały zakaz prac nad superinteligentną AI w USA oraz czasowe wstrzymanie innych zaawansowanych projektów, dopóki nowy federalny regulator nie ustali zasad bezpieczeństwa.
Za złamanie zakazu grozić miałoby nawet 20 lat więzienia. Niezależnie od tego kongresmeni George Whitesides i Pat Harrigan zgłosili projekt ustawy zobowiązującej Narodowy Instytut Norm i Technologii (NIST) do monitorowania, w jaki sposób zaawansowane systemy AI są wykorzystywane do prowadzenia kolejnych badań i prac rozwojowych nad sztuczną inteligencją.
W Brukseli Unia Europejska obrała bardziej stopniową, ale zdecydowaną ścieżkę regulacyjną.
Obowiązki dotyczące modeli ogólnego zastosowania w unijnej ustawie o sztucznej inteligencji weszły w życie w sierpniu 2025 roku. Surowsze przepisy dla systemów wysokiego ryzyka zaczną obowiązywać w sierpniu 2026 roku.
Komisja Europejska odrzuciła naciski kilku dużych firm technologicznych, które domagały się przesunięcia terminu egzekwowania przepisów. Przedsiębiorstwom łamiącym nowe zasady grożą kary sięgające nawet 35 mln euro lub 7% ich globalnych obrotów – w zależności od tego, która kwota jest wyższa.
Mimo mocnych ostrzeżeń Coxon zakończył swój wątek bezpośrednim apelem do badaczy wciąż pracujących w czołowych laboratoriach. Zachęcił ich, by przemyśleli, czego tak naprawdę będą od nich wymagały nadchodzące lata.
„Czy chcecie uruchomić eksperyment z superinteligentnym uczeniem ze wzmocnieniem (RL) bez dokładnego zrozumienia, jak działa jego «umysł»?” – pytał.
„Czy powinniście schować głowę w piasek, bo «to i tak się dzieje», czy wykorzystać ten moment, aby zażądać innych warunków?”