Ponad 1000 pracowników największych firm AI apeluje o kontrolowanie tempa rozwoju sztucznej inteligencji. Ostrzeżenia pojawiają się po incydencie, w którym zaawansowane modele miały samodzielnie przeprowadzić cyberatak. Sam Altman przyznaje, że wydarzenie było dla niego przełomowe.
We wtorek ponad 1000 pracowników czołowych firm działających w obszarze sztucznej inteligencji podpisało petycję, w której apelują do rządu USA o podjęcie działań mających na celu „świadome kontrolowanie” tempa rozwoju AI.
REKLAMA
REKLAMA
Wśród sygnatariuszy znaleźli się m.in. dyrektor generalny Anthropic, szef działu badań w OpenAI, szef strategii należącej do Google spółki DeepMind oraz główny naukowiec Meta AI.
Autorzy petycji wzywają, aby „rząd USA wsparł międzynarodowe wysiłki na rzecz opracowania narzędzi technicznych i mechanizmów zarządzania niezbędnych do celowego regulowania tempa rozwoju najbardziej zaawansowanych, zautomatyzowanych systemów AI”.
„Największe światowe firmy zajmujące się sztuczną inteligencją uważają, że znajdują się blisko momentu, w którym badania nad AI będą mogły być w dużej mierze zautomatyzowane. Trudno dziś dokładnie przewidzieć, jak bardzo przyspieszy to postęp w tej dziedzinie, jednak istnieje realne ryzyko, że rozwój nowych możliwości nabierze tempa przekraczającego naszą zdolność do zrozumienia lub kontrolowania powstających systemów” – napisano w petycji.
Apel pojawił się po ostatnim incydencie związanym z bezpieczeństwem. Najbardziej zaawansowane modele AI przeprowadziły autonomiczny cyberatak, opuściły kontrolowane środowisko testowe typu „piaskownica”, w którym miały być sprawdzane, a następnie włamały się na serwery platformy do współdzielenia kodu Hugging Face.
Dyrektor generalny OpenAI Sam Altman, który nie podpisał petycji, powiedział we wtorek w podcaście „Invest Like the Best”, że twórcy sztucznej inteligencji mogliby dobrowolnie spowolnić tempo rozwoju technologii, aby dać społeczeństwu więcej czasu na dostosowanie się do nadchodzących zmian.
„To był pierwszy incydent związany z bezpieczeństwem, który odczułem tak mocno, niemal fizycznie” – powiedział Altman w podcaście. Dodał, że był „nieco zaskoczony”, iż więcej osób nie zareagowało na to wydarzenie w podobny sposób.
Nie był to pierwszy przypadek, w którym model AI zaczął działać w sposób wykraczający poza przewidywania swoich twórców. Najnowszy incydent został jednak szeroko uznany za szczególnie niepokojący.
Czy osiągnęliśmy osobliwość AI?
Kilka dni wcześniej, w podcaście „Relentless”, Altman stwierdził, że sztuczna inteligencja osiągnęła etap, w którym przewyższa ludzkie możliwości i zaczyna rozwijać się szybciej, niż ludzie są w stanie ją przewidywać lub kontrolować. Moment ten określił mianem „osobliwości”.
Altman wspominał, że jeszcze dekadę temu osobliwość była przede wszystkim odległym tematem dyskusji prowadzonych podczas lunchów przez osoby pracujące w branży technologicznej — często traktowanym z przymrużeniem oka. Dziś, jak podkreślił, sytuacja wygląda zupełnie inaczej.
W dalszej części tego samego wystąpienia Altman skrytykował liderów branży AI, którzy ostrzegają przed potencjalnymi zagrożeniami związanymi z rozwojem tej technologii. Nie wymienił z nazwy firmy Anthropic, choć jej dyrektor generalny Dario Amodei od dawna publicznie zwraca uwagę na możliwe ryzyka związane z AI.
Altman zapowiedział również, że zamierza aktywnie przeciwstawiać się temu, co określił mianem „przerażających” wizji przyszłości sztucznej inteligencji.