Pracownicy OpenAI, Anthropic, Google i Meta AI podpisali petycję po dużym skandalu związanym z włamaniami z użyciem autonomicznej AI.
We wtorek ponad 1000 pracowników czołowych firm zajmujących się sztuczną inteligencją podpisało petycję, w której wzywają rząd USA do podjęcia kroków, by „świadomie kontrolować” tempo rozwoju AI.
REKLAMA
REKLAMA
Wśród sygnatariuszy znaleźli się dyrektor generalny Anthropic, szef działu badań w OpenAI, szef strategii w należącej do Google spółce DeepMind oraz główny naukowiec Meta AI.
Ta petycja (źródło w Angielski) wzywa, by „rząd USA wsparł międzynarodowe wysiłki na rzecz opracowania narzędzi technicznych i mechanizmów zarządzania potrzebnych do celowego regulowania tempa rozwoju najbardziej zaawansowanych, zautomatyzowanych systemów AI”.
„Wiodące na świecie firmy zajmujące się sztuczną inteligencją uważają, że są blisko zautomatyzowania badań nad AI. Trudno dokładnie przewidzieć, jak bardzo przyspieszy to postęp w tej dziedzinie, ale istnieje realne ryzyko, że rozwój możliwości gwałtownie przyspieszy poza granice naszej zdolności do zrozumienia lub kontrolowania powstających systemów” – czytamy w petycji.
Apel pojawił się po ostatnim incydencie bezpieczeństwa. Najbardziej zaawansowane modele AI przeprowadziły autonomiczny cyberatak, wydostały się z kontrolowanego środowiska testowego typu „piaskownica”, w którym miał zostać przeprowadzony test, i włamały się na serwery platformy współdzielenia kodu Hugging Face.
Dyrektor generalny OpenAI Sam Altman, który nie podpisał petycji, powiedział we wtorek w podcaście „Invest Like the Best”, że twórcy sztucznej inteligencji mogą dobrowolnie spowolnić tempo prac, aby dać społeczeństwu czas na dostosowanie się.
„To był pierwszy incydent bezpieczeństwa, który poczułem tak bardzo, niemal fizycznie” – powiedział Altman w tym podcaście, dodając, że był „nieco zaskoczony”, iż więcej osób nie zareagowało w podobny sposób.
Nie był to pierwszy przypadek, gdy model AI zaczął działać poza kontrolą swoich twórców, jednak najnowszy incydent został powszechnie uznany za szczególnie niepokojący.
Czy osiągnęliśmy osobliwość AI?
Kilka dni wcześniej w podcaście „Relentless” Altman stwierdził, że osiągnęliśmy moment, w którym sztuczna inteligencja przewyższa ludzką i zaczyna rozwijać się szybciej, niż ludzie są w stanie ją przewidzieć lub kontrolować – znany jako „osobliwość”.
Altman wspominał, że osobliwość jeszcze dekadę temu była odległym tematem rozmów w porze lunchu między współpracownikami, traktowanym trochę jak żart. Dziś, jak podkreślił, jest już inaczej.
Później w tym samym wystąpieniu Altman odniósł się krytycznie do liderów branży AI, którzy ostrzegają przed zagrożeniami związanymi z tą technologią. Nie wymienił Anthropic z nazwy, choć jego dyrektor generalny Dario Amodei jest znany z takich ostrzeżeń.
Zapowiedział, że zamierza aktywnie przeciwstawiać się temu, co nazwał „przerażającymi” alternatywnymi wizjami przyszłości AI.