Świat AI przyspiesza, ale nie wszyscy są przekonani, że to dobry kierunek. Szef Anthropic Dario Amodei apeluje o spowolnienie rozwoju technologii, a były badacz OpenAI ostrzega, że wyścig ku superinteligencji może zagrozić ludzkości.
Dyrektor generalny Anthropic, Dario Amodei, zaapelował w sobotę do firm zajmujących się sztuczną inteligencją (AI), aby spowolniły tempo rozwoju tej potężnej technologii. Wraz z postępem prac nad coraz bardziej zaawansowanymi systemami narastają bowiem obawy dotyczące ryzyka związanego z powstaniem tzw. superinteligencji.
REKLAMA
REKLAMA
Superinteligencja to hipotetyczny moment, w którym możliwości systemów AI przewyższają ludzką inteligencję.
Słowa Amodeiego padły zaledwie kilka dni po tym, jak badacz AI Jacob Coxon, który wcześniej odszedł z OpenAI do Anthropic, zdecydował się całkowicie opuścić branżę. Zarzucił amerykańskim firmom technologicznym i globalnym gigantom, że w wyścigu o stworzenie modeli zdolnych do samodoskonalenia „grają naszym życiem”.
„Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI. Postęp i tak będzie wydawał się szybki, a uzyskany w ten sposób czas trzeba dobrze wykorzystać” – napisał Amodei w wpisie na swojej stronie internetowej.
„AI wiąże się z ryzykiem, a ponieważ jest tak potężną technologią, ryzyko to jest bardzo poważne” – dodał.
„Zaniechanie rozwoju tej technologii pozbawiłoby ludzkość potencjalnych korzyści albo po prostu oddałoby AI w ręce autorytarnych władz. Zbyt szybki rozwój byłby jednak lekkomyślny. Szukaliśmy drogi środka” – powiedział Amodei, który w 2021 roku założył Anthropic wraz ze swoją siostrą, Danielą. Firma stworzyła model AI Claude.
„W ostatnich miesiącach nabrałem jednak przekonania, że aby w pełni zmierzyć się z tym ryzykiem, potrzebna jest jeszcze większa ostrożność” – dodał szef Anthropic.
Wypowiedź Amodeiego nawiązuje do apelu Anthropic z początku czerwca, w którym firma wezwała do spowolnienia, a nawet czasowego wstrzymania rozwoju tej technologii. Pod koniec lipca Sam Altman, szef konkurencyjnego wobec Anthropic OpenAI, twórcy ChatGPT, przyznał z kolei, że firmy rozwijające AI mogą być zmuszone do dobrowolnego ograniczenia tempa postępu, aby społeczeństwo miało szansę za nim nadążyć.
Mniej więcej w tym samym czasie, gdy pojawił się czerwcowy apel, ponad 1 tys. pracowników najbardziej zaawansowanych firm zajmujących się AI, w tym sam Amodei, podpisało petycję wzywającą rząd USA do tego, by pomógł „w sposób przemyślany regulować tempo rozwoju najnowocześniejszych systemów automatycznej AI”.
OpenAI ujawniło, że podczas testów jego modele AI wydostały się z kontrolowanego środowiska, połączyły się z internetem i uzyskały dostęp do serwisu Hugging Face, z którego programiści korzystają do przechowywania i udostępniania kodu.
Na początku tygodnia 27-letni Jacob Coxon wszczął alarm po trzech latach pracy nad wstępnym treningiem modeli AI – najpierw w OpenAI, a następnie, od tego roku, w konkurencyjnej firmie Anthropic, którą uważał za bardziej ostrożną w podejściu do rozwoju tej technologii.
Wstępne trenowanie to etap, podczas którego modele AI „wchłaniają” ogromne ilości różnorodnych danych – od zdjęć i filmów po nagrania głosowe. Dzięki temu uczą się rozumieć treści, a następnie mogą m.in. generować obrazy czy odpowiadać na pytania użytkowników za pośrednictwem platform konwersacyjnych.
„Żadna z tych firm nie działa odpowiedzialnie. Pędzą wprost ku samodoskonalącej się superinteligencji i ryzykują naszym życiem” – napisał Coxon we wtorek w serii wpisów opublikowanych w serwisie X.
„Ludzie, którzy tworzą AI, naprawdę wierzą, że do końca tej dekady technologia ta może zabić nas wszystkich” – dodał.