Czołowi twórcy AI ostrzegają, że rozwój powinien zwolnić, bo rośnie presja, by stawiać bezpieczeństwo ponad zyski. Komentarze obciążyły w poniedziałek akcje firm technologicznych.
Akcje japońskiego konglomeratu inwestycyjnego SoftBank Group, jednego z głównych inwestorów OpenAI, spadły w poniedziałek o ponad 10 proc., podobnie jak inne walory technologiczne. Stało się tak po tym, jak szefowie kilku czołowych firm zajmujących się sztuczną inteligencją poparli apele, by „ostrożność stawiać ponad szybkość, a rozwagę ponad zysk”.
REKLAMA
REKLAMA
To sformułowanie padło z ust dyrektora generalnego Anthropic, Daria Amodeia, który w sobotę wezwał firmy AI, by „uspokoiły wyścig” poprzez skoordynowane spowolnienie prac nad najbardziej zaawansowanymi modelami. Ma to dać więcej czasu na zrozumienie i opanowanie związanych z nimi zagrożeń.
Wśród jego najpoważniejszych obaw jest tak zwane „rekurencyjne samodoskonalenie”, czyli sytuacja, w której systemy AI pomagają tworzyć kolejną generację modeli sztucznej inteligencji.
„Jeśli pozostawimy ten proces bez nadzoru, może wyprzedzić nasze możliwości zrozumienia i kontrolowania takich systemów. Dlatego trzeba go rozwijać niezwykle ostrożnie – o ile w ogóle” – napisał Amodei.
Dyrektor generalny OpenAI Sam Altman oraz szef xAI Elon Musk publicznie poparli jego ostrzeżenia, a Musk stwierdził: „Dario ma rację”.
Altman powiedział też w wywiadzie dla magazynu „Fortune”, opublikowanym w sobotę, że OpenAI w tym roku nie będzie wchodzić na giełdę, ponieważ spółka koncentruje się na bezpieczeństwie.
OpenAI i Anthropic pozostają firmami prywatnymi. Według doniesień Anthropic przygotowuje się jednak do możliwego debiutu giełdowego w najbliższych miesiącach.
Te wypowiedzi pojawiły się po rezygnacji badacza Anthropic Jacoba Coxona, który ostrzegał, że technologia może wymknąć się spod ludzkiej kontroli.
Evan Hubinger, inny badacz Anthropic, który nadal pracuje w firmie, napisał następnie: „Naprawdę szczerze wierzymy, że AI może zabić wszystkich ludzi!”. Ocenił, że prawdopodobieństwo takiego scenariusza w ciągu najbliższej dekady przekracza 10 proc.
Prezydent USA Donald Trump odrzucił w niedzielę te ostrzeżenia, nazywając krytyków AI „bardzo negatywnymi siłami” i zapewniając, że opisywane przez nich scenariusze się nie spełnią. Przewodniczący Izby Reprezentantów Mike Johnson również apelował, by nie wpadać w panikę.
Mimo to inwestorzy w poniedziałek wyprzedawali akcje spółek technologicznych.
Spadek notowań SoftBanku „prawdopodobnie odzwierciedla obawę, że rozwój AI może zostać spowolniony przez regulatorów, którzy będą chcieli zapobiec najgorszym scenariuszom, o jakich mówią Anthropic i OpenAI” – ocenił Dan Baker z firmy analitycznej Morningstar.
„A być może pokazuje też obawy, że kolejne przypadki utraty kontroli nad nowymi modelami AI mogłyby dodatkowo spowolnić rozwój tej technologii” – dodał.
Taniały także inne powiązane z AI spółki w Azji. Południowokoreański producent pamięci SK Hynix stracił 5,3 proc., a akcje Samsung Electronics spadły o 2,8 proc. Japoński producent sprzętu do wytwarzania układów scalonych Tokyo Electron zniżkował o 0,9 proc., natomiast producent pamięci Kioxia Holdings stracił 6 proc.
Wyścig z Chinami
Amodei wezwał też do zaostrzenia ograniczeń dotyczących dostępu Chin do zaawansowanych układów dla AI oraz sprzętu do produkcji półprzewodników. Jego zdaniem to właśnie dostęp do takich chipów w dużej mierze przesądzi o możliwościach kraju w dziedzinie sztucznej inteligencji.
Przyznał jednak w rozmowie z CBS News, że „najtrudniejszy dylemat” polega na tym, iż Chiny mogą nie przystąpić do skoordynowanego spowolnienia.
Kontrolowany przez państwo dziennik „Global Times” określił jego stanowisko jako „krótkowzroczne” i oskarżył go o próbę ograniczania rozwoju Chin poprzez wywołanie „zimnej wojny w dziedzinie AI”. Tymczasem prezydent Chin Xi Jinping zaproponował strefę open source AI państw BRICS, która miałaby pogłębić współpracę nad modelami sztucznej inteligencji i ich szkoleniem.