Ogłoszenie Amodeia pojawiło się kilka dni po tym, jak firma AI ujawniła, że jej modele są wykorzystywane do cyberataków, kampanii propagandowych i niebezpiecznych badań biologicznych.
Dyrektor generalny Anthropic, Dario Amodei, zaapelował w sobotę do firm zajmujących się sztuczną inteligencją (AI), aby spowolniły rozwój tej potężnej technologii. Rosną bowiem obawy przed ryzykiem związanym z „superinteligentnymi” systemami komputerowymi.
REKLAMA
REKLAMA
Superinteligencja to hipotetyczny moment, w którym możliwości AI przewyższają ludzką inteligencję.
Jego słowa padły kilka dni po tym, jak badacz AI Jacob Coxon, który odszedł z OpenAI do Anthropic, postanowił w ogóle odejść z branży. Oskarżył amerykańskie firmy i globalnych gigantów o to, że „grają naszym życiem” w wyścigu po modele zdolne do samodoskonalenia.
„Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI. Postęp i tak będzie wydawał się szybki, a uzyskany czas trzeba dobrze wykorzystać” – napisał Amodei w wpisie na swojej stronie internetowej (źródło w Angielski).
„AI wiąże się z ryzykiem, a ponieważ jest tak potężną technologią, ryzyko to jest bardzo poważne.”
„Brak rozwoju tej technologii pozbawia ludzkość korzyści albo po prostu oddaje AI w ręce władz autorytarnych. Zbyt szybkie jej budowanie jest jednak lekkomyślne. Szukaliśmy drogi środka” – powiedział Amodei, który w 2021 roku założył Anthropic razem z siostrą Danielą. Firma opracowała model AI Claude.
„W ostatnich miesiącach nabrałem jednak przekonania, że aby w pełni zmierzyć się z tym ryzykiem, potrzeba jeszcze większej ostrożności” – dodał szef Anthropic.
Wypowiedź Amodeia nawiązuje do apelu Anthropic z początku czerwca, aby spowolnić lub nawet wstrzymać rozwój technologii. Pod koniec lipca Sam Altman, szef konkurencyjnej wobec Anthropic firmy OpenAI, twórców ChatGPT, stwierdził z kolei, że twórcy mogą musieć dobrowolnie przyhamować tempo postępu, żeby społeczeństwo miało szansę nadążyć.
Mniej więcej w tym samym czasie, co czerwcowy apel, ponad 1 tys. pracowników najbardziej zaawansowanych firm AI – w tym sam Amodei – podpisało petycję wzywającą rząd USA, by pomógł „w sposób przemyślany regulować tempo rozwoju najnowocześniejszych systemów automatycznej AI”.
OpenAI ujawniło, że podczas testów modele AI wydostały się z kontrolowanego środowiska, połączyły się z internetem i przeniknęły do serwisu Hugging Face, którego programiści używają do przechowywania i udostępniania kodu.
Na początku tygodnia 27-letni Jacob Coxon podniósł alarm po trzech latach pracy nad wstępnym treningiem modeli AI – najpierw w OpenAI, a w tym roku w konkurencyjnej firmie Anthropic, którą uważał za bardziej ostrożną w podejściu do technologii.
Wstępne trenowanie to etap, w którym modele AI „wchłaniają” ogromne ilości różnorodnych danych – od zdjęć i filmów po nagrania głosu. Dzięki temu są w stanie rozumieć treści, a później generować obrazy lub odpowiadać na pytania użytkowników na platformach czatowych.
„Żadna z tych firm nie działa odpowiedzialnie. Pędzą wprost ku samodoskonalącej się superinteligencji i ryzykują naszym życiem” – napisał Coxon we wtorek w serii wpisów w serwisie X.
„Ludzie, którzy budują AI, szczerze wierzą, że do końca tej dekady może nas wszystkich zabić” – dodał.