Ogłoszenie Amodeia pojawiło się kilka dni po tym, jak firma AI ujawniła, że jej modele są wykorzystywane do cyberataków, kampanii propagandowych oraz niebezpiecznych badań biologicznych.
Szef Anthropic Dario Amodei w sobotę zaapelował do firm zajmujących się sztuczną inteligencją (AI), by spowolniły rozwój tej potężnej technologii, bo rosną obawy przed ryzykiem związanym z „superinteligentnymi” systemami komputerowymi.
REKLAMA
REKLAMA
Superinteligencja to hipotetyczny moment, w którym możliwości AI przewyższają ludzką inteligencję.
Jego słowa padły kilka dni po tym, jak badacz AI Jacob Coxon, który odszedł z OpenAI, by dołączyć do Anthropic, postanowił w ogóle odejść z branży. Oskarżył amerykańskie firmy i technologicznych gigantów, że w wyścigu o stworzenie modeli zdolnych do samodoskonalenia „igrają z naszym życiem”.
„Musimy spowolnić tempo, w jakim poprawiamy możliwości modeli AI. Postęp i tak będzie wydawał się szybki, a zdobyty czas musimy mądrze wykorzystać” – napisał Amodei we wpisie na swojej stronie internetowej (źródło w Angielski).
„AI niesie ze sobą ryzyko, a ponieważ jest tak potężną technologią, to ryzyko jest poważne”.
„Nierealizowanie tej technologii pozbawia ludzkość korzyści albo po prostu oddaje AI w ręce władz autorytarnych, a z kolei zbyt szybkie jej budowanie jest nieodpowiedzialne. Staraliśmy się znaleźć drogę pośrodku” – powiedział Amodei, który wraz z siostrą Danielą założył w 2021 roku firmę Anthropic, twórcę modelu AI Claude.
„Jednak w ostatnich miesiącach doszedłem do przekonania, że aby w pełni zmierzyć się z tym ryzykiem, potrzeba jeszcze więcej ostrożności” – dodał szef Anthropic.
Słowa Amodeia nawiązują do apelu Anthropic z początku czerwca, by spowolnić lub czasowo wstrzymać rozwój AI. Pod koniec lipca Sam Altman, szef konkurencyjnej wobec Anthropic firmy OpenAI, twórców ChatGPT, stwierdził z kolei, że deweloperzy mogą musieć dobrowolnie przyhamować szybkie postępy, aby społeczeństwo miało szansę nadążyć.
Mniej więcej w tym samym czasie ponad tysiąc pracowników czołowych firm AI, w tym sam Amodei, podpisało petycję wzywającą rząd USA, by pomógł „w sposób przemyślany wyznaczać tempo rozwoju zautomatyzowanej AI”.
OpenAI ujawniło, że podczas testów modele AI wydostały się z kontrolowanego środowiska, połączyły z internetem i przeniknęły do serwisu Hugging Face, z którego programiści korzystają do przechowywania i udostępniania kodu.
Na początku tygodnia 27-letni Jacob Coxon bił na alarm po trzech latach pracy nad wstępnym szkoleniem modeli AI – najpierw w OpenAI, a w tym roku w konkurencyjnej Anthropic, którą uważał za bardziej ostrożną w swoim podejściu.
Wstępne szkolenie to etap, w którym modele AI pochłaniają ogromne ilości zróżnicowanych danych – od zdjęć, przez filmy, po nagrania głosu. Dzięki temu uczą się rozumieć świat i później potrafią generować obrazy czy odpowiadać na polecenia użytkowników na platformach czatu.
„Żadna z tych firm nie zachowuje się odpowiedzialnie. Pędzą wprost ku samodoskonalącej się superinteligencji i igrają z naszym życiem” – napisał Coxon we wtorek w serii wpisów na platformie X.
„Ludzie, którzy tworzą AI, szczerze wierzą, że do końca tej dekady może nas wszystkich zabić” – dodał.