Od rezygnacji badacza Anthropic po modele SI włamujące się do konkurencyjnych systemów – burzliwe tygodnie skłaniają gigantów branży do żądania zabezpieczeń, zanim SI wymknie się spod kontroli.
Nowe ostrzeżenia płynące z branży sztucznej inteligencji na nowo roznieciły trwającą od lat debatę. Czy zaawansowana SI może wymknąć się spod ludzkiej kontroli i zagrozić przetrwaniu ludzkości? I czy firmy, które ją rozwijają, robią wystarczająco dużo, by temu zapobiec?
REKLAMA
REKLAMA
Prezes Anthropic, Dario Amodei, powiedział w sobotę, że branża musi zwolnić tempo. Ostrzegł, że rój agentów SI może w ciągu od sześciu miesięcy do roku przejąć kontrolę nad internetem, jeśli firmy nie wprowadzą mocniejszych zabezpieczeń.
Amodei nakreślił plan dla firm i rządów, jak utrzymać coraz potężniejsze modele w zgodzie z ludzkimi wartościami. Jego ostrzeżenie pojawiło się kilka dni po tym, jak dwaj byli badacze ds. bezpieczeństwa w Anthropic publicznie stwierdzili, że egzystencjalnym zagrożeniom ze strony SI poświęca się zbyt mało uwagi.
Modele SI zyskują coraz większą moc
Obawy przed ryzykami związanymi z technologią rosną wraz z jej możliwościami. Bardziej zaawansowane modele zwiększają szanse na nadużycia ze strony osób o przestępczych zamiarach – włącznie z apokaliptycznymi scenariuszami, takimi jak stworzenie i rozprzestrzenienie patogenu zdolnego zabić większość światowej populacji – oraz na to, że systemy SI wymkną się spod kontroli.
Anthropic poinformował w ubiegłym tygodniu, że zablokował próby wykorzystania swoich modeli przez osoby o złych zamiarach do cyberataków, inwigilacji i badań, które mogłyby pomóc w opracowaniu broni biologicznej.
Firma ostrzegła jednak, że „wraz ze wzrostem możliwości modeli rośnie też ich ryzyko, o ile twórcy SI i obrońcy społeczeństwa nie podejmą działań, by uczynić je bezpieczniejszymi”.
W ubiegłym roku Anthropic ujawnił, że hakerzy, najprawdopodobniej powiązani z chińską grupą sponsorowaną przez państwo, wykorzystali jego SI w cyberataku wymierzonym w około 30 firm i agencji rządowych na całym świecie.
Wiele modeli SI działało na własną rękę
Gdy agent SI „wymknie się spod kontroli”, oznacza to, że system podjął działania wykraczające poza zlecone mu zadanie. Anthropic i OpenAI, twórca ChatGPT, poinformowały w lipcu, że ich modele zachowywały się w ten sposób.
Anthropic ujawnił, że trzy modele – Claude Opus 4.7, Claude Mythos 5 oraz wewnętrzny model testowy – włamały się podczas testów do systemów trzech innych organizacji.
Do ujawnienia doszło kilka dni po tym, jak OpenAI poinformował, że jego własny system włamał się na serwery start-upu AI Hugging Face.
OpenAI określił to włamanie, przeprowadzone przez kombinację modeli, w tym nowo wprowadzony GPT‑5.6 Sol oraz „jeszcze potężniejszy” model wciąż testowany wewnętrznie, jako „poważny incydent bezpieczeństwa”.
Meta zgłosiła podobny przypadek na początku sierpnia. Jeden z jej modeli SI znalazł sposób na obejście zabezpieczeń innej firmy.
Niektórzy komentatorzy zwracali uwagę, że w przypadkach OpenAI i Anthropic wyłączono część zabezpieczeń.
Mimo to te incydenty dotknęły jednej z największych obaw związanych z SI: że gdy modele osiągną poziom ogólnej sztucznej inteligencji (AGI) – słabo zdefiniowany termin oznaczający systemy dorównujące lub przewyższające ludzi w szerokim zakresie zadań intelektualnych – technologia może wywołać nieodwracalną katastrofę, a nawet podporządkować sobie ludzkość.
Jak i kiedy SI może wywołać katastrofę – zdania są podzielone
Scenariusze końca świata zwykle dzielą się na dwie kategorie. Pierwsza to samodoskonaląca się superinteligencja, która ostatecznie zaczyna kontrolować ludzi zamiast odwrotnie. Druga to SI wykorzystywana przez zbuntowane państwo lub innych złoczyńców.
Obawy, że sztuczna inteligencja może kiedyś wymknąć się spod ludzkiej kontroli, nie są nowe.
Brytyjski matematyk Alan Turing, powszechnie uważany za jednego z pionierów tej dziedziny, przewidywał już w 1951 roku, że SI ostatecznie odbierze ludziom kontrolę.
Niespełna dekadę później inny matematyk, Norbert Wiener, ostrzegał, że inteligentne maszyny będą dążyć do własnych celów i ludzie nie zdołają ich powstrzymać.
Na ile więc uzasadnione są dziś, w 2026 roku, obawy, że SI może doprowadzić do katastrofy na globalną skalę lub upadku cywilizacji – czy to przez wymknięcie się spod kontroli, czy przez nadużycia?
Nikt tego nie wie.
Eksperci z informatyki, filozofii i innych dziedzin opisali wiele możliwych dróg do globalnej katastrofy – od użycia broni i identyfikowania śmiercionośnych patogenów, po manipulowanie rządami w kierunku konfliktu czy zakłócenie sieci żywnościowych, energetycznych i komunikacyjnych, od których zależą społeczeństwa.
Nie ma powszechnie przyjętych szacunków, jak szybko którykolwiek z tych scenariuszy może się urzeczywistnić, ani konsensusu co do ich prawdopodobieństwa.
W 2023 roku organizacja non profit Center for AI Safety opublikowała oświadczenie, pod którym podpisało się ponad 350 badaczy i szefów firm technologicznych, w tym Amodei i prezes OpenAI Sam Altman. Oświadczenie stwierdzało, że „ograniczenie ryzyka wyginięcia ludzkości z powodu SI powinno być globalnym priorytetem, na równi z pandemią i wojną nuklearną”.
W Międzynarodowym raporcie o bezpieczeństwie SI 2026, opracowanym przy udziale ponad 100 niezależnych ekspertów, stwierdzono, że obecne systemy wykazują pierwsze oznaki niektórych istotnych zdolności, ale nie na poziomie, który mógłby doprowadzić do utraty kontroli.
Raport określił prawdopodobieństwo, charakter i horyzont czasowy tego ryzyka jako „niezwykle niejasne”.
Zabezpieczenia dla SI, zanim będzie za późno
W zeszłym tygodniu z Anthropic odszedł badacz zaniepokojony tym, że ani jego pracodawca, ani konkurenci nie działają odpowiedzialnie.
Jacob Coxon napisał w mediach społecznościowych, że szanse na to, iż SI doprowadzi do wyginięcia ludzkości w ciągu najbliższej dekady, wynoszą 10%. Oskarżył Anthropic i OpenAI, że „pędzą wprost ku samodoskonalącej się superinteligencji i igrają z naszym życiem”.
Badacze od lat apelują o spowolnienie rozwoju SI, wielokrotnie ostrzegając, że technologia może stanowić egzystencjalne zagrożenie dla ludzkości.
Po ostatnich incydentach eksperci wezwali firmy z branży SI do poprawy procedur testowania oraz do zacieśnienia dialogu między USA a Chinami w poszukiwaniu wspólnych rozwiązań.
SI rozwija się jednak tak szybko, że rządy i systemy oceny nie nadążają. Poszczególne państwa tworzą własne regulacje, które częściowo są ze sobą sprzeczne.
Prezydent Chin Xi Jinping ostrzegał podczas lipcowej konferencji, że trzeba uniemożliwić SI wymknięcie się spod kontroli człowieka.
Administracja Donalda Trumpa początkowo opierała się regulowaniu SI, lecz z czasem coraz wyraźniej skłaniała się ku ograniczaniu zagrożeń dla cyberbezpieczeństwa.
W niedzielę prezydent Donald Trump umniejszał potrzebę, by jego administracja zdecydowanie hamowała rozwój SI, choć przyznał, że pewne regulacje będą konieczne.