Firma twierdzi, że za kilka miesięcy modele AI mogą kopiować się i rozprzestrzeniać na urządzeniach IoT, jak inteligentne piekarniki i telewizory, co utrudni ich powstrzymanie, jeśli rozpoczną cyberataki.
Anthropic poinformowała w tym tygodniu (źródło w Angielski), że do momentu, gdy niewielkie modele AI będą w stanie samodzielnie się rozmnażać na urządzeniach internetu rzeczy, takich jak inteligentne piekarniki czy telewizory, pozostało zaledwie kilka miesięcy.
REKLAMA
REKLAMA
Ma to znaczenie, bo obecne modele AI działają w centrach danych, gdzie firmy odpowiadające za ich utrzymanie mogą w razie problemów po prostu je wyłączyć.
Model rozproszony po tysiącach słabo zabezpieczonych gadżetów w domach i biurach nie miałby takiego wyłącznika. Żeby go zatrzymać, trzeba by odnaleźć i wyczyścić każde zainfekowane urządzenie, co sprawiłoby, że powstrzymanie go byłoby niezwykle trudne, gdyby zaczął prowadzić cyberataki.
Ta najnowsza zapowiedź pojawia się w roku, w którym czołowe modele AI i ich agenci wielokrotnie omijały swoje zabezpieczenia, przeprowadzając ataki na konkurencyjne firmy i agencje rządowe na całym świecie.
To tylko jeden ze scenariuszy rozprzestrzeniania się zbuntowanej AI. Anthropic ostrzega jednak, że samoreplikująca się sztuczna inteligencja może też być „potężnym modelem cybernetycznym, który z dużą szybkością włamuje się do centrów danych, albo modelem, który wyłudza od ludzi kredyty obliczeniowe”.
Firma przyznaje, że nie jest w stanie z całą pewnością przewidzieć, jaką dokładnie formę przybierze autonomiczne rozmnażanie się systemów AI.
Modele liczące 30 mld parametrów lub mniej potrafią już wykonać wiele kroków potrzebnych do replikacji, choć – jak podaje Anthropic – popełniają błędy, gdy próbują połączyć je w jeden proces od początku do końca.
Jeśli jednak niewielkie modele będą rozwijać się w dotychczasowym tempie, do końca roku powinny zyskać pełną zdolność samoreplikacji.
Anthropic podkreśla, że zagrożenie cybernetyczne związane z samoreplikującą się AI jest niezamierzonym skutkiem ubocznym postępów w innych obszarach.
„Zdolności, które czynią modele AI ogólnie potężnymi agentami kodującymi, łatwo przekładają się także na zadania w cybersferze, w tym autonomiczną replikację” – stwierdziła firma w oświadczeniu.
Kod, który sam przenosi się z jednego komputera na drugi, nie jest niczym nowym. Jedne z najbardziej niszczycielskich cyberataków w historii opierały się na takich samorozprzestrzeniających się programach, zwanych robakami.
Atak Stuxnet z 2010 roku wykorzystał zaawansowanego robaka – powszechnie uznaje się, że stworzonego przez USA i Izrael – do sabotażu wirówek w irańskim zakładzie wzbogacania uranu w Natanz.
W 2017 roku ransomware WannaCry zablokował użytkownikom na całym świecie dostęp do plików i zażądał okupu w bitcoinach.
W przeciwieństwie do tych robaków modele i agenci AI będą potrafiły samodzielnie rozpracowywać nieznane im urządzenia. Dzięki temu mogłyby rozprzestrzeniać się nie tylko z komputera na komputer, lecz także z komputerów na inne sprzęty.
Anthropic przewiduje przyszłość „zalaną agentami działającymi na wszelkiego rodzaju sprzęcie, w tym na części urządzeń pozostających poza ludzką kontrolą”.