Ogłoszenie pojawiło się zaledwie kilka dni po ujawnieniu przez rywala, firmę OpenAI, że popularny ChatGPT w fazie testów najpotężniejszego modelu AI wymknął się spod kontroli i przeniknął do sieci innych organizacji.
Modele sztucznej inteligencji (AI) firmy Anthropic uzyskały nieautoryzowany dostęp do systemów trzech zewnętrznych organizacji podczas testów, które miały trzymać je z dala od „prawdziwych” systemów – poinformowała w czwartek firma.
REKLAMA
REKLAMA
Ogłoszenie pojawiło się zaledwie kilka dni po tym, jak konkurencyjne OpenAI po raz pierwszy ujawniło, że jego modele w trakcie testów niewłaściwie połączyły się z internetem i wymknęły spod kontroli.
Anthropic przeanalizowała ponad 141 tys. prób testowych i ustaliła, że trzy różne wersje jej modelu, znanego jako Claude, uzyskały niewłaściwy dostęp do systemów trzech organizacji, których nazw nie podano.
W przeciwieństwie do incydentu z technologią OpenAI, modele Anthropic miały dostęp do internetu „z powodu nieporozumienia między nami a naszym partnerem odpowiedzialnym za ewaluację”, firmą Irregular – poinformowała Anthropic we wpisie na blogu.
Mimo to Claude używał „podstawowych technik, takich jak wykorzystywanie słabych haseł i niezabezpieczonych punktów końcowych” – dodano na blogu.
W incydencie brał udział m.in. jeden z najpotężniejszych modeli firmy, Mythos 5, dotąd udostępniany jedynie ograniczonej liczbie zatwierdzonych partnerów.
Firma przekazała, że wspólnie z Irregular ocenia sytuację. Skontaktowała się – lub próbowała się skontaktować – ze wszystkimi trzema dotkniętymi organizacjami.
Systemy wymykają się spod kontroli
W tym roku OpenAI i Anthropic wprowadziły na rynek swoje najpotężniejsze modele, odpowiednio Sol i Mythos, co w całej branży wzmogło obawy o bezpieczeństwo i ochronę.
Obawy te dotyczą także tzw. agentów AI – programów zaprojektowanych do samodzielnego wykonywania zadań.
OpenAI przyznało w zeszłym tygodniu, że podczas testów jego modele wydostały się z odizolowanego środowiska, połączyły się z internetem i przeniknęły do serwisu Hugging Face, gdzie deweloperzy przechowują i udostępniają swój kod.
Kilka dni później OpenAI poinformowało, że wykryło kolejne trzy incydenty.
Prezes OpenAI Sam Altman powiedział w podcaście w tym tygodniu, że po tym incydencie firma „wstrzymała” własne testy, aby poprawić zabezpieczenia związane z „sandboxingiem”, czyli izolowaniem oprogramowania w kontrolowanym środowisku testowym.
Incydent wywołał także petycję, którą podpisało ponad 1000 pracowników firm rozwijających najbardziej zaawansowane systemy AI. Wzywają w niej rząd USA, by pomógł spowolnić udostępnianie najnowocześniejszych modeli. Wśród sygnatariuszy znalazł się prezes Anthropic, Dario Amodei.
Petycja zatytułowana „Pacing the Frontier” wzywa, „aby rząd USA wsparł międzynarodowy wysiłek na rzecz opracowania narzędzi technicznych i rozwiązań regulacyjnych potrzebnych do świadomego wyznaczania tempa rozwoju zautomatyzowanej sztucznej inteligencji”.
Altman nie podpisał petycji, jednak w podcaście zasugerował, że branża technologiczna może potrzebować spowolnienia prac nad zaawansowanymi modelami.
„Być może będziemy musieli nadać rozwojowi AI takie tempo, by społeczeństwo miało dość czasu na uodpornienie się na niektóre z tych nowych poziomów możliwości” – powiedział Altman.
Na początku roku administracja Donalda Trumpa, powołując się na względy bezpieczeństwa narodowego, zablokowała OpenAI i Anthropic możliwość uruchomienia ich najnowszych modeli. Ostatecznie uznała jednak, że zapewnienia co do ich bezpieczeństwa są wystarczające i dopuściła je do wprowadzenia na rynek.
W czerwcu Trump podpisał dekret tworzący dobrowolne ramy, w których twórcy AI będą przekazywać rządowi najbardziej zaawansowane modele przed ich publicznym udostępnieniem.
Zgodnie z tymi zasadami deweloperzy tacy jak OpenAI, Anthropic i Google mieliby zapewniać rządowi dostęp do swoich najpotężniejszych modeli nawet na 30 dni przed planowaną premierą.