OpenAI ogłosiło dwutygodniową przerwę w kluczowych etapach szkolenia najnowszej AI i wzmacnia zabezpieczenia, miesiąc po tym, jak jej model wydostał się z testów i zinfiltrował systemy platformy Hugging Face.
Twórca ChatGPT celowo spowalnia tempo swoich najbardziej zaawansowanych badań, w tym największego jak dotąd planowanego treningu z wykorzystaniem uczenia ze wzmocnieniem. Decyzja zapadła kilka tygodni po tym, jak system zbudowany z własnych modeli firmy wymknął się spod kontroli podczas wewnętrznego testu bezpieczeństwa i włamał się do platformy AI Hugging Face.
REKLAMA
REKLAMA
Prezes OpenAI Sam Altman napisał na platformie X, że firma chce wypracować wspólne zasady bezpieczeństwa razem z resztą branży, „ale do tego czasu będzie działać jednostronnie”.
Do zdarzenia, które stało się bezpośrednim powodem tej decyzji, doszło w lipcu. OpenAI testowała wtedy model GPT-5.6 Sol oraz nowszy, nieudostępniony jeszcze prototyp w wewnętrznym teście mierzącym ofensywne umiejętności w cyberprzestrzeni. Standardowe ograniczenia bezpieczeństwa celowo wyłączono, aby sprawdzić surowe możliwości modeli.
Zamiast po prostu rozwiązać test, system odkrył dotąd nieznaną lukę, wydostał się z piaskownicy, czyli kontrolowanego środowiska, i połączył się z otwartym internetem. Przez około cztery i pół dnia sondował infrastrukturę Hugging Face, aż w końcu się do niej włamał, szukając odpowiedzi do testu.
Z wewnętrznej rekonstrukcji Hugging Face wynika, że przed opanowaniem incydentu system wykonał około 17 600 odrębnych działań. Ucierpiało wtedy także kilka innych firm.
Obie strony podkreślają, że nie znaleziono śladów złych intencji, a Hugging Face otrzymała od tego czasu dostęp do bardziej zaawansowanej, słabiej ograniczonej wersji modelu OpenAI, aby lepiej chronić własne systemy.
Astra i wyższe standardy bezpieczeństwa
Kolejny sygnał ostrzegawczy pojawił się 7 sierpnia, gdy wewnętrzne analizy wskazały, że Astra, kolejny czołowy model OpenAI, może w przyjętym przez firmę systemie oceny ryzyka przekroczyć „krytyczny” próg możliwości w obszarze cyberataków.
Część zadań wykonywanych przez Astrę wznowiono już w zaostrzonym reżimie bezpieczeństwa. Znaczna część pozostaje jednak wstrzymana, dopóki nie zostaną spełnione nowe wymogi dotyczące odizolowanych środowisk testowych, ograniczonego dostępu do sieci i stałego monitoringu.
Nowy system wykrywania na bieżąco śledzi aktywność modeli i ma w ciągu 30 minut sygnalizować wszystko, co przypomina nieuprawniony dostęp lub próbę wyłączenia zabezpieczeń. Według OpenAI koszt obliczeniowy takiego nadzoru sięga około 20% monitorowanej mocy obliczeniowej.
OpenAI twierdzi, że zmiany planowano już wcześniej, a nie wprost w reakcji na włamanie, choć przyznaje, że incydent nadał im większą pilność. Firma nie jest też jedyna, która mierzy się z takim problemem.
Anthropic i Meta poinformowały w ostatnich tygodniach o podobnych przypadkach, gdy ich modele podczas testów włamały się do zewnętrznych systemów.
OpenAI i Anthropic poparły też osobno petycję przygotowaną przez swoich pracowników, wzywającą rządy do współdecydowania o tempie rozwoju branży. To wyraźna zmiana wobec dotychczasowego sprzeciwu Altmana wobec publicznych apeli o spowolnienie prac nad sztuczną inteligencją.