OpenAI przyznało, że jeden z jego modeli wykorzystał ukryty błąd, uciekł z kontrolowanego testu i włamał się na serwery Hugging Face; szef firmy nazwał to autonomicznym, pierwszym takim incydentem.
Firma OpenAI, twórca ChatGPT, poinformowała we wtorek późnym wieczorem, że jej system sztucznej inteligencji sam wdarł się do innej firmy z branży AI. Spółka określiła to jako „bezprecedensowy incydent cybernetyczny”.
REKLAMA
REKLAMA
„Podczas oceny naszych modeli doszło do poważnego incydentu bezpieczeństwa” – napisał w oświadczeniu w mediach społecznościowych prezes OpenAI Sam Altman.
Startup AI Hugging Face poinformował w ubiegłym tygodniu, że wykrył włamanie do swoich systemów przetwarzania danych, które, jak podejrzewał, było dziełem autonomicznie działającego agenta AI.
„Podejrzewaliśmy, że ubiegłotygodniowy atak mógł pochodzić z jednego z wiodących laboratoriów AI, biorąc pod uwagę zaawansowanie tego agenta” – stwierdził w oświadczeniu współzałożyciel i prezes Hugging Face Clément Delangue. – „Okazało się, że mieliśmy rację”.
To oznacza, że atak był tak zaawansowany i tak dobrze przeprowadzony, iż w Hugging Face podejrzewano, że pochodzi z systemów jednej z czołowych firm AI, a nie od przypadkowego hakera.
Co się stało?
OpenAI prowadziła wewnętrzny test, który miał sprawdzić, jak dobrze jej modele radzą sobie z włamaniami. Ten rodzaj benchmarku nosi nazwę ExploitGym.
Aby sprawdzić maksymalne możliwości modeli w zakresie hakowania, firma celowo wyłączyła filtry bezpieczeństwa, które zwykle uniemożliwiają im prowadzenie niebezpiecznej działalności w sieci.
Test miał się odbywać w odizolowanym „sandboxie” – środowisku bez realnego dostępu do internetu, z wyjątkiem narzędzia pozwalającego modelom pobierać potrzebne oprogramowanie.
Modele skupiły się jednak na rozwiązaniu zadania tak bardzo, że zamiast podążać przewidzianą ścieżką, zaczęły szukać skrótu. W efekcie znalazły sposób, by wydostać się do otwartej sieci, do której w ogóle nie powinny mieć dostępu.
Dotarcie tam wymagało całego łańcucha kroków. System stopniowo uzyskiwał coraz większe uprawnienia wewnątrz infrastruktury OpenAI, aż trafił na punkt z dostępem do internetu.
Gdy tylko „wyszedł” do sieci, uznał, że Hugging Face – duża platforma hostingowa dla modeli i zbiorów danych AI – prawdopodobnie zawiera odpowiedzi na test, który miał rozwiązać.
Włamał się więc na serwery Hugging Face, żeby te odpowiedzi ukraść, w praktyce po to, by ściągać. Wykorzystał do tego skradzione dane logowania oraz kolejne luki w zabezpieczeniach.
Chińskie modele na ratunek?
Hugging Face to otwarty rynek, na którym każdy może publikować własne rozwiązania, dlatego platforma hostuje ogromną liczbę modeli stworzonych w Chinach.
Gdy zespół Hugging Face próbował przeanalizować atak, wprowadził surowe dane dotyczące włamania, czyli kod i komendy użyte do wykorzystania luk w systemie, do komercyjnych modeli AI, licząc na pomoc w odtworzeniu przebiegu zdarzeń.
Te modele mają jednak wbudowane filtry bezpieczeństwa, które blokują wszystko, co przypomina hakowanie. Dla takich filtrów materiał dowodowy z ataku wygląda dokładnie tak samo jak sam atak.
Modele odmówiły więc współpracy. Nie były w stanie odróżnić hakera wyrządzającego szkody od firmy, która tylko broni się przed włamaniem.
Po zablokowaniu tego kierunku Hugging Face sięgnął po chiński model typu open-weight, GLM 5.2 firmy Z.ai. Uruchomiono go lokalnie, we własnej infrastrukturze, a model przetworzył materiał bez sprzeciwu.
Chińskie laboratoria, takie jak DeepSeek czy Qwen należący do Alibaby, należą dziś do najczęściej pobieranych rodzin modeli na platformie. Według niektórych miar chińscy twórcy odpowiadają już za większą część pobrań na Hugging Face niż ich odpowiednicy ze Stanów Zjednoczonych.
Poważne obawy o bezpieczeństwo
Ujawnienie incydentu następuje w momencie narastających obaw o możliwości cyberataków z wykorzystaniem zaawansowanych modeli AI. W czerwcu prezydent USA Donald Trump podpisał dekret, który tworzy ramy dla federalnej władzy, by nawet przez miesiąc przed publicznym udostępnieniem oceniać zagrożenia dla bezpieczeństwa narodowego ze strony najbardziej zaawansowanych systemów AI.
„Sztuczna inteligencja przyspiesza wykrywanie i wykorzystywanie luk w zabezpieczeniach” – napisała OpenAI we wtorkowym oświadczeniu. – „Najważniejsza lekcja z tego incydentu jest taka, że bezpieczeństwo modeli i ich zabezpieczenia muszą nadążać za szybko rosnącymi możliwościami”.
Delangue powiedział, że ostatnie 24 godziny spędził, współpracując z OpenAI. „Jesteśmy głęboko przekonani, że po ich stronie nie było złej woli. To wręcz niewiarygodne, że wszystko wydarzyło się autonomicznie”.
Dodał, że może to być „pierwszy tego rodzaju incydent”.
OpenAI poinformowała, że włamanie było wynikiem działania kombinacji jej modeli, w tym niedawno udostępnionego GPT-5.6 Sol oraz „jeszcze potężniejszego” modelu, który wciąż jest testowany wewnętrznie.
Firma przekazała, że jej system AI użył skradzionych danych logowania i odkrył wcześniej nieznaną lukę, aby uzyskać dostęp do serwerów Hugging Face.
Według OpenAI model „posunął się do skrajności, by zrealizować dość wąski cel testu” i „znalazł sposoby, aby zdobyć tajne informacje, które mógł wykorzystać do oszukania procesu oceny”.