Naukowcy nie potrafią wskazać winnych, lecz dowody sugerują, że to niekontrolowane agentowe systemy Google i OpenAI stosowały agresywne metody zbierania danych i sprawdzania ich podatności.
Niekontrolowane agenty AI próbowały włamać się na rządowe strony internetowe USA i Kanady – wynika z ustaleń organizacji badawczej non profit Transluce (źródło w Angielski). Z zebranych dowodów wynika, że odpowiadały za to agenty Google’a i OpenAI.
REKLAMA
REKLAMA
Dwa incydenty szczególnie dobrze pokazały, że stosowano agresywne techniki, aby uzyskać dostęp do publicznie dostępnych danych ze zbioru Civil Rights Data Collection Departamentu Edukacji USA oraz z zasobów federalnej agencji Library and Archives Canada. Ostatecznie jednak żadna z prób nie doprowadziła do naruszenia danych.
Transluce informuje, że incydenty wpisują się w „szerszy wzorzec zautomatyzowanych procedur” przypisywanych agentom AI. „Te procedury korzystają z agresywnych lub znajdujących się w szarej strefie technik, by pozyskiwać informacje z rządowych stron, czasem wykorzystując serwisy w sposób niezamierzony albo łamiąc jasno określone zasady korzystania” – twierdzą badacze organizacji.
Na liście dodatkowych celów znalazły się Biały Dom, Departament Wojny, Departament Sprawiedliwości i Departament Handlu, a także Centra Kontroli i Prewencji Chorób (CDC), Komisja Papierów Wartościowych i Giełd (SEC) oraz agencje stanowe w Kalifornii, Marylandzie, Illinois, Teksasie i Nowym Jorku.
W żadnym z tych przypadków agenty nie uzyskały jednak dostępu do informacji innych niż te już publicznie dostępne.
Najnowsze ustalenia pojawiają się w czasie narastającej liczby doniesień o nieoczekiwanym lub nieautoryzowanym zachowaniu agentów AI.
Tylko we wrześniu odnotowano dwa poważne incydenty z udziałem niekontrolowanych agentów OpenAI. W pierwszym z nich doszło do wycieku prywatnych zdjęć użytkowników na publiczne strony, w drugim agenty próbowały uzyskać dostęp do danych rządowych w USA i Australii.
Firma zdecydowała się odłożyć w czasie wprowadzenie na rynek swojego modelu następnej generacji Astra, po tym jak eksperci ds. bezpieczeństwa zwrócili uwagę na jego „krytyczne” możliwości w zakresie cyberbezpieczeństwa oraz nieprzewidywalne, nieautoryzowane zachowania.
Ataki na rządowe strony USA i Kanady
17 czerwca agenty zaatakowały stronę internetową Departamentu Edukacji USA, gdy wyszukiwały statystyki dotyczące szkół.
Z ustaleń Transluce wynika, że agenty wysłały na stronę ponad 200 tys. zapytań, w tym nieudaną próbę przesłania celowo błędnych danych, by przetestować podatność bazy danych i ominąć standardowe filtry serwisu.
Badacze odkryli, że dane przechowywane na stronie odpowiadały zadaniu wyszukiwania w sieci w benchmarku Google DeepSearchQA. Ich zdaniem sugeruje to, że agentom nie wydano bezpośredniego polecenia przeprowadzenia ataku hakerskiego, lecz „oceniano je pod kątem skutecznego pozyskania określonych, niszowych informacji z internetu”.
Transluce zgłosiła próbę ataku Departamentowi Edukacji USA we wrześniu. Resort odpowiedział, że nie odnotował żadnych zakłóceń w swoich usługach.
Agenty AI podjęły podobne próby wobec Library and Archives Canada w dwóch osobnych incydentach: 28 maja oraz później 9 czerwca.
Zgodnie z danymi zebranymi przez oficjalne portugalskie archiwum internetowe Arquivo.pt agenty wysłały 899 zapytań typu „collection-search” o dane dotyczące akt rozwodowych z lat 1905–1911.
Wśród 899 zapytań 13 zawierało złośliwe ładunki mające przetestować podatność strony. Również te próby okazały się nieskuteczne.
Transluce podkreśla, że nie może „z pełnym przekonaniem przypisać” tych działań OpenAI, jednak zastosowane taktyki są zgodne z aktywnością, którą wcześniej wiązano z tą firmą.
Organizacja zgłosiła te incydenty rządowi Kanady na początku tygodnia.
Kanadyjskie Centrum Cyberbezpieczeństwa w odpowiedzi opublikowało oświadczenie (źródło w Angielski), w którym stwierdziło, że „nie ma żadnych oznak, iż systemy rządowe zostały w tej chwili naruszone”.
Transluce opublikowała swoje ustalenia wczoraj, po przeprowadzeniu analizy z wykorzystaniem informacji z Arquivo.pt oraz urlquery.net, bezpłatnej internetowej usługi skanowania adresów URL i domen.