Hiszpańska Agencja Ochrony Danych bada incydent, w którym agent sztucznej inteligencji działał autonomicznie, aby wykrywać luki, wejść do systemu i zmienić dane osobowe.
Hiszpańska Agencja Ochrony Danych (AEPD) poinformowała o tym, co uznaje za pierwszy w Hiszpanii autonomiczny cyberatak przeprowadzony przez agenta sztucznej inteligencji. Incydent pokazuje nowe zagrożenia, jakie ta technologia niesie dla cyberbezpieczeństwa i ochrony danych.
REKLAMA
REKLAMA
Jak wyjaśnia AEPD, incydent zaczął się, gdy agent SI, oparty na znanym modelu językowym, wykrył luki w zabezpieczeniach i uzyskał dostęp do systemu jednej z instytucji. Po wejściu do środka program miał działać bez bezpośredniej ingerencji człowieka: szukał kolejnych podatności w aplikacji, aż zdołał zmienić dane osobowe i uzyskać dostęp do faktur zaatakowanej organizacji.
AEPD apeluje o ostrożność i zapowiada, że oceni incydent na podstawie raportu przedstawionego przez poszkodowaną firmę. Agencja podkreśla, że użyte narzędzie nie zostało zaprojektowane do działań złośliwych, ale ostrzega, że ryzyko związane z wykorzystaniem sztucznej inteligencji w cyberatakach „jest już realne”.
Jak agenci sztucznej inteligencji mogą zmienić cyberataki
Choć sztuczna inteligencja od dawna należy do arsenału cyberprzestępców, pojawienie się agentów SI zdolnych do wykonywania zadań w sposób autonomiczny oznacza istotną zmianę. Dotąd generatywne modele SI wykorzystywano głównie do ulepszania treści maili phishingowych, tłumaczenia masowych oszustw, klonowania tożsamości, sprawdzania kodu czy przyspieszania wyszukiwania luk w zabezpieczeniach.
Agenci sztucznej inteligencji idą o krok dalej. W odróżnieniu od tradycyjnych narzędzi mogą otrzymać cel i opracować strategię jego realizacji, uruchamiać różne procesy, interpretować odpowiedzi systemu i modyfikować swoje działania w zależności od napotykanych przeszkód.
AEPD zaznacza, że sztuczna inteligencja nie musi tworzyć całkiem nowych zagrożeń, ale może znacząco zwiększać szybkość, skalę i zdolność adaptacji już znanych cyberataków. Taka przyspieszona dynamika może ograniczyć firmom pole manewru przy wykrywaniu i zatrzymywaniu włamania, zanim napastnicy dotrą do wrażliwych danych.
AEPD apeluje o nowe protokoły cyberbezpieczeństwa wobec SI
Jak podkreśla na blogu agencji zastępca dyrektora AEPD, Francisco Pérez Bes, oprócz samego skoku technologicznego incydent pokazuje konieczność przeglądu sposobu zarządzania ryzykami związanymi ze sztuczną inteligencją.
Zdaniem Péreza Besa audyty bezpieczeństwa nie mogą się już ograniczać do tradycyjnych zagrożeń, takich jak „malware” czy „phishing”. Muszą wyraźnie uwzględniać także wykorzystanie autonomicznych agentów, których zdolność do wykonywania działań i dostosowywania zachowania może zmieniać zarówno prawdopodobieństwo, jak i skutki incydentu bezpieczeństwa.
Pojawienie się takich narzędzi wymusza także przegląd protokołów ograniczania skutków ataku. Plany reagowania tworzone głównie z myślą o ludzkich sprawcach mogą okazać się niewystarczające wobec systemów zdolnych do równoległego badania wielu dróg wejścia i zmiany strategii w czasie rzeczywistym.
Pérez Bes podkreśla też znaczenie ochrony danych uwierzytelniających i tożsamości cyfrowych. Jeśli autonomiczny agent zdobędzie uprzywilejowane dane logowania lub klucz z nadmiernymi uprawnieniami, może w bardzo krótkim czasie zagrozić wielu usługom, zanim systemy bezpieczeństwa wychwycą nietypowe zachowanie.
Jak firmy mogą chronić się przed cyberatakami z wykorzystaniem SI?
Analizowany przez AEPD przypadek rodzi też wątpliwości, czy ręczne mechanizmy obrony są w stanie nadążyć za tempem działania agenta sztucznej inteligencji.
Choć nadzór człowieka pozostaje kluczowy, firmy mogą potrzebować automatycznych mechanizmów wykrywania i reagowania, które potrafią identyfikować podejrzane zachowania i szybko na nie odpowiadać.
Zdaniem zastępcy dyrektora AEPD pojawienie się agentów SI wykorzystywanych w celach ofensywnych wymusza przegląd strategii cyberbezpieczeństwa i ochrony danych. Chodzi o przygotowanie się na scenariusz, w którym ataki mogą być coraz szybsze, bardziej adaptacyjne i w większym stopniu zautomatyzowane.