Po raz pierwszy hakerzy użyli sztucznej inteligencji, by wykryć i wykorzystać lukę w zabezpieczeniach, której żaden automatyczny skaner by nie wychwycił. Google twierdzi, że tylko jego aktywny monitoring powstrzymał masowy atak.
Sztuczna inteligencja ułatwiła pisanie e-maili, tworzenie arkuszy kalkulacyjnych i planowanie wakacji, o czym świadczy ogromna popularność różnych modeli AI.
REKLAMA
REKLAMA
Według najnowszego raportu Google znacząco ułatwiła też wykrywanie wcześniej nieopisanych lub uznawanych za niemożliwe do przewidzenia luk w oprogramowaniu naszych systemów.
Zespół Google Threat Intelligence Group poinformował, że po raz pierwszy przyłapał hakerów, którzy wykorzystali AI do odkrycia i wykorzystania tzw. podatności typu zero-day – luki bezpieczeństwa, o której producent oprogramowania jeszcze nie wie i na którą nie opracowano żadnej poprawki.
Celem było popularne narzędzie do zdalnego zarządzania systemem, dostępne przez przeglądarkę. Luka pozwalała napastnikom obejść uwierzytelnianie dwuskładnikowe – dodatkową warstwę zabezpieczeń, którą wielu użytkowników uważa za gwarancję bezpieczeństwa kont.
Google zapewnia, że wykrył atak, zanim udało się go przeprowadzić na dużą skalę, i po cichu zaalarmował producenta oprogramowania.
„Przestępczy sprawca ataku planował wykorzystać ją w szeroko zakrojonej kampanii, ale nasze proaktywne wykrycie mogło temu zapobiec” – odnotowano w raporcie.
„Grupy powiązane z Chińską Republiką Ludową (ChRL) i Koreańską Republiką Ludowo-Demokratyczną (KRLD) również wykazały duże zainteresowanie wykorzystaniem AI do wyszukiwania podatności”.
Luka, której programiści nie zauważyli
Ta podatność zero-day nie przypomina typowych błędów. Tradycyjne skanery bezpieczeństwa szukają awarii i błędów pamięci – programistycznego odpowiednika literówki wyłapywanej przez sprawdzanie pisowni. Tymczasem tutaj luka kryła się w logice kodu: w subtelnym, zakodowanym na sztywno założeniu autora, którego żaden automatyczny skaner nie byłby w stanie wychwycić.
To błąd, przy którym na pierwszy rzut oka wszystko wygląda poprawnie, ale zawodzi logika. Można to porównać do skarbca bankowego z działającym zamkiem, który jednak otwiera się przed kimś, kto zna wyjątek wbudowany przez projektanta – i to wbrew jego intencjom.
Właśnie takie sprzeczności AI potrafi wychwytywać szczególnie dobrze. „Najbardziej zaawansowane modele językowe (frontier LLMs) świetnie identyfikują tego typu złożone błędy i statyczne anomalie zakodowane na sztywno” – czytamy dalej.
Choć takie modele wciąż mają trudności z poruszaniem się w skomplikowanej logice uprawnień w dużych firmach, „coraz lepiej radzą sobie z rozumowaniem w kontekście (…) i wychwytywaniem sprzeczności w wyjątkach zakodowanych na stałe” – podsumowano.
Dzięki temu modele potrafią ujawniać uśpione błędy logiczne, które dla tradycyjnych skanerów wyglądają na działające poprawnie, ale z punktu widzenia bezpieczeństwa są poważnie wadliwe.
Nie chodzi tylko o jeden przypadek
Choć głównym odkryciem była ta podatność zero-day, cały raport czyta się z niepokojem.
Chińscy i północnokoreańscy hakerzy działający na zlecenie państwa wykorzystują AI do masowego wyszukiwania luk. Wysyłają zautomatyzowane zapytania, które badają słabe punkty wszystkiego – od domowych routerów po korporacyjne sieci.
Google odnotował, że jedna z północnokoreańskich grup „wysyła tysiące powtarzalnych zapytań, które w sposób rekurencyjny analizują różne luki CVE i weryfikują exploity typu PoC”, budując – jak to określono w raporcie – „znacznie bardziej rozbudowany arsenał technik wykorzystania luk, którego bez wsparcia AI nie dałoby się praktycznie utrzymać”.
Z kolei grupy powiązane z Rosją używają AI do tworzenia złośliwego oprogramowania, które na bieżąco przepisuje własny kod, by wymykać się systemom wykrywania. Dotąd takie możliwości wymagały dużego doświadczenia specjalistów.
AI zmienia również oblicze phishingu. Zamiast rozsyłać masowo jednakowe e-maile, atakujący korzystają teraz z AI, by mapować hierarchie w firmach, typować konkretne osoby z dostępem do wrażliwych danych i tworzyć – jak to ujęto w raporcie – „bardziej wiarygodne przynęty phishingowe, dopasowane do osób z uprawnieniami administracyjnymi”, które wykraczają daleko poza „proste techniki tradycyjnego masowego phishingu”.
Google ostrzega, że w szerszej perspektywie AI przestaje być jedynie narzędziem badawczym, a staje się czymś w rodzaju aktywnego uczestnika działań w sferze bezpieczeństwa.
„Model językowy nie jest już tylko pasywnym doradcą, lecz aktywnym ogniwem ofensywnego łańcucha, zdolnym koordynować złożone zestawy narzędzi i podejmować taktyczne decyzje z prędkością maszyny”.
Pocieszeniem może być to, że to właśnie narzędzia AI Google’a wychwyciły tę podatność zero-day, zanim wyrządziła szkody. Firma wdraża własne agentowe systemy AI, które mają wyszukiwać i łatać luki szybciej, niż zdołałyby to zrobić zespoły ludzkie.