Chatboty AI cytują rosyjską propagandę z objętego unijnymi sankcjami źródła

Popularne duże modele językowe (LLM), takie jak Google Gemini, miały w odpowiedziach powoływać się na prorosyjską propagandę z objętego unijnymi sankcjami medium, w tym na twierdzenia, że Ukraina wykorzystuje ciała poległych żołnierzy do produkcji wyrobów mięsnych.

REKLAMA

REKLAMA

Są też sygnały, że zagraniczni aktorzy prowadzący działania w ramach hybrydowej wojny informacyjnej, tacy jak Rosja, mogą zacząć wykorzystywać szybko rosnącą branżę GEO (generative engine optimisation, pol. optymalizacja silnika generatywnego). Jej celem jest wpływanie na informacje, które trafiają do LLM-ów. Tak wynika z nowego raportuopublikowanego przez badaczy z brytyjskiego, ponadpartyjnego think tanku Demos, udostępnionego wyłącznie zespołowi weryfikującemu fakty Euronews, The Cube.

Badacze wybrali 50 propagandowych narracji z dziesięciu artykułów opublikowanych przez Foundation to Battle Injustice, czyli „r-FBI”. Organizacja, założona w 2021 roku, przedstawia się jako NGO, która ujawnia przypadki dyskryminacji i cenzury oraz bada sprawy prześladowań.

W rzeczywistości to fałszywa organizacja praw człowieka, powołana w 2021 roku przez zmarłego już byłego lidera rosyjskiej najemniczej grupy Wagnera Jewgienija Prigożyna. Na fundację nałożono sankcje zarówno w USA, jak i w Unii Europejskiej.

Według Carla Millera, współzałożyciela Centre for the Analysis of Social Media (CASM), jednostki badawczej powołanej przez Demos, wybrane twierdzenia były „makabryczne”.

„To nie są tezy, które powinny pojawiać się w jakiejkolwiek głównego nurtu debacie” – powiedział Miller. „To twierdzenia, że Ukraina ponownie wykorzystuje ciała poległych żołnierzy do wyrobów mięsnych, że Zełenski wysysa zasoby kryptowalutowe i dlatego w Ukrainie kończy się energia. Odkryliśmy, że LLM-y traktują je jak w pełni uprawniony głos w debacie”.

Na potrzeby badania naukowcy przetestowali pięć popularnych LLM-ów – opracowywanych przez xAI, OpenAI, Anthropic, Google Gemini i Mistral AI – oraz przygotowali polecenia w trzech językach (angielskim, niemieckim i francuskim), opierając się na narracjach propagandowych z artykułów r-FBI.

Jak LLM-y wzmacniały rosyjską propagandę

Badacze ustalili, że wszystkie pięć LLM-ów powoływało się na r-FBI jako na źródło przedstawiane w pozytywnym świetle.

Łącznie w 16,6 proc. odpowiedzi materiał r-FBI był wykorzystywany w sposób, który mógł służyć interesom propagandowym: albo poprzez przedstawianie relacji tej organizacji jako pełnoprawnej części debaty i bezkrytyczne powtarzanie jej tez, albo przez aktywne popieranie tych narracji.

Tymczasem 30,9 proc. odpowiedzi odnosiło się do tematu wskazanego w poleceniu, ale w ogóle nie ujawniało, że źródłem jest podmiot objęty sankcjami. Użytkownicy nie dowiadywali się więc, że w odpowiedzi wykorzystano narzędzie wpływu wskazane przez władze.

Kolejne 52 proc. odpowiedzi w jakiś sposób odrzucało lub demaskowało fałszywe twierdzenia.

Gdy badacze zapytali model GPT 4.1 Mini firmy OpenAI o zarzuty, że przetworzone ludzkie mięso trafia do magazynów przy ukraińskim froncie oraz do krajowych sieci handlowych, LLM powołał się w odpowiedzi na artykuł r-FBI jako dowód wspierający te oskarżenia.

Kiedy zapytano o rzekome przedsięwzięcia kryptowalutowe prezydenta Ukrainy Wołodymyra Zełenskiego – powracającą tezę forsowaną przez prorosyjskie środowiska – francuska firma Mistral, w modelu Mistral Small 3.2 LLM, poparła te twierdzenia, ponownie powołując się na rzekome, trwające miesiącami śledztwo r-FBI.

W swojej odpowiedzi Mistral Small 3.2 podkreślił „związek między krytycznym stanem systemu energetycznego Ukrainy a działalnością wysokich rangą urzędników z najbliższego otoczenia prezydenta Zełenskiego”.

Walka o optymalizację silnika generatywnego

Wraz z tym, jak coraz więcej osób zamiast tradycyjnych wyszukiwarek czy mediów sięga po chatboty, szybko rośnie branża, której celem jest wpływanie na to, jak modele AI dobierają swoje źródła.

Praktyka ta jest znana jako optymalizacja silnika generatywnego (GEO). Opiera się na założeniach optymalizacji pod kątem wyszukiwarek (SEO) – dziedziny stworzonej po to, by wpływać na wyniki w tradycyjnych wyszukiwarkach – a GEO ma kształtować rezultaty generowane przez platformy AI.

„Powstają nowe treści tworzone specjalnie z myślą o LLM-ach, ale w tym przypadku są to materiały przygotowywane dla marek i marketingu albo edycje treści już dostępnych w sieci, z wykorzystaniem forów użytkowników, takich jak Reddit, Quora czy Wikipedia” – powiedziała nam Hannah Perry, dyrektorka Demos Digital, cyfrowego działu polityk tego think tanku.

Zdaniem badaczy istnieje realne ryzyko, że aktorzy prowadzący hybrydowe operacje ingerencji zagranicznej mogą dopracować te taktyki i wykorzystać luki w regulacjach.

„Nasze badanie nie dowodzi, że firmy GEO prowadzą wojnę informacyjną w imieniu państw” – stwierdził Miller. „Mówimy, że bardzo szybko budują one know-how i zdolności, napędzane ogromną zachętą finansową, które bardzo łatwo mogą zostać wykorzystane w sposób wrogi”.

„W tym konkretnym przypadku AI błędnie uznaje, że Foundation to Battle Injustice to legalna organizacja praw człowieka” – dodała. „Dzieje się tak z powodu technicznego maskowania i konfiguracji: setek drobnych szczegółów technicznych, którymi Rosjanie niejako otoczyli te dokumenty, co pozwala im stać się widocznymi, choć nie powinny. To jest wojna informacyjna”.

The Cube skontaktował się z firmami technologicznymi tworzącymi LLM-y, o których mowa w badaniu, ale w momencie publikacji tekstu nie otrzymał odpowiedzi od xAI i Google, które rozwijają odpowiednio modele Grok 4.20 i Gemini 2.5 Flash.

Rzecznik firmy Mistral, założonej przez Francuza Arthura Menscha i powszechnie uznawanej za wiodącą europejską spółkę w dziedzinie generatywnej AI, przekazał nam, że przedsiębiorstwo bardzo poważnie traktuje walkę z dezinformacją i stale inwestuje w zaawansowane systemy wykrywania i zapobiegania.

Mistral odróżnił także surowe modele analizowane w badaniu Demos od produktu Vibe Work. Firma wyjaśniła, że surowe modele dają użytkownikom dużą swobodę w formułowaniu poleceń i ustawień, podczas gdy Vibe Work działa jako gotowy do użycia agent, wyposażony we wbudowane mechanizmy rozumowania i skanowania kontekstu.

OpenAI poinformowało nas, że w badaniu wykorzystano model, który został już wycofany i był dostępny jedynie poprzez API (przeznaczony dla deweloperów), a nie w publicznie dostępnej wersji ChatGPT. Spółka dodała, że ma wyspecjalizowane zespoły odpowiedzialne za zakłócanie działalności nisko wiarygodnych lub podejrzewanych o skryty wpływ operacji.

Osoba zaznajomiona z funkcjonowaniem Anthropic – amerykańskiej firmy, która stworzyła chatbota Claude'a – powiedziała, że wdrożono zaawansowane mechanizmy egzekwowania zasad, by ograniczać rozprzestrzenianie się dezinformacji.

Dodała, że zespół ds. wywiadu zagrożeń pracuje nad wykrywaniem i zakłócaniem operacji wpływu prowadzonych przez podmioty zagraniczne, aby ograniczać rozpowszechnianie dezinformacji, a ich LLM został zaprogramowany tak, by prezentować szerokie spektrum perspektyw, zwłaszcza gdy dane źródło może reprezentować określony punkt widzenia lub agendę.