Amerykański gigant technologiczny poinformował, że zablokował rosyjskie i irańskie konta używające modeli ChatGPT do tworzenia propagandy i fałszywych dziennikarzy na temat wojen w Ukrainie i na Bliskim Wschodzie, by siać podziały.
OpenAI poinformowało w czwartek, że zamknęło dwie operacje wpływu – z Rosji i Iranu – które wykorzystywały ChatGPT do tworzenia fałszywych tożsamości dziennikarzy i prowadzenia „think tanku”, by potajemnie szerzyć antyukraińską propagandę oraz podsycać podziały w USA i Izraelu wokół wojny w Iranie.
REKLAMA
REKLAMA
Raport jest kolejnym przykładem tego, jak aparaty państwowe mogą wykorzystywać powszechnie dostępne narzędzia sztucznej inteligencji do masowej produkcji i rozpowszechniania wyrafinowanej propagandy przeciwko przeciwnikom.
Amerykański gigant AI poinformował, że zablokował grupę kont ChatGPT pochodzących z Rosji i Iranu, które służyły fasadowym organizacjom rozpowszechniającym przekazy geopolityczne i dotyczące konfliktów.
Operacja prowadzona z Iranu obejmowała siedem fikcyjnych profili dziennikarzy. Każdy podawał się za osobę z państwa zachodniego, w tym ze Stanów Zjednoczonych, i służył do umieszczania długich artykułów w mediach na całym świecie.
„Zidentyfikowaliśmy prawie 100 artykułów opublikowanych lub przedrukowanych pod nazwiskami używanymi w tej operacji w około kilkunastu serwisach internetowych na świecie” – przekazało OpenAI.
„Były to niewielkie lub średnie redakcje, zazwyczaj skoncentrowane na sprawach międzynarodowych, geopolityce i wydarzeniach na Bliskim Wschodzie.”
Najwcześniejszy tekst zidentyfikowany przez OpenAI ukazał się w lipcu 2025 roku, a najnowszy w październiku 2026 roku. Częstotliwość publikacji wzrosła po wybuchu wojny USA–Iran na początku tego roku.
Jak dodano, w ramach tej operacji generowano także komentarze w mediach społecznościowych na tematy związane z wojną USA–Iran.
Jedna z wykreowanych postaci, Ervin B. Hoskins, którego biogram przedstawiał go jako „amerykańskiego freelancera”, miała konta w kilku serwisach technologicznych, między innymi w serwisie X, należącym do Elona Muska, oraz na Instagramie firmy Meta.
Z informacji o przejrzystości X wynikało, że konto było połączone przez aplikację „West Asia” na Androidzie, a dane o przejrzystości Instagrama wskazywały, że konto działało z Iranu – wynika ze zrzutów ekranu udostępnionych przez OpenAI.
Wygląda na to, że oba konta zostały zawieszone.
Operacja prowadzona z Rosji wykorzystywała „niczego nieświadomych ludzi” w Ameryce Łacińskiej do prowadzenia think tanku o nazwie Social Research Center (SRC). Według firmy służył on do tajnych działań wymierzonych w reputację Ukrainy w regionie oraz do wpływania na lokalną politykę.
„Dostępne dowody wskazują, że pracownicy SRC w Ameryce Łacińskiej nie wiedzieli, iż pracują dla rosyjskiej grupy” – podało OpenAI.
„SRC wydaje się tworzyć większość oryginalnych treści za pośrednictwem przejętego personelu. To wyróżnia się jako najbardziej złożona próba prowadzenia fasadowej tożsamości, jaką udało nam się przerwać w ciągu ostatnich dwóch i pół roku.”
Operatorzy wykorzystywali ChatGPT do pisania wewnętrznych raportów o swoich działaniach, tworzenia materiałów na potrzeby operacji i sporządzania ocen funkcjonowania think tanku, a także do projektowania i redagowania tekstów przeznaczonych do publikacji w mediach społecznościowych jako posty i komentarze.
Wśród aktywności w mediach społecznościowych, jak wskazuje OpenAI, były reakcje na wypowiedź polskiego skrajnie prawicowego europosła Grzegorza Brauna, który proponował, aby osoby przejawiające „antypolskość” uznawać w Polsce za „persony non grata”, co miało podsycać podziały wokół polskiego wsparcia dla Ukrainy.