Sztuczni prezenterzy coraz trudniej odróżnić od prawdziwych. Na niemieckim YouTubie pojawiły się dziesiątki kanałów, na których wygenerowane przez AI postacie komentują politykę, wybory i konflikty. Badacze podejrzewają, że część z nich może być ze sobą skoordynowana.
Na pierwszy rzut oka kobieta występująca w wielokrotnie udostępnianym w internecie nagraniu sprawia wrażenie niemieckiej komentatorki politycznej analizującej wybory w Saksonii-Anhalt.
REKLAMA
REKLAMA
Inny prezenter opowiada o wojnie w Iranie i roli Chin w tym konflikcie, a rzekomy ekspert na kolejnym kanale tłumaczy zmiany zachodzące w globalnym porządku.
Żaden z tych prowadzących nie jest jednak prawdziwą osobą. Wszyscy zostali wygenerowani przez sztuczną inteligencję. Pojawiają się na szeregu niemieckojęzycznych kanałów na YouTubie, które przeanalizowała organizacja non-profit Centre for Monitoring, Analysis and Strategy (CeMAS).
Organizacja zidentyfikowała 47 kanałów, na których do omawiania kwestii politycznych i geopolitycznych wykorzystywani są prezenterzy wygenerowani przez AI. Badacze przeanalizowali 38 z nich, dokumentując 1876 istotnych filmów opublikowanych między grudniem 2025 a sierpniem 2026 roku.
Łącznie kanały te zgromadziły ponad 66 tysięcy subskrybentów. Ich nagrania uzyskały około 7,55 miliona wyświetleń i niemal 30 tysięcy komentarzy, choć sami prezenterzy są wirtualni.
Z komentarzy wynika, że z publikowanymi treściami wchodzą w interakcję prawdziwi użytkownicy, a część z nich uznaje materiały za autentyczne.
„Wciąż pojawiają się osoby, które piszą: «Ej, to jest AI, ludzie, nie widzicie tego?»” – mówi Lea Frühwirth, starsza badaczka zajmująca się dezinformacją w CeMAS, w rozmowie z zespołem fact-checkingowym Euronews, The Cube. „A inni odpowiadają: «Nie obchodzi mnie to»”.
Skoordynowana sieć?
Zdaniem CeMAS istnieje kilka przesłanek wskazujących na to, że konta mogły być częścią skoordynowanej kampanii.
„W tej aktywności widzimy wiele wskaźników koordynacji” – podkreśla Frühwirth. „Mamy podobieństwa w tym, o czym mówią, w sposobie prezentowania treści, w datach rejestracji oraz w okresach – liczonych w miesiącach – kiedy pojawia się najwięcej materiałów”.
„Widzimy konta, które z czasem zmieniają swoje awatary” – dodaje. „Są też kanały, które zachowują ten sam wizerunek, ale podmieniają głos. Te same awatary pojawiają się również na wielu różnych kanałach”.
Polityka wewnętrzna Niemiec była tematem 795 przeanalizowanych filmów. CeMAS ocenia, że materiały te przedstawiają kraj jako pogrążony w głębokim kryzysie politycznym i gospodarczym oraz krytykują rząd kanclerza Friedricha Merza.
Zbiega się to w czasie z wyczekiwanymi wyborami landowymi i lokalnymi w Niemczech. Alternatywa dla Niemiec (AfD) zwyciężyła w wyborach we wschodnim landzie Saksonia-Anhalt, a według prognoz minimalnie wygrywa również w Meklemburgii-Pomorzu Przednim.
Z kolei Unia Chrześcijańsko-Demokratyczna (CDU) Merza ma w tym ostatnim landzie nie przekroczyć 5-procentowego progu wymaganego do utrzymania reprezentacji w parlamencie regionalnym. Tymczasem Lewica stała się najsilniejszą siłą w Berlinie.
Mimo zbieżności czasowej „nie spodziewałabym się, że to kampania wymierzona konkretnie w te wybory” – zaznacza Frühwirth. Dodaje jednak, że narracje wymierzone w rząd federalny pozostają istotnym elementem szerszej debaty towarzyszącej głosowaniu.
Oddzielne śledztwo firmy Graphika, zajmującej się analizą mediów społecznościowych, ujawniło podobny wzorzec. Sztuczni prezenterzy omawiali w jego ramach sprawy międzynarodowe w językach angielskim, francuskim, koreańskim, portugalskim i hiszpańskim.
Graphika nie zdołała ustalić, kto stoi za tymi kontami, ani potwierdzić, że wszystkie należą do jednej sieci. Badacze znaleźli jednak przesłanki wskazujące na to, że twórcy prawdopodobnie korzystają z podobnych narzędzi do generowania treści i podobnych metod zwiększania ich zasięgów.
CeMAS przypuszcza, że niemieckojęzyczne kanały mogą wpisywać się w ten szerszy schemat, choć dotychczas nie udało się jednoznacznie wykazać bezpośredniego powiązania.
Coraz trudniejsze do wykrycia
Wiele filmów na YouTubie zawiera informację, że ich treść została zmieniona lub syntetycznie wygenerowana.
Zdaniem Frühwirth takie oznaczenie jest jednak niewielkie i nie wyjaśnia, czy sztuczna inteligencja została wykorzystana do stworzenia jednego elementu nagrania, czy też do wygenerowania całej postaci prezentera.
„Nie jest zaprojektowane tak, by każdy odbiorca miał jasność, że ma do czynienia wyłącznie z produktem wygenerowanym przez AI” – mówi badaczka.
Przy uważniejszym oglądaniu nagrań można dostrzec oznaki wskazujące na wykorzystanie sztucznej inteligencji. Badacze zauważyli między innymi błędy w tłumaczeniach, zmieniające się głosy oraz miniatury z awatarami innymi niż te wykorzystane w samym nagraniu.
Takie sygnały stają się jednak coraz trudniejsze do wychwycenia.
„Zawartość generowana przez AI z minuty na minutę staje się lepsza” – podkreśla Frühwirth. „Gdybyśmy rozmawiali za trzy miesiące, mielibyśmy już do czynienia z zupełnie innym poziomem jakości”.
Serwis YouTube nie odpowiedział dotąd na prośbę o komentarz w tej sprawie.