Na TikToku pojawiła się fala wygenerowanych przez AI nagrań z protestów w całej Europie. Eksperci ostrzegają, że mają one pogłębiać podziały społeczne.
Na TikToku krąży seria nagrań wygenerowanych przez sztuczną inteligencję. Widać na nich tysiące ludzi protestujących w różnych europejskich miastach przeciwko migracji, kondycji państwa, obecnemu rządowi lub w obronie haseł nacjonalistycznych.
REKLAMA
REKLAMA
Analizowane nagrania opublikowano w ostatnich czterech miesiącach, a niektóre obejrzano ponad 300 tys. razy.
The Cube, zespół fact-checkingowy Euronews, zidentyfikował takie treści kierowane do użytkowników w Portugalii, Francji, Niemczech, Irlandii, Włoszech i w Wielkiej Brytanii. Wielu odbiorców najwyraźniej uznało pokazane sceny za prawdziwe.
Żaden z przedstawionych na tych konkretnych nagraniach protestów nie odbył się jednak naprawdę. Autorzy stosują różne sztuczki, by przekonać widzów, że jest inaczej.
Po pierwsze, wiele z tych filmów podszywa się pod relacje wiarygodnych stacji informacyjnych.
W jednym z nagrań widać na przykład rzekomą portugalską dziennikarkę pracującą dla publicznej telewizji RTP – sugeruje to logo na jej mikrofonie – podczas gdy grafika na ekranie przypomina oprawę prywatnego kanału informacyjnego SIC Notícias.
Nie zgadza się także jej lokalizacja: w rzeczywistości w miejscu, gdzie na nagraniu widać budynek, płynie rzeka Tag.
The Cube skontaktował się również z RTP. Stacja przekazała, że dziennikarka z nagrania wygenerowanego przez AI nigdy dla niej nie pracowała i że nie ma żadnego związku z filmem udostępnionym na TikToku.
Mimo że powody tych rzekomych protestów są często bardzo ogólne – jak gniew na „kondycję państwa” – część przekazów nawiązuje do haseł skrajnej prawicy. Tak jest w niektórych niemieckich filmach, które przeanalizował zespół The Cube, zawierających podpisy popierające partię Alternatywa dla Niemiec (AfD).
W wielu pojawiają się także komentarze użytkowników TikToka odwołujących się do tych ugrupowań i wzywających je, by zajęły się takimi problemami jak migracja. Padają nazwiska m.in. André Ventury z portugalskiej skrajnie prawicowej partii Chega, francuskiego Zjednoczenia Narodowego oraz Niemki Alice Weidel z AfD.
Większość nagrań kończy się zachętą do reakcji – autorzy proszą widzów, by podzielili się opinią o protestach lub wpisali nazwę miasta, z którego oglądają film.
Eksperci podkreślają, że masowe tworzenie tego typu treści ma przede wszystkim manipulować opinią publiczną i pogłębiać podziały społeczne w Europie, co stanowi poważne zagrożenie dla debaty demokratycznej.
„Odbiorcy angażują się w takie filmy przede wszystkim dlatego, że syntetyczne obrazy bezpośrednio trafiają w istniejące lęki polityczne i poczucie krzywdy kulturowej” – mówi w rozmowie z The Cube Bruna Martins dos Santos z organizacji WITNESS, globalnej inicjatywy badającej wpływ nowych technologii, zwłaszcza generatywnej AI i deepfake’ów.
Znane taktyki dezinformacji
We wszystkich tych nagraniach powtarzają się trzy typowe techniki dezinformacji: nacechowany emocjonalnie język, treści generowane przez AI oraz podsycanie polaryzacji.
Według Martins dos Santos większość tych zabiegów służy jako przynęta na zaangażowanie odbiorców.
„Tematy takie jak migracja, nacjonalizm czy rzekomy upadek społeczeństwa wywołują silne reakcje emocjonalne” – wyjaśnia. – „Ten efekt jest szczególnie widoczny na platformach z krótkimi formami wideo, gdzie liczy się przede wszystkim wizualny efekt i emocjonalny rezonans. Widzowie odbierają najpierw spektakl – tłum, flagi, skandowanie – a dopiero później, jeśli w ogóle, zadają sobie pytanie o autentyczność nagrania”.
Dodatkowo algorytmy rekomendacji w mediach społecznościowych wzmacniają ten mechanizm, promując prowokacyjne materiały wizualne użytkownikom, którzy najpewniej na nie zareagują.
Wykorzystanie AI do produkcji takich treści sprawia, że wytwarzanie filmów jest tanie i łatwe do skalowania. W ten sposób można skutecznie windować liczbę wyświetleń, obserwujących i wskaźniki interakcji – podkreśla Martins dos Santos.
Dlaczego takie treści nadal są dostępne?
Nagrania są oznaczone przez sam TikTok jako materiały stworzone przez AI. Platforma twierdzi, że zakazuje treści generowanych sztucznie, jeśli „wprowadzają w błąd w sprawach istotnych dla opinii publicznej” lub naruszają jej wytyczne dotyczące dezinformacji.
Idzie jeszcze dalej: „Nieoznaczone treści mogą zostać usunięte, ograniczone lub oznaczone przez nasz zespół, w zależności od potencjalnych szkód, jakie mogą wyrządzić”.
Część filmów najwyraźniej jednak wymyka się tej polityce.
„Fakt, że te nagrania nadal są dostępne online, może oznaczać naruszenie samych zasad TikToka, ale też pokazuje, że zawodzą narzędzia wykrywania treści stosowane przez platformę” – ocenia Martins dos Santos.
Co więcej, zgodnie z europejskim rozporządzeniem o usługach cyfrowych (Digital Services Act) platforma ma obowiązek podejmować skuteczne działania wobec treści, które mogą negatywnie wpływać na „debatę obywatelską i procesy wyborcze”.
„To, że te nagrania wciąż są dostępne, nie oznacza automatycznie, że dochodzi do złamania zasad, ale rodzi poważne pytania o skuteczność mechanizmów wykrywania, standardów oznaczania oraz algorytmów rekomendacji TikToka” – dodaje Santos.
TikTok nie odpowiedział od razu na prośbę o komentarz.
Prawdziwe protesty wstrząsnęły ostatnio Europą
Podczas gdy nagrania tworzone przez AI pokazują zmyślone demonstracje, które w rzeczywistości się nie odbyły, w ostatnich tygodniach w Europie miały miejsce liczne prawdziwe protesty w różnych sprawach.
Jednym z najgłośniejszych były demonstracje w Hiszpanii w odpowiedzi na kryzys w Ceucie, kiedy szacunkowo 80 tys. osób przedostało się przez granicę między Marokiem a hiszpańskim terytorium w Afryce Północnej, Ceutą.
Większość migrantów wróciła już do swoich krajów, jednak szacuje się, że w Ceucie może przebywać wciąż nawet 13 tys. osób. To z kolei wywołało protesty przeciwko sposobowi, w jaki rząd poradził sobie z kryzysem.
W Niemczech z kolei wybuchły demonstracje sprzeciwu wobec partii AfD po jej przytłaczającym zwycięstwie w wyborach krajowych na początku września.
Tymczasem w Szwajcarii na ulice wyszły tysiące osób, protestując przeciwko bezczynności władz wobec globalnego ocieplenia.