Według danych udostępnionych redakcji Cube, prawie 200 klipów z ICE wygenerowanych przez sztuczną inteligencję zyskało miliony wyświetleń w mediach społecznościowych.
Niemiecki nadawca publiczny ZDF zwolnił amerykańską korespondentkę pod koniec lutego po tym, jak klip wygenerowany przez sztuczną inteligencję pojawił się w jej raportażu na temat amerykańskich agentów Służby Imigracyjnej i Celnej (ICE).
REKLAMA
REKLAMA
Nadawca przeprosił za wykorzystanie klipu, który przedstawiał dzieci trzymające się swojej matki podczas aresztowania przez agentów ICE. Wideo zawierało znak wodny Sora, co wyraźnie wskazuje, że zostało stworzone przez narzędzie wideo OpenAI.
Cube, zespół Euronews zajmujący się weryfikacją faktów, odkrył, że wideo jest jednym z tysięcy wygenerowanych przez sztuczną inteligencję klipów z agentami ICE, które zalewają media społecznościowe, gromadzących miliony wyświetleń, a wiele z nich krąży po sieci bez wyraźnego oznaczenia.
Spójny wzorzec
Dane udostępnione redakcji Cube przez firmę TruthScan, która zajmuje się wykrywaniem sztucznej inteligencji, pokazują ponad 200 krótkich klipów przedstawiających agentów ICE ścigających nauczycieli, walczących w barach i aresztowanych przez NYPD (nowojorski departament policji) w metrze.
TruthScan poinformował, że znalazł ponad 200 filmów na jednym koncie na Instagramie. Filmy są krótkie, dramatyczne i naładowane emocjonalnie.
Cube ustalił, że konto nadal masowo publikuje generowane przez sztuczną inteligencję klipy z ICE, a niektóre z nich zyskują tysiące, a inne miliony wyświetleń.
Istnieją różne wskazówki, dlaczego filmy nie są prawdziwe: w jednym przykładzie para wydaje się unosić znad solidnej powierzchni podczas konfrontacji między agentem ICE a pracowniczką kawiarni - subtelny znak, że klip jest sztucznie wygenerowany.
Według TruthScan, każdy film trwał dokładnie 10 lub 15 sekund, co zdecydowanie sugeruje, że zostały one wygenerowane przy użyciu modelu wideo Sora 2 firmy OpenAI, który oferuje użytkownikom 10- lub 15-sekundowe opcje wideo.
W przeciwieństwie do wielu filmów generowanych przez sztuczną inteligencję, które zawierają znak wodny, większość tych klipów z ICE go nie zawiera.
Podobnie, w listopadzie ubiegłego roku, 404 Media poinformowało, że generowane przez sztuczną inteligencję klipy agentów ICE pochodzące z konta na Facebooku stały się wiralowe, a jeden z nich miał 4 miliony wyświetleń. Od tego czasu filmy zostały usunięte.
Szersze ryzyko dla zaufania publicznego
Eksperci twierdzą, że ryzyko wykracza poza nieprawidłowe oznaczanie poszczególnych klipów i obejmuje szersze rozprzestrzenianie się fałszywych treści w delikatnych kwestiach politycznych, co może podważyć zaufanie publiczne.
"Istnieje znaczące ryzyko dla zbiorowych reakcji na działania organów ścigania, zarówno negatywnych, jak i pozytywnych" - mówi Ari Abelson, współzałożyciel OpenOrigins, firmy zajmującej się sprawdzaniem autentyczności mediów, która wykrywa deepfake'i.
"Jest to zmartwienie dla organów ścigania, które chcą zachować zaufanie, ale jest to również ważne dla instytucji, które pociągają je do odpowiedzialności, gdy przekroczą swoje uprawnienia" - powiedział Abelson w rozmowie z Cube.
Podobnie jak w przypadku transmisji ZDF, treści z ICE generowane przez sztuczną inteligencję nie ograniczają się do anonimowych kont. Czasami docierają nawet do najwyższych szczebli urzędów publicznych.
W styczniu Biały Dom opublikował cyfrowo zmienione zdjęcie aktywistki i prawniczki Nekimy Levy Armstrong po jej aresztowaniu podczas protestu związanego z ICE w Minnesocie.
Analiza wykazała, że zmienione zdjęcie przedstawia Armstrong jako ciemnoskórą i wyraźnie szlochającą, jak nie było na oryginalnym zdjęciu.
Biały Dom odpowiedział na pytania dotyczące posta ze zmanipulowanym obrazem. Zastępca dyrektora ds. komunikacji Kaelan Dorra przekazał: "Po raz kolejny do ludzi, którzy czują potrzebę odruchowej obrony sprawców ohydnych zbrodni w naszym kraju, dzielę się z wami tą wiadomością: Egzekwowanie prawa będzie kontynuowane. Memy będą kontynuowane".
Armston powiedziała, że jest "zniesmaczona" tym, że Biały Dom opublikował to zdjęcie.
Według Abelsona, obawy pojawiają się, gdy brakuje barier - lub zabezpieczeń - aby wyraźnie wskazać, że treść jest fałszywa.
"Karykatury polityczne zawsze były wykorzystywane w polityce, a te [obrazy] są wykorzystywane w bardzo podobny sposób" - powiedział. "Kluczową różnicą jest to, jak hiperrealistyczne stają się filmy".
"Przestrzenie społecznościowe i informacyjne wymagają jednej rzeczy: możliwości udowodnienia, że zdjęcie i film są prawdziwe, abyśmy mogli cieszyć się fałszywkami jako fikcją i poczuć powagę prawdziwych wydarzeń" - dodał.