Nieprawdziwe wideo sugerujące obalenie prezydenta Francji Emmanuela Macrona obiegło media społecznościowe. Film stworzono przy użyciu sztucznej inteligencji i nie przedstawia rzeczywistych wydarzeń.
Prezydent Francji Emmanuel Macron dowiedział się o swoim rzekomym obaleniu po otrzymaniu wiadomości od jednego z afrykańskich odpowiedników, który napisał:
"Drogi Prezydencie, co się z Tobą dzieje? Bardzo się martwię". Do wiadomości dołączono link do wideo na Facebooku, które przedstawiało wojskowy helikopter, gromadzące się tłumy, personel wojskowy oraz prezenterkę wiadomości relacjonującą wydarzenie.
"W niedzielę [14 grudnia - red.] jeden z moich afrykańskich odpowiedników skontaktował się ze mną" - powiedział Macron francuskiej gazecie La Provence 16 grudnia.
"Nieoficjalne doniesienia wskazują, że we Francji mogło dojść do zamachu stanu, którym miał kierować pułkownik o nieujawnionej tożsamości. Informacje te sugerują także możliwy upadek prezydenta Emmanuela Macrona. Francuskie władze nie wydały dotąd żadnego jednoznacznego oświadczenia w tej sprawie" – brzmiał przekaz wideo.
W rzeczywistości film był w całości stworzony przy użyciu sztucznej inteligencji i nie przedstawiał żadnych autentycznych wydarzeń.
Po odkryciu wideo prezydent zwrócił się do Pharos - francuskiego portalu zajmującego się zgłaszaniem nielegalnych treści w sieci - z prośbą o kontakt z firmą Meta - właścicielem Facebooka, w celu jego usunięcia, ale platforma odmówiła, twierdząc, że materiał nie narusza zasad użytkowania.
Macron postanowił więc działać osobiście.
"Mam tendencję do myślenia, że mam większą moc wywierania presji niż inni ludzie" - przyznał.
"A raczej, że łatwiej jest powiedzieć, że coś jest poważne, jeśli to ja dzwonię, ale to nie działa".
Dodał też: "Ci ludzie z nas kpią. Nie dbają o spokój debat publicznych, nie dbają o demokrację i dlatego narażają nas na niebezpieczeństwo".
Kto więc stoi za tymi fałszywymi filmami?
Oryginalne wideo, które szybko zdobyło ponad 12 milionów wyświetleń, zostało opublikowane przez konto na Facebooku o nazwie "Islam", które mimo nazwy nie publikuje treści religijnych.
Jego właścicielem jest nastolatek z Burkina Faso, który zarabia na kursach pokazujących, jak wykorzystywać sztuczną inteligencję do generowania dochodów.
Film został usunięty ponad tydzień po publikacji z powodu wywołanych kontrowersji politycznych i społecznych, a próby kontaktu z jego twórcą pozostały bez odpowiedzi.
Niektóre filmy prezentowały wygenerowanych przez sztuczną inteligencję prezenterów trzymających mikrofony z logo Radio France Internationale (RFI), a część była oznaczona znakiem wodnym "Sora", co wskazuje na użycie technologii Sora 2 stworzonej przez OpenAI, tej samej firmy, która opracowała ChatGPT.
Sora 2 pozwala generować 10-sekundowe, hiperrealistyczne filmy na podstawie podpowiedzi tekstowych, a usunięcie logotypu w postprodukcji jest możliwe, co utrudnia weryfikację materiału.
Od premiery w październiku technologia wzbudza kontrowersje, ponieważ umożliwia tworzenie niezwykle realistycznych filmów AI, które są trudne do odróżnienia od prawdziwych nagrań i szybko rozprzestrzeniają się w mediach społecznościowych.