Postać AI stworzona na potrzeby edukacji została przekształcona w transgraniczny mem polityczny rozprzestrzeniający się w całej Europie, w dużej mierze kojarzony ze skrajnie prawicowymi i wprowadzającymi w błąd narracjami.
Niemal identyczne postacie wygenerowane przez sztuczną inteligencję pojawiły się w zakątkach X i Facebooka w całej Europie, promując antyimigracyjne i antyrządowe przesłania.
REKLAMA
REKLAMA
Wersje tej samej postaci zostały udostępnione online, takie jak holenderskojęzyczna "Emma", niemiecka "Maria" i irlandzka "Amelia".
Każda postać ma własne symbole narodowe i odniesienia polityczne. W Niemczech Maria nosi tradycyjny bawarski dirndl i wyraża swoją miłość do "zimnego piwa w naszym wiejskim pubie". Twierdzi, że jej rząd już jej nie chroni i wzywa "dzielnych rycerzy" do obrony jej ojczyzny przed muzułmańskimi imigrantami.
W Holandii stworzona przez AI Emma podkreśla, że Boże Narodzenie powinno być obchodzone "w tradycyjny sposób".
W Irlandii rudowłosa wersja postaci nazywa taoiseacha kraju, Micheála Martina, "rzecznikiem Brukseli". Podkreśla ona, że Bruksela zmusza Irlandię do posiadania "otwartych granic", mimo że kraj ten nie należy do strefy Schengen.
Pojedynczo filmy te przyciągnęły tysiące wyświetleń i interakcji, zwłaszcza na X.
Ten trend można prześledzić wstecz do najbardziej znanej wersji, która powstała pierwotnie w Wielkiej Brytanii. Tutaj Amelia, wygenerowana przez sztuczną inteligencję uczennica z fioletowymi włosami, stała się wiralem , a jej pierwszy post zgromadził ponad 1,4 miliona wyświetleń.
Wersje tej postaci rozprzestrzeniły się na Facebooku, Instagramie, X i Telegramie: Amelia pojawia się w komiksach manga oraz obok Harry'ego Pottera i rodziny królewskiej na cyfrowo wygenerowanych obrazach, zachęcając mieszkańców Wielkiej Brytanii do "odzyskania swojego kraju" w obliczu niekontrolowanej imigracji muzułmańskiej i niekompetentnego rządu.
Mało prawdopodobne pochodzenie Amelii
Organizacja, która stworzyła postać, na której opierają się wiralowe memy, twierdzi, że znaczna część narracji online otaczającej Amelię, wprowadza w błąd.
Początkowa wersja Amelii pojawiła się w Pathways, grze edukacyjnej opracowanej przez brytyjskie przedsiębiorstwo społeczne Shout Out UK we współpracy z lokalnymi władzami w Hull i East Riding of Yorkshire. Projekt został sfinansowany przez brytyjskie Ministerstwo Spraw Wewnętrznych w ramach programu zapobiegania ekstremizmowi.
Gra prosi uczniów o wybranie postaci, która jest następnie umieszczana w różnych scenariuszach online, w których są proszeni o dokonanie wyboru, jak reagować na posty, wiadomości i różne formy presji rówieśniczej.
Matteo Bergamini, dyrektor generalny Shout Out UK, wyjaśnił w rozmowie z The Cube (fact-checkingiem Euronews), że gra została stworzona pod koniec 2023 roku – w odpowiedzi na wnioski władz Hull i Yorkshire, że to właśnie internet stał się głównym miejscem radykalizacji nastolatków w wieku 13–18 lat.
"Zagrożenie pochodziło głównie z powstającego internetowego ekosystemu skrajnej prawicy" - powiedział Bergamini, dodając, że sama gra była ukierunkowana i ograniczona do obszarów w Wielkiej Brytanii.
Jak dodał, gra nie była przeznaczona do grania w izolacji i stanowiła część szerszego pakietu edukacyjnego zaprojektowanego w celu umożliwienia nauczycielom ułatwienia zniuansowanych dyskusji na temat niebezpiecznych i bezpiecznych zachowań.
Amelia w grze nie jest bohaterką ani wzorem do naśladowania, ale pomniejszą, epizodyczną postacią, która zachęca głównego bohatera do angażowania się w ryzykowne zachowania online.
Ponadto gra nie sugeruje, wbrew internetowym stwierdzeniom, aby nauczyciel skierował dziecko do Prevent, brytyjskiego programu rządowego, w celu kwestionowania masowej migracji.
Wygląda na to, że mem Amelia powstał w kręgach skrajnie prawicowych jako reakcja na to, co postrzegali jako karykaturę krytykującą ich poglądy przeciwko imigracji i "państwu opiekuńczemu".
The Cube skontaktował się z niektórymi twórcami mema, którzy jednak do czasu publikacji nie odpowiedzieli na wiadomość.
Ekstremalne wersje i monetyzacja
Większość memów związanych z Amelią, zwłaszcza na platformach głównego nurtu, takich jak X, jest stosunkowo nieszkodliwa. Zgodnie z przepisami ustawy o usługach cyfrowych (DSA) nie wymagałyby one usunięcia.
DSA wymaga od platform usuwania nielegalnych treści, takich jak mowa nienawiści, terroryzm i materiały związane z seksualnym wykorzystywaniem dzieci, a także określonych rodzajów szkodliwych reklam.
Jednak badacze, którzy śledzili szybki rozwój Amelii, twierdzą, że ekstremalne wersje tej postaci istnieją w niszowych społecznościach internetowych i aplikacjach takich jak Telegram.
Siddharth Venkataramakrishnan, analityk z londyńskiego think tanku Institute for Strategic Dialogue (ISD), powiedział, że mem został przyjęty przez szerokie spektrum społeczności internetowych, od tych, którzy używają go ironicznie, po niektóre z największych kont antyimigranckich.
Chociaż nie każda wersja postaci zawiera mowę nienawiści, istnieją wersje, które wykorzystują odczłowieczające i brutalne obrazy skierowane do określonych społeczności.
Shout Out UK twierdzi, że ich postać została "zmemifikowana i zseksualizowana" w Internecie przez prawicowych aktorów, a wielu z nich łączy ją z rasistowskim i antysemickim językiem, nazistowskimi i skrajnie prawicowymi tropami.
Organizacja twierdzi, że kampania wykroczyła poza przestrzeń internetową i doprowadziła do wysyłania gróźb i złośliwych wiadomości do jej pracowników.
Amelia stała się również narzędziem do monetyzacji. ISD zidentyfikowała konta promujące monety memowe o tematyce Amelii, co jest powszechnym trendem w wiralowych ruchach w mediach społecznościowych.
Mając to na uwadze, Venkataramakrishnan mówi, że nie jest jasne, które konta publikują memy Amelii dla przekazu politycznego, a które popychają je do zaangażowania nastawionego na zysk.
"Gdzie przebiega granica między wspieraniem czegoś z powodu ideologii a wspieraniem tego, ponieważ chcesz zarabiać pieniądze?" - powiedział.
Venkataramakrishnan wyjaśnił, że memy nacechowane emocjonalnie mają również większe szanse na zdobycie popularności w mediach społecznościowych, gdy zaangażowanie zacznie rosnąć. To wywołałoby szybkie rozprzestrzenianie się memów Amelii.