W ostatnich latach TikTok i YouTube zalewają słabej jakości, powtarzalne, chwilami brutalne treści tworzone przez AI dla dzieci, które, jak ostrzega nowe badanie, mogą szkodzić rozwojowi poznawczemu i sprzyjać agresji.
Treści typu „AI slop”, zwłaszcza generowane przez sztuczną inteligencję animowane filmiki z owocami, mogą przyczyniać się do poważnego pogorszenia funkcji poznawczych i nasilania skłonności do przemocy u dzieci – wynika z nowych badań.
REKLAMA
REKLAMA
Analiza Global Network on Extremism and Technology (GNET) wykazała, że animowane filmiki z owocami tworzone przez AI, masowo pojawiające się dziś w strumieniach treści dla dzieci na całym świecie, mogą służyć do niejawnego szerzenia „treści pełnych przemocy i ekstremizmu”.
Termin „AI slop” odnosi się do masowo produkowanych, bardzo powtarzalnych i niskiej jakości materiałów tworzonych przez sztuczną inteligencję, w których zazwyczaj niemal nie ma udziału człowieka. Priorytetem są wyświetlenia, kliknięcia, zaangażowanie i przychody z reklam, a ich produkcja jest bardzo tania.
W efekcie jeden twórca może przygotować setki takich krótkich filmów i zalać nimi wiele platform. Ponieważ liczne serwisy społecznościowe nagradzają stałą aktywność i częste publikacje, taka strategia bardzo skutecznie dociera do milionów dzieci na całym świecie.
To może sprzyjać pogorszeniu zdolności poznawczych, a nawet zjawisku określanemu jako „brain rot” – kulturowym i psychologicznym skutkom nadmiernego konsumowania szybkich, przestymulowujących i celowo pozbawionych sensu treści, często absurdalnych i opartych na nawyku niekończącego się przewijania ekranu oraz pogoni za natychmiastowym zastrzykiem dopaminy.
Do gwałtownego wzrostu tego typu treści generowanych przez AI w ostatnich latach przyczyniło się pojawienie tanich, łatwych w obsłudze i bardzo wygodnych aplikacji, takich jak PixVerse, VeoE.ai, Media.io czy Sora.
Jak „AI slop” sprzyja radykalizacji w sieci
Treści typu „AI slop” mogą po cichu rozpowszechniać w internecie materiały o charakterze radykalizującym poprzez filmy, które na pierwszy rzut oka wydają się nieszkodliwe, absurdalne, a nawet zabawne – jak animowane historie z udziałem owoców i warzyw.
Takie materiały często opowiadają dramatyczne historie o romansach, konfliktach domowych, zdradzie czy oszustwach. Te wątki przedstawiają pozornie niewinne, animowane owoce, ale fabuły potrafią być pełne agresji i przemocy emocjonalnej. Ich schematy narracyjne silnie pobudzają wrażliwych odbiorców.
W wielu przypadkach filmiki służą też do gloryfikowania, celebrowania i rozpowszechniania brutalnego ekstremizmu oraz zamachów terrorystycznych. Wykorzystują chwytliwą formę i „podczepiają się” pod popularne w sieci trendy i tematy.
Animowane „krwawe” historie z udziałem owoców i warzyw często pokazują tortury, skrajne okaleczenia i wyjątkowo realistyczną przemoc. Oswajają odbiorców z brutalnością, ukrywając ją pod przykrywką znajomych, kreskówkowych postaci.
Zdarza się, że pojawiają się w nich zabójstwa, ataki z licznymi ofiarami czy wyjątkowo brutalne morderstwa – na przykład owoc, który likwiduje inny owoc przy pomocy broni.
W wielu przypadkach filmy mają cechy wspólne z przekazem organizacji ekstremistycznych szerzących skrajną prawicową, nihilistyczną lub przemocową ideologię, a także z materiałami wykorzystywanymi przez kartele przestępcze.
Przykładem jest popularna postać o nazwie Carrot Khalifah, która w jednym z filmów mówi do armii, że „Państwo Marchewkowe znów powstanie”. To bezpośrednie nawiązanie do znanej ideologii i propagandy tzw. Państwa Islamskiego (IS).
Platformy takie jak TikTok co prawda wprowadzają zasady mające ograniczać publikowanie skrajnie brutalnych treści, jednak nie działają one w pełni skutecznie. Narzędzia generatywnej AI potrafią omijać te zabezpieczenia i ukrywać się pod pozorem niewinnych materiałów.