Formalne dochodzenie w sprawie X pojawia się po oburzeniu, że platforma nie zapobiega tworzeniu obrazów o charakterze seksualnym przedstawiających prawdziwe osoby - w tym dzieci.
Komisja Europejska wszczęła formalne dochodzenie w sprawie Groka, chatbota X, po tym, jak funkcja edycji obrazu wbudowanego narzędzia AI była szeroko wykorzystywana do "rozbierania zdjęć" prawdziwych kobiet i nieletnich dziewcząt bez ich zgody.
REKLAMA
REKLAMA
Jak po raz pierwszy doniósł Handelsblatt, dochodzenie będzie dotyczyło tego, czy platforma mediów społecznościowych zrobiła wystarczająco dużo, aby zmniejszyć ryzyko tworzenia i rozpowszechniania zdjęć.
Jeśli okaże się, że X naruszył unijne przepisy dotyczące platform internetowych zgodnie z ustawą o usługach cyfrowych (DSA), Komisja może nałożyć na firmę grzywnę w wysokości do 6 procent jej globalnego rocznego obrotu.
W grudniu ubiegłego roku Komisja Europejska ukarała sieć społecznościową Elona Muska grzywną w wysokości 120 milionów euro za stosowanie znaczników weryfikacji konta i praktyki reklamowe.
Obawy pojawiły się latem ubiegłego roku po tym, jak wbudowane w platformę narzędzie AI - Grok, zostało wzbogacone o płatną funkcję znaną jako "Spicy Mode", która pozwoliła użytkownikom zachęcić ją do tworzenia treści o charakterze jednoznacznym.
Elon Musk kpił z powstałego oburzenia w poście na swoim koncie X.
Na początku tego miesiąca, gdy na całym świecie narastało oburzenie związane z tą funkcją, rzecznik Komisji potępił ją w najostrzejszych słowach.
"To nie jest 'pikantne'" - powiedział. "To jest nielegalne. To jest przerażające. To jest obrzydliwe. Nie ma na to miejsca w Europie".
W odpowiedzi na gniew i niepokój, X ostatecznie wdrożył środki uniemożliwiające Grokowi edycję zdjęć prawdziwych ludzi w celu umieszczenia ich w skąpych ubraniach i sytuacjach jednoznacznie seksualnych - z ograniczeniami mającymi zastosowanie do wszystkich użytkowników, w tym płatnych subskrybentów.
X przekazał również, że seksualizowane zdjęcia dzieci zmienione przez Groka zostały usunięte z platformy, a użytkownicy zaangażowani w ich tworzenie zostali zbanowani.
"Podejmujemy działania przeciwko nielegalnym treściom na X, w tym materiałom przedstawiającym seksualne wykorzystywanie dzieci, usuwając je, trwale zawieszając konta i współpracując z lokalnymi władzami i organami ścigania w razie potrzeby" - napisano na koncie X Safety.
Nie jest to pierwszy raz, gdy Grok jest badany pod kątem podejrzeń o naruszenie prawa europejskiego. W listopadzie ubiegłego roku chatbot AI wygenerował treści negujące Holokaust.
Dochodzenia w sprawie chatbota platformy trwają obecnie we Francji, Wielkiej Brytanii i Niemczech, a także w Australii. Grok został całkowicie zakazany w Indonezji i Malezji.
Komisja stwierdziła, że wysłała wniosek o udzielenie informacji w ramach DSA i że nadal analizuje odpowiedź.