Globalna rozprawa: te państwa ograniczają działanie Groka lub go krytykują z powodu deepfake'ów o treści seksualnej tworzonych bez zgody.
Rządy na całym świecie szybko podejmują działania, by okiełznać Groka, chatbota AI Elona Muska, w obliczu rosnących obaw, że generuje fałszywe, jednoznacznie seksualne obrazy.
Zeszłego lata xAI, spółka rozwijająca Groka, dodała generator obrazów z trybem „spicy”, który umożliwiał tworzenie treści dla dorosłych.
W ostatnich tygodniach Grok odpowiadał na polecenia użytkowników, aby „rozebrać” kobiety na zdjęciach lub „ubrać” je w bikini, tworząc deepfaki bez jakichkolwiek zabezpieczeń.
W Azji Południowo-Wschodniej wprowadzono pełne blokady, w Europie i Australii toczą się postępowania karne i padają ostrzeżenia regulatorów. Władze mówią, że obecne zabezpieczenia nie działają.
Oto kraje, które zablokowały Groka lub wydały ostrzeżenia.
Które kraje zablokowały Groka?
Indonezja
Indonezja jako pierwsza czasowo zablokowała Groka, aby chronić kobiety, dzieci i całe społeczeństwo przed fałszywymi, pornograficznymi treściami generowanymi przez AI.
Minister ds. łączności i spraw cyfrowych Indonezji, Meutya Hafid, przekazała w sobotnim oświadczeniu: „Rząd traktuje seksualne deepfaki tworzone bez zgody jako poważne naruszenie praw człowieka, godności oraz bezpieczeństwa obywateli w przestrzeni cyfrowej”.
Ograniczenia wobec Groka to „prewencyjny” środek, w czasie gdy władze oceniają, czy platforma jest bezpieczna, podała Krajowa Policja Indonezji.
Jak przekazał w oświadczeniu Alexander Sabar, dyrektor generalny ds. nadzoru nad przestrzenią cyfrową w Indonezji, wstępne ustalenia wskazują, że Grok nie ma skutecznych zabezpieczeń powstrzymujących tworzenie i rozpowszechnianie treści pornograficznych na bazie prawdziwych zdjęć mieszkańców Indonezji.
Według Sabara takie praktyki niosą ryzyko naruszenia prywatności i prawa do wizerunku, gdy zdjęcia są manipulowane lub udostępniane bez zgody. Powodują szkody psychiczne, społeczne i wizerunkowe.
Malezja
Malezyjska Komisja ds. Komunikacji i Multimediów (MCMC) nakazała w niedzielę tymczasową blokadę Groka po tym, jak stwierdziła „wielokrotne nadużycia” narzędzia do tworzenia obscenicznych, jednoznacznie seksualnych oraz manipulowanych bez zgody obrazów.
Regulator poinformował, że w tym miesiącu wysłał do X i xAI dwa wezwania, domagając się mocniejszych zabezpieczeń. W odpowiedziach X przekazał, że Grok w dużej mierze polega na zgłoszeniach użytkowników dotyczących nadużyć.
MCMC uznała, że X „nie zajął się wrodzonymi ryzykami” związanymi z projektem i działaniem swojej platformy AI, co jest niewystarczające w świetle prawa Malezji.
„Ograniczenie wprowadzono jako środek prewencyjny i proporcjonalny na czas trwających procesów prawnych i regulacyjnych”, poinformowano, dodając, że dostęp pozostanie zablokowany do czasu wdrożenia skutecznych zabezpieczeń.
Jak zareagowały inne państwa?
Unia Europejska
Komisja Europejska poinformowała, że przygląda się przypadkom tworzenia przez Groka sugestywnych i jednoznacznie seksualnych wizerunków młodych dziewcząt.
Rzecznik Komisji powiedział w ubiegłym tygodniu w Brukseli: „Mogę z tego miejsca potwierdzić, że Komisja bardzo poważnie przygląda się tej sprawie”.
Reuters podał, że Komisja nakazała X zachować do końca roku wszystkie dokumenty dotyczące Groka, aby UE mogła ocenić, czy platforma spełnia unijne przepisy.
Rzecznik Komisji zastrzegł w rozmowie z Reutersem, że nie oznacza to wszczęcia formalnego postępowania.
Ursula von der Leyen, przewodnicząca Komisji Europejskiej, powiedziała w wywiadzie dla włoskiego dziennika Corriere della Sera, że jest „oburzona, iż platforma technologiczna pozwala użytkownikom cyfrowo rozbierać w internecie kobiety i dzieci”.
Nie wymieniając wprost X ani Groka, von der Leyen podkreśliła, że Komisja „nie będzie zlecać ochrony dzieci i kwestii zgody Dolinie Krzemowej. Jeśli oni nie zareagują, zrobimy to my”.
Wielka Brytania
Brytyjski regulator mediów wszczął dochodzenie wobec X, spółki-matki xAI, oraz platformy społecznościowej Muska, w związku z używaniem Groka do tworzenia jednoznacznie seksualnych obrazów bez zgody.
Ofcom oświadczył, że napłynęły „budzące głęboki niepokój doniesienia” o wykorzystywaniu chatbota do tworzenia i udostępniania „rozebranych” wizerunków osób, a także „seksualizowanych wizerunków dzieci”.
Regulator może też wystąpić do sądu o nakaz dla dostawców internetu, by zablokowali dostęp do Groka, jeśli X nie zastosuje się do wymogów Ofcomu.
X grozi kara do 10 proc. globalnych przychodów lub 18 mln funtów (20 mln euro).
_“_Treści, które krążą na X, są odrażające. To nie tylko policzek dla porządnego społeczeństwa, to jest nielegalne”, powiedziała w parlamencie sekretarz ds. technologii, Liz Kendall.
Francja
Prokuratura w Paryżu na początku stycznia rozszerzyła śledztwo dotyczące X o Groka, jak poinformowały lokalne media.
Pierwotne postępowanie, prowadzone od lipca ubiegłego roku, koncentrowało się na podejrzeniu zorganizowanej ingerencji w systemy komputerowe X i nielegalnym pozyskiwaniu danych.
Decyzję o rozszerzeniu śledztwa podjęto w tym tygodniu po tym, jak pięcioro polityków oskarżyło platformę o tworzenie i rozpowszechnianie fałszywych, jednoznacznie seksualnych nagrań z udziałem nieletnich, podał francuski dziennik Le Parisien.
Gazeta podała, że francuski regulator audiowizualny i cyfrowy (Arcom) bada możliwe naruszenia przez X Aktu o usługach cyfrowych, unijnego rozporządzenia dotyczącego usług cyfrowych.
Włochy
8 stycznia włoski Urząd Ochrony Danych Osobowych (Garante) ostrzegł, że osoby używające Groka lub innych platform AI do usuwania ubrań ze zdjęć oraz te, które rozpowszechniają takie obrazy, narażają się na zarzuty karne.
Wykorzystywanie tych narzędzi bez zgody osoby ze zdjęcia może zostać uznane za „poważne naruszenie podstawowych praw i wolności osób, których to dotyczy”, podał urząd.
Urząd przypomniał też Grokowi i innym dostawcom AI, że muszą projektować, rozwijać i udostępniać produkty zgodne z przepisami o prywatności.
Włoski regulator poinformował, że współpracuje z irlandzką Komisją Ochrony Danych, wiodącym organem nadzorczym dla X, ponieważ siedziba firmy mieści się w Irlandii.
W październiku włoski urząd zablokował ClothOff, inną platformę AI, która usuwa ubrania. Umożliwiała każdemu, w tym nieletnim, tworzenie zdjęć i filmów przedstawiających prawdziwe osoby nago lub w pozycjach seksualnych.
We wrześniu Włochy dodały nowy przepisdo swojego kodeksu karnego, przewidujący do pięciu lat więzienia za rozpowszechnianie deepfaków tworzonych przez AI.
Niemcy
Niemcy zapowiedziały, że wkrótce przedstawią „konkretną propozycję” nowej ustawy przeciw przemocy cyfrowej.
Rzeczniczka niemieckiego ministerstwa sprawiedliwości, Anna-Lena Beckfeld, mówiła w styczniu podczas konferencji, że planowana ustawa o przemocy cyfrowej ma wesprzeć ofiary tego „rodzaju przemocy cyfrowej”, ułatwiając im „bezpośrednie dochodzenie swoich praw w sieci”.
Zapytana wprost o Groka, Beckfeld stwierdziła, że „nie do zaakceptowania jest wykorzystywanie manipulacji na szeroką skalę do systemowych naruszeń dóbr osobistych”.
„Dlatego chcemy, by ostrzej reagowano na to w ramach prawa karnego”, dodała.
W 2025 roku trzy główne niemieckie partie uzgodniły reformę przepisów o cyberprzestępczości i zamknięcie „luk” w kodeksie karnym dotyczących przestępstw związanych ze sztuczną inteligencją, takich jak generowanie seksualnych obrazów przez AI, wynika z umowy koalicyjnej.
Australia
W styczniu biuro australijskiego komisarza ds. bezpieczeństwa w sieci poinformowało, że w ostatnich tygodniach otrzymało niewielką, ale rosnącą liczbę zgłoszeń dotyczących seksualnych treści AI tworzonych przez Groka.
Urząd zapowiedział, że w razie naruszeń ustawy o bezpieczeństwie w sieci skorzysta ze swoich uprawnień, w tym z nakazów usunięcia treści, które mogą zobowiązać serwis społecznościowy do zdjęcia problematycznych materiałów.
Urząd zwrócił się już do X o więcej informacji na temat nadużyć związanych z seksualnymi funkcjami Groka oraz o ocenę, czy firma przestrzega nowego australijskiego prawa dotyczącego mediów społecznościowych.
Przypomniał też Grokowi, że od 9 marca usługi online, w tym firmy AI, będą musiały blokować dzieciom dostęp do treści o charakterze seksualnym, przemocy lub innych szkodliwych.