Posunięcie nastąpiło zaledwie kilka godzin po tym, jak miliarder oświadczył, że nie wie o istnieniu jakichkolwiek „nagich zdjęć nieletnich” wygenerowanych przez Grok.
Na platformie społecznościowej X opublikowano oświadczenie. Wynika z niego, że chatbot AI Elona Muska, Grok, nie będzie mógł edytować zdjęć tak, by przedstawiały prawdziwe osoby w skąpych strojach w krajach i regionach, gdzie jest to nielegalne.
Zapowiedź pojawiła się w środę późnym wieczorem po globalnej fali krytyki wywołanej seksualizowanymi wizerunkami kobiet i dzieci. Część rządów wprowadziła zakazy i wydała ostrzeżenia. Pojawiła się też zaledwie kilka godzin po tym, jak Musk stwierdził, że nie jest świadomy żadnych „nagich wizerunków nieletnich” stworzonych przez Groka.
Wśród reakcji było śledztwo, które w środę ogłosił stan Kalifornia. Dotyczy masowego rozpowszechniania materiałów o jednoznacznie seksualnym charakterze, tworzonych bez zgody osób przedstawionych, przy użyciu Groka.
Początkowo zapytania mediów o problem spotykały się jedynie z odpowiedzią: „tradycyjne media kłamią”.
Firma Muska, xAI, zapowiedziała teraz geoblokadę treści naruszających prawo w danym miejscu.
„Wdrożyliśmy rozwiązania techniczne, które uniemożliwiają edycję zdjęć prawdziwych osób w skąpych strojach, takich jak bikini, bielizna i inne odsłaniające ubrania”. Tak poinformowała xAI.
Zasada dotyczy wszystkich użytkowników, także płatnych subskrybentów, którzy mają dostęp do większej liczby funkcji.
xAI ograniczyła też tworzenie i edycję obrazów wyłącznie do płatnych subskrybentów, „aby osoby próbujące nadużywać konta Grok w celu łamania prawa lub naszych zasad można było pociągnąć do odpowiedzialności”.
„Spicy mode” Groka pozwalał użytkownikom tworzyć treści o jednoznacznie seksualnym charakterze, co wywołało sprzeciw rządów na całym świecie.
Malezja i Indonezja podjęły kroki prawne i zablokowały dostęp do Groka. Wielka Brytania oraz Unia Europejska prowadzą postępowania w sprawie możliwych naruszeń przepisów dotyczących bezpieczeństwa w internecie. Francja i Indie wydały ostrzeżenia, domagając się surowszych kontroli. Brazylia wezwała do wszczęcia śledztwa w sprawie nadużyć związanych z Grokiem.
Według władz Kalifornii funkcje edycji w Groku „ułatwiały masową produkcję intymnych deepfake’ów tworzonych bez zgody, wykorzystywanych do nękania kobiet i dziewcząt w internecie, także za pośrednictwem platformy społecznościowej X”.
Prokurator generalny stanu Kalifornia, Rob Bonta, powiedział: „Lawina zgłoszeń opisujących materiały o jednoznacznie seksualnym charakterze, tworzone przez xAI i publikowane w sieci w ostatnich tygodniach bez zgody osób przedstawionych, jest szokująca. Te treści, przedstawiające kobiety i dzieci nago lub w sytuacjach o jednoznacznie seksualnym charakterze, wykorzystywano do nękania ludzi w całym internecie”.
Dodał: „Nie tolerujemy tworzenia i rozpowszechniania za pomocą AI intymnych wizerunków bez zgody osób przedstawionych ani materiałów dotyczących wykorzystywania seksualnego dzieci”.