Czatbot AI Grok Elona Muska jest pod rosnącą presją m.in. ze strony UE, Wielkiej Brytanii, Indii i Francji. Powód: wykorzystywano go do tworzenia obrazów o treści seksualnej bez zgody.
Malezja i Indonezja zablokowały Groka, chatbota sztucznej inteligencji (AI) stworzonego przez xAI Elona Muska, po tym, jak władze stwierdziły, że narzędzie jest wykorzystywane do tworzenia obrazów o treści seksualnej, publikowanych bez zgody przedstawionych osób.
To pierwsze państwa, które zakazały tego narzędzia generatywnej AI. Decyzja odzwierciedla rosnące na świecie obawy, że potrafi ono tworzyć realistyczne obrazy, dźwięk i tekst, a obecne zabezpieczenia nie zapobiegają nadużyciom.
Do Groka można się dostać przez X, platformę społecznościową Muska. Chatbot był krytykowany za generowanie zmanipulowanych obrazów, m.in. przedstawiających kobiety w bikini lub w jednoznacznie seksualnych pozach, a także obrazy z udziałem dzieci.
Regulatorzy w obu państwach Azji Południowo-Wschodniej stwierdzili, że obecne mechanizmy nie powstrzymują tworzenia i rozpowszechniania sfałszowanych treści pornograficznych, zwłaszcza z udziałem kobiet i nieletnich. Rząd Indonezji w sobotę tymczasowo zablokował dostęp do Groka, a w niedzielę dołączyła Malezja.
W sobotnim oświadczeniu ministra łączności i spraw cyfrowych Indonezji, Meutya Hafid, powiedziała: „Rząd traktuje seksualne deepfake’i publikowane bez zgody jako poważne naruszenie praw człowieka, godności oraz bezpieczeństwa obywateli w przestrzeni cyfrowej”.
Ministerstwo poinformowało, że krok ma chronić kobiety, dzieci oraz szerszą społeczność przed fałszywymi treściami pornograficznymi tworzonymi z użyciem AI.
Jak przekazał w osobnym oświadczeniu Alexander Sabar, dyrektor generalny ds. nadzoru nad przestrzenią cyfrową, wstępne ustalenia wykazały, że Grok nie ma skutecznych zabezpieczeń, które powstrzymywałyby użytkowników przed tworzeniem i rozpowszechnianiem treści pornograficznych na bazie prawdziwych zdjęć mieszkańców Indonezji. Dodał, że takie praktyki naruszają prywatność i prawo do wizerunku, gdy zdjęcia są przerabiane lub udostępniane bez zgody, powodując szkody psychiczne, społeczne i wizerunkowe.
W Kuala Lumpur Malezyjska Komisja Komunikacji i Multimediów w niedzielę nakazała czasowe ograniczenie dostępu do Groka. Uzasadniła to „powtarzającym się nadużywaniem” narzędzia do tworzenia nieprzyzwoitych, jednoznacznie seksualnych i publikowanych bez zgody zmanipulowanych obrazów, w tym z udziałem kobiet i nieletnich.
Regulator poinformował, że pisma wysłane w tym miesiącu do X Corp. i xAI, wzywające do wprowadzenia mocniejszych zabezpieczeń, spotkały się z odpowiedziami opartymi głównie na mechanizmach zgłaszania przez użytkowników.
W komunikacie podkreślono: „Ograniczenie wprowadzono jako środek zapobiegawczy i proporcjonalny na czas trwania postępowań prawnych i regulacyjnych”. Dodano, że dostęp pozostanie zablokowany do czasu wdrożenia skutecznych zabezpieczeń.
Uruchomiony w 2023 roku Grok jest na X dostępny bezpłatnie. Użytkownicy mogą zadawać mu pytania na platformie oraz oznaczać nim posty, które sami zamieścili, lub odpowiedzi pod wpisami innych użytkowników. Latem firma dodała generator obrazów, Grok Imagine, z tzw. trybem spicy, który potrafi generować treści dla dorosłych.
Ograniczenia w Azji Południowo-Wschodniej pojawiają się w czasie narastającej uwagi regulatorów wobec Groka także w Unii Europejskiej, Wielkiej Brytanii, Indiach i Francji.
W ubiegłym tygodniu Grok ograniczył generowanie i edycję obrazów do użytkowników płacących, po globalnej fali oburzenia wywołanej seksualizowanymi deepfake’ami osób. Krytycy twierdzą jednak, że nie rozwiązało to problemu w pełni.