Czatbot AI Grok Elona Muska jest pod rosnącą presją m.in. ze strony UE, Wielkiej Brytanii, Indii i Francji. Powód: wykorzystywano go do tworzenia obrazów o treści seksualnej bez zgody.
Malezja i Indonezja zablokowały Groka, chatbota sztucznej inteligencji (AI) stworzonego przez xAI Elona Muska, po tym, jak władze stwierdziły, że narzędzie jest wykorzystywane do tworzenia obrazów o treści seksualnej, publikowanych bez zgody przedstawionych osób.
REKLAMA
REKLAMA
To pierwsze państwa, które zakazały tego narzędzia generatywnej AI. Decyzja odzwierciedla rosnące na świecie obawy, że potrafi ono tworzyć realistyczne obrazy, dźwięk i tekst, a obecne zabezpieczenia nie zapobiegają nadużyciom.
Do Groka można się dostać przez X, platformę społecznościową Muska. Chatbot był krytykowany za generowanie zmanipulowanych obrazów, m.in. przedstawiających kobiety w bikini lub w jednoznacznie seksualnych pozach, a także obrazy z udziałem dzieci.
Regulatorzy w obu państwach Azji Południowo-Wschodniej stwierdzili, że obecne mechanizmy nie powstrzymują tworzenia i rozpowszechniania sfałszowanych treści pornograficznych, zwłaszcza z udziałem kobiet i nieletnich. Rząd Indonezji w sobotę tymczasowo zablokował dostęp do Groka, a w niedzielę dołączyła Malezja.
W sobotnim oświadczeniu ministra łączności i spraw cyfrowych Indonezji, Meutya Hafid, powiedziała: „Rząd traktuje seksualne deepfake’i publikowane bez zgody jako poważne naruszenie praw człowieka, godności oraz bezpieczeństwa obywateli w przestrzeni cyfrowej”.
Ministerstwo poinformowało, że krok ma chronić kobiety, dzieci oraz szerszą społeczność przed fałszywymi treściami pornograficznymi tworzonymi z użyciem AI.
Jak przekazał w osobnym oświadczeniu Alexander Sabar, dyrektor generalny ds. nadzoru nad przestrzenią cyfrową, wstępne ustalenia wykazały, że Grok nie ma skutecznych zabezpieczeń, które powstrzymywałyby użytkowników przed tworzeniem i rozpowszechnianiem treści pornograficznych na bazie prawdziwych zdjęć mieszkańców Indonezji. Dodał, że takie praktyki naruszają prywatność i prawo do wizerunku, gdy zdjęcia są przerabiane lub udostępniane bez zgody, powodując szkody psychiczne, społeczne i wizerunkowe.
W Kuala Lumpur Malezyjska Komisja Komunikacji i Multimediów w niedzielę nakazała czasowe ograniczenie dostępu do Groka. Uzasadniła to „powtarzającym się nadużywaniem” narzędzia do tworzenia nieprzyzwoitych, jednoznacznie seksualnych i publikowanych bez zgody zmanipulowanych obrazów, w tym z udziałem kobiet i nieletnich.
Regulator poinformował, że pisma wysłane w tym miesiącu do X Corp. i xAI, wzywające do wprowadzenia mocniejszych zabezpieczeń, spotkały się z odpowiedziami opartymi głównie na mechanizmach zgłaszania przez użytkowników.
W komunikacie podkreślono: „Ograniczenie wprowadzono jako środek zapobiegawczy i proporcjonalny na czas trwania postępowań prawnych i regulacyjnych”. Dodano, że dostęp pozostanie zablokowany do czasu wdrożenia skutecznych zabezpieczeń.
Uruchomiony w 2023 roku Grok jest na X dostępny bezpłatnie. Użytkownicy mogą zadawać mu pytania na platformie oraz oznaczać nim posty, które sami zamieścili, lub odpowiedzi pod wpisami innych użytkowników. Latem firma dodała generator obrazów, Grok Imagine, z tzw. trybem spicy, który potrafi generować treści dla dorosłych.
Ograniczenia w Azji Południowo-Wschodniej pojawiają się w czasie narastającej uwagi regulatorów wobec Groka także w Unii Europejskiej, Wielkiej Brytanii, Indiach i Francji.
W ubiegłym tygodniu Grok ograniczył generowanie i edycję obrazów do użytkowników płacących, po globalnej fali oburzenia wywołanej seksualizowanymi deepfake’ami osób. Krytycy twierdzą jednak, że nie rozwiązało to problemu w pełni.