Władze podały, że Grok był nadużywany do generowania seksualnie jednoznacznych obrazów AI bez zgody.
Malezyjskie władze poinformowały we wtorek, że podejmą kroki prawne przeciwko platformie społecznościowej X Elona Muska oraz jej jednostce sztucznej inteligencji xAI. Zarzucają tym firmom, że nie zapewniły bezpieczeństwa użytkownikom chatbota Grok.
REKLAMA
REKLAMA
Decyzja zapadła zaledwie kilka dni po tym, jak Malezja i Indonezja jako pierwsze kraje zablokowały dostęp do Groka, a rosną obawy, że jest nadużywane do generowania seksualnie wyraźnych obrazów publikowanych bez zgody.
Malezyjska Komisja Komunikacji i Multimediów przekazała w oświadczeniu, że wykryła wykorzystywanie Groka do tworzenia i rozpowszechniania szkodliwych treści, w tym seksualnie wyraźnych, nieprzyzwoitych i skrajnie obraźliwych materiałów, a także zmanipulowanych obrazów udostępnianych bez zgody.
Komisja poinformowała, że w tym miesiącu wysłała do X i xAI wezwania do usunięcia szkodliwych treści, ale nie podjęto żadnych działań.
„Treści rzekomo dotyczące kobiet i dzieci budzą poważne obawy. Takie postępowanie jest sprzeczne z prawem Malezji i podważa zobowiązania dotyczące bezpieczeństwa”, poinformowano. Komisja wyznaczyła adwokata i zapowiedziała, że wkrótce rozpocznie postępowanie.
Rośnie kontrola nad narzędziami generatywnej sztucznej inteligencji, które potrafią tworzyć realistyczne obrazy, dźwięk i tekst. Narasta też obawa, że obecne zabezpieczenia nie zapobiegają nadużyciom.
Grok, uruchomiony w 2023 roku, jest na X dostępny za darmo. W ubiegłym roku dodano funkcję generatora obrazów, Grok Imagine, z tzw. trybem spicy, który może tworzyć treści dla dorosłych. Grok był krytykowany za generowanie zmanipulowanych obrazów, m.in. przedstawiających kobiety w bikini lub w erotycznych pozach, a także materiałów z udziałem dzieci.
Na Groka rośnie presja w Unii Europejskiej, Indiach i Zjednoczonym Królestwie. W poniedziałek Zjednoczone Królestwo zapowiedziało penalizację tzw. „nudification apps”. Brytyjski regulator mediów wszczął też dochodzenie, czy Grok złamał prawo, pozwalając użytkownikom udostępniać seksualizujące wizerunki dzieci.
W ubiegłym tygodniu Grok ograniczył generowanie i edycję obrazów do użytkowników płacących po globalnej fali oburzenia na seksualizujące deepfake’i, ale krytycy twierdzą, że to nie rozwiązuje problemu.
Musk i jego firmy nie skomentowali publicznie ograniczeń w Azji Południowo-Wschodniej. xA1 wysyła automatyczne odpowiedzi na pytania mediów, w których czytamy: „Legacy Media Lies.”