Chatbot od dwóch tygodni jest ostro krytykowany za tworzenie deepfake’ów o treści seksualnej z udziałem kobiet i nieletnich.
Chatbot AI Elona Muska, Grok, blokuje większości użytkowników generowanie i edycję obrazów. Stało się tak po globalnym oburzeniu, które wybuchło, gdy zaczął rozpowszechniać seksualizowane deepfake'i, głównie z wizerunkiem kobiet.
Do chatbota można się dostać przez platformę społecznościową Muska, X. W ostatnich tygodniach spełniał falę, jak oceniają badacze, złośliwych próśb o przeróbkę obrazów, m.in. dodawanie kobietom bikini czy przedstawianie ich w jednoznacznie seksualnych pozach.
Badacze ostrzegli, że w kilku przypadkach niektóre obrazy mogły przedstawiać dzieci.
Rządy na świecie potępiły platformę i wszczęły śledztwa.
W piątek Grok odpowiadał na prośby o przeróbkę obrazów komunikatem: „Generowanie i edycja obrazów są obecnie dostępne tylko dla płatnych subskrybentów. Możesz wykupić subskrypcję, aby odblokować te funkcje.”
Choć liczba subskrybentów Groka nie jest publicznie znana, widać wyraźny spadek liczby jednoznacznie seksualnych deepfake'ów generowanych przez narzędzie w porównaniu z wcześniejszymi dniami.
Wśród oficjalnych reakcji rządowych Unia Europejska ostro skrytykowała Groka za „nielegalne” i „odrażające” działania, a przedstawiciele władz we Francji, Indiach i Malezji oraz brazylijski parlamentarzysta wezwali do wszczęcia dochodzeń.
W czwartek premier Wielkiej Brytanii, Keir Starmer, zagroził bliżej nieokreślonymi działaniami wobec X.
„To haniebne. To obrzydliwe. I nie wolno na to pozwalać” – mówił Starmer w radiu Greatest Hits. „X musi nad tym zapanować.”
Powiedział, że brytyjski regulator mediów, Ofcom, „ma nasze pełne wsparcie, by podjąć działania”, oraz że „w grę wchodzą wszystkie opcje”.
„To obrzydliwe. X musi uporządkować sytuację i usunąć te treści. Podejmiemy działania, bo to po prostu nie do przyjęcia.”
Ofcom oraz brytyjski organ ds. ochrony prywatności poinformowały w tym tygodniu, że zwróciły się do X i do firmy sztucznej inteligencji Muska, xAI, o informacje na temat działań podjętych w celu przestrzegania brytyjskich przepisów.
Grok jest bezpłatny dla użytkowników X. Mogą zadawać mu pytania bezpośrednio na platformie, oznaczając go w swoich wpisach lub w odpowiedziach na posty innych użytkowników.
Grok wystartował w 2023 roku. Latem firma dodała funkcję generatora obrazów, Grok Imagine, z tzw. trybem „spicy”, który pozwalał tworzyć treści dla dorosłych.
Problem narasta, bo Musk przedstawia swojego chatbota jako ostrzejszą alternatywę wobec konkurentów z większymi zabezpieczeniami. A obrazy tworzone przez Groka są publicznie widoczne, więc łatwo rozprzestrzeniają się w internecie.