Rzecznik Komisji Europejskiej oświadczył, że instytucja „bardzo poważnie przygląda się” sprawie generowania przez Groka – model AI zintegrowany z platformą X – seksualnie sugestywnych zdjęć dziewcząt, w tym także nieletnich.
Komisja Europejska ogłosiła, że bada przypadki seksualnie sugestywnych i jednoznacznych zdjęć młodych dziewcząt generowanych przez Grok, chatbota AI zintegrowanego z platformą mediów społecznościowych X, po wprowadzeniu latem ubiegłego roku płatnej funkcji znanej jako "Spicy Mode".
"Mogę potwierdzić z tego podium, że Komisja również bardzo poważnie przygląda się tej sprawie" - powiedział rzecznik Komisji Europejskiej Thomas Regnier dziennikarzom w Brukseli w poniedziałek.
"To nie jest 'pikantne'. To jest nielegalne. To jest przerażające. To obrzydliwe. Nie ma na to miejsca w Europie".
W niedzielę, w odpowiedzi na rosnący gniew i zaniepokojenie obrazami, platforma mediów społecznościowych poinformowała, że obrazy zostały usunięte z platformy, a zaangażowani użytkownicy zostali zbanowani.
"Podejmujemy działania przeciwko nielegalnym treściom na X, w tym materiałom przedstawiającym seksualne wykorzystywanie dzieci (CSAM), usuwając je, trwale zawieszając konta i współpracując z lokalnymi władzami i organami ścigania w razie potrzeby" - napisano na koncie X Safety.
Podobne dochodzenia zostały wszczęte we Francji, Malezji i Indiach.
Komisja Europejska odniosła się również do epizodu z listopada ubiegłego roku, w którym Grok wygenerował treści negujące Holokaust. Komisja stwierdziła, że wysłała wniosek o udzielenie informacji na podstawie unijnej ustawy o usługach cyfrowych (DSA) i że obecnie analizuje odpowiedź.
W grudniu X został ukarany grzywną w wysokości 120 milionów euro na mocy DSA za obsługę znaczników weryfikacji konta i politykę reklamową.
"Myślę, że X doskonale zdaje sobie sprawę, że bardzo poważnie podchodzimy do egzekwowania DSA. Zapamiętają grzywnę, którą od nas otrzymali" - powiedział rzecznik Komisji Europejskiej.