Na początku ubiegłego miesiąca Grok znalazł się w ogniu krytyki za tworzenie seksualnie jednoznacznych deepfake’ów kobiet i nieletnich.
Brytyjski organ nadzorujący ochronę danych wszczął we wtorek dochodzenie wobec X i xAI, aby sprawdzić, czy firmy Elona Muska przestrzegały przepisów o ochronie danych osobowych przy generowaniu przez chatbota AI Grok seksualizowanych deepfake’ów.
To element szerszego postępowania w sprawie Groka w Wielkiej Brytanii. Chatbot mierzy się z międzynarodową krytyką, bo pozwala użytkownikom tworzyć i udostępniać seksualizowane wizerunki kobiet i dzieci na podstawie prostych poleceń tekstowych.
„Doniesienia dotyczące Groka rodzą wyjątkowo niepokojące pytania o to, w jaki sposób dane osobowe ludzi zostały wykorzystane do generowania intymnych lub seksualizowanych wizerunków bez ich wiedzy i zgody oraz czy wprowadzono niezbędne zabezpieczenia, które miały temu zapobiec” – stwierdził w oświadczeniu William Malcolm, dyrektor wykonawczy ds. ryzyka regulacyjnego i innowacji w Biurze Komisarza ds. Informacji.
„Utrata kontroli nad danymi osobowymi w taki sposób może powodować natychmiastową i poważną szkodę. Dotyczy to szczególnie sytuacji, gdy ofiarami są dzieci”.
W ubiegłym miesiącu niezależny brytyjski regulator ds. bezpieczeństwa w sieci, Ofcom, wszczął formalne postępowanie wobec X, aby ustalić, czy platforma wywiązuje się z obowiązku ochrony użytkowników przed treściami, które są nielegalne.
Do chatbota, z którego można korzystać za pośrednictwem należącej do Muska platformy społecznościowej X, można było w ubiegłym miesiącu kierować ostre zarzuty, bo pozwalał użytkownikom generować seksualizowane deepfake’i, głównie z wizerunkami kobiet i małoletnich.
Rządy na całym świecie potępiły tę platformę i wszczęły własne dochodzenia w jej sprawie.
W ubiegłym tygodniu Komisja Europejska wszczęła dochodzenie w sprawie tej platformy społecznościowej, aby sprawdzić, czy zrobiła wystarczająco dużo, by ograniczyć ryzyko tworzenia i rozpowszechniania takich obrazów.