Jak UE planuje zakazać niekonsensualnych "aplikacji nagości"?

W dniu 7 maja współprawodawcy zgodzili się zakazać "aplikacji nagości" w ramach cyfrowego omnibusu dotyczącego sztucznej inteligencji. Te kontrowersyjne narzędzia mogą generować stworzone przez sztuczną inteligencję obrazy lub filmy o charakterze seksualnym, które "rozbierają" osoby bez ich zgody, budząc obawy o prywatność i etyczne wykorzystanie technologii.

REKLAMA

REKLAMA

Sztuczna inteligencja nowej generacji sprawia, że tworzenie syntetycznych treści staje się coraz bardziej przystępne cenowo i realistyczne. Około 8 milionów deepfake'ów było dostępnych online w 2025 r., a 90 procent treści internetowych ma być generowanych przez sztuczną inteligencję do 2026 r., wynika z badań przeprowadzonych przez Biuro Analiz Parlamentu Europejskiego.

Do tej pory prawo UE odnosiło się do deepfake'ów pośrednio, traktując je jako naruszenie prywatności i przejrzystości, wywołując apele o silniejszą ochronę w ramach całkowitego zakazu w całej UE.

"[...] postrzegano, że w prawie istnieje luka w odniesieniu do nich [deepfake'ów]. Dlatego też Omnibus był postrzegany jako okazja do zajęcia się tą kwestią", powiedział poseł Michael McNamara z Renew Europe w Parlamencie Europejskim i współsprawozdawca Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych.

Podczas gdy współprawodawcy muszą jeszcze formalnie zatwierdzić swoje stanowisko, Europa już daje wyraźny sygnał: "aplikacje nagości" są poważną formą cyfrowego wykorzystywania seksualnego, która musi zostać zakazana przed wejściem na rynek.

Czym jest "nagość"?

Aplikacje do "nagości", takie jak "rozbieracze", "narzędzia do nagości" i "zdejmowacze ubrań", manipulują zwykłymi zdjęciami, tworząc coraz bardziej realistyczne, seksualnie jednoznaczne obrazy ("deepfakes") przy użyciu generatywnej sztucznej inteligencji. Według obecnych szacunków, aż 96 procent z nich zostało stworzonych bez wiedzy osoby, której dotyczą.

Narzędzia te wykorzystują modele głębokiego uczenia się, rozpoznawanie obrazu i technologię rekonstrukcji ciała do syntezy realistycznie wyglądających obrazów w oparciu o oświetlenie, pozę i odcień skóry oryginalnego zdjęcia. Zasadniczo śledzą lub dedukują kształt obiektu poprzez jego ubrania i wymyślają nagie ciało, które pasuje.

Technologia ta jest dostępna za pośrednictwem wielu aplikacji mobilnych - App Store hostował aplikacje takie jak "DeepNude" i "ClothOff" - wyspecjalizowanych stron internetowych i zautomatyzowanych botów na platformach takich jak Telegram, często sprzedawanych jako "sztuka AI" lub rozrywka.

X Elona Muska sprawił, że dostęp do tych aplikacji był niezwykle łatwy; na początku stycznia 2026 r. chatbot Grok tworzył około 6 700 seksualizowanych obrazów na godzinę, z których dziesiątki dotyczyły dzieci.

Komisja Europejska wszczęła formalne dochodzenie w sprawie przepisów bezpieczeństwa cyfrowego Groka, a reakcja spowodowała, że X wprowadził ograniczenia. Teraz generowanie obrazów prawdziwych ludzi w "odsłaniających ubraniach" jest zablokowane w niektórych krajach. Funkcja ta jest ograniczona do płatnych subskrybentów - chociaż użytkownicy witryny nadal znajdują sposoby na oszukanie sztucznej inteligencji za pomocą podpowiedzi.

Narzędzia te zamieniają generatywną sztuczną inteligencję w ukierunkowany instrument nękania i cyfrowego wykorzystywania, pozbawiając podmiot autonomii cielesnej. Treści bez zgody bezpośrednio naruszają podstawowe prawa do prywatności i podważają cyfrowe standardy etyczne. Programy te są coraz częściej klasyfikowane jako technologie drapieżne.

"Istnieją pewne praktyki, które nie są żartami. Tu chodzi o ludzi. A w tej bitwie godność zawsze powinna być po zwycięskiej stronie", powiedział niemiecki eurodeputowany Zielonych Sergey Lagodinsky.

Narzędzia te powodują cierpienie psychiczne i szkody dla reputacji ofiar: badanie UNICEF z 2026 r. przeprowadzone w 11 krajach ujawniło, że w 2025 r. co najmniej 1,2 miliona dzieci zostało zmanipulowanych w celu sfałszowania ich wizerunku. W badaniu z tego samego roku zauważono, że groźby publikowania niekonsensualnych, jednoznacznie seksualnych mediów zwiększają prawdopodobieństwo planów samobójczych, prób i samookaleczeń.

Narzędzia te są również nieproporcjonalnie ukierunkowane na kobiety i dziewczęta, które stanowią 99 procent ofiar deepfake. Od 2024 r. przyczyniły się one do 26,385-procentowego wzrostu liczby generowanych zdjęć przedstawiających seksualne wykorzystywanie dzieci (CSAM) oraz do wzrostu liczby przestępstw, takich jak sekstorcja i szantaż.

Jak działa zakaz

Wstępne porozumienie z 7 maja jest wymierzone we wszystkich twórców sztucznej inteligencji, zakazując wszelkich systemów zaprojektowanych specjalnie do generowania tego rodzaju treści (w tym obrazów, wideo i audio).

Nakłada ono na twórców wielkoskalowych modeli sztucznej inteligencji bezpośrednią odpowiedzialność, jeśli ich systemy są wykorzystywane do tworzenia nagich zdjęć bez wyrażenia zgody. Firmy te muszą teraz wbudować stałe bloki bezpieczeństwa w swoje podstawowe oprogramowanie, aby uniemożliwić użytkownikom ich generowanie.

Zakazuje również realistycznego przedstawiania części intymnych i aktów o charakterze jednoznacznie seksualnym.

Zakaz wpłynie na dostawców, każdą firmę, która umieszcza te systemy na rynku UE lub oferuje je ludziom w bloku. Wpływa na organizacje, które używają lub hostują te oprogramowanie i zezwalają na treści bez zgody, a co najważniejsze, na użytkowników przyłapanych na wykorzystywaniu sztucznej inteligencji do generowania tego rodzaju treści.

UE przenosi główny ciężar odpowiedzialności z indywidualnych użytkowników końcowych na firmy tworzące modele. Jak powiedział Lagodinsky, "nie możemy tutaj wymusić ludzkiego zachowania. Działamy więc przeciwko samej technologii".

Dostawcy są teraz zmuszeni do oceny każdego "możliwego do przewidzenia niewłaściwego użycia" ich technologii, zanim dotrze ona do opinii publicznej. Muszą wdrożyć środki, aby uniemożliwić użytkownikom omijanie filtrów za pomocą sprytnych podpowiedzi lub drobnych zmian obrazu. Aby zapewnić zgodność, AI Office będzie monitorować, czy te zabezpieczenia są zintegrowane z podstawową architekturą modelu.

"Platformy ograniczyłyby dostęp do niektórych podpowiedzi i określonych zachowań, tak jak ChatGPT lub Grok już teraz twierdzą, że niektóre żądania są niedopuszczalne", powiedział Lagodinsky.

"Procesy legislacyjne są znacznie wolniejsze niż innowacje. Będziemy w stanie sobie z tym poradzić tylko wtedy, gdy będziemy mieć pryncypialny sposób regulacji oparty na ryzyku. Dlatego na przykład Komisja ma możliwość dodania niektórych nowych technologii jako technologii ryzykownych w ustawie o sztucznej inteligencji", dodał.

Jeśli firma nie wdroży tych zasad, grożą jej surowe działania egzekucyjne zgodnie z ramami ustawy o sztucznej inteligencji. Kary za nieprzestrzeganie przepisów są wysokie, a grzywny sięgają 35 milionów euro lub 7 procent całkowitego globalnego obrotu firmy.

Porozumienie upoważnia również władze krajowe do całkowitego wycofania niebezpiecznych produktów AI z rynku UE. Do 2 grudnia 2026 r. wszyscy dostawcy muszą udowodnić, że ich systemy spełniają te standardy bezpieczeństwa, w przeciwnym razie grożą im sankcje finansowe. Nadzór ten dotyczy zarówno firm z siedzibą w UE, jak i międzynarodowych deweloperów, którzy oferują swoje usługi AI mieszkańcom Europy.

Instrumenty prawne przed wprowadzeniem zakazu

"Nie sądzę, by decydenci polityczni koniecznie nie docenili tego [rozwoju sztucznej inteligencji]. Z pewnością do tej pory brakowało pewności prawnej" - powiedział McNamara.

Przed wprowadzeniem zakazu UE określała deepfake'i i "nudyfikację" przede wszystkim jako kwestie dotyczące treści oraz naruszenia prywatności i przejrzystości. Chociaż żadne pojedyncze prawo nie zabraniało tych działań, połączenie przepisów dotyczących ochrony danych, praw do wizerunku, prywatności i odpowiedzialności platformy regulowało je jako sztuczną inteligencję ogólnego przeznaczenia (GPAI) lub systemy o ograniczonym ryzyku.

"Jedną z kluczowych kwestii spornych było [...] to, czy regulować, czy nie regulować [treści generowane przez sztuczną inteligencję], przy czym obecna administracja Stanów Zjednoczonych opowiada się za podejściem "hands-off"", McNamara powiedział Euronews.

Ustawa o usługach cyfrowych (DSA) jest kluczową regulacją dla platform internetowych. Służy jednak jako narzędzie reaktywne, wymagając od bardzo dużych platform internetowych (VLOP) zajmowania się nielegalnymi treściami i dezinformacją poprzez usuwanie deepfake'ów dopiero po ich wykryciu. Nakłada również obowiązek stosowania mechanizmów powiadamiania o deepfake'ach i innych środków mających na celu ograniczenie ryzyka systemowego wynikającego z ich platform.

Obecne przepisy AI Act dotyczące deepfake'ów nie zapobiegają tworzeniu lub udostępnianiu obrazów bez zgody użytkowników. Wymagają one jedynie od dostawców ujawnienia wykorzystania sztucznej inteligencji w tworzeniu treści online, a od użytkowników wyraźnego oznaczania treści syntetycznych. Nie przewidziano również zadośćuczynienia dla ofiar. Ustawa traktuje intymne obrazy bez zgody (NCII) i materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM) pod względem przejrzystości, pozostawiając znaczną swobodę dostawcy zgodnie z Kodeksem postępowania GPAI.

Ogólne rozporządzenie o ochronie danych (RODO) to ogólne rozporządzenie dotyczące prywatności, które nie jest specjalnie dostosowane do treści syntetycznych. Odnosi się ono do niezgodnego z prawem przetwarzania danych osób fizycznych, nie zakazując deepfake'ów w ich istniejącej formie ani nie tworząc środków zaradczych skoncentrowanych na ofiarach. Niesensualne zdjęcia intymne prowadzą do upokorzenia i utraty reputacji, co wymaga środków zaradczych wykraczających poza ochronę danych, w tym nękania, zniesławienia i prawa karnego.

Dyrektywa UE 2024/1385 w sprawie przemocy wobec kobiet w internecie i poza nim uznaje przemoc ze względu na płeć uwarunkowaną technologicznie (TFGBV) za przestępstwo. Obejmują one narzędzia cyfrowe do monitorowania, nękania i uciszania kobiet i dziewcząt. Gwarantując ochronę prawną przed fałszywymi treściami seksualnymi, tekst nie jest ukierunkowany konkretnie na aplikacje do nagości.