Od tego tygodnia unijna ustawa o sztucznej inteligencji wymaga oznaczania deepfake’ów i treści generowanych przez AI. Eksperci ostrzegają, że luki techniczne i brak wspólnych standardów mogą podważyć skuteczność egzekwowania przepisów.
Od najbliższej niedzieli firmy działające w branży sztucznej inteligencji zostaną objęte nowymi obowiązkami wynikającymi z unijnego aktu o AI. Będą musiały wyraźnie oznaczać deepfake'i i inne treści tworzone przez sztuczną inteligencję tak, by były rozpoznawalne jako wygenerowane.
REKLAMA
REKLAMA
Jednak wyzwania techniczne budzą wątpliwości, na ile te przepisy okażą się skuteczne.
Dwa lata temu Unia Europejska przyjęła szeroki pakiet przepisów regulujących sztuczną inteligencję i powołała specjalne Biuro ds. AI, które nadzoruje wdrażanie tego przełomowego aktu o sztucznej inteligencji.
Wśród wielu zapisów Akt o sztucznej inteligencji wprowadza pierwsze na świecie zasady przejrzystości dla mediów syntetycznych. Zobowiązuje dostawców systemów generatywnej AI, takich jak Claude Anthropic czy ChatGPT firmy OpenAI, do tego, by sztucznie tworzone lub modyfikowane treści dało się wykryć jako takie.
Przepisy są bardziej rygorystyczne w przypadku deepfake'ów – realistycznych obrazów, nagrań audio i wideo tworzonych lub przerabianych przez AI, które naśladują wygląd, głos czy zachowanie prawdziwej osoby w taki sposób, że odbiorcy mogą uwierzyć, iż powiedziała lub zrobiła coś, co nigdy nie miało miejsca.
Od satyry do manipulacji
Jak każdą technologię, sztuczną inteligencję można wykorzystywać zarówno w twórczy, jak i szkodliwy sposób.
Bruksela przyznaje, że nie każda treść syntetyczna ma charakter wprowadzający w błąd. Materiały powstające w wyraźnie artystycznych, kreatywnych, satyrycznych lub fikcyjnych celach zasadniczo nie podlegają obowiązkowi ujawniania deepfake'ów.
Znanym przykładem jest sytuacja z 2023 roku, gdy wygenerowany przez AI obraz papieża Franciszka w modnej białej kurtce puchowej obiegł cały świat. Zdjęcie było fałszywe, ale większość odbiorców potraktowała je jako żart.
Tę samą technologię można jednak wykorzystać w znacznie groźniejszy sposób.
W 2024 roku światowa gwiazda pop Taylor Swift stała się celem fali wyraźnych, wygenerowanych przez AI zdjęć, które bez jej zgody rozprzestrzeniły się w sieci i na nowo rozpaliły debatę o zagrożeniach związanych z mediami syntetycznymi.
Deepfake'i stały się też narzędziem manipulacji politycznej.
W 2022 roku, krótko po rozpoczęciu przez Rosję pełnoskalowej inwazji na Ukrainę, w sieci pojawiło się fałszywe nagranie przedstawiające prezydenta Ukrainy Wołodymyra Zełenskiego, który wzywa żołnierzy do kapitulacji. Wideo szybko zdementowano, ale pokazało ono, jak łatwo media syntetyczne można zamienić w broń na czas wojny.
Obawy dotyczą tego, że coraz bardziej realistyczne treści tworzone przez AI, dodatkowo wzmacniane przez platformy społecznościowe, utrudnią obywatelom odróżnianie prawdziwych informacji od materiałów sfabrykowanych.
Regulowanie deepfake'ów
By zmierzyć się z tym wyzwaniem, Komisja Europejska opracowała dobrowolny kodeks postępowania. Wyznacza on ramy, które określają, w jaki sposób firmy powinny ujawniać sztuczne pochodzenie treści syntetycznych – poprzez znaczniki odczytywane przez maszyny oraz widoczne oznaczenia deepfake'ów.
Założenie jest proste: odbiorcy powinni wiedzieć, kiedy mają do czynienia z treścią wygenerowaną lub przerobioną przez AI. Dlatego przepisy obejmują zarówno firmy rozwijające tę technologię, jak i podmioty korzystające z niej zawodowo, natomiast użycie prywatne pozostaje poza zakresem regulacji.
Kodeks postępowania dotyczy nie tylko samego oznaczania treści, lecz także powiązanych mechanizmów ich wykrywania. Wymaga to współpracy wszystkich zaangażowanych stron: firm tworzących AI, platform społecznościowych, organizacji społeczeństwa obywatelskiego i zespołów zajmujących się weryfikacją faktów.
Trudniejsze pytanie brzmi, czy technologia faktycznie będzie w stanie wiarygodnie spełnić tę obietnicę.
Jedne przepisy, wiele przeszkód
Pierwsze wyzwanie ma charakter geograficzny. Unia Europejska może regulować działalność firm działających na europejskim rynku lub go obsługujących, ale treści publikowane w internecie nie zatrzymują się na granicach. Deepfake stworzony poza Europą wciąż może w kilka minut dotrzeć do milionów europejskich użytkowników.
Drugie wyzwanie dotyczy dojrzałości technicznej. Najwięksi gracze w branży AI, tacy jak OpenAI i Google, generalnie popierają wymogi przejrzystości i podpisali kodeks postępowania Komisji. Jednocześnie ostrzegają jednak, że technologie oznaczania i wykrywania takich treści ciągle się zmieniają i trudno za nimi nadążyć.
Obecnie nie ma jednego, powszechnie przyjętego rozwiązania. Firmy testują różne podejścia: znakowanie wodne, wykorzystanie metadanych czy systemy potwierdzające pochodzenie treści. Te narzędzia nie zawsze są ze sobą kompatybilne ani ze sobą współpracują.
Trzecie wyzwanie polega na tym, że cyfrowe ślady są nietrwałe. Eksperci podkreślają, że znaki wodne można usuwać, zmieniać lub tracić przy edycji, kompresji czy udostępnianiu materiałów na kolejnych platformach. Odzyskanie pełnej historii wygenerowanego przez AI obrazu lub filmu po wielu przeróbkach bywa niezwykle trudne.
Z powodu tych ograniczeń badacze przekonują, że jedna technologia nie wystarczy. Firmy mogą potrzebować podejścia wielowarstwowego, które łączy kilka metod naraz.
„Połączenie różnych rozwiązań jest skuteczniejsze niż pojedynczy środek. Dlatego dobrą praktyką jest stosowanie wielu warstw oznaczania i wykrywania treści generowanych przez AI” – stwierdzono w technicznym studium Komisji Europejskiej poświęconym temu zagadnieniu.
Nadążyć za technologią
Unia Europejska odgrywa wiodącą rolę w mierzeniu się z jednym z kluczowych wyzwań epoki sztucznej inteligencji: światem, w którym treści syntetyczne coraz trudniej odróżnić od rzeczywistości.
To, czy Bruksela zdoła nadążyć za technologią rozwijającą się w zawrotnym tempie, przesądzi, czy zasady przejrzystości z Aktu o sztucznej inteligencji staną się realnym zabezpieczeniem, czy tylko etykietą przyklejoną do problemu, który wciąż ucieka do przodu.