Prywatne wiadomości mogą pozostać zaszyfrowane dla platform lub być skanowane automatycznie, to sedno sporu w UE o Chat Control i walkę z wykorzystywaniem dzieci w sieci bez naruszania tajemnicy komunikacji.
Jeśli dziś wyślesz wiadomość na Signal lub WhatsApp, prawo UE na razie do niej nie ma zastosowania. W przypadku przesłania tego samego zdjęcia przez niezabezpieczoną aplikację, może ono zostać sprawdzone przez automatyczny system, zanim ktokolwiek je przeczyta. Ten podział, a nie ogólne stwierdzenie, że „UE czyta twoje wiadomości”, jest sednem dyskusji na temat Chat Control i wykrywania materiałów o wykorzystywaniu dzieci online (CSAM).
REKLAMA
REKLAMA
Przywrócone tymczasowe rozporządzenie, obowiązujące do 2028 roku, pozwala platformom dobrowolnie skanować prywatne wiadomości, zdjęcia i filmy pod kątem CSAM. Nie dotyczy to usług z pełnym szyfrowaniem end-to-end, takich jak WhatsApp czy Signal, w takim samym stopniu jak innych platform. Odrębna, trwała propozycja, „Chat Control 2.0”, jest wciąż negocjowana. Kluczowe pozostaje, czy ostatecznie obejmie szyfrowane czaty.
Jak system decyduje, co oznaczyć
Narzędzia wykrywania działają na dwa sposoby. Pierwszy to dopasowanie haszów: obraz lub wideo zamienia się w kryptograficzny odcisk palca i porównuje z bazą materiałów uznanych za nielegalne. Metoda jest szybka i precyzyjna dla identycznych lub niemal identycznych kopii, ale łatwa do obejścia przez drobną zmianę. Druga to klasyfikacja oparta na uczeniu maszynowym, stosowana dla nowych lub zmienionych treści, a także – co budzi kontrowersje – skanowanie tekstu pod kątem wzorców językowych powiązanych z uwodzeniem dzieci.
Patrick Breyer, działacz na rzecz praw cyfrowych, prawnik i były eurodeputowany Zielonych/Europejskiego Sojuszu Wolności, twierdzi, że obie metody są mniej wiarygodne, niż zakładają decydenci. Dopasowanie haszów, dokładniejsze z nich, „wiąże się z bardzo dużą liczbą fałszywych alarmów, które niesłusznie oskarżają ludzi” – wskazuje na Niemcy, gdzie najnowsze dane pokazują, że „ponad połowa zgłoszeń wcale nie ma znaczenia karnego”.
Część problemu leży u źródła: bazy danych są często tworzone i weryfikowane zagranicą, zamiast być oceniane według prawa karnego UE. „Pracownicy dostawców, niezależnie od lokalizacji, wpisują dane do baz” bez właściwej oceny prawnej intencji, która jest niezbędna, by coś było karalne.
Gdzie odbywa się skanowanie
Na niezabezpieczonych platformach kontrola może odbywać się na serwerach operatora. W usługach z szyfrowaniem end-to-end dostawca nie może odczytać wiadomości po zaszyfrowaniu. Dlatego wykrywanie musi nastąpić wcześniej – na urządzeniu przed szyfrowaniem lub na oddzielnej, bezpiecznej warstwie sprzętowej stworzonej do tego celu.
Nazywa się to skanowaniem po stronie klienta. To główny powód, dla którego debata o szyfrowaniu wciąż trwa: wiadomość jest sprawdzana, gdy jest jeszcze czytelna, „zanim zamknie się zamek”, a nie przechwytywana później.
Co się dzieje po wykryciu
Zaznaczony materiał nie trafia automatycznie do policji. Według dostawców, takich jak Google, wykrycie, czy to przez porównanie haszów, czy model sztucznej inteligencji, jest zwykle kierowane do wykwalifikowanych pracowników firmy, którzy potwierdzają je przed zgłoszeniem. To etap, w którym Breyer dostrzega awarie przy skalowaniu.
Recenzenci oceniają pod różnymi normami prawnymi, nie zawsze ustalają intencję, często błędnie klasyfikują zwykłe wymiany zdjęć między nastolatkami lub autorskie zdjęcia przesyłane jako żart w grupie. Zwraca uwagę, że wielu nieletnich objętych tymi raportami nie miało zamiaru przesyłać lub odbierać treści nielegalnych, a jedynie przesłali coś dalej w grupie „o czymś innym”.
Porównanie haszów dotyczy potwierdzonych nielegalnych materiałów. Tekst to inny problem. Język uwodzenia przypomina zwykłą rozmowę młodzieży i dorosłych, dlatego badacze uważają skanowanie tekstu za najbardziej podatne na błędy. To istotne w kontekście trwałej propozycji. Rozszerzenie przyszłych przepisów z obrazów na teksty zwiększyłoby problem fałszywych alarmów, o którym mówi Breyer.
Alternatywa na stole
Breyer nie odrzuca skanowania całkowicie. Odrzuca jednak masowe działania. Uważa, że skanowanie jest uzasadnione jedynie wtedy, gdy „niezależny sąd potwierdzi” uzasadnione podejrzenie wobec konkretnej osoby, porównywalne do nakazu otwarcia czyjejś korespondencji. Skanowanie wszystkich „na wszelki wypadek” to zupełnie inny poziom ingerencji.
Jako alternatywę wskazuje dwie metody: proaktywne skanowanie otwartego internetu i darknetu w poszukiwaniu znanego nielegalnego materiału i zgłaszanie go do usunięcia, stosowane w Wielkiej Brytanii i Kanadzie, ale jeszcze nie w UE, oraz „bezpieczeństwo z założenia” (security by design), gdzie aplikacje ostrzegają użytkowników na urządzeniu przed przesłaniem numeru telefonu czy nagiego zdjęcia, bez opuszczania telefonu przez te dane.
Jak to wpływa na twoje dane
Na razie los wiadomości zależy całkowicie od aplikacji, którą przesyłasz. Na niezabezpieczonych platformach treści mogą być haszowane lub skanowane algorytmicznie przed lub zaraz po wysłaniu, przeglądane przez wykwalifikowany personel operatora i raportowane, gdy zostaną potwierdzone. W aplikacjach z szyfrowaniem end-to-end ten proces nie dotyczy treści, choć nierozstrzygnięta trwała propozycja może zmienić, gdzie i na jak wczesnym etapie płynie linia skanowania.