Funkcja „wykrywania podobieństw” w serwisie społecznościowym ma pomagać politykom w zmaganiu się z zalewem dezinformacji w internecie.
TikTok poinformował w piątek, że zaczął udostępniać nową, dobrowolną funkcję „Likeness Detection”, która ma pomagać twórcom wyszukiwać i oznaczać treści wygenerowane przez AI z wykorzystaniem ich wizerunku w serwisie. Firma próbuje w ten sposób przeciwstawić się dezinformacji tworzonej przez sztuczną inteligencję.
Narzędzie ma pomagać osobom publicznym – w tym członkom rządów, politykom i oficjalnym kontom partii – wychwytywać i zgłaszać treści stworzone przez AI, które bez zgody wykorzystują ich wizerunek.
Funkcja pojawia się w momencie, gdy Europa już mierzy się z falą dezinformacji i kampanii deepfake wspieranych przez sztuczną inteligencję, zakłócających procesy wyborcze. W ciągu najbliższych 12 miesięcy do urn pójdą mieszkańcy kolejnych dziewięciu krajów Europy, więc rozwiązanie może okazać się kluczowe.
Uprawnieni użytkownicy mogą zapisać się, potwierdzając swoją tożsamość u zaufanego zewnętrznego partnera. Następnie otrzymują powiadomienia, gdy treści lub konta na TikToku mogą wykorzystywać ich wizerunek, i mogą je przejrzeć w ramach narzędzia.
Później użytkownicy mogą zgłaszać takie treści bezpośrednio do zespołów ds. bezpieczeństwa TikToka, które je analizują i podejmują działania.
Unia Europejska zaczęła wprowadzać zasady przejrzystości dotyczące sztucznej inteligencji 2 sierpnia, na mocy Aktu o sztucznej inteligencji. Przepisy obejmują m.in. obowiązek oznaczania deepfake’ów i innych treści generowanych przez AI.
TikTok od kilku lat stara się ograniczać deepfake’i, wymagając od twórców oznaczania realistycznych obrazów, nagrań audio i wideo wygenerowanych przez AI, zgodnie z wymogami Aktu o sztucznej inteligencji.
Wykrywanie treści generowanych przez AI
Firma uruchomiła też nowe narzędzie przejrzystości, które pozwala użytkownikom sprawdzić, czy dana treść została stworzona lub edytowana za pomocą funkcji dostępnych na platformie.
Narzędzie „Wykryj treści generowane przez AI (źródło w Angielski)” jest darmowe dla wszystkich – jak podkreśla TikTok, także dla osób bez konta w serwisie.
Platforma pozwala przesłać obraz lub wideo, aby sprawdzić, czy zostały wygenerowane lub edytowane z użyciem narzędzi AI TikToka, w tym aplikacji CapCut, Dreamina, Hypic i Pippit należących do spółki ByteDance.
Narzędzie obsługuje szeroki zakres formatów, w tym popularne JPEG, PNG i MP4, przy limicie 20 megabajtów na obraz oraz 100 megabajtów na każdy film lub plik audio.
Sprawdza dwa sygnały wskazujące, że treść została wygenerowana przez AI: metadane dodawane przez aplikacje TikToka i ByteDance oraz niewidoczne znaki wodne osadzone bezpośrednio w treści, które trudniej usunąć.
Firma zapewnia, że narzędzie usuwa wszystkie przesłane materiały zaraz po ich sprawdzeniu i nie wykorzystuje ich do trenowania modeli sztucznej inteligencji.
TikTok ostrzega użytkowników, że narzędzie wykrywa jedynie, czy treści zostały stworzone lub zmodyfikowane przy użyciu jego własnych narzędzi lub aplikacji ByteDance, więc nie jest niezawodnym sposobem identyfikowania materiałów AI.