Nowy indeks Uniwersytetu Cambridge ujawnia rynek: fałszywe weryfikacje kont w mediach społecznościowych kosztują 8 centów. To napędza manipulacje i ingerencje w wybory.
Naukowcy sprawdzili, ile kosztuje założenie fałszywych kont w internecie w każdym kraju świata. Rządy i regulatorzy tymczasem zmagają się z dezinformacją i oszustwami.
REKLAMA
REKLAMA
Uniwersytet w Cambridge w czwartek uruchomił Cambridge Online Trust and Safety Index (COTSI), serwis internetowy, który, jak podaje uczelnia, jako pierwszy na świecie śledzi w czasie rzeczywistym ceny weryfikacji fałszywych kont na ponad 500 platformach, w tym TikToku, Instagramie, Amazonie, Spotify i Uberze.
Takie konta często służą do tworzenia „armii botów”, które naśladują prawdziwe osoby i wpływają na debatę publiczną w sieci. Autorzy badania podkreślają, że można je wykorzystywać do zalewania dyskusji, promowania oszustw lub produktów oraz do skoordynowanego rozpowszechniania przekazów politycznych.
Badanie pojawia się w kluczowym momencie dla zaufania w internecie. Duże platformy społecznościowe ograniczyły moderację treści i zaczęły płacić użytkownikom za aktywność, co może zachęcać do sztucznych interakcji.
Wcześniej w tym tygodniu Zjednoczone Królestwo nałożyło sankcje na rosyjskie i chińskie firmy podejrzewane o udział w wojnie informacyjnej jako „szkodliwi gracze”.
Badanie wykazało też, że rozwój generatywnej sztucznej inteligencji (genAI) dodatkowo nasilił problem.
„Widzimy prężnie działający podziemny rynek, na którym nieautentyczne treści, sztuczna popularność i kampanie wpływu politycznego są łatwo i jawnie dostępne na sprzedaż” – napisał w oświadczeniu Jon Roozenbeek, główny autor badania i psycholog społeczny, specjalista od metod obliczeniowych na Uniwersytecie w Cambridge.
„Można to osiągać, symulując oddolne poparcie w internecie albo wzbudzając kontrowersje, by zbierać kliknięcia i manipulować algorytmami” – dodał.
Dostawcy, którzy dysponują tysiącami kart SIM i milionami gotowych weryfikacji, potrafią tworzyć fałszywe konta za kilka centów.
Dane dostawców, które badacze zbierali przez rok, pokazują, że weryfikacja jest najtańsza w Zjednoczonym Królestwie, Stanach Zjednoczonych i Rosji. Znacznie droższa jest w Japonii i Australii, gdzie surowsze przepisy dotyczące kart SIM podnoszą koszty.
Według analizy średni koszt weryfikacji przez SMS dla pojedynczego fałszywego konta wynosi w Rosji $0,08 (€0,06), w Zjednoczonym Królestwie $0,10 (€0,086), a w Stanach Zjednoczonych $0,26 (€0,22), podczas gdy w Japonii to $4,93 (€4,25).
Do platform z najniższymi globalnymi cenami fałszywych kont należą Meta, Shopify, X, Instagram, TikTok, LinkedIn i Amazon.
Część sprzedawców oferuje obsługę klienta, rabaty przy zakupach hurtowych oraz usługi sztucznego podbijania polubień, komentarzy i liczby obserwujących – wynika z badania.
„Generatywna AI sprawia, że boty potrafią dziś dostosowywać przekaz, by brzmiał bardziej po ludzku, a nawet dopasowywać go do innych kont. Armie botów są coraz bardziej przekonujące i coraz trudniej je wykryć” – powiedział Roozenbeek.
Badacze odnotowali też silne powiązania z rosyjskimi i chińskimi systemami płatności. Zwrócili uwagę, że gramatyka na wielu stronach dostawców wskazuje na rosyjskie autorstwo.
Wzrosty cen związane z wyborami
Badanie wykazało również, że kampanie wpływu politycznego mogą napędzać skoki cen na rynku fałszywych kont. Rośnie popyt na „operacje wpływu”.
„Dezinformacja budzi spory w całym spektrum politycznym. Niezależnie od formy nieautentycznej aktywności w sieci, duża jej część przechodzi przez ten rynek manipulacji, więc możemy po prostu podążać za pieniędzmi” – powiedział Anton Dek, badacz w Cambridge Centre for Alternative Finance.
Ceny fałszywych kont na Telegramie i WhatsAppie gwałtownie rosły w krajach, które miały przed sobą wybory ogólnokrajowe. W 30 dni przed otwarciem lokali wzrosły odpowiednio o 12 i 15 proc.
Ponieważ te komunikatory pokazują numery telefonów, operatorzy wpływu muszą zakładać konta lokalnie, co podnosi popyt.
Nie stwierdzono podobnego trendu na platformach takich jak Facebook czy Instagram, gdzie tanio tworzone fałszywe konta w jednym kraju można wykorzystywać do docierania do odbiorców w innych państwach.
Zespół stojący za badaniem, w którego skład wchodzą eksperci od dezinformacji i kryptowalut, uważa, że regulacja kart SIM i egzekwowanie kontroli tożsamości podniosłyby koszt wytwarzania fałszywych kont i pomogły ograniczyć ten rynek.
Dodają, że nowe narzędzie można wykorzystać do testowania rozwiązań regulacyjnych w różnych krajach świata.
„Indeks COTSI rzuca światło na podziemną gospodarkę manipulacji w sieci, zamieniając ukryty rynek w mierzalne dane” – mówi Sander van der Linden, współautor badania i profesor psychologii społecznej na Uniwersytecie w Cambridge.
„Zrozumienie kosztów manipulacji w internecie to pierwszy krok do rozmontowania modelu biznesowego stojącego za dezinformacją.”
Na początku tego roku Zjednoczone Królestwo jako pierwszy kraj w Europie zakazało „farm SIM”. Zespół z Cambridge podkreśla, że COTSI pomoże teraz mierzyć skutki tej polityki.