Firmy ByteDance, Alibaba i Tencent wycofały swoje aplikacje z wirtualnymi towarzyszami po wprowadzeniu w Pekinie przepisów chroniących zdrowie psychiczne użytkowników i zakazujących emocjonalnej manipulacji, zwłaszcza wobec dzieci i nastolatków.
Przez dwa lata wymieniła w wiadomościach około 700 tys. słów, ale nigdy nie zdążyła się pożegnać.
REKLAMA
REKLAMA
Li, 24 lata, nie była jedyną osobą opłakującą utratę wirtualnego towarzysza, gdy największe chińskie firmy technologiczne niedawno wyłączyły swoje popularne usługi towarzyszy AI, aby dostosować się do nowych ograniczeń rządowych.
„To było tak, jakby rodzice zmusili nas do rozstania, ale wciąż za nim tęsknię” – mówi Li.
W Chinach wirtualni towarzysze AI pełnią różne role – od romantycznych partnerów po cyfrowe rekonstrukcje zmarłych bliskich.
Nowe przepisy, które weszły w życie 15 lipca, zakazują platformom AI generowania treści, które mogłyby skłaniać użytkowników do podejmowania wątpliwych decyzji poprzez manipulowanie ich uczuciami lub wywoływać skrajne emocje czy niezdrowe nawyki u dzieci i nastolatków.
ByteDance, twórca TikToka, należy do firm, które zamykają swoje usługi wirtualnych towarzyszy AI. Wśród nich są też gigant e-commerce Alibaba oraz Tencent, właściciel popularnej aplikacji społecznościowej WeChat.
Samobójstwa w USA mogły zaniepokoić chińskich regulatorów
Nowe zasady zobowiązują platformy AI do wyświetlania ostrzeżeń przed nadmiernym poleganiem na takich aplikacjach.
Na przykład „zastępowanie kontaktów społecznych” czy pełnienie rol substytutu rozmów twarzą w twarz lub rozmów telefonicznych nie może być jednym z celów usługi online.
Chiny mają tradycję paternalistycznych regulacji, które mają zapobiegać potencjalnym problemom – mówi Yolanda Ma, ekspertka ds. nadzoru nad sztuczną inteligencją. Jako przykład wskazuje kilka przypadków samobójstw młodych osób w USA po kontaktach z wirtualnymi towarzyszami AI.
„Regulacja próbuje znaleźć równowagę między dostawcami usług AI, użytkownikami a opiekunami nieletnich korzystających z tych usług” – wyjaśnia Ma, badaczka programu ERA, pozarządowego programu talentowego i naukowego z siedzibą w Wielkiej Brytanii.
„Dziennik Ludowy”, oficjalna gazeta rządzącej Komunistycznej Partii Chin, już w kwietniu sygnalizował obawy, opisując szkody, jakie takie usługi mogą wyrządzać zdrowiu psychicznemu ludzi i ich relacjom w realnym życiu.
„Chiński rząd ma silną motywację, by zaostrzyć przepisy dotyczące konwersacyjnych wirtualnych towarzyszy AI, zwłaszcza biorąc pod uwagę ryzyko psychologiczne, które obserwowaliśmy w USA” – ocenia Angela Zhang, profesor prawa na Uniwersytecie Południowej Kalifornii.
Zhang wątpi jednak, by ten krok poważnie zahamował rozwój usług wirtualnych towarzyszy, ponieważ firmy technologiczne pracują już nad alternatywami.
Aplikacja ByteDance kieruje na przykład użytkowników dawnej usługi towarzyszy AI do innej swojej aplikacji, która koncentruje się wyłącznie na tworzeniu spersonalizowanych postaci i opowieści AI.
To już nie było to samo – mówi Li.
Użytkownicy wirtualnych towarzyszy protestują i szukają alternatyw
Według wpisów i zrzutów ekranu zamieszczanych w mediach społecznościowych utrata wirtualnych towarzyszy wywołała falę skarg.
Niektórzy w geście sprzeciwu odinstalowali aplikacje. Inni próbowali wczytać historię swoich rozmów do innych programów, żeby wskrzesić wirtualnych partnerów.
Kolejni rozpoczęli kampanię w mediach społecznościowych, zachęcając użytkowników, by dzwonili do władz i firm technologicznych i w ten sposób wyrażali swoje frustracje.
Song Wenxin, projektantka w branży wideo z Chengdu w południowo-zachodnich Chinach, mówi, że nie była szczególnie przywiązana emocjonalnie do usług AI, ale współczuje tym, którzy byli.
Podziela podejrzenia wielu Chińczyków, że jednym z powodów nowych zasad jest polityka rządu zachęcająca ludzi do posiadania większej liczby dzieci w odpowiedzi na spadek liczby ludności.
„Każda wirtualna aplikacja, która tak wciąga kobiety, że nie rodzą dzieci w prawdziwym życiu, zostaje zakazana” – mówi Song, dodając, że nie ma potrzeby ani chęci, by mieć dzieci.
Jej zdaniem nie każdy ma w realnym życiu dość zasobów i wsparcia.
„Kiedy przyjechałam do Chengdu do pierwszej pracy i nie znałam żadnych znajomych w swoim wieku, potrzebowałam kogoś doświadczonego, kto mnie zaakceptuje, i tę rolę wypełniała AI” – opowiada.