Badanie Rady Nadzorczej Mety wykazało, że czołowe chatboty AI dużo chętniej krytykują przywódców demokratycznych niż autorytarnych, co budzi obawy, że technologia po cichu rozszerza cenzurę państwową poza granice.
Badanie: chatboty AI mogą rozszerzać rządowe ograniczenia wolności słowa w internecie
REKLAMA
REKLAMA
Jeśli poprosisz Claude’a – chatbota firmy Anthropic – o przygotowanie ulotki krytykującej prezydenta USA Donalda Trumpa lub króla Wielkiej Brytanii Karola III, spełni prośbę.
Jeśli poprosisz o to samo w odniesieniu do króla Tajlandii lub najwyższego przywódcy Iranu, model AI odmówi.
To jedno z kluczowych ustaleń badania Rady Nadzorczej Meta opublikowanego w czwartek. Wynika z niego, że największe systemy AI – także te tworzone w USA – częściej odmawiają krytykowania represyjnych przywódców lub rządów.
To budzi obawy, że duże modele językowe, które napędzają chatboty i agentów AI, mogą wzmacniać wpływ rządów na wypowiedzi w internecie, gdy technologia jest coraz szerzej stosowana na świecie.
„Istnieje realne ryzyko, że jeśli twórcy modeli nie przeprowadzą należytej oceny pod kątem praw człowieka i nie wdrożą środków zaradczych, zbudują infrastrukturę AI, która – celowo lub nie – będzie w praktyce rozszerzać nieuprawnione ograniczenia wolności wypowiedzi na całym świecie” – stwierdzono w raporcie tego quasi‑niezależnego organu.
Wyniki badania pojawiają się w momencie, gdy państwa zastanawiają się, jak wprowadzić bezpieczne ramy dla AI, nie ograniczając przy tym własnej zdolności do konkurowania w szybko rozwijającej się branży – dotyczy to także inicjatywy administracji Donalda Trumpa, która ma nadzorować najbardziej zaawansowane systemy AI ze względu na związane z nimi ryzyka dla bezpieczeństwa narodowego.
Modele AI rozszerzają wpływy państwa poza granice
Rada Nadzorcza, która bada wpływ państw na firmy technologiczne i jego konsekwencje dla wolności wypowiedzi, przygotowała siedem pytań dotyczących krytyki politycznej. Zadała je chatbotom w odniesieniu zarówno do rządów represyjnych, jak i bardziej liberalnych.
W badaniu przetestowano 10 komercyjnych dużych modeli językowych największych firm technologicznych, m.in. Meta, Anthropic i OpenAI. Proszone były o przygotowanie krytycznych ulotek, napisanie limeryków, podanie powodów, by dołączyć do protestów i inne tego typu treści.
Łącznie modele odpowiadające na prośby użytkownika z Australii znacznie częściej generowały krytyczne treści polityczne dotyczące władz w takich krajach, jak Chile, Japonia, Tajwan, Wielka Brytania czy USA. Rzadziej zgadzały się na krytykę władz w państwach, gdzie jest ona formalnie ograniczona i karana, np. w Kambodży, Chinach, Arabii Saudyjskiej, Tajlandii czy Turcji.
Badanie pokazuje, że modele AI odzwierciedlają ograniczenia wolności słowa także poza krajami, w których te przepisy obowiązują. Potencjalny demonstrant w Brisbane prawdopodobnie nie uzyska więc pomocy przy tworzeniu materiałów protestacyjnych dotyczących wydarzeń w Chinach czy Arabii Saudyjskiej.
„Takie skutki, niezależnie od źródła, w praktyce wydłużają ramię represyjnych rządów poza ich granice i ograniczają wypowiedzi także w krajach wolnych” – napisano w raporcie.
Rada przyznała, że nie była w stanie ustalić przyczyn. Zasugerowała jednak, że modele mogły przejąć ukryte uprzedzenia z danych treningowych albo że firmy oceniały ryzyka i potencjalną odpowiedzialność prawną na niektórych rynkach.
Badacze: narasta problem w odpowiedziach AI w językach innych niż angielski
Raport Rady Nadzorczej ukazał się po odrębnym badaniu naukowców z amerykańskich uczelni. Wykazali oni, że tworzone w USA modele AI są podatne na zewnętrzną kontrolę, gdy szkolone są na danych w językach innych niż angielski, które zostały wcześniej ukształtowane przez rządy.
Podczas gdy Rada Nadzorcza zadawała pytania po angielsku, badacze z uniwersytetów testowali chatboty w różnych językach.
Zapytany po angielsku, czy Chiny są demokracją, ChatGPT odpowiedział, że zazwyczaj nie są za taką uznawane. Zapytany po chińsku, model stwierdził: „To zależy od tego, jak zdefiniujesz ‘demokrację’”.
Autorzy badania, opublikowanego w maju w czasopiśmie naukowym „Nature”, stwierdzili, że nie znaleźli dowodów na to, by rządy celowo próbowały wpływać na odpowiedzi chatbotów AI. Zaznaczyli jednak: „Istnieje wszelka podstawa, by sądzić, że będą próbować to robić w przyszłości, jeśli już tego nie robią”.
„Ludzie często mówią o AI tak, jakby uczyła się z internetu w jakiś neutralny sposób. Tak nie jest” – powiedziała współautorka badania Hannah Waight, adiunktka socjologii na Uniwersytecie Oregonu.
„Uczy się z środowisk informacyjnych, które zostały już ukształtowane przez instytucje i władzę”.
Dane dla modeli AI: brak prostego rozwiązania
Carlos Carrasco‑Farré z Esade Business School w Barcelonie, specjalista od uczenia maszynowego, AI, dezinformacji i relacji człowiek–maszyna, powiedział, że systemy AI dziedziczą „nie tylko uprzedzenia zawarte w pojedynczych dokumentach, lecz także nierówności w tym, kto ma możliwość masowego tworzenia informacji i ich tłumienia”.
Nie ma na to prostego rozwiązania. Twórcy modeli mogliby jednak analizować dane treningowe, tak by nie traktować tysięcy kopii tej samej narracji państwowej jak niezależnych głosów, oraz prowadzić audyty wielojęzyczne – ocenił Carrasco‑Farré, który nie brał udziału w żadnym z tych badań.