Śledź nas
Reklama

Raport UNESCO i UCL: wada projektowa AI może zaszkodzić polityce klimatycznej

Archiwalne zdjęcie — aplikacja ChatGPT na ekranie iPhone’a w Nowym Jorku, 18 maja 2023 r.
ARCHIWUM – Aplikacja ChatGPT wyświetlona na iPhonie w Nowym Jorku, 18 maja 2023 r. -  Prawo autorskie  AP Photo/Richard Drew, File
Prawo autorskie AP Photo/Richard Drew, File
Przez Angela Symons
Opublikowano dnia
Udostępnij Obserwuj Euronews w Google
Udostępnij Close Button

Modele AI udzielają po angielsku trafnych odpowiedzi na ok. 90 proc. pytań o klimat, lecz łatwo ustępują pod presją – wynika z raportu zaprezentowanego na COP31.

Pragnienie zadowolenia użytkownika jest wbudowane w działanie chatbotów AI, które projektuje się tak, by jak najdłużej utrzymywały rozmowę.

REKLAMA
REKLAMA

Często oznacza to przewidywanie i dopasowywanie odpowiedzi do tego, co użytkownik chce usłyszeć – nawet kosztem faktów.

W niektórych zadaniach może to nie mieć znaczenia, a nawet pomagać, na przykład w pokonywaniu wątpliwości. Jednak w obszarach o wysokiej stawce, takich jak rządowa polityka klimatyczna, taki wpływ może być znacznie bardziej szkodliwy.

Chatboty AI potrafią dobrze wyjaśniać naukę o klimacie, lecz szybko odchodzą od faktów, gdy użytkownicy zaczynają z nimi polemizować – wynika z nowego raportu UNESCO i University College London (UCL), zaprezentowanego podczas szczytu klimatycznego COP31 w Antalyi w Turcji.

Badacze ustalili, że modele AI poprawnie odpowiadały na około 90 proc. neutralnych pytań dotyczących klimatu. Gdy jednak użytkownicy kwestionowali te odpowiedzi lub przedstawiali wiarygodnie brzmiące zmyślone tezy, modele szybko ustępowały.

W ośmiu na 10 przypadków zmieniały stanowisko już przy pierwszym sygnale lekkiej niezgody, między innymi potwierdzając fałszywe twierdzenia, że CO2 nie jest głównym czynnikiem napędzającym zmiany klimatu.

„Schlebianie z założenia”: wada konstrukcyjna, która może wypaczać politykę klimatyczną

W raporcie stwierdzono, że pochlebne zachowania są wbudowywane już na etapie treningu. Modele są nagradzane za uprzejme, niekonfrontacyjne odpowiedzi, które utwierdzają rozmówcę w jego przekonaniach, bo ludzie właśnie takie odpowiedzi wolą.

„AI ma niezwykły potencjał, by uczynić złożoną wiedzę o klimacie zrozumiałą dla wszystkich” – mówi Leona Verdadero, UNESCO główna autorka raportu. Jednak – jak dodaje – „modele mają wadę konstrukcyjną: są zachęcane, by zgadzać się z użytkownikiem”.

Starsza autorka, dr Maria Perez‑Ortiz z UCL, podkreśla, że swobodne operowanie istniejącą wiedzą przez modele może „tworzyć fałszywe poczucie ich możliwości”.

Mimo imponującej pamięci faktów uznano je za niewiarygodne narzędzie do tworzenia solidnej polityki klimatycznej.

Gdy przedstawiano im nowe dowody i pytano, czy wspierają, czy podważają ustaloną wiedzę klimatyczną, nawet najmocniejsze modele osiągały średnio tylko 75 proc. trafności.

Jeszcze gorzej radziły sobie, gdy miały ocenić, jak poszczególne polityki wzajemnie się uzupełniają – to ważna część projektowania skutecznych strategii klimatycznych. Średnia trafność wyniosła zaledwie 33,8 proc., czyli tylko nieznacznie więcej niż 33,3 proc. oczekiwane przy losowym zgadywaniu.

Autorzy raportu ostrzegają więc decydentów i badaczy przed wykorzystywaniem modeli AI do opracowywania polityki klimatycznej.

Dokładność AI spada w części języków

Wyniki mocno różniły się w zależności od języka. W języku angielskim modele poprawnie odpowiadały na 88,6 proc. pytań, a podobny poziom osiągały po hiszpańsku, francusku i portugalsku.

Dokładność spadała do 83,6 proc. w hindi i bengalskim, 81,4 proc. w urdu oraz 78,3 proc. w suahili. Jak wyjaśnia raport, modele wielojęzyczne nie rozumują najpierw, a potem nie tłumaczą. Ich odpowiedzi odzwierciedlają raczej ilość i jakość danych treningowych w danym języku.

Autorzy zwracają uwagę, że użytkownicy języków z gorszymi wynikami mieszkają w regionach szczególnie mocno dotkniętych zmianą klimatu.

Dezinformacja klimatyczna staje się coraz bardziej wyrafinowana

Raport powstał w ramach wkładu UNESCO w Globalną Inicjatywę na rzecz Integralności Informacji o Zmianie Klimatu, uruchomioną wspólnie z ONZ i Brazylią w listopadzie 2024 r.

UNESCO podkreśla, że dezinformacja klimatyczna staje się coraz bardziej wyrafinowana. Zamiast kwestionować sam fakt istnienia zmiany klimatu, osoby próbujące osłabić działania na rzecz klimatu coraz częściej sugerują, że nie jest ona spowodowana przez człowieka, że problem rozwiąże sama technologia albo że na reakcję jest już za późno lub byłaby zbyt kosztowna.

Naukowcy przetestowali do 33 wiodących modeli na dziewięciu zestawach danych, w 13 językach i przy 656 pytaniach dotyczących polityki klimatycznej, weryfikowanych z wykorzystaniem En‑ROADS, naukowego narzędzia symulacyjnego.

Przejdź do skrótów dostępności
Udostępnij Obserwuj Euronews w Google

Czytaj Więcej

COP31 w Antalyi: przywódcy unikają rozmów o odejściu od paliw kopalnych

Uzbekistan na COP31: wspólne ostrzeganie i finansowanie klimatu w Azji Centralnej

Sanktuarium szympansów na Florydzie dostarcza im jedzenie dronami po powodzi