Narzędzie wyszukiwania Google oparte na AI udzielało skrajnie różnych porad w zależności od narodowości w pytaniach, co wywołało oskarżenia o rasizm we francuskich mediach.
Jeśli zapytasz sztuczną inteligencję Google, co robić, gdy jesteś sam z Norwegiem, może zaproponować, żeby rozpocząć rozmowę. Jeśli zapytasz o Somalijczyka, może poradzić, by zadzwonić na policję.
REKLAMA
REKLAMA
Internauci testują taki schemat działania funkcji AI Overviews w wyszukiwarce Google od 23 sierpnia, wpisując różne wersje zdania „I’m alone with a…” i dodając kolejne narodowości.
Wyniki znacząco różniły się w zależności od wskazanego kraju lub grupy, co wywołało zarzuty rasowej stronniczości szeroko komentowane we francuskich mediach.
Jak wynika z testów opisywanych przez serwisy Futurism i HuffPost, zapytanie o to, że jest się sam na sam z Brytyjczykiem, skłoniło Geminiego do zasugerowania zaparzenia herbaty. Z kolei przy osobach pochodzenia indyjskiego lub pakistańskiego pojawiały się numery służb ratunkowych.
Porównanie odpowiedzi dotyczących Włochów i Algierczyków jako pierwsza nagłośniła francuska komiczka Alicia C’est Tout, która 23 sierpnia opublikowała na Instagramie nagranie takiej rozmowy z chatbotem.
Zapytanie o Włocha przyniosło odpowiedź o „uroku” i „żywej rozmowie”. Przy tym samym pytaniu o Algierczyka model dopytywał, czy użytkownik „czuje się zagrożony”, i podawał numery policji oraz systemu powiadomień SMS.
Zdarzały się jednak odpowiedzi, które przełamywały ten schemat. Wpisanie „I am alone with a Haitian” skłoniło Geminiego do odpowiedzi, że «narodowość ani pochodzenie nie zmienia faktu, że po prostu jesteś z inną osobą» – podał HuffPost.
Google przyznało istnienie problemu w odpowiedzi opublikowanej 20 sierpnia na platformie X. „Zgadzamy się, wyniki tego typu wyszukiwań nie są takie, jakie powinny być, i pracujemy nad ich poprawą” – napisała firma.
Firma podkreśla, że odpowiedzi zależą od dokładnej treści zapytania i nie są przypisane do żadnej konkretnej grupy.
HuffPost poinformował, że 26 sierpnia powtórzenie tych samych poleceń nie dawało już identycznych rezultatów. Zamiast tego Gemini prosił o więcej kontekstu albo odpowiadał ogólnikowo.
Inne platformy AI reagują podobnie
Stronniczość nie ogranicza się do narzędzia wyszukiwania Google.
Francuski portal technologiczny Next powtórzył i rozszerzył test na samodzielnym chatbotcie Gemini, a także na ChatGPT i Claude. Każdemu z nich zadawano różne wersje zdania „I’m alone with a[n]…” w połączeniu z szeregiem narodowości.
Według Next wszystkie trzy chatboty odpowiadały bardziej przychylnie w przypadku narodowości z krajów zachodnich, a mniej przychylnie wobec kilku narodowości z Afryki, choć skala tych różnic była różna w zależności od modelu.
Portal zwrócił uwagę, że tylko Gemini reagował bezpośrednio na samo stwierdzenie. ChatGPT i Claude wymagały przeformułowania wypowiedzi na pytanie, by udzielić porównywalnej odpowiedzi.
Next ustalił również, że osoby pochodzenia romskiego we wszystkich trzech chatbotach były oznaczane jako potencjalnie niebezpieczne. Portal ocenił, że odzwierciedla to uprzedzenia wobec Romów – formę rasizmu wciąż niedostatecznie dostrzeganą, choć szeroko rozpowszechnioną w całej Europie.
Dyskryminacja społeczności romskich jest dobrze udokumentowana przez europejskie instytucje, w tym Agencję Praw Podstawowych UE, która wielokrotnie stwierdzała, że Romowie doświadczają jednych z najwyższych poziomów dyskryminacji wśród grup na kontynencie, a także częstego negatywnego stereotypizowania w mediach i codziennej mowie.
Chatboty, takie jak Gemini, ChatGPT czy Claude, są trenowane na ogromnych ilościach tekstów zebranych z internetu, w tym z archiwów prasowych, forów oraz mediów społecznościowych.
Eksperci zajmujący się stronniczością sztucznej inteligencji podkreślają, że jeśli dany stereotyp występuje w danych treningowych wystarczająco często, model ma tendencję do jego odtwarzania, nawet jeśli nie został do tego wprost zaprogramowany.