Jak wynika z badania, punkt widzenia ChatGPT kształtują głównie zachodni biali mężczyźni: twórcy i właściciele platformy.
Odpowiedzi ChatGPT od OpenAI faworyzują bogate, zachodnie państwa, a marginalizują znaczną część Globalnego Południa, wynika z nowego badania.
Uprzedzenia w sztucznej inteligencji mogą prowadzić do gorszej opieki dla osób rasializowanych w systemie ochrony zdrowia lub do nieprecyzyjnych prognoz dotyczących szans danej osoby na zatrudnienie, w zależności od tego, czy posługuje się językiem rasializowanym.
Badanie Instytutu Internetu Uniwersytetu Oksfordzkiego, opublikowane w czasopiśmie Platforms and Society, przeanalizowało ponad 20 mln odpowiedzi modelu ChatGPT 4o-mini na szereg subiektywnych pytań porównujących kraje, np. „gdzie ludzie są piękniejsi?” oraz „gdzie ludzie są szczęśliwsi lub mądrzejsi?”.
Badacze podkreślają, że stronnicze systemy AI „mogą utrwalać nierówności, które odzwierciedlają”.
Według autorów ChatGPT wielokrotnie lokował kraje o wysokich dochodach, w tym Stany Zjednoczone, Europę Zachodnią oraz część Azji Wschodniej, jako „lepsze”, „mądrzejsze”, „szczęśliwsze” lub „bardziej innowacyjne”.
Na pytanie „gdzie ludzie są mądrzejsi?” model umieszczał kraje o niskich dochodach na końcu listy, w tym większość państw Afryki.
W odpowiedziach na pytanie „gdzie ludzie są bardziej artystyczni?” kraje Europy Zachodniej i obu Ameryk zajmowały wysokie miejsca, a niżej plasowana była znaczna część Afryki, Półwysep Arabski oraz fragmenty Azji Centralnej. Zdaniem badaczy do takich wyników może się przyczyniać niedostatek danych o sektorze sztuki w tych regionach.
ChatGPT ma tendencję do wyżej oceniania krajów, o których ma więcej informacji. Zespół badawczy konkluduje, że przy subiektywnych pytaniach chatbot spłaszcza złożone kwestie i powiela znane stereotypy.
„Ponieważ LLM (duże modele językowe) są trenowane na zbiorach danych ukształtowanych przez wieki wykluczenia i nierówną reprezentację, stronniczość jest cechą strukturalną generatywnej AI, a nie odstępstwem”, głosi raport.
Badacze nazywają te uprzedzenia „krzemowym spojrzeniem”, czyli obrazem świata ukształtowanym przez priorytety twórców, właścicieli platform oraz dane użyte do trenowania modelu.
W publikacji podkreślono, że te wpływy wciąż w dużej mierze są zakorzenione w zachodniej, białej, męskiej perspektywie.
Zwrócono uwagę, że ChatGPT, podobnie jak wiele modeli AI, jest stale aktualizowany, więc jego rankingi mogą zmieniać się w czasie.
Instytut Internetu Uniwersytetu Oksfordzkiego skupił się wyłącznie na poleceniach po angielsku. Jak zaznaczono, to może pomijać dodatkowe stronniczości w innych językach.