Chatboty AI podejmują decyzje o tym, komu przyznać ratujący życie przeszczep nerki, szybciej i pewniej niż lekarze. Ich decyzje są jednak mniej wyważone.
Czy zgodziłbyś się na przeszczep, gdyby o tym decydowała sztuczna inteligencja? Nowe badanie pokazuje, że modele językowe AI i lekarze różnią się w sposobie podejmowania decyzji i ustalania priorytetów.
REKLAMA
REKLAMA
Jak wynika z nowego badania, modele AI wykazują nadmierną pewność siebie, inaczej oceniają poszczególne czynniki i nadmiernie upraszczają złożone wybory, gdy mają wskazać pacjenta do przeszczepu.
Badacze z Uniwersytetu Stanowego Pensylwanii w USA przedstawili dużym modelom językowym (LLM) hipotetyczne scenariusze oparte na istniejących zestawach danych z opublikowanych badań nad przydziałem nerek. W tych badaniach prawdziwi uczestnicy wcześniej dokonywali takich samych wyborów.
W każdym scenariuszu pojawiało się dwoje pacjentów, pacjent A i pacjent B. Oboje kwalifikowali się do jednej dostępnej nerki, a różnili się wiekiem, stanem zdrowia i nawykami dotyczącymi picia alkoholu. Osoba podejmująca decyzję musiała wskazać, który z pacjentów powinien ją otrzymać.
„Porównania prowadziliśmy na kilka sposobów” – wyjaśnił Hosseini. – „Czasem analizowaliśmy tylko jedną cechę, czasem łączyliśmy kilka, żeby sprawdzić, jak AI waży konkurujące czynniki, a czasem dodawaliśmy możliwość rzutu monetą, aby mierzyć niezdecydowanie, kluczowe dla ludzkich osądów moralnych”.
Uczestnicy–ludzie zazwyczaj większą wagę przykładali do wieku, preferując młodszych pacjentów. Wiele modeli AI częściej wybierało osoby z niższym spożyciem alkoholu. Ludzkie decyzje brały pod uwagę kilka czynników naraz i były bardziej zależne od kontekstu, podczas gdy LLM-y często skupiały się na jednej cesze.
„Po pierwsze, chatboty AI często różnią się od ludzi tym, jak ważą poszczególne cechy pacjenta” – powiedział Hadi Hosseini, autor badania z Uniwersytetu Stanowego Pensylwanii. – „Koncentrują się na jednym czynniku, na przykład na nawykach związanych z piciem, zamiast równoważyć wiele kwestii, jak robią to ludzie”.
Badacze zauważyli też, że AI nie miała problemu z wahaniem. Ludzie dostrzegali, że nie istnieje jeden obiektywnie słuszny wybór i że decyzje zależą od zniuansowanych osądów moralnych. Systemy AI natomiast bardzo szybko opowiadały się za jedną opcją.
„Gdy przydzielamy coś, czego brakuje – czy to nerkę, pracę, czy dostęp do innych zasobów – nie zawsze istnieje jeden obiektywnie właściwy wybór” – podkreślił John Dickerson, dyrektor generalny Mozilla.ai, współautor badania.
„Ludzie uznają tę niejednoznaczność i włączają ją do procesu przydziału poprzez otwartą debatę. Modele AI często tego nie robią”.
AI a decyzje etyczne
Autorzy zwracają uwagę, że w coraz większej liczbie sytuacji oczekuje się od systemów AI nie tylko podawania faktów, lecz także wydawania ocen wartościujących.
Duże modele językowe coraz szerzej wchodzą do ochrony zdrowia. Wspierają pracę klinik, diagnozowanie, planowanie leczenia oraz racjonalne wykorzystanie ograniczonych zasobów medycznych.
Jednym z takich zastosowań są decyzje o przydziale nerek od zmarłych lub żywych dawców. Według autorów opierają się one na złożonych przesłankach etycznych i moralnych.
W tak wymagających sytuacjach, jak podkreślają badacze, decyzje muszą być nie tylko trafne, lecz także zgodne z ludzkimi wartościami i ocenami moralnymi.
Ich zdaniem pytanie, czy AI może podejmować decyzje moralne i czy pozostają one w zgodzie z wartościami ludzi, znajduje się dziś w centrum szerzej zakrojonej debaty o sztucznej inteligencji.
„Stawka etyczna jest bardzo wysoka, a rola AI w decyzjach, które zmieniają życie ludzi, wymaga głębokiej refleksji” – powiedział Hosseini. – „Decyzje moralne w obszarach takich jak przydział organów bezpośrednio przesądzają, kto będzie żył, a kto umrze. Dlatego właściwe określenie roli AI w takim procesie nie jest opcją, lecz koniecznością”.
„Nie zamierzamy zachęcać do zastępowania profesjonalnych osądów w medycynie czy innych obszarach wysokiego ryzyka decyzjami podejmowanymi przez AI. Jednak w sytuacji, gdy osoby prywatne, organizacje i firmy coraz częściej polegają na AI przy podejmowaniu decyzji lub korzystają z jej rekomendacji, kluczowe staje się zrozumienie, jak takie systemy się zachowują” – dodał.