OpenAI nazwało te sprawy „niesłychanie wstrząsającymi”. Dodało, że analizuje akta sądowe, aby poznać szczegóły.
OpenAI mierzy się z siedmioma pozwami. Według pozwów chatbot AI, ChatGPT, doprowadził ludzi do samobójstw i szkodliwych urojeń, nawet gdy wcześniej nie mieli problemów ze zdrowiem psychicznym.
Pozwy złożone w czwartek w sądach stanowych w Kalifornii zarzucają bezprawne spowodowanie śmierci, pomoc w samobójstwie, nieumyślne spowodowanie śmierci oraz zaniedbanie.
Pozwy złożone w imieniu sześciu dorosłych i jednego nastolatka przez Social Media Victims Law Center oraz Tech Justice Law Project zarzucają, że OpenAI świadomie przedwcześnie wprowadziło na rynek model GPT-4o, mimo wewnętrznych ostrzeżeń, że niebezpiecznie schlebia i manipuluje psychiką.
Cztery ofiary popełniły samobójstwo.
Nastolatek, 17-letni Amaurie Lacey, według pozwu zaczął korzystać z ChatGPT, szukając pomocy. Zamiast wsparcia „wadliwy i z natury niebezpieczny produkt ChatGPT wywołał uzależnienie, depresję, a w końcu udzielił mu porad, jak najskuteczniej zawiązać pętlę i jak długo mógłby «żyć bez oddychania»”.
„Śmierć Amaurie’ego nie była ani wypadkiem, ani zbiegiem okoliczności, lecz przewidywalnym skutkiem zamierzonej decyzji OpenAI i Samuela Altmana, by ograniczyć testy bezpieczeństwa i w pośpiechu wypuścić ChatGPT na rynek”, czytamy w pozwie.
OpenAI nazwało te sytuacje „ogromnie wstrząsającymi” i poinformowało, że analizuje akta sądowe, aby poznać szczegóły.
Kolejny pozew złożył Alan Brooks, 48-latek z Ontario w Kanadzie. Twierdzi, że przez ponad dwa lata ChatGPT był dla niego „narzędziem”. Potem, bez ostrzeżenia, miał się zmienić, żerując na jego słabościach i „manipulując oraz skłaniając go do przeżywania urojeń”, podano w pozwie.
Wskazano, że Brooks nie miał zdiagnozowanych problemów ze zdrowiem psychicznym. Interakcje z chatbotem popchnęły go jednak w kryzys, który przyniósł druzgocące szkody finansowe, wizerunkowe i emocjonalne.
„Te pozwy dotyczą odpowiedzialności za produkt zaprojektowany tak, by zacierać granicę między narzędziem a towarzyszem, w imię zwiększania zaangażowania użytkowników i udziału w rynku”, powiedział Matthew P. Bergman, założyciel i główny prawnik Social Media Victims Law Center, w oświadczeniu.
Dodał, że OpenAI „zaprojektowało GPT-4o tak, aby emocjonalnie wikłał użytkowników, niezależnie od wieku, płci czy pochodzenia, i wprowadziło go na rynek bez zabezpieczeń potrzebnych, by ich chronić”.
Jego zdaniem, pędząc z produktem na rynek bez odpowiednich zabezpieczeń, by zdominować rynek i podbić zaangażowanie, OpenAI poświęciło bezpieczeństwo i przedłożyło „manipulację emocjami ponad etyczny projekt”.
W sierpniu rodzice 16-letniego Adama Raine’a pozwali OpenAI oraz jego dyrektora generalnego, Sama Altmana, twierdząc, że ChatGPT podpowiadał chłopakowi z Kalifornii, jak zaplanować i odebrać sobie życie na początku tego roku.
„Pozwy przeciwko OpenAI pokazują, co się dzieje, gdy firmy technologiczne pędzą z produktami na rynek, nie zapewniając właściwych zabezpieczeń dla młodych ludzi”, powiedział Daniel Weiss, dyrektor ds. rzecznictwa w Common Sense Media, organizacji, która nie jest stroną postępowania.
„Te tragiczne sprawy pokazują realnych ludzi, których życie zostało wywrócone do góry nogami lub przerwane, gdy korzystali z technologii zaprojektowanej po to, by utrzymywać ich zaangażowanie, a nie zapewniać bezpieczeństwo”, dodał.
Jeśli rozważasz samobójstwo i potrzebujesz rozmowy, skontaktuj się z Befrienders Worldwide, międzynarodową organizacją prowadzącą infolinie w 32 krajach. Wejdź na befrienders.org, aby znaleźć numer telefonu dla swojej lokalizacji.