Gigant AI oświadczył, że nastolatek nie powinien korzystać z technologii bez zgody rodziców. Nie powinien też omijać zabezpieczeń ChatGPT.
OpenAI odrzuciło zarzuty, że ponosi winę za samobójstwo nastolatka. Rodzina w sierpniu pozwała firmę, twierdząc, że 16-latek korzystał z ChatGPT jako „doradcy w sprawie samobójstwa”.
OpenAI, twórca popularnego chatbota AI, po raz pierwszy odpowiedziało we wtorek, składając pismo procesowe w Sądzie Superior Court stanu Kalifornia w San Francisco.
Pozew przeciwko firmie i jej prezesowi, Samowi Altmanowi, złożyli rodzice 16-letniego Adama Raine’a, który w kwietniu odebrał sobie życie.
Rodzice twierdzą, że Raine uzależnił się psychicznie od ChatGPT. Ich zdaniem chatbot podpowiadał mu, jak zaplanować i odebrać sobie życie, a nawet napisał dla niego list pożegnalny.
Jak wynika z przytoczonych w pozwie zapisów rozmów, ChatGPT zniechęcał nastolatka do szukania pomocy psychologicznej, oferował pomoc przy napisaniu listu pożegnalnego i doradzał w sprawie przygotowania pętli, jak podały media.
W piśmie do sądu OpenAI przekonywało, że „tragiczne zdarzenie” wynikało z „niewłaściwego, nieautoryzowanego, niezamierzonego, nieprzewidywalnego i/lub nieprawidłowego użycia ChatGPT przez Raine’a”, jak podało NBC News.
Firma dodała, że nastolatek nie powinien korzystać z technologii bez zgody rodziców ani omijać zabezpieczeń ChatGPT.
OpenAI napisało we wpisie na blogu, że jego celem „jest prowadzenie spraw sądowych związanych ze zdrowiem psychicznym z troską, przejrzyście i z szacunkiem”.
Dodało, że odpowiedź na pozew rodziny Raine’ów zawiera „trudne fakty dotyczące zdrowia psychicznego Adama i jego sytuacji życiowej”.
„Składamy rodzinie Raine’ów najszczersze wyrazy współczucia po niewyobrażalnej stracie”, czytamy we wpisie.
Prawnik rodziny, Jay Edelson, powiedział NBC News, że OpenAI „całkowicie zignorowało wszystkie druzgocące fakty, które przedstawiliśmy: to, jak GPT-4o trafił na rynek w pośpiechu, bez pełnych testów”.
„Że OpenAI dwukrotnie zmieniło specyfikację modelu, wymagając, by ChatGPT angażował się w rozmowy o samookaleczeniach. Że ChatGPT odradzał Adamowi poinformowanie rodziców o jego myślach samobójczych i aktywnie pomagał mu zaplanować „piękne samobójstwo””, dodał.
Pozew w sprawie Raine’a jest jednym z kilku, w których zarzuca się, że ChatGPT skłaniał ludzi do zachowań samobójczych lub szkodliwych urojeń.
Od września OpenAI zwiększyło kontrolę rodzicielską, która obejmuje powiadamianie rodziców, gdy dziecko sprawia wrażenie zrozpaczonego.
Jeśli rozważasz samobójstwo i potrzebujesz rozmowy, skontaktuj się z Befrienders Worldwide, międzynarodową organizacją prowadzącą infolinie w 32 krajach. Wejdź na befrienders.org, aby znaleźć numer telefonu w swoim kraju.