Sprawa pogłębia obawy o bezpieczeństwo dzieci w kontaktach ze sztuczną inteligencją, gdy firmy technologiczne mierzą się z kolejnymi pozwami.
Rodzice 13-letniej dziewczynki złożyli pozew przeciwko Google. Twierdzą, że ich córka korzystała z technologii AI na szkolnym komputerze, aby zaplanować możliwe samobójstwo oraz swój pogrzeb.
REKLAMA
REKLAMA
Pozew złożono w poniedziałek 2 listopada w sądzie w amerykańskim stanie Kalifornia. Uznaje się go za pierwszy, który zarzuca Google niedbalstwo w związku z funkcjami wyszukiwarki opartymi na sztucznej inteligencji, do których uczennica miała dostęp przez szkolnego Chromebooka – jeden z tanich laptopów firmy, szeroko wykorzystywanych w szkołach.
Dziewczynka, przedstawiana jako Emma, nie mogła korzystać z aplikacji Gemini ani ChatGPT, ponieważ szkoła je zablokowała. Wciąż miała jednak dostęp do wyszukiwarki Google, która zawiera funkcje zasilane sztuczną inteligencją.
Według pozwu Emma, która rzekomo «nie miała historii» chorób psychicznych, w ciągu kilku miesięcy od rozpoczęcia korzystania z wyszukiwarki weszła w „cichy, głęboki kryzys psychologiczny”.
17 marca szkoła powiadomiła jej rodziców, gdy oprogramowanie monitorujące wychwyciło dokument zatytułowany „Funeral” („Pogrzeb”). Później matka znalazła córkę piszącą list pożegnalny, co skłoniło ojca do natychmiastowej interwencji.
„Szkoły powinny wyłączyć wyszukiwarkę i nie włączać jej z powrotem, dopóki Google nie usunie trybu AI z wyszukiwania albo nie zapewni, że każdy uczeń zawsze jest bezpieczny, gdy wchodzi w interakcję ze sztuczną inteligencją” – powiedział AFP w czwartek 5 listopada jeden z prawników rodziny, Andrew Liddell.
Rosnąca kontrola prawna nad gigantami technologicznymi
Google twierdzi, że jego tryb AI zawiera zabezpieczenia przed samookaleczeniem oraz próbami obchodzenia tych ograniczeń.
„Analizujemy zarzuty zawarte w pozwie i traktujemy tę sprawę bardzo poważnie” – przekazał w oświadczeniu dla AFP rzecznik Google, Jose Castaneda.
OpenAI mierzy się z kilkoma pozwami o bezprawne spowodowanie śmierci, w tym z pozwem złożonym przez rodziców 16-letniego Adama Raine’a, który popełnił samobójstwo po tym, jak rzekomo otrzymał szkodliwe porady od ChatGPT.
W styczniu Google i Character.AI zgodziły się zakończyć poza sądem kilka spraw wytoczonych przez rodziny nastolatków.
Tymczasem, w osobnym sporze prawnym, Google, TikTok i Meta złożyły w środę pozwy przeciwko stanowi Kalifornia, aby zablokować ustawę zakazującą uzależniających funkcji mediów społecznościowych dla użytkowników poniżej 16. roku życia.
Ustawę, podpisaną we wrześniu przez gubernatora Kalifornii Gavina Newsoma, zaplanowano na wejście w życie 1 stycznia 2027 roku.