ChatGPT oszacuje, czy użytkownik ma poniżej 18 lat. Weźmie pod uwagę, jak długo istnieje jego konto, kiedy jest online i o co pyta.
Chatbot ChatGPT, oparty na sztucznej inteligencji OpenAI, będzie przewidywał wiek użytkowników, aby zapewnić nastolatkom bezpieczniejsze korzystanie z sieci. Rośnie presja na firmy technologiczne w sprawie ochrony nieletnich w internecie.
Nowy system przewidywania wieku firmy wykorzysta informacje o koncie użytkownika, by ocenić, czy ma on mniej niż 18 lat. Weźmie pod uwagę m.in. czas istnienia konta, pory logowania i sposób korzystania z aplikacji.
Gdy ChatGPT rozpozna użytkownika poniżej 18 lat, automatycznie włączy dodatkowe zabezpieczenia przed treściami drastycznymi, brutalnymi, dotyczącymi samookaleczeń oraz seksualnymi. Ograniczone zostaną też wiralowe wyzwania w mediach społecznościowych, które zachęcają nieletnich do ryzykownych lub szkodliwych zachowań.
OpenAI przekonuje, że podejście to powstało przy udziale ekspertów i opiera się na literaturze naukowej o rozwoju dzieci.
Konta przypisane osobom poniżej 18 lat nadal mogą korzystać z ChatGPT, aby się uczyć, tworzyć i zadawać pytania, poinformowała firma.
Aktualizacja OpenAI pojawia się w czasie debat w Unii Europejskiej. Rządy rozważają ograniczenia dotyczące kont w mediach społecznościowych dla osób poniżej 16 lat, po tym jak Australia w grudniu wprowadziła zakaz. ChatGPT nie jest uznawany za platformę społecznościową w ramach australijskich ograniczeń.
Rodzice 16-letniego Adama Raine’a pozwali w Kalifornii OpenAI i jej prezesa, Sama Altmana. Nastolatek odebrał sobie życie w kwietniu ubiegłego roku. Według pozwu platforma miała podpowiadać mu, jak to zrobić, i napisała dla niego list pożegnalny.
OpenAI wcześniej wprowadziła na ChatGPT kontrolę rodzicielską, która pozwala ustawić „godziny ciszy”, gdy AI nie można używać, oraz otrzymywać powiadomienia, jeśli nastolatek w rozmowach z botem wykazuje oznaki niepokoju.
Osoby błędnie uznane przez nowy system za młodsze niż 18 lat będą mogły zrobić selfie na żywo albo przesłać dokument tożsamości, aby potwierdzić wiek i zdjąć ograniczenia.