OpenAI i Anthropic prowadzą rozmowy z amerykańskim związkiem nauczycieli o paktach bezpieczeństwa i prywatności. Google, główny dostawca technologii edukacyjnych w USA, nie ujawnia, czy zapewni podobną ochronę.
Microsoft wprowadza zabezpieczenia i standardy ochrony prywatności dla swoich narzędzi AI używanych w szkołach w Stanach Zjednoczonych. Uzgodniono je z drugim co do wielkości w kraju związkiem zawodowym nauczycieli, na tle narastającej krytyki sztucznej inteligencji i długiego czasu spędzanego przed ekranami.
REKLAMA
REKLAMA
Porozumienie (źródło w Angielski), podpisane w ubiegłym tygodniu, zakazuje używania wirtualnych towarzyszy i funkcji AI „zaprojektowanych tak, by budować emocjonalne przywiązanie lub zależność” albo utrzymywać uwagę uczniów dłużej, niż wymaga tego zadanie edukacyjne.
Standardy mają moc prawną i przewidują audyty prowadzone przez niezależne podmioty, które mają sprawdzać ich przestrzeganie.
W ramach szerokiego porozumienia Microsoft deklaruje, że nie będzie wykorzystywać danych uczniów ani nauczycieli do trenowania swoich systemów AI, poza wąskim wyjątkiem dotyczącym informacji mogących pomóc w ochronie uczniów. Firma podkreśla, że zbierane dane nie mogą być sprzedawane, wykorzystywane do reklamy ani do prac nad nowymi produktami.
Standardy obejmują także mechanizmy audytu i przejrzystości. Zobowiązują firmę do wyjaśniania rodzinom, prostym językiem, jak działają jej narzędzia i jakie dane zbierają.
„Ten standard wyznacza bardzo wysoką poprzeczkę dla ochrony prywatności dzieci i bezpieczeństwa AI, a my rozszerzymy to porozumienie na każdy okręg szkolny w kraju” – oświadczył Brad Smith, wiceprezes i prezes Microsoftu.
Według firmy standardy będą obowiązywać we wszystkich umowach Microsoftu ze szkołami w USA od 1 listopada.
Czy w europejskich klasach potrzebny jest hamulec dla AI?
Sztuczna inteligencja coraz śmielej wchodzi do europejskich klas.
Badanie Komisji Europejskiej (źródło w Angielski) dotyczące najwcześniejszych użytkowników w szkołach średnich w Finlandii, Niemczech, Irlandii, Luksemburgu i Hiszpanii wykazało, że uczniowie korzystają z generatywnej AI, by wyjaśniać trudne zagadnienia, ćwiczyć umiejętności i przygotowywać się do egzaminów.
Niektóre europejskie rządy już wyznaczają granice korzystania z takich narzędzi przez młodsze dzieci.
Norwegia ogłosiła w tym roku, że dzieci w wieku mniej więcej 6–12 lat co do zasady nie powinny samodzielnie używać generatywnej AI do pracy szkolnej, a młodzież w wieku około 13–15 lat może zacząć ostrożnie z nią eksperymentować.
We Francji uczniowie mogą poznawać podstawowe informacje o AI już w szkole podstawowej, jednak nie powinni bezpośrednio korzystać z generatywnej AI. Nadzorowane użycie tych narzędzi na lekcjach może rozpocząć się mniej więcej w wieku 13–14 lat.
Dokument, do którego dotarł Euronews, sugeruje, że Komisja Europejska zaproponuje zakaz korzystania przez osoby poniżej 15. roku życia z ryzykownych usług online, takich jak chatboty AI, w projekcie przepisów, który ma zostać opublikowany w czwartek.
OpenAI i Anthropic rozmawiają o podobnych zabezpieczeniach
Eksperci podkreślają, że zapisy dotyczące bezpieczeństwa w amerykańskim porozumieniu są istotne. Ostrzegają jednak, że mocniejsze zabezpieczenia nie powinny automatycznie być odczytywane jako zachęta do szerszego użycia AI w szkołach.
„Obawiam się, że tak nagłośnione ramy zostaną źle zrozumiane i szkoły pomyślą: «Jeśli dobrze dbają o prywatność danych i bezpieczeństwo, to znaczy, że powinniśmy używać tego narzędzia»” – powiedział Josh Golin, dyrektor wykonawczy amerykańskiej organizacji Fairplay zajmującej się bezpieczeństwem dzieci w internecie.
Golin uważa, że standardy będą skuteczne tylko wtedy, gdy przyjmą je także inne duże firmy rozwijające AI.
„Czy Google przyjmie te zasady? To ogromny znak zapytania” – stwierdził.
Google stanął w USA w ogniu krytyki po tym, jak w sierpniu rozszerzył w Classroomie korzystanie z narzędzi opartych na Gemini na szkolne konta używane przez uczniów poniżej 18. roku życia.
Krytycy określili to jako kolejny etap wyścigu między gigantami technologicznymi o wprowadzenie swoich produktów AI do szkół i dotarcie do młodszych użytkowników. Google twierdzi, że z Classroom korzysta ponad 150 mln nauczycieli i uczniów na całym świecie.
Związek zawodowy nauczycieli prowadzi także rozmowy z OpenAI i Anthropic, które publicznie z zadowoleniem przyjęły porozumienie z Microsoftem.
OpenAI, twórca ChatGPT, określił je jako „ważny kamień milowy dla bezpieczeństwa i prywatności AI w szkołach”. Firma poinformowała, że współpracuje ze związkiem i spodziewa się wkrótce sfinalizować własne porozumienie.
Anthropic, twórca Claude’a, zadeklarował, że również popiera działania na rzecz odpowiedzialnego korzystania z AI w edukacji i współpracuje ze związkiem nad standardami bezpieczeństwa i ochrony prywatności.