W liście pracownicy Google ostrzegają, że Pentagon może wykorzystać tę technologię w "nieludzki" sposób, m.in. do masowej inwigilacji i śmiertelnej autonomicznej broni.
Ponad 600 pracowników Google wezwało firmę, by odrzuciła potencjalną umowę z Pentagonem, która pozwoliłaby wykorzystywać jej sztuczną inteligencję w tajnych operacjach wojskowych – poinformowano w poniedziałek w oświadczeniu.
REKLAMA
REKLAMA
"Chcemy, by sztuczna inteligencja służyła ludzkości, a nie była wykorzystywana w nieludzki czy skrajnie szkodliwy sposób” – czytamy w liście otwartym do prezesa Google, Sundara Pichaia. "Dotyczy to śmiercionośnych autonomicznych systemów uzbrojenia i masowej inwigilacji, ale nie tylko.”
List podpisali pracownicy Google DeepMind, Cloud i innych działów. Powstał w momencie, gdy technologiczny gigant prowadzi rozmowy z amerykańskim Departamentem Obrony o możliwym wykorzystaniu swojego modelu Gemini w działaniach objętych klauzulą tajności.
Pod listem z nazwiska podpisało się także ponad 20 dyrektorów, dyrektorów wyższego szczebla i wiceprezesów.
"Projekty objęte klauzulą tajności z definicji są nieprzejrzyste” – powiedział jeden z organizatorów, który w oświadczeniu pozostał anonimowy.
"Obecnie nie mamy żadnej pewności, że naszych narzędzi nie wykorzysta się do wyrządzania ogromnych szkód albo stopniowego ograniczania swobód obywatelskich poza kontrolą opinii publicznej. Mówimy o takich działaniach jak profilowanie ludzi czy wskazywanie celów wśród niewinnych cywilów.”
List pojawia się w momencie, gdy na firmy technologiczne rośnie presja, by jasno określiły, w jaki sposób ich narzędzia AI mogą być wykorzystywane przez wojsko i służby wywiadowcze, po sporze między Pentagonem a startupem Anthropic.
Anthropic wcześniej pozwał amerykański Departament Obrony, po tym jak uznano go za "zagrożenie dla łańcucha dostaw”, gdy zażądał, by jego systemów nie wykorzystywano do masowej inwigilacji ani prowadzenia autonomicznej wojny.
Prezes Anthropic, Dario Amodei, stwierdził, że "nie może w zgodzie z własnym sumieniem przystać na prośbę Pentagonu” o nieograniczony dostęp do systemów AI firmy.
"W pewnym wąskim zakresie zastosowań uważamy, że AI może podważać, a nie bronić wartości demokratycznych” – napisał Amodei. "Niektóre z zastosowań wykraczają też po prostu poza to, co dzisiejsza technologia może robić bezpiecznie i w sposób niezawodny.”
W odpowiedzi na decyzję Amodeia prezydent USA Donald Trump nakazał resortom rządowym zrezygnować z korzystania z chatbota Claude.
Jak twierdzą autorzy listu, Google zaproponował zapisy umowne, które uniemożliwiałyby używanie modelu Gemini do masowej inwigilacji w kraju oraz do autonomicznych systemów uzbrojenia pozbawionych odpowiedniej kontroli człowieka.
Pentagon naciska jednak na szerszą formułę "wszelkich legalnych zastosowań”, argumentując, że jest ona konieczna, by zachować elastyczność operacyjną. Pracownicy wskazują, że takie zabezpieczenia byłyby w praktyce trudne do wyegzekwowania, powołując się na obowiązujące w Pentagonie zasady, które ograniczają zewnętrzną kontrolę nad jego systemami AI.
Najnowsze oświadczenie pracowników Google przywołuje skojarzenia z protestem z 2018 roku, gdy sprzeciw załogi doprowadził do wycofania się Google z Project Maven, inicjatywy Pentagonu wykorzystującej AI do analizy nagrań z dronów.
"Uważamy, że Google nie powinien zajmować się prowadzeniem wojny” – napisano w liście.
"Dlatego prosimy o anulowanie Project Maven oraz o opracowanie, upublicznienie i konsekwentne egzekwowanie jasnej polityki, zgodnie z którą ani Google, ani jego podwykonawcy nigdy nie będą tworzyć technologii do prowadzenia działań wojennych”.