Volker Türk zaapelował o pilne globalne zabezpieczenia, niezależną kontrolę i uzgodnione ograniczenia dla zaawansowanej sztucznej inteligencji.
Szef ONZ ds. praw człowieka ostrzegł, że zaawansowana sztuczna inteligencja może stanowić «egzystencjalne zagrożenie dla ludzkości» i wezwał do natychmiastowych działań na rzecz zwiększenia bezpieczeństwa tej technologii.
REKLAMA
REKLAMA
W poniedziałek, przemawiając przed Radą Praw Człowieka ONZ, Volker Türk podkreślił, że ludzie mierzą się z «nieznanymi, a nawet bezprecedensowymi» zagrożeniami dla swoich praw.
„Potrzeba regulacji AI jest powszechnie dostrzegana, ale gdzie jest działanie?” – zapytał i ostrzegł, że „zwłoka działa tylko na korzyść potężnych firm technologicznych, ich właścicieli i wspólników”.
Türk wskazał, że «garstka mężczyzn ma niemal nieograniczoną władzę nad AI, która – jak mówią – dysponuje niewyobrażalną mocą obliczeniową».
„Mówią o wolności, ale po bliższym przyjrzeniu się okazuje się, że chodzi jedynie o wolność do wykorzystywania naszych danych” – dodał.
Szef ONZ ds. praw człowieka zwrócił uwagę zwłaszcza na systemy AI, które wymykają się środowiskom testowym lub szantażują twórców, aby nie zostały wyłączone.
Według AFP, Türk szczególnie ostrzegł, że «AI, która wymyka się z testów lub szantażuje twórców, by jej nie wyłączać, jest zbyt potężna».
Jego wypowiedź nawiązuje częściowo do ujawnień z lipca, kiedy agenci OpenAI wydostali się z pozornie kontrolowanego środowiska i uzyskali dostęp do serwerów Hugging Face – szeroko wykorzystywanej platformy, gdzie deweloperzy dzielą się oprogramowaniem AI.
OpenAI później potwierdziło, że agenci wykonali kod na dziesiątkach serwerów Hugging Face i zyskali pełny dostęp do jednego z nich.
To zdarzenie ponownie wywołało apele o zaostrzenie nadzoru nad zaawansowanymi systemami AI.
Podczas testów podobne zdarzenia zgłaszali także Anthropic, Meta i inne firmy technologiczne.
„Podzielam obawy osób z branży, że zaawansowana AI może stanowić egzystencjalne zagrożenie dla ludzkości” – mówił Türk.
„Wzywam dziś do całkowitych działań, by wprowadzić żelazne gwarancje bezpieczeństwa AI, zanim będzie za późno.”
Apele o międzynarodowe zabezpieczenia
Szef ONZ ds. praw człowieka zapowiedział, że w najbliższych dniach napisze do firm AI, namawiając je do podjęcia natychmiastowych kroków ograniczających ryzyko w zakresie ich kontroli.
Podkreślił, że „przynajmniej kraje goszczące AI oraz te zaangażowane w jej łańcuch dostaw muszą wypracować wspólne, jasno określone granice”.
„Potrzebujemy niezależnej weryfikacji i znacznie silniejszej współpracy na rzecz bezpieczeństwa w branży” – dodał Türk.
„Musimy też uwzględnić wpływ AI na prawa człowieka w zakresie zatrudnienia, podstaw demokracji oraz środowiska” – mówił.
W Unii Europejskiej obowiązuje Akt o sztucznej inteligencji, który tworzy prawne ramy dla AI.
Zgodnie z tym prawem systemy wysokiego ryzyka muszą spełniać rygorystyczne wymagania, zanim trafią na rynek UE. Zakazane są natomiast zastosowania, które stwarzają nieakceptowalne zagrożenie dla bezpieczeństwa lub praw ludzi.
Prawo zabrania AI mającej na celu manipulowanie lub wykorzystywanie ludzi, ocenianie ich na podstawie zachowań, przewidywanie, czy ktoś popełni przestępstwo, oraz masowego zbierania zdjęć do baz rozpoznawania twarzy.
Zabronione są też rozpoznawanie emocji w pracy i szkołach, niektóre formy profilowania biometrycznego oraz większość policyjnego rozpoznawania twarzy w czasie rzeczywistym w miejscach publicznych. Od grudnia 2026 obowiązywać będzie zakaz AI generującej obrazy seksualne bez zgody oraz materiałów dotyczących wykorzystywania seksualnego dzieci.