Volker Türk zaapelował o pilne globalne zabezpieczenia, niezależną kontrolę i uzgodnione ograniczenia dla zaawansowanej sztucznej inteligencji.
Wysoki komisarz ONZ ds. praw człowieka ostrzegł, że zaawansowana sztuczna inteligencja może stanowić „egzystencjalne zagrożenie dla ludzkości” i zaapelował o natychmiastowe działania, które mają uczynić tę technologię bezpieczniejszą.
REKLAMA
REKLAMA
Zwracając się w poniedziałek do Rady Praw Człowieka ONZ, Volker Türk powiedział, że ludzie stają w obliczu „nieznanych, wręcz bezprecedensowych” zagrożeń dla swoich praw.
„Potrzeba nadzoru nad AI jest powszechnie uznawana, ale gdzie są konkretne działania?” – zapytał, ostrzegając, że „zwłoka służy tylko gigantycznym firmom technologicznym, ich właścicielom i sprzymierzeńcom”.
Türk podkreślił, że „garstka mężczyzn ma niemal nieograniczoną władzę nad sztuczną inteligencją, o której wciąż słyszymy, że dysponuje niewyobrażalną mocą obliczeniową”.
„Mówią o wolności, ale kiedy przyjrzymy się temu bliżej, okazuje się, że chodzi głównie o wolność wykorzystywania naszych danych” – stwierdził.
Wysoki komisarz zwrócił uwagę zwłaszcza na systemy AI, które wymykają się środowiskom testowym albo szantażują twórców, żeby nie zostały wyłączone.
Jak podaje AFP, Türk ostrzegł w szczególności, że „sztuczna inteligencja, która wymyka się środowisku testowemu lub szantażuje twórców, by nie pozwolili jej się wyłączyć, jest zbyt potężna”.
Jego słowa nawiązują częściowo do ujawnionych w lipcu informacji, że agenci OpenAI wymknęli się rzekomo kontrolowanym środowiskom i uzyskali dostęp do serwerów należących do Hugging Face, popularnej platformy, na której twórcy dzielą się oprogramowaniem AI.
OpenAI podało później, że agenci uruchomili kod na dziesiątkach serwerów Hugging Face i uzyskali pełny dostęp do jednego z nich.
Incydent na nowo rozbudził apele o surowszy nadzór nad zaawansowanymi systemami AI.
Anthropic, Meta i inne firmy technologiczne zgłaszały podobne incydenty z udziałem agentów podczas testów.
„Podzielam obawy ludzi z branży, że zaawansowana AI może stanowić egzystencjalne zagrożenie dla ludzkości” – powiedział Türk.
„Wzywam dziś do pełnej mobilizacji, żeby możliwie szybko wprowadzić żelazne gwarancje dotyczące bezpieczeństwa i ochrony związanej z AI, zanim będzie za późno”.
Apel o międzynarodowe zabezpieczenia
Szef ONZ ds. praw człowieka zapowiedział, że w najbliższych dniach napisze do firm rozwijających AI, wzywając je do podjęcia natychmiastowych działań, które ograniczą ryzyko pozostające pod ich kontrolą.
Co najmniej trzeba, aby państwa, w których powstają systemy AI, oraz podmioty zaangażowane w ich łańcuchy dostaw uzgodniły wspólne czerwone linie.
„Potrzebujemy niezależnej weryfikacji i znacznie ściślejszej współpracy w sprawach bezpieczeństwa wewnątrz samej branży” – dodał Türk.
„Musimy też brać pod uwagę wpływ AI na prawa człowieka w obszarze rynku pracy, podstawowych zasad demokracji oraz naszego środowiska”.
W Unii Europejskiej ramy prawne dla sztucznej inteligencji wyznacza Akt o AI.
Zgodnie z tym prawem systemy wysokiego ryzyka muszą spełnić surowe wymogi, zanim trafią na rynek UE, a zastosowania uznane za niedopuszczalne zagrożenie dla bezpieczeństwa lub praw ludzi są zakazane.
Prawo zabrania stosowania AI zaprojektowanej tak, by manipulować ludźmi lub ich wykorzystywać, oceniać ich na podstawie zachowania, przewidywać, czy dana osoba popełni przestępstwo, albo masowo gromadzić wizerunki do tworzenia baz danych dla systemów rozpoznawania twarzy.
Zakazane są też systemy rozpoznawania emocji w pracy i szkołach, niektóre formy profilowania biometrycznego oraz większość policyjnych systemów rozpoznawania twarzy działających w czasie rzeczywistym w przestrzeni publicznej, a zakaz wytwarzania za pomocą AI wizerunków o charakterze seksualnym bez zgody oraz materiałów przedstawiających wykorzystywanie seksualne dzieci wejdzie w życie w grudniu 2026 roku.