Krytycy obawiają się, że ustalenia dotyczące zagrożeń – od cyberataków po broń biologiczną – zostaną złagodzone pod dyktando branży technologicznej.
Amerykańska rządowa instytucja, która testuje zaawansowaną sztuczną inteligencję pod kątem bezpieczeństwa, nie ma stałego szefa i przestała publikować swoje badania – poinformowała agencja Associated Press.
REKLAMA
REKLAMA
Dwaj byli urzędnicy powiedzieli agencji, że pracowników Center for Advancing Innovation and Standards for Super Intelligence (CAISSI), działającego w ramach Departamentu Handlu, poproszono ostatnio, by nieformalnie raportowali do jednego z biur Białego Domu.
Krytycy twierdzą, że ta zmiana może upolitycznić prace centrum. Ostrzegają, że wnioski z jego analiz mogą być łagodzone, tak aby odpowiadały interesom firm rozwijających AI, które w dużej mierze pozostawiono samym sobie.
Caroline Siegel Singh z Federation of American Scientists powiedziała, że celem było, aby politykę w interesie publicznym kształtowali „ponadpartyjni technokratyczni eksperci”.
Inni argumentują, że bliższe związki z prezydentem USA Donaldem Trumpem mogą podnieść rangę centrum i przynieść mu większe finansowanie. CAISSI otrzymuje rocznie 10 mln dolarów (8,94 mln euro), czyli około jednej ósmej budżetu jego brytyjskiego odpowiednika.
Dla porównania, unijne AI Office, działające w strukturach Komisji Europejskiej i od sierpnia mające uprawnienia do nakładania kar na twórców najbardziej zaawansowanych modeli AI, zatrudnia ponad 125 osób i – jak podano – rekrutuje kolejnych 40 pracowników.
Bez szefa, bez raportów, bez nadzoru
CAISSI ma problem z utrzymaniem kierownictwa. Collin Burns, były badacz firmy Anthropic, został odwołany ze stanowiska dyrektora po zaledwie czterech dniach w kwietniu, jak podano – z powodu jego powiązań z tą spółką.
Jego następca, Chris Fall, zrezygnował trzy miesiące później.
Arvind Raman, szef jednostki nadrzędnej centrum, National Institute of Standards and Technology, pełni obecnie funkcję dyrektora p.o. W sierpniu Kongres zapytał, dlaczego centrum przestało publikować swoje raporty dotyczące bezpieczeństwa.
We wrześniu prezydent Trump wezwał firmy z branży AI, by w ramach dobrowolnego paktu zobowiązały się do „daleko idącej samokontroli”, lecz jego administracja nie wyjaśniła, jak będzie sprawdzać, czy dotrzymują tych zobowiązań.
Biały Dom nie odpowiedział na pytania dotyczące CAISSI. Zamiast tego odesłał do nowej formacji Super Intelligence Force, którą kieruje dyrektor Wywiadu Narodowego Jay Clayton.
Amos Toh z Brennan Center for Justice powiedział AP, że traktowanie bezpieczeństwa AI jako kwestii bezpieczeństwa narodowego niesie ryzyko zepchnięcia na dalszy plan ochrony konsumentów, prywatności i praw obywatelskich.
„Wszystkie te decyzje mają ogromne znaczenie dla opinii publicznej i powinny być wyjaśniane oraz uzasadniane na oczach społeczeństwa” – stwierdził Toh. „A tak się nie dzieje”.