Istniejące i nowe narzędzia AI mogą już dziś posłużyć do stworzenia broni biologicznej zdolnej wywołać pandemię. Ostrzegają eksperci.
Na początku roku czołowi eksperci od technologii i zwalczania terroryzmu spotkali się, by przeanalizować hipotetyczny scenariusz: globalną pandemię wywołaną przez nowy szczep enterowirusa, celowo stworzony przez grupę ekstremistów z użyciem sztucznej inteligencji (AI).
Brzmi jak fabuła powieści science fiction. Jednak w najbliższych latach jest jak najbardziej możliwy, zdaniem 14 ekspertów, którzy spotkali się, by omówić zabezpieczenia AI w naukach o życiu.
W raporcie podsumowującym dyskusje grupy stwierdzono, że fikcyjna pandemia, przewidująca 850 mln zakażeń i 60 mln zgonów na świecie, jest „bardzo niepokojąca i wymaga pilnych działań, by jej zapobiec”.
Sztuczna inteligencja już rewolucjonizuje medycynę. Obiecuje przyspieszenie prac nad nowymi lekami i szczepionkami. Jednak eksperci ostrzegają, że biobroń wspierana przez AI mogłaby wyrządzić ludzkości ogromne szkody.
Grupa ekspertów, zwołana w lutym przez organizację Nuclear Threat Initiative i Monachijską Konferencję Bezpieczeństwa, ostrzegła, że szybka ewolucja AI „osłabia bariery utrudniające rozwój biobroni przez osoby o złych zamiarach”.
Zdaniem grupy te zagrożenia nie leżą w dalekiej przyszłości. Eksperci stwierdzili, że technicznie da się wykorzystać istniejące i powstające narzędzia biologiczne oparte na AI do tworzenia nowych patogenów o potencjale wywołania pandemii.
Co więcej, obecne środki bezpieczeństwa są poważnie nieprzygotowane do walki z tymi zagrożeniami. Taką ocenę zawarto w raporcie.
Eksperci wezwali przywódców świata do ściślejszej współpracy, by oceniać i odpowiadać na biologiczne zagrożenia napędzane przez AI.
Dodali, że działania ograniczające ryzyka związane z AI trzeba wyważyć wobec potencjalnych korzyści tych technologii, aby „nie nakładać nieuzasadnionych ograniczeń” na innowacje naukowe.