Ponad 100 naukowców apeluje o zabezpieczenie wrażliwych zbiorów danych biologicznych przed nadużyciami sztucznej inteligencji, które mogłyby prowadzić do tworzenia śmiercionośnych patogenów.
Modele sztucznej inteligencji (AI) stosowane w biologii w dużym stopniu opierają się na ogromnych zbiorach danych biologicznych, w tym sekwencjach genetycznych i charakterystykach patogenów. Pojawia się jednak pytanie, czy takie informacje powinny być powszechnie dostępne i jak zapewnić ich legalne wykorzystanie.
REKLAMA
REKLAMA
Ponad stu badaczy ostrzega, że nieograniczony dostęp do niektórych zbiorów danych biologicznych mógłby pozwolić systemom AI projektować lub ulepszać niebezpieczne wirusy. Wzywają do wprowadzenia silniejszych zabezpieczeń przed nadużyciami.
W liście otwartym (źródło w Angielski) naukowcy z czołowych ośrodków, m.in. Uniwersytetu Johnsa Hopkinsa, Uniwersytetu Oksfordzkiego, Uniwersytetu Fordhama i Uniwersytetu Stanforda, podkreślają, że otwarty dostęp do danych naukowych przyspieszył postęp badań, ale niewielka część nowych danych biologicznych w razie niewłaściwego użycia stwarza poważne ryzyko dla bezpieczeństwa biologicznego.
„Stawka w zarządzaniu danymi biologicznymi jest bardzo wysoka, bo modele AI mogą pomóc w tworzeniu poważnych zagrożeń biologicznych” – napisali autorzy.
Modele AI wykorzystywane w biologii potrafią przewidywać mutacje, wychwytywać wzorce i generować bardziej zakaźne warianty patogenów o potencjale pandemicznym.
Autorzy określają to jako „budzącą niepokój zdolność”, która może przyspieszyć i uprościć tworzenie zaraźliwych patogenów biologicznych zdolnych wywołać pandemię u ludzi albo podobne zjawiska u zwierząt, roślin czy w środowisku.
Badacze zaznaczają, że dane biologiczne co do zasady powinny być publicznie dostępne, ale „niepokojące dane o patogenach” wymagają znacznie silniejszych zabezpieczeń.
„Koncentrujemy się na zdefiniowaniu i uregulowaniu najbardziej wrażliwych zbiorów danych zanim staną się szeroko dostępne dla twórców systemów AI” – napisali w artykule, proponując nowy system regulacji dostępu.
„W czasach, gdy na całym świecie powstają biologiczne modele AI z otwartymi wagami, ograniczenie dostępu do wrażliwych danych o patogenach wyłącznie do uprawnionych badaczy może być jednym z najbardziej obiecujących sposobów ograniczania ryzyka” – powiedział Moritz Hanke, współautor listu z Uniwersytetu Johnsa Hopkinsa.
Co robią twórcy modeli
Obecnie nie istnieje jednolity, globalny system regulujący dostęp do takich zbiorów danych. Część twórców dobrowolnie wyłącza z nich informacje wysokiego ryzyka, ale badacze przekonują, że jasne i spójne zasady powinny obowiązywać wszystkich.
Twórcy wiodących modeli biologicznej AI – Evo, opracowanego przez badaczy z Arc Institute, Stanforda i TogetherAI, oraz ESM3 firmy EvolutionaryScale – zdecydowali się nie uwzględniać w danych treningowych pewnych sekwencji wirusów.
W lutym 2025 roku zespół EVO 2 ogłosił, że wykluczył ze swoich zbiorów patogeny zakażające ludzi i inne złożone organizmy ze względu na ryzyko etyczne i bezpieczeństwa, a także po to, by „uprzedzić wykorzystanie Evo do opracowywania broni biologicznej”.
EVO 2 to otwartoźródłowy model AI do zastosowań w biologii. Potrafi przewidywać skutki mutacji DNA, projektować nowe genomy i wykrywać wzorce w kodzie genetycznym.
„Na razie nie ma eksperckich wytycznych, które dokładnie określają, jakie dane niosą istotne ryzyko. Część najbardziej zaawansowanych zespołów musi więc sama zgadywać i dobrowolnie wyłącza z treningu dane wirusów” – napisał na LinkedIn współautor badania i listu, Jassi Panu.
Różne rodzaje ryzykownych danych
Autorzy podkreślają, że proponowany system dotyczy jedynie niewielkiej części zbiorów danych biologicznych.
Wprowadzają pięciostopniową skalę Biosecurity Data Level (BDL) do kategoryzacji danych o patogenach. Klasyfikuje ona informacje według poziomu „ryzyka”, mierzonego ich potencjałem do uczenia systemów AI ogólnych wzorców wirusów i zagrożeń biologicznych dla zwierząt oraz ludzi. Skala obejmuje:
BDL-0: Dane z codziennej biologii. Nie powinny podlegać żadnym ograniczeniom i mogą być swobodnie udostępniane.
BLD-1: Podstawowe „klocki” wirusów, takie jak sekwencje genetyczne. Nie wymagają rozbudowanych kontroli bezpieczeństwa, ale logowanie i dostęp powinny być monitorowane.
BLD-2: Dane o cechach wirusów zwierzęcych, takich jak zdolność do zmiany gatunku gospodarza czy przeżywania poza organizmem.
BLD-3: Dane o cechach wirusów ludzkich, m.in. zakaźności, objawach czy odporności na szczepionki.
BLD-4: „Ulepszone” wirusy ludzkie, na przykład mutacje wirusa COVID‑19, które zwiększają jego zaraźliwość. Na tę kategorię nałożono by najsurowsze ograniczenia.
Jak zapewnić bezpieczny dostęp
Aby zagwarantować bezpieczny dostęp, autorzy listu apelują o wprowadzenie konkretnych narzędzi technicznych, które pozwolą dostawcom danych weryfikować uprawnionych użytkowników i śledzić nadużycia.
Wśród propozycji znalazło się m.in. znakowanie wodne – czyli osadzanie w zbiorach danych ukrytych, unikalnych identyfikatorów, które ułatwiają wykrywanie wycieków – a także informacje o pochodzeniu danych, rejestry audytowe zapisujące dostęp i zmiany z wykorzystaniem podpisów odpornych na manipulacje oraz biometria behawioralna śledząca charakterystyczne wzorce zachowania użytkowników.
Badacze przekonują, że właściwe wyważenie otwartości danych i koniecznych ograniczeń bezpieczeństwa w przypadku informacji wysokiego ryzyka będzie kluczowe w miarę, jak systemy AI będą zyskiwać na mocy i upowszechniać się.