Humanoidalne roboty zasilane sztuczną inteligencją mogą do 2027 r. stać się bronią, ostrzega firma robotyczna Foundation Future Industries.
Błyskawiczny rozwój sztucznej inteligencji i ogromne postępy w robotyce sprawiły, że obrazy humanoidalnych robotów uzbrojonych w broń przestały być tylko wytworem zbiorowej wyobraźni.
REKLAMA
REKLAMA
Wraz z tym technologicznym przyspieszeniem narasta jednak niepokój.
Firma Foundation Future Industries z siedzibą w USA, która buduje humanoidy do zastosowań komercyjnych i wojskowych, testowała już swoje roboty Phantom w Ukrainie.
Szef firmy zapowiada, że po ukraińskich pilotażach spodziewa się rozpocząć testy scenariuszy użycia broni przez te roboty „już w przyszłym roku”.
„Myślę, że reagujemy psychologicznie, jakby to był Terminator, ale jeśli spojrzeć na to praktycznie, rzeczywistość wygląda inaczej” – powiedział w rozmowie z Euronews Next prezes Foundation Future Industries, Sankaet Pathak.
„W gruncie rzeczy: po co wysyłać grupę humanoidów, jeśli celem jest sianie zniszczenia?”
Szef firmy podkreśla jednak, że z czasem humanoidy mogą przejmować coraz więcej zadań bojowych, zapewniając precyzję, jakiej nie dają inne systemy uzbrojenia, w tym bombardowania z powietrza.
Jego zdaniem wysyłanie oddziałów humanoidów tylko po to, by siać spustoszenie, nie ma sensu, bo bombę można zrzucić znacznie taniej.
Twierdzi, że humanoidy stają się naprawdę przydatne wtedy, gdy cel wojskowy wymaga precyzji: trzeba uniknąć zniszczenia infrastruktury i ofiar cywilnych, wykonując przy tym złożoną misję.
Roboty na polu walki
Pathak nie spodziewa się, by humanoidy zastąpiły drony, lecz widzi dla nich miejsce tam, gdzie walka na ziemi staje się coraz bardziej niebezpieczna dla żołnierzy.
„Humanoidy mają sens tylko wtedy, gdy celem misji jest jak największa precyzja – gdy chodzi o to, by nie niszczyć infrastruktury, nie krzywdzić cywilów i najlepiej jak potrafisz wykonać bardzo skomplikowaną operację” – mówi.
Uważa też, że przebywanie żołnierzy na lądzie jest dziś coraz bardziej ryzykowne. Jego zdaniem humanoidy to kolejny etap rozwoju precyzyjnych systemów, który ogólnie byłby czymś dobrym.
Nie istnieje osobny traktat regulujący użycie humanoidalnych lub autonomicznych robotów na polu walki. Podlegają one obecnie międzynarodowemu prawu humanitarnemu (IHL), które wymaga, by broń rozróżniała między kombatantami a cywilami.
W ubiegłym tygodniu sekretarz generalny ONZ António Guterres powiedział, że jego „główną obawą są śmiercionośne autonomiczne systemy uzbrojenia”.
„Nazwijmy je po imieniu: roboty zabójcy” – napisał w serwisie LinkedIn. „Maszyny, które same wybierają i atakują cel, odbierając życie – bez ludzkiej kontroli i osądu” – dodał.
Od 2023 roku ONZ prowadzi rozmowy nad specjalnym traktatem dotyczącym śmiercionośnych autonomicznych systemów uzbrojenia (LAWS) w ramach Konwencji o niektórych rodzajach broni konwencjonalnych. Sekretarz generalny ONZ zabiega o wprowadzenie do 2026 roku wiążącego zakazu broni działającej bez kontroli człowieka.
Zapytany o te plany Pathak stwierdził, że nie widzi powodu, by humanoidy traktować inaczej niż inne precyzyjne systemy uzbrojenia już używane, takie jak uzbrojone drony czy bezzałogowe pojazdy lądowe.
Sztuczna inteligencja na polu walki
Humanoid wykorzystuje sztuczną inteligencję zbudowaną na własnych modelach świata opracowanych przez firmę. Przedsiębiorstwo nie ujawnia swoich dostawców.
Modele świata uczą się na podstawie oglądania filmów, danych z symulacji i innych przestrzennych informacji, a następnie tworzą własne reprezentacje scen lub obiektów.
Oczywiście wymagają ogromnych ilości danych treningowych, ale służą do innych zadań niż chatboty. Mówiąc prościej: zamiast przewidywać kolejne słowo, jak robią to duże modele językowe (LLM), tworzą odwzorowania fizycznych środowisk i przewidują, co wydarzy się w następnej scenie czy „świecie”, modelując ruch obiektów w czasie.
„Jesteśmy mocno skoncentrowani na modelach świata, które potrafią przewidywać przyszłość. Uważamy, że to będzie podstawa budowy intuicyjnej, odpornej sztucznej inteligencji” – mówi Pathak.
Zapytany, czy istnieje ryzyko, że sztuczna inteligencja przejmie kontrolę nad uzbrojonymi robotami, ocenia, że zagrożenie raczej nie przybierze formy humanoidów, lecz dronów albo czegoś jeszcze groźniejszego.
„Jeśli celem misji AI byłoby zniszczenie ludzkości, gwarantuję, że nie wysłałaby 100 tys. humanoidów. Wykorzystałaby po prostu drony albo arsenał nuklearny” – mówi.
Za znacznie bardziej realne, bieżące zagrożenie uznaje „terroryzm AI” – wykorzystywanie łatwo dostępnych modeli sztucznej inteligencji do cyberataków, szerzenia dezinformacji czy uzbrajania dronów konsumenckich. Winą obarcza tu modele otwartoźródłowe.
Firmy AI, które deklarują, że działają w modelu open source, przekonują, że w ten sposób upowszechniają technologię. Zwolennicy podejścia zamkniętego ostrzegają jednak, że to zagrożenie dla bezpieczeństwa publicznego, bo każdy może modyfikować takie modele i zmieniać wbudowane zabezpieczenia.
Dobitnym przykładem była decyzja Meta, która w 2023 roku udostępniła jako open source swój duży model językowy (LLM) Llama 2.
Zaledwie kilka dni później użytkownicy zaczęli publikować własne, nieocenzurowane wersje Llamy 2, zadawać pytania o to, jak zbudować bombę atomową – a model udzielał odpowiedzi.
Pathak przekonuje jednak, że scenariusz, w którym systemy AI potrafią samodzielnie zmieniać swoje wytyczne, ulepszać się i kopiować niezależnie od dużych, łatwych do wykrycia klastrów obliczeniowych, wciąż wymaga jeszcze kilku poważnych przełomów technologicznych.
„Gdy te modele staną się bardziej wydajne, będą mogły się samoreplikować przy mniejszej mocy obliczeniowej, same się udoskonalać i przejawiać zachowania pozwalające omijać oraz aktualizować własne dyrektywy. Wtedy wkraczamy w tę strefę zagrożeń” – wyjaśnia.
Zastrzega jednak, że „prawdopodobnie dzielą nas od tego trzy, cztery, może pięć kroków”.
Co dalej
Nawet jeśli nie będą uzbrojone, humanoidy mogą zdaniem Pathaka odegrać rolę na polu walki. Mogą zajmować się logistyką – przenoszeniem zaopatrzenia między przestrzeniami zamkniętymi i otwartymi – oraz rozpoznaniem, na przykład mapowaniem wnętrz i oczyszczaniem budynków. Takie zadania były już testowane w Ukrainie.
Testy wojskowe w Ukrainie zmusiły Foundation do przeprojektowania sprzętu z myślą o pracy w trudnych warunkach terenowych.
Firma buduje już robota nowej generacji, Phantom 2. Konstrukcja jest wodoszczelna i pyłoszczelna, a udźwig wzrósł z ok. 25–30 kg w pierwszej wersji do ok. 80 kg.
Odporność na upadki, mierzona przeciążeniem w jednostkach G, zwiększono z 12–15 G do niemal 100 G. Robot wyposażono też w akumulator o pojemności 3 kilowatogodzin.
Wśród inwestorów Foundation są m.in. Eric Trump, syn byłego prezydenta USA Donalda Trumpa, firma Stripe oraz fundusz venture Define.
Obecnie Foundation wynajmuje komercyjnie roboty Phantom za ok. 100000 dolarów (90000 euro) rocznie za sztukę. Klienci wojskowi kupują je w zbliżonej cenie jednostkowej.