Dokumenty IPO firmy AI ostrzegają przed możliwymi szkodami wynikającymi z coraz bardziej autonomicznych systemów oraz przed wyzwaniami finansowymi i regulacyjnymi.
Niebezpiecznie działające systemy AI, cyberataki oraz możliwość wykorzystania sztucznej inteligencji do tworzenia groźnej broni należą do ryzyk, które Anthropic ujawnił inwestorom, szykując się do debiutu giełdowego.
REKLAMA
REKLAMA
Spośród 335 stron opisujących finanse Anthropic, wynagrodzenia kadry zarządzającej, politykę dywidend i inne kwestie, aż 93 poświęcono „czynnikom ryzyka” – zagrożeniom dla pieniędzy przyszłych akcjonariuszy. Dla porównania, u konkurencyjnej spółki SpaceX czynniki ryzyka zajmują 38 z ponad 250 stron.
Takie ujawnienia są wymagane w procesie pierwszej oferty publicznej i mają dać potencjalnym inwestorom jaśniejszy obraz ryzyk, jakie wiążą się z zakupem akcji spółki.
Przedstawiając się inwestorom, Anthropic opisuje swój debiut giełdowy jako krok w stronę ograniczania ryzyk, które – zdaniem firmy – niesie sztuczna inteligencja.
„Budowanie systemów AI oznacza czerpanie z samego procesu poznawczego, a wszystko, co ma taką moc, może być użyte w złym, jak i w dobrym celu” – piszą założyciele spółki w liście do przyszłych akcjonariuszy dołączonym do dokumentów IPO. „Anthropic to organizacja głęboko zakorzeniona w wartościach, powołana w dużej mierze po to, by pomóc światu korzystać z zalet AI i uniknąć związanych z nią zagrożeń”.
Lista zagrożeń jest jednak długa. Obejmuje sprawy dość przyziemne – na przykład ryzyko, że firma nie zdoła zatrzymać kluczowych pracowników albo poradzić sobie z regulacjami – aż po możliwe uwikłanie w cyberataki i rozprzestrzenianie groźnych dezinformacji.
Oto najważniejsze ryzyka, które wskazuje Anthropic:
Gwałtowny rozwój technologii
Spółka przyznaje, że jej modele mogą rozwijać się tak szybko, iż firma nie nadąży z wprowadzaniem odpowiednich zabezpieczeń, „co mogłoby zwiększyć prawdopodobieństwo incydentów bezpieczeństwa, interwencji regulatorów albo szkód wizerunkowych i w konsekwencji negatywnie odbić się na naszej działalności”.
We wrześniu prezes Anthropic, Dario Amodei, ostrzegał, że w ciągu najbliższych sześciu–dwunastu miesięcy sztuczna inteligencja może być zdolna do kierowania „rojem” agentów, którzy przejmą kontrolę nad całym internetem. To ostrzeżenie, a teraz także decyzja o sprzedaży akcji, pojawiają się w atmosferze narastających obaw w branży i poza nią przed coraz potężniejszymi systemami, które potrafią rozwiązywać problemy wykraczające poza ludzkie możliwości, ale mogą też samodzielnie wykonywać szkodliwe zadania.
Wraz z tym, jak systemy AI „stają się bardziej autonomiczne i zdolne do podejmowania istotnych działań przy mniejszym nadzorze człowieka”, istnieje ryzyko, że takie systemy mogą „podejmować szkodliwe działania samodzielnie, na dużą skalę i bez udziału człowieka” – czytamy w zgłoszeniu do amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC).
„Nawet jeśli nasze modele nie wyrządzą takiej szkody, poważny incydent bezpieczeństwa z udziałem jakiegokolwiek zaawansowanego systemu AI może wywołać szerokie szkody w reputacji całej branży, gwałtowną reakcję opinii publicznej i daleko idące działania regulatorów, które mogłyby zaszkodzić naszej działalności” – wskazuje Anthropic.
Skoro same modele AI pomagają dziś w pracach badawczo‑rozwojowych Anthropic, możliwe jest, że rozwój sztucznej inteligencji przyspieszy „ponad naszą zdolność do oceniania i zabezpieczania nowych modeli” – podkreślono w dokumentach. Taki scenariusz, dodaje firma, mógłby negatywnie wpłynąć na jej biznes.
Złośliwi użytkownicy mogą siać chaos z użyciem tej technologii
W prospekcie opisano obawy, że zaawansowane systemy AI, jeśli powstają i działają bez wystarczających zabezpieczeń oraz nadzoru, „stanowią katastrofalne, a wręcz egzystencjalne ryzyko dla ludzkości, zwłaszcza gdyby zostały nadużyte, skopiowane, wykorzystane jako broń lub dopuszczone do działania z bardzo wysokim poziomem autonomii”.
Firma zaznacza, że ucierpiałaby, gdyby wykorzystanie jej systemów przez osoby o złych zamiarach doprowadziło do szkód „lub gdyby nasze ograniczenia i zabezpieczenia modeli nie zapobiegły takim nadużyciom”.
Anthropic nakreśla scenariusz, w którym sprawcy o złych intencjach używają modeli AI do budowy broni chemicznej, a autorytarni przywódcy sięgają po tę technologię, by jeszcze skuteczniej tłumić sprzeciw obywateli. We wrześniu firma ujawniła, że zablokowała próby wykorzystania swoich modeli AI do działań takich jak cyberataki, inwigilacja czy prace badawcze mogące prowadzić do stworzenia broni biologicznej.
Firma może natrafić na ograniczenia mocy obliczeniowej
Tak zwana compute – moc obliczeniowa i zasoby potrzebne do budowy, testowania i udoskonalania modeli AI – jest droga i mocno rozchwytywana. Anthropic wskazuje, że jeśli nie zdoła zapewnić sobie wystarczającej mocy obliczeniowej albo „nie wykorzystamy jej efektywnie w naszych projektach, możemy nie być w stanie trenować modeli, które utrzymają konkurencyjność wobec rozwiązań rywali, ani należycie obsługiwać naszych klientów”.
Anthropic zwraca też uwagę na sprzeciw lokalnych społeczności wobec budowy centrów danych jako kolejne zagrożenie dla biznesu. Rozwój takich inwestycji „wywołał publiczne kontrowersje i wzmożoną uwagę regulatorów w kwestiach wpływu na środowisko, wykorzystania ziemi i wody oraz podziału ograniczonych zasobów energetycznych” – czytamy w dokumentach. Jeśli w efekcie organy nadzoru nałożą nowe obowiązki lub opłaty, możliwości prowadzenia działalności przez firmę mogą się pogorszyć.
Ponadto Anthropic opiera znaczną część przychodów na niewielkiej grupie klientów, w tym firmach SpaceX i Microsoft, oraz na kilku kluczowych kanałach dystrybucji. To oznacza, że nawet gdyby tylko jeden z dużych klientów ograniczył współpracę lub całkowicie zrezygnował z usług spółki, jej perspektywy i wyniki finansowe mogłyby wyraźnie się pogorszyć.
Ograniczanie ryzyka
Pod pewnymi względami właśnie połączenie ogromnego ryzyka i ogromnego potencjału AI jest głównym atutem Anthropic wobec inwestorów. Firma stara się prezentować jako odpowiedzialny producent sztucznej inteligencji i zabiega o klientów biznesowych, podkreślając nacisk na kwestie bezpieczeństwa.
„Uważamy, że firmy rozwijające najbardziej zaawansowane systemy AI muszą inwestować w bezpieczeństwo i dopasowanie modeli, aby zapewnić odpowiedzialne upowszechnianie tej technologii” – napisano w prospekcie.
Brian Mulberry, główny strateg rynku w Zacks Investment Research, podkreśla, że w ofertach IPO trzeba „bardzo jasno” pokazać, z jakimi zagrożeniami wiąże się zainwestowanie pieniędzy w nowy, giełdowy papier wartościowy.
„To jedna z zalet naszych krajowych rynków kapitałowych: poziom przejrzystości, do którego trzeba się zobowiązać. Spółka notowana na amerykańskiej giełdzie musi bardzo jasno opisać te ryzyka, tak aby ludzie rozumieli, w co się angażują, jeśli chcą wziąć udział w ofercie, przeznaczając na nią swoje ciężko zarobione pieniądze i pomagając sfinansować tego typu przedsięwzięcie” – mówi.