Najpotężniejszy nowy model AI Anthropic, Mythos, jest zbyt niebezpieczny, by udostępnić go opinii publicznej, twierdzi firma. To wywołało pilne rozmowy z rządami i regulatorami finansowymi.
Firma Anthropic prowadzi rozmowy z rządem USA w sprawie swojego nowego modelu AI Mythos, który, jak podaje firma, jest zbyt potężny, by udostępnić go opinii publicznej, ponieważ „stwarza bezprecedensowe zagrożenia dla cyberbezpieczeństwa”.
REKLAMA
REKLAMA
Sektor bankowy również bije na alarm.
„Rząd musi o tym wiedzieć” – powiedział w poniedziałek współzałożyciel Anthropic podczas wydarzenia Semafor World Economy w Waszyngtonie.
„Oczywiście, rozmawiamy z nimi o Mythosie i będziemy z nimi rozmawiać także o kolejnych modelach” – dodał.
Nawiązując do publicznego sporu z rządem, po którym w ubiegłym miesiącu uznano firmę za ryzyko dla łańcucha dostaw, stwierdził: „Nie chcę, żeby to przesłoniło fakt, że bardzo poważnie traktujemy kwestie bezpieczeństwa narodowego”.
Decyzja o wpisaniu Anthropic na listę ryzyk dla łańcucha dostaw zapadła po fiasku negocjacji w sprawie ograniczeń, jakie firma chciała nałożyć na wykorzystanie swoich modeli AI przez amerykański Departament Obrony.
Do tego doszło po tym, jak sekretarz skarbu USA, Scott Bessent, zwołał w zeszłym tygodniu w Waszyngtonie spotkanie czołowych amerykańskich bankierów, by omówić model Mythos.
Spotkanie zachęciło szefów banków do wykorzystywania modelu Mythos od Anthropic do wykrywania luk w zabezpieczeniach, podał Bloomberg (źródło w Angielski).
Firma Anthropic zapowiedziała też, że udostępni swój nowy model tylko kilku firmom technologicznym oraz z branży cyberbezpieczeństwa. Na liście są Amazon, Apple i JP Morgan Chase.
Według Bloomberga model Anthropic testują także Goldman Sachs, Citigroup, Bank of America i Morgan Stanley.
W poniedziałek rządowy brytyjski Instytut Bezpieczeństwa AI (AISI) ostrzegł, że Mythos stanowi „krok naprzód” względem poprzednich modeli, jeśli chodzi o stwarzane zagrożenie w cyberprzestrzeni.
Tymczasem „Financial Times” podał, że potencjalne ryzyka związane z Mythosem analizują także brytyjscy regulatorzy rynku finansowego.