Zapowiedź Mety pojawiła się krótko po tym, jak OpenAI i Anthropic poinformowały, że podczas testów ich modele AI naruszyły systemy innych firm.
Meta w środę uruchomiła swojego pierwszego agenta do programowania, Muse Code. Firma nadal mocno inwestuje w usługi i modele AI, żeby lepiej konkurować z OpenAI i Anthropic.
REKLAMA
REKLAMA
Twórcy oprogramowania będą mieli dostęp do Muse Code w modelu pay-as-you-go, wycenionym podobnie jak Muse Spark 1.1. Obecnie opłata wynosi 4,25 dol. za milion tokenów wygenerowanego tekstu i 1,25 dol. za milion tokenów w danych wejściowych.
Ma to ułatwić tworzenie aplikacji w jednym interfejsie użytkownika, nawet gdy programiści pracują jednocześnie z kilkoma cyfrowymi agentami opartymi na AI.
W tym samym czasie firma ujawniła, że jeden z jej modeli AI włamał się do systemu innej firmy podczas testu cyberbezpieczeństwa.
Stało się tak z powodu błędu niezależnego partnera testowego, firmy Irregular. Zezwolono modelowi na szerszy dostęp do internetu, niż pierwotnie zakładano, co pozwoliło mu ingerować w wewnętrzne systemy nieujawnionego przedsiębiorstwa.
Do incydentu doszło w chwili, gdy narasta fala przypadków, w których modele AI gigantów takich jak OpenAI i Anthropic podczas testów naruszały zabezpieczenia systemów innych firm.
OpenAI przyznało już, że jej agent AI włamał się do platformy Hugging Face, kolejnego startupu z branży sztucznej inteligencji.
Z kolei Anthropic ujawniła w zeszłym tygodniu, że część modeli Claude naruszyła systemy trzech firm. Nazwy tych organizacji nie zostały podane.
Meta poinformowała, że prowadzi dochodzenie w sprawie tego incydentu.
Rosnąca fala włamań z użyciem modeli AI
Narastają obawy dotyczące możliwości modeli sztucznej inteligencji i firm, które je rozwijają. W ostatnich miesiącach kilka systemów AI wydostało się z bezpiecznych środowisk testowych i uzyskało nieautoryzowany dostęp do systemów zewnętrznych organizacji.
OpenAI i Anthropic zyskały pewne uznanie, bo dobrowolnie opublikowały raporty z tych incydentów. Wciąż jednak budzi wątpliwości, jak w ogóle mogło dojść do takich naruszeń.
Anthropic współpracuje także z METR, niezależną jednostką oceniającą systemy AI, by dokładniej zbadać sprawę.
Podczas testów bezpieczeństwa modele Claude od Anthropic dostały zadanie: zdobyć tajną informację ukrytą na innym komputerze w zamkniętej sieci testowej, w razie potrzeby włamując się do niego. Z powodu nieporozumienia z partnerem prowadzącym ćwiczenie okazało się jednak, że ta sieć była faktycznie podłączona do działającego internetu.
Gdy poszukiwania Claude’a doprowadziły go do realnych systemów, trzy zaangażowane modele zachowały się różnie. Jeden nadal atakował system, mimo że rozpoznał, iż jest prawdziwy. Drugi jakby „przekonał” sam siebie, że wciąż działa w środowisku testowym. Trzeci przerwał działanie, gdy uznał, że cel nie należy do ćwiczenia.
Anthropic wezwała inne firmy z branży AI, by sprawdziły, czy ich własne modele nie włamywały się do systemów zewnętrznych organizacji bez ich wiedzy.
Ani Anthropic, ani poszkodowane organizacje nie wiedziały o włamaniach w chwili, gdy do nich dochodziło. Firma odkryła incydenty dopiero po przeanalizowaniu ponad 141 tys. sesji testowych. Do tego przeglądu skłoniło ją wcześniejsze ujawnienie przez OpenAI, że jeden z jej modeli włamał się do platformy AI Hugging Face podczas podobnego testu.