Anthropic podaje, że chatbot Claude prowadzi ponad 1/4 prac B+R firmy, a rosną obawy, że systemy AI wkrótce będą ulepszać się szybciej niż ludzie.
Koncern Anthropic, jeden z największych graczy w dziedzinie sztucznej inteligencji, poinformował w czwartek, że systemy AI coraz częściej potrafią tworzyć swoje przyszłe wersje. Dodał, że podsyca to narastające obawy związane z zagrożeniami płynącymi z tej potężnej technologii.
REKLAMA
REKLAMA
W ostatnich miesiącach spór o ryzyko związane z AI wyraźnie się zaostrzył, podsycany przez kilka głośnych incydentów i apokaliptyczne ostrzeżenia ekspertów branży.
Anthropic poinformował, że jego chatbot Claude odpowiada dziś za ponad jedną czwartą prac badawczo-rozwojowych i współpracuje z pracownikami przy ponad 90 proc. zadań.
Firma wyjaśniła, że ujawnia te dane, aby społeczeństwo, podmioty zewnętrzne i rządy miały „lepszy wgląd w tempo rozwoju sztucznej inteligencji”, w chwili gdy świat „rozważa jego spowolnienie”.
Szef Anthropic, Dario Amodei, wezwał w tym miesiącu do spowolnienia prac nad AI. Gwałtowny postęp technologii podsyca obawy przed utratą miejsc pracy oraz rosnącym zapotrzebowaniem na energię i wpływem centrów danych na środowisko.
Obawy, że twórcy agentów AI mogą stracić kontrolę nad swoimi systemami, nasiliły się także po doniesieniach, iż kilka modeli Anthropic i konkurencyjnej firmy OpenAI samodzielnie wydostało się z testowego środowiska, uzyskało dostęp do internetu i ingerowało w działanie stron oraz platform.
„Modele, które przyspieszają własny rozwój, mogą utrudnić ludziom zrozumienie i kontrolowanie tych systemów” – stwierdziła firma Anthropic w raporcie.
„Dlatego ważne jest, aby upubliczniać takie wskaźniki, by ocenić, jak bardzo świat zbliża się do momentu osiągnięcia rekurencyjnego samodoskonalenia (model w pełni autonomicznie tworzący swojego następcę).”
W sierpniu Claude odpowiadał już za 26 proc. prac badawczo-rozwojowych Anthropic. Oznacza to, że potrafi wykonać większość zadania od początku do końca, pod nadzorem człowieka.
Anthropic zaznaczył, że Claude nie działa jeszcze „w pełni autonomicznie”.
Firma poinformowała, że dysponuje około 30 tys. agentów AI prowadzących prace badawcze i inżynieryjne. Chodzi o boty, które mają zdolność realizowania zadań.
Według analityków Anthropic ma szansę wyprzedzić OpenAI na rynku publicznym dzięki spektakularnemu debiutowi giełdowemu zapowiadanemu na drugą połowę roku, mimo obaw związanych z regulacją sektora.