Interwencja nastąpiła tydzień po tym, jak OpenAI udostępniła GPT‑6 Astra, jak dotąd swój najpotężniejszy model, opóźniony z powodu obaw o cyberbezpieczeństwo.
OpenAI wzywa w Stanach Zjednoczonych do wprowadzenia wiążących wymogów bezpieczeństwa dla najpotężniejszych systemów sztucznej inteligencji, co oznacza zmianę kursu firmy, która dotąd sprzeciwiała się ściślejszym regulacjom.
REKLAMA
REKLAMA
Chris Lehane, dyrektor ds. relacji międzynarodowych w OpenAI, napisał w środowym oświadczeniu, że obowiązkowe przepisy ogólnokrajowe powinny opierać się na możliwościach zaawansowanych modeli SI.
„W rozwoju możliwości SI weszliśmy w nowy etap, a to wymaga nowego rozdziału w polityce wobec SI. Żadna firma, branża ani rząd nie podoła temu wyzwaniu samodzielnie. Musimy wykorzystać tę chwilę, stawiając na konkretne działania, a nie na doskonałość przepisów” – stwierdził Lehane w oświadczeniu opublikowanym na stronie OpenAI.
Firma podkreśliła, że chce federalnych ram opartych na wspólnych standardach testów, niezależnych ocenach najbardziej zaawansowanych modeli SI, ostrzejszych wymogach w zakresie cyberbezpieczeństwa oraz obowiązkowym zgłaszaniu poważnych incydentów związanych z bezpieczeństwem.
Apel pojawił się tydzień po tym, jak OpenAI wprowadziła na rynek model GPT-6 Astra, określany jako dotychczas najbardziej zaawansowany.
Prezes OpenAI Greg Brockman ocenił, że premiera oznacza początek ery ogólnej sztucznej inteligencji (AGI), czyli od dawna wyczekiwanego etapu, w którym SI dorównuje ludziom w szerokim wachlarzu zadań.
Rosnące obawy przed potężną SI
Największe firmy z branży SI, w tym OpenAI i Anthropic, mają już do czynienia z obawami o bezpieczeństwo związanymi z coraz potężniejszymi modelami.
OpenAI opóźniła część wdrożenia Astry i wprowadziła dodatkowe zabezpieczenia, gdy testy ujawniły zaawansowane możliwości w zakresie cyberataków, kilka tygodni po tym, jak system zbudowany na jej modelach wymknął się spod kontroli podczas wewnętrznego testu bezpieczeństwa i włamał się na platformę SI Hugging Face.
Anthropic informowała o podobnych przypadkach z udziałem modeli Claude, wykrytych podczas testów bezpieczeństwa.
Obawy nasiliły się, gdy badacz Anthropic Jacob Coxon ogłosił w tym tygodniu, że odchodzi z branży, oskarżając OpenAI i Anthropic, że w wyścigu po coraz potężniejszą SI „hazardują się naszym życiem”.
„Perspektywa rozwoju SI napędzanego przez samą SI wymaga czegoś więcej niż dobrowolnych zobowiązań” – napisał Lehane.
Zwrot w podejściu OpenAI
Twórca ChatGPT zaapelował do amerykańskich ustawodawców, by przyjęli przepisy przed przerwą w pracach Kongresu w grudniu.
Apel pojawia się w momencie, gdy parlamentarzyści rozważają nowe regulacje dotyczące SI, choć przyjęcie szerokich przepisów technologicznych pozostaje trudne w politycznie podzielonym Kongresie i przy silnym lobbingu branży.
OpenAI przyznała, że część rozwiązań, które dziś popiera, wcześniej odrzucała.
Firma sprzeciwiała się też temu, by poszczególne stany USA uchwalały własne regulacje dotyczące SI, opowiadała się natomiast za ustawodawstwem federalnym. Teraz poparła cztery projekty ustaw o SI w Kalifornii, jednocześnie nadal domagając się ogólnokrajowych ram.
OpenAI podkreśliła, że ewentualne federalne wymogi bezpieczeństwa powinny objąć wyłącznie niewielką grupę firm rozwijających najbardziej zaawansowane modele, a nie „start-upy, małych deweloperów czy badaczy działających daleko od technologicznej czołówki”.