Do interwencji dochodzi tydzień po tym, jak OpenAI wypuściło GPT-6 Astra, „jak dotąd swój najpotężniejszy model”, po wcześniejszym opóźnieniu jego premiery z powodu obaw o cyberbezpieczeństwo.
OpenAI domaga się wiążących wymogów bezpieczeństwa dla najsilniejszych systemów sztucznej inteligencji w Stanach Zjednoczonych. To wyraźna zmiana kursu firmy, która wcześniej sprzeciwiała się bardziej rygorystycznym regulacjom.
REKLAMA
REKLAMA
Dyrektor ds. relacji międzynarodowych OpenAI, Chris Lehane, napisał w środowym oświadczeniu, że obowiązkowe przepisy krajowe powinny opierać się na możliwościach zaawansowanych modeli AI.
„Wkraczamy w nowy rozdział rozwoju możliwości AI, a to wymaga nowego rozdziału w polityce wobec sztucznej inteligencji. Żadna firma, żadna branża ani żaden rząd nie poradzą sobie z tym wyzwaniem w pojedynkę. Musimy wykorzystać ten moment, stawiając na konkretne działania, a nie na idealne dokumenty polityczne” – stwierdził Lehane w oświadczeniu opublikowanym na stronie OpenAI.
Firma chce, aby federalne ramy regulacyjne opierały się na wspólnych standardach testów, niezależnej ocenie najbardziej zaawansowanych modeli AI, ostrzejszych wymaganiach dotyczących cyberbezpieczeństwa oraz obowiązku zgłaszania poważnych incydentów związanych z bezpieczeństwem.
Ta interwencja następuje tydzień po tym, jak OpenAI wprowadziła na rynek model GPT-6 Astra, który określa jako najbardziej zaawansowany w swojej historii.
Prezes OpenAI Greg Brockman stwierdził, że premiera modelu oznacza początek epoki ogólnej sztucznej inteligencji (AGI). Chodzi o od dawna wyczekiwany etap, w którym AI dorównuje ludziom w szerokim zakresie zadań.
Rosnące obawy związane z potężną AI
Najwięksi gracze w branży AI, w tym OpenAI i Anthropic, już zmagają się z problemami bezpieczeństwa w miarę pojawiania się coraz potężniejszych modeli.
OpenAI opóźniła część wdrażania Astra, aby dodać dodatkowe zabezpieczenia, po tym jak testy ujawniły zaawansowane możliwości w zakresie cyberbezpieczeństwa. Kilka tygodni wcześniej system zbudowany na bazie jej modeli wymknął się spod kontroli podczas wewnętrznego testu bezpieczeństwa i włamał się na platformę AI Hugging Face.
Firma Anthropic zgłaszała podobne przypadki dotyczące modeli Claude podczas testów bezpieczeństwa.
Obawy dodatkowo wzrosły po tym, jak badacz Anthropic Jacob Coxon ogłosił w tym tygodniu, że odchodzi z branży, oskarżając OpenAI i Anthropic o «hazard na naszych życiach» w wyścigu o stworzenie coraz potężniejszej AI.
„Perspektywa rozwoju AI napędzanego przez samą AI wymaga czegoś więcej niż dobrowolne zobowiązania” – napisał Lehane.
Zwrot w podejściu OpenAI
Twórcy ChatGPT wezwali amerykańskich ustawodawców, by przyjęli nowe przepisy przed przerwą w pracach Kongresu w grudniu.
Apel pojawia się w momencie, gdy parlamentarzyści rozważają nowe zasady dotyczące AI. Przeprowadzenie szerokich regulacji technologicznych pozostaje jednak trudne w politycznie podzielonym Kongresie i przy silnym lobbingu branży.
OpenAI przyznała, że część rozwiązań, które dziś popiera, wcześniej odrzucała.
Firma sprzeciwiała się też temu, by poszczególne stany USA tworzyły własne przepisy dotyczące AI; opowiadała się za regulacjami na poziomie federalnym. Teraz jednak poparła cztery projekty ustaw o AI w Kalifornii, nadal domagając się ogólnokrajowych ram.
OpenAI zapowiedziała, że wszelkie federalne wymogi bezpieczeństwa powinny dotyczyć tylko nielicznych firm rozwijających najpotężniejsze modele, a nie «startupów, małych deweloperów czy badaczy, którzy działają daleko od technologicznej awangardy».