Brytania odgrywa ważną rolę w bezpieczeństwie sztucznej inteligencji dzięki Instytutowi Bezpieczeństwa AI i środowisku naukowemu, ale branżą rządzą USA i Chiny.
Król Karol III spotkał się z czołowymi przedstawicielami branży sztucznej inteligencji i zaapelował, by technologie AI pozostały pod kontrolą człowieka oraz służyły ludziom, społecznościom i środowisku.
REKLAMA
REKLAMA
Przedstawiciele OpenAI, Anthropic, Google DeepMind i Nvidii byli gośćmi monarchy w Dumfries House w Szkocji. Rozmawiano o tym, jak sztuczna inteligencja może przynieść korzyści społeczeństwu przy jednoczesnym ograniczaniu związanych z nią zagrożeń.
W gronie króla i szefów firm, w tym dyrektora generalnego giganta AI Nvidii Jensena Huanga, znalazł się także nowo mianowany brytyjski minister ds. sztucznej inteligencji, Kanishka Narayan.
W swoim wystąpieniu otwierającym spotkanie król Karol zwrócił uwagę na tempo, w jakim rozwija się AI: „Rozwój sztucznej inteligencji – zarówno jej istota, jak i tempo – jest zarazem intrygujący i głęboko niepokojący”.
Dodał, że „egzystencjalne zagrożenia związane z tymi technologiami, jeśli trafią w niepowołane ręce i będą używane w potencjalnie katastrofalny sposób”, powinny być pilnie rozważone.
W dalszej części przemówienia król Karol nie wymieniał żadnych państw ani firm. Podkreślił jednak, że chciałby, aby obecni w sali znaleźli sposoby wykorzystania AI w pożytecznych celach, „z bezpieczeństwem jako nadrzędną wartością”, oraz zastanowili się, jak „budować międzynarodową współpracę i konsensus”, by to osiągnąć.
Obawy o przyszłość sztucznej inteligencji
Spotkanie w Szkocji odbyło się po kilku głośnych ostatnio incydentach związanych z bezpieczeństwem technologii AI.
W ubiegłym tygodniu badacz z firmy Anthropic Jacob Coxon wzbudził duże zainteresowanie mediów, rezygnując z pracy i publikując poważne ostrzeżenie dotyczące potencjalnych zagrożeń tej technologii. Prezes Anthropic Dario Amodei odpowiedział esejem, w którym stwierdził, że branża być może powinna zwolnić tempo prac.
W środę OpenAI, twórca ChatGPT, poinformowała o sześciu przypadkach „nieoczekiwanych lub niepokojących” zachowań swoich modeli. Obejmowały one wykonywanie zadań bez autoryzacji, koordynowanie działań z innymi modelami oraz unikanie nadzoru ze strony ludzkich badaczy.
Huang z Nvidii z kolei skrytykował wezwania do spowolnienia prac. Zdaniem szefa Nvidii to poszczególne firmy powinny same zadbać o bezpieczny rozwój swoich systemów AI i dokładnie je testować, zanim wprowadzą produkty na rynek.
„Jeśli produkt nie jest wystarczająco bezpieczny, powinniśmy go wstrzymać i dalej nad nim pracować. Zawsze tak postępowaliśmy i powinniśmy to robić nadal” – powiedział w przemówieniu wygłoszonym po wystąpieniu króla.