"Utrata kontroli nad AGI jest jak zejście z klifu, a w takim przypadku to koniec gry dla ludzkości", ostrzega Max Tegmark.
REKLAMA
Wpływ Elona Muska na prezydenta elekta USA Donalda Trumpa może doprowadzić do zwiększenia standardów bezpieczeństwa sztucznej inteligencji (AI), powiedział szwedzko-amerykański naukowiec Max Tegmark, który ostrzegł również, że jakikolwiek geopolityczny wyścig zbrojeń AI doprowadzi do "wyścigu samobójstw" ludzkości.
Rozmawiając z Euronews Next na Web Summit w Lizbonie, Tegmark, który jest prezesem Future of Life Institute, powiedział, że Stany Zjednoczone uzyskają więcej regulacji dotyczących bezpieczeństwa sztucznej inteligencji, jednak będzie to również zależeć od tego, kogo słucha Trump.
"Instynktownie Partia Republikańska jest bardzo przeciwna wszelkim regulacjom", powiedział, w przeciwieństwie do Muska, który "postawił na swoim" i złamał szeregi z takimi osobami jak dyrektor generalny OpenAI Sam Altman i Google, aby poprzeć proponowaną kalifornijską ustawę o sztucznej inteligencji.
Trump obiecał również uchylić rozporządzenie wykonawcze administracji Bidena w sprawie bezpieczeństwa sztucznej inteligencji, ale Tegmark powiedział, że nie miałoby to większego znaczenia dla budowania standardów bezpieczeństwa sztucznej inteligencji, ponieważ było to "dość słabe rozporządzenie".
Największą obawą naukowca nie jest generatywna sztuczna inteligencja, taka jak ChatGPT, ale raczej sztuczna inteligencja ogólna (AGI), rodzaj sztucznej inteligencji, która dorównuje lub przewyższa ludzkie zdolności poznawcze i nad którą możemy stracić kontrolę.
"Utrata kontroli nad AGI jest jak zejście z klifu, co oznacza koniec gry dla ludzkości" - powiedział Tegmark.
"Myślę, że będzie miało duże znaczenie, czy Trump będzie bardziej słuchał Elona [Muska ] w tej sprawie, czy bardziej intencji antyregulacyjnych" - dodał.
Czym jest sztuczna inteligencja ogólna?
AGI, postrzegana jako "święty Graal" przez firmy technologiczne, została wyeksponowana przez Altmana, wśród innych osobistości z branży technologicznej, próbujących pozyskać fundusze.
Dla Altmana AGI jest definiowana jako hipotetyczna forma inteligencji maszynowej, która może rozwiązać każde ludzkie zadanie za pomocą metod nieograniczonych do jej szkolenia. Altman powiedział, że może ona "podnieść ludzkość" i nie odnosi się do przejęcia władzy przez maszyny.
Dyrektor generalny OpenAI powiedział, że AGI może pojawić się już w przyszłym roku, podczas gdy wielu innych przewidywało jej pojawienie się w następnej dekadzie.
"Wiele osób chwyta się teraz marki AGI dla szumu i próbuje przedefiniować ją jako rzecz, którą teraz sprzedają lub którą teraz budują, aby móc zebrać pieniądze" - powiedział Tegmark.
Powiedział, że oryginalna definicja AGI pochodzi z lat pięćdziesiątych XX wieku, która definiuje ją jako sztuczną inteligencję, która może wykonywać wszystkie ludzkie zadania, co oznacza, że sztuczna inteligencja może zastąpić ludzkich pracowników, a także opracowywać i budować same maszyny AGI.
"Nie mówimy już tylko o nowej technologii, takiej jak silniki parowe czy Internet. Mówimy o nowym gatunku. Dlatego to taka wielka sprawa" - powiedział Tegmark.
Zgodnie z przewidywaniami informatyka Alana Turinga z lat 50. ubiegłego wieku, przejęcie kontroli przez maszyny jest wynikiem domyślnym.
Turing stwierdził, że w tamtym czasie wynik ten był odległy i stworzył zestaw testów, aby pokazać, kiedy nadszedł czas, pierwotnie nazwany "grą imitacyjną", ale obecnie nazywany Testem Turinga.
Test ma na celu określenie, czy maszyna wykazuje inteligencję podobną do ludzkiej, odpowiadając na serię pytań zadawanych przez człowieka. Człowiek nie wie, czy odpowiedzi są udzielane przez maszynę czy człowieka.
Według niektórych badaczy test został zdany w zeszłym roku.
Jednak AGI obecnie nie istnieje i nie jest jasne, kiedy to nastąpi, a nawet czy kiedykolwiek nastąpi, pomimo szumu korporacyjnego.
Wyścig zbrojeń SI
Według Tegmarka, oprócz korporacyjnego wyścigu AI, istnieje również wyścig zbrojeń AI.
"W Stanach Zjednoczonych trwa wyścig zbrojeń między różnymi firmami, a jedynym sposobem na jego powstrzymanie jest oczywiście posiadanie krajowych amerykańskich standardów bezpieczeństwa" - powiedział.
Trump zasugerował, że przewaga USA w dziedzinie sztucznej inteligencji będzie głównym celem jego rządu.
"Musimy być w czołówce... Musimy przejąć inicjatywę nad Chinami", powiedział w podcaście Impaulsive w czerwcu.
"Mamy do czynienia z geopolitycznym wyścigiem [AI]. I w tym przypadku całe kadrowanie jest błędne, ponieważ w rzeczywistości nie jest to wyścig zbrojeń, aby najpierw zbudować AGI, to po prostu wyścig samobójczy" - powiedział Tegmark.
"Nie ma nikogo, kto mógłby kontrolować te rzeczy".
"Jeśli uda ci się wyginąć, kogo obchodzi, czy jesteś Chińczykiem, Francuzem czy Amerykaninem" - dodał.
Powiedział, że kluczem jest dostosowanie przepisów do każdego kraju, a nie zawieranie umów między krajami.
"Moja wizja sukcesu jest znacznie prostsza. Polega ona na tym, że Chińczycy decydują się na wprowadzenie krajowych standardów bezpieczeństwa w Chinach, aby zapobiec wyrządzaniu szkód przez chińskie firmy. My, Amerykanie, po prostu wprowadzamy krajowe standardy bezpieczeństwa w USA nie po to, by uspokoić Chiny, ale po prostu dla własnych celów" - powiedział Tegmark.
Gdy teoretycznie tak się stanie, USA i Chiny będą miały motywację, by naciskać na swoich globalnych sojuszników, by do nich dołączyli.
"Jestem optymistą, że uda nam się wprowadzić [standardy bezpieczeństwa] na całym świecie. A potem wkraczamy w naprawdę wspaniałą fazę historii ludzkości, w której mamy erę niesamowitej obfitości i dobrobytu, w której mamy całą tę niesamowitą technologię" - powiedział.
"Firmy będą w stanie wprowadzać innowacje, które pomogą wyleczyć raka, wyeliminować ubóstwo i niepotrzebne zgony na drogach oraz wszystkie te wspaniałe rzeczy, o których mówią ludzie i przedsiębiorcy" - powiedział.