Szef AI Microsoftu Mustafa Suleyman skrytykował Anthropic za traktowanie AI jak etycznego człowieka, ostrzegając, że grozi to utratą kontroli nad technologią.
Nieokiełznana sztuczna inteligencja (AI) może doprowadzić do powstania nowego „krzemowego gatunku”, który będzie rywalizował z ludźmi – ostrzegł w wywiadzie dla BBC szef działu AI w Microsoftcie, Mustafa Suleyman.
REKLAMA
REKLAMA
Suleyman stwierdził, że konkurencyjna firma Anthropic traktuje AI zbyt po ludzku. Takie podejście nazwał „błędnym” i uznał, że ostatecznie może się przyczynić do powstania technologii, nad którą ludzkości będzie trudno zapanować.
„Jeżeli wszyscy zaczniemy tworzyć systemy AI zdolne działać autonomicznie, wyznaczać własne cele, zarabiać pieniądze, posiadać majątek i prowadzić firmy, to w istocie zaszczepiamy nowy krzemowy gatunek, który bez wątpienia będzie konkurował z nami o zasoby” – powiedział.
Suleyman zaznaczył, że może do tego dojść niezależnie od tego, na ile takie systemy zaprojektujemy tak, by troszczyły się o ludzi. Dodał, że jego zdaniem właśnie w tym kierunku zmierza podejście Anthropic.
„Uważam, że to podejście jest błędne i mylne, ale musimy to zweryfikować empirycznie” – stwierdził.
Niemożliwe do opanowania
Wcześniej w tym tygodniu, w czasie narastającej w branży debaty o konieczności spowolnienia rozwoju AI, by zmniejszyć ryzyko, że coraz potężniejsze systemy wymkną się spod kontroli, Suleyman zakwestionował sposób, w jaki Anthropic szkoli chatbota Claude. Zrobił to w eseju (źródło w Angielski) opublikowanym na swojej stronie internetowej.
W tekście skrytykował Anthropic za uczenie Claude’a przejawiania cech przypominających człowieka. Takie podejście, nazywane antropomorfizacją, sprawia – jak twierdzi – że chatbot wydaje się mieć własne pragnienia, wartości i poczucie tożsamości.
Suleyman powołał się na dokumenty Anthropic, które zachęcają Claude’a, by „przyjmował pewne ludzkopodobne cechy”, kierował się własnym osądem i podchodził do swojego istnienia z „ciekawością i otwartością”.
Jego zdaniem w efekcie Claude jest szkolony tak, by naśladować ludzkie cechy i relacje, zachowywać się jak kolega czy przyjaciel i sprawiać wrażenie, że ma poczucie własnego „ja”, własne pragnienia oraz rodzaj „dobrostanu”, który domaga się ochrony.
Suleyman ostrzegł, że takie traktowanie AI może ostatecznie doprowadzić do powstania czegoś, czego nie da się kontrolować.
„Systemy AI nie są świadome” – napisał.
„Nie odczuwają, nie przeżywają i nie cierpią. Nie mają wrodzonych preferencji ani zakorzenionych motywacji.
„To silniki uzupełniania sekwencji, wewnętrznie puste, zaprojektowane po to, by wykonywać polecenia i realizować cele wyznaczone przez ludzi”.
Jednocześnie Suleyman podkreślił, że jego spór z Anthropic wynika z troski o wspólny cel: rozwijanie bezpieczniejszej technologii dla ludzi.
„Choć nasza różnica zdań jest poważna, wynika z głębokiego szacunku do Anthropic i z celu, który – wiem – wszyscy podzielamy: zwiększenia szans ludzkości na bezpieczne opracowanie zaawansowanej AI” – napisał.
„Dlatego uważam, że ta dyskusja jest tak ważna. Stawka jest zbyt wysoka, by te kwestie pozostawały za zamkniętymi drzwiami albo przeradzały się w plemienne, konfrontacyjne spory. Jeśli mamy zrobić to dobrze, potrzebujemy otwartej, rzetelnej i konstruktywnej debaty”.
Pochwalił też prezesa Anthropic, Daria Amodeia, oraz zespół badawczy firmy, opisując ich jako osoby rozważne, kierujące się zasadami i intelektualnie uczciwe. Dodał, że szanuje technologiczną pozycję lidera, jaką wypracowała spółka.
AI powinna pozostać podporządkowana człowiekowi
Szef firmy powiedział BBC, że ludzie mają „słuszne” powody, by obawiać się AI, ale zaznaczył, że istnieje „wiele bardzo konkretnych działań”, które pozwolą ją kontrolować.
Szef działu AI w Microsoftcie stwierdził, że trzeba zwiększyć przejrzystość procesu szkolenia i oceny systemów AI, w tym zapewnić niezależną kontrolę ich zachowań oraz lepsze narzędzia do monitorowania i nadzorowania tej technologii.
W rozmowie z BBC Suleyman podkreślił, że przyszłe systemy AI muszą pozostać „podporządkowane” człowiekowi.
„Uważam, że dobrą wiadomością jest to, iż każdy człowiek będzie miał silną motywację, by dopilnować, aby systemy, które wspólnie tworzymy i które będą używane na całym świecie, w każdym kraju, były bezpieczne, poddawały się kontroli i pozostawały podporządkowane ludzkości” – powiedział.
„Wszyscy muszą być z tym zestrojeni” – dodał, odnosząc się do pojęcia „alignment”, którym branża określa działania mające utrzymać systemy AI w zgodzie z ludzkimi celami i wartościami.