AI Doomsayer mówi, że jego pomysły się przyciągają

W ciągu ostatniego roku profesor filozofii Uniwersytetu Oksfordzkiego Nick Bostrom zyskała widoczność ostrzegania o potencjalnych zagrożeniach, jakie stwarzają bardziej zaawansowane formy sztucznej inteligencji. Teraz mówi, że jego ostrzeżenia przyciągają uwagę firm przesuwających granice badań nad sztuczną inteligencją.

Nick Bostrom

Wiele osób pracujących nad sztuczną inteligencją pozostaje sceptycznych, a nawet wrogo nastawionych do pomysłów Bostroma. Ale od czasu jego książki na ten temat, Superinteligencja , pojawił się zeszłego lata, niektórzy wybitni technologowie i naukowcy – w tym Elon Musk, Stephen Hawking i Bill Gates – podzielili niektóre z jego obaw. Google powołuje nawet komisję etyczną, która ma nadzorować prace nad sztuczną inteligencją.

Bostrom spotkał się w zeszłym tygodniu z Przegląd technologii MIT Tom Simonite, szef biura w San Francisco, aby omówić swoje wysiłki, aby skłonić naukowców zajmujących się sztuczną inteligencją do rozważenia niebezpieczeństw związanych z ich pracą (patrz Nasz strach przed sztuczną inteligencją ).

Skąd uwierzyłeś, że sztuczna inteligencja była pilniejszym problemem dla świata niż, powiedzmy, nuklearny holokaust czy poważna pandemia?

Wiele rzeczy może spowodować katastrofy, ale stosunkowo niewiele może faktycznie zagrozić całej przyszłości inteligentnego życia zamieszkującego Ziemię. Myślę, że sztuczna inteligencja jest jedną z największych i wydaje się, że wysiłek niewielkiej liczby osób lub jednej dodatkowej jednostki zasobów może sprawić nietrywialną różnicę. W związku z wojną nuklearną wiele dużych, potężnych grup już się tym interesuje.

A co ze zmianami klimatycznymi, które są obecnie powszechnie postrzegane jako największe zagrożenie, przed którym stoi obecnie ludzkość?

To bardzo, bardzo małe ryzyko egzystencjalne. Aby tak się stało, nasze obecne modele musiałyby być błędne – nawet najgorsze scenariusze [tylko] oznaczają, że klimat w niektórych częściach świata byłby nieco bardziej niekorzystny. Wtedy musielibyśmy nie być w stanie zaradzić temu za pomocą jakiejś geoinżynierii, co również wydaje się mało prawdopodobne.

Niektóre teorie etyczne sugerują, że ryzyko egzystencjalne jest o wiele ważniejsze. Biorąc wszystko pod uwagę, ograniczanie ryzyka egzystencjalnego powinno być znacznie większe niż obecnie. Świat wydaje o wiele więcej na rozwój nowych form szminki niż na ryzyko egzystencjalne.

Gdyby ktoś przyszedł do ciebie i powiedział: „Moja firma opracowała technologię, która wygląda na to, że mogłaby znacznie wzmocnić sztuczną inteligencję, co byś doradził?

Pierwszą sugestią byłoby zbudowanie własnych kompetencji w zakresie badań nad bezpieczeństwem sztucznej inteligencji. Jedną z kluczowych rzeczy jest nawiązanie dobrych relacji roboczych między osobami pracującymi nad sztuczną inteligencją a osobami, które myślą o kwestiach bezpieczeństwa. Jedynym sposobem, aby stworzyć dobry scenariusz, jest stworzenie tych pomysłów, a następnie ich wdrożenie.

Google, Facebook i inne duże firmy technologiczne wydają się być wiodącymi postępami w sztucznej inteligencji. Czy już z nimi rozmawiasz?

Nie chcę wymieniać nazwisk. To ci, którzy mają duże zainteresowanie tym obszarem. Myślę, że jest uznanie, że sensowne jest, aby niektórzy ludzie teraz myśleli o [bezpieczeństwie AI], a potem być może, gdy sprawy posuną się do przodu, aby to zwiększyć. Dobrze jest mieć tam ziarno, kogoś, kto ma na to oko.

Jakie badania są obecnie możliwe na temat czegoś tak dalekiego od rzeczywistości?

To, co zostało opracowane do tej pory, to lepsze zrozumienie, na czym polega problem i niektóre koncepcje, które można wykorzystać do myślenia o tych rzeczach. Na papierze może to niewiele, ale wcześniej nie można było przejść do kolejnego etapu, jakim jest opracowanie programu badań technicznych.

Czy możesz podać przykład projektu technicznego, który może być na tym?

Na przykład, czy mógłbyś zaprojektować system motywacji AI [tak], aby sztuczna inteligencja nie opierała się programiście, który chce zmienić swój cel? Istnieje cały zestaw rzeczy, które mogą być praktycznie przydatne, takie jak metody bokserskie — narzędzia, które mogą zawierać sztuczną inteligencję, zanim będzie gotowa do wydania.

Ale są to dalekie od systemów, które badacze, powiedzmy, Google budują dzisiaj.

Tak. Jednym z wyzwań jest wykonanie użytecznej pracy w tej dziedzinie na długo przed tym, kiedy faktycznie masz system, w którym można lub należy je zastosować.

Czy sztuczna inteligencja, która jest znacznie niższa od poziomu ludzkiego, nie może nadal powodować problemów? Na przykład, jeśli jest używany przez rząd jako broń lub przypadkowo, jeśli zostanie wypuszczony na rynki finansowe?

Istnieje cała klasa bardziej nieuchronnych i mniejszych problemów, o których niektórzy mówią, że są bardziej realne. Istnieje handel algorytmiczny, drony, automatyzacja i jej wpływ na rynki pracy, czy też systemy mogą świadomie lub nieświadomie dyskryminować ze względu na rasę. Nie zaprzeczam, że te problemy istnieją – myślę po prostu, że istnieje ten dodatkowy problem, którego świat może nie rozwiązać, ponieważ naprawdę staje się poważny dopiero, gdy sztuczna inteligencja osiągnie pewien bardzo wysoki poziom.

Uważasz, że nikt nie jest w stanie przewidzieć, jak blisko jest ten poziom. Ale czy są jakieś szczególne postępy, które sygnalizują, że gdzieś zmierzamy?

Bardzo prawdopodobne, że musiałoby nastąpić kilka wielkich przełomów, aby dać więcej zdroworozsądkowych umiejętności rozumowania, ogólnych umiejętności uczenia się w różnych dziedzinach [oraz] bardziej elastycznego planowania.

Były co najmniej dwa okresy, w których bańki szumu na boisku, po których następowały okresy rozczarowania. Równie dobrze może być tak, że jesteśmy teraz w trzeciej bańce szumu i że osiągamy granicę tego, co można zrobić za pomocą tych nowych technik, a minie dużo czasu, zanim pojawi się następna duża granica. Ale może to być również fala, która dociera tam.

Czy pozostajesz optymistą co do naszych szans, jeśli tak się stanie?

Mój długoterminowy pogląd jest taki, że najprawdopodobniej skończymy w złym lub bardzo dobrym miejscu, a nie w takim sobie. Miejmy nadzieję, że wyjdzie świetnie.

ukryć