Nie, eksperci nie uważają, że superinteligentna sztuczna inteligencja jest zagrożeniem dla ludzkości

Jeśli wierzysz we wszystko, co czytasz, prawdopodobnie martwisz się perspektywą superinteligentnej, zabójczej sztucznej inteligencji. ten Opiekun , brytyjska gazeta, ostrzeżony ostatnio, że jesteśmy jak dzieci bawiące się bombą, a ostatnio… Newsweek nagłówek głosi: Sztuczna inteligencja nadchodzi i może nas zniszczyć.

Wiele takich nagłówków, podsycanych komentarzami m.in. Elona Muska i Stephena Hawkinga, jest pod silnym wpływem twórczości jednego człowieka: profesora Nicka Bostroma, autora traktatu filozoficznego Superinteligencja: ścieżki, zagrożenia i strategie .

Bostrom jest filozofem z Oksfordu, ale ilościowa ocena ryzyka jest domeną nauk aktuarialnych. Można go nazwać pierwszym wybitnym filozofem aktuarialnym na świecie, choć termin ten wydaje się oksymoronem, biorąc pod uwagę, że filozofia jest areną argumentów pojęciowych, a ocena ryzyka jest ćwiczeniem statystycznym opartym na danych.

Więc co mówią dane? Bostrom agreguje wyniki czterech różnych badań grup, takich jak uczestnicy konferencji zatytułowanej Filozofia i teoria sztucznej inteligencji, która odbyła się w 2011 r. w Salonikach w Grecji, oraz członków greckiego stowarzyszenia na rzecz sztucznej inteligencji (nie podaje wskaźników odpowiedzi ani sformułowań pytań i nie uwzględnia opierania się na danych zebranych w Grecji).

Jego odkrycia są przedstawiane jako prawdopodobieństwo, że sztuczna inteligencja na poziomie człowieka zostanie osiągnięta w określonym czasie:

Do 2022: 10 proc.

Do 2040: 50 proc.

Do 2075 r.: 90 proc.

Ten zbiór czterech ankiet jest głównym źródłem danych na temat pojawienia się inteligencji na poziomie ludzkim na ponad 300 stronach filozoficznych argumentów, bajek i metafor.

Aby uzyskać dokładniejszą ocenę opinii czołowych badaczy w tej dziedzinie, zwróciłem się do członków Amerykańskiego Stowarzyszenia na rzecz Sztucznej Inteligencji, grupy badaczy, którzy mają znaczący i trwały wkład w tę dziedzinę.

Na początku marca 2016 r. AAAI wysłało w moim imieniu anonimową ankietę, zadając 193 stypendystom następujące pytanie:

W swojej książce Nick Bostrom zdefiniował superinteligencję jako „intelekt znacznie mądrzejszy niż najlepsze ludzkie mózgi w praktycznie każdej dziedzinie, włączając w to kreatywność naukową, ogólną mądrość i umiejętności społeczne”. Kiedy myślisz, że osiągniemy superinteligencję?

W ciągu najbliższego tygodnia odpowiedziało 80 stypendystów (odsetek odpowiedzi 41 procent), a ich odpowiedzi podsumowano poniżej:

W istocie, zdaniem 92,5% respondentów, superinteligencja jest poza przewidywalnym horyzontem. Ta interpretacja jest również poparta pisemnymi komentarzami stypendystów.

Mimo że ankieta była anonimowa, 44 stypendystów zdecydowało się zidentyfikować siebie, w tym Geoff Hinton (luminator głębokiego uczenia), Ed Feigenbaum (Stanford, zdobywca nagrody Turinga), Rodney Brooks (główny robotyk) i Peter Norvig (Google).

Respondenci podzielili się również kilkoma uwagami, w tym następującymi:

Droga, droga, dużo ponad 25 lat. Najprawdopodobniej wieki. Ale nie nigdy.

Konkurujemy z trwającą miliony lat ewolucją ludzkiego mózgu. Możemy pisać programy o jednym celu, które mogą konkurować z ludźmi, a czasem przewyższać, ale świat nie jest starannie podzielony na pytania dotyczące jednego problemu.

Nick Bostrom to zawodowy straszak. Rolą jego Instytutu jest znajdowanie egzystencjalnych zagrożeń dla ludzkości. Wszędzie je widzi. Kusi mnie, by nazwać go „Donaldem Trumpem” AI.

Ankiety mają oczywiście ograniczoną wartość naukową. Są notorycznie wyczuleni na frazowanie pytań, dobór respondentów itp. Jest to jednak jedyne źródło danych, do którego zwrócił się sam Bostrom.

Inną metodologią byłaby ekstrapolacja z obecnego stanu sztucznej inteligencji na przyszłość. Jest to jednak trudne, ponieważ nie mamy ilościowego pomiaru obecnego stanu inteligencji na poziomie człowieka. Osiągnęliśmy superinteligencję w grach planszowych, takich jak szachy i Go (zobacz Google AI Masters Go o dekadę wcześniej niż oczekiwano), a jednak nasze programy nie uzyskały wyniku powyżej 60 procent w testach naukowych ósmej klasy, jak wykazały badania Instytutu Allena (zobacz The Najlepszy program AI nadal oblewa test naukowy ósmej klasy) lub ponad 48 procent w ujednoznacznianiu prostych zdań (patrz Trudniejszy test Turinga ujawnia głupota chatbotów).

Istnieje wiele uzasadnionych obaw związanych ze sztuczną inteligencją, od jej wpływu na miejsca pracy po zastosowania w autonomicznych systemach uzbrojenia, a nawet potencjalne ryzyko superinteligencji. Jednak przewidywania, że ​​superinteligencja jest w przewidywalnym horyzoncie, nie są poparte dostępnymi danymi. Co więcej, prognozy zagłady i mroku często nie uwzględniają potencjalnych korzyści płynących ze sztucznej inteligencji w zapobieganiu błędom medycznym, ograniczaniu wypadków samochodowych i nie tylko.

Wreszcie możliwe jest, że systemy sztucznej inteligencji mogą współpracować z ludźmi w celu stworzenia symbiotycznej superinteligencji. Byłoby to bardzo odmienne od zgubnego i autonomicznego rodzaju przewidzianego przez profesora Bostroma.

Oren Etzioni jest dyrektorem generalnym Instytutu Sztucznej Inteligencji im. Allena i profesorem informatyki na Uniwersytecie Waszyngtońskim.

Zaktualizowano 2 listopada 2016 r.:

Cieszę się, że profesorowie Dafoe i Russell, którzy odpowiedzieli na mój artykuł tutaj, i wydaje mi się, że zgadzam się w trzech krytycznych sprawach. Po pierwsze, powinniśmy powstrzymać się od ataków ad hominem. Tutaj muszę przeprosić: nie powinienem cytować anonimowego stypendysty AAAI, który przyrównał dr Bostroma do Donalda Trumpa. Nie chciałem użyczać głosu temu porównaniu; Szczerze przeprosiłem Bostroma za ten błąd przez e-mail, który łaskawie przyjął. Po drugie, jako naukowcy, musimy ocenić stwierdzenia dotyczące ryzyka AI na podstawie danych. To był kluczowy punkt mojego krótki artykuł , a artykuł zawierał unikalne dane na ten temat. Po trzecie, zgadzamy się również, że media błędnie przedstawiły implikacje pracy Bostroma – tematu poważnego zaniepokojenia, który został do pewnego stopnia złagodzony przez Raport Białego Domu na temat AI . Oczywiście różnimy się w wielu szczegółach i zawiłościach argumentacji, ale czas pokaże.

ukryć