211service.com
Tak, martwi nas egzystencjalne ryzyko związane ze sztuczną inteligencją
Oren Etzioni, znany badacz sztucznej inteligencji, skarży się na doniesienia o potencjalnych długoterminowych zagrożeniach wynikających z przyszłych sukcesów w badaniach nad sztuczną inteligencją (patrz Nie, eksperci nie uważają, że superinteligentna sztuczna inteligencja jest zagrożeniem dla ludzkości). Po wskazaniu palcem wprost na filozofa z Oksfordu Nicka Bostroma i jego niedawną książkę, Superinteligencja Etzioni skarży się, że głównym źródłem danych Bostrom na temat pojawienia się inteligencji na poziomie ludzkim są ankiety na temat opinii badaczy sztucznej inteligencji. Następnie bada opinie badaczy sztucznej inteligencji, argumentując, że jego wyniki obalają wyniki Bostroma.
Ważne jest, aby zrozumieć, że Etzioni nawet nie podaje przyczyny Superinteligencja miał wpływ, którego on potępia: jasne wyjaśnienie, dlaczego superinteligentna sztuczna inteligencja może mieć arbitralnie negatywne konsekwencje i dlaczego ważne jest, aby zacząć rozwiązywać ten problem z dużym wyprzedzeniem. Bostrom nie opierać swoją argumentację na przewidywaniach, że nadludzkie systemy sztucznej inteligencji są nieuchronne. Pisze: Nie jest to część argumentu zawartego w tej książce, że stoimy u progu wielkiego przełomu w sztucznej inteligencji lub że możemy przewidzieć z dowolną precyzją, kiedy taki rozwój może nastąpić.
W ten sposób, naszym zdaniem, artykuł Etzioniego odwraca uwagę czytelnika od głównego argumentu książki i kieruje atakiem ad hominem na Bostroma pod pretekstem zakwestionowania wyników jego sondażu. Uważamy, że konieczne jest poprawienie rekordu. Jeden z nas (Russell) nawet przyczynił się do ankiety Etzioniego, tylko po to, by zobaczyć, jak jego odpowiedź została całkowicie błędnie zrozumiana. W rzeczywistości, jak nasz szczegółowa analiza pokazuje, wyniki ankiety Etzioni są całkowicie zgodne z tymi, które cytuje Bostrom.
Jak zatem Etzioni dochodzi do powieściowego wniosku? Projektując instrument pomiarowy, który jest niżej do Bostroma, a potem błędna interpretacja wyniki.
Podtytuł artykułu brzmi: Jeśli zapytasz ludzi, którzy naprawdę powinni wiedzieć, przekonasz się, że niewielu uważa, że sztuczna inteligencja jest zagrożeniem dla ludzkości. Czytelnik jest więc przekonany, że Etzioni zadał to pytanie ludziom, którzy naprawdę powinni wiedzieć, podczas gdy Bostrom nie. W rzeczywistości jest odwrotnie: Bostrom zrobili zapytaj ludzi, którzy naprawdę powinni wiedzieć, ale Etzioni w ogóle nikogo nie pytał. Bostrom przeprowadził ankietę wśród 100 najczęściej cytowanych naukowców zajmujących się sztuczną inteligencją. Ponad połowa respondentów stwierdziła, że wierzy, iż istnieje znaczna (co najmniej 15%) szansa, że wpływ ludzkiej inteligencji maszynowej na ludzkość będzie zły lub skrajnie zły (katastrofa egzystencjalna). Ankieta Etzioniego, w przeciwieństwie do badania Bostroma, nie zadawał żadnych pytań o zagrożeniu dla ludzkości.
Zamiast tego zadaje tylko jedno pytanie dotyczące Kiedy zdobędziemy superinteligencję. Jak już przewidywały dane Bostrom, nieco ponad połowa (67,5 procent) respondentów Etzioni przez ponad 25 lat starała się osiągnąć superinteligencję — w końcu ponad połowa respondentów Bostrom podała daty powyżej 25 lat z zaledwie 50-procentowym prawdopodobieństwem osiągnięcie czystej inteligencji na poziomie ludzkim. Jeden z nas (Russell) odpowiedział na ankietę Etzioniego mając ponad 25 lat, a sam Bostrom pisze o swoich własnych badaniach: Moim zdaniem mediana liczb podanych w ankiecie eksperckiej nie ma wystarczającej masy prawdopodobieństwa w późniejszych datach przyjazdu.
Teraz, po zaprojektowaniu ankiety, w której można oczekiwać, że respondenci wybiorą więcej niż 25 lat, Etzioni wpada w pułapkę: twierdzi, że 25 lat jest poza przewidywalnym horyzontem i tym samym wnioskuje, że ani Russell, ani sam Bostrom nie wierzą, że superinteligentna sztuczna inteligencja jest zagrożeniem. ludzkości. Będzie to zaskoczeniem dla Russella i Bostroma, a także prawdopodobnie dla wielu innych respondentów biorących udział w ankiecie. (Rzeczywiście, nagłówek Etzioniego mógł równie dobrze brzmieć, jak 75 procent ekspertów uważa, że superinteligentna sztuczna inteligencja jest nieunikniona). Czy powinniśmy ignorować ryzyko katastroficzne tylko dlatego, że większość ekspertów uważa, że dzieli je więcej niż 25 lat? Zgodnie z logiką Etzioniego powinniśmy również zignorować katastrofalne zagrożenia związane ze zmianami klimatycznymi i karać tych, którzy je wychowują.
W przeciwieństwie do poglądów Etzioniego i niektórych innych w Społeczność AI , wskazując na długoterminowe ryzyko związane ze sztuczną inteligencją jest nie równoznaczne z twierdzeniem, że superinteligentna sztuczna inteligencja i związane z nią ryzyko są nieuchronne. Na liście tych, którzy wskazali na zagrożenia, znaleźli się tacy luminarze jak Alan Turing, Norbert Wiener, I.J. Dobrze i Marcina Minsky'ego. Nawet Oren Etzioni ma uznał te wyzwania . Zgodnie z naszą wiedzą, żaden z nich nigdy nie twierdził, że superinteligentna sztuczna inteligencja jest nieuchronna. Jak wspomniano powyżej, Bostrom nie Superinteligencja .
Etzioni powtarza następnie wątpliwy argument, że prognozy katastrofy i mroku często nie uwzględniają potencjalnych korzyści płynących ze sztucznej inteligencji w zapobieganiu błędom medycznym, ograniczaniu wypadków samochodowych i nie tylko. Argument ten nie dotyczy nawet Bostroma, który przewiduje, że sukces w kontrolowaniu sztucznej inteligencji spowoduje pełne współczucia i radosne wykorzystanie kosmicznego wyposażenia ludzkości. Argument jest również nonsensem. To tak, jakby kłócić się, że inżynierowie jądrowi, którzy analizują możliwość stopienia w elektrowniach jądrowych, nie biorą pod uwagę potencjalnych korzyści płynących z taniej energii elektrycznej, a ponieważ elektrownie jądrowe mogą kiedyś generować naprawdę tanią energię elektryczną, nie powinniśmy ani wspominać, ani pracować nad zapobieganiem , możliwość krachu.
Nasze doświadczenie z Czarnobylem sugeruje, że twierdzenie, że potężna technologia nie wiąże się z żadnym ryzykiem, może być nierozsądne. Nierozsądne może być również twierdzenie, że potężna technologia nigdy nie zostanie zrealizowana. 11 września 1933 r. Lord Rutherford, być może najwybitniejszy fizyk jądrowy na świecie, opisał perspektywę wydobywania energii z atomów jedynie jako bimber. Niecałe 24 godziny później Leo Szilard wynalazł łańcuchową reakcję jądrową indukowaną neutronami; szczegółowe projekty reaktorów jądrowych i broni jądrowej pojawiły się kilka lat później. Z pewnością lepiej jest przewidywać ludzką pomysłowość niż ją lekceważyć, lepiej dostrzegać zagrożenia niż im negować.
Wielu wybitnych ekspertów AI dostrzegło możliwość, że sztuczna inteligencja stanowi ryzyko egzystencjalne. W przeciwieństwie do przeinaczeń w mediach, ryzyko to nie musi wynikać ze spontanicznej wrogiej świadomości. Ryzyko wynika raczej z nieprzewidywalności i potencjalnej nieodwracalności wdrożenia procesu optymalizacji bardziej inteligentnego niż ludzie, którzy określili jego cele. Problem ten został wyraźnie postawiony przez Norberta Wienera w 1960 roku i nadal go nie rozwiązaliśmy. Zachęcamy Czytelnika do wsparcia trwających w tym celu wysiłków.
Allan Dafoe jest adiunktem nauk politycznych na Uniwersytecie Yale.
Stuart Russell jest profesorem informatyki na Uniwersytecie Kalifornijskim w Berkeley.
Odpowiedź Orena Etzioniego z 2 listopada 2016 r.:
Cieszę się, że profesorowie Dafoe i Russell i wydaje mi się, że zgadzam się w trzech krytycznych sprawach. Po pierwsze, powinniśmy powstrzymać się od ataków ad hominem. Tutaj muszę przeprosić: nie powinienem cytować anonimowego stypendysty AAAI, który przyrównał dr Bostroma do Donalda Trumpa. Nie chciałem użyczać głosu temu porównaniu; Szczerze przeprosiłem Bostroma za ten błąd przez e-mail, który łaskawie przyjął. Po drugie, jako naukowcy, musimy ocenić stwierdzenia dotyczące ryzyka AI na podstawie danych. To był kluczowy punkt mojego krótki artykuł , a artykuł zawierał unikalne dane na ten temat. Po trzecie, zgadzamy się również, że media błędnie przedstawiły implikacje pracy Bostroma – tematu poważnego zaniepokojenia, który został do pewnego stopnia złagodzony przez Raport Białego Domu na temat AI . Oczywiście różnimy się w wielu szczegółach i zawiłościach argumentacji, ale czas pokaże.