Nasz strach przed sztuczną inteligencją

Lata temu wypiłem kawę z przyjacielem, który prowadził startup. Właśnie skończył 40 lat. Jego ojciec był chory, bolały go plecy i poczuł się przytłoczony życiem. Nie śmiej się ze mnie, powiedział, ale liczyłem na osobliwość.

Mój przyjaciel pracował w technologii; widział zmiany, które dokonały szybsze mikroprocesory i sieci. Nie był to dla niego duży krok, by uwierzyć, że zanim zostanie osaczony przez wiek średni, inteligencja maszyn przewyższy ludzką – moment, który futuryści nazywają osobliwością. Życzliwa superinteligencja może błyskawicznie przeanalizować ludzki kod genetyczny i odkryć sekret wiecznej młodości. Przynajmniej może wiedzieć, jak naprawić plecy.

Ta historia była częścią naszego wydania z marca 2015 r.

• Zobacz resztę numeru
• Subskrybuj

Ale co, jeśli nie był tak życzliwy? Nick Bostrom, filozof kierujący Future of Humanity Institute na Uniwersytecie Oksfordzkim, opisuje w swojej książce następujący scenariusz Superinteligencja , co wywołało wiele dyskusji na temat przyszłości sztucznej inteligencji. Wyobraźmy sobie maszynę, którą moglibyśmy nazwać maksymalizatorem spinaczy — to znaczy maszynę zaprogramowaną do wytwarzania jak największej liczby spinaczy. Teraz wyobraź sobie, że ta maszyna w jakiś sposób stała się niewiarygodnie inteligentna. Biorąc pod uwagę swoje cele, może następnie zdecydować się na stworzenie nowych, bardziej wydajnych maszyn do produkcji spinaczy do papieru – aż do czasu, gdy w stylu King Midas zamienił zasadniczo wszystko na spinacze do papieru.

Nie martw się, możesz powiedzieć: możesz po prostu zaprogramować go tak, aby wykonał dokładnie milion spinaczy do papieru i się zatrzymał. Ale co, jeśli zrobi spinacze, a potem zdecyduje się sprawdzić, jak działa? Czy liczy się poprawnie? Na pewno musi stać się mądrzejszy. Superinteligentna maszyna wytwarza jakiś, jeszcze nie wynaleziony surowy materiał obliczeniowy (nazwijmy to komputerem) i używa go do sprawdzania każdej wątpliwości. Ale każda nowa wątpliwość rodzi kolejne cyfrowe wątpliwości i tak dalej, aż cała Ziemia zostanie przemieniona w computronium. Z wyjątkiem miliona spinaczy do papieru.

Rzeczy zrecenzowane

• Superinteligencja: ścieżki, niebezpieczeństwa, strategie

  Autor: Nick Bostrom
  Oxford University Press, 2014

  
  
  

Bostrom nie wierzy, że maksymalizator spinacza do papieru powstanie dokładnie; to eksperyment myślowy, mający na celu pokazanie, jak nawet ostrożny projekt systemu może nie powstrzymać ekstremalnej inteligencji maszyny. Wierzy jednak, że superinteligencja może się wyłonić i chociaż może być świetna, uważa, że ​​może również zdecydować, że nie potrzebuje ludzi. Albo zrobić wiele innych rzeczy, które niszczą świat. Tytuł rozdziału 8 brzmi: Czy domyślnym wynikiem jest zagłada?

Jeśli brzmi to dla ciebie absurdalnie, nie jesteś sam. Krytycy, tacy jak pionier robotyki Rodney Brooks, twierdzą, że ludzie, którzy boją się uciekającej sztucznej inteligencji, nie rozumieją, co robią komputery, gdy mówimy, że myślą lub stają się mądrzy. Z tej perspektywy domniemana superinteligencja, którą opisuje Bostrom, jest daleka w przyszłości i być może niemożliwa.

Jednak wielu mądrych, rozważnych ludzi zgadza się z Bostromem i teraz się martwią. Czemu?

Wola

Pytanie Czy maszyna może myśleć? cień informatyki od jej początków. Alan Turing zaproponował w 1950 roku, że maszynę można uczyć jak dziecko; John McCarthy, wynalazca języka programowania LISP, ukuł termin „sztuczna inteligencja” w 1955 roku. Gdy badacze sztucznej inteligencji w latach 60. i 70. zaczęli używać komputerów do rozpoznawania obrazów, tłumaczenia między językami i rozumienia instrukcji w normalnym języku, a nie tylko w kodzie, idea, że ​​komputery w końcu rozwiną zdolność mówienia i myślenia – a tym samym czynienia zła – przeniknęły do ​​kultury głównego nurtu. Nawet poza często przywoływanym HAL z 2001: Odyseja kosmiczna , film z 1970 roku Kolos: Projekt Forbin zawierał duży, migający komputer typu mainframe, który sprowadza świat na skraj nuklearnego zniszczenia; podobny temat został zbadany 13 lat później w Gry wojenne . Androidy lat 1973 Świat Zachodu oszalał i zaczął zabijać.

Ekstremalne prognozy AI są porównywalne z bardziej wydajnymi silnikami spalinowymi… i przeskakując do wniosku, że napędy warp są tuż za rogiem, pisze Rodney Brooks.

Kiedy badania nad sztuczną inteligencją daleko nie osiągnęły swoich wzniosłych celów, fundusze wyschły do ​​strumyka, rozpoczynając długie zimy. Mimo to pochodnia inteligentnej maszyny została wniesiona w latach 80. i 90. przez autorów science fiction, takich jak Vernor Vinge, który spopularyzował koncepcję osobliwości; badacze tacy jak robotyk Hans Moravec, ekspert w dziedzinie wizji komputerowej; oraz inżynier/przedsiębiorca Ray Kurzweil, autor książki z 1999 r. Wiek Maszyn Duchowych . Podczas gdy Turing postulował inteligencję podobną do ludzkiej, Vinge, Moravec i Kurzweil myśleli szerzej: kiedy komputer stałby się zdolny do samodzielnego opracowywania sposobów osiągania celów, najprawdopodobniej byłby zdolny do introspekcji – a tym samym był w stanie modyfikować swoje oprogramowanie i tworzyć się bardziej inteligentny. W krótkim czasie taki komputer byłby w stanie zaprojektować własny sprzęt.

Jak opisał to Kurzweil, rozpocznie się piękna nowa era. Takie maszyny miałyby wnikliwość i cierpliwość (mierzoną w pikosekundach), aby rozwiązać nierozstrzygnięte problemy nanotechnologii i lotów kosmicznych; poprawiłyby kondycję człowieka i pozwoliłyby przenieść naszą świadomość w nieśmiertelną formę cyfrową. Inteligencja rozprzestrzeni się w kosmosie.

Można też znaleźć dokładne przeciwieństwo takiego słonecznego optymizmu. Stephen Hawking ostrzegł, że ponieważ ludzie nie byliby w stanie konkurować z zaawansowaną sztuczną inteligencją, to może oznaczać koniec rasy ludzkiej. Po przeczytaniu Superinteligencja , przedsiębiorca Elon Musk napisał na Twitterze: Mam nadzieję, że nie jesteśmy tylko biologicznym programem ładującym dla superinteligencji cyfrowej. Niestety jest to coraz bardziej prawdopodobne. Następnie Musk otrzymał 10 milionów dolarów grantu dla Future of Life Institute. Nie mylić z centrum Bostroma, jest to organizacja, która twierdzi, że pracuje nad złagodzeniem zagrożeń egzystencjalnych stojących przed ludzkością, które mogą wyniknąć z rozwoju sztucznej inteligencji na poziomie człowieka.

Nikt nie sugeruje, że obecnie istnieje coś takiego jak superinteligencja. W rzeczywistości wciąż nie mamy nic, co mogłoby zbliżyć się do sztucznej inteligencji ogólnego przeznaczenia, ani nawet jasnej ścieżki do tego, jak można to osiągnąć. Ostatnie postępy w sztucznej inteligencji, od automatycznych asystentów, takich jak Siri firmy Apple, po bezzałogowe samochody Google, również ujawniają poważne ograniczenia tej technologii; obaj mogą zostać odrzuceni przez sytuacje, z którymi wcześniej się nie spotkali. Sztuczne sieci neuronowe mogą same nauczyć się rozpoznawać koty na zdjęciach. Ale trzeba im pokazać setki tysięcy przykładów, a mimo to kończą się znacznie mniej dokładne w wykrywaniu kotów niż dziecko.

To jest gdzie sceptycy tacy jak Brooks , założyciel firmy iRobot i Rethink Robotics, wejdź. Nawet jeśli robi wrażenie — w porównaniu z tym, co potrafiły wcześniejsze komputery — aby komputer rozpoznał zdjęcie kota, maszyna nie ma woli, nie ma pojęcia, czym jest koci. lub co jeszcze dzieje się na zdjęciu, a żaden z niezliczonych innych spostrzeżeń, które mają ludzie. Z tego punktu widzenia sztuczna inteligencja mogłaby prawdopodobnie doprowadzić do inteligentnych maszyn, ale wymagałoby to znacznie więcej pracy, niż wyobrażają sobie ludzie tacy jak Bostrom. A nawet gdyby tak się stało, inteligencja niekoniecznie prowadzi do odczuwania. Ekstrapolacja na podstawie dzisiejszego stanu sztucznej inteligencji, aby sugerować, że nadciągająca superinteligencja jest porównywalna do obserwowania pojawiających się bardziej wydajnych silników spalinowych i przeskakiwania do wniosku, że napędy warp są tuż za rogiem, Brooks napisał niedawno w edge.org . Złośliwa sztuczna inteligencja nie ma się czym martwić, mówi, przynajmniej przez kilkaset lat.

Polisa ubezpieczeniowa

Nawet jeśli szanse na powstanie superinteligencji są bardzo duże, być może ryzykowanie jest nieodpowiedzialne. Jedną z osób, która podziela obawy Bostroma, jest Stuart J. Russell, profesor informatyki na Uniwersytecie Kalifornijskim w Berkeley. Russell jest autorem, z Peterem Norvigiem (rówieśnikiem Kurzweila w Google), of Sztuczna inteligencja: nowoczesne podejście , który od dwóch dekad jest standardowym podręcznikiem AI.

Jest wielu rzekomo inteligentnych intelektualistów publicznych, którzy po prostu nie mają pojęcia, powiedział mi Russell. Wskazał, że sztuczna inteligencja znacznie się rozwinęła w ciągu ostatniej dekady i że chociaż opinia publiczna może zrozumieć postęp w zakresie prawa Moore'a (szybsze komputery robią więcej), w rzeczywistości niedawna praca nad sztuczną inteligencją była fundamentalna, z technikami takimi jak głębokie uczenie się. podstawy dla komputerów, które mogą automatycznie zwiększyć ich zrozumienie otaczającego ich świata.

Książka Bostroma proponuje sposoby dostosowania komputerów do ludzkich potrzeb. Zasadniczo mówimy bogu, jak chcielibyśmy być traktowani.

Ponieważ Google, Facebook i inne firmy aktywnie dążą do stworzenia inteligentnej, uczącej się maszyny, powiedziałbym, że jedną z rzeczy, których nie powinniśmy robić, jest pędzić pełną parą do budowania superinteligencji bez zastanowienia się nad potencjałem ryzyka. To po prostu wydaje się trochę głupie. Russell zrobił analogię: to jak badania nad syntezą jądrową. Jeśli zapytasz badacza syntezy jądrowej, co robią, powiedzą, że pracują nad powstrzymywaniem. Jeśli chcesz nieograniczonej energii, lepiej powstrzymaj reakcję fuzji. Podobnie, mówi, jeśli chcesz nieograniczonej inteligencji, lepiej wymyśl, jak dostosować komputery do ludzkich potrzeb.

Książka Bostroma jest propozycją badawczą w tym kierunku. Superinteligencja byłaby podobna do Boga, ale czy byłaby ożywiana gniewem czy miłością? To zależy od nas (czyli inżynierów). Jak każdy rodzic, musimy dać naszemu dziecku zestaw wartości. I to nie byle jakie wartości, ale te, które leżą w najlepszym interesie ludzkości. Zasadniczo mówimy bogu, jak chcielibyśmy być traktowani. Jak kontynuować?

Bostrom w dużej mierze czerpie z idei myśliciela Eliezera Yudkowsky'ego, który mówi o spójnej ekstrapolowanej woli – wywodzącej się z konsensusu najlepszej jaźni ze wszystkich ludzi. Mamy nadzieję, że sztuczna inteligencja chciałaby dać nam bogate, szczęśliwe i satysfakcjonujące życie: naprawić nasze bóle pleców i pokazać nam, jak dostać się na Marsa. A ponieważ ludzie nigdy nie zgodzą się w pełni na nic, czasami będziemy potrzebować tego, aby podjąć decyzję za nas – aby podjąć najlepsze decyzje dla całej ludzkości. Jak zatem programujemy te wartości w naszych (potencjalnych) superinteligencjach? Jaki rodzaj matematyki może je zdefiniować? Bostrom uważa, że ​​są to problemy, które naukowcy powinni teraz rozwiązać. Bostrom mówi, że jest to podstawowe zadanie naszych czasów.

Dla cywila nie ma powodu, by tracić sen z powodu przerażających robotów. Nie mamy technologii, która byłaby w najmniejszym stopniu zbliżona do superinteligencji. Z drugiej strony wiele największych korporacji na świecie jest głęboko zainwestowanych w uczynienie swoich komputerów bardziej inteligentnymi; prawdziwa sztuczna inteligencja dałaby którejkolwiek z tych firm niewiarygodną przewagę. Powinni również być wyczuleni na potencjalne wady i zastanowić się, jak ich uniknąć.

Ta nieco bardziej zniuansowana sugestia – bez żadnych roszczeń do zbliżającego się mageddonu AI – jest podstawą list otwarty na stronie Future of Life Institute, grupy, która otrzymała darowiznę Muska. Zamiast ostrzegać o egzystencjalnej katastrofie, list wzywa do dalszych badań nad czerpaniem korzyści ze sztucznej inteligencji przy jednoczesnym unikaniu potencjalnych pułapek. Ten list jest podpisany nie tylko przez osoby z zewnątrz AI, takie jak Hawking, Musk i Bostrom, ale także przez wybitnych informatyków (w tym Demisa Hassabisa, czołowego badacza AI). Możesz zobaczyć, skąd pochodzą. W końcu, jeśli opracują sztuczną inteligencję, która nie podziela najlepszych ludzkich wartości, będzie to oznaczać, że nie byli wystarczająco sprytni, by kontrolować własne twory.

Paul Ford, niezależny pisarz z Nowego Jorku, pisał o Bitcoinie w marcu/kwietniu 2014 roku.

ukryć