Paul Allen: Osobliwość nie jest blisko

Futuryści lubią Vernor Vinge oraz Ray Kurzweil argumentowali, że świat szybko zbliża się do punktu krytycznego, w którym coraz szybsze tempo rozwoju coraz inteligentniejszych maszyn wkrótce przewyższy wszelkie ludzkie możliwości. Nazywają ten punkt krytyczny osobliwość , ponieważ uważają, że nie można przewidzieć, jak potoczy się przyszłość ludzkości po tym punkcie. Kurzweil i Vinge twierdzą, że kiedy te maszyny już istnieją, będą posiadać nadludzką inteligencję, która jest dla nas tak niezrozumiała, że ​​nie możemy nawet racjonalnie odgadnąć, jak zmienią się nasze doświadczenia życiowe. Pyta Vinge zastanowić się nad rolą ludzi w świecie, w którym maszyny są tak samo mądrzejsze od nas, jak my jesteśmy mądrzejsi od naszych domowych psów i kotów. Kurzweil, który jest nieco bardziej optymistyczny, wyobraża sobie przyszłość w którym rozwój nanotechnologii medycznej pozwoli nam załadować kopię naszych indywidualnych mózgów do tych nadludzkich maszyn, pozostawić za sobą nasze ciała i, w pewnym sensie, żyć wiecznie. To mocna sprawa.

Źródło: Przegląd technologii

Chociaż przypuszczamy, że tego rodzaju osobliwość może pewnego dnia wystąpić, nie sądzimy, aby była blisko. W rzeczywistości uważamy, że nadejdzie to bardzo długo. Kurzweil nie zgadza się, opierając się na swoich ekstrapolacjach dotyczących tempa odpowiedniego postępu naukowego i technicznego. Twierdzi, że tempo postępu w kierunku osobliwości nie jest tylko postępem stale rosnących zdolności, ale w rzeczywistości wykładniczo przyspiesza – co Kurzweil nazywa Prawo przyspieszonych zwrotów . Pisze, że:

Więc nie doświadczymy 100 lat postępu w XXI wieku – będzie to bardziej jak 20 000 lat postępu (w dzisiejszym tempie). Zwroty, takie jak szybkość chipów i opłacalność, również rosną wykładniczo. Istnieje nawet wykładniczy wzrost tempa wzrostu wykładniczego. W ciągu kilku dekad inteligencja maszyn przewyższy ludzką inteligencję, prowadząc do Osobliwości… [jeden]

Pracując z zestawem modeli i danych historycznych, Kurzweil słynie z obliczeń, że osobliwość pojawi się około 2045 roku.

Ta prognoza wydaje nam się dość daleko idąca. Oczywiście zdajemy sobie sprawę, że historia nauki i techniki jest zaśmiecona ludźmi, którzy śmiało twierdzą, że jakieś wydarzenie nie może się zdarzyć, tylko po to, by później udowodnić, że się myli – często w spektakularny sposób. Przyznajemy, że jest możliwe, ale wysoce nieprawdopodobne, aby Kurzweil ostatecznie został usprawiedliwiony. Dorosły mózg jest rzeczą skończoną, więc jego podstawowe działanie można ostatecznie poznać dzięki ciągłemu wysiłkowi człowieka. Ale jeśli osobliwość ma nadejść do 2045 r., będzie wymagała nieprzewidywalnych i zasadniczo nieprzewidywalnych przełomów, a nie dlatego, że Prawo Przyspieszonych Powrotów uczyniło z niej nieunikniony rezultat określonego wykładniczego tempa postępu.

Rozumowanie Kurzweila opiera się na prawie przyspieszonych powrotów i jego rodzeństwie, ale nie są to prawa fizyczne. Są to twierdzenia o tym, jak przeszłe tempo postępu naukowego i technicznego może przewidzieć przyszłe tempo. Dlatego, podobnie jak inne próby prognozowania przyszłości z przeszłości, te prawa będą działać, dopóki nie będą działać. Co bardziej problematyczne dla osobliwości, tego rodzaju ekstrapolacje czerpią znaczną część swojego ogólnego kształtu wykładniczego z przypuszczenia, że ​​będą stale dostępne coraz potężniejsze możliwości obliczeniowe. Aby prawo miało zastosowanie, a osobliwość miała miejsce około 2045 r., postęp w zakresie możliwości musi nastąpić nie tylko w technologiach sprzętowych komputera (pamięć, moc obliczeniowa, prędkość magistrali itp.), ale także w oprogramowaniu, które tworzymy, aby je uruchamiać. bardziej wydajne komputery. Aby osiągnąć osobliwość, nie wystarczy po prostu szybciej uruchomić dzisiejsze oprogramowanie. Musielibyśmy również tworzyć inteligentniejsze i wydajniejsze programy. Stworzenie tego rodzaju zaawansowanego oprogramowania wymaga wcześniejszego naukowego zrozumienia podstaw ludzkiego poznania, a my po prostu ocieramy się o to.

Ta uprzednia potrzeba zrozumienia podstawowej nauki o poznaniu jest tam, gdzie osobliwość jest bliska argumentom, które nas nie przekonują. To prawda, że ​​technologia sprzętu komputerowego może rozwijać się zdumiewająco szybko, gdy mamy solidne podstawy naukowe i odpowiednie bodźce ekonomiczne. Jednak stworzenie oprogramowania dla prawdziwej inteligencji komputerowej na poziomie osobliwości będzie wymagało fundamentalnego postępu naukowego, wykraczającego poza to, gdzie jesteśmy dzisiaj. Ten rodzaj postępu jest zupełnie inny niż ewolucja możliwości sprzętu komputerowego w stylu Prawa Moore'a, która zainspirowała Kurzweila i Vinge'a. Stworzenie złożonego oprogramowania, które pozwoliłoby na zaistnienie osobliwości, wymaga od nas najpierw szczegółowego naukowego zrozumienia, jak działa ludzki mózg, którego możemy użyć jako przewodnika architektonicznego lub stworzyć to wszystko Ponownie . Oznacza to nie tylko znajomość fizycznej struktury mózgu, ale także tego, w jaki sposób mózg reaguje i zmienia się oraz jak miliardy równoległych interakcji neuronów może skutkować ludzką świadomością i oryginalnym myśleniem. Uzyskanie tego rodzaju kompleksowego zrozumienia mózgu nie jest niemożliwe. Jeśli jednak osobliwość ma wystąpić na czymś podobnym do osi czasu Kurzweila, to bezwzględnie potrzebujemy ogromnego przyspieszenia naszego postępu naukowego w zrozumieniu każdego aspektu ludzkiego mózgu.

Ale historia mówi nam, że proces oryginalnych odkryć naukowych po prostu nie zachowuje się w ten sposób, szczególnie w złożonych obszarach, takich jak neuronauka, fuzja jądrowa czy badania nad rakiem. Ogólny postęp naukowy w zrozumieniu mózgu rzadko przypomina uporządkowany, nieubłagany marsz do prawdy, nie mówiąc już o gwałtownie przyspieszającym. Zamiast tego postęp naukowy jest często nieregularny, z nieprzewidywalnymi przebłyskami wglądu przerywającymi powolną pracę laboratoryjną polegającą na tworzeniu i testowaniu teorii, które pasują do obserwacji eksperymentalnych. Naprawdę znaczące przełomy koncepcyjne nie pojawiają się, gdy przewidywano, i co jakiś czas nowe naukowe paradygmaty przetaczają się przez pole i zmuszają naukowców do ponownej oceny części tego, co myśleli, że ustalili. Widzimy to w neuronauce wraz z odkryciem długotrwałego wzmocnienia, kolumnowej organizacji obszarów korowych i neuroplastyczności. Tego rodzaju fundamentalne zmiany nie wspierają ogólnego przyspieszenia w stylu Prawa Moore'a potrzebnego do dotarcia do osobliwości w harmonogramie Kurzweila.

Hamulec złożoności

Powyższe wskazuje na podstawową kwestię dotyczącą tego, jak szybko można opracować naukowo adekwatny opis ludzkiej inteligencji. Nazywamy to problemem hamulec złożoności . Gdy zagłębiamy się coraz głębiej w nasze rozumienie systemów naturalnych, zazwyczaj okazuje się, że do ich scharakteryzowania potrzebujemy coraz bardziej specjalistycznej wiedzy i jesteśmy zmuszeni do ciągłego rozwijania naszych teorii naukowych w coraz bardziej złożony sposób. Zrozumienie szczegółowych mechanizmów ludzkiego poznania jest zadaniem, które podlega temu hamulcowi złożoności. Pomyśl tylko o tym, co jest wymagane, aby dokładnie zrozumieć ludzki mózg na poziomie mikro. Złożoność mózgu jest po prostu niesamowita. Każda struktura została precyzyjnie ukształtowana przez miliony lat ewolucji, aby wykonać określoną rzecz, cokolwiek by to nie było. Nie przypomina komputera z miliardami identycznych tranzystorów w zwykłych macierzach pamięci, które są sterowane przez procesor składający się z kilku różnych elementów. W mózgu każda indywidualna struktura i obwód nerwowy zostały indywidualnie udoskonalone przez ewolucję i czynniki środowiskowe. Im bliżej przyjrzymy się mózgowi, tym większy stopień zmienności neuronalnej znajdujemy. Zrozumienie struktury nerwowej ludzkiego mózgu staje się coraz trudniejsze, gdy dowiadujemy się więcej. Innymi słowy, im więcej się uczymy, tym bardziej zdajemy sobie sprawę, że trzeba wiedzieć, i tym bardziej musimy cofnąć się i zrewidować nasze wcześniejsze zrozumienie. Wierzymy, że pewnego dnia ten stały wzrost złożoności się skończy — w końcu mózg jest skończonym zbiorem neuronów i działa zgodnie z zasadami fizycznymi. Jednak w dającej się przewidzieć przyszłości to hamulec złożoności i pojawienie się potężnych nowych teorii, a nie Prawo Przyspieszających Powrotów, będzie regulować tempo postępu naukowego wymaganego do osiągnięcia osobliwości.

Tak więc, chociaż uważamy, że ostateczne zrozumienie struktury neuronalnej mózgu jest ostatecznie możliwe, nie okazało się, że jest to rodzaj obszaru, w którym możemy dokonać wykładniczo przyspieszającego postępu. Ale załóżmy, że naukowcy dokonali jakiegoś genialnego postępu w technologii skanowania mózgu. Zwolennicy osobliwości często twierdzą, że możemy osiągnąć inteligencję komputerową po prostu poprzez numeryczną symulację mózgu oddolną do góry na podstawie szczegółowego obrazu na poziomie neuronowym. Na przykład Kurzweil przewiduje rozwój nieniszczących skanerów mózgu, które pozwolą nam precyzyjnie wykonać migawkę żywego mózgu osoby na poziomie podneuronowym. On sugeruje że skanery te najprawdopodobniej działałyby z wnętrza mózgu za pośrednictwem milionów medycznych nanobotów do wstrzykiwania. Ale niezależnie od tego, czy skanowanie oparte na nanobotach się powiedzie (a nie jesteśmy nawet blisko dowiedzenia się, czy jest to możliwe), Kurzweil zasadniczo twierdzi, że jest to potrzebny postęp naukowy, który bramkuje osobliwość: komputery mogą po prostu wykazywać inteligencję na poziomie człowieka ładując stan i łączność każdego z neuronów mózgu w ogromnym cyfrowym symulatorze mózgu, podłączając wejścia i wyjścia oraz naciskając start.

Jednak trudność w budowaniu oprogramowania na poziomie ludzkim jest głębsza niż obliczeniowe modelowanie połączeń strukturalnych i biologii każdego z naszych neuronów. Strategie duplikacji mózgu, takie jak te, zakładają, że nie ma fundamentalnego problemu w dotarciu do ludzkiego poznania poza posiadaniem wystarczającej mocy komputera i map struktury neuronów do przeprowadzenia symulacji. [dwa] Chociaż może to być prawda teoretycznie, w praktyce tak się nie sprawdziło, ponieważ nie obejmuje wszystkiego, co jest faktycznie potrzebne do zbudowania oprogramowania. Na przykład, jeśli chcielibyśmy zbudować oprogramowanie symulujące zdolność ptaka do latania w różnych warunkach, samo posiadanie kompletnego schematu anatomii ptaka nie wystarczy. Aby w pełni zasymulować lot prawdziwego ptaka, musimy również wiedzieć, jak wszystko razem funkcjonuje. W neuronauce mamy do czynienia z sytuacją równoległą. Podjęto setki prób (przy użyciu wielu różnych organizmów), aby połączyć symulacje różnych neuronów wraz z ich środowiskiem chemicznym. Jednolitym rezultatem tych prób jest to, że aby stworzyć adekwatną symulację rzeczywistej, zachodzącej aktywności nerwowej organizmu, potrzebna jest również ogromna wiedza na temat funkcjonalny rolę, jaką odgrywają te neurony, jak ewoluują ich wzorce połączeń, jak są zorganizowane w grupy, aby przekształcić surowe bodźce w informacje oraz jak przetwarzanie informacji przez neurony ostatecznie wpływa na zachowanie organizmu. Bez tych informacji konstruowanie skutecznych modeli symulacyjnych opartych na komputerach okazało się niemożliwe. Zwłaszcza w przypadku neuronauki poznawczej ludzi nie jesteśmy blisko wymaganego poziomu wiedzy funkcjonalnej. Mózg projekty symulacyjne Obecnie modeluje się tylko niewielką część tego, co robią neurony i brakuje mu szczegółów, aby w pełni symulować to, co dzieje się w mózgu. Tempo badań w tym obszarze, choć zachęcające, nie wydaje się wykładnicze. Ponownie, gdy dowiadujemy się coraz więcej o rzeczywistej złożoności funkcjonowania mózgu, najważniejszą rzeczą, jaką odkrywamy, jest to, że problem staje się coraz trudniejszy.

Podejście AI

Zwolennicy osobliwości od czasu do czasu odwołują się do rozwoju sztucznej inteligencji (AI) jako sposobu na obejście powolnego tempa ogólnego postępu naukowego w oddolnych, opartych na neuronaukach podejściach do poznania. Prawdą jest, że sztuczna inteligencja odniosła wielkie sukcesy w powielaniu pewnych izolowanych zadań poznawczych, ostatnio z System IBM Watson dla Niebezpieczeństwo! odpowiedzi na pytania. Ale kiedy się cofniemy, widzimy, że ogólne możliwości oparte na sztucznej inteligencji również nie wzrosły wykładniczo, przynajmniej w porównaniu z tworzeniem w pełni ogólnej ludzkiej inteligencji. Chociaż nauczyliśmy się wiele o tym, jak budować indywidualne systemy AI, które robią pozornie inteligentne rzeczy, nasze systemy zawsze pozostały kruchy — ich granice wydajności są sztywno określone przez ich wewnętrzne założenia i algorytmy definiujące, nie mogą uogólniać i często udzielają bezsensownych odpowiedzi poza ich konkretnymi obszarami zainteresowania. Program komputerowy, który doskonale gra w szachy, nie może wykorzystać swoich umiejętności do grania w inne gry. Najlepsze programy diagnostyki medycznej zawierają niezwykle szczegółową wiedzę o ludzkim ciele, ale nie mogą wywnioskować, że linoskoczek miałby świetne poczucie równowagi.

Dlaczego naukowcom zajmującym się sztuczną inteligencją tak trudno było zbudować inteligencję podobną do ludzkiej, nawet na małą skalę? Jedna odpowiedź dotyczy podstawowych ram naukowych, z których korzystają badacze sztucznej inteligencji. Gdy ludzie dorastają od niemowląt do dorosłych, zaczynają od zdobywania ogólnej wiedzy o świecie, a następnie stale poszerzają i udoskonalają tę ogólną wiedzę o konkretną wiedzę o różnych obszarach i kontekstach. Badacze sztucznej inteligencji zazwyczaj próbowali zrobić coś przeciwnego: zbudowali systemy z głęboką wiedzą na temat wąskich obszarów i próbowali stworzyć bardziej ogólną zdolność poprzez połączenie tych systemów. Ta strategia generalnie nie odniosła sukcesu, chociaż wyniki Watsona na Niebezpieczeństwo! wskazuje, że ścieżki takie jak ta mogą być jeszcze obiecujące. Nieliczne próby, które zostały podjęte, aby bezpośrednio stworzyć dużą ilość ogólnej wiedzy o świecie, a następnie dodać specjalistyczną wiedzę z dziedziny (na przykład praca Cycorp ) również odniosły jedynie ograniczony sukces. W każdym razie badacze sztucznej inteligencji dopiero zaczynają teoretyzować na temat tego, jak skutecznie modelować złożone zjawiska, które nadają ludzkiemu poznaniu wyjątkową elastyczność: niepewność, wrażliwość na kontekst, reguły praktyczne, autorefleksja i przebłyski wglądu, które są niezbędne do myśli wyższego poziomu. Podobnie jak w neuronauce, droga oparta na sztucznej inteligencji do osiągnięcia inteligencji komputerowej na poziomie osobliwości wydaje się wymagać znacznie więcej odkryć, nowych teorii o jakości Nobla, a prawdopodobnie nawet zupełnie nowych podejść badawczych, które są niewspółmierne do tego, w co obecnie wierzymy. Ten rodzaj podstawowego postępu naukowego nie dzieje się na wiarygodnej wykładniczej krzywej wzrostu. Tak więc, chociaż rozwój sztucznej inteligencji może ostatecznie stać się drogą do osobliwości, ponownie hamulec złożoności spowalnia nasze tempo postępu i popycha osobliwość znacznie w przyszłość.

Niesamowita zawiłość ludzkiego poznania powinna być przestrogą dla tych, którzy twierdzą, że osobliwość jest bliska. Bez naukowego głębokiego zrozumienia poznania nie możemy stworzyć oprogramowania, które mogłoby wywołać osobliwość. Zamiast stale przyspieszającego postępu przewidywanego przez Kurzweila, wierzymy, że postęp w kierunku tego zrozumienia jest zasadniczo spowolniony przez hamulec złożoności. Nasza zdolność do osiągnięcia tego zrozumienia, poprzez sztuczną inteligencję lub podejście neuronaukowe, jest sama w sobie ludzkim aktem poznawczym, wynikającym z nieprzewidywalnej natury ludzkiej pomysłowości i odkryć. Na postęp w tym obszarze głęboko wpływa sposób, w jaki nasze mózgi przyswajają i przetwarzają nowe informacje, oraz kreatywność badaczy w wymyślaniu nowych teorii. Kieruje nią również sposób, w jaki społecznie organizujemy pracę badawczą w tych dziedzinach i rozpowszechniamy wiedzę, która jest jej wynikiem. Na Wulkan i na Allen Institute for Brain Science , pracujemy nad zaawansowanymi narzędziami, które pomogą naukowcom uporać się z tą zniechęcającą złożonością i przyspieszyć ich badania. Zdobycie wszechstronnego naukowego zrozumienia ludzkiego poznania jest jednym z najtrudniejszych problemów. Wciąż robimy zachęcające postępy. Ale wierzymy, że pod koniec stulecia nadal będziemy się zastanawiać, czy osobliwość jest blisko.

Paul G. Allen, współzałożyciel Microsoftu w 1975 roku, jest filantropem i prezesem firmy Vulcan, która inwestuje w szereg firm z branży technologicznej, lotniczej, rozrywkowej i sportowej. Mark Greaves jest informatykiem, który pełni funkcję dyrektora Vulcan ds. systemów wiedzy.

[jeden] Kurzweil, Prawo przyspieszania powrotów, marzec 2001.

[dwa] Zaczynamy zbliżać się do mocy komputera, której możemy potrzebować do obsługi tego rodzaju ogromnej symulacji mózgu. Komputery klasy Petaflop (takich jak IBM BlueGene/P, który był używany w systemie Watson) są teraz dostępne na rynku. Obecnie na deskach kreślarskich znajdują się komputery klasy Exaflop. Systemy te prawdopodobnie mogłyby wykorzystać surowe zdolności obliczeniowe potrzebne do symulowania wzorców odpalania dla wszystkich neuronów w mózgu, chociaż obecnie dzieje się to znacznie wolniej niż w rzeczywistym mózgu.

AKTUALIZACJA: Tutaj odpowiada Ray Kurzweil.

ukryć