211service.com
Osobliwość i punkt stały
Niektórzy futuryści, tacy jak Ray Kurzweil, postawili hipotezę, że pewnego dnia niedługo przejdziemy przez osobliwość – to znaczy okres szybkich zmian technologicznych, poza którym nie możemy wyobrazić sobie przyszłości społeczeństwa. Większość wizji tej osobliwości koncentruje się na stworzeniu maszyn wystarczająco inteligentnych, aby opracować maszyny jeszcze bardziej inteligentne od nich samych, i tak dalej, rekurencyjnie, uruchamiając w ten sposób pętlę pozytywnego sprzężenia zwrotnego wzmacniającą inteligencję. To intrygująca myśl. (Jedną z pierwszych rzeczy, które chciałem zrobić, kiedy dostałem się na MIT jako student, było zbudowanie robota-naukowca, który mógłby dokonywać odkryć szybciej i lepiej niż ktokolwiek inny). Nawet CTO firmy Intel, Justin Rattner, ostatnio publicznie spekulował, że jesteśmy na dobrej drodze do tej osobliwości, a konferencje takie jak Singularity Summit (na których Będę przemawiał w październiku ) badają, jak takie przekształcenia mogą mieć miejsce.
Jako inżynier mózgu uważam jednak, że skupianie się wyłącznie na zwiększaniu inteligencji jako motorze przyszłości powoduje pominięcie krytycznej części analizy – a mianowicie zmian motywacji, które mogą pojawić się wraz ze wzrostem inteligencji. Nazwijmy to potrzebą umiejętności przywódczych maszyn lub filozofii maszyn – bez tego taka pętla sprzężenia zwrotnego może szybko się rozlać.
Wszyscy wiemy, że inteligencja, zgodnie z powszechną definicją, nie wystarczy, aby sama wpłynąć na świat. Ważna jest także umiejętność uparcie dążenia do celu wbrew przeszkodom, ignorując ponurość rzeczywistości (czasem aż do złudzenia – czyli wbrew inteligencji). Większość opowieści science-fiction woli, aby ich sztuczna inteligencja była niezwykle zmotywowana do robienia rzeczy – na przykład do zniewolenia lub wyniszczenia ludzi, jeśli Macierz oraz Terminator II mam coś do powiedzenia na ten temat. Ale uważam, że równie prawdopodobny jest robot Marvin, superinteligentna maszyna Douglasa Adamsa ten Przewodnik autostopowicza po Galaktyce , który swoją ogromną inteligencję wykorzystywał głównie do siedzenia i narzekania, w przypadku braku wielkiego celu.
Rzeczywiście, naprawdę zaawansowana inteligencja, niewłaściwie umotywowana, może zdać sobie sprawę z nietrwałości wszystkich rzeczy, obliczyć, że słońce wypali się za kilka miliardów lat i zdecydować się na granie w gry wideo do końca swojego istnienia, wnioskując, że wymyślenie jeszcze mądrzejszego maszyna jest bezcelowa. (Następstwem tego myślenia może być wyjaśnienie, dlaczego nie znaleźliśmy jeszcze życia pozaziemskiego: inteligencje na progu podróży międzygwiezdnych mogą być skłonne sądzić, że gdy galaktyki gotują się w ciągu zaledwie 1019 lat, może lepiej po prostu zostać w domu i oglądać telewizję.) Tak więc, jeśli ktoś próbuje zbudować inteligentną maszynę zdolną do opracowania bardziej inteligentnych maszyn, ważne jest, aby znaleźć sposób na wbudowanie nie tylko motywacji, ale także wzmocnienia motywacji - ciągłe pragnienie budowania samopodtrzymującej się motywacji, wraz ze wzrostem inteligencji. Jeśli taką motywację mają posiadać przyszłe pokolenia inteligencji – niejako metamotywacja – to ważne jest, aby odkryć te zasady już teraz.
Jest drugi problem. Inteligentna istota może być w stanie wyobrazić sobie znacznie więcej możliwości niż mniej inteligentna, ale to nie zawsze może prowadzić do bardziej efektywnego działania, zwłaszcza jeśli niektóre możliwości odciągają inteligencję od pierwotnych celów (np. celu zbudowania bardziej inteligentnej inteligencji ). Wrodzona niepewność wszechświata może również przytłoczyć lub sprawić, że proces decyzyjny tej inteligencji stanie się nieistotny. Rzeczywiście, dla bardzo wielowymiarowej przestrzeni możliwości (z osiami reprezentującymi różne parametry podejmowanego działania) może być bardzo trudno ocenić, która ścieżka jest najlepsza. Umysł może równolegle planować, ale działania są ostatecznie jednolite, a biorąc pod uwagę ograniczone dostępne zasoby, skuteczne działania często będą rzadkie.
Ostatnie dwa akapity dotyczą nie tylko sztucznej inteligencji i ET, ale także opisują cechy ludzkiego umysłu, które czasami wpływają na podejmowanie decyzji przez wielu z nas – brak motywacji i motywacji oraz paraliż podejmowania decyzji w obliczu zbyt wielu możliwych wyborów . Ale jest gorzej: wiemy, że motywacja może zostać przejęta przez opcje, które symulują satysfakcję, do której dąży motywacja. Uzależnienia od substancji są plagą dziesiątek milionów ludzi w samych Stanach Zjednoczonych, a uzależnienia od bardziej subtelnych rzeczy, w tym pewnych rodzajów informacji (takich jak poczta e-mail), są również widoczne. I niewiele sztuk jest trudniejszych niż przekazywanie motywacji następnemu pokoleniu, w pogoni za wielkim pomysłem. Inteligencje, które wymyślają coraz ciekawsze i bardziej absorbujące technologie, które potrafią lepiej przykuwać ich uwagę, jednocześnie zmniejszając wpływ na świat, mogą wkroczyć w przeciwieństwo osobliwości.
Co jest przeciwieństwem osobliwości? Osobliwość zależy od matematycznej rekurencji: wymyśl superinteligencję, a wtedy wynajdzie superinteligencję jeszcze potężniejszą. Ale jak wie każdy student matematyki, istnieją inne wyniki iterowanego procesu, takie jak punkt stały. Punkt stały to punkt, który po zastosowaniu funkcji daje ponownie ten sam punkt. Zastosowanie takiej funkcji do punktów w pobliżu stałego punktu często spowoduje skierowanie ich w stronę stałego punktu.
Społeczny punkt stały można zatem zdefiniować jako stan, który samowzmacnia się, pozostając w status quo – co w zasadzie może być pokojowe i samowystarczalne, ale może też być niezwykle nudne – powiedzmy, angażując wiele osób podłączonych do Internetu oglądanie filmów na zawsze. Tak więc, my, ludzie, możemy wkrótce zacząć ustalać zasady projektowania technologii, tak aby motywowały nas do osiągnięcia jakiegoś wysokiego celu lub zakończenia – lub przynajmniej oddalenia się od ślepych zaułków społecznych stałych punktów. Proces ten będzie obejmował myślenie o tym, w jaki sposób technologia może pomóc skonfrontować się ze starym pytaniem filozofii – a mianowicie, co powinienem zrobić, biorąc pod uwagę wszystkie możliwe ścieżki? Być może nadszedł czas na empiryczną odpowiedź na to pytanie, wyprowadzoną z właściwości naszych mózgów i wszechświata, w którym żyjemy.