Czego potrzeba, aby komputery były świadome

Czy robak jest świadomy? A może trzmiel? Czy komputer, który potrafi grać w szachy, coś czuje?

Krzysztof Koch

Dla Christofa Kocha, dyrektora naukowego Allen Institute for Brain Science w Seattle, odpowiedź na te pytania może leżeć w samej tkance wszechświata. Uważa, że ​​świadomość jest nieodłączną właściwością materii, podobnie jak masa czy energia. Uporządkuj materię we właściwy sposób, jak w mózgu ssaka, i tutaj , możesz odczuwać.

Koch, obecnie 57-letni, spędził prawie ćwierć wieku, próbując wyjaśnić, dlaczego, powiedzmy, słońce grzeje na twojej twarzy. Ale po napisaniu trzy książki o świadomości Koch mówi, że naukowcy wciąż nie wiedzą, dlaczego tak się dzieje, ani nawet nie zgadzają się, co to jest. To trudny problem (patrz Łamanie kodów mózgu). To jeden z powodów, dla których Koch opuścił stanowisko w Caltech w 2011 roku, aby stać się częścią projektu wartego 500 milionów dolarów, zainicjowanego przez miliardera Paula Allena, współzałożyciela Microsoftu.

Celem Instytutu Allena jest zbudowanie szczegółowego atlasu każdego neuronu i synapsy w mózgu ssaków. To dałoby neuronauce mnóstwo danych podobnych do tego, co udało się osiągnąć w ramach Projektu Ludzkiego Genomu.

Ale Koch nie zrezygnował z poszukiwań wielkiej teorii, która mogłaby to wszystko wyjaśnić. W rzeczywistości uważa, że ​​świadomość można wyjaśnić czymś, co nazywa się zintegrowana teoria informacji , który twierdzi, że świadomość jest wytworem struktur, takich jak mózg, które mogą zarówno przechowywać duże ilości informacji, jak i mają krytyczne zagęszczenie wzajemnych połączeń między ich częściami.

Kocha, teoria ta dostarcza środków do oceny stopni świadomości u ludzi z uszkodzeniem mózgu, u różnych gatunków w królestwie zwierząt, a nawet, jak mówi, wśród maszyn. W zeszłym tygodniu w ciągu ostatniego tygodnia spytaliśmy Kocha o świadomość komputerową Przegląd technologii MIT konferencji EmTech.

Czy odkrywanie biologicznych podstaw świadomości będzie w jakiś sposób odczłowieczające? A jeśli to tylko iluzja?

Uważam, że pogląd niektórych ludzi, że świadomość jest iluzją, jest śmieszny. Jeśli to iluzja, to jest to najpotężniejsza iluzja, jaką mamy. Mam na myśli, że najsłynniejsza dedukcja w filozofii zachodniej to co? Myślę. Dlatego jestem. Fakt, że masz świadome doświadczenie, jest jedyną niezaprzeczalną pewnością, jaką masz.

Jeśli naukowcy odkryją podstawy świadomości, jakie technologie mogą z tego wyniknąć?

Moglibyśmy mieć test, aby stwierdzić, kto ma świadomość, a kto nie. Toczymy w tym kraju bardzo emocjonalne debaty na temat aborcji. Chciałbym mieć jakiś obiektywny sposób sprawdzenia, w którym momencie płód zaczyna odczuwać świadome odczucia. Albo czy pacjent [w śpiączce] jest przytomny, czy nie. Często po prostu nie wiesz. Są to pytania, które ludzie zadawali od czasów historycznych, ale kiedy już mamy teorię i powszechnie akceptowaną teorię, moglibyśmy na nie odpowiedzieć. Ponadto, gdybym chciał zbudować maszynę, która byłaby świadoma, dałoby mi to plan.

Więc myślisz, że komputer może być świadomy?

Wygłosiłem wykład [w zeszłym tygodniu] na MIT na temat teorii zintegrowanej informacji, opracowanej przez Giulio Tononiego na Uniwersytecie Wisconsin. Jest to teoria, która daje bardzo jasne przewidywanie: mówi, że świadomość jest właściwością złożonych systemów, które mają określony repertuar przyczyny-skutku. Mają szczególny sposób interakcji ze światem, tak jak mózg, lub w zasadzie, tak jak komputer. Gdybyś miał zbudować komputer, który ma te same obwody, co mózg, ten komputer również miałby powiązaną z nim świadomość. Czułby się, jakby był tym komputerem. Nie dotyczy to jednak symulacji cyfrowych.

Gdybym zbudował idealny model oprogramowania mózgu, nigdy nie byłby on świadomy, ale może to być specjalnie zaprojektowana maszyna naśladująca mózg?

Prawidłowy. Ta teoria wyraźnie mówi, że symulacja cyfrowa nie byłaby świadoma, co jest uderzająco różne od dominującego przekonania funkcjonalistycznego 99% ludzi z MIT lub filozofów takich jak Daniel Dennett. Wszyscy mówią, że kiedy już wszystko zasymulujesz, nic więcej nie jest wymagane i będzie to świadome.

Myślę, że świadomość, podobnie jak masa, jest podstawową właściwością wszechświata. Analogia, i to bardzo dobra, jest taka, że ​​w dzisiejszych czasach można robić całkiem dobre prognozy pogody. Możesz przewidzieć wnętrze burzy. Ale wewnątrz komputera nigdy nie jest mokro. Możesz symulować czarną dziurę w komputerze, ale czasoprzestrzeń nie zostanie zakrzywiona. Symulowanie czegoś nie jest prawdziwe.

Tak samo jest ze świadomością. Za 100 lat możesz być w stanie symulować świadomość na komputerze. Ale niczego nie doświadczy. Nada. W środku będzie czarny. Nie będzie miał żadnego doświadczenia, chociaż może mieć naszą inteligencję i zdolność mówienia.

Nie mówię, że świadomość jest magiczną duszą. To jest coś fizycznego. Świadomość zawsze przenika do fizyczności. Ale do jego utworzenia potrzebny jest konkretny rodzaj sprzętu. Komputer złożony z tranzystorów, przenoszący ładunek na i z bramki, przy czym każda bramka jest połączona z niewielką liczbą innych bramek, jest po prostu zupełnie inną strukturą przyczynowo-skutkową niż ta, którą mamy w mózgu, gdzie masz jeden neuron połączony z 10 000 neuronów wejściowych i rzutujący na 10 000 innych neuronów. Ale jeśli zbudujesz komputer w odpowiedni sposób, jak komputer neuromorficzny [patrz Myślenie w krzemie], mógłby być świadomy.

Gdybym miał umieścić Cię w pokoju z komputerem z przyszłości, czy byłbyś w stanie określić, czy jest świadomy?

Nie mogłem z zewnątrz. Musiałbym przyjrzeć się jego sprzętowi.

A co z testem Turinga?

Pytanie zadane przez Turinga brzmi: Czy maszyny mogą myśleć? ? Ale ostatecznie jest to test operacyjny na inteligencję, a nie na świadomość. Jeśli prowadzisz sprytną rozmowę z jakimś facetem w innym pokoju i po pół godzinie nie możesz się zdecydować, czy to komputer, czy człowiek, to mówisz, że jest tak inteligentny jak człowiek. Ale test Turinga nie powiedziałby mi, czy maszyna czegoś doświadcza. Mogę zapytać Czy jesteś świadomy? a maszyna mogłaby powiedzieć Tak, jestem w pełni przytomny. I dlaczego twierdzisz, że nie jestem? Jestem obrażony. Ale tak naprawdę nie mogłem wiedzieć. Muszę powiedzieć, przepraszam, muszę cię rozebrać i zrozumieć, jak jesteś stworzony i jak faktycznie generujesz te różne stany fizyczne.

Czy nie można zadać jakiegoś podchwytliwego pytania, na które tylko świadoma istota może odpowiedzieć?

Bardzo dobre pytanie. U ludzi mamy praktyczne testy świadomości. Jeśli masz poważny wypadek i pójdziesz na ER, zapytają Cię: Czy możesz poruszać oczami? Czy potrafisz poruszać kończynami? Możesz rozmawiać? Jeśli możesz mówić, czy wiesz, który to jest rok? Czy wiesz, kto jest prezydentem?

Ale skąd mam naprawdę wiedzieć, że jesteś świadomy? To jest problem solipsyzmu. W ostatniej analizie nie wiem. Ale wiem, że twój mózg jest bardzo podobny do mojego. Umieściłem wiele osób w skanerach i wiem, że wszyscy mają mózgi, a ich mózgi zachowują się podobnie do mojego. Jest więc całkiem rozsądny wniosek, że ty też jesteś świadomy.

Ale im bardziej te systemy różnią się ode mnie, tym trudniej jest to krok po kroku wnioskować. Weźmy na przykład pszczołę. Czy to jest jak być pszczołą, latać w złotych promieniach słońca i mieć nektar? Bardzo trudno jest mi stwierdzić, czy pszczoła jest przytomna, czy nie. A komputer jest jeszcze bardziej radykalnie inny. Nie ma zachowania, po którym mógłbym to ocenić. Musiałbym spojrzeć na jego podstawowy sprzęt.

Czy myślisz, że kiedykolwiek zbudujemy świadome maszyny?

Nie jestem pewien, dlaczego mielibyśmy. Ale nie mam wątpliwości, że zbudujemy inteligentne maszyny, które zdadzą test Turinga na długo, zanim zrozumiemy prawdziwą biologiczną podstawę ludzkiej inteligencji. I myślę, że istnieją niebezpieczeństwa związane z tym, co większość ludzi, będących beztroskimi optymistami, całkowicie ignoruje.

Jakie niebezpieczeństwa?

Nie oglądasz filmów science fiction? Oczywiście niekontrolowana sztuczna inteligencja. Pomyśl o rynku finansowym, tych wszystkich maszynach handlowych, flash crashach. Ludzie będą nadużywać inteligencji komputerowej, ślepo maksymalizować dla jakiegoś celu. Doprowadzi to do coraz większej koncentracji władzy wśród coraz mniejszej liczby ludzi. Już to widzimy, doprowadzi to do masowego bezrobocia. I może 30-40 lat później, myślę, że istnieje naprawdę egzystencjalistyczne zagrożenie dla tego gatunku, na poziomie broni jądrowej lub uderzenia meteorytu.

Wszystko bez świadomości maszyny? W filmach moment, w którym sztuczna inteligencja szaleje, jest tym samym momentem, w którym zyskuje świadomą samoświadomość.

To dlatego, że ludzie chcą stworzyć wciągającą historię. Jeśli wróg nic nie czuje, jeśli nic tam nie ma, nie jest dobrym przeciwnikiem.

ukryć