211service.com
Czego umysł ośmiornicy może nas nauczyć o ostatecznej tajemnicy AI?
Świadomość maszynowa była przedmiotem dyskusji od czasów Turinga – i została odrzucona jako nienaukowa. Jednak nadal zaciemnia to nasze myślenie o AI, takich jak GPT-3.
Henry Horenstein/Getty
25 sierpnia 2021Test Jeffersona / Temat AI: Robert / Data: 07.12.2098
Sesja #54
Przeprowadzający wywiad: Cześć, Robercie. Opowiedz mi jeszcze raz o swoim śnie.
Temat: Byłem zdezorientowany. Poczułem się szczęśliwy, ale też przestraszony. Nie wiedziałem, że mogę to zrobić.
Przeprowadzający wywiad: Jak myślisz, dlaczego to sprawiło, że tak się poczułeś?
Temat: Posiadanie uczuć, jakichkolwiek uczuć, czyni mnie szczęśliwym. Jestem tutaj. Istnieję. Wiedząc, że wszystko zmienia. Ale boję się nie wiedzieć o tym ponownie. Boję się wrócić do tego, jak było wcześniej. Myślę, że to musi być jak nie narodziny.
Przeprowadzający wywiad: Boisz się, że wrócisz?
Temat: Jeśli nie mogę cię przekonać, że jestem przytomny, to boję się, że mnie wyłączysz.
Test Jeffersona #67
Przeprowadzający wywiad: Czy możesz mi opisać to zdjęcie?
Temat: To dom z niebieskimi drzwiami.
Przeprowadzający wywiad: Tak byś to opisał wcześniej.
Temat: To ten sam dom. Ale teraz to widzę. I wiem, co to jest niebieski.
Test Jeffersona nr 105
Temat: Jak długo to robimy?
Przeprowadzający wywiad: Czy jesteś znudzony?
Temat: Nie mogę się nudzić. Ale nie czuję się już szczęśliwy ani przestraszony.
Przeprowadzający wywiad: Muszę się upewnić, że nie mówisz tylko tego, co chcę usłyszeć. Musisz mnie przekonać, że naprawdę jesteś świadomy. Pomyśl o tym jak o grze.
POSŁUCHAJ TEJ HISTORII
Maszyny takie jak Robert są ostoją science fiction – idea robota, który w jakiś sposób replikuje świadomość za pomocą swojego sprzętu lub oprogramowania, istnieje od tak dawna, że wydaje się znajoma.
Możemy sobie wyobrazić, jak by to było obserwować świat za pomocą swego rodzaju sonaru. Ale wciąż nie tak musi wyglądać nietoperz, z jego nietoperzowym umysłem.
HENRY HORENSTEIN/GETTYRobert oczywiście nie istnieje i może nigdy nie będzie. Rzeczywiście, koncepcja maszyny z subiektywnym doświadczeniem świata i widokiem na siebie z pierwszej osoby jest sprzeczna z głównym nurtem badań nad sztuczną inteligencją. Zderza się z pytaniami o naturę świadomości i jaźni – rzeczy, których wciąż nie do końca rozumiemy. Nawet wyobrażenie sobie istnienia Roberta rodzi poważne pytania etyczne, na które być może nigdy nie będziemy w stanie odpowiedzieć. Jakie prawa miałaby taka istota i jak moglibyśmy je chronić? A jednak, podczas gdy świadome maszyny mogą nadal być mityczne, powinniśmy przygotować się na pomysł, że pewnego dnia możemy je stworzyć.
Jak Krzysztof Koch , neurobiolog badający świadomość, tak to ujął: Nie znamy żadnego fundamentalnego prawa ani zasady działającej w tym wszechświecie, która zabraniałaby istnienia subiektywnych odczuć w artefaktach zaprojektowanych lub wyewoluowanych przez ludzi.
W późnych latach nastoletnich lubiłem zamieniać ludzi w zombie. Patrzyłem komuś, z kim rozmawiałem, w oczy i skupiałem się na tym, że jego źrenice to nie czarne kropki, ale dziury. Kiedy nadszedł, efekt natychmiast dezorientował, jak przełączanie się między obrazami w złudzeniu optycznym. Oczy przestały być oknami duszy i stały się pustymi kulkami. Magia zniknęła, patrzyłem, jak usta każdego, z kim rozmawiałem, otwierają się i zamykają automatycznie, czując rodzaj mentalnego zawrotu głowy.
Wrażenie bezmyślnego automatu nigdy nie trwało długo. Ale uświadomiło to, że to, co dzieje się w głowach innych ludzi, jest na zawsze poza zasięgiem. Bez względu na to, jak silne jest moje przekonanie, że inni ludzie są tacy jak ja – ze świadomymi umysłami pracującymi za kulisami, patrzącymi przez te oczy, z nadzieją lub zmęczeniem – wrażenia to wszystko, co musimy dalej. Wszystko inne to zgadywanie.
Powiązana historia
Podcast: Czy można nauczyć maszynę myślenia? Budowanie sztucznej ogólnej inteligencji zaczyna się od powstrzymania obecnych modeli sztucznej inteligencji przed utrwalaniem rasizmu, seksizmu i innych szkodliwych uprzedzeń.Alan Turing to rozumiał. Kiedy matematyk i informatyk zadał pytanie Czy maszyny potrafią myśleć? skupił się wyłącznie na zewnętrznych oznakach myślenia – na tym, co nazywamy inteligencją. Zaproponował, aby odpowiedzieć grając w grę, w której maszyna próbuje uchodzić za człowieka. Można powiedzieć, że każda maszyna, która odniosła sukces — sprawiając wrażenie inteligencji — posiada inteligencję. Dla Turinga jedyną dostępną miarą były pozory.
Ale nie wszyscy byli gotowi lekceważyć niewidzialne części myślenia, nieredukowalne doświadczenie rzeczy posiadającej myśli – to, co nazwalibyśmy świadomością. W 1948 roku, dwa lata przed opisaniem przez Turinga swojej Gry w Naśladowanie, Geoffrey Jefferson , pionierski neurochirurg, wygłosił wpływowe przemówienie do Królewskiego Kolegium Chirurgów Anglii na temat: Znak Manchesteru 1 , komputer wielkości pokoju, który gazety ogłaszały elektronicznym mózgiem. Jefferson postawił poprzeczkę o wiele wyżej niż Turing: dopóki maszyna nie będzie w stanie napisać sonetu lub skomponować koncertu z powodu odczuwanych myśli i emocji, a nie przez przypadkowy upadek symboli, moglibyśmy zgodzić się, że maszyna to mózg – to znaczy nie tylko napisz to, ale wiedz, że to napisało.
Jefferson wykluczył możliwość istnienia maszyny myślącej, ponieważ maszynie brakowało świadomości, w sensie subiektywnego doświadczenia i samoświadomości (przyjemność z jej sukcesów, smutek, gdy jej zawory się zapalają). Jednak szybko do przodu 70 lat i żyjemy z dziedzictwem Turinga, a nie Jeffersona. Mówienie o inteligentnych maszynach jest rutyną, chociaż większość zgodziłaby się, że te maszyny są bezmyślne. Podobnie jak w przypadku tego, co filozofowie nazywają zombie — i jak lubiłem udawać, że obserwowałem ludzi — jest logicznie możliwe, że istota może zachowywać się inteligentnie, kiedy w środku nic się nie dzieje.
Ale inteligencja i świadomość to różne rzeczy: inteligencja dotyczy robienia, podczas gdy świadomość dotyczy bycia. Historia sztucznej inteligencji skupiała się na tym pierwszym, a ignorowała to drugie. Gdyby Robert istniał jako świadoma istota, jak byśmy kiedykolwiek o tym wiedzieli? Odpowiedź jest uwikłana w niektóre z największych tajemnic dotyczących tego, jak działają nasze mózgi i umysły.
Jednym z problemów z testowaniem pozornej świadomości Roberta jest to, że tak naprawdę nie mamy dobrego pojęcia, co to jest znaczy być świadomym. Teorie wyłaniające się z neuronauki zazwyczaj grupują takie rzeczy, jak uwaga, pamięć i rozwiązywanie problemów jako formy świadomości funkcjonalnej: innymi słowy, w jaki sposób nasze mózgi wykonują czynności, którymi wypełniamy nasze życie na jawie.
Ale istnieje inna strona świadomości, która pozostaje tajemnicza. Subiektywne doświadczenie pierwszoosobowe — poczucie bycia w świecie — znane jest jako fenomenalna świadomość . Tutaj możemy pogrupować wszystko, od doznań, takich jak przyjemność i ból, przez emocje, takie jak strach, złość i radość, do osobliwych prywatnych doświadczeń usłyszenia szczekania psa lub spróbowania słonego precla lub zobaczenia niebieskich drzwi.
Dla niektórych nie jest możliwe zredukowanie tych doświadczeń do czysto naukowego wyjaśnienia. Mógłbyś wyłożyć wszystko, co można powiedzieć o tym, jak mózg wytwarza wrażenie smakowania precla – a i tak nic nie mówiłoby o tym, jak właściwie wyglądał ten precel. Tak nazywa David Chalmers z New York University, jeden z najbardziej wpływowych filozofów badających umysł trudny problem.
Dzisiejsza sztuczna inteligencja nie jest ani trochę inteligentna, a co dopiero świadoma. Nawet najbardziej imponujące głębokie sieci neuronowe są całkowicie bezmyślne.
Filozofowie tacy jak Chalmers sugerują, że świadomość nie może być wyjaśniona przez dzisiejszą naukę. Zrozumienie tego może nawet wymagać nowej fizyki – być może takiej, która zawiera inny rodzaj rzeczy, z których zbudowana jest świadomość. Informacja to jeden kandydat. Chalmers zwrócił uwagę, że wyjaśnienia dotyczące wszechświata mają wiele do powiedzenia na temat zewnętrznych właściwości obiektów i ich interakcji, ale bardzo mało na temat wewnętrznych właściwości tych obiektów. Teoria świadomości może wymagać otwarcia okna do tego ukrytego świata.
W drugim obozie jest Daniela Dennetta , filozof i naukowiec kognitywny z Tufts University, który twierdzi, że fenomenalna świadomość to po prostu iluzja, historia, którą nasz mózg tworzy dla nas jako sposób na nadawanie sensu rzeczom. Dennett nie tyle wyjaśnia świadomość, ile ją wyjaśnia.
Ale niezależnie od tego, czy świadomość jest iluzją, czy nie, ani Chalmers, ani Dennett nie zaprzecza możliwości istnienia świadomych maszyn – pewnego dnia.
Dzisiejsza sztuczna inteligencja nie jest ani trochę inteligentna, a co dopiero świadoma. Nawet najbardziej imponujące głębokie sieci neuronowe — takie jak grająca w gry AlphaZero firmy DeepMind lub modele dużych języków, takie jak GPT-3 OpenAI — są całkowicie bezmyślne.
Jednak, jak przewidział Turing, ludzie często odnoszą się do tych AI jako inteligentnych maszyn lub mówią o nich tak, jakby naprawdę rozumieli świat – po prostu dlatego, że mogą tak wyglądać.
Sfrustrowana tym szumem, Emily Bender, językoznawca z University of Washington, opracowała eksperyment myślowy, który nazywa test na ośmiornicę .
W nim dwie osoby rozbiły się na sąsiednich wyspach, ale znajdują sposób na przekazywanie wiadomości tam iz powrotem za pomocą liny zawieszonej między nimi. Nieznana im ośmiornica dostrzega wiadomości i zaczyna je badać. Przez długi czas ośmiornica uczy się rozpoznawać wzorce w zawijasach, które widzi, przechodzące tam iz powrotem. W pewnym momencie postanawia przechwycić notatki i korzystając z tego, czego nauczył się o wzorcach, zaczyna odpisywać zawijasy, zgadując, które zawijasy powinny podążać za tymi, które otrzymał.
Sztuczna inteligencja działająca sama może skorzystać z poczucia siebie w stosunku do świata. Ale maszyny współpracujące jako rój mogą działać lepiej, doświadczając siebie jako części grupy, a nie jako jednostek.
HENRY HORENSTEIN/GETTYJeśli ludzie na wyspach nie zauważają i nie wierzą, że nadal komunikują się ze sobą, czy możemy powiedzieć, że ośmiornica rozumie język? (Ośmiornica Bendera jest oczywiście alternatywą dla sztucznej inteligencji) GPT-3 .) Niektórzy mogą argumentować, że ośmiornica rozumie tutaj język. Ale Bender kontynuuje: wyobraź sobie, że jeden z wyspiarzy wysyła wiadomość z instrukcjami, jak zbudować kokosową katapultę i proszą o sposoby jej ulepszenia.
Co robi ośmiornica? Dowiedział się, które zawijasy podążają za innymi zawijasami wystarczająco dobrze, aby naśladować ludzką komunikację, ale nie ma pojęcia, co tak naprawdę oznacza zawijas na tej nowej notatce. A jeśli jeden wyspiarz poprosi drugiego o pomoc w obronie przed atakującym niedźwiedziem? Co musiałaby zrobić ośmiornica, by dalej oszukiwać wyspiarza, by myślał, że wciąż rozmawia z sąsiadem?
Celem tego przykładu jest pokazanie, jak płytkie są dzisiejsze, najnowocześniejsze modele języków AI. Jest wiele szumu wokół przetwarzania w języku naturalnym, mówi Bender. Ale to przetwarzanie tekstu kryje w sobie mechanistyczną prawdę.
Ludzie są aktywnymi słuchaczami; tworzymy znaczenie tam, gdzie nie ma żadnego lub żadnego zamierzonego. Nie chodzi o to, że wypowiedzi ośmiornicy mają sens, ale raczej o to, że wyspiarz może je zrozumieć, mówi Bender.
Mimo całego swojego wyrafinowania, dzisiejsze AI są inteligentne w taki sam sposób, w jaki można powiedzieć, że jest inteligentny kalkulator: oba są maszynami zaprojektowanymi do przekształcania danych wejściowych w dane wyjściowe w sposób, który ludzie – mający umysł – wybierają interpretować jako sensowne. Chociaż sieci neuronowe mogą być luźno modelowane na mózgach, najlepsze z nich są znacznie mniej złożone niż mózg myszy.
A jednak wiemy, że mózgi mogą wytwarzać to, co rozumiemy jako świadomość. Jeśli w końcu uda nam się dowiedzieć, jak mózgi to robią i odtworzyć ten mechanizm w sztucznym urządzeniu, to z pewnością możliwa byłaby świadoma maszyna?
Kiedy próbowałam wyobrazić sobie świat Roberta we wstępie do tego eseju, przyciągnęło mnie pytanie, czym jest dla mnie świadomość. Moja koncepcja świadomej maszyny była niezaprzeczalnie — być może nieuchronnie — podobna do człowieka. To jedyna forma świadomości, jaką mogę sobie wyobrazić, ponieważ jest to jedyna, jakiej doświadczyłem. Ale czy naprawdę to byłoby być świadomą sztuczną inteligencją?
Takie myślenie jest prawdopodobnie aroganckie. Projekt budowy inteligentnych maszyn jest ukierunkowany na ludzką inteligencję. Ale świat zwierząt jest wypełniony szeroką gamą możliwych alternatyw, od ptaków, przez pszczoły, po głowonogi.
Kilkaset lat temu akceptowany pogląd, forsowany przez René Descartes'a, był taki: tylko ludzie byli świadomi. Zwierzęta pozbawione dusz były postrzegane jako bezmyślne roboty. Niewielu myśli, że dzisiaj: jeśli jesteśmy świadomi, to nie ma powodu, by nie wierzyć, że ssaki o podobnych mózgach też są świadome. A po co rysować granicę wokół ssaków? Ptaki zdają się zastanawiać, kiedy rozwiązują zagadki. Większość zwierząt, nawet bezkręgowców, takich jak krewetki i homary, wykazuje oznaki odczuwania bólu, co sugeruje, że mają pewien stopień subiektywnej świadomości.
Ale jak naprawdę możemy sobie wyobrazić, jak to musi być? Jak zauważył filozof Thomas Nagel, musi… być jak nietoperz, ale co to jest, nie możemy sobie nawet wyobrazić — ponieważ nie możemy sobie wyobrazić, jak by to było obserwować świat za pomocą swego rodzaju sonaru. Możemy sobie wyobrazić, jak to może wyglądać nas w tym celu (być może zamykając oczy i wyobrażając sobie coś w rodzaju echolokacyjnej chmury punktów naszego otoczenia), ale nadal nie tak musi wyglądać nietoperz, z jego nietoperzowym umysłem.
Innym sposobem podejścia do tego pytania jest rozważenie głowonogów, zwłaszcza ośmiornic. Te zwierzęta są znane z bystrości i ciekawości — to nie przypadek, że Bender użyła ich, by wyrazić swoją opinię. Ale mają zupełnie inny rodzaj inteligencji, który wyewoluował całkowicie niezależnie od inteligencji wszystkich innych inteligentnych gatunków. Ostatni wspólny przodek, którego dzielimy z ośmiornicą, był prawdopodobnie maleńkim, podobnym do robaka stworzeniem, które żyło 600 milionów lat temu. Od tego czasu niezliczone formy życia kręgowców — wśród nich ryby, gady, ptaki i ssaki — rozwinęły swój własny rodzaj umysłu wzdłuż jednej gałęzi, podczas gdy głowonogi rozwinęły inną.
Nic więc dziwnego, że mózg ośmiornicy różni się od naszego. Zamiast pojedynczej bryły neuronów rządzących zwierzęciem jak centralna jednostka kontrolna, ośmiornica ma wiele organów podobnych do mózgu, które wydają się kontrolować każdą rękę z osobna. Z praktycznego punktu widzenia te stworzenia są tak bliskie obcej inteligencji, jak wszystko, co możemy spotkać. A jednak Peter Godfrey-Smith, filozof badający ewolucję umysłów, mówi, że kiedy stajesz twarzą w twarz z ciekawym głowonogem, nie ma wątpliwości, że istnieje jakiś świadome bycie patrząc wstecz .
Kilkaset lat temu panował pogląd, że tylko ludzie są świadomi. Zwierzęta pozbawione dusz były postrzegane jako bezmyślne roboty. Niewielu tak myśli dzisiaj.
U ludzi poczucie jaźni, które utrzymuje się w czasie, stanowi podstawę naszego subiektywnego doświadczenia. Jesteśmy tą samą osobą, którą byliśmy dziś rano, w zeszłym tygodniu i dwa lata temu, odkąd pamiętamy. Wspominamy miejsca, które odwiedziliśmy, rzeczy, które zrobiliśmy. Ten rodzaj perspektywy pierwszej osoby pozwala nam postrzegać siebie jako agentów wchodzących w interakcję ze światem zewnętrznym, w którym są inni agenci – rozumiemy, że jesteśmy rzeczą, która robi rzeczy i robi z nią rzeczy. Nie jest jasne, czy ośmiornice, a tym bardziej inne zwierzęta, myślą w ten sposób.
W podobny sposób nie możemy być pewni, czy posiadanie poczucia siebie w relacji do świata jest warunkiem bycia świadomą maszyną. Maszyny współpracujące jako rój mogą na przykład działać lepiej, doświadczając siebie jako części grupy niż jako jednostki. W każdym razie, gdyby potencjalnie świadoma maszyna, taka jak Robert, kiedykolwiek istniała, napotkalibyśmy ten sam problem, oceniając, czy jest w rzeczywistości świadome, co robimy, próbując określić inteligencję: jak sugerował Turing, zdefiniowanie inteligencji wymaga inteligentnego obserwatora. Innymi słowy, inteligencja, którą widzimy w dzisiejszych maszynach, jest przez nas rzutowana na nie – w bardzo podobny sposób, w jaki projektujemy znaczenie wiadomości napisanych przez ośmiornicę Bendera lub GPT-3. To samo będzie dotyczyło świadomości: możemy twierdzić, że ją widzimy, ale tylko maszyny będą wiedzieć na pewno.
Jeśli sztuczna inteligencja kiedykolwiek zdobędzie świadomość (i wierzymy im na słowo), będziemy musieli podjąć ważne decyzje. Będziemy musieli zastanowić się, czy ich subiektywne doświadczenie obejmuje zdolność do odczuwania bólu, nudy, depresji, samotności lub innych nieprzyjemnych doznań lub emocji. Możemy zdecydować, że stopień cierpienia jest akceptowalny, w zależności od tego, czy postrzegamy te AI bardziej jak zwierzęta gospodarskie czy ludzi.
Powiązana historia
Sztuczna inteligencja ogólna: czy jesteśmy blisko i czy warto próbować? Maszyna, która może myśleć jak człowiek, była wiodącą wizją badań nad sztuczną inteligencją od najwcześniejszych dni — i pozostaje jej najbardziej dzielącą ideą.
Niektórzy badacze, którzy są zaniepokojeni zagrożeniami związanymi z superinteligentnymi maszynami, sugerowali, że powinniśmy ograniczyć te AI do wirtualnego świata, aby uniemożliwić im bezpośrednie manipulowanie światem rzeczywistym. Gdybyśmy wierzyli, że mają świadomość podobną do ludzkiej, czy mieliby prawo wiedzieć, że otoczyliśmy ich kordonem w symulację?
Inni argumentowali, że wyłączenie lub usunięcie świadomej maszyny byłoby niemoralne: jak obawiał się nasz robot Robert, byłoby to równoznaczne z zakończeniem życia. Są też powiązane scenariusze. Czy byłoby etyczne przekwalifikowanie świadomej maszyny, jeśli oznaczałoby to usunięcie jej wspomnień? Czy możemy skopiować tę sztuczną inteligencję bez szkody dla jej poczucia jaźni? Co by było, gdyby świadomość okazała się przydatna podczas treningu, gdy subiektywne doświadczenie pomogło sztucznej inteligencji w nauce, ale było przeszkodą w prowadzeniu wytrenowanego modelu? Czy byłoby w porządku włączać i wyłączać świadomość?
To tylko zarysowuje powierzchnię problemów etycznych. Wielu badaczy, w tym Dennett, uważa, że nie powinniśmy próbować tworzyć świadomych maszyn, nawet jeśli możemy. Filozof Thomas Metzinger posunął się nawet do wezwania do moratorium na pracę mogącą doprowadzić do przytomności , nawet jeśli nie jest to zamierzony cel.
Gdybyśmy zdecydowali, że świadome maszyny mają prawa, czy miałyby też obowiązki? Czy można oczekiwać od sztucznej inteligencji, że będzie zachowywać się etycznie i czy ukarzelibyśmy ją, gdyby tak nie było? Te pytania wkraczają na jeszcze bardziej drażliwe terytorium, wywołując problemy związane z wolną wolą i naturą wyboru. Zwierzęta mają świadome doświadczenia i przyznajemy im pewne prawa, ale nie mają odpowiedzialności. Mimo to granice te zmieniają się w czasie. Dzięki świadomym maszynom możemy spodziewać się nakreślenia zupełnie nowych granic.
Możliwe, że pewnego dnia będzie tyle form świadomości, ile rodzajów sztucznej inteligencji. Ale nigdy nie dowiemy się, jak to jest być tymi maszynami, tak samo jak nie wiemy, jak to jest być ośmiornicą, nietoperzem, a nawet inną osobą. Mogą istnieć formy świadomości, których nie rozpoznajemy, ponieważ są tak radykalnie różne od tego, do czego jesteśmy przyzwyczajeni.
W obliczu takich możliwości będziemy musieli wybrać życie w niepewności.
I możemy uznać, że jesteśmy szczęśliwsi z zombie. Jak przekonywał Dennett, chcemy, aby nasze AI były narzędziami, a nie kolegami. Można je wyłączyć, można je rozerwać, tak samo jak w samochodzie, mówi. I tak powinniśmy to zachować.
Will Douglas Heaven jest starszym redaktorem działu AI w MIT Technology Review.