Szachy są zbyt łatwe

Informatyka ma dwa poglądy na sztuczną inteligencję (AI). Niektórzy informatycy wierzą w tak zwaną silną sztuczną inteligencję, która utrzymuje, że cała ludzka myśl jest całkowicie algorytmiczna, to znaczy, że można ją podzielić na szereg operacji matematycznych. Twierdzą, że logicznie wynika z tego, że inżynierowie AI w końcu zreplikują ludzki umysł i stworzą prawdziwie świadomego siebie robota, pełnego uczuć i emocji. Inni przyjmują słabą sztuczną inteligencję, przekonanie, że ludzką myśl można symulować tylko w urządzeniu obliczeniowym. Jeśli mają rację, przyszłe roboty mogą wykazywać wiele z zachowania urządzenia. Jeśli mają rację, przyszłe roboty mogą wykazywać wiele z zachowań ludzi, ale żaden z tych robotów nigdy nie będzie człowiekiem; ich wewnętrzne życie będzie puste jak skała.

Wcześniejsze prognozy zwolenników silnej i słabej sztucznej inteligencji niewiele zrobiły, aby posunąć debatę do przodu. Na przykład Herbert Simon, profesor psychologii na Carnegie Mellon University, być może pierwszy i najbardziej energiczny zwolennik silnej sztucznej inteligencji, przewidział cztery dekady temu, że maszyny z umysłami będą nieuchronne. Nie jest moim celem zaskakiwanie cię ani szokowanie, powiedział. Ale najprostszym sposobem, w jaki mogę to podsumować, jest stwierdzenie, że są teraz na świecie maszyny, które myślą, uczą się i tworzą. Co więcej, ich zdolność do robienia tych rzeczy gwałtownie wzrośnie, aż – w widocznej przyszłości – zakres problemów, z jakimi mogą sobie poradzić, będzie pokrywał się z zakresem, do którego został zastosowany ludzki umysł.

Po drugiej stronie równania, Hubert Dreyfus, profesor filozofii w Berkeley, założył się z farmą dwie dekady temu, że komputery przetwarzające symbole nigdy nawet nie zbliżą się do ludzkich umiejętności rozwiązywania problemów, nie mówiąc już o życiu wewnętrznym. W swojej książce What Computers Can't Do (HarperCollins 1978) i ponownie w poprawionym wydaniu What Computers Still Can't Do (MIT Press 1992) twierdził, że potężne komputery do gry w szachy pozostaną na zawsze w królestwie fikcją i odważył się, by społeczność AI udowodniła mu, że się myli.

Zwycięstwo zeszłej wiosny przez komputer IBM Deep Blue nad największym na świecie szachistą Garym Kasparowem zniweczyło przepowiednię Dreyfusa. Ale czy to również przemawia za silną, a nie słabą sztuczną inteligencją? Wydaje się, że sam Kasparow tak myśli. Ku uciesze zwolenników silnej sztucznej inteligencji, Kasparow zadeklarował w Time w marcu zeszłego roku, że wyczuł nowy rodzaj inteligencji walczącej przeciwko niemu.

Co więcej, znany filozof Daniel Dennett z Tufts University nie uznałby takiej reakcji za hiperboliczną w świetle triumfu Deep Blue. Dennett, odwieczny obrońca silnej sztucznej inteligencji, wierzy, że świadomość jest w swoim rdzeniu algorytmiczna, a sztuczna inteligencja szybko redukuje świadomość do obliczeń.

Ale w swojej radości Kasparow, Dennett i inni, którzy wierzą, że Deep Blue uwiarygodnia silną sztuczną inteligencję, pomijają jeden ważny fakt: z czysto logicznej perspektywy szachy są niezwykle łatwe. Rzeczywiście, jak od dawna wiadomo, niepokonane szachy mogą teoretycznie być rozgrywane przez bezmyślny system, o ile działają zgodnie z algorytmem, który śledzi konsekwencje każdego możliwego ruchu, aż do znalezienia mata lub pozycji remisowej.

Oczywiście, chociaż ten algorytm jest boleśnie prosty (studenci informatyki rutynowo się go uczą), jest złożony obliczeniowo. W rzeczywistości, jeśli przyjmiemy średnio około 32 opcji na zagranie, daje to tysiąc opcji na każdy pełny ruch (ruch to zagranie jednej strony, po którym następuje zagranie w odpowiedzi). Zatem wybieganie w przyszłość pięciu ruchów daje biliard (1015) możliwości. Patrząc w przyszłość, 40 ruchów, długość typowej gry, wiązałoby się z 10120 możliwościami. Deep Blue, który bada ponad 100 milionów pozycji na sekundę, zajęłoby prawie 10112 sekund, czyli około 10104 lat, aby zbadać każdy ruch. Dla porównania, od początku wszechświata minęło mniej niż 1018 sekund, a wśród znawców szachów komputerowych jest zgoda, że ​​nasze słońce wygaśnie, zanim nawet jutrzejsze superkomputery będą mogły przeprowadzić tak wyczerpujące poszukiwania.

Ale co, jeśli komputer może patrzeć bardzo daleko w przyszłość (zasilany, powiedzmy, algorytmem znanym jako wyszukiwanie alfa-beta minimaksowe, główna strategia Deep Blue), a nie przez całą drogę? A co by było, gdyby potrafił połączyć tę moc obliczeniową ze szczyptą znajomości podstawowych zasad szachów – na przykład zasad bezpieczeństwa króla, które, nawiasem mówiąc, zainstalowano w Deep Blue tuż przed jego meczem z Kasparowem? Odpowiedź, jak dobitnie pokazał Deep Blue, jest taka, że ​​tak uzbrojona maszyna może pokonać nawet najlepszego szachistę.

Kreatywność Ex Machina?

Ale sposób myślenia, który idzie w szachy, skonfrontowany z pełną siłą i zasięgiem ludzkiego umysłu, jest daleki od całej historii. Dziewiętnastowieczny matematyk Ada Byron, znana jako Lady Lovelace, była być może pierwszą, która zasugerowała, że ​​kreatywność jest zasadniczą różnicą między umysłem a maszyną – definiującą esencją, która wykracza poza to, co może osiągnąć nawet najbardziej wyrafinowany algorytm. Lovelace twierdziła, że ​​maszyny obliczeniowe, takie jak ta, którą wymyślił jej współczesny Charles Babbage, nie mogą niczego stworzyć, ponieważ tworzenie wymaga minimalnie stworzenia czegoś. Komputery nie mogą niczego stworzyć; mogą po prostu robić to, co im nakazujemy za pomocą programów.

Sto lat później Alan Turing, dziadek zarówno sztucznej inteligencji, jak i informatyki, odpowiedział na sprzeciw Lady Lovelace, wymyślając słynny teraz test Turinga, który przechodzi komputer, jeśli zdoła oszukać człowieka, by myślał, że jest człowiekiem. Niestety, chociaż szachy są zbyt łatwe, test Turinga jest nadal zbyt trudny dla dzisiejszych komputerów. Na przykład oszustwo – do którego z pewnością powinien być zdolny potężny gracz komputerowy w teście Turinga – jest niezwykle złożoną koncepcją. Nakłanianie osoby do błędnego zaakceptowania fałszywego poglądu wymaga, aby komputer rozumiał nie tylko, że idea jest fałszywa, ale także niezliczone subtelne powiązania, które istnieją między tą ideą a jej przekonaniami, postawami i niezliczonymi innymi pomysłami.

Chociaż test Turinga jest obecnie poza zasięgiem najmądrzejszych naszych maszyn, może istnieć prostszy sposób decydowania między silną a słabą formą sztucznej inteligencji, który podkreśla kreatywność, co może być prawdziwym problemem w Słabe starcie. Proponowany przeze mnie test jest prosty: czy maszyna może opowiedzieć historię?

Chociaż zaleta tego testu może nie wydawać się oczywista na pierwszy rzut oka, istnieją pewne interesujące powody, by sądzić, że jest to dobry wskaźnik nastawienia. Na przykład, dominujący test kreatywności stosowany w psychologii – Testy Torance of Creative Thinking – żądają od przedmiotów tworzenia narracji.

Ani obecność narracji w tych testach nie jest arbitralna; wielu kognitywistów przekonuje, że narracja znajduje się w samym sercu ludzkiego poznania. Roger Schank, znany kognitywista z Northwestern University, odważnie twierdzi, że praktycznie cała ludzka wiedza opiera się na historiach. Jego fundamentalne twierdzenie jest takie, że kiedy pamiętasz przeszłość, pamiętasz ją jako zbiór opowieści, a kiedy przekazujesz informacje, przekazujesz je również w formie opowieści.

Ale być może najważniejsze dla tej dyskusji, gra fabularna uderzyłaby w samo sedno rozróżnienia między silną i słabą sztuczną inteligencją. Ludzie nie potrafią tworzyć literatury bez przyjmowania punktów widzenia postaci, to znaczy bez poczucia, jak to jest być tymi postaciami; stąd autorzy ludzcy tworzą historie, wykorzystując fakt, że są świadomi w pełnym tego słowa znaczeniu, czyli są świadomi jednocześnie siebie, innej osoby oraz relacji (lub jej braku) między tymi dwiema osobami.

Głęboka historia

Wygląda na to, że gra fabularna byłaby zatem lepszym sprawdzianem tego, czy komputery potrafią myśleć, niż gry w szachy i warcaby, które obecnie dominują na konferencjach AI. Ale jak wyglądałaby gra fabularna? W grze fabularnej dalibyśmy zarówno komputerowi, jak i mistrzowi ludzkiemu gawędziarzowi stosunkowo proste zdanie, powiedzmy: Gregor obudził się i stwierdził, że jego brzuch jest twardy jak skorupa i że tam, gdzie była jego prawa ręka, teraz porusza się macka. Obaj gracze muszą następnie stworzyć historię zaprojektowaną tak, aby była naprawdę interesująca, im bardziej literacki charakter – pod względem bogatej charakterystyki, braku przewidywalności i interesującego języka – tym lepiej. Moglibyśmy wtedy mieć człowieka oceniającego historie, tak jak w teście Turinga, kiedy taki sędzia nie może powiedzieć, która odpowiedź pochodzi od mechanicznej muzy, a która od człowieka, powiedzielibyśmy, że maszyna wygrała grę.

Jak przyszłe maszyny poradzą sobie w takiej grze? Myślę, że długość historii jest kluczową zmienną. Gra fabularna, w której umysł przeciw maszynie, w której długość i złożoność narracji jest otwarta, z pewnością przypieczętowałaby porażkę maszyny na nadchodzące stulecia. Chociaż zwolennicy silnej sztucznej inteligencji utrzymują, że maszyna może ostatecznie zwyciężyć w konkursie, czy umysł lub maszyna mogą stworzyć lepszą powieść, nawet zgodziliby się, że próba zbudowania takiej maszyny dzisiaj jest nie do pomyślenia. Zadanie byłoby tak trudne, że nikt nawet nie wiedziałby, od czego zacząć.

Krótko mówiąc, chociaż test Turinga jest, jak zauważono, zbyt trudny, aby obecnie zapewnić formę rywalizacji umysł-maszyna, wiele osób myśli, że mogą sobie wyobrazić niedaleką przyszłość, kiedy maszyna wytrzyma w tym teście. Jednak jeśli chodzi o nieograniczoną grę fabularną, takiej przyszłości po prostu nie można sobie wyobrazić. Możemy oczywiście wyobrazić sobie przyszłość, w której komputer wydrukuje powieść, ale nie możemy sobie wyobrazić algorytmów, które działałyby za kulisami.

Tak więc, aby dać zwolennikom Strong AI szansę na walkę, ograniczyłbym konkurencję do najkrótszych opowiadań, powiedzmy, o długości poniżej 500 słów. Ta wersja gry powinna być kuszącym wyzwaniem dla inżynierów Strong AI. I, podobnie jak pełna wersja, wymaga kreatywności od tych – umysłu lub maszyny – którzy chcieliby w nią zagrać.

Jak w takim razie przyszłe maszyny mogą stawiać czoła ludzkim twórcom, gdy każdemu z nich da się to jedno zdanie jako punkt wyjścia do krótkiej opowieści?

Mogę nie mieć złej pozycji do przewidywania. Z pomocą Fundacji Luce, Apple Computer, IBM, Rensselaer Polytechnic Institute (RPI) i National Science Foundation, spędziłem ostatnie siedem lat (i około trzech czwartych miliona dolarów) pracując z wieloma badaczami- przede wszystkim Marie Meteer, naukowiec z Bolt, Beranek i Newman; David Porush, profesor RPI; oraz David Ferrucci, starszy naukowiec w IBM T.J. Centrum Badawcze Watson — zbudować budzącego grozę sztucznego autora opowiadań.

Częścią tego, co napędza mnie i innych badaczy w dążeniu do stworzenia takich syntetycznych Proustów, Joyce'ów i Kafków, jest przekonanie, że prawdziwie inteligentne, autonomiczne systemy rozrywkowe przyszłości będą wymagały, między innymi, systemów AI, które wiedzą, jak tworzyć i bezpośrednie historie. W wirtualnych światach przyszłości, wypełnionych sztucznymi postaciami, sprawy będą się toczyć zbyt szybko w czasie rzeczywistym, aby człowiek mógł kierować tym procesem. Branża gier trzyma się obecnie cienkiej granicy między sztywnym nakazem gry a dopuszczeniem, aby coś się działo, gdy ludzie dokonują wyborów. Tym, co jest desperacko potrzebne, jest sztuczna inteligencja, która jest w stanie połączyć wydarzenia w ciągły wątek narracyjny, jednocześnie umożliwiając ludzkim graczom grę w pozornie nieskończonej przestrzeni trajektorii fabuły.

Najnowszym rezultatem mojej pracy w tym zakresie (we współpracy z Ferruccim i Adamem Lally, inżynierem oprogramowania z Legal Knowledge Systems of Troy, NY) jest sztuczny agent o nazwie Brutus.1, nazwany tak ze względu na koncepcję literacką, w której się specjalizuje. zdrada. Niestety Brutus.1 nie jest w stanie zagrać w tę krótką historię. Posiada wiedzę na temat ontologii profesorów akademickich, rozpraw doktorskich, studentów, zajęć i tak dalej; ale byłby sparaliżowany pytaniem spoza jego bazy wiedzy. Na przykład nie wie nic o anatomii owadów. Dlatego zdanie z udziałem Gregora pozostawiłoby puste miejsce.

Mimo to Brutus.1 potrafi pisać krótkie opowiadania – jeśli opowiadania te opierają się na pojęciu zdrady (a także samooszukiwania się, zła i do pewnego stopnia podglądactwa), które nie są obiecującymi wymysłami literackimi (patrz ramka, Zdrada, przez Brutusa.1 oraz Ryszarda III, Makbeta, Otella.)

Takie niemal beletrystyczne wyczyny są możliwe dla Brutusa.1 tylko dlatego, że Ferrucci i ja byliśmy w stanie wymyślić formalną matematyczną definicję zdrady i wyposażyć Brutusa1 w tę koncepcję (patrz: Matematyzacja zdrady). Aby jednak Brutus.1 mógł dobrze grać w krótką grę fabularną, z pewnością musiałby zrozumieć nie tylko zdradę, ale także inne wielkie motywy literackie, takie jak nieodwzajemniona miłość, zemsta, zazdrość, ojcobójstwo i tak dalej.

Na zawsze nieświadomy

Mam jeszcze trzy lata do realizacji mojego dziesięcioletniego projektu budowy potężnego krzemowego Hemingwaya. Jednak w tym momencie, mimo że Brutus.1 robi wrażenie i chociaż naszą intencją jest stworzenie potomków Brutusa.1, którzy potrafią zrozumieć pełen zestaw pojęć literackich i nie tylko, wydaje się całkiem jasne, że komputery nigdy nie będą najlepszymi gawędziarzami. nawet konkurs na opowiadanie.

Z naszej pracy jasno wynika, że ​​aby opowiedzieć naprawdę fascynującą historię, maszyna musiałaby zrozumieć wewnętrzne życie swoich bohaterów. Aby to zrobić, musiałby nie tylko myśleć mechanicznie w sensie szybkiej kalkulacji (mocna strona superkomputerów takich jak Deep Blue), ale także musiałby myśleć eksperymentalnie w sensie posiadania subiektywnej lub fenomenalnej świadomości. Na przykład, jako dziecko można pomyśleć doświadczalnie o wycieczce do Europy, przypomnieć sobie, jak to było być w Paryżu w słoneczny dzień ze starszym bratem, rozbić przejażdżkę torem wodnym, poczuć dotyk kochanka, jeździć na nartach krawędzi lub potrzebujesz dobrze przespanej nocy. Twierdzę jednak, że każdy taki przykład będzie wymagał możliwości, jakich nie będzie miała żadna maszyna.

Znani gawędziarze rozumieją tę koncepcję. Na przykład dramaturg Henrik Ibsen powiedział: „Muszę mieć na myśli postać na wskroś, muszę wniknąć w ostatnią zmarszczkę jego duszy. Taki modus operandi jest na zawsze zamknięty dla maszyny.

Zwolennicy Strong AI, jeśli dążą do zbudowania maszyny, która jest w stanie zwyciężyć w krótkiej grze fabularnej, muszą zatem dążyć do zbudowania dokładnie tego, co odróżnia Strong AI od Słabe AI: maszyny świadomej. Jednak dążąc do takiej maszyny, badacze Strong AI czekają na kulminację, która zawsze nadejdzie, nigdy nie będzie obecna.

Wierzący w słabą sztuczną inteligencję, tak jak ja, będą starali się tworzyć systemy, które, pozbawione zdolności Ibsena do patrzenia oczami innych, będą tworzyć bogato rysowane postacie. Ale chociaż spodziewam się, że zrobię postęp, spodziewam się, że w przeciwieństwie do gry w szachy, pierwszorzędne opowiadanie, nawet w skromnych krótkich opowiadaniach, zawsze będzie wyłączną domeną ludzkich mistrzów.

Mimo to będę kontynuował ostatnie trzy lata mojego projektu, głównie dlatego, że spodziewam się dużo zabawy, a także bym mógł powiedzieć z pewnym autorytetem, że maszyny nie mogą być kreatywne i świadome (zważywszy, jak Używam najnowocześniejszych technik) i do produkcji działających systemów, które będą miały znaczną wartość naukową i ekonomiczną.

Kasparow bez wątpienia wkrótce wróci na kolejną rundę szachów z Deep Blue lub jego potomkami i może wygrać. Podejrzewam, że minie jeszcze 10 lat, zanim szachiści maszynowi pokonają wielkich mistrzów w turnieju po turnieju. Wkrótce jednak Kasparow i ci, którzy zajmą jego tron, niezmiennie przegrają.
Ale tak nie jest, gdy weźmiemy pod uwagę szanse tych, którzy staraliby się upokorzyć nie tylko wielkich szachistów, ale i wielkich autorów. Nie wierzę, że John Updike lub jego następcy kiedykolwiek znajdą się w środku gry fabularnej, pocąc się pod światłami tak jasnymi i gorącymi, jak te, które oświetlały Gary'ego Kasparowa.

ukryć