Marvin Minsky o zdrowym rozsądku i komputerach z emotikonami

Czołowi informatycy z całego świata spotykają się dziś w Dartmouth College w Hanover w stanie NH, aby uczcić 50. rocznicę sztucznej inteligencji. W 1956 r. John McCarthy, ówczesny członek wydziału matematyki w Dartmouth, wymyślił termin na przełomowe spotkanie w tej dziedzinie, Dartmouth Summer Research Project on Artificial Intelligence. McCarthy i czterej inni uczestnicy projektu z 1956 r., w tym Marvin Minsky z MIT, biorą udział w spotkaniu w tym tygodniu, które skupia się na sztucznej inteligencji następne 50 lat .

Marvin Minsky, emerytowany profesor sztuk i nauk o mediach na MIT, był jednym z pierwszych uczestników letniego projektu badawczego Dartmouth Summer Research Project on Artificial Intelligence w 1956 roku. Dziś współtworzy konferencję upamiętniającą 50. rocznicę w Dartmouth. (Dzięki uprzejmości Coveney/MIT.)

Matematyczne i filozoficzne odkrycia Alana Turinga, Johna von Neumanna, Herberta Simona, Allena Newella i innych gigantów informatyki sprawiły, że lata 50. XX wieku stały się czasem wielkiego optymizmu w kwestii inteligencji maszyn. Naukowcy wierzyli, że wkrótce będą w stanie zaprogramować komputery do symulacji wielu form ludzkiego rozumowania. Systemy eksperckie zawierałyby wiedzę i manipulowałyby nią w formie logiki symbolicznej. Sztuczne sieci neuronowe zostałyby wytrenowane, aby ewoluowały w kierunku poprawnych odpowiedzi.

Ten optymizm przeniósł się nawet na kulturę popularną, gdzie HAL, inteligentny (i głęboko zaburzony) komputer w filmie Stanleya Kubricka z 1968 roku 2001: Odyseja kosmiczna , przyćmił ludzkich aktorów.

Ale pod koniec lat sześćdziesiątych stało się jasne, że przybliżenie nawet dziecięcego ludzkiego rozumowania w komputerze wymagałoby bardzo złożonych sieci równań logicznych lub połączeń neuronowych. Więc badacze cofnęli się. Zaczęli rozwiązywać problemy, skupiając się na replikowaniu prostych ludzkich wyczynów, takich jak przesuwanie dziecięcych klocków (temat słynnego obecnie programu komputerowego Terry'ego Winograda ze Stanforda, SHRDLU, który wykorzystywał instrukcje w języku naturalnym do manipulowania ramieniem robota).

Minsky, który otworzy konferencję w Dartmouth z McCarthy, podziwiał pracę Winograda. Ale przez długi czas unikał redukcjonistycznych demonstracji na rzecz zbadania prawdziwych mechanizmów kryjących się za ludzką myślą. Na przykład współpracując z Seymourem Papertem w MIT AI Lab, Minsky zaczął w latach 70. rozwijać teorię Society of Mind, która zakłada, że ​​warstwy celowych, ale bezmyślnych agentów współpracują ze sobą, aby wygenerować świadomość.

Technology Review przerwał Minsky'emu 11 lipca, gdy sprawdzał galery do swojej nadchodzącej książki, Maszyna emocji , który reinterpretuje ludzki umysł jako chmurę zasobów, czyli mini-maszyny, które włączają się i wyłączają w zależności od sytuacji i wywołują różne stany emocjonalne i psychiczne.

Przegląd technologii : Czy możesz uwierzyć, że minęło 50 lat od pierwszego spotkania Dartmouth AI? Czy wydaje się, że minęło pięć dekad?

Marcin Minski : Nie doświadczyłem wielu 50-letnich interwałów, więc trudno mi powiedzieć.

TR: Słusznie. Więc co myślisz o obecnym stanie badań nad sztuczną inteligencją w porównaniu z tym, gdzie były w 1956 roku?

MM: Co mnie zaskakuje, to fakt, że niewielu ludzi pracowało nad teoriami wyższego poziomu na temat tego, jak działa myślenie. To było wielkie rozczarowanie. Właśnie publikuję dużą nową książkę o tym, o czym powinniśmy myśleć: Jak trzy- czy czterolatek postępuje zgodnie ze zdrowym rozsądkiem, w którym jest tak dobry i że żadna maszyna nie wydaje się być w stanie tego zrobić. robić? Główna różnica polega na tym, że jeśli masz problem ze zrozumieniem czegoś, zwykle myślisz: Co jest ze mną nie tak? lub Co marnuje mój czas? lub Dlaczego ten sposób myślenia nie działa? Czy istnieje inny sposób myślenia, który mógłby być lepszy?

Ale rodzaje projektów AI, które miały miejsce przez ostatnie 30 lub 40 lat, nie miały prawie żadnego refleksyjnego myślenia. Wszystko po to, by reagować na sytuację i gromadzić statystyki. Trzy lata temu zorganizowaliśmy konferencję o zdroworozsądkowym myśleniu i udało nam się znaleźć tylko kilkunastu badaczy na całym świecie, którzy byli tym zainteresowani.

TR: Dlaczego ludzie unikają zdroworozsądkowego problemu?

MM: Myślę, że ludzie rozglądają się, żeby zobaczyć, jaka dziedzina jest obecnie popularna, a potem marnują na to swoje życie. Jeśli jest popularny, to moim zdaniem ty nie chcę nad tym popracować. Teraz fizyka jest inna. Tam ludzie mówią, że ta popularna teoria działa całkiem dobrze, ale nie wyjaśnia tego ani tamtego – więc powinienem się temu przyjrzeć. Ale kiedy ludzie piszą artykuły na temat AI, mówią tylko, co zrobił ich program, a nie jak zawiódł lub jakich problemów nie mógł rozwiązać. Ludzie nie uważają, że ważnym problemem jest ich system nie ma rozwiązany. Ludzie nauczyli się sieci neuronowych, aby rozpoznać, że jeśli szukasz na przykład taksówki, powinieneś poszukać żółtego poruszającego się obiektu. Ale nie pytają, dlaczego te sieci nie mogą odpowiedzieć na inne pytania.

TR: Ale zrozumienie zdrowego rozsądku to znacznie trudniejszy problem, prawda? Czy to nie może wyjaśnić, dlaczego tak wielu badaczy sztucznej inteligencji zajmuje się innymi obszarami?

MM: To prawda. Kiedy pisałem Towarzystwo Umysłu , przez kilka lat pracowaliśmy nad zrozumieniem przez komputer prostej dziecięcej historii: Mary została zaproszona na przyjęcie Jacka. Zastanawiała się, czy chciałby latawiec. Jeśli zadasz pytanie Dlaczego Mary zastanawiała się nad latawcem? wszyscy znają odpowiedź – to chyba przyjęcie urodzinowe, a jeśli jedzie, to znaczy, że została zaproszona, a każdy zaproszony musi przynieść prezent, i to musi być prezent dla małego chłopca, więc musi być coś, co lubią chłopcy, a chłopcy lubią pewne rodzaje zabawek, takie jak nietoperze, piłki i latawce. Musisz to wszystko wiedzieć, aby odpowiedzieć na pytanie. Udało nam się stworzyć małą bazę danych i sprawić, by program zrozumiał kilka prostych pytań. Ale wypróbowaliśmy to w innej historii i nie wiedziałem, co robić. Niektórzy z nas doszli do wniosku, że trzeba znać parę milion rzeczy, zanim zmusisz maszynę do myślenia zdroworozsądkowo.

TR: Skoro ludzie zdali sobie sprawę, jak trudno jest sprawić, by komputer zrozumiał nawet proste, zdroworozsądkowe sytuacje, czy powiedziałbyś, że część optymizmu wokół możliwości sztucznej inteligencji w latach 50. i 60. rozproszyła się?

MM: Myślę, że optymizm nie jest właściwym słowem. Myślę, że zadawaliśmy dobre pytania, ale jakoś większość ludzi pracujących nad tak zwanym AI zaczęła szukać jednego z tych uniwersalnych rozwiązań. W fizyce to zadziałało; były równania Newtona, potem Maxwella, potem teoria względności i kwantowa. Większość ludzi AI próbuje to naśladować i znaleźć ogólną teorię. Ale ludzie mają 100 różnych ośrodków w mózgu, które działają w nieco inny sposób. Nie powinieneś pracować nad jednym rozwiązaniem; powinieneś pracować nad wieloma gadżetami.

TR: Wiele funduszy na sztuczną inteligencję pochodzi z Agencji Zaawansowanych Projektów Badawczych Obrony (DARPA), gdzie istnieje dość wyraźne zapotrzebowanie na praktyczne wyniki. W rzeczywistości są jednym ze sponsorów konferencji Dartmouth AI. Jak DARPA ukształtowała kierunek badań nad sztuczną inteligencją?

MM: Na początku DARPA wspierała ludzi, a nie propozycje. Od roku 1963 nastąpił duży postęp; przez około dziesięć lat rzeczy, o których mówię, kwitły. A potem na początku lat 70. zdarzył się jakiś zabawny wypadek. Senator Mike Mansfield, dość liberał, zdecydował, że Departament Obrony nie powinien wspierać badań cywilnych. Był więc odpowiedzialny za to, że ARPA stała się DARPA i starał się nie konkurować z badaniami przemysłowymi i cywilnymi. Dlatego o wiele trudniej było im wspierać wizjonerskich badaczy.

W tym samym czasie na początku lat 70. zaczęła zanikać amerykańska korporacyjna społeczność badawcza. Bell Labs, RCA i inni zasadniczo zniknęli z tego rodzaju działalności. I wydarzyła się kolejna rzecz: trafił na błąd przedsiębiorcy. W latach 80. wiele osób zaczęło próbować patentować rzeczy, zakładać startupy i wytwarzać produkty, co zbiegło się w czasie z ogólnym zniknięciem młodych naukowców. Ludzie, którzy mogli stać się produktywnymi naukowcami, teraz zajmują się prawem i biznesem.

Więc nie ma sposobu, aby wesprzeć te badania. Jeśli masz dobry pomysł, trudno go opublikować, ponieważ ludzie pytają Gdzie jest twój eksperyment? Ale problem ze zdroworozsądkowym myśleniem polega na tym, że nie możesz eksperymentować, dopóki nie masz dużej zdroworozsądkowej bazy danych. Jest jeden o nazwie Cyc, założony przez Douga Lenata w 1985 roku Otwarty umysł baza danych, która jest publicznie dostępna, ale nie jest jeszcze zbyt dobrze ustrukturyzowana. Ale to cały projekt badawczy, aby dowiedzieć się, jak otworzyć bazę danych Open Mind.

TR: Wspomniałeś, że komputer musi wiedzieć kilka milionów rzeczy, aby nawiązać zdroworozsądkowe połączenia. Ale Lenat i jego koledzy pracowali właśnie nad tym, spędzając lata na karmieniu Cyc zdroworozsądkową wiedzą. Dlaczego potrzebna jest inna baza danych?

MM: Kiedy Lenat zakładał Cyc w 1985 roku, był to dość ambitny projekt i nie było innego takiego projektu. Moi koledzy i ja powiedzieliśmy, poczekajmy i zobaczmy, jak to działa. A potem przez chwilę nic się nie działo.

Lenat zrobił kilka bardzo dobrych rzeczy. Problem polega na tym, że Cyc jest bardzo trudny w użyciu i jest zastrzeżony, więc badacze nie używają go zbyt często. I jest wiele problemów z jego systemem, które nie pojawiły się wcześniej, ponieważ nie było konkurencji.

Uczynili to spójnym, więc tak naprawdę niewiele wie. Czy wieloryb powinien być uważany za ssaka czy za rybę? Wieloryby mają wiele cech podobnych do ryb, więc większość ludzi jest zaskoczona, gdy słyszą, że to ssak. Ale prawdziwa odpowiedź brzmi, że powinno być jedno i drugie. Zdroworozsądkowa baza danych niekoniecznie musi być logicznie spójna. Lenat w końcu zdał sobie sprawę, że powinni zrestrukturyzować Cyc, uwzględniając różne konteksty, w których może pojawić się pytanie. Ale baza danych została pierwotnie skonstruowana tak, aby wszystko było bardzo logiczne, a jej językiem jest rachunek predykatów. Mamy nadzieję, że system Open Mind będzie używał języka naturalnego – który oczywiście jest pełen niejasności, ale niejasności są zarówno dobre, jak i złe.

TR: Jakie są niektóre z głównych argumentów lub zaleceń badawczych w nadchodzącej książce, Maszyna emocji ?

MM: Główną ideą książki jest to, co nazywam zaradnością. Jeśli nie zrozumiesz czegoś na kilka różnych sposobów, prawdopodobnie utkniesz. Więc pierwszą rzeczą w tej książce jest to, że musisz mieć różne sposoby opisywania rzeczy. Wymyśliłem na to słowo: panalogia. Kiedy coś reprezentujesz, powinieneś przedstawiać to na kilka różnych sposobów, tak abyś mógł przełączać się z jednego na drugi bez zastanowienia.

Po drugie, powinieneś mieć kilka sposobów myślenia. Kłopot z AI polega na tym, że każda osoba mówi, że zamierza stworzyć system oparty na wnioskowaniu statystycznym lub algorytmach genetycznych, lub cokolwiek, a każdy system jest dobry w przypadku niektórych problemów, ale nie w przypadku większości innych. Powód tytułu Maszyna emocji jest to, że mamy te rzeczy zwane emocjami i ludzie myślą o nich jako o tajemniczych dodatkach do racjonalnego myślenia. Moim zdaniem stan emocjonalny to inny sposób myślenia.

Kiedy jesteś zły, rezygnujesz z dalekosiężnego planowania i myślisz szybciej. Zmieniasz zestaw aktywowanych zasobów. Maszyna będzie potrzebowała setek sposobów myślenia. I zdarza się, że mamy setki nazw emocji, ale nie sposobów myślenia. Tak więc książka omawia około 20 różnych kierunków, w których ludzie mogą podążać w swoim myśleniu. Ale muszą mieć dodatkową meta-wiedzę o tym, jaki sposób myślenia jest odpowiedni w każdej sytuacji.

TR: Mówisz, że komputery powinny się złościć?

MM: Jeśli ktoś stoi ci na drodze i nie zejdzie ci z drogi, musisz go zastraszyć, przestraszyć lub sprawić, by się przestraszyli. To całkiem rozsądny sposób na rozwiązanie problemu, jeśli się spieszysz i jeśli stanie się coś złego, jeśli nie możesz ich ominąć. Proponuję, że na te sposoby myślenia potrzebujemy około 20 różnych słów. Wtedy możesz wyrzucić rozsądek.

Minsky'ego Maszyna emocji: zdroworozsądkowe myślenie, sztuczna inteligencja i przyszłość ludzkiego umysłu ma zostać opublikowany w twardej oprawie przez Simon & Schuster w listopadzie 2006 roku. Minsky opublikował a projekt książki online.

ukryć