Człowiek, który pomógł wymyślić wirtualnych asystentów, uważa, że ​​bez nowego podejścia do sztucznej inteligencji są skazane na zagładę

Pani Tech

Siri, Alexa, Google Home — technologia analizująca język coraz częściej trafia do codziennego życia.

Borys Katz , główny naukowiec w MIT, nie jest pod wrażeniem. W ciągu ostatnich 40 lat firma Katz wniosła kluczowy wkład w zdolności językowe maszyn. W latach 80. rozwinął się POCZĄTEK , system zdolny do odpowiadania na naturalnie sformułowane zapytania. Pomysły wykorzystane w START pomogły IBM Watsonowi wygrać Niebezpieczeństwo! i położył podwaliny pod dzisiejsze gadające sztuczne sługi.

Ale Katz martwi się teraz, że dziedzina cierpi z powodu uzależnienia od pomysłów sprzed dziesięcioleci i że te pomysły nie dadzą nam maszyn z prawdziwą inteligencją. Spotkałem się z nim, aby omówić obecne ograniczenia asystentów AI i usłyszeć jego przemyślenia na temat tego, dokąd muszą iść badania, jeśli kiedykolwiek mają stać się mądrzejsi.

Jak zainteresowałeś się tym, by komputery używały języka?

Po raz pierwszy zetknąłem się z komputerami w latach 60. jako student studiów licencjackich na Uniwersytecie Moskiewskim. Konkretną maszyną, której używałem, był mainframe o nazwie BESM-4. Do komunikacji z nim można było użyć tylko kodu ósemkowego. Mój pierwszy projekt komputerowy polegał na nauczeniu komputera czytania, rozumienia i rozwiązywania problemów matematycznych.

Następnie opracowałem program komputerowy do pisania poezji. Wciąż pamiętam, jak stałem w maszynowni i czekałem na kolejny wiersz wygenerowany przez maszynę. Byłem oszołomiony pięknem wierszy; wydawały się być produkowane przez inteligentną istotę. I wtedy wiedziałem, że chcę pracować do końca życia nad tworzeniem inteligentnych maszyn i znajdowaniem sposobów na komunikowanie się z nimi.

Co sądzisz o Siri, Alexie i innych osobistych asystentach?

Zabawnie o tym mówić, bo z jednej strony jesteśmy bardzo dumni z tego niesamowitego postępu – każdy ma w kieszeni coś, co pomogliśmy tu stworzyć wiele, wiele lat temu, co jest wspaniałe.

Z

Ale z drugiej strony te programy są tak niewiarygodnie głupie. Jest więc poczucie dumy i prawie zakłopotania. Wprowadzasz coś, co ludzie uważają za inteligentne, ale nawet nie jest blisko.

Dzięki uczeniu maszynowemu nastąpił znaczny postęp w sztucznej inteligencji. Czy to nie jest ulepszanie maszyn w języku?

Z jednej strony mamy do czynienia z dramatycznym postępem, a część z tego postępu jest zawyżona. Jeśli spojrzysz na postęp w uczeniu maszynowym, wszystkie pomysły pojawiły się 20 do 25 lat temu. Tyle, że ostatecznie inżynierowie wykonali świetną robotę, aby te pomysły stały się rzeczywistością. Ta technologia, jakkolwiek wspaniała, nie rozwiąże problemu prawdziwego zrozumienia – prawdziwej inteligencji.

Wygląda na to, że robimy postępy w sztucznej inteligencji, chociaż… (patrz 10 przełomowych technologii: gładko mówiący osobiści asystenci ) ?

Na bardzo wysokim poziomie nowoczesne techniki — techniki statystyczne, takie jak uczenie maszynowe i głębokie uczenie — są bardzo dobre w znajdowaniu prawidłowości. A ponieważ ludzie zwykle tworzą te same zdania przez większość czasu, bardzo łatwo jest je znaleźć w języku.

Spójrz na tekst podpowiadający. Maszyna wie lepiej niż ty, co powiesz. Można to nazwać inteligentnym, ale to tylko liczenie słów i liczb. Ponieważ ciągle mówimy to samo, łatwo jest zbudować systemy, które wychwytują prawidłowości i działają tak, jakby były inteligentne. Taka jest fikcyjna natura większości obecnych postępów.

A co z niebezpiecznym narzędziem do generowania języka? ogłoszone niedawno przez OpenAI ?

Te przykłady są rzeczywiście imponujące, ale nie jestem pewien, czego nas uczą. Model języka OpenAI został wyszkolony na 8 milionach stron internetowych w celu przewidzenia następnego słowa, biorąc pod uwagę wszystkie poprzednie słowa w pewnym tekście (który dotyczył tego samego tematu, na którym był trenowany model). Ta ogromna ilość szkoleń z pewnością zapewniła lokalną spójność (syntaktyczną, a nawet semantyczną) tekstu.

Jak myślisz, dlaczego sztuczna inteligencja idzie w złym kierunku w języku?

W przetwarzaniu języka, podobnie jak w innych dziedzinach, postęp poczyniono dzięki uczeniu modeli na ogromnych ilościach danych — wielu milionach zdań. Ale ludzki mózg nie byłby w stanie nauczyć się języka przy użyciu tego paradygmatu. Nie zostawiamy naszych dzieci z encyklopedią w łóżeczku, oczekując, że opanują język.

Kiedy coś widzimy, opisujemy to w języku; kiedy słyszymy, jak ktoś o czymś mówi, wyobrażamy sobie, jak opisywane przedmioty i zdarzenia wyglądają na świecie. Ludzie żyją w środowisku fizycznym, wypełnionym wizualnymi, dotykowymi i językowymi bodźcami zmysłowymi, a nadmiarowość i komplementarność tych bodźców umożliwia ludzkim dzieciom rozumienie świata i jednoczesne uczenie się języka. Być może studiując te modalności w odosobnieniu, sprawiliśmy, że problem stał się trudniejszy, a nie łatwiejszy?

Dlaczego zdrowy rozsądek jest ważny?

Powiedz, że twój robot pomaga ci się pakować, a ty mu mówisz: ta książka nie zmieściłaby się w czerwonym pudełku, ponieważ to jest zbyt mały. Oczywiście chcesz, aby robot zrozumiał, że Internet skrzynka jest za mały, abyś mógł kontynuować konstruktywną rozmowę. Jeśli jednak powiesz robotowi: Ta książka nie zmieściłaby się w czerwonym polu, ponieważ to jest zbyt duża, chcesz, aby twój robot zrozumiał, że książka jest za duży.

Wiedza o tym, do jakiego podmiotu w rozmowie odnosi się zaimek, jest bardzo powszechnym zadaniem, które ludzie wykonują na co dzień, a jednak, jak widać z tych i innych przykładów, często opiera się na głębokim zrozumieniu świata, który jest obecnie poza zasięgiem naszych maszyn: rozumienie zdrowego rozsądku i intuicyjnej fizyki, rozumienie przekonań i intencji innych, umiejętność wizualizacji i wnioskowania o przyczynie i skutku i wiele więcej.

Próbujesz uczyć maszyny języka za pomocą symulowanych światów fizycznych. Dlaczego?

Jeszcze nie widziałem dziecka, którego rodzice umieścili encyklopedię w łóżeczku i powiedzieli: Idź się uczyć. I to właśnie robią dzisiaj nasze komputery. Nie sądzę, że te systemy nauczą się tak, jak chcemy, ani nie zrozumieją świata tak, jak my chcemy.

To, co dzieje się z dziećmi, to natychmiastowe doznania dotykowe ze świata. Wtedy dzieci zaczynają widzieć świat i chłonąć zdarzenia i właściwości przedmiotów. A potem dziecko w końcu słyszy wkład językowy. I to właśnie ten uzupełniający wkład sprawia, że ​​dzieje się magia zrozumienia.

Jakie jest lepsze podejście?

Jedną z dróg naprzód jest uzyskanie lepszego zrozumienia ludzkiej inteligencji, a następnie wykorzystanie tego zrozumienia w celu stworzenia inteligentnych maszyn. Badania nad sztuczną inteligencją muszą opierać się na pomysłach z psychologii rozwojowej, kognitywistyki i neuronauki, a modele sztucznej inteligencji powinny odzwierciedlać to, co już wiadomo o tym, jak ludzie uczą się i rozumieją świat.

Prawdziwy postęp nastąpi dopiero wtedy, gdy naukowcy wyjdą z naszych biur i zaczną rozmawiać z ludźmi z innych dziedzin. Razem zbliżymy się do zrozumienia inteligencji i wymyślenia, jak ją powielić w inteligentnych maszynach, które potrafią mówić, widzieć i działać w naszym świecie fizycznym.

Wyzwanie stworzenia prawdziwie inteligentnych maszyn jest bardzo trudne, ale jest to również jedno z najważniejszych wyzwań, jakie przed nami stoją.

ukryć