Nie możemy ufać systemom AI zbudowanym wyłącznie w oparciu o głębokie uczenie

Ponowne uruchamianie sztucznej inteligencji przez Gary'ego Marcusa i Ernesta Davisa dzięki uprzejmości Penguin Random House

Gary Marcus nie jest pod wrażeniem szumu wokół uczenia głębokiego. Chociaż profesor NYU uważa, że ​​technika odegrała ważną rolę w rozwoju sztucznej inteligencji, uważa również, że obecny nadmierny nacisk na nią może doprowadzić do jej upadku.

Marcus, neurobiolog z wykształcenia, który spędził swoją karierę w czołówce badań nad sztuczną inteligencją, przytacza zarówno kwestie techniczne, jak i etyczne. Z technicznego punktu widzenia uczenie głębokie może być dobre w naśladowaniu percepcyjnych zadań ludzkiego mózgu, takich jak rozpoznawanie obrazu lub mowy. Ale nie spełnia innych zadań, takich jak rozumienie rozmów lub związków przyczynowych. Aby stworzyć bardziej wydajne i szerzej inteligentne maszyny, często określane potocznie jako sztuczna inteligencja ogólna, należy połączyć głębokie uczenie z innymi metodami.

Gdy system sztucznej inteligencji tak naprawdę nie rozumie swoich zadań ani otaczającego go świata, może to również prowadzić do niebezpiecznych konsekwencji. Nawet najmniejsze nieoczekiwane zmiany w środowisku systemowym mogą sprawić, że wszystko pójdzie nie tak. Istnieją już niezliczone tego przykłady: wykrywacze mowy nienawiści, które można łatwo oszukać, systemy składania podań o pracę, które utrwalają dyskryminację, a także autonomiczne samochody, które się rozbiły, czasami zabijając kierowcę lub pieszego. Poszukiwanie sztucznej inteligencji ogólnej to coś więcej niż ciekawy problem badawczy. Ma to bardzo realne implikacje.

W ich nowej książce Ponowne uruchamianie AI Marcus i jego kolega Ernest Davis opowiadają się za nową drogą naprzód. Uważają, że nie jesteśmy blisko osiągnięcia takiej ogólnej inteligencji, ale są też przekonani, że w końcu możemy się tam dostać.

Rozmawiałem z Marcusem o słabościach głębokiego uczenia się, lekcjach, jakie ta dziedzina może zaczerpnąć z ludzkiego umysłu i dlaczego jest optymistą.

Poniższe zostały zredagowane pod kątem długości i przejrzystości.

Dlaczego potrzebujemy nawet ogólnej inteligencji? Wąska sztuczna inteligencja już wygenerowała dla nas dużą wartość.

Gary Marcus dzięki uprzejmości Gary Marcus

Ma i będzie generować jeszcze więcej. Ale istnieje wiele problemów, do których wąska sztuczna inteligencja po prostu nie jest zdolna. Rzeczy takie jak konwersacyjne rozumienie języka naturalnego i ogólna pomoc w wirtualnym świecie lub rzeczy takie jak robot Rosie, które mogą pomóc w posprzątaniu domu lub ugotowaniu obiadu. To są po prostu poza zakresem tego, co możemy zrobić z wąską sztuczną inteligencją. To także ciekawe pytanie empiryczne, czy wąska sztuczna inteligencja może doprowadzić nas do bezpiecznych samochodów bez kierowcy. Jak dotąd rzeczywistość jest taka, że ​​wąska sztuczna inteligencja ma wiele problemów z przypadkami odstającymi, nawet podczas jazdy, co jest dość ograniczonym problemem.

Ogólnie rzecz biorąc, myślę, że wszyscy chcielibyśmy, aby sztuczna inteligencja pomogła nam dokonywać nowych odkryć w medycynie na dużą skalę. Nie jest jasne, czy obecne techniki doprowadzą nas tam, gdzie powinniśmy być, ponieważ biologia jest skomplikowana. Naprawdę musisz umieć czytać literaturę. Naukowcy mają wiedzę przyczynową na temat interakcji sieci i molekuł; mogą rozwijać teorie o orbitach, planetach lub czymkolwiek. Dzięki wąskiej sztucznej inteligencji nie możemy sprawić, by maszyny robiły ten poziom innowacji. Dzięki ogólnej sztucznej inteligencji możemy zrewolucjonizować naukę, technologię, medycynę. Myślę więc, że praca nad ogólną sztuczną inteligencją jest bardzo wartościowym projektem.

Wygląda na to, że używasz ogólnej sztucznej inteligencji, aby odnieść się do solidnej sztucznej inteligencji?

Ogólna sztuczna inteligencja polega na tym, aby sztuczna inteligencja mogła myśleć w locie i samodzielnie rozwiązywać nowe problemy. To w przeciwieństwie do, powiedzmy, Go, gdzie problem nie zmienił się od 2000 lat.

Ogólna sztuczna inteligencja powinna również być w stanie pracować równie komfortowo rozumując o polityce, jak rozumując o medycynie. To odpowiednik tego, co mają ludzie; każda rozsądnie bystra osoba może zrobić wiele, wiele różnych rzeczy. Bierzesz staż licencjacki i w ciągu kilku dni każesz mu pracować w zasadzie nad wszystkim, od problemu prawnego po problem medyczny. Dzieje się tak dlatego, że mają ogólne zrozumienie świata i potrafią czytać, dzięki czemu są w stanie przyczynić się do bardzo szerokiego zakresu rzeczy.

Związek między tym a solidną inteligencją jest taki, że jeśli nie jesteś solidny, prawdopodobnie nie będziesz w stanie zrobić ogólnej rzeczy. Aby więc zbudować coś, co jest wystarczająco niezawodne, aby poradzić sobie ze światem, który ciągle się zmienia, prawdopodobnie musisz przynajmniej zbliżyć się do ogólnej inteligencji.

Ale wiesz, jesteśmy teraz dość daleko od tego. AlphaGo może bardzo dobrze grać na planszy 19x19, ale w rzeczywistości musi zostać przeszkolony, aby grać na planszy prostokątnej. Albo bierzesz swój przeciętny system głębokiego uczenia się, który potrafi rozpoznać słonia, o ile jest on dobrze oświetlony i możesz zobaczyć jego fakturę. Ale jeśli umieścisz słonia w sylwetce, może nie być już w stanie go rozpoznać.

Jak wspomniałeś w swojej książce, głębokie uczenie nie może tak naprawdę dotrzeć do ogólnej sztucznej inteligencji, ponieważ brakuje mu głębokiego zrozumienia.

W kognitywistyce mówimy o posiadaniu poznawczych modeli rzeczy. Więc siedzę w pokoju hotelowym i rozumiem, że jest szafa, jest łóżko, jest nietypowo zamontowany telewizor. Wiem, że są tu wszystkie te rzeczy i nie tylko je identyfikuję. Rozumiem też, jak się do siebie odnoszą. Mam te pomysły na to, jak działa świat zewnętrzny. Nie są idealne. Są omylne, ale całkiem dobre. I wokół nich wyciągam wiele wniosków, aby kierować moimi codziennymi działaniami.

Przeciwną skrajnością jest coś w rodzaju systemu gier Atari, który stworzył DeepMind, gdzie zapamiętywał, co musi zrobić, gdy widział piksele w określonych miejscach na ekranie. Jeśli zdobędziesz wystarczającą ilość danych, może to wyglądać na zrozumienie, ale w rzeczywistości jest to bardzo płytkie zrozumienie. Dowodem jest to, że jeśli przesuniesz rzeczy o trzy piksele, gra będzie znacznie słabsza. Zrywa ze zmianą. To przeciwieństwo głębokiego zrozumienia.

Sugerujesz powrót do klasycznej sztucznej inteligencji, aby rozwiązać to wyzwanie. Jakie są mocne strony klasycznej sztucznej inteligencji, które powinniśmy starać się włączyć?

Jestem po prostu zdumiony tym, jak mało docenia to społeczność głębokiego uczenia się.

Jest kilka. Po pierwsze, właściwie klasyczna sztuczna inteligencja jest ramy do budowania poznawczych modeli świata, nad którymi można następnie wnioskować. Po drugie, klasyczna sztuczna inteligencja doskonale radzi sobie z zasadami. To dziwna socjologia w głębokim uczeniu się, w której ludzie chcą unikać zasad. Chcą robić wszystko z sieciami neuronowymi i nie robić nic z niczym, co wygląda jak klasyczne programowanie. Ale są problemy, które są rutynowo rozwiązywane w ten sposób, na które nikt nie zwraca uwagi, na przykład wyznaczanie trasy na mapach Google.

Właściwie potrzebujemy obu podejść. Uczenie maszynowe całkiem dobrze radzi sobie z uczeniem się na podstawie danych, ale bardzo słabo radzi sobie z reprezentowaniem abstrakcji, którą reprezentują programy komputerowe. Klasyczna sztuczna inteligencja jest całkiem dobra w abstrakcji, ale wszystko musi być ręcznie napisane, a na świecie jest zbyt dużo wiedzy, aby wszystko ręcznie wprowadzać. Wydaje się więc oczywiste, że chcemy jakiejś syntezy, która łączy te podejścia.

Wiąże się to z rozdziałem, w którym wspominasz o kilku rzeczach, których możemy się nauczyć od ludzkiego umysłu. Pierwsza opiera się na tym, o czym już mówiliśmy — idei, że nasze umysły składają się z wielu różnych systemów, które działają na różne sposoby.

Myślę, że jest inny sposób na przedstawienie tego, a mianowicie: każdy system poznawczy, który mamy, naprawdę robi coś innego. Podobnie, odpowiedniki w AI muszą być zaprojektowane tak, aby rozwiązywać różne problemy, które mają różne cechy.

W tej chwili ludzie próbują używać uniwersalnych technologii, aby radzić sobie z rzeczami, które są naprawdę fundamentalnie różne. Rozumienie zdania zasadniczo różni się od rozpoznawania przedmiotu. Ale ludzie próbują używać głębokiego uczenia się do obu. Są to jakościowo różne problemy z perspektywy poznawczej i jestem po prostu zdumiony tym, jak mało docenia to społeczność głębokiego uczenia się. Po co oczekiwać, że jedna srebrna kula zadziała na to wszystko? Nie jest realistyczne i nie ujawnia wyrafinowanego zrozumienia, czym jest wyzwanie sztucznej inteligencji.

Kolejną rzeczą, o której mówisz, jest potrzeba zrozumienia przez systemy sztucznej inteligencji związków przyczynowych. Czy myślisz, że będzie to pochodzić z głębokiego uczenia się, klasycznej sztucznej inteligencji, czy czegoś zupełnie nowego?

To znowu miejsce, w którym głębokie uczenie się nie jest szczególnie odpowiednie. Głębokie uczenie nie daje wyjaśnień, dlaczego coś się dzieje, ale raczej prawdopodobieństwo tego, co może się wydarzyć w danych okolicznościach.

Natura buduje pierwszy szkic, szkic wstępny. Następnie uczenie się zmienia ten szkic przez resztę twojego życia.

Rzeczy, o których mówimy — patrzysz na niektóre scenariusze i rozumiesz, dlaczego tak się dzieje i co może się stać, jeśli pewne rzeczy zostaną zmienione. Mogę spojrzeć na sztalugę, na której jest włączony telewizor hotelowy i zgadnąć, że jeśli odetnę jedną z nóg, sztaluga się przewróci i telewizor spadnie razem z nią. To jest rozumowanie przyczynowe.

Klasyczna sztuczna inteligencja daje nam do tego kilka narzędzi. Może reprezentować na przykład, czym jest relacja wsparcia i co się przewraca. Nie chcę jednak tego przesadzić. Jednym z problemów jest to, że klasyczna sztuczna inteligencja zależy głównie od bardzo kompletnych informacji o tym, co się dzieje, podczas gdy ja właśnie wyciągnąłem ten wniosek, nie będąc w stanie zobaczyć całej sztalugi. Więc jakoś jestem w stanie zrobić skróty, wywnioskować kawałki sztalugi, których nawet nie widzę. Tak naprawdę nie mamy jeszcze narzędzi, które mogłyby to zrobić.

Trzecią rzeczą, o której mówisz, jest idea, że ​​ludzie posiadają wrodzoną wiedzę. Jak widzisz, że jest to włączone do systemów AI?

Dla ludzi, do czasu narodzin, twój mózg jest w rzeczywistości bardzo misternie zbudowany. Nie jest to ustalone, ale natura buduje pierwszy szkic, szkic wstępny. Następnie uczenie się zmienia ten szkic przez resztę twojego życia.

Szorstki szkic mózgu ma już pewne zdolności. Mała koziorożec w wieku zaledwie kilku godzin może zejść z góry bez popełniania błędów. Najwyraźniej ma pewne zrozumienie trójwymiarowej przestrzeni, własnego ciała i wzajemnych relacji między nimi. Dość wyrafinowane rzeczy.

Dlatego uważam, że potrzebujemy hybryd. Trudno wyobrazić sobie, jak moglibyśmy zbudować robota, który od początku dobrze funkcjonuje na świecie bez analogicznej wiedzy, w przeciwieństwie do zaczynania od czystej karty i uczenia się przez ogromne, ogromne doświadczenie.

W przypadku ludzi nasza wrodzona wiedza pochodzi z naszych genomów, które ewoluowały w czasie. W przypadku systemów AI muszą iść inną drogą. Część z nich może pochodzić z reguł dotyczących tego, jak budujemy nasze algorytmy. Część z nich może pochodzić z reguł dotyczących tego, jak budujemy struktury danych, którymi manipulują te algorytmy. Część z nich może pochodzić z wiedzy, której bezpośrednio uczymy maszyny.

Ciekawe, że wszystko w swojej książce wiążesz z ideą zaufania i budowaniem godnych zaufania systemów. Dlaczego szczególnie wybrałeś tę ramkę?

Bo myślę, że teraz to cała gra w piłkę. Myślę, że żyjemy w dziwnym momencie w historii, w którym bardzo ufamy oprogramowaniu, które na to zaufanie nie zasługuje. Myślę, że obawy, które teraz mamy, nie są trwałe. Za sto lat sztuczna inteligencja będzie gwarantować nasze zaufanie – a może wcześniej.

Ale w tej chwili sztuczna inteligencja jest niebezpieczna i nie w sposób, o który martwi się Elon Musk. Ale w przypadku systemów rozmów kwalifikacyjnych, które dyskryminują kobiety, niezależnie od tego, co robią programiści, ponieważ techniki, z których korzystają, są zbyt mało wyrafinowane.

Chcę, żebyśmy mieli lepszą sztuczną inteligencję. Nie chcę, żebyśmy mieli zimę AI, w której ludzie zdają sobie sprawę, że te rzeczy nie działają i są niebezpieczne, i nic z tym nie robią.

W pewnym sensie twoja książka jest bardzo optymistyczna, ponieważ sugerujesz, że można zbudować godną zaufania sztuczną inteligencję. Wystarczy spojrzeć w innym kierunku.

Zgadza się, książka jest bardzo krótkoterminowa pesymistyczna i bardzo długoterminowa optymistyczna. Uważamy, że każdy problem, który opisaliśmy w książce, może zostać rozwiązany, jeśli pole przyjmie szersze spojrzenie na to, jakie są właściwe odpowiedzi. I myślimy, że jeśli tak się stanie, świat będzie lepszym miejscem.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć