Czego AI nadal nie może zrobić

Sztuczna inteligencja nie będzie zbyt inteligentna, jeśli komputery nie zrozumieją przyczyny i skutku. Nawet ludzie mają z tym problemy. Za pomocą

• Brian Bergstein strona archiwum

19 lutego 2020 r.

Saiman Chow

W niecałą dekadę komputery stały się niezwykle dobre w diagnozowaniu chorób, tłumaczeniu języków i transkrypcji mowy. Mogą ogrywać ludzi w skomplikowanych grach strategicznych, tworzyć fotorealistyczne obrazy i sugerować przydatne odpowiedzi na Twoje e-maile.

Jednak pomimo tych imponujących osiągnięć sztuczna inteligencja ma rażące słabości.

Ta historia była częścią naszego wydania z marca 2020 r.

• Zobacz resztę numeru
• Subskrybuj

Systemy uczenia maszynowego mogą zostać oszukane lub zdezorientowane przez sytuacje, których wcześniej nie widziały. Samojezdny samochód jest zdezorientowany scenariuszem, z którym z łatwością poradzi sobie ludzki kierowca. System sztucznej inteligencji, pracowicie wyszkolony do wykonywania jednego zadania (np. identyfikacji kotów), należy od nowa uczyć robienia czegoś innego (identyfikowania psów). W tym procesie może stracić część wiedzy, którą miał w pierwotnym zadaniu. Informatycy nazywają ten problem katastrofalnym zapominaniem.

Te niedociągnięcia mają coś wspólnego: istnieją, ponieważ systemy sztucznej inteligencji nie rozumieją przyczynowości. Widzą, że niektóre wydarzenia są powiązane z innymi wydarzeniami, ale nie ustalają, które rzeczy bezpośrednio powodują, że inne rzeczy się zdarzają. To tak, jakbyś wiedział, że obecność chmur zwiększa prawdopodobieństwo deszczu, ale nie wiedziałeś, że chmury powodują deszcz.

Elias Bareinboim: Systemy sztucznej inteligencji nie mają pojęcia o przyczynowości.

Zrozumienie przyczyny i skutku to duży aspekt tego, co nazywamy zdrowym rozsądkiem, i jest to obszar, w którym dzisiejsze systemy sztucznej inteligencji nie mają pojęcia, mówi Elias Bareinboim. Powinien wiedzieć: jako dyrektor nowego laboratorium sztucznej inteligencji przyczynowej na Uniwersytecie Columbia stoi na czele wysiłków mających na celu rozwiązanie tego problemu.

Jego pomysł polega na nasyceniu badań nad sztuczną inteligencją spostrzeżeniami ze stosunkowo nowej nauki o przyczynowości, dziedziny ukształtowanej w ogromnym stopniu przez Judeę Pearl, uczonego zdobywcę nagrody Turinga, który uważa Bareinboima za swojego protegowanego.

Jak opisują to Bareinboim i Pearl, zdolność sztucznej inteligencji do dostrzegania korelacji – na przykład, że chmury zwiększają prawdopodobieństwo deszczu – jest po prostu najprostszym poziomem rozumowania przyczynowego. To wystarczająco dobre, aby w ciągu ostatniej dekady wywołać boom w technice sztucznej inteligencji znanej jako głębokie uczenie się. Biorąc pod uwagę dużą ilość danych o znanych sytuacjach, ta metoda może prowadzić do bardzo dobrych prognoz. Komputer może obliczyć prawdopodobieństwo, że pacjent z pewnymi objawami ma określoną chorobę, ponieważ nauczył się, jak często tysiące, a nawet miliony innych osób z tymi samymi objawami cierpią na tę chorobę.

Istnieje jednak rosnący konsensus, że postęp w sztucznej inteligencji zatrzyma się, jeśli komputery nie będą lepiej radzić sobie z przyczynami. Gdyby maszyny mogły pojąć, że pewne rzeczy prowadzą do innych, nie musiałyby uczyć się wszystkiego od nowa — mogłyby wziąć to, czego nauczyły się w jednej dziedzinie, i zastosować to w innej. A gdyby maszyny mogły kierować się zdrowym rozsądkiem, bylibyśmy w stanie bardziej im zaufać, aby podejmowali działania na własną rękę, wiedząc, że nie popełnią głupich błędów.

Dzisiejsza sztuczna inteligencja ma tylko ograniczoną możliwość wnioskowania, co wyniknie z danego działania. W uczeniu się ze wzmocnieniem, technice, która pozwoliła maszynom opanować gry takie jak szachy i Go, system wykorzystuje rozległe metody prób i błędów, aby rozpoznać, które ruchy zasadniczo spowodują ich zwycięstwo. Ale to podejście nie działa w bardziej nieuporządkowanych ustawieniach w prawdziwym świecie. Nie pozostawia maszyny z ogólnym zrozumieniem, jak może grać w inne gry.

Jeszcze wyższym poziomem myślenia przyczynowego byłaby umiejętność rozumowania, dlaczego coś się wydarzyło, i zadawania pytań. Pacjent umiera podczas badania klinicznego; czy była to wina medycyny eksperymentalnej czy czegoś innego? Wyniki testów szkolnych spadają; jakie zmiany w polityce najbardziej je poprawią? Tego rodzaju rozumowanie wykracza daleko poza obecne możliwości sztucznej inteligencji.

Dokonywanie cudów

Marzenie o obdarowaniu komputerów przyczynowym rozumowaniem przyciągnęło Bareinboima z Brazylii do Stanów Zjednoczonych w 2008 roku, po tym, jak ukończył studia magisterskie z informatyki na Uniwersytecie Federalnym w Rio de Janeiro. Skorzystał z okazji, by studiować pod kierunkiem Judei Pearl, informatyka i statystyka na UCLA. 83-letnia Pearl jest olbrzymem… ten gigant — wnioskowania o przyczynach, a jego kariera pomaga zilustrować, dlaczego trudno jest stworzyć sztuczną inteligencję, która rozumie przyczynowość.

Nawet dobrze wyszkoleni naukowcy są skłonni błędnie interpretować korelacje jako oznaki związku przyczynowego – lub błądzić w przeciwnym kierunku, wahając się, czy wskazać związek przyczynowy, nawet jeśli jest to uzasadnione. Na przykład w latach pięćdziesiątych kilku wybitnych statystyków zmąciło sprawę, czy tytoń powoduje raka. Argumentowali, że bez eksperymentu losowo przypisującego osoby palące lub niepalące, nikt nie może wykluczyć możliwości, że jakiś nieznany – być może stres lub jakiś gen – spowodował, że ludzie zarówno palili, jak i zachorowali na raka płuc.

Ostatecznie ustalono, że palenie powoduje raka, ale nie musiało to trwać tak długo. Od tego czasu Pearl i inni statystycy opracowali matematyczne podejście do identyfikowania faktów, które byłyby wymagane do poparcia twierdzenia przyczynowego. Metoda Pearl pokazuje, że biorąc pod uwagę rozpowszechnienie palenia i raka płuc, niezależny czynnik powodujący oba przypadki byłby niezwykle mało prawdopodobny.

I odwrotnie, formuły Pearla pomagają również określić, kiedy korelacji nie można wykorzystać do określenia związku przyczynowego. Bernhard Schölkopf, który jako dyrektor w niemieckim Instytucie Systemów Inteligentnych im. Maxa Plancka bada techniki przyczynowej sztucznej inteligencji, wskazuje, że można przewidzieć wskaźnik urodzeń w danym kraju, znając populację bocianów. Nie dzieje się tak dlatego, że bociany rodzą dzieci lub dlatego, że dzieci przyciągają bociany, ale prawdopodobnie dlatego, że rozwój gospodarczy prowadzi do większej liczby dzieci i większej liczby bocianów. Pearl pomogła statystykom i informatykom w rozwiązywaniu takich problemów, mówi Schölkopf.

Judea Pearl: Jego teoria rozumowania przyczynowego zmieniła naukę.

Prace Pearla doprowadziły również do opracowania przyczynowych sieci bayesowskich — oprogramowania, które przesiewa duże ilości danych w celu wykrycia, które zmienne wydają się mieć największy wpływ na inne zmienne. Na przykład firma GNS Healthcare z Cambridge w stanie Massachusetts wykorzystuje te techniki, aby doradzać naukowcom eksperymenty, które wyglądają obiecująco.

W jednym z projektów GNS współpracował z naukowcami, którzy badali szpiczaka mnogiego, rodzaj nowotworu krwi. Naukowcy chcieli dowiedzieć się, dlaczego niektórzy pacjenci z tą chorobą żyją dłużej niż inni po przeszczepieniu komórek macierzystych, co jest powszechną formą leczenia. Oprogramowanie przeszukiwało dane z 30 000 zmiennych i wskazywało na kilka, które wydawały się szczególnie prawdopodobne. Biostatystycy i znawcy choroby skoncentrowali się w szczególności na jednym: poziomie określonego białka w organizmach pacjentów. Naukowcy mogliby następnie przeprowadzić ukierunkowane badanie kliniczne, aby sprawdzić, czy pacjenci z białkiem rzeczywiście odnieśli większe korzyści z leczenia. To o wiele szybsze niż grzebanie tu i tam w laboratorium, mówi współzałożycielka GNS, Iya Khalil.

Niemniej jednak ulepszenia, które Pearl i inni uczeni osiągnęli w teorii przyczyn, nie poczyniły jeszcze wielu postępów w uczeniu głębokim, które identyfikuje korelacje bez zbytniego obaw o przyczynowość. Bareinboim pracuje nad kolejnym krokiem: uczynieniem komputerów bardziej użytecznymi narzędziami do ludzkich badań przyczynowych.

Pearl mówi, że sztuczna inteligencja nie może być naprawdę inteligentna, dopóki nie będzie miała bogatego zrozumienia przyczyny i skutku, co umożliwiłoby introspekcję, która jest podstawą poznania.

Jeden z jego systemów, który wciąż jest w fazie beta, może pomóc naukowcom ustalić, czy mają wystarczające dane, aby odpowiedzieć na pytanie przyczynowe. Richard McElreath, antropolog z Instytutu Antropologii Ewolucyjnej im. Maxa Plancka, używa oprogramowania do prowadzenia badań nad tym, dlaczego ludzie przechodzą menopauzę (jesteśmy jedynymi małpami, które to robią).

Hipoteza jest taka, że ​​spadek płodności starszych kobiet przyniósł korzyści wczesnemu społeczeństwu ludzkiemu, ponieważ kobiety, które wkładały więcej wysiłku w opiekę nad wnukami, ostatecznie miały więcej potomków. Ale jakie dowody mogą dziś istnieć na poparcie twierdzenia, że ​​dzieci lepiej radzą sobie z dziadkami? Antropolodzy nie mogą po prostu porównywać wyników edukacyjnych lub medycznych dzieci, które mieszkały z dziadkami i tych, które nie mieszkały. Są to, co statystycy nazywają czynnikami mylącymi: babcie prawdopodobnie mieszkają z wnukami, które najbardziej potrzebują pomocy. Oprogramowanie Bareinboima może pomóc McElreathowi rozpoznać, które badania dotyczące dzieci, które dorastały ze swoimi dziadkami, są najmniej obciążone czynnikami zakłócającymi i mogą być cenne w odpowiedzi na jego przyczynowe pytanie. To ogromny krok naprzód, mówi McElreath.

Ostatnia mila

Bareinboim mówi szybko i często gestykuluje dwiema rękami w powietrzu, jakby próbował zrównoważyć dwie strony mentalnego równania. Byłem w połowie semestru, kiedy odwiedziłem go w Columbii w październiku, ale wydawało mi się, że ledwo wprowadził się do swojego biura – prawie nic na ścianach, żadnych książek na półkach, tylko elegancki komputer Mac i tak gęsta tablica z równaniami i diagramami, które wyglądały jak detal z kreskówki o szalonym profesorze.

Zlekceważył tymczasowy stan sali, mówiąc, że był bardzo zajęty wygłaszaniem przemówień na temat obu stron przyczynowej rewolucji. Bareinboim uważa, że ​​praca taka jak jego daje możliwość nie tylko włączenia przyczynowego myślenia do maszyn, ale także ulepszenia go u ludzi.

Mówi, że zmuszanie ludzi do dokładniejszego myślenia o przyczynowości niekoniecznie jest dużo łatwiejsze niż nauczenie tego maszyn. Naukowcy z wielu różnych dyscyplin, od biologii molekularnej po politykę publiczną, czasami zadowalają się odkrywaniem korelacji, które w rzeczywistości nie są zakorzenione w związkach przyczynowych. Na przykład, niektóre badania sugerują, że picie alkoholu zabije cię wcześnie, podczas gdy inne wskazują, że umiarkowane spożycie jest w porządku, a nawet korzystne, a jeszcze inne badania wykazały, że osoby pijące dużo dłużej przeżywają osoby niepijące. Zjawisko to, znane jako kryzys odtwarzalności, pojawia się nie tylko w medycynie i żywieniu, ale także w psychologii i ekonomii. Widać kruchość wszystkich tych wniosków, mówi Bareinboim. Odwracamy wyniki co kilka lat.

Twierdzi, że każdy, kto pyta co, jeśli — badacze medyczni przygotowujący badania kliniczne, socjolodzy opracowujący programy pilotażowe, a nawet wydawcy internetowi przygotowujący testy A/B — powinni zacząć nie tylko od zebrania danych, ale od wykorzystania logiki przyczynowej i oprogramowania Pearla, takiego jak Bareinboim, w celu ustalenia, czy dostępne dane mogłyby ewentualnie odpowiedzieć na hipotezę przyczynową. W końcu wyobraża sobie, że prowadzi to do zautomatyzowanego oprogramowania naukowego: człowiek może wymyślić przyczynowe pytanie, do którego będzie dążył, a oprogramowanie połączy przyczynową teorię wnioskowania z technikami uczenia maszynowego, aby wykluczyć eksperymenty, które nie dałyby odpowiedzi na to pytanie. To może uratować naukowców przed ogromną liczbą kosztownych ślepych uliczek.

Bareinboim opisał tę wizję, gdy siedzieliśmy w holu Sloan School of Management w MIT, po przemówieniu, które wygłosił zeszłej jesieni. – Mamy budynek na MIT z, nie wiem, 200 osobami – powiedział. W jaki sposób ci socjolodzy lub jakikolwiek inny naukowiec decyduje, które eksperymenty przeprowadzić i jakie dane zebrać? Podążając za swoją intuicją: próbują zobaczyć, dokąd wszystko zaprowadzi, w oparciu o ich obecne zrozumienie.

Powiedział, że jest to z natury ograniczone podejście, ponieważ naukowcy projektujący eksperyment mogą brać pod uwagę tylko kilka zmiennych naraz. Z drugiej strony komputer może zobaczyć wzajemne oddziaływanie setek lub tysięcy zmiennych. Zakodowany za pomocą podstawowych zasad rachunku przyczynowego Pearla i zdolny do obliczenia, co może się stać z nowymi zestawami zmiennych, zautomatyzowany naukowiec może zasugerować dokładnie, na których eksperymentach badacze-ludzie powinni poświęcić swój czas. Być może jakaś polityka publiczna, która okazała się działać tylko w Teksasie, mogłaby zadziałać w Kalifornii, gdyby lepiej doceniono kilka przyczynowo istotnych czynników. Naukowcy nie będą już przeprowadzać eksperymentów w ciemności, powiedział Bareinboim.

Nie sądzi też, że to tak daleko: to ostatnia mila przed zwycięstwem.

Co jeśli?

Ukończenie tej mili będzie prawdopodobnie wymagało technik, które dopiero zaczynają być opracowywane. Na przykład Yoshua Bengio, informatyk z Uniwersytetu w Montrealu, który otrzymał nagrodę Turinga 2018 za swoją pracę nad głębokim uczeniem, próbuje skłonić sieci neuronowe — oprogramowanie będące sercem głębokiego uczenia — do meta-uczenia się i zauważania przyczyny rzeczy.

W obecnej sytuacji, jeśli chcesz, aby sieć neuronowa wykrywała, kiedy ludzie tańczą, pokazałbyś jej wiele, wiele obrazów tancerzy. Gdybyś chciał, aby identyfikował, kiedy ludzie biegają, pokazałbyś mu wiele, wiele obrazów biegaczy. System nauczy się odróżniać biegaczy od tancerzy, identyfikując cechy, które na zdjęciach zwykle różnią się od siebie, takie jak ułożenie rąk i ramion danej osoby. Ale Bengio wskazuje, że podstawową wiedzę o świecie można zebrać, analizując rzeczy, które są podobne lub niezmienne w różnych zestawach danych. Może sieć neuronowa mogłaby nauczyć się, że ruchy nóg fizycznie powodują zarówno bieganie, jak i taniec. Może po obejrzeniu tych i wielu innych przykładów, które pokazują ludzi zaledwie kilka stóp nad ziemią, maszyna w końcu zrozumie coś o grawitacji i o tym, jak ogranicza ona ruchy człowieka. Z biegiem czasu, przy wystarczającej ilości meta-uczenia się o zmiennych, które są spójne w różnych zestawach danych, komputer może zdobyć wiedzę o przyczynach, którą można ponownie wykorzystać w wielu dziedzinach.

Ze swojej strony Pearl mówi, że sztuczna inteligencja nie może być naprawdę inteligentna, dopóki nie będzie miała bogatego zrozumienia przyczyny i skutku. Chociaż rozumowanie przyczynowe nie byłoby wystarczające dla sztucznej inteligencji ogólnej, jest konieczne, mówi, ponieważ umożliwiłoby introspekcję, która jest rdzeniem poznania. A jeśli pytania są budulcem nauki, postaw moralnych, wolnej woli, świadomości, powiedziała mi Pearl.

Nie możesz nakłonić Pearl do przewidywania, ile czasu zajmie komputerom uzyskanie potężnych zdolności rozumowania przyczynowego. Nie jestem futurystą, mówi. W każdym razie uważa, że ​​pierwszym krokiem powinno być opracowanie narzędzi do uczenia maszynowego, które łączą dane z dostępną wiedzą naukową: Mamy dużo wiedzy, która znajduje się w ludzkiej czaszce, która nie jest wykorzystywana.

Brian Bergstein, były redaktor MIT Technology Review, jest zastępcą redaktora opinii w Boston Globe.

ukryć