211service.com
Inżynieria odwrotna mózgu
Maggie jest bardzo mądra małpka, mówi Tim Buschman, absolwent laboratorium neurobiologicznego profesora Earla Millera. Maggie nie jest widoczna – znajduje się w obudowie bezpieczeństwa biologicznego, która ma chronić ją przed ludzkimi zarazkami – ale oznaki jej inteligencji przepływają przez dwa monitory przed Buschmanem. Przez ostatnie siedem lat Maggie pracowała dla Departamentu Nauk o Mózgu i Kognitywistyce (BCS) MIT. Trzy godziny dziennie makak gra w gry komputerowe, które (zwykle) są zaprojektowane tak, aby wymagały od niej generowania abstrakcyjnych reprezentacji, a następnie używania tych abstrakcji jako narzędzi. Nawet ja mam z tym problem, mówi Buschman, wskazując głową na grę, która polega na klasyfikowaniu operacji logicznych. Ale Maggie jest na fali, przebijając się przez problemy, zabierając około pół sekundy na każdy i uzyskując około czterech na pięć prawidłowych wyników.

Ilustracja autorstwa Davida Plunkert
Gra Maggie leży na pograniczu sztucznej inteligencji (AI) i neuronauki. Pod okiem Buschmana i Michelle Machon, innej studentki, uczestniczy w badaniach nad tym, jak mózg uczy się i konstruuje reguły logiczne oraz jak jego wykonywanie tych zadań ma się do tego, jakie wykonuje sztuczne sieci neuronowe wykorzystywane w sztucznej inteligencji.
Czterdzieści lat temu pomysł, że neuronauka i sztuczna inteligencja mogą zbiegać się w laboratoriach takich jak Miller, byłby prawie nie do pomyślenia. Wtedy te dwie dyscypliny działały na wyciągnięcie ręki. Podczas gdy neuronauka koncentrowała się na odkrywaniu i opisywaniu szczegółów neuroanatomii i aktywności neuronowej, sztuczna inteligencja próbowała opracować niezależną, niebiologiczną ścieżkę do inteligencji. (Historycznie, technologia nie musiała tak naprawdę kopiować natury, która niewolniczo; samoloty nie latają jak ptaki, a samochody nie biegają jak konie). I to sztuczna inteligencja wydawała się rozwijać znacznie szybciej. Neuronauka prawie nic nie wiedziała o tym, czym jest mózg, nie mówiąc już o tym, jak działa, podczas gdy każdy z odrobiną rozsądku wierzył, że dzień, w którym komputery będą w stanie robić wszystko, co robili ludzie (i robić to lepiej), był w zasięgu wzroku. W 1962 roku sam prezydent Kennedy był przekonany o tym, ogłaszając automatyzację (lub, jak to często nazywano, cybernację) głównym wyzwaniem lat 60. w kraju, ze względu na groźbę, że pozbawi ona ludzi pracy.
Ale coś wykoleiło ekspres AI. Chociaż można było stworzyć komputery do obsługi prostych obiektów w kontrolowanym otoczeniu, nie potrafiły one żałośnie rozpoznawać złożonych obiektów w naturalnym świecie. Mikrofon potrafił rozróżniać poziomy dźwięku, ale nie podsumowywał tego, co zostało powiedziane; manipulator mógł podnieść czysty nowy przedmiot leżący w uporządkowanej szyku, ale nie stary brudny leżący w pomieszanej kupie. (Nie można też, w natchnionym przykładzie Marvina Minsky'ego, włożyć poduszki do poszewki na poduszkę.) Dziś o wiele bardziej martwimy się o konkurencję ze strony ludzi zza oceanu niż o konkurencję ze strony maszyn.
Chociaż postęp AI był wolniejszy niż oczekiwano, neurobiologia stała się znacznie bardziej wyrafinowana w zrozumieniu, jak działa mózg. Nigdzie nie jest to bardziej oczywiste niż w 37 laboratoriach kompleksu BCS w MIT. Grupy analizują tutaj ścieżki neuronowe większości wyższych funkcji poznawczych (i ich zaburzeń), w tym uczenie się, pamięć, organizację złożonych zachowań sekwencyjnych, tworzenie i przechowywanie nawyków, obrazowanie umysłowe, zarządzanie i kontrolę liczb, definiowanie celów i planowanie, przetwarzanie pojęć i przekonań oraz zdolność rozumienia tego, co myślą inni. Potencjalny wpływ tych badań może być ogromny. Odkrywanie, jak działa mózg – dokładnie jak to działa, jak wiemy, jak działa silnik – przepisałby prawie każdy tekst w bibliotece. Na początek zrewolucjonizowałby wymiar sprawiedliwości, edukację, marketing, wychowanie i leczenie wszelkiego rodzaju dysfunkcji psychicznych. (Earl Miller ma nadzieję, że badania przeprowadzone w jego laboratorium pomogą w opracowaniu terapii zaburzeń uczenia się.)
Taki postęp jest jednym z powodów, dla których niegdyś jasna granica między neurologią a sztuczną inteligencją zaczyna się zacierać w MIT – i to nie tylko w laboratorium Millera. Prowadzone w Instytucie badania wizyjne ilustrują również, w jaki sposób te dwie dyscypliny zaczynają współpracować. Dziedziny rozwijały się oddzielnie, mówi James DiCarlo, adiunkt neurobiologii, ale nie będą już dłużej rozdzielone. Obecnie badacze AI z wielkim zainteresowaniem śledzą postęp neuronauki i ideę
inżynieria mózgu nie jest już tak nieprawdopodobna, jak kiedyś się wydawało.
Zrozumienie rozpoznawania obiektów
Duża część pracy w laboratorium DiCarlo dotyczy rozpoznawania obiektów, co pozwala nam na identyfikację obiektu (np. krowy) w wielu różnych prezentacjach (krowy daleko, krowy oglądane z góry, krowy o świcie, krowa w ciężarówce) bez pomylenia go z podobnymi przedmiotami (jak, powiedzmy, koń). DiCarlo i doktorant David Cox opublikowali badania w sierpniu zeszłego roku w Neuronauka przyrody skupiało się na jednym z podstawowych pytań dotyczących rozpoznawania obiektów: w jakim stopniu nasz sukces w rozpoznawaniu obiektów zależy od wbudowanych, wrodzonych obwodów, a ile od wyuczonych umiejętności?
DiCarlo i Cox przeprowadzali każdy ze swoich eksperymentów na kilkunastu osobach, po jednej osobie na raz. Badani siedzieli przed sprzętem, który mógł zarówno wyświetlać obrazy obiektów, jak i śledzić kierunek spojrzenia badanych. Obiekty zostały wygenerowane komputerowo i wyglądały trochę jak antropomorfizowane zwierzęta, ale zostały zaprojektowane tak, aby nie były znane badanym. Obiekt pojawiałby się w jednej z trzech pozycji na ekranie, a podmiot w naturalny sposób przeniósłby na niego wzrok. Jednak w przypadku niektórych obiektów naukowcy zastępowali nowe obiekty, gdy badani poruszali oczami. Załóżmy na przykład, że obiekt, który wyglądał na przysadzisty, z sterczącymi uszami, został wprowadzony po prawej stronie ekranu, gdy obiekt skupiał się na środku. Gdy wzrok badanego przesunął się w kierunku przysadzistych i dziarski, naukowcy zastąpili obiekt tym, który wyglądał na nieco cieńszy, z bardziej obwisłymi uszami. Ponieważ ludzie są skutecznie niewidomi podczas zmiany spojrzenia, badani nie zauważyli zamiany. Ale ich mózgi tak.
Po godzinie lub dwóch ekspozycji na różne obiekty, z których niektóre były konsekwentnie zamieniane, gdy pojawiały się w określonych pozycjach, badanym prezentowano pary obiektów w różnych pozycjach na ekranie i proszono o ich porównanie. Można by oczekiwać, że badani bez większych trudności rozróżnią przedmioty. I tak się stało, z wyjątkiem sytuacji, gdy obiekty zostały zamienione – i teraz pojawiały się ponownie w tych samych pozycjach, w których nastąpiła zamiana. Badani mieli tendencję do mylenia tych obiektów: to znaczy, że częściej oceniali, że przysadzisty i żwawy w jednej pozycji, a chudy i zwisający w innej to ten sam obiekt. DiCarlo uważa, że takie błędy pokazują, że mechanizmy mózgu do rozpoznawania tego samego obiektu w różnych miejscach zależą od normalnych wrażeń wzrokowych w przestrzeni i czasie. Odkrycie sugeruje, że nawet podstawowe właściwości rozpoznawania obiektów mogą zostać rozwinięte poprzez wizualne doświadczenie w naszym świecie, mówi. DiCarlo i jego zespół przeprowadzają podobne eksperymenty na zwierzętach, aby zbadać wzorce aktywności neuronalnej, które leżą u podstaw rozpoznawania obiektów. (Dobry przykład tego badania został opublikowany w numerze Nauka czasopismo. DiCarlo i trzech współpracowników zarejestrowali i przeanalizowali aktywność setek neuronów w mózgach makaków. Byli w stanie wykazać, że wysoce wiarygodne informacje o tożsamości i kategorii obiektu są zawarte nawet w garstkach neuronów.)
Rozpoznawanie obiektów było jednym z głównych celów i głównym rozczarowaniem tradycyjnej sztucznej inteligencji. Chociaż widzenie maszynowe to prawdziwa branża, jej sukcesy odnosiły się do wąsko zdefiniowanych zastosowań w ściśle kontrolowanych warunkach, takich jak dekodowanie tablic rejestracyjnych, identyfikacja odcisków palców, rozpoznawanie drukowanych znaków i kontrola produktów (na przykład identyfikacja przypalonych chipsów ziemniaczanych w celu ich wysadzenia). z linii montażowej). Każdy system widzenia maszynowego widzi tylko określony rodzaj obiektu; na przykład maszyna czytająca tablice rejestracyjne nie byłaby w stanie zidentyfikować odcisków palców i na odwrót. Chociaż dzisiejsza technologia może być wystarczająco dobra, aby zapewnić nam maszyny, które rozpoznają każdą rzecz, większość miejsc pracy w większości branż – montaż, konserwacja, opieka zdrowotna, transport, bezpieczeństwo – wymaga większej wszechstronności. Pracownicy muszą być w stanie rozpoznać młotek, śrubokręt i klucz, pomimo różnic w oświetleniu, orientacji obiektów i otaczającego bałaganu. Niepowodzenie w zbudowaniu maszyn, które mogłyby to zrobić, jest szczególnie frustrujące, biorąc pod uwagę, że ptaki, takie jak wrony, i małe ssaki, takie jak szczury, rutynowo wykazują poziom umiejętności ogólnego rozpoznania, który wykracza daleko poza obecną technologię. Jest coś w tym, że nie jesteśmy w stanie zrobić maszyn tak inteligentnych jak my, co pociesza naszą próżność; ale brak możliwości uczynienia kogoś tak inteligentnym jak gołąb jest po prostu żenujący.
Dlatego od lat badacze AI pracują nad problemem kojarzenia wzorów wizualnych ze znaczeniami lub tożsamościami. Jest to jeden z obszarów, w których sztuczna inteligencja i neuronauka zbliżają się do siebie: neuronauka pracuje nad rolą mózgu w rozpoznawaniu obiektów, sztuczna inteligencja nad ogólną logiką tego, co każdy system musiałby zrobić, aby rozwiązać ten sam problem. Po dziesięcioleciach są już prawie w zasięgu rozmowy. DiCarlo zastanawia się, czy nie nadszedł czas, aby ochrzcić nową dyscyplinę, która czerpie z obu dziedzin, na przykład biologicznie inspirowane widzenie maszynowe.
Żaden uniwersytet nie zbliża się do tego skrzyżowania szybciej niż MIT, gdzie współpraca inżynierii i nauki jest misją instytucjonalną. I to, mówi DiCarlo, jest jednym z powodów, dla których trafił do MIT: spodziewa się, że rewolucja nastąpi tutaj.
Modelowanie natychmiastowe rozpoznanie
Uderzającą ilustrację poglądu DiCarlo można znaleźć w laboratoriach Tomaso Poggio. Współdyrektor Centrum Nauki Biologicznej i Obliczeniowej MIT, Poggio, pracuje nad wizją przez cztery dekady, najpierw w Instytucie Maxa Plancka w Tybindze w Niemczech, a następnie w laboratorium sztucznej inteligencji MIT (które stało się laboratorium informatyki i sztucznej inteligencji) oraz obecnie na Wydziale Nauk o Mózgu i Kognitywistyce. (Poggio współpracował z DiCarlo w eksperymentach z makakami opisanymi w Nauka .) Przez większą część tego czasu Poggio kierował jedną grupą badawczą zajmującą się neurologią i jedną grupą zajmującą się widzeniem maszynowym i nie widział powodu, aby łączyć je razem. Tak mało wiedzieliśmy, mówi. Zawsze myślałem, że błędem jest wiele oczekiwać od neurobiologii. Jednak ostatnie wyniki projektu przeprowadzonego przez doktora Thomasa Serre'a i Aude Oliva, adiunkta neurobiologii poznawczej w BCS, uczyniły go nawróconym.
Laboratorium Poggio koncentruje się obecnie na rodzaju rozpoznawania obiektów zwanym natychmiastowym rozpoznawaniem. Zjawisko to zostało po raz pierwszy opisane w 1969 roku w artykule wykładowcy MIT Mary Potter (obecnie profesor psychologii w BCS) i jej asystentki badawczej, Ellen Levy. Natychmiastowe rozpoznanie to najszybsza znana forma rozpoznawania. Badany w klasycznym eksperymencie z natychmiastowym rozpoznaniem siada przed wyświetlaczem i proszony jest o naciśnięcie jednego z dwóch klawiszy w odpowiedzi na każdy obraz w serii, w zależności od tego, czy zawiera on zwierzę, czy nie. Aby upewnić się, że patrzenie na jeden obraz nie pomaga przypadkowo badanym nauczyć się patrzeć na inne, badacze wybierają obrazy, które są bardzo różne: wiele gatunków, w wielu różnych pozach i perspektywach, na wielu różnych tłach. Zdjęcia pojawiają się i znikają w ciągu kilku dziesiątych sekundy. Na początku badania badany może nie mieć prawie żadnej świadomości, że pokazuje mu się obraz, nie mówiąc już o rozpoznawaniu tego, co na nim jest. Co jednak zaskakujące, ludzie częściej trafiają we właściwe klawisze. Stają się coraz lepsi – i stają się świadomi wyglądu obrazów – z praktyką. Mimo to na początku coś w mózgu jest w stanie rozpoznawać i kategoryzować obiekty, zanim podmiot jest świadomy, że cokolwiek widzi.
Natychmiastowe rozpoznawanie jest ważne dla badaczy, ponieważ jest to najprostszy możliwy przypadek ogólnego rozpoznawania obiektów. Zbyt szybko się angażuje w rekrutację wielu neuronów, intensywne przetwarzanie informacji lub wysyłanie i odbieranie impulsów na przestrzeni większej niż ułamek centymetra. Informacje z ruchów oczu, kluczowy element w innych rodzajach rozpoznawania (jak w pracy DiCarlo), nie mogą odgrywać żadnej roli. Jednak jakoś wciska się właściwe klawisze (przeważnie), co oznacza, że ograniczona forma rozpoznawania obiektów ogólnego przeznaczenia musi być możliwa przy użyciu stosunkowo małej liczby neuronów zorganizowanych w stosunkowo prosty sposób.
Opierając się na pracy, którą Poggio wykonał z Maxem Riesenhuberem, doktorem '00, następnie absolwentem MIT, a teraz profesorem na Georgetown University, Serre, Poggio i innymi w Poggio's
grupa opracowała teorię dotyczącą części kory wzrokowej odpowiedzialnej głównie za natychmiastowe rozpoznanie. Ich podejście do przetwarzania wizualnego różniło się pod wieloma względami od podejścia inżyniera widzenia maszynowego. Na przykład większość programów widzenia maszynowego zawiera jeden procesor wykonujący szereg instrukcji w kolejności po sobie, co jest architekturą znaną jako przetwarzanie szeregowe. Z drugiej strony mózg wykorzystuje przetwarzanie równoległe, podejście, w którym problem jest dzielony na wiele części, z których każda jest rozwiązywana osobno przez własny procesor, po czym wyniki są łączone lub integrowane w celu uzyskania jednego ogólnego wyniku – powiedzmy, percepcja krowy. Teoretycznie inżynierowie mogliby używać przetwarzania równoległego w programach widzenia maszynowego (i niektórzy próbowali), ale w praktyce rzadko jest oczywiste, jak rozwiązać problem w sposób, który umożliwia bezproblemowe ponowne połączenie gotowych elementów.
Wizja biologiczna rozwiązuje ten problem na kilka różnych sposobów. Jedna, według grupy Poggio, polega na zorganizowaniu przetwarzania wokół dwóch prostych operacji, a następnie naprzemiennych tych operacji w uporządkowany sposób przez warstwy neuronów. Warstwa A może filtrować podstawowe dane wejściowe z nerwu wzrokowego; warstwa B integrowałaby wyniki z wielu komórek w warstwie A; C odfiltruje dane wejściowe z B; D integruje wyniki z C; i tak dalej, może kilkanaście razy. Gdy sygnał wznosi się przez warstwy, wyjścia równoległych procesorów stopniowo łączą się, pojawia się tożsamość, a szum zanika.
Serre i Poggio wykorzystali tę technikę warstw, aby umożliwić ich modelowi przetwarzanie równoległe. Inną sztuczką, którą zapożyczyli z biologii, było zwiększenie liczby połączeń łączących ich podstawowe jednostki przełączające. Jednostki przełączające w konwencjonalnych komputerach mają bardzo mało połączeń, zwykle około trzech; neurony, podstawowe jednostki przełączające mózgu, mają tysiące, a nawet dziesiątki tysięcy. Serre i Poggio wyposażyli przełączniki logiczne w swoim modelu w biologicznie prawdopodobny stopień łączności. W przypadkach, w których nauka nie była jeszcze znana, poczynili założenia oparte na ich szerszym doświadczeniu z neuroanatomią.
Aby przetestować swoją teorię, Serre i Poggio opracowali program komputerowy natychmiastowego rozpoznawania, który analizuje obrazy cyfrowe. Gdy pliki obrazów cyfrowych są wprowadzane do programu, przechodzi je przez wiele naprzemiennych warstw filtrujących i integrujących komórki, szkoląc się w celu identyfikacji i klasyfikacji obrazów. Kluczem jest powolne budowanie złożoności, mówi Serre. Zbyt szybkie wprowadzanie inteligencji to duży błąd. Wczesne wysiłki AI mogły zbyt szybko skoncentrować się na tożsamości, wyrzucając informacje, które były kluczowe dla uzyskania właściwej odpowiedzi.
Podejście Serre i Poggio było spektakularnym sukcesem. Z neuronaukowego punktu widzenia niektóre z ich założeń okazały się przewidywać rzeczywiste cechy, takie jak obecność komórek (nazwijmy je komórkami OR), które wybierają najsilniejszy lub najbardziej spójny sygnał z grupy danych wejściowych i kopiują go do własnych włókna wyjściowe. (Wyobraź sobie grupę trzech neuronów, A, B i C, z których wszystkie wysyłają sygnały do OR neuron X. Gdyby te sygnały miały odpowiednio poziom 1, 2 i 3, X tłumiłby A i B i kopiował sygnał C do swojego Gdyby siły wynosiły 3, 2 i 1, zamiast tego skopiowałby sygnał A i stłumił sygnały B i C.)
Wyniki były równie dramatyczne z punktu widzenia AI. Kiedy ludzie i program natychmiastowego rozpoznawania Serre'a i Poggia wykonali test obecności/nieobecności zwierząt, komputer zrobił tak samo jak ludzie – i lepiej niż najlepsze dostępne programy widzenia maszynowego. (Rzeczywiście, w 82 procentach przypadków odpowiedź była prawidłowa, podczas gdy ludzie mieli średnio tylko 80 procent). Jest to prawie na pewno pierwszy przypadek ogólny -Program wizji działał równie dobrze jak ludzie.
Obiecujące wyniki sprawiają, że myślenie Poggio i Serre'a jest nie do poznania. Poggio podejrzewa, że model może równie dobrze odnosić się do percepcji słuchowej. Serre wysuwa jeszcze bardziej śmiałą spekulację: że ogólne rozpoznawanie obiektów jest podstawowym budulcem poznania. Być może dlatego mówimy „widzę”, kiedy chcemy wskazać, że coś rozumiemy.
Chociaż rozszerzenie ich teorii w tych nowych kierunkach będzie wymagało trochę pracy, model Serre'a i Poggio już zaczął rozprzestrzeniać się zarówno w społecznościach sztucznej inteligencji, jak i neuronauki w MIT. Absolwent elektrotechniki Stan Bileschi niedawno ukończył doktorat, który zastosował model do rozpoznawania scen, które jest pochodną osądów wyższego rzędu – to farma! – z rozpoznania odrębnych obiektów – stodoła, krowa, płot łuczkowy. Bileschi wierzy, że ogólna analiza sceny będzie miała kluczowe znaczenie dla wielu rzeczywistych zastosowań widzenia maszynowego – na przykład nadzoru.
Natychmiastowe rozpoznawanie jest podstawą ogólnego rozpoznawania wizualnego, mówi Poggio, ale to nie wszystko. Istnieje wiele poziomów rozpoznawania, a natychmiastowe rozpoznawanie jest jednym z najprostszych. W zależności od kontekstu, obiekt można zidentyfikować jako zabawkę, lalkę, Barbie, odbicie amerykańskiej kultury, kobietę, reprezentację dziewczyny z dziwnym zaburzeniem wzrostu i tak dalej, na długiej liście. Podobnie w zadaniach szachowych rozpoznanie właściwego ruchu może zająć sekundy, minuty lub godziny, w zależności od konfiguracji bierek. Przypuszczalnie, gdy problemy stają się coraz trudniejsze, ich rozwiązywanie wymaga rekrutacji wyższych poziomów funkcji mózgu – a to wymaga czasu.
Model natychmiastowego rozpoznawania może rozwiązać problemy ze wzrokiem, które utrudniały rozwój użytecznych robotów konserwacyjnych i budowlanych. A może okaże się, że jest to naprawdę przydatne, takie roboty muszą być w stanie rozpoznać zarówno anomalie w krajobrazie, jak i ich przyczyny. Ten rodzaj rozpoznania jest wyraźnie wyższego rzędu.
Następnym krokiem jest zbudowanie modeli rozpoznawania, które rekrutują coraz więcej zasobów, a tym samym wymagają dłuższego czasu przetwarzania. Wiemy, jak można zmienić model, aby uwzględnić czas, mówi Serre. To może przybliżyć nas do myślenia – tylko może.