Myślenie w krzemie

Wyobraź sobie osobę czytającą te słowa na laptopie w kawiarni. Maszyna wykonana z metalu, plastiku i krzemu zużywa około 50 watów energii podczas tłumaczenia bitów informacji — długiego ciągu jeden s i 0 s — we wzór kropek na ekranie. Tymczasem wewnątrz czaszki tej osoby lepka grudka białek, soli i wody wykorzystuje ułamek tej mocy nie tylko do rozpoznawania tych wzorów jako liter, słów i zdań, ale także do rozpoznawania piosenki odtwarzanej w radiu.

Ten chip komputerowy, wyprodukowany przez IBM w 2011 roku, zawiera komponenty, które służą jako 256 neuronów i 262144 synaps.

Komputery są niesamowicie nieefektywne w wielu zadaniach, które są łatwe nawet dla najprostszych mózgów, takich jak rozpoznawanie obrazów i nawigacja w nieznanych przestrzeniach. Maszyny znalezione w laboratoriach badawczych lub rozległych centrach danych mogą wykonywać takie zadania, ale są ogromne i energochłonne i wymagają specjalistycznego programowania. Niedawno Google trafiło na nagłówki gazet dzięki oprogramowaniu, które potrafi niezawodnie rozpoznawać twarze kotów i ludzi w klipach wideo, ale to osiągnięcie wymagało co najmniej 16 000 wydajnych procesorów.

Ta historia była częścią naszego wydania ze stycznia 2014

• Zobacz resztę numeru
• Subskrybuj

Nowa rasa chipów komputerowych, które działają bardziej jak mózg, może zawęzić przepaść między obliczeniami sztucznymi i naturalnymi — między obwodami, które przełamują logiczne operacje z niesamowitą szybkością, a mechanizmem udoskonalonym przez ewolucję, aby przetwarzać i działać na podstawie danych sensorycznych z prawdziwy świat. Postępy w neuronauce i technologii chipowej sprawiły, że praktyczne jest budowanie urządzeń, które, przynajmniej na małą skalę, przetwarzają dane tak, jak robi to mózg ssaków. Te neuromorficzne chipy mogą być brakującym elementem wielu obiecujących, ale niedokończonych projektów w dziedzinie sztucznej inteligencji, takich jak samochody, które jeżdżą niezawodnie w każdych warunkach, czy smartfony, które działają jako kompetentni asystenci konwersacji.

Współczesne komputery są dziedziczone po kalkulatorach, które są dobre do analizowania liczb, mówi Dharmendra Modha, starszy badacz w IBM Research w Almaden w Kalifornii. Mózgi ewoluowały w prawdziwym świecie. Modha kieruje jedną z dwóch grup, które zbudowały chipy komputerowe o podstawowej architekturze skopiowanej z mózgu ssaków w ramach wartego 100 milionów dolarów projektu o nazwie Synapsa , finansowany przez Agencję Zaawansowanych Projektów Badawczych Obrony Pentagonu.

Prototypy już pokazały wczesne iskry inteligencji, bardzo wydajnie przetwarzając obrazy i zdobywając nowe umiejętności w sposób przypominający uczenie biologiczne. IBM stworzył narzędzia, które pozwalają inżynierom oprogramowania programować te inspirowane mózgiem chipy; drugi prototyp, w HRL Laboratories w Malibu w Kalifornii, zostanie wkrótce zainstalowany w maleńkim samolocie-robocie, z którego nauczy się rozpoznawać swoje otoczenie.

Ewolucja chipów inspirowanych mózgiem rozpoczęła się na początku lat 80. wraz z Carverem Meadem, profesorem w California Institute of Technology i jednym z ojców nowoczesnych komputerów. Mead wyrobił sobie markę, pomagając w opracowaniu sposobu projektowania chipów komputerowych zwanego integracją na dużą skalę (VLSI), który umożliwił producentom tworzenie znacznie bardziej złożonych mikroprocesorów. To wywołało gwałtowny wzrost mocy obliczeniowej: komputery wyglądały na gotowe do tego, by stać się głównym nurtem, a nawet wszechobecne. Ale branża wydawała się szczęśliwa, budując je wokół jednego planu, pochodzącego z 1945 roku. Architektura von Neumanna, nazwana na cześć urodzonego na Węgrzech matematyka Johna von Neumanna, została zaprojektowana do wykonywania liniowych sekwencji instrukcji. Wszystkie dzisiejsze komputery, od smartfonów po superkomputery, mają tylko dwa główne elementy: jednostkę centralną (CPU) do manipulowania danymi oraz blok pamięci o dostępie swobodnym (RAM) do przechowywania danych i instrukcji, jak nimi manipulować . Procesor zaczyna od pobrania swojej pierwszej instrukcji z pamięci, a następnie danych potrzebnych do jej wykonania; po wykonaniu instrukcji wynik jest przesyłany z powrotem do pamięci i cykl się powtarza. Nawet wielordzeniowe chipy obsługujące dane równolegle są ograniczone do zaledwie kilku jednoczesnych procesów liniowych.

Podejście to rozwinęło się naturalnie z teoretycznej matematyki i logiki, gdzie problemy są rozwiązywane za pomocą liniowych łańcuchów rozumowania. Jednak nie nadawał się do przetwarzania i uczenia się na podstawie dużych ilości danych, zwłaszcza danych sensorycznych, takich jak obrazy lub dźwięk. Miał również wbudowane ograniczenia: aby zwiększyć moc komputerów, branża postawiła sobie za zadanie zbudowanie coraz bardziej złożonych chipów zdolnych do wykonywania coraz szybszych operacji sekwencyjnych, ale to postawiło inżynierów na kursie rozwiązywania poważnych problemów z wydajnością i chłodzeniem, ponieważ jest szybszy chipy wytwarzają więcej ciepła odpadowego. Mead, obecnie 79 lat i emerytowany profesor, już wtedy przeczuwał, że może być lepszy sposób. Im więcej o tym myślałem, tym bardziej czułem się niezręcznie, mówi, siedząc w biurze, które ma w Caltech. Zaczął marzyć o chipach przetwarzających wiele instrukcji – być może miliony – równolegle. Taki chip mógłby wykonywać nowe zadania, wydajnie obsługując duże ilości nieustrukturyzowanych informacji, takich jak obraz lub dźwięk. Mógłby być bardziej kompaktowy i efektywniej wykorzystywać energię, nawet gdyby był bardziej wyspecjalizowany do określonych zadań. Dowody na to, że było to możliwe, można było znaleźć latanie, bieganie i chodzenie dookoła. Jedyne przykłady masowo równoległych rzeczy, jakie mieliśmy, znajdowały się w mózgach zwierząt, mówi Mead.

Mózgi wykonują obliczenia równolegle, ponieważ znajdujące się w nich elektrycznie aktywne komórki, zwane neuronami, działają jednocześnie i nieprzerwanie. Związane w zawiłe sieci za pomocą nitkowatych wypustek, neurony wpływają na swoje impulsy elektryczne poprzez połączenia zwane synapsami. Kiedy informacja przepływa przez mózg, przetwarza dane jako zbiór kolców, które rozprzestrzeniają się przez jego neurony i synapsy. Rozpoznajesz słowa w tym akapicie, na przykład, dzięki szczególnemu wzorcowi aktywności elektrycznej w twoim mózgu, wywołanej sygnałem z twoich oczu. Co najważniejsze, sprzęt neuronowy jest również elastyczny: nowe dane wejściowe mogą powodować dostosowywanie się synaps, tak aby niektóre neurony miały większy lub mniejszy wpływ na inne, co stanowi podstawę uczenia się. Pod względem obliczeniowym jest to system masowo równoległy, który może się przeprogramować.

Jak na ironię, chociaż zainspirował konwencjonalne projekty, które przetrwały do ​​dziś, von Neumann również wyczuł potencjał komputerów inspirowanych mózgiem. W niedokończonej księdze Komputer i mózg , opublikowanej rok po jego śmierci w 1957 roku, zachwycał się rozmiarem, wydajnością i mocą mózgów w porównaniu z komputerami. Przekonywał, że głębsze matematyczne badania układu nerwowego… mogą zmienić sposób, w jaki patrzymy na matematykę i logikę. Kiedy Mead doszedł do tego samego wniosku ponad dwie dekady później, odkrył, że nikt nie próbował stworzyć komputera inspirowanego mózgiem. Nikt w tamtym czasie nie myślał: „Jak mam go zbudować?”, mówi Mead. Nie mieliśmy pojęcia, jak to działa.

Mead w końcu zbudował swoje pierwsze chipy neuromorficzne, kiedy ochrzcił swoje inspirowane mózgiem urządzenia w połowie lat 80., po współpracy z neurobiologami w celu zbadania, w jaki sposób neurony przetwarzają dane. Operując zwykłymi tranzystorami przy niezwykle niskich napięciach, mógł uporządkować je w sieci sprzężenia zwrotnego, które bardzo różniły się od kolekcji neuronów, ale działały w podobny sposób. Wykorzystał tę sztuczkę do emulowania obwodów przetwarzania danych w siatkówce i ślimaku, budując chipy, które wykonują sztuczki, takie jak wykrywanie krawędzi obiektów i cech w sygnale audio. Ale z chipami trudno było pracować, a wysiłek był ograniczony przez technologię wytwarzania chipów. Ponieważ obliczenia neuromorficzne wciąż były tylko ciekawostką, Mead zajął się innymi projektami. Wejście było trudniejsze, niż myślałem, zastanawia się. Mózg muchy nie wygląda na tak skomplikowany, ale robi rzeczy, których my do dziś nie potrafimy. To ci coś mówi.

Neurony w środku

Laboratorium IBM Almaden, niedaleko San Jose, znajduje się w pobliżu Doliny Krzemowej, ale poza nią — być może jest to idealne miejsce do przemyślenia podstaw branży komputerowej. Dotarcie tam obejmuje jazdę na wysadzaną magnolią ulicę na skraju miasta i wspinanie się po dwóch milach zakrętów. Laboratorium znajduje się pośród 2317 chronionych akrów łagodnych wzgórz. Wewnątrz badacze przemierzają długie, szerokie, ciche korytarze i rozmyślają nad problemami. Tutaj Modha przewodzi większemu z dwóch zespołów zrekrutowanych przez DARPA, aby przełamać zależność od von Neumanna w branży komputerowej. Podstawowe podejście jest podobne do Meada: zbuduj chipy krzemowe z elementów, które działają jak neurony. Ale korzysta z postępów w neuronauce i tworzeniu chipów. Czas jest wszystkim; To nie było w porządku dla Carvera, mówi Modha, który ma zwyczaj zamykania oczu, by myśleć, oddychać i zastanawiać się, zanim zacznie mówić.

IBM produkuje chipy neuromorficzne, używając kolekcji 6000 tranzystorów do emulacji impulsów elektrycznych neuronu, a następnie łącząc te krzemowe neurony razem. Strategia Modha polegająca na łączeniu ich w celu zbudowania systemu przypominającego mózg jest inspirowana badaniami kory mózgowej, pomarszczonej warstwy zewnętrznej. Chociaż różne części kory pełnią różne funkcje, takie jak kontrolowanie języka lub ruchu, wszystkie składają się z tak zwanych mikrokolumn, powtarzających się grup od 100 do 250 neuronów. Modha zaprezentował swoją wersję mikrokolumny w 2011 roku. Pyłek krzemu, niewiele większy niż główka od szpilki, zawierał 256 neuronów krzemowych i blok pamięci, który określa właściwości do 262 000 połączeń synaptycznych między nimi. Właściwe zaprogramowanie tych synaps może stworzyć sieć, która przetwarza informacje i reaguje na nie tak, jak robią to neurony w prawdziwym mózgu.

Ustawienie tego chipa do pracy nad problemem polega na zaprogramowaniu symulacji chipa na konwencjonalnym komputerze, a następnie przeniesieniu konfiguracji do prawdziwego chipa. W jednym eksperymencie chip mógł rozpoznać odręcznie napisane cyfry od 0 do 9, a nawet przewidzieć, którą liczbę ktoś zaczyna kreślić cyfrowym rysikiem. W innym sieć chipa została zaprogramowana do grania w wersję gry wideo Pong. W trzecim polecił małemu bezzałogowemu pojazdowi latającemu podążać za podwójną żółtą linią na drodze zbliżającej się do laboratorium IBM. Żadne z tych wyczynów nie jest poza zasięgiem konwencjonalnego oprogramowania, ale zostały one osiągnięte przy użyciu ułamka kodu, mocy i sprzętu, które normalnie byłyby wymagane.

Modha testuje wczesne wersje bardziej złożonego chipa, wykonanego z siatki rdzeni neurosynaptycznych ułożonych w rodzaj podstawowej kory – łącznie ponad milion neuronów. Zeszłego lata IBM ogłosił również neuromorficzną architekturę programowania opartą na modułowych blokach kodu zwanych coreletami. Intencją programistów jest łączenie i modyfikowanie coreletów z istniejącego wcześniej menu, aby uchronić ich przed zmaganiem się z krzemowymi synapsami i neuronami. Zaprojektowano już ponad 150 coreletów do zadań, od rozpoznawania ludzi na filmach po rozróżnianie muzyki Beethovena i Bacha.

Uczące się maszyny

Na innym zboczu wzgórza w Kalifornii, 300 mil na południe, druga część projektu DARPA ma na celu stworzenie chipów, które jeszcze bardziej naśladują mózg. HRL, która spogląda na Malibu u podnóża gór Santa Monica, została założona przez Hughes Aircraft i obecnie działa jako wspólne przedsięwzięcie General Motors i Boeing. Ze stawem koi, palmami i roślinami bananowymi, wejście przypomina hotel ze złotej ery Hollywood. Szczyci się również tablicą upamiętniającą pierwszy działający laser, zbudowany w 1960 roku w ówczesnym laboratorium Hughes Research Labs.

Mikrochip opracowany w HRL uczy się jak biologiczny mózg, wzmacniając lub osłabiając połączenia podobne do synaps.

Na ławce w laboratorium bez okien chip Narayana Srinivasy znajduje się pośrodku plątaniny przewodów. Aktywność jego 576 sztucznych neuronów pojawia się na ekranie komputera jako parada kolców, EEG dla krzemowego mózgu. Chip HRL ma neurony i synapsy, podobnie jak IBM. Ale podobnie jak neurony w twoim własnym mózgu, te na chipie HRL dostosowują swoje połączenia synaptyczne po wystawieniu na nowe dane. Innymi słowy, chip uczy się poprzez doświadczenie.

Chip HRL naśladuje dwa zjawiska uczenia się w mózgu. Jednym z nich jest to, że neurony stają się mniej lub bardziej wrażliwe na sygnały z innego neuronu, w zależności od tego, jak często te sygnały docierają. Drugi jest bardziej złożony: proces, który, jak się uważa, wspiera uczenie się i pamięć, znany jako plastyczność zależna od czasu skoku. Powoduje to, że neurony stają się bardziej wrażliwe na inne neurony, które w przeszłości miały tendencję do ścisłego dopasowania ich własnej aktywności sygnalizacyjnej. Jeśli grupy neuronów współpracują ze sobą konstruktywnie, połączenia między nimi wzmacniają się, podczas gdy mniej przydatne połączenia uśpione.

Wyniki eksperymentów z symulowanymi wersjami chipa są imponujące. Chip grał wirtualną grę w Ponga, podobnie jak chip IBM. Ale w przeciwieństwie do chipa IBM, HRL nie był zaprogramowany do grania w tę grę — tylko do poruszania wiosłem, wyczuwania piłki i otrzymywania informacji zwrotnych, które albo nagradzały udany strzał, albo karały chybienie. System 120 neuronów zaczął się wymachiwać, ale w ciągu około pięciu rund stał się utalentowanym graczem. Nie programujesz tego, mówi Srinivasa. Po prostu mówisz „Dobra robota”, „Zła robota”, a on domyśla się, co powinien robić. W przypadku dodania dodatkowych piłek, wioseł lub przeciwników, sieć szybko dostosowuje się do zmian.

Takie podejście może w końcu pozwolić inżynierom stworzyć robota, który potyka się przez swego rodzaju dzieciństwo, zastanawiając się, jak się poruszać i nawigować. Nie możesz uchwycić bogactwa wszystkich rzeczy, które dzieją się w rzeczywistym środowisku, więc powinieneś sprawić, by system zajął się tym bezpośrednio, mówi Srinivasa. Identyczne maszyny mogłyby wtedy włączyć wszystko to, czego nauczyła się oryginalna. Ale pozostawienie robotom pewnej zdolności do uczenia się po tym punkcie może być również przydatne. W ten sposób mogą przystosować się w razie uszkodzenia lub dostosować chód do różnych rodzajów terenu.

Pierwszy prawdziwy test tej wizji dla neuromorficznych obliczeń nadejdzie latem przyszłego roku, kiedy chip HRL ma uciec z ławki laboratoryjnej i polecieć samolotem wielkości dłoni z trzepoczącymi skrzydłami, zwanym Snipe. Gdy człowiek zdalnie pilotuje statek przez szereg pomieszczeń, chip pobierze dane z kamery statku i innych czujników. W pewnym momencie chip otrzyma sygnał, który oznacza Zwróć uwagę. Następnym razem, gdy Snajper odwiedzi to pomieszczenie, chip powinien włączyć światło, aby zasygnalizować, że pamięta. Przeprowadzenie tego rodzaju rozpoznania normalnie wymagałoby zbyt dużej mocy elektrycznej i obliczeniowej dla tak małego statku.

Inteligencja obcych

Pomimo skromnych, ale znaczących sukcesów chipów Synapse, nadal nie jest jasne, czy skalowanie tych chipów spowoduje powstanie maszyn o bardziej wyrafinowanych zdolnościach mózgowych. A niektórzy krytycy wątpią, czy inżynierowie kiedykolwiek będą w stanie skopiować biologię wystarczająco dokładnie, aby uchwycić te zdolności.

IBM wykorzystał tę symulację ścieżek neuronowych dalekiego zasięgu u makaków, aby pokierować projektowaniem chipów neuromorficznych.

Neurobiolog Henry Markram, który odkrył plastyczność zależną od synchronizacji impulsów, zaatakował prace Modha nad sieciami symulowanych neuronów, twierdząc, że ich zachowanie jest zbyt uproszczone. Uważa, że ​​skuteczne naśladowanie zdolności mózgu wymaga kopiowania synaps do skali molekularnej; Zauważa, że ​​na zachowanie neuronów wpływają interakcje dziesiątek kanałów jonowych i tysięcy białek, a ponadto istnieje wiele rodzajów synaps, z których wszystkie zachowują się w sposób nieliniowy lub chaotyczny. W opinii Markrama uchwycenie możliwości prawdziwego mózgu wymagałoby od naukowców włączenia wszystkich tych cech.

Zespoły DARPA twierdzą, że nie muszą uchwycić pełnej złożoności mózgów, aby wykonywać przydatne rzeczy, i że można oczekiwać, że kolejne generacje ich chipów zbliżą się do reprezentowania biologii. HRL ma nadzieję ulepszyć swoje chipy, umożliwiając neuronom krzemowym regulowanie ich własnej szybkości odpalania, tak jak robią to mózgi, a IBM okablowanie połączeń między rdzeniami w swoim najnowszym chipie neuromorficznym w nowy sposób, wykorzystując spostrzeżenia z symulacji połączeń między różnymi regiony kory makaka.

Modha wierzy, że te połączenia mogą być ważne dla funkcjonowania mózgu na wyższym poziomie. Jednak nawet po takich ulepszeniach te chipy nadal będą dalekie od bałaganu, złożonej rzeczywistości mózgów. Wydaje się mało prawdopodobne, że mikroczipy kiedykolwiek dopasują się do mózgu pod względem dopasowania 10 miliardów połączeń synaptycznych na jednym centymetrze kwadratowym, mimo że HRL eksperymentuje z gęstszą formą pamięci opartą na egzotycznych urządzeniach znanych jako memrystor.

Jednocześnie projekty neuromorficzne są nadal dalekie od większości komputerów, jakie mamy dzisiaj. Być może lepiej rozpoznać te chipy jako coś zupełnie innego — nową, obcą formę inteligencji.

Tradycyjne podejście polega na dodaniu większej mocy obliczeniowej i silniejszych algorytmów, ale to już się nie skaluje.

Mogą być obcy, ale szef strategii badawczej IBM, Zachary Lemnios, przewiduje, że wkrótce będziemy chcieli się z nimi zapoznać. Wiele dużych firm już odczuwa potrzebę nowego rodzaju inteligencji obliczeniowej, mówi: Tradycyjne podejście polega na dodaniu większej liczby możliwości obliczeniowych i silniejszych algorytmów, ale to po prostu nie daje się skalować i widzimy to. Jako przykłady podaje osobistego asystenta Siri firmy Apple i autonomiczne samochody Google. Te technologie nie są zbyt wyrafinowane, jeśli chodzi o rozumienie otaczającego ich świata, mówi Lemnios; Samochody Google do nawigacji w dużym stopniu polegają na wstępnie załadowanych danych map, podczas gdy Siri korzysta z odległych serwerów w chmurze w celu rozpoznawania głosu i przetwarzania języka, co powoduje zauważalne opóźnienia.

Dziś najnowocześniejsze oprogramowanie sztucznej inteligencji to dyscyplina znana jako głębokie uczenie, stosowana między innymi przez Google i Facebook. Polega na użyciu oprogramowania do symulacji sieci bardzo podstawowych neuronów na normalnej architekturze komputera (patrz 10 Przełomowe technologie: głębokie uczenie, maj/czerwiec 2013). Ale to podejście, w ramach którego powstało oprogramowanie Google do wykrywania kotów, opiera się na ogromnych klastrach komputerów, które uruchamiają symulowane sieci neuronowe i zasilają je danymi. Maszyny neuromorficzne powinny umożliwiać upakowanie takich wydziałów w kompaktowe, wydajne urządzenia w sytuacjach, w których połączenie z odległym centrum danych jest niepraktyczne. IBM prowadzi już rozmowy z klientami zainteresowanymi wykorzystaniem systemów neuromorficznych. Przetwarzanie wideo bezpieczeństwa i przewidywanie oszustw finansowych są na pierwszym miejscu, ponieważ oba wymagają złożonej nauki i rozpoznawania wzorców w czasie rzeczywistym.

Ilekroć i jakkolwiek zostaną zastosowane chipy neuromorficzne, najprawdopodobniej będzie to miało miejsce we współpracy z maszynami von Neumanna. Liczby nadal będą musiały być przetwarzane, a nawet w systemach borykających się z problemami, takimi jak analiza obrazów, łatwiej i wydajniej będzie mieć do dyspozycji konwencjonalny komputer. Chipy neuromorficzne można następnie wykorzystać do określonych zadań, tak jak mózg opiera się na różnych regionach wyspecjalizowanych do wykonywania różnych zadań.

Jak zwykle w całej historii informatyki, pierwsze takie systemy prawdopodobnie zostaną wdrożone w służbie wojska USA. Nie jest to ani mistyczne ani magiczne, mówi Gill Pratt, który zarządza projektem Synapse w DARPA, o neuromorficznych komputerach. To różnica architektoniczna, która prowadzi do innego kompromisu między energią a wydajnością. Pratt mówi, że w szczególności bezzałogowe statki powietrzne mogą skorzystać z tego podejścia. Neuromorficzne chipy potrafiły rozpoznawać punkty orientacyjne lub cele bez konieczności przesyłania dużych ilości danych i potężnych konwencjonalnych komputerów potrzebnych teraz do przetwarzania obrazów. Zamiast wysyłać wideo z grupą facetów, powiedziałby: „Na każdej z tych pozycji jest osoba – wygląda na to, że biegają” – mówi.

Ta wizja nowego rodzaju chipu komputerowego z pewnością rozpoznaliby zarówno Mead, jak i von Neumann.

ukryć