Dlaczego nawet mózg ćmy jest mądrzejszy od sztucznej inteligencji

Jedną z ciekawych cech głębokich sieci neuronowych stojących za uczeniem maszynowym jest to, że zaskakująco różnią się od sieci neuronowych w systemach biologicznych. Chociaż istnieją podobieństwa, niektóre krytyczne mechanizmy uczenia maszynowego nie mają odpowiednika w świecie przyrody, w którym uczenie się wydaje się przebiegać w inny sposób.

Różnice te prawdopodobnie wyjaśniają, dlaczego systemy uczenia maszynowego pozostają tak daleko w tyle za naturalnymi w niektórych aspektach wydajności. Owady, na przykład, potrafią rozpoznać zapachy już po kilku ekspozycjach. Z drugiej strony maszyny potrzebują ogromnych zestawów danych treningowych, aby się uczyć. Informatycy mają nadzieję, że lepsze zrozumienie naturalnych form uczenia się pomoże im zlikwidować tę lukę.

Wchodzi Charles Delahunt i jego współpracownicy z University of Washington w Seattle, którzy stworzyli sztuczną sieć neuronową, która naśladuje strukturę i zachowanie systemu uczenia się węchowego w piątek manduca ćmy. Twierdzą, że ich system dostarcza ważnych informacji na temat sposobu, w jaki uczą się naturalne sieci, z potencjalnymi implikacjami dla maszyn.

Najpierw trochę tła. System uczenia się węchu u ciem jest stosunkowo prosty i dobrze odwzorowany przez neuronaukowców. Składa się z pięciu odrębnych sieci, które przekazują informacje od jednej do drugiej.

Pierwszy to system około 30 000 receptorów chemicznych, które wykrywają zapachy i wysyłają dość hałaśliwy zestaw sygnałów na wyższy poziom, zwany płatkiem anteny. Zawiera około 60 jednostek, znanych jako kłębuszki, z których każda koncentruje się na określonych zapachach.

Płat anteny wysyła następnie neuronowe kody zapachowe do ciała grzyba, które zawiera około 4000 komórek Kenyona i uważa się, że koduje zapachy jako wspomnienia.

Na koniec wynik jest odczytywany przez warstwę neuronów zewnętrznych, których liczba wynosi dziesiątki. Interpretują one sygnały z ciała grzyba jako działania, takie jak lot pod wiatr.

Kilka aspektów tego systemu różni się całkowicie od tego, co można znaleźć w sieciach uczenia maszynowego. Na przykład, płatek anteny koduje informację w niskowymiarowej przestrzeni parametrów, ale wysyła ją do ciała grzybka, które koduje je w wysokowymiarowej przestrzeni parametrów. Natomiast warstwy w sztucznych sieciach neuronowych mają zwykle podobne wymiary.

U ciem pomyślne rozpoznanie zapachu uruchamia mechanizm nagrody, w którym neurony rozpylają chemiczny neuroprzekaźnik zwany oktopaminą do płata anteny i ciała grzyba.

To kluczowa część procesu uczenia się. Wydaje się, że oktopamina pomaga wzmocnić okablowanie nerwowe, które prowadzi do sukcesu. Jest to kluczowa część nauki Hebba, w której komórki, które razem strzelają, łączą się ze sobą. Rzeczywiście, neurobiolodzy od dawna wiedzą, że ćmy nie uczą się bez oktopaminy. Ale rola, jaką odgrywa, nie jest dobrze zrozumiana.

Nauka na maszynach jest zupełnie inna. Opiera się na procesie zwanym wsteczną propagacją, który modyfikuje połączenia neuronowe w sposób, który poprawia wyniki. Ale w tym procesie informacja zasadniczo podróżuje wstecz przez sieć i nie ma znanego odpowiednika w naturze.

Aby lepiej zrozumieć, w jaki sposób uczą się ćmy, Delahunt i wsp. stworzyli sztuczną sieć neuronową, która naśladuje zachowanie naturalnej. Skonstruowaliśmy kompleksowy model obliczeniowy piątek manduca Mówią, że system węchowy ćmy, który obejmuje interakcję płatka anteny i ciała grzyba pod wpływem stymulacji oktopaminy.

Model został specjalnie zaprojektowany, aby odtworzyć zachowanie systemu naturalnego na każdym poziomie. W szczególności model symuluje zaszumione sygnały generowane przez receptory zapachu oraz zmianę wymiarów w miarę przepływu informacji z płatka anteny do ciała grzyba, i zawiera analogię do roli, jaką odgrywa oktopamina.

A wyniki stanowią ciekawą lekturę. Model pokazuje, w jaki sposób receptory zapachów wytwarzają zaszumiony sygnał, który jest wstępnie wzmacniany przez płatek anteny. Jednak zmiana wymiaru w miarę przemieszczania się sygnału do korpusu grzybka powoduje usunięcie szumu, co pozwala systemowi generować określone, jednoznaczne sygnały działania, takie jak lot pod wiatr.

Wyraźniej wygląda też rola oktopaminy. Symulacje pokazują, że uczenie się może odbywać się bez oktopaminy, ale jest tak powolne, że praktycznie bezużyteczne. Oznacza to, że oktopamina działa jako potężny akcelerator uczenia się.

Ale jak to się dzieje, wciąż jest przedmiotem dyskusji. Delahunt i spółka mają własne pomysły. Sugerują, że być może jest to mechanizm, który pozwala ćmie omijać nieodłączne, organiczne ograniczenia hebbowskiego wzrostu nowych synaps, ograniczenia, które w przeciwnym razie ograniczyłyby ćmę do niedopuszczalnie powolnego tempa uczenia się.

Oktopamina ma też inną rolę. Uczenie Hebbowskie tylko wzmacnia połączenia, które już istnieją, a to rodzi pytanie, jak powstaje nowe okablowanie. Delahunt i spółka twierdzą, że oktopamina otwiera nowe kanały transmisyjne dla okablowania. Mówią, że rozszerza to przestrzeń rozwiązań, którą system może eksplorować podczas uczenia się.

A najbardziej imponujące jest to, że symulowana sieć uczy się w podobny sposób jak sieć naturalna. Nasz model jest w stanie solidnie uczyć się nowych zapachów, a nasze symulacje neuronów integrujących i odpalających odpowiadają cechom statystycznym danych o szybkości wypalania in vivo, mówią Delahunt i współpracownicy.

Ta praca, która może mieć znaczące implikacje dla projektowania syntetycznych sieci neuronowych, które muszą się szybko uczyć. Z perspektywy uczenia maszynowego model dostarcza inspirowanych biologicznie mechanizmów, które są potencjalnie przydatne w konstruowaniu sieci neuronowych do szybkiego uczenia się na bardzo niewielu próbkach - mówi zespół.

Tak więc sieci uczenia maszynowego przyszłości mogą wkrótce zawierać symulowane wersje oktopaminy i innych neuroprzekaźników.

Oczywiście nie chodzi tylko o uczenie się, że neuroprzekaźniki są ważne. Neuronaukowcy doskonale zdają sobie sprawę z roli, jaką odgrywają w emocjach, regulacji nastroju i tak dalej. Na tym polega kolejna ścieżka badań, którą zespoły zajmujące się uczeniem maszynowym będą zainteresowane zbadaniem.

Nr ref.: arxiv.org/abs/1802.02678 : Biologiczne mechanizmy uczenia się: model obliczeniowy uczenia się węchu u ćmy Manduca sexta z zastosowaniami w sieciach neuronowych

ukryć