Neurony nadprzewodzące mogą odpowiadać wydajności energetycznej mózgu

Świecąca ilustracja koncepcyjna mózgu Getty

Ludzki mózg jest zdecydowanie najbardziej imponującym urządzeniem obliczeniowym znanym nauce. Mózg działa z szybkością zegara zaledwie kilku herców, podobnie jak w przypadku nowoczesnych mikroprocesorów, które działają z szybkością gigahercową.

Ale swoją moc uzyskuje, wykonując jednocześnie wiele obliczeń — miliard miliardów obliczeń na sekundę. Ta równoległość pozwala z łatwością rozwiązywać problemy, z którymi konwencjonalne komputery nie mają jeszcze do czynienia: jazda samochodem, chodzenie, rozmowa i tak dalej.

Jeszcze bardziej imponujące jest to, że robi to wszystko za pomocą niewiele więcej niż miski owsianki. Z kolei najpotężniejsze superkomputery na świecie zużywają więcej energii niż duże miasta.

Właśnie dlatego informatycy chcą skopiować wydajność obliczeniową ludzkiego mózgu za pomocą sieci neuronowych jako obliczeniowych koni roboczych.

Łatwiej powiedzieć niż zrobić. Zwykłe chipy można zaprogramować tak, aby zachowywały się jak sieci neuronowe, ale jest to wymagające obliczeniowo i pochłaniające energię.

Zamiast tego informatycy chcą budować sztuczne neurony i łączyć je w sieci podobne do mózgu. To może być znacznie bardziej energooszczędne, ale nikt nie wymyślił projektu, który byłby zbliżony do wydajności mózgu.

Do dzisiaj. Oto Emily Toomey z MIT i kilku współpracowników, którzy zaprojektowali nadprzewodnikowy neuron wykonany z nanoprzewodów, który pod wieloma względami zachowuje się jak prawdziwy. Twierdzą, że ich urządzenie odpowiada wydajności energetycznej mózgu (przynajmniej teoretycznie) i jest elementem budulcowym nowej generacji nadprzewodzących sieci neuronowych, które będą znacznie wydajniejsze niż konwencjonalne maszyny obliczeniowe.

Najpierw trochę tła. Neurony kodują informacje w postaci impulsów elektrycznych lub potencjałów czynnościowych, które przemieszczają się wzdłuż nerwu. W sieciach podobnych do mózgu neurony są oddzielone od siebie szczelinami zwanymi synapsami.

Informacje mogą przeskakiwać przez te synapsy, wpływając w ten sposób na inne neurony, powodując ich odpalanie lub hamując je w sposób uniemożliwiający ich odpalenie. Rzeczywiście, pozwala to neuronom działać jak bramki logiczne, wytwarzając pojedyncze wyjście w odpowiedzi na wiele wejść.

Neurony biologiczne mają szereg ważnych właściwości, które to umożliwiają. Na przykład nie odpalają, dopóki sygnał wejściowy nie przekroczy pewnego poziomu progowego, i nie mogą odpalić ponownie, dopóki nie minie pewien czas, zwany okresem refrakcji. Ważny jest również czas, w którym kolec przemieści się wzdłuż aksonu — ciała neuronu — ponieważ koduje on odległość, jaką przebył kolec.

Sztuczny neuron musi być w stanie odtworzyć jak najwięcej z tych cech. To zwykle wymaga skomplikowanych obwodów.

Ale Toomey i współpracownicy wskazują, że nadprzewodnikowe nanodruty mają szczególną nieliniową właściwość, która pozwala im zachowywać się jak neurony. Ta właściwość pojawia się, ponieważ nadprzewodnictwo nanodrutu załamuje się, gdy przepływający przez niego prąd przekracza pewną wartość progową.

Kiedy tak się dzieje, rezystancja nagle wzrasta, tworząc impuls napięciowy. Ten impuls jest analogiczny do potencjału czynnościowego w neuronie. Wykorzystanie go do modulowania kolejnego impulsu wytwarzanego przez drugi nadprzewodnikowy nanodrut sprawia, że ​​symulacja jest jeszcze bardziej realistyczna.

W ten sposób powstaje prosty obwód nadprzewodzący, który ma wiele właściwości neuronów biologicznych. Toomey i współpracownicy wykazali, że neuron nadprzewodzący ma próg wyzwalania, okres refrakcji i czas podróży, który można regulować między innymi zgodnie z właściwościami obwodu.

Co najważniejsze, ten nadprzewodzący neuron może być również używany do wyzwalania lub hamowania innych neuronów. A ta właściwość fanout jest kluczem do tworzenia sieci. To jest coś, czego inne konstrukcje neuronów nadprzewodzących nigdy nie były w stanie osiągnąć.

A ponieważ obwody nadprzewodnikowe zużywają bardzo mało energii, jak sugerują obliczenia Toomey i spółka, ten rodzaj nadprzewodzącej sieci neuronowej może odpowiadać wydajności biologicznych sieci neuronowych.

Liczbą zasług jest liczba operacji synaptycznych, które sieć neuronowa może wykonać w ciągu jednej sekundy przy użyciu wata mocy. Toomey i spółka twierdzą, że ich proponowana sieć powinna być w stanie dopasować ludzki mózg do zarządzania około 1014 operacjami synaptycznymi na sekundę na wat. Mówią, że neuron nanoprzewodowy może być wysoce konkurencyjną technologią z perspektywy mocy i szybkości.

Oczywiście są ograniczenia. Być może najważniejsze jest to, że neuron nadprzewodzący może łączyć się tylko z garstką innych neuronów. Z kolei każdy neuron w ludzkim mózgu łączy się z tysiącami sąsiadów. I w tej chwili projekt Toomey and co pozostaje właśnie takim – projektem.

Mimo to symulacje są obiecujące. Przeprowadzona tutaj analiza sugeruje, że neuron z nanoprzewodów jest obiecującym kandydatem do rozwoju sztucznych sieci neuronowych o małej mocy - mówi zespół.

A potencjał jest znaczny. Toomey i współautorzy twierdzą, że nadprzewodnikowe sieci neuronowe mogą być podstawą zupełnie nowego sprzętu komputerowego w postaci nadprzewodzących sieci neuronowych. Te chipy mogłyby być połączone w sieć za pomocą nadprzewodzących połączeń, co nie powodowałoby rozpraszania ciepła.

Wynikiem byłby wielkoskalowy procesor neuromorficzny, który można by wytrenować jako impulsową sieć neuronową do wykonywania zadań takich jak rozpoznawanie wzorców lub wykorzystać do symulacji dynamiki impulsów dużej, realistycznej biologicznie sieci.

To interesująca praca, chociaż wymaga demonstracji zgodności z zasadami, zanim emocje zaczną narastać.

Nr ref.: arxiv.org/abs/1907.00263 : Energooszczędny sztuczny neuron wykorzystujący nadprzewodnikowe nanodruty

ukryć