Szybkie przyspieszanie algorytmów AI przy użyciu chipów zasilanych światłem

SM. technika; Chip autorstwa Bena Davisa, RO

Wewnątrz małego laboratorium w bostońskiej dzielnicy portowej, w gąszczu laserów, soczewek, luster i plątaniny przewodów znajduje się maleńki chip, który może mieć duży wpływ na świat sztucznej inteligencji.

Laboratorium należy do Lightelligence , startup, który opracowuje radykalnie nowy rodzaj akceleratora AI. Zamiast wykorzystywać elektrony do przeprowadzania podstawowych obliczeń matematycznych potrzebnych do uczenia maszynowego, prototypowe urządzenie firmy wykorzystuje światło.

Teoretycznie przesyłanie informacji z prędkością światła oznacza, że ​​takie urządzenie może pozwolić algorytmom AI działać setki razy szybciej niż dzisiejsze najlepsze chipy AI. Ponieważ czysta moc komputera ma tak duże znaczenie w uczeniu maszynowym, może to oznaczać znacznie potężniejsze i bardziej wydajne algorytmy. W praktyce jednak szybkość układu optycznego będzie zależeć od tego, jak szybko może on wchodzić w interakcje z konwencjonalnymi komponentami, takimi jak pamięć komputera. A Lightelligence musi napisać algorytmy, które mogą wycisnąć z konfiguracji tak dużą prędkość, jak to tylko możliwe.

Głębokie uczenie, podejście do uczenia maszynowego luźno inspirowane sposobem, w jaki mózgi są połączone, w ostatnich latach podbiło branżę technologiczną jak burza. Okazała się niezwykle skuteczna w przypadku maszyn szkoleniowych do wykonywania wartościowych zadań, takich jak oznaczanie obrazów i tłumaczenie tekstu. Tymczasem firmy ścigają się, aby wdrożyć tę metodę na coraz bardziej użyteczne sposoby.

Rozwój głębokiego uczenia już wywołał boom w działalności komercyjnej wokół nowych projektów chipów zoptymalizowanych pod kątem kluczowych obliczeń matematycznych. Teraz wydaje się, że inspiruje również fundamentalnie różne podejścia do informatyki.

Niedawno odwiedziłem Lightelligence, aby spotkać się z jej dyrektorem generalnym, Yichen Shen, pewnym siebie mężczyzną po dwudziestce. Ubrany w polarowy sweter i szeroki uśmiech przedstawił każdego z kilkunastu pracowników firmy, a następnie oprowadził mnie po laboratorium.

Arash Hosseinzadeh z Lightelligence pracuje na stanowisku optycznym w laboratorium firmy.

Światło ma kluczowe zalety dla sztucznej inteligencji, wyjaśnił Shen. Fotony są szybsze niż elektrony, a ich ruch przez układ scalony nie spowoduje jego przegrzania. Ale komputery ze światłem są również bardzo trudne. Poprzednie próby zbudowania optycznych chipów komputerowych nie powiodły się, ponieważ trudno jest optycznie emulować tranzystor, a światło zachowuje się w mniej przewidywalny sposób.

Ale równanie zmienia się w erze głębokiego uczenia się, mówi Shen. Chipy optyczne są dobrze przystosowane do wykonywania mnożenia macierzy, obliczeń, które są kluczowe dla głębokiego uczenia. Sieci neuronowe są również z natury liniowe, a to właśnie w obliczeniach liniowych wyróżniają się urządzenia optyczne.

Shen mówi, że on i jego koledzy z Lightelligence wysłali niedawno swój pierwszy sfinalizowany projekt chipa do producenta i spodziewają się, że pierwsze chipy będą z powrotem w ciągu kilku tygodni. Uważamy, że to wyjątkowa i ciekawa okazja do przetestowania tego pomysłu – mówi.

Naukowcy badają wszelkiego rodzaju nowe możliwości w materiałach i optyce. Na początku tego roku zespół naukowców z UCLA opracował nowatorskie urządzenie do głębokiego uczenia się, stworzone przez drukowanie 3D różnych polimerów refrakcyjnych. Szczegóły urządzenia zespołu, nazwanego dyfrakcyjną głęboką siecią neuronową (D2NN), były opublikowany w czasopiśmie Science .

To nieintuicyjny aspekt głębokiego uczenia się zmienił sposób, w jaki patrzymy na projektowanie fizyczne i optoelektroniczne. Niektóre z nich prowadzą do nowych sposobów obliczania, mówi Aydogan Ozcan , profesor na UCLA, który kierował pracą. Część z nich prowadzi do projektowania komponentów, systemów, które działają inaczej niż tradycyjne systemy.

Komercjalizacja technologii może być teraz również bardziej praktyczna niż wcześniej.

Dan Hutchinson, analityk VLSI Research, który śledzi innowacyjne projekty układów, mówi, że zainteresowanie nowatorskimi układami optycznymi rośnie dzięki postępowi w projektowaniu i produkcji urządzeń wykorzystywanych do tworzenia sieci. Chipy optyczne są też stosunkowo łatwe i tanie w wykonaniu, co obniża barierę wejścia dla startupów – mówi.

Lightelligence wciąż jednak będą musiały stawić czoła dużym wyzwaniom. Zhangxi Tan, weteran branży chipowej i dyrektor generalny innego startupu chipowego, NASZA Technologia , mówi, że nawet jeśli chip będzie działał zgodnie z obietnicą, może okazać się trudny do wyprodukowania na dużą skalę. Wyzwaniem będzie spakowanie i przetestowanie całkowicie nowego projektu chipa, zwłaszcza gdy nie ma dobrego narzędzia do projektowania oprogramowania dla takiego urządzenia optycznego. Światło jest bardzo eleganckie na papierze, ale otaczające je obwody elektroniczne — sterowniki laserowe, obwody odbiornika fotonów, modulatory elektroniczne — są bardzo brzydkie — mówi Tan.

Niemniej jednak wysiłek idzie szybko.

Tylko w zeszłym roku Shen był doktorantem badającym materiały fotoniczne w laboratorium Marin Soljacic w MIT. Wraz z Soljacic i kilkoma innymi uczniami, on opublikował artykuł w czasopiśmie Nature Photonics opisującym nowy sposób wykonywania obliczeń w sieciach neuronowych z wykorzystaniem interferencji optycznej. Pomysł na firmę zrodził się jeszcze przed opublikowaniem gazety, dzięki telefonowi od inwestora venture capital z Zachodniego Wybrzeża.

Firma ma również rywala z rodzeństwa. Lightelligence powstało, gdy Shen i inni uciekli z firmy o nazwie Lightmatter. Dyrektor generalny Lightmatter jest jednym ze współautorów oryginalnego artykułu Shena, a firma ta zebrała podobne kwoty funduszy na swój własny optyczny układ do głębokiego uczenia się. Być może zdrowa rywalizacja może pomóc przyspieszyć rozwój technologii.

Przed nami znaczne przeszkody, ale jeśli jedna z tych firm może je pokonać, może to tylko rozświetlić świat sztucznej inteligencji.

ukryć