211service.com
Dyrektor Apple AI: oto jak wzmocnić głębokie uczenie
Dyrektor Apple ds. sztucznej inteligencji, Ruslan Salakhutdinov, uważa, że głębokie sieci neuronowe, które przyniosły spektakularne wyniki w ostatnich latach, mogą zostać wzmocnione w nadchodzących latach przez dodanie pamięci, uwagi i wiedzy ogólnej.
Przemawiając w Przegląd technologii MIT Podczas wtorkowej konferencji EmTech Digital w San Francisco Salakhutdinov powiedział, że te atrybuty mogą pomóc rozwiązać niektóre z nierozstrzygniętych problemów związanych ze sztuczną inteligencją.
Salakhutdinov, który zachowuje stanowisko jako profesor nadzwyczajny na Uniwersytecie Carnegie Mellon w Pittsburghu, w swoim przemówieniu wskazał na ograniczenia związane z widzeniem maszynowym opartym na głębokim uczeniu i rozumieniem języka naturalnego.
Głębokie uczenie — technika polegająca na użyciu ogromnej liczby z grubsza symulowanych neuronów ułożonych w wiele połączonych ze sobą warstw — przyniosła w ostatnich latach dramatyczny postęp w percepcji maszynowej, ale istnieje wiele sposobów ograniczania tych sieci.
Salakhutdinov pokazał na przykład, w jaki sposób oparte na technologii systemy dodawania napisów do obrazów mogą niepoprawnie oznaczać obrazy, ponieważ skupiają się na wszystkim, co znajduje się na obrazie. Następnie wskazał rozwiązanie w postaci tak zwanych mechanizmów uwagi, ulepszenie głębokiego uczenia się, które zostało opracowane w ciągu ostatnich kilku lat. Podejście może naprawić te błędy dzięki temu, że system skupia się na określonych częściach obrazu podczas stosowania różnych słów w podpisie. To samo podejście może również pomóc poprawić rozumienie języka naturalnego, umożliwiając maszynie skupienie się na odpowiedniej części zdania w celu wywnioskowania jego znaczenia.
Technika zwana sieci pamięci , opracowany przez naukowców z Facebooka, może poprawić sposób, w jaki maszyny rozmawiają z ludźmi. Jak sama nazwa wskazuje, podejście to dodaje składnik pamięci długotrwałej do sieci neuronowych, dzięki czemu pamiętają historię czatu.
Wykazano, że sieci pamięci poprawiają również inny rodzaj sztucznej inteligencji, znany jako uczenie się przez wzmacnianie. Na przykład dwóch badaczy z CMU pokazało niedawno, w jaki sposób może to stworzyć mądrzejszy algorytm gry . Naukowcy z DeepMind, spółki zależnej Alphabet zajmującej się sztuczną inteligencją, również wykazali sposoby budowania systemów głębokiego uczenia się i uzyskiwania do nich dostępu forma pamięci.
Uczenie się przez wzmacnianie szybko staje się cennym sposobem rozwiązywania trudnych do zaprogramowania problemów w robotyce i zautomatyzowanej jeździe. To był jeden z Przegląd technologii MIT 10 przełomowych technologii 2017 roku.
Innym ekscytującym obszarem przyszłych badań, powiedział Salakhutdinov, będzie znalezienie sposobów na połączenie ręcznie zbudowanych źródeł wiedzy z głębokim uczeniem się. Wskazał na bazy wiedzy ogólnej, takie jak Wolna baza i repozytoria słowne, takie jak WordNet .
Salakhutdinov powiedział, że podobnie jak ludzie w dużym stopniu polegają na ogólnej wiedzy podczas analizowania języka lub interpretacji sceny wizualnej, może to pomóc w ulepszeniu systemów sztucznej inteligencji. Jak możemy włączyć całą tę wcześniejszą wiedzę do głębokiego uczenia się? powiedział podczas swojej przemowy. To duże wyzwanie.
Salachutdinow przemawiał podczas sesji, która zgromadziła badaczy z kilku różnych szkół sztucznej inteligencji. Wspólnym tematem wśród prelegentów była potrzeba różnych podejść, aby przenieść sztuczną inteligencję na wyższy poziom.
Podczas sesji Piotr Niedziele , profesor na Uniwersytecie Waszyngtońskim, który bada różne podejścia do uczenia maszynowego, powiedział, że istnieje również potrzeba ciągłego poszukiwania zupełnie nowych podejść do sztucznej inteligencji. W uczeniu maszynowym istnieje taka szkoła myślenia, że nie potrzebujemy wymyślnych nowych algorytmów, potrzebujemy tylko więcej danych, powiedział. Myślę, że istnieją naprawdę głębokie, fundamentalne idee, które należy odkryć, zanim naprawdę będziemy mogli rozwiązać sztuczną inteligencję.