211service.com
Nvidia pozwala zajrzeć do wnętrza czarnej skrzynki autonomicznej sztucznej inteligencji
Nvidia ma rozwinięty samojezdna sztuczna inteligencja, która pokazuje, jak to działa.
Jak wyjaśniliśmy w naszym najnowszym artykule z okładki „Mroczny sekret w sercu sztucznej inteligencji”, niektóre z najpotężniejszych dostępnych technik uczenia maszynowego powodują, że oprogramowanie jest prawie całkowicie nieprzejrzyste, nawet dla inżynierów, którzy je zbudowali. Podejścia, które dostarczają wskazówek, jak działa sztuczna inteligencja, będą zatem niezwykle ważne dla budowania zaufania do technologii, która wydaje się zrewolucjonizować wszystko, od medycyny po produkcję.
Nvidia dostarcza chipy, które idealnie nadają się do głębokiego uczenia, szczególnie potężnej techniki uczenia maszynowego (patrz 10 przełomowych technologii 2013: głębokie uczenie ).
Oprogramowanie sieci neuronowej Nvidii podkreśla obszary, na których się koncentruje, podejmując decyzje dotyczące jazdy.
Producent chipów również się rozwija systemy które pokazują, w jaki sposób producent samochodów może zastosować głębokie uczenie się w autonomicznej jeździe. Obejmuje to samochód, który jest całkowicie kontrolowany przez algorytm głębokiego uczenia. Co zdumiewające, komputer pojazdu nie ma żadnych zasad, którymi należy się kierować — po prostu dopasowuje dane z kilku kamer wideo do zachowania kierowcy i sam wymyśla, jak powinien jeździć. Jedynym haczykiem jest to, że system jest tak złożony, że trudno jest rozplątać, jak faktycznie działa.
Ale Nvidia pracuje nad otwarciem tej czarnej skrzynki. Opracował sposób wizualnego podkreślenia tego, na co zwraca uwagę system. Jak wyjaśniono w niedawno opublikowanym papier , architektura sieci neuronowej opracowana przez naukowców Nvidii została zaprojektowana w taki sposób, aby mogła uwydatnić te obszary obrazu wideo, które mają największy wpływ na zachowanie głębokiej sieci neuronowej samochodu. Co ciekawe, wyniki pokazują, że sieć koncentruje się na krawędziach dróg, oznaczeniach pasów i zaparkowanych samochodach – dokładnie na rzeczach, na które dobry kierowca chciałby zwrócić uwagę.
Rewolucyjne jest w tym to, że nigdy bezpośrednio nie powiedzieliśmy sieci, aby dbała o te rzeczy, Urs Muller, główny architekt Nvidii zajmujący się autonomicznymi samochodami, napisał w swoim artykule. post na blogu .
Nie jest to pełne wyjaśnienie, jak działa sieć neuronowa, ale to dobry początek. Jak mówi Muller: Nie potrafię wyjaśnić wszystkiego, czego potrzebuję do zrobienia samochodu, ale mogę to pokazać, a teraz może mi pokazać, czego się nauczył.
Tego rodzaju podejście może stać się coraz ważniejsze, ponieważ uczenie głębokie jest stosowane do niemal każdego problemu związanego z dużymi ilościami danych, w tym z krytycznych obszarów, takich jak medycyna, finanse i wywiad wojskowy.
Kilku badaczy akademickich również bada ten problem. Na przykład, Jeff Clune na Uniwersytecie Wyoming i Karol Guestrin na Uniwersytecie Waszyngtońskim (i Apple) znaleźli sposoby na podkreślenie części obrazów, które przechwytują systemy klasyfikacji. i Tommi Jaakola oraz Regina Barzilay w MIT opracowują sposoby dostarczania fragmentów tekstu, które pomagają wyjaśnić wnioski wyciągnięte z dużej ilości zapisanych danych.
Agencja ds. Badań Zaawansowanych Projektów Obronnych (DARPA), która prowadzi długoterminowe badania dla armii USA, finansuje kilka podobnych wysiłków badawczych w ramach programu, który nazywa Wyjaśnialna sztuczna inteligencja (XAI) .
Jednak poza szczegółami technicznymi fascynujące jest zastanowienie się, jak to się ma do ludzkiej inteligencji. Robimy różne rzeczy, których nie potrafimy w pełni wyjaśnić, a wymyślane przez nas wyjaśnienia są często tylko przybliżeniami lub opowieściami o tym, co się dzieje. Biorąc pod uwagę nieprzejrzystość dzisiejszych, coraz bardziej złożonych metod uczenia maszynowego, pewnego dnia możemy być zmuszeni do zaakceptowania takich wyjaśnień również ze strony sztucznej inteligencji.
(Źródła: Nvidia , Mroczna tajemnica w sercu sztucznej inteligencji , Wojsko USA chce , aby autonomiczne maszyny same się wyjaśniły )