211service.com
Wojsko USA chce, aby autonomiczne maszyny same się wyjaśniły
Agenci wywiadu i wojskowi mogą w dużym stopniu polegać na uczeniu maszynowym, aby analizować ogromne ilości danych i kontrolować rosnący arsenał systemów autonomicznych. Ale wojsko USA chce się upewnić, że nie prowadzi to do ślepego zaufania do żadnego algorytmu.
Agencja Obronnych Zaawansowanych Projektów Badawczych (DARPA), oddział Departamentu Obrony, który bada nowe technologie, finansuje kilka projektów, które mają na celu wyjaśnienie sztucznej inteligencji. Podejścia sięgają od dodawania kolejnych systemów uczenia maszynowego nastawionych na dostarczanie wyjaśnień, po opracowywanie nowych podejść do uczenia maszynowego, które obejmują wyjaśnianie na etapie projektowania.
Mamy teraz prawdziwą eksplozję sztucznej inteligencji, mówi David Gunning, menedżer programu DARPA, który finansuje wysiłki na rzecz opracowania technik sztucznej inteligencji, które zawierają pewne wyjaśnienie ich rozumowania. Powodem tego jest głównie uczenie maszynowe, a w szczególności uczenie głębokie.
Głębokie uczenie i inne techniki uczenia maszynowego szturmem podbiły Dolinę Krzemową, znacznie poprawiając rozpoznawanie głosu i klasyfikację obrazów, i są używane w coraz większej liczbie kontekstów, w tym w dziedzinach takich jak organy ścigania i medycyna, w których konsekwencje błędu mogą bądź poważny. Ale chociaż uczenie głębokie jest niewiarygodnie dobre w znajdowaniu wzorców w danych, zrozumienie, w jaki sposób dochodzi do konkluzji, może być niemożliwe. Proces uczenia się jest matematycznie bardzo złożony i często nie ma możliwości przełożenia tego na coś, co dana osoba zrozumie.
I chociaż głębokie uczenie jest szczególnie trudne do zinterpretowania, inne techniki uczenia maszynowego również mogą stanowić wyzwanie. Modele te są bardzo nieprzejrzyste i trudne do interpretacji przez ludzi, zwłaszcza jeśli nie są ekspertami w dziedzinie sztucznej inteligencji, mówi Gunning.
Głębokie uczenie jest szczególnie tajemnicze ze względu na swoją niesamowitą złożoność. Jest z grubsza zainspirowany procesem, w którym neurony w mózgu uczą się w odpowiedzi na dane wejściowe. Wiele warstw symulowanych neuronów i synaps jest oznaczonych jako dane, a ich zachowanie jest dostosowywane, dopóki nie nauczą się rozpoznawać, powiedzmy, kota na zdjęciu. Jednak model wyuczony przez system jest zakodowany w wagach wielu milionów neuronów i dlatego jest bardzo trudny do zbadania. Kiedy sieć głębokiego uczenia rozpoznaje na przykład kota, nie jest jasne, czy system może skupiać się na obrazie na wąsach, uszach, a nawet kocie.
Często może to nie mieć większego znaczenia, jeśli model uczenia maszynowego jest nieprzejrzysty, ale nie dotyczy to oficera wywiadu próbującego zidentyfikować potencjalny cel. Istnieje kilka krytycznych zastosowań, w których potrzebne jest wyjaśnienie, mówi Gunning.
Gunning dodaje, że wojsko opracowuje niezliczone systemy autonomiczne, które niewątpliwie będą w dużym stopniu polegać na technikach uczenia maszynowego, takich jak uczenie głębokie. Jak mówi, w nadchodzących latach pojazdy autonomiczne i drony będą coraz częściej wykorzystywane.
Wyjaśnialność jest ważna nie tylko dla uzasadniania decyzji. Pomoże to zapobiec sytuacji, w której coś pójdzie nie tak. System klasyfikacji obrazów, który nauczył się skupiać wyłącznie na fakturze do klasyfikacji kotów, może zostać oszukany przez futrzany dywan. Oferowanie wyjaśnień może więc pomóc naukowcom wzmocnić ich systemy i zapobiec popełnianiu błędów przez tych, którzy na nich polegają.
DARPA finansuje 13 różnych grup badawczych, które stosują szereg podejść, aby uczynić sztuczną inteligencję bardziej zrozumiałą.
Jeden zespół wybrany do finansowania pochodzi z Charles River Analytics, firmy, która opracowuje zaawansowane technologicznie narzędzia dla różnych klientów, w tym wojska USA. Zespół ten bada nowe systemy głębokiego uczenia się, które zawierają wyjaśnienia, takie jak te, które podkreślają obszary obrazu, które wydają się najbardziej istotne dla klasyfikacji. Naukowcy eksperymentują również z interfejsami komputerowymi, które uwydatniają działanie systemów uczenia maszynowego za pomocą danych, wizualizacji, a nawet wyjaśnień w języku naturalnym.
Xia Hu , profesor na Texas A&M University, który kieruje innym zespołami wybranymi do finansowania, mówi, że problem jest ważny również w innych obszarach, w których wdraża się uczenie maszynowe, takich jak medycyna, prawo i edukacja. Bez jakiegoś wyjaśnienia lub uzasadnienia eksperci dziedzinowi nie będą ufać wynikom, mówi Hu. To główny powód, dla którego wielu ekspertów domenowych odmawia przyjęcia uczenia maszynowego lub głębokiego uczenia się.