211service.com
Świat finansów chce otworzyć czarne skrzynki AI
Potężne metody uczenia maszynowego szturmem podbiły świat technologii w ostatnich latach, znacznie poprawiając rozpoznawanie głosu i obrazu, tłumaczenie maszynowe i wiele innych.
Teraz te techniki mogą wywrócić do góry nogami niezliczone inne branże, w tym świat finansów. Ale postęp może być utrudniony przez poważny problem: często nie da się wyjaśnić, w jaki sposób te algorytmy głębokiego uczenia podejmują decyzję (zob. Mroczny sekret w sercu sztucznej inteligencji).
Adam Wenchel, wiceprezes ds. uczenia maszynowego i innowacji w zakresie danych w Capital One, mówi, że firma chciałaby wykorzystywać głębokie uczenie do wszelkiego rodzaju funkcji, w tym decydowania, komu zostanie przyznana karta kredytowa. Ale nie może tego zrobić, ponieważ prawo wymaga od firm wyjaśnienia potencjalnemu klientowi przyczyny takiej decyzji. Pod koniec ubiegłego roku Capital One stworzył zespół badawczy kierowany przez Wenchela, którego celem było znalezienie sposobów na lepsze wyjaśnienie tych technik komputerowych.
Nasze badania mają zapewnić, że będziemy mogli utrzymać ten wysoki poziom wyjaśnialności, gdy wciskamy się w te znacznie bardziej zaawansowane i z natury bardziej nieprzejrzyste modele, mówi.
Głębokie uczenie się pojawiło się w ciągu ostatnich pięciu lat jako potężny sposób naśladowania ludzkich zdolności percepcyjnych. Podejście obejmuje trenowanie bardzo dużej sieci neuronowej w celu rozpoznawania wzorców w danych. Jest luźno zainspirowany teorią o sposobie, w jaki neurony i synapsy ułatwiają uczenie się. Chociaż każdy symulowany neuron jest po prostu funkcją matematyczną, złożoność tych powiązanych ze sobą funkcji sprawia, że rozumowanie głębokiej sieci jest niezwykle trudne do rozwikłania.
Niektóre inne techniki uczenia maszynowego, w tym te, które w niektórych scenariuszach przewyższają uczenie głębokie, są znacznie bardziej przejrzyste. Jednak głębokie uczenie, które pozwala na zaawansowane analizy przydatne w branży finansowej, może być bardzo trudne do przesłuchania.
Niektóre start-upy starają się wykorzystać obawy dotyczące nieprzejrzystości istniejących algorytmów, obiecując stosowanie bardziej przejrzystych podejść (patrz Formuła kredytowa napędzana sztuczną inteligencją może pomóc Ci uzyskać pożyczkę ).
Kwestia ta może stać się bardziej istotna w ciągu najbliższych kilku lat, ponieważ uczenie głębokie stanie się powszechnie stosowane, a organy regulacyjne zwrócą uwagę na rozliczalność algorytmiczną. Od przyszłego roku, zgodnie z ogólnym rozporządzeniem o ochronie danych, Unia Europejska może wymagać, aby każda firma była w stanie wyjaśnić decyzję podjętą przez jeden z jej algorytmów.
Problem zwrócił również uwagę Agencji Zaawansowanych Projektów Badawczych Obrony, która prowadzi badania dla Departamentu Obrony USA. W zeszłym roku DARPA podjęła starania, aby sfinansować podejścia, dzięki którym uczenie maszynowe będzie mniej nieprzejrzyste (patrz: Wojsko USA chce, aby autonomiczne maszyny wyjaśniały się). Trzynaście projektów wybranych do finansowania przedstawia różne podejścia do zwiększania przejrzystości algorytmów.
Istnieje nadzieja, że głębokie uczenie można wykorzystać do wyjścia poza dopasowanie ludzkich zdolności percepcyjnych. Firma obsługująca karty kredytowe może na przykład wprowadzić historię kredytową i inne dane finansowe do głębokiej sieci i nauczyć ją rozpoznawania osób, które mogą nie wywiązywać się z płatności kartą kredytową.
Capital One również patrzy na głębokie uczenie jako sposób na bardziej niezawodne automatyczne wykrywanie fałszywych opłat, mówi Wenchel, chociaż firma nieufnie ufała takiemu systemowi, gdy nie można zbadać jego rozumowania. Działamy w silnie regulowanej branży – mówi. Musimy być w stanie wyjaśnić zarówno wewnętrznie, jak i ludziom, dlaczego podejmujemy decyzje. I upewnij się, że podejmujemy decyzje z właściwych powodów.
Głębokie uczenie to obecnie bardzo modne hasło, a poczyniono ogromne postępy w zakresie wizji komputerowej i przetwarzania języka naturalnego, mówi Trevor Darrell , profesor na UC Berkeley, który kieruje jednym z projektów wybranych do finansowania przez DARPA. Ale [systemy głębokiego uczenia] są krytykowane, ponieważ czasami trudno jest dowiedzieć się, co się w nich dzieje.
W ramach projektu DARPA grupa Darrella opracowuje kilka nowych podejść do głębokiego uczenia się, w tym bardziej złożone głębokie sieci zdolne do jednoczesnego uczenia się kilku rzeczy. Istnieją również podejścia, które zawierają wyjaśnienie w danych treningowych: na przykład w przypadku podpisów pod obrazami obraz sklasyfikowany jako kot byłby sparowany z wyjaśnieniem, dlaczego został jako taki sklasyfikowany. To samo podejście można zastosować do klasyfikowania opłat kartą kredytową jako oszustwa. Wszystkie te rzeczy prowadzą nas do bardziej zrozumiałych, głębokich sieci, mówi Darrell.