211service.com
Wojsko USA chce nauczyć sztuczną inteligencję podstawowego zdrowego rozsądku
MŁOTEK: DAWID; TELEFON: ANDRIWIDODO; BANAN: BEN DAVIS | Projekt rzeczownika
Gdziekolwiek zostanie zastosowana sztuczna inteligencja, przekonasz się, że zawiodła w jakiś zabawny sposób. Weź dziwne błędy wykonane przez algorytmy tłumaczące, które mylą posiadanie kogoś na obiad z… no cóż, posiadanie kogoś na obiad.
Ale ponieważ sztuczna inteligencja jest wykorzystywana w coraz bardziej krytycznych sytuacjach, takich jak prowadzenie autonomicznych samochodów, stawianie diagnoz medycznych lub wyciąganie wniosków na temat życia lub śmierci na podstawie informacji wywiadowczych, te awarie nie będą już śmiechem. Dlatego DARPA , ramię badawcze armii amerykańskiej, zajmuje się najbardziej podstawową wadą sztucznej inteligencji: nie ma ona zdrowego rozsądku.
Zdrowy rozsądek to ciemna materia sztucznej inteligencji, mówi Oren Etzioni, dyrektor generalny Instytut Allena ds. AI , badawcza organizacja non-profit z siedzibą w Seattle, która bada ograniczenia tej technologii. To trochę niewysłowione, ale widać jego wpływ na wszystko.
Nowy program Machine Common Sense (MCS) firmy DARPA przeprowadzi konkurs, w którym algorytmy sztucznej inteligencji będą miały sens w pytaniach takich jak to:
Uczeń umieszcza dwie identyczne rośliny w tym samym rodzaju i ilości gleby. Daje im taką samą ilość wody. Umieszcza jedną z tych roślin przy oknie, a drugą w ciemnym pokoju. Roślina w pobliżu okna będzie produkować więcej (A) tlenu (B) dwutlenku węgla (C) wody.
Program komputerowy wymaga zrozumienia sposobu działania fotosyntezy, aby poradzić sobie z tym pytaniem. Samo zasilenie maszyny wieloma wcześniejszymi pytaniami nie rozwiąże problemu niezawodnie.
Te testy porównawcze będą koncentrować się na języku, ponieważ może on tak łatwo wyłączać maszyny i ponieważ sprawia, że testowanie jest stosunkowo proste. Etzioni mówi, że pytania oferują sposób na zmierzenie postępu w kierunku zrozumienia zdrowego rozsądku, co będzie kluczowe.
Firmy technologiczne zajmują się komercjalizacją technik uczenia maszynowego, które są potężne, ale zasadniczo ograniczone. Na przykład głębokie uczenie umożliwia rozpoznawanie słów w mowie lub obiektów na obrazach, często z niezwykłą dokładnością. Jednak podejście to zazwyczaj polega na przesyłaniu dużych ilości oznaczonych danych — nieprzetworzonego sygnału audio lub pikseli obrazu — do dużej sieci neuronowej. System może nauczyć się wybierać ważne wzorce, ale może łatwo popełniać błędy, ponieważ nie ma pojęcia o szerszym świecie.
W przeciwieństwie do tego, ludzkie dzieci szybko rozwijają intuicyjne rozumienie świata, które służy jako podstawa ich inteligencji.
Nie jest jednak oczywiste, jak rozwiązać problem zdrowego rozsądku. Poprzednie próby pomocy maszynom w zrozumieniu świata koncentrowały się na ręcznym budowaniu dużych baz danych. To nieporęczne i zasadniczo niekończące się zadanie. Najbardziej znanym takim przedsięwzięciem jest: Cyc projekt, nad którym prace trwają od dziesięcioleci.
Problem może okazać się niezwykle istotny. W końcu brak zdrowego rozsądku jest katastrofalny w pewnych krytycznych sytuacjach i ostatecznie może powstrzymać sztuczną inteligencję. DARPA ma historię inwestowania w podstawowe badania nad sztuczną inteligencją. Poprzednie projekty przyczyniły się do powstania dzisiejszych autonomicznych samochodów, a także najsłynniejszego osobistego asystenta obsługiwanego głosem, Siri.
Brak zdrowego rozsądku uniemożliwia inteligentnemu systemowi zrozumienie swojego świata, naturalną komunikację z ludźmi, rozsądne zachowywanie się w nieprzewidzianych sytuacjach i uczenie się na nowych doświadczeniach, powiedział Dave Gunning, kierownik programu w DARPA, w oświadczeniu wydanym dziś rano. Ta nieobecność jest prawdopodobnie najważniejszą barierą między wąsko skoncentrowanymi aplikacjami AI, które mamy dzisiaj, a bardziej ogólnymi aplikacjami AI, które chcielibyśmy stworzyć w przyszłości.