Google i inni budują systemy AI, które w siebie wątpią

Saiman Chow

Najpotężniejsze podejście w sztucznej inteligencji, głębokie uczenie, zyskuje nową zdolność: poczucie niepewności.

Badacze z Uber i Google pracują nad modyfikacjami dwóch najpopularniejszych frameworków głębokiego uczenia, które pozwolą im radzić sobie z prawdopodobieństwem. Zapewni to najmądrzejszym programom AI sposób na zmierzenie ich zaufania do prognozy lub decyzji — zasadniczo, aby wiedzieć, kiedy powinni wątpić w siebie.

Głębokie uczenie, które polega na dostarczaniu przykładowych danych do dużej i potężnej sieci neuronowej, odniosło ogromny sukces w ciągu ostatnich kilku lat, umożliwiając maszynom niemal perfekcyjne rozpoznawanie obiektów na obrazach lub transkrypcję mowy. Wymaga jednak dużej ilości danych treningowych i mocy obliczeniowej, a może być zaskakująco kruchy.

Nieco sprzecznie z intuicją, to zwątpienie oferuje jedną poprawkę. Nowe podejście może być przydatne w krytycznych scenariuszach obejmujących autonomiczne samochody i inne autonomiczne maszyny.

Chciałbyś systemu, który daje miarę pewności, mówi Dustin Tran, który pracuje nad tym problemem w Google. Jeśli autonomiczny samochód nie zna poziomu niepewności, może popełnić fatalny błąd, a to może mieć katastrofalne skutki.

Praca odzwierciedla świadomość, że niepewność jest kluczowym aspektem ludzkiego rozumowania i inteligencji. Dodanie go do programów AI może sprawić, że będą mądrzejsze i mniej podatne na błędy, mówi Zoubin Ghahramani , wybitny badacz sztucznej inteligencji, który jest profesorem na Uniwersytecie Cambridge i głównym naukowcem w Uber.

Może to okazać się niezwykle ważne, ponieważ systemy sztucznej inteligencji są wykorzystywane w coraz bardziej krytycznych scenariuszach. Chcemy mieć solidne ramy dla głębokiego uczenia, ale ułatwić ludziom reprezentowanie niepewności, powiedział mi niedawno Ghahramani pewnego ranka przy kawie podczas dużej konferencji AI w Long Beach w Kalifornii.

Podczas tej samej konferencji AI grupa naukowców zebrała się pewnego popołudnia w pobliskim barze, aby omówić Pyro, nowy język programowania wydany przez Ubera, który łączy głębokie uczenie się z programowaniem probabilistycznym.

Spotkanie w Long Beach zostało zorganizowane przez Noe Goodman , profesor Stanford, który jest również powiązany z Uber's AI Lab. Z kręconymi, rozczochranymi włosami i rozpiętą koszulą można go łatwo pomylić z nauczycielem jogi, a nie ekspertem od sztucznej inteligencji. Wśród uczestników zgromadzenia był Tran, który również przyczynił się do rozwoju Pyro.

Goodman wyjaśnia, że ​​danie głębokiemu uczeniu umiejętności radzenia sobie z prawdopodobieństwem może uczynić je mądrzejszym na kilka sposobów. Może na przykład pomóc programowi rozpoznawać rzeczy z rozsądnym stopniem pewności na podstawie zaledwie kilku przykładów, a nie wielu tysięcy. Oferowanie pewnej pewności, a nie odpowiedzi „tak lub nie”, powinno również pomóc w inżynierii złożonych systemów.

I podczas gdy konwencjonalny system głębokiego uczenia się uczy się tylko z danych, którymi jest zasilany, Pyro może być również użyty do zbudowania systemu wstępnie zaprogramowanego z wiedzą. Może to być przydatne w niemal każdym scenariuszu, w którym obecnie może pojawić się uczenie maszynowe.

Powiązana historia

Powiązana historia Alphabet, numer 5 na naszej liście 50 najmądrzejszych firm, uważa, że ​​może wyrwać Amazonowi rynek przetwarzania w chmurze, pomagając firmom korzystać z uczenia maszynowego za pomocą narzędzia o nazwie TensorFlow.

Goodman mówi, że w przypadkach, w których masz wcześniejszą wiedzę, którą chcesz wbudować w model, szczególnie przydatne jest programowanie probabilistyczne. Ludzie będą używać Pyro do różnych rzeczy.

Edward to kolejny język programowania, który obejmuje niepewność, ten opracowany na Uniwersytecie Columbia dzięki finansowaniu z DARPA. Zarówno Pyro, jak i Edward są wciąż na wczesnym etapie rozwoju, ale nietrudno zrozumieć, dlaczego Uber i Google są zainteresowani.

Uber wykorzystuje uczenie maszynowe w niezliczonych obszarach, od wyznaczania tras kierowców po ustalanie cen skokowych i oczywiście w samojezdnych samochodach. Firma mocno zainwestowała w sztuczną inteligencję, zatrudniając wielu ekspertów pracujących nad nowymi pomysłami. Ostatnio Google przebudował całą swoją działalność wokół sztucznej inteligencji i głębokiego uczenia się.

David Blai , profesor statystyki i informatyki na Uniwersytecie Columbia i doradca firmy Tran, mówi, że połączenie głębokiego uczenia i programowania probabilistycznego to obiecujący pomysł, który wymaga więcej pracy. W zasadzie jest bardzo potężny, mówi. Ale jest wiele, wiele wyzwań technicznych.

Mimo to, jak zauważa Goodman, Pyro i Edward są również ważni dla połączenia dwóch konkurujących ze sobą szkół sztucznej inteligencji, jednej skupiającej się na sieciach neuronowych, a drugiej na prawdopodobieństwie.

W ostatnich latach szkoła sieci neuronowych była tak dominująca, że ​​inne idee zostały prawie w tyle. Aby iść naprzód, pole może wymagać przyjęcia tych innych pomysłów.

Ciekawa historia jest taka, że ​​nie musisz myśleć o tych obozach jako oddzielnych, mówi Goodman. Mogą się spotkać – w rzeczywistości łączą się – w narzędziach, które teraz budujemy.

Możesz nawet powiedzieć, że stają się coraz mądrzejsi, po części ucząc się tego, czego nie wiedzą.

ukryć