Doomsday Grants przyspieszą ważne badania nad sztuczną inteligencją

Nawet jeśli nie boisz się rychłego rozwoju superinteligentnych maszyn, jest powód, aby kibicować nowym funduszom przeznaczonym na badanie tego tematu, ponieważ może to sprawić, że sztuczna inteligencja stanie się bardziej praktyczna w najbliższej perspektywie.

Ostatnie postępy w informatyce, zwłaszcza w uczeniu maszynowym, zbiegły się z pewnymi niezwykle szczerymi spekulacjami na temat tego, dokąd może nas zaprowadzić sztuczna inteligencja. W zeszłym roku miliarder przedsiębiorca Elon Musk otwarcie ostrzegł, że badania nad sztuczną inteligencją ryzykują przywołanie demona i mogą stanowić największe egzystencjalne zagrożenie dla ludzkości. Inne wybitne postacie, w tym Bill Gates i Stephen Hawking, również wyrazili zaniepokojenie potencjalnym ryzykiem rozwoju prawdziwie inteligentnych maszyn.

ten Instytut Przyszłości Życia , organizacja założona w Cambridge w stanie Massachusetts w celu złagodzenia potencjalnego ryzyka egzystencjalnego stwarzanego w tym tygodniu przez sztuczną inteligencję ogłosił 7 milionów dolarów w dotacjach dla projektów poświęconych utrzymywaniu solidnej i korzystnej sztucznej inteligencji. Grant został w dużej części sfinansowany przez Muska, który przekazał instytutowi 10 milionów dolarów.

Być może rozważenie takich niepożądanych wyników ma sens, ale wciąż jesteśmy daleko od stworzenia czegoś, co moglibyśmy uznać za naprawdę inteligentne. Podczas gdy niektóre z 37 projektów, które otrzymają finansowanie z Future of Life Institute, badają dość odległe scenariusze obejmujące niezwykle potężną sztuczną inteligencję, inne dotyczą ważnych wysiłków, aby oprogramowanie było bardziej niezawodne, odpowiedzialne i przydatne w złożonych lub niejednoznacznych kontekstach.

Na przykład:

* Fuksyna Li , naukowiec z Georgia Tech, zbada sposoby rozumienia i przewidywania błędów w systemach głębokiego uczenia się. To bardzo wartościowy wysiłek. Chociaż te zaawansowane sieci neuronowe przyniosły w ostatnich latach spektakularne wyniki w obszarach takich jak rozpoznawanie obrazu i głosu, mogą zawieść w zaskakujący sposób.

* Stefano Ermon , adiunkt na Uniwersytecie Stanforda, zbada sposoby na racjonalne zachowanie autonomicznych agentów w złożonych sytuacjach. Ostatecznie może to na przykład pomóc zautomatyzowanemu samochodowi zważyć ryzyko stwarzane przez różne działania w złożonej sytuacji, umożliwiając mu ostatecznie działanie w sposób, który uznalibyśmy za bardziej odpowiedzialny i etycznie akceptowalny.

* Stado Seta , naukowiec z University of Colorado, będzie starał się zastosować badania neuronaukowe nad podejmowaniem decyzji przez ludzi w wysiłkach zmierzających do zbudowania sprzętu komputerowego z tak zwanymi systemami neuromorficznymi, inspirowanymi mózgiem. Może to dostarczyć ważnych informacji na temat projektowania tych systemów i wskazać kilka nowatorskich zastosowań.

* Manuela Veloso , profesor na Carnegie Mellon University, poprowadzi prace mające na celu opracowanie sposobów wyjaśniania przez maszyny ich zachowania ludziom. Nawet ekspertom może być trudno zrozumieć, dlaczego maszyna zachowuje się w nieoczekiwany sposób. Poprawa tej sytuacji może być szczególnie ważna, ponieważ roboty zaczną ściślej współpracować z ludźmi.

Jak na ironię, te projekty badawcze pokazują również, jak daleko jesteśmy od zbudowania czegoś, co mogłoby zawładnąć światem. I chociaż być może sensowne jest rozważanie przyszłych zagrożeń, gdy jest jeszcze dużo czasu, miejmy nadzieję, że niepokój związany z futurystycznymi scenariuszami nie stanowi zagrożenia dla znaczącego postępu technologicznego.

ukryć