Jeden z ojców AI martwi się o jej przyszłość

Zdjęcie Yoshua Bengio Szkoła Politechniczna | Flickr

Yoshua Bengio jest wielkim mistrzem nowoczesnej sztucznej inteligencji.

Wzdłuż Geoffa Hintona oraz Yann LeCun Bengio słynie z tego, że jest mistrzem techniki znanej jako głębokie uczenie się, która w ostatnich latach przekształciła się z akademickiej ciekawości w jedną z najpotężniejszych technologii na świecie.

Głębokie uczenie obejmuje dostarczanie danych do dużych sieci neuronowych, które z grubsza symulują ludzki mózg, i okazały się niezwykle wydajne i skuteczne w różnego rodzaju praktycznych zadaniach, od rozpoznawania głosu i klasyfikacji obrazów po sterowanie autonomicznymi samochodami i automatyzację decyzji biznesowych.

Bengio oparł się pokusie jakiejkolwiek dużej firmy technologicznej. Podczas gdy Hinton i LeCun dołączyli odpowiednio do Google i Facebooka, pozostaje etatowym profesorem na Uniwersytecie w Montrealu. (Jednak współtworzył Element AI w 2016 r. i zbudował bardzo udany biznes, pomagając dużym firmom badać komercyjne zastosowania badań nad sztuczną inteligencją).

Bengio spotkał się niedawno z Willem Knightem, starszym redaktorem działu AI w MIT Technology Review, na konferencji MIT.

Co sądzisz o wyścigu AI między różnymi krajami?

Nie lubię tego. Nie sądzę, żeby to był właściwy sposób.

Moglibyśmy wspólnie wziąć udział w wyścigu, ale jako naukowiec i ktoś, kto chce myśleć o dobru wspólnym, myślę, że lepiej pomyśleć o tym, jak budować inteligentniejsze maszyny i upewnić się, że sztuczna inteligencja jest wykorzystywana dla dobrobytu jak najwięcej osób.

Czy istnieją sposoby na zwiększenie współpracy między krajami?

Moglibyśmy ułatwić przyjazd tutaj ludziom z krajów rozwijających się. W tej chwili jest to duży problem. W Europie, USA czy Kanadzie afrykańskiemu naukowcowi bardzo trudno jest uzyskać wizę. To loteria i bardzo często pod każdym pretekstem odmawiają dostępu. To jest całkowicie niesprawiedliwe. Już teraz jest im trudno prowadzić badania przy niewielkich zasobach, ale dodatkowo, jeśli nie mają dostępu do społeczności, myślę, że to naprawdę niesprawiedliwe. Aby temu przeciwdziałać, w 2020 r. w Afryce zorganizujemy konferencję ICLR [duża konferencja AI].

Inkluzywność musi być czymś więcej niż tylko słowem, które mówimy, aby dobrze wyglądać. Potencjał wykorzystania sztucznej inteligencji w krajach rozwijających się jest jeszcze większy. Muszą ulepszać technologię jeszcze bardziej niż my i mają inne potrzeby.

Martwisz się, że tylko kilka firm AI, na Zachodzie i być może w Chinach, zdominuje dziedzinę AI?

Tak, to kolejny powód, dla którego potrzebujemy więcej demokracji w badaniach nad sztuczną inteligencją. Chodzi o to, że same badania nad sztuczną inteligencją będą prowadzić do koncentracji władzy, pieniędzy i naukowców. Najlepsi studenci chcą jechać do najlepszych firm. Mają dużo więcej pieniędzy, mają dużo więcej danych. A to nie jest zdrowe. Nawet w demokracji niebezpiecznie jest mieć zbyt dużą władzę skoncentrowaną w kilku rękach.

Istnieje wiele kontrowersji związanych z wojskowym wykorzystaniem sztucznej inteligencji. Gdzie na tym stoisz?

Bardzo mocno się temu sprzeciwiam.

Nawet nieśmiercionośne zastosowania sztucznej inteligencji?

Cóż, nie chcę temu zapobiec. Myślę, że musimy sprawić, by zabójcze roboty były niemoralne. Musimy zmienić kulturę, w tym zmienić prawa i traktaty. To może przejść długą drogę.

Oczywiście nigdy całkowicie temu nie zapobiegniesz, a ludzie mówią: „Niektóre kraje zbójeckie rozwiną te rzeczy. Moja odpowiedź jest taka, że ​​chcemy, aby poczuli się winni za to, że to zrobili, a po drugie, nic nie powstrzyma nas przed zbudowaniem technologii obronnej. Istnieje duża różnica między bronią defensywną, która zabija drony, a bronią ofensywną wymierzoną w ludzi. Obaj mogą używać sztucznej inteligencji.

Czy eksperci AI nie powinni współpracować z wojskiem, aby zapewnić, że tak się stanie?

Jeśli mieli właściwe wartości moralne, w porządku. Ale nie do końca ufam organizacjom wojskowym, ponieważ mają tendencję do przedkładania obowiązku nad moralność. Chciałbym, żeby było inaczej.

Co Cię najbardziej ekscytuje, jeśli chodzi o nowe badania nad sztuczną inteligencją?

Myślę, że musimy wziąć pod uwagę trudne wyzwania sztucznej inteligencji i nie zadowalać się krótkoterminowymi, stopniowymi postępami. Nie mówię, że chcę zapomnieć o głębokim uczeniu się. Wręcz przeciwnie, chcę na tym budować. Ale musimy być w stanie rozszerzyć go o takie rzeczy, jak rozumowanie, uczenie się przyczynowości i poznawanie świata w celu uczenia się i zdobywania informacji.

Jeśli naprawdę chcemy zbliżyć się do sztucznej inteligencji na poziomie człowieka, to kolejna gra w piłkę. Potrzebujemy długoterminowych inwestycji i myślę, że akademia jest najlepszym miejscem do noszenia tej pochodni.

Wspominasz o przyczynowości — innymi słowy o uchwyceniu nie tylko wzorców w danych, ale… czemu coś się dzieje. Dlaczego to ważne i dlaczego jest to takie trudne?

Jeśli masz dobry model przyczynowy świata, z którym masz do czynienia, możesz uogólniać nawet w nieznanych sytuacjach. To kluczowe. My, ludzie, potrafimy projektować się w sytuacjach, które bardzo różnią się od naszych codziennych doświadczeń. Maszyny nie są, ponieważ nie mają tych modeli przyczynowych.

Możemy je wykonać ręcznie, ale to nie wystarczy. Potrzebujemy maszyn, które potrafią odkryć modele przyczynowe. Do pewnego stopnia nigdy nie będzie idealnie. Nie mamy idealnego przyczynowego modelu rzeczywistości; dlatego popełniamy wiele błędów. Ale robimy to znacznie lepiej niż inne zwierzęta.

W tej chwili nie mamy do tego dobrych algorytmów, ale myślę, że jeśli wystarczająco dużo osób nad tym pracuje i uzna to za ważne, zrobimy postęp.

ukryć