211service.com
Czy maszyny nas wyeliminują?
Ludzie, którzy martwią się, że jesteśmy na dobrej drodze do wynalezienia niebezpiecznie inteligentnych maszyn, nie rozumieją stanu informatyki. 29 stycznia 2016
Yoshua Bengio kieruje jedną z czołowych światowych grup badawczych opracowujących potężną technikę sztucznej inteligencji znaną jako głębokie uczenie. Zaskakujące możliwości, jakie głębokie uczenie dało komputerom w ostatnich latach, od rozpoznawania głosu na poziomie człowieka i klasyfikacji obrazów po podstawowe umiejętności konwersacyjne, skłoniły do ostrzeżeń o postępach, jakie sztuczna inteligencja poczyniła w kierunku dopasowywania, a być może przewyższania ludzkiej inteligencji. Wybitne postaci, takie jak Stephen Hawking i Elon Musk, ostrzegają nawet, że sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości. Musk i inni inwestują miliony dolarów w badanie potencjalnych zagrożeń związanych ze sztuczną inteligencją, a także możliwych rozwiązań. Ale najgorsze stwierdzenia brzmią przesadnie dla wielu ludzi, którzy faktycznie opracowują tę technologię. Bengio, profesor informatyki na Uniwersytecie w Montrealu, w wywiadzie z Przegląd technologii MIT starszy redaktor ds. sztucznej inteligencji i robotyki, Will Knight.
Czy powinniśmy się martwić, jak szybko rozwija się sztuczna inteligencja?
Ta historia była częścią naszego wydania z marca 2016 r.
- Zobacz resztę numeru
- Subskrybuj
Są ludzie, którzy rażąco przeceniają poczyniony postęp. Za wieloma z tych rzeczy kryje się wiele, wiele lat niewielkiego postępu, w tym przyziemnych rzeczy, takich jak więcej danych i moc komputera. Szum nie dotyczy tego, czy rzeczy, które robimy, są przydatne, czy nie – to prawda. Ale ludzie nie doceniają, o ile więcej nauki trzeba zrobić. I trudno oddzielić szum od rzeczywistości, ponieważ widzimy te wspaniałe rzeczy, a także, gołym okiem, wyglądają magicznie.
Czy istnieje ryzyko, że badacze AI mogą przypadkowo uwolnić demona, jak to ujął Musk?
To nie tak, że ktoś nagle znalazł jakiś magiczny przepis. Sprawy są znacznie bardziej skomplikowane niż prosta historia, którą niektórzy chcieliby opowiedzieć. Dziennikarze czasem chcieliby opowiedzieć historię, że ktoś w ich garażu wpadnie na ten niesamowity pomysł, a wtedy mamy przełom i sztuczną inteligencję. Podobnie firmy chcą opowiedzieć miłą historię, że mamy tę rewolucyjną technologię, która zmieni świat – sztuczna inteligencja jest prawie tutaj, a my jesteśmy firmą, która ją dostarczy. Wcale tak to nie działa.
Brakuje nam czegoś dużego. Robimy dość szybkie postępy, ale wciąż nie jest to poziom, na którym powiedzielibyśmy, że maszyna rozumie. Jeszcze nam do tego daleko.
A co z ideą, centralną dla tych obaw, że sztuczna inteligencja może w jakiś sposób zacząć się poprawiać, a następnie stać się trudna do kontrolowania?
Nie tak dzisiaj buduje się sztuczną inteligencję. Uczenie maszynowe oznacza żmudny i powolny proces pozyskiwania informacji na podstawie milionów przykładów. Maszyna poprawia się sama, owszem, ale bardzo, bardzo powoli i w bardzo wyspecjalizowany sposób. A algorytmy, którymi się bawimy, wcale nie przypominają małych, samoprogramujących się wirusów. To nie to, co robimy.
Jakie są niektóre z największych nierozwiązanych problemów związanych ze sztuczną inteligencją?
Nauka bez nadzoru jest naprawdę ważna. Obecnie sposób, w jaki uczymy maszyny, aby były inteligentne, polega na tym, że musimy powiedzieć komputerowi, czym jest obraz, nawet na poziomie pikseli. W przypadku autonomicznej jazdy ludzie oznaczają ogromną liczbę zdjęć samochodów, aby pokazać, które części to piesi lub drogi. Wcale nie chodzi o to, jak uczą się ludzie i nie tak uczą się zwierzęta. Brakuje nam czegoś dużego. To jedna z głównych rzeczy, które robimy w moim laboratorium, ale nie ma zastosowań krótkoterminowych — prawdopodobnie nie przyda się jutro tworzenie produktu.
Kolejnym dużym wyzwaniem jest rozumienie języka naturalnego. W ciągu ostatnich kilku lat robiliśmy dość szybkie postępy, więc jest to bardzo zachęcające. Ale wciąż nie jest to poziom, na którym powiedzielibyśmy, że maszyna rozumie. Byłoby to wtedy, gdy moglibyśmy przeczytać akapit, a następnie zadać dowolne pytanie na jego temat, a maszyna zasadniczo odpowiedziałaby w rozsądny sposób, tak jak zrobiłby to człowiek. Jeszcze nam do tego daleko.
Jakie podejścia poza głębokim uczeniem będą potrzebne do stworzenia prawdziwej inteligencji maszynowej?
Tradycyjne przedsięwzięcia, w tym rozumowanie i logika — musimy połączyć te rzeczy z głębokim uczeniem się, aby przejść w kierunku sztucznej inteligencji. Jestem jedną z nielicznych osób, które uważają, że ludzie uczący się maszynowo, a zwłaszcza głęboko uczący, powinni zwracać większą uwagę na neuronaukę. Mózgi działają i nadal nie wiemy dlaczego na wiele sposobów. Poprawa tego zrozumienia ma ogromny potencjał, aby pomóc w badaniach nad sztuczną inteligencją.
Myślę, że ludzie zajmujący się neuronauką wiele by zyskali, śledząc to, co robimy i próbując dopasować to, co obserwują w mózgu, do koncepcji, które rozwijamy w uczeniu maszynowym.
Czy kiedykolwiek myślałeś, że będziesz musiał wyjaśnić ludziom, że sztuczna inteligencja nie zamierza przejąć świata? To musi być dziwne.
To z pewnością nowy problem. Przez tyle lat sztuczna inteligencja była rozczarowaniem. Jako badacze walczymy o to, aby maszyna była nieco bardziej inteligentna, ale oni wciąż są tacy głupi. Kiedyś myślałem, że nie powinniśmy nazywać tej dziedziny sztuczną inteligencją, ale sztuczną głupotą. Naprawdę, nasze maszyny są głupie i po prostu staramy się, aby były mniej głupie.
Teraz, z powodu tych postępów, które ludzie widzą w demach, teraz możemy powiedzieć: O rany, naprawdę może mówić rzeczy po angielsku, może zrozumieć zawartość obrazu. Cóż, teraz łączymy te rzeczy z całą fantastyką naukową, którą widzieliśmy i to jest jak: Och, obawiam się!
Ok, ale z pewnością nadal ważne jest, aby pomyśleć teraz o ewentualnych konsekwencjach sztucznej inteligencji.
Absolutnie. Powinniśmy rozmawiać o tych rzeczach. To, o co bardziej się martwię, w dającej się przewidzieć przyszłości, to nie komputery przejmujące świat. Bardziej martwię się o niewłaściwe wykorzystanie AI. Rzeczy takie jak złe zastosowania wojskowe, manipulowanie ludźmi poprzez naprawdę mądrą reklamę; także wpływ społeczny, jak wielu ludzi tracących pracę. Społeczeństwo musi zebrać się razem i wypracować zbiorową odpowiedź, a nie pozostawiać rozstrzygnięcia kwestii prawu dżungli.