Sztuczna inteligencja ogólna: czy jesteśmy blisko i czy warto próbować?

Ariel Davis

Idea sztucznej ogólnej inteligencji, jaką znamy dzisiaj, zaczyna się od wybuchu dot-comów na Broadwayu.

Dwadzieścia lat temu — zanim Shane Legg zainteresował się neurologią Demis Hassabis podyplomowym w sprawie wspólnej fascynacji inteligencją; zanim para związała się z przyjacielem Hassabisa z dzieciństwa Mustafą Sulejmanem, postępowym działaczem, aby przekształcić tę fascynację w firmę o nazwie DeepMind; zanim Google kupił tę firmę za ponad pół miliarda dolarów cztery lata później — Legg pracował w nowojorskim startupie o nazwie Webmind, założonym przez badacza AI Bena Goertzela. Dziś ci dwaj mężczyźni reprezentują dwie bardzo różne gałęzie przyszłości sztucznej inteligencji, ale ich korzenie sięgają wspólnego gruntu.

Nawet w gorących dniach bańki internetowej, cele Webmind były ambitne. Goertzel chciał stworzyć cyfrowy mózg dziecka i udostępnił go w Internecie, gdzie wierzył, że dorośnie, by stać się w pełni świadomym i znacznie mądrzejszym od ludzi. „Jesteśmy na skraju przejścia równego wielkością nadejściem inteligencji lub pojawieniem się języka”, powiedział Monitor Chrześcijańskiej Nauki w 1998.

Webmind próbował się sfinansować, budując narzędzie do przewidywania zachowań rynków finansowych, ale większe marzenie nigdy się nie spełniło. Po spaleniu 20 milionów dolarów Webmind został eksmitowany ze swoich biur na południowym krańcu Manhattanu i przestał płacić swoim pracownikom. Złożył wniosek o upadłość w 2001 roku.

Ben Goertzel

WSPÓLNOTA WIKIMEDIA

Ale Legg i Goertzel pozostali w kontakcie. Kiedy Goertzel układał księgę eseje o nadludzkiej AI kilka lat później to Legg wymyślił tytuł. Rozmawiałem z Benem i pomyślałem: „Cóż, jeśli chodzi o ogólność, której systemy AI jeszcze nie mają, powinniśmy to nazwać Sztuczna ogólna inteligencja ”, mówi Legg, który jest obecnie głównym naukowcem DeepMind. A AGI ma w sobie akronim.

Termin utknął. Książka Goertzela i rocznik Konferencja AGI które uruchomił w 2008 roku sprawiły, że AGI stało się popularnym hasłem dla podobnej do człowieka lub nadludzkiej sztucznej inteligencji. Ale stał się również głównym robactwo. Nie podoba mi się termin AGI, mówi Jerome Pesenti, szef AI na Facebooku. Nie wiem, co to znaczy.

Nie jest sam. Częściowo problem polega na tym, że AGI to zbiór nadziei i obaw związanych z całą technologią. Wbrew powszechnemu przekonaniu, tak naprawdę nie chodzi tu o świadomość maszyn czy myślące roboty (chociaż wielu ludzi z AGI też o tym marzy). Ale chodzi o myślenie na wielką skalę. Wiele wyzwań, przed którymi stoimy dzisiaj, od zmian klimatycznych przez upadające demokracje po kryzysy zdrowia publicznego, jest bardzo złożonych. Gdybyśmy mieli maszyny, które potrafiłyby myśleć jak my lub lepiej – szybciej i bez zmęczenia – to może mielibyśmy większe szanse na rozwiązanie tych problemów. Jako informatyk I.J. Dobrze ujął to w 1965 r.: pierwsza ultrainteligentna maszyna jest ostatnim wynalazkiem, jakiego człowiek kiedykolwiek potrzebował.

Elon Musk, który wcześnie zainwestował w DeepMind i połączył siły z małą grupą megainwestorów, w tym Peterem Thielem i Samem Altmanem, aby zatopić 1 miliard dolarów w OpenAI, stworzył osobistą markę z szalonych prognoz. Ale kiedy mówi, miliony słuchają. Kilka miesięcy temu powiedział New York Times, że nadludzka sztuczna inteligencja jest za mniej niż pięć lat . To będzie na nas bardzo szybko, powiedział na Podcast Lex Fridman . Wtedy będziemy musieli wymyślić, co powinniśmy zrobić, jeśli w ogóle mamy taki wybór.

W maju, Pesenti odpalił . Elon Musk nie ma pojęcia, o czym mówi, napisał na Twitterze. Nie ma czegoś takiego jak AGI i nie jesteśmy w stanie dorównać ludzkiej inteligencji. Musk odpowiedział: Facebook jest do bani.

Takie nawroty nie są rzadkością. Oto Andrzej Ng , były szef AI w Baidu i współzałożyciel Google Brain: Skończmy z nonsensem AGI i poświęćmy więcej czasu na pilne problemy.

i Julian Togelius , badacz AI z New York University: Wiara w AGI jest jak wiara w magię. Jest to sposób na porzucenie racjonalnego myślenia i wyrażenie nadziei/lęku na coś, czego nie można zrozumieć. Przejrzyj hashtag #noAGI na Twitterze, a zobaczysz wielu ważniaków AI, w tym Yann LeCun , główny naukowiec Facebooka zajmujący się sztuczną inteligencją, który zdobył nagrodę Turinga w 2018 roku.

Ale wraz z ostatnimi sukcesami AI, od mistrza gier planszowych AlphaZero po przekonujący generator fałszywego tekstu GPT-3, rozmowy o AGI nabrały tempa. Mimo że te narzędzia są wciąż bardzo dalekie od reprezentacji ogólnej inteligencji – AlphaZero nie może pisać opowiadań, a GPT-3 nie może grać w szachy, nie mówiąc już o zrozumieniu, dlaczego historie i szachy są ważne dla ludzi – cel zbudowania AGI, kiedyś uważany za szalony, staje się akceptowalny Ponownie.

Niektóre z największych i najbardziej szanowanych laboratoriów AI na świecie podchodzą do tego celu bardzo poważnie. OpenAI powiedział, że chce być pierwszy, który zbudował maszynę z ludzkimi zdolnościami rozumowania . Nieoficjalna, ale często powtarzana misja DeepMind to: rozwiązać inteligencję . Najlepsi ludzie w obu firmach chętnie omawiają te cele w kontekście AGI.

Pół wieku później wciąż nie jesteśmy blisko stworzenia sztucznej inteligencji z wielozadaniowymi zdolnościami człowieka, a nawet owada.

Mówienie o AGI na początku XXI wieku stawia cię na marginesie szaleńców, mówi Legg. Nawet kiedy zakładaliśmy DeepMind w 2010 roku, na konferencjach wzbudzaliśmy zadziwiającą ilość spojrzeń. Ale rzeczy się zmieniają. Niektórzy czują się z tym niekomfortowo, ale pochodzi z zimna” – mówi.

Dlaczego więc AGI budzi kontrowersje? Dlaczego to ma znaczenie? I czy jest to lekkomyślny, wprowadzający w błąd sen – czy ostateczny cel?

Co to jest AGI?

Termin ten jest w powszechnym użyciu od nieco ponad dekady, ale idee, które zawiera, istnieją od życia.

Latem 1956 roku kilkunastu naukowców zebrało się w Dartmouth College w New Hampshire, aby pracować nad tym, co uważali za skromny projekt badawczy. Planując warsztaty wcześniej, pionierzy sztucznej inteligencji John McCarthy, Marvin Minsky, Nat Rochester i Claude Shannon napisał : Badanie ma opierać się na przypuszczeniu, że każdy aspekt uczenia się lub jakakolwiek inna cecha inteligencji może być w zasadzie tak dokładnie opisana, że ​​można stworzyć maszynę do jej symulacji. Podjęta zostanie próba znalezienia sposobu na zmuszenie maszyn do używania języka, tworzenia abstrakcji i pojęć, rozwiązywania problemów zarezerwowanych dla ludzi i samodoskonalenia. Pomyśleli, że zajęłoby to 10 osobom dwa miesiące.

Przewińmy w przód do 1970 roku i znowu nieustraszony Minsky: za trzy do ośmiu lat będziemy mieli maszynę z ogólną inteligencją przeciętnego człowieka. Mam na myśli maszynę, która będzie potrafiła czytać Szekspira, nasmarować samochód, zagrać w biurowe polityki, opowiedzieć dowcip, pokłócić się. W tym momencie maszyna zacznie się uczyć z fantastyczną szybkością. Za kilka miesięcy osiągnie genialny poziom, a kilka miesięcy później jego moc będzie nieobliczalna.

W tych wizjach sztucznej inteligencji wyróżniają się trzy rzeczy: ludzka zdolność do uogólniania, nadludzka zdolność do samodoskonalenia się w tempie wykładniczym i ogromna porcja myślenia życzeniowego. Pół wieku później wciąż nie jesteśmy w pobliżu stworzenia sztucznej inteligencji o zdolnościach wielozadaniowych człowieka, a nawet owada.

GETTY OBRAZY

Nie oznacza to, że nie odniesiono ogromnych sukcesów. Wiele pozycji na tej wczesnej liście zadań zostało odznaczonych: mamy maszyny, które potrafią używać języka, widzieć i rozwiązywać wiele naszych problemów. Ale AI, które mamy dzisiaj, nie są podobne do ludzi w sposób, w jaki wyobrażali sobie pionierzy. Głębokie uczenie, technologia napędzająca boom sztucznej inteligencji, szkoli maszyny, aby stały się mistrzami w ogromnej liczbie rzeczy – takich jak pisanie fałszywych historii i granie w szachy – ale tylko po jednym na raz.

Kiedy Legg zasugerował Goertzelowi termin AGI do swojej książki z 2007 roku, przeciwstawił sztuczną inteligencję ogólną tej wąskiej, mainstreamowej idei sztucznej inteligencji. Ludzie używali kilku powiązanych terminów, takich jak silna sztuczna inteligencja i rzeczywista sztuczna inteligencja, aby odróżnić wizję Minsky'ego od sztucznej inteligencji, która pojawiła się w zamian.

Mówienie o AGI często miało sugerować, że sztuczna inteligencja zawiodła, mówi Joanna Bryson, badaczka AI w Hertie School w Berlinie: To był pomysł, że są ludzie, którzy po prostu robią takie nudne rzeczy, jak wizja maszynowa, ale my tutaj… i byłam jedną z nich w tamtym czasie — wciąż próbują zrozumieć ludzką inteligencję, mówi. Silna sztuczna inteligencja, kognitywistyka, AGI – to były nasze różne sposoby na powiedzenie: „Spieprzyliście się; idziemy do przodu”.

Pogląd, że AGI jest prawdziwym celem badań nad sztuczną inteligencją, jest wciąż aktualny. Działający system sztucznej inteligencji wkrótce staje się po prostu oprogramowaniem — nudnym materiałem Brysona. W międzyczasie AGI staje się substytutem każdej sztucznej inteligencji, której jeszcze nie wymyśliliśmy, jak ją zbudować, zawsze poza zasięgiem.

Powiązana historia

Co to jest uczenie maszynowe?

Algorytmy uczenia maszynowego znajdują i stosują wzorce w danych. I właściwie rządzą światem.

Czasami Legg mówi o AGI jako o rodzaju multi-narzędzia – jednej maszynie, która rozwiązuje wiele różnych problemów, bez konieczności projektowania nowej dla każdego dodatkowego wyzwania. Z tego punktu widzenia nie byłby bardziej inteligentny niż AlphaGo czy GPT-3; miałby po prostu więcej możliwości. Byłaby to sztuczna inteligencja ogólnego przeznaczenia, a nie w pełni rozwinięta inteligencja. Ale mówi też o maszynie, z którą można wchodzić w interakcje, jakby była inną osobą. Opisuje rodzaj najlepszego towarzysza zabaw: Byłoby cudownie wejść w interakcję z maszyną i pokazać jej nową grę karcianą, aby zrozumiała, zadawała pytania i grała z tobą, mówi. To byłoby spełnienie marzeń.

Kiedy ludzie mówią o AGI, zwykle mają na myśli te ludzkie zdolności. Thore Graepel , kolega Legga z DeepMind, lubi używać cytatu z pisarza science fiction, Roberta Heinleina, który zdaje się odzwierciedlać słowa Minsky'ego: Człowiek powinien umieć zmienić pieluchę, zaplanować inwazję, zarżnąć wieprza, oszukać statek, zaprojektuj budynek, napisz sonet, zbilansuj konta, zbuduj mur, postaw kość, pociesz umierających, przyjmuj rozkazy, wydawaj rozkazy, współpracuj, działaj w pojedynkę, rozwiązuj równania, analizuj nowy problem, rozrzucaj obornik, programuj komputer, gotuj smaczny posiłek, skuteczna walka, dzielna śmierć. Specjalizacja dotyczy owadów.

A jednak zabawny fakt: opis Graepela jest wypowiadany przez postać o imieniu Lazarus Long w powieści Heinleina z 1973 roku Dość czasu na miłość . Long jest swego rodzaju supermanem, wynikiem eksperymentu genetycznego, który pozwolił mu żyć setki lat. Przez ten długi czas Long żyje wiele żyć i opanowuje wiele umiejętności. Innymi słowy, Minsky opisuje zdolności typowego człowieka; Graepel nie.

W ten sposób stale zmieniają się cele poszukiwania AGI. Co ludzie mają na myśli, gdy mówią o sztucznej inteligencji podobnej do człowieka – takiej jak ty i ja, czy takiej jak Lazarus Long? Dla Pesenti ta dwuznaczność jest problemem. Myślę, że nikt nie wie, co to jest, mówi. Ludzie nie mogą zrobić wszystkiego. Nie potrafią rozwiązać każdego problemu – i nie mogą się poprawić.

Mistrz Go Lee Sedol (po lewej) podaje dłoń współzałożycielowi DeepMind, Demisowi Hassabisowi

GETTY

Więc co móc AGI jak w praktyce? Nazywanie tego ludzkim jest jednocześnie niejasne i zbyt konkretne. Ludzie są najlepszym przykładem ogólnej inteligencji, jaką posiadamy, ale ludzie są również wysoce wyspecjalizowani. Szybki rzut oka na różnorodny świat zwierzęcych inteligencji — od zbiorowego poznania mrówek, przez umiejętności rozwiązywania problemów wron lub ośmiornic, po bardziej rozpoznawalną, ale wciąż obcą inteligencję szympansów — pokazuje, że istnieje wiele sposobów na zbudowanie ogólnej inteligencji .

Nawet jeśli zbudujemy AGI, możemy nie w pełni go zrozumieć. Dzisiejsze modele uczenia maszynowego są zazwyczaj czarnymi skrzynkami, co oznacza, że ​​uzyskują dokładne wyniki za pomocą ścieżek obliczeniowych, których żaden człowiek nie jest w stanie zrozumieć. Dodaj do tego samodoskonalącą się superinteligencję, a jasne jest, dlaczego science fiction często dostarcza najłatwiejszych analogii.

Niektórzy wprowadziliby również świadomość lub wrażliwość na lasso w wymaganiach AGI. Ale jeśli inteligencja jest trudna do sprecyzowania, świadomość jest jeszcze gorsza. Filozofowie i naukowcy nie mają jasności co do tego, co to jest w nas samych, nie mówiąc już o tym, co by to było w komputerze. Inteligencja prawdopodobnie wymaga pewnego stopnia samoświadomości, zdolności do refleksji nad swoim poglądem na świat, ale niekoniecznie jest to to samo, co świadomość – co to jest czuje Lubisz doświadczać świata lub zastanawiać się nad tym, jak na niego patrzysz. Nawet najwierniejsi AGI są agnostykami w kwestii świadomości maszynowej.

Jak tworzymy AGI?

Legg ścigał inteligencję przez całą swoją karierę. Po Webmind pracował z Marcusem Hutterem na Uniwersytecie w Lugano w Szwajcarii nad rozprawą doktorską pt Super inteligencja maszyny . Hutter (który jest teraz także w DeepMind) pracował nad matematyczną definicją inteligencji, która była ograniczona jedynie prawami fizyki — ostateczną inteligencją ogólną.

Shane Legg

GŁĘBOKI UMYSŁ

Para opublikowała równanie dla tego, co nazwali uniwersalna inteligencja , który Legg opisuje jako miarę zdolności do osiągania celów w szerokim zakresie środowisk. Pokazali, że ich matematyczna definicja była podobna do wielu teorii inteligencji występujących w psychologii, która również definiuje inteligencję w kategoriach ogólności.

W DeepMind Legg przekształca swoją teoretyczną pracę w praktyczne demonstracje, zaczynając od AI, które osiągają określone cele w określonych środowiskach, od gier po fałdowanie białek .

Trudna część jest następna: łączenie wielu umiejętności razem. Głębokie uczenie jest najbardziej ogólnym podejściem, jakie mamy, ponieważ jeden algorytm głębokiego uczenia może być użyty do uczenia się więcej niż jednego zadania. AlphaZero użył tego samego algorytmu do nauki Go, shogi (podobnej do szachów gry z Japonii) i szachów. DeepMind’s System Atari57 użył tego samego algorytmu do opanowania każdej gry wideo na Atari. Ale AI wciąż może uczyć się tylko jednej rzeczy na raz. Po opanowaniu szachów AlphaZero musi wymazać swoją pamięć i nauczyć się shogi od podstaw.

Legg odnosi się do tego typu ogólności jako do jednego algorytmu, w przeciwieństwie do ogólności jednego mózgu, którą mają ludzie. Ogólność jednego algorytmu jest bardzo przydatna, ale nie tak interesująca jak rodzaj jednego mózgu, mówi: Ty i ja nie musimy zamieniać mózgów; nie wkładamy naszych szachowych mózgów, aby grać w szachy.

Przejście od jednego algorytmu do jednego mózgu to jedno z największych otwartych wyzwań w sztucznej inteligencji. Jednomózgowa sztuczna inteligencja nadal nie byłaby prawdziwą inteligencją, tylko lepszą sztuczną inteligencją ogólnego przeznaczenia — wielofunkcyjnym narzędziem Legga. Ale niezależnie od tego, czy strzelają do AGI, czy nie, naukowcy zgadzają się, że dzisiejsze systemy muszą być bardziej uniwersalne, a dla tych, którzy mają AGI jako cel, sztuczna inteligencja ogólnego przeznaczenia jest niezbędnym pierwszym krokiem. Istnieje długa lista podejść, które mogą pomóc. Obejmują one od wschodzących technologii, które już są dostępne, po bardziej radykalne eksperymenty (patrz ramka). Z grubsza według dojrzałości są to:

• Nauka nienadzorowana lub samonadzorowana. Oznaczanie zbiorów danych (np. oznaczanie wszystkich zdjęć kotów z kotem), aby poinformować AI, na co patrzą podczas treningu, jest kluczem do tego, co nazywamy uczeniem nadzorowanym. Nadal jest to w dużej mierze wykonywane ręcznie i stanowi główne wąskie gardło. Sztuczna inteligencja musi być w stanie uczyć się sama bez pomocy człowieka — np. patrząc na zdjęcia kotów i psów i ucząc się rozróżniania ich bez pomocy lub dostrzegania anomalie w transakcjach finansowych bez wcześniejszych przykładów oznaczonych przez człowieka. To, znane jako nienadzorowane uczenie się, staje się coraz bardziej powszechne.
• Nauka transferu, w tym nauka kilku uderzeń. Większość dzisiejszych modeli uczenia głębokiego można wytrenować tak, aby wykonywały tylko jedną czynność na raz. Transfer uczenia się ma na celu umożliwienie AI przenoszenie niektórych części swojego treningu do jednego zadania, takiego jak gra w szachy, do innego, na przykład grania w Go. Tak uczą się ludzie.
• Zdrowy rozsądek i wnioskowanie przyczynowe. Przenoszenie treningu między zadaniami byłoby łatwiejsze, gdyby sztuczna inteligencja miała podstawy zdrowego rozsądku, od których mogłaby zacząć. A kluczową częścią zdrowego rozsądku jest zrozumienie przyczyny i skutku. Dający zdrowy rozsądek dla AI jest obecnie gorącym tematem badawczym, obejmującym różne podejścia, od kodowania prostych reguł do sieci neuronowej po ograniczanie możliwych przewidywań, które sztuczna inteligencja może poczynić . Ale praca jest wciąż na wczesnym etapie.
• Optymalizatory uczenia się . Są to narzędzia, których można użyć do kształtowania sposobu, w jaki sztuczna inteligencja się uczy, prowadząc je do bardziej efektywnego treningu. Ostatnie prace pokazują, że te narzędzia mogą być szkolili się — w efekcie oznacza to, że jedna sztuczna inteligencja jest używana do szkolenia innych. To może być mały krok w kierunku samodoskonalenia AI, celu AGI.

Wszystkie te obszary badawcze opierają się na głębokim uczeniu, które w tej chwili pozostaje najbardziej obiecującym sposobem budowania sztucznej inteligencji. Głębokie uczenie opiera się na sieciach neuronowych, które są często opisywane jako podobne do mózgu, ponieważ ich cyfrowe neurony są inspirowane neuronami biologicznymi. Inteligencja ludzka jest najlepszym przykładem inteligencji ogólnej, jaką mamy, dlatego warto szukać inspiracji w sobie.

Ale mózgi to więcej niż jedna masywna plątanina neuronów. Mają oddzielne komponenty, które współpracują.

Na przykład Hassabis badał hipokamp, ​​który przetwarza pamięć, kiedy spotkał się z Leggiem. Hassabis uważa, że ​​ogólna inteligencja w ludzkim mózgu pochodzi po części z: interakcja między hipokampem a korą mózgową . Ten pomysł doprowadził do stworzenia sztucznej inteligencji do grania na Atari firmy DeepMind, która wykorzystuje inspirowaną hipokampem algorytm , zwany DNC (różnicowy komputer neuronowy), który łączy sieć neuronową z dedykowanym komponentem pamięci.

Sztuczne komponenty przypominające mózg, takie jak DNC, są czasami nazywane architekturami kognitywnymi. Odgrywają one rolę w innych AI DeepMind, takich jak AlphaGo i AlphaZero, które łączą dwie oddzielne wyspecjalizowane sieci neuronowe z drzewami wyszukiwania, starszą formą algorytmu, która działa trochę jak schemat blokowy dla decyzji. Modele językowe, takie jak GPT-3, łączą sieć neuronową z bardziej wyspecjalizowaną, zwaną transformatorem, która obsługuje sekwencje danych, takie jak tekst.

Ostatecznie wszystkie podejścia do osiągnięcia AGI sprowadzają się do dwóch szerokich szkół myślenia. Po pierwsze, jeśli masz odpowiednie algorytmy, możesz ustawić je w dowolnej architekturze kognitywnej. Laboratoria takie jak OpenAI wydają się trzymać tego podejścia, budując coraz większe modele uczenia maszynowego, które mogą osiągnąć AGI brutalną siłą .

Druga szkoła twierdzi, że powstrzymuje nas fiksacja na punkcie głębokiego uczenia się. Jeśli kluczem do AGI jest ustalenie, w jaki sposób komponenty sztucznego mózgu powinny ze sobą współpracować, to zbytnie skupianie się na samych komponentach – algorytmach głębokiego uczenia – oznacza pominięcie drewna dla drzew. Uzyskaj właściwą architekturę kognitywną, a algorytmy możesz podłączyć niemal po namyśle. Takie podejście preferuje Goertzel, którego OpenCog Projekt jest próbą zbudowania platformy open-source, która będzie pasować różne elementy układanki w całość AGI. Jest to również ścieżka, którą DeepMind zbadał, łącząc sieci neuronowe i drzewa wyszukiwania AlphaGo.

ODBLOKUJ

Moim osobistym odczuciem jest to, że jest to coś pomiędzy tymi dwoma, mówi Legg. Podejrzewam, że istnieje stosunkowo niewielka liczba starannie opracowanych algorytmów, które będziemy w stanie połączyć, aby były naprawdę potężne.

Goertzel nie zaprzecza. Głębia myślenia o AGI w Google i DeepMind robi na mnie wrażenie, mówi (obie firmy są teraz własnością Alphabet). Jeśli jakakolwiek duża firma to zdobędzie, to będą to oni.

Nie wstrzymuj jednak oddechu. Niewiele osób poza Muskiem lubi zaryzykować odgadnięcie, kiedy (jeśli w ogóle) przybędzie AGI. Nawet Goertzel nie zaryzykuje przypięcia swoich celów do określonej osi czasu, chociaż powiedziałby raczej wcześniej niż później. Nie ma wątpliwości, że szybkie postępy w uczeniu głębokim — aw szczególności GPT-3 — podniosły oczekiwania, naśladując pewne ludzkie zdolności. Ale mimikra to nie inteligencja. Przed nami wciąż są bardzo duże dziury, a naukowcy wciąż nie zgłębili ich głębokości, nie mówiąc już o tym, jak je wypełnić.

Ale jeśli będziemy się szybko poruszać, kto wie? mówi Legg. Za kilka dekad możemy mieć bardzo, bardzo wydajne systemy.

Dlaczego AGI jest kontrowersyjna?

Jednym z powodów, dla których nikt nie wie, jak zbudować AGI, jest to, że niewielu zgadza się, co to jest. Różne podejścia odzwierciedlają różne wyobrażenia na temat tego, do czego dążymy, od wielu narzędzi po nadludzką sztuczną inteligencję. Czynione są drobne kroki, aby sztuczna inteligencja stała się bardziej uniwersalna, ale istnieje ogromna przepaść między narzędziem ogólnego przeznaczenia, które może rozwiązać kilka różnych problemów, a takim, które może rozwiązać problemy, których ludzie nie mogą — ostatnim wynalazkiem Gooda. W AI jest mnóstwo postępów, ale to nie oznacza, że ​​jest jakiś postęp w AGI, mówi Andrew Ng.

Bez dowodów po którejkolwiek ze stron, czy AGI jest osiągalne, czy nie, sprawa staje się kwestią wiary. To jest jak te argumenty w średniowiecznej filozofii, czy można zmieścić nieskończoną liczbę aniołów na główce szpilki, mówi Togelius. To nie ma sensu; to tylko słowa.

Goertzel bagatelizuje dyskusję o kontrowersji. Po obu stronach są ludzie skrajnie, mówi, ale jest też wielu ludzi pośrodku, a ludzie pośrodku nie mają tendencji do gaworzenia.

Świat AGI jest wypełniony naukowcami badającymi najdalsze zakątki tego, jak zbudować superinteligencję.

• Wschodząca inteligencja

  Kristinn Thorisson bada, co się dzieje, gdy proste programy przepisują inne proste programy, aby tworzyć jeszcze więcej programów. Interesują go złożone zachowania, które wyłaniają się z prostych procesów pozostawionych samemu sobie do rozwoju.

• Uniwersalna inteligencja

  Artur Franz próbuje wziąć matematyczną definicję AGI Marcusa Huttera, która zakłada nieskończoną moc obliczeniową, i rozłożyć ją na kod, który działa w praktyce.

• Otwarta inteligencja

  David Weinbaum jest badaczem pracującym nad inteligencje, które rozwijają się bez wyznaczonych celów . Pomysł polega na tym, że funkcje nagrody, takie jak te zwykle używane w uczeniu się przez wzmacnianie, zawężają obszar zainteresowania sztucznej inteligencji. Weinbaum pracuje nad sposobami rozwijania inteligencji, która działa poza określoną dziedziną problemu i po prostu bezcelowo dostosowuje się do jej środowiska.

Goertzel umieszcza na jednym końcu sceptyka AGI, takiego jak Ng, a na drugim siebie. Od czasu pracy w Webmind, Goertzel zabiegał o media jako figurant dla marginesu AGI. Prowadzi Konferencję AGI i kieruje organizacją o nazwie SingularityNet,które on opisujejako rodzaj Webminda na blockchainie. W latach 2014-2018 był także głównym naukowcem w Hanson Robotics, firmie z Hongkongu, która w 2016 roku zaprezentowała mówiącego humanoidalnego robota o nazwie Sophia. Więcejmanekin z parku rozrywkiniż nowatorskie badania, Sophia znalazła się na pierwszych stronach gazet Goertzel na całym świecie. Ale nawet on przyznaje, że to tylko teatralny robot, a nie sztuczna inteligencja. Szczególny rodzaj showmanizmu Goertzel spowodował, że wielu poważnych badaczy sztucznej inteligencji zdystansowało się od jego końca spektrum.

Pośrodku umieścił ludzi takich jak Yoshua Bengio, badacz sztucznej inteligencji z Uniwersytetu w Montrealu, który w 2018 roku był zdobywcą nagrody Turinga wraz z Yannem LeCunem i Geoffreyem Hintonem. przemówienie przewodnie na konferencji AGI Bengio zasugerował, że budowanie sztucznej inteligencji z inteligencją na poziomie człowieka jest możliwe, ponieważ ludzki mózg jest maszyną – taką, która wymaga tylko rozpracowania. Nie jest jednak przekonany o superinteligencji — maszynie, która wyprzedza ludzki umysł. Tak czy inaczej, uważa, że ​​AGI nie zostanie osiągnięte, jeśli nie znajdziemy sposobu na zapewnienie komputerom zdrowego rozsądku i wnioskowania przyczynowego.

Ng jednak upiera się, że nie jest też przeciwny AGI. Myślę, że AGI jest bardzo ekscytujące, bardzo chciałbym się tam dostać, mówi. Gdybym miał mnóstwo wolnego czasu, sam bym nad tym pracował. Kiedy pracował w Google Brain i głębokie uczenie rosło w siłę, Ng — podobnie jak OpenAI — zastanawiał się, czy proste skalowanie sieci neuronowych może być drogą do AGI. Ale to są pytania, a nie stwierdzenia, mówi. AGI stało się kontrowersyjne, gdy ludzie zaczęli wysuwać na ten temat konkretne twierdzenia.

Jeszcze bardziej kontrowersyjnym problemem niż pycha o tym, jak szybko można osiągnąć AGI, jest szerzenie strachu o to, co może zrobić, jeśli zostanie uwolnione. Tutaj spekulacje i science fiction wkrótce się zacierają. Musk mówi, że AGI będzie bardziej niebezpieczne niż bomby atomowe. Hugo de Garis, naukowiec zajmujący się sztuczną inteligencją obecnie na Uniwersytecie Wuhan w Chinach, przewidział w 2000 roku, że AGI doprowadzi do wojny światowej i miliardów zgonów do końca wieku. Boskie maszyny, które nazwał artylektami, sprzymierzyły się z ludzkimi zwolennikami, Kosmistami, przeciwko ludzkiemu ruchowi oporu, Terranom.

Wiara w AGI jest jak wiara w magię. Jest to sposób na porzucenie racjonalnego myślenia i wyrażenie nadziei/lęku na coś, czego nie można zrozumieć.

Z pewnością nie pomaga obozowi pro-AGI, gdy ktoś taki jak de Garis, który jest również szczerym zwolennikiem poglądów maskulistycznych i antysemickich, ma artykuł w książce AGI Goertzela obok artykułów poważnych badaczy, takich jak Hutter i Jürgen Schmidhuber – czasami nazywany ojcem nowoczesnej sztucznej inteligencji. Jeśli wielu w obozie AGI postrzega siebie jako nosicieli pochodni AI, wielu poza nim postrzega ich jako szaleńców niosących karty, rzucających myśli o AI do blendera z dzikimi twierdzeniami o Osobliwości (punkt bez powrotu, gdy samodoskonalone maszyny prześcigną ludzka inteligencja), przesyłanie mózgu, transhumanizm i apokalipsa.

Nie przeszkadza mi bardzo interesująca dyskusja na temat inteligencji, której powinniśmy mieć więcej, mówi Togelius. Niepokoi mnie niedorzeczny pomysł, że nasze oprogramowanie nagle się obudzi i zawładnie światem.

Dlaczego to ma znaczenie?

Kilkadziesiąt lat temu, kiedy sztuczna inteligencja nie poradziła sobie z szumem Minsky'ego i innych, pole załamało się więcej niż jeden raz. Finansowanie zniknęło; badacze ruszyli dalej. Minęło wiele lat, zanim technologia wyłoniła się z tak zwanych zim AI i ponownie się umocniła. Jednak ten szum nadal istnieje.

Wszystkie zimy AI zostały stworzone przez nierealistyczne oczekiwania, więc musimy walczyć z nimi na każdym kroku, mówi Ng. Pesenti zgadza się: musimy zarządzać szumem, mówi.

Bardziej bezpośrednim problemem jest to, że te nierealistyczne oczekiwania wpływają na proces podejmowania decyzji przez decydentów. Bryson mówi, że była świadkiem wielu niejasnych myśli w salach posiedzeń zarządu i rządów, ponieważ ludzie tam mają pogląd na sztuczną inteligencję. Może to prowadzić do ignorowania bardzo realnych nierozwiązanych problemów — takich jak sposób, w jaki uprzedzenia rasowe mogą zostać zakodowane w sztucznej inteligencji przez wypaczone dane treningowe, brak przejrzystości w zakresie działania algorytmów lub pytania o odpowiedzialność, gdy sztuczna inteligencja podejmuje złą decyzję — na rzecz bardziej fantastycznych obaw o takie rzeczy, jak przejęcie robota.

Szum wzbudza również zainteresowanie inwestorów. Pieniądze Muska pomogły sfinansować prawdziwe innowacje, ale kiedy mówi, że chce sfinansować prace nad ryzykiem egzystencjalnym, zachęca to naukowców do mówienia o zagrożeniach w odległej przyszłości. Niektórzy z nich naprawdę w to wierzą; niektórzy z nich chcą tylko pieniędzy, uwagi i czegokolwiek innego, mówi Bryson. I nie wiem, czy wszyscy są całkowicie szczerzy wobec siebie, kim są.

Urok AGI nie jest zaskakujący. Autorefleksja i tworzenie to dwie najbardziej ludzkie czynności. Nie można się oprzeć dążeniu do zbudowania maszyny na nasz obraz. Wiele osób, które są teraz krytyczne wobec AGI, flirtowało z nim we wcześniejszych karierach. Podobnie jak Goertzel, Bryson spędził kilka lat, próbując stworzyć sztucznego malucha. W 2005 roku Ng zorganizował warsztaty w NeurIPS (wtedy zwanej NIPS), głównej światowej konferencji AI, zatytułowane Towards human-level AI? To było szalone, mówi Ng. LeCun, obecnie częsty krytyk paplaniny AGI, wygłosił przemówienie.

Badacze ci przeszli do bardziej praktycznych problemów. Ale dzięki postępowi, jaki poczynili oni i inni, oczekiwania ponownie rosną. Wielu ludzi w tej dziedzinie nie spodziewało się tak dużego postępu, jaki mieliśmy w ciągu ostatnich kilku lat, mówi Legg. To była siła napędowa, dzięki której AGI stała się o wiele bardziej wiarygodna.

Nawet sceptycy AGI przyznają, że debata przynajmniej zmusza naukowców do zastanowienia się nad ogólnym kierunkiem tej dziedziny, zamiast koncentrować się na kolejnym hackowaniu sieci neuronowej lub benchmarku. Poważne rozważanie idei AGI przenosi nas w naprawdę fascynujące miejsca, mówi Togelius. Może największym postępem będzie udoskonalenie snu, próba odgadnięcia, o co w tym śnie chodziło.

ukryć