AI uczy się tworzyć siebie

Ludzie walczyli o stworzenie naprawdę inteligentnych maszyn. Może musimy pozwolić im samemu się tym zająć.

Shuhua Xiong

za pomocą

• Czy Douglas Niebo strona archiwum

27 maja 2021

Mała postać z patyczków z głową w kształcie klina przesuwa się po ekranie. Porusza się w półprzysiadzie, ciągnąc jedno kolano po ziemi. Idzie! Eee, tak jakby.

Jednak Rui Wang jest zachwycony. Codziennie wchodzę do biura, otwieram komputer i nie wiem, czego się spodziewać, mówi.

Badacz sztucznej inteligencji w Uberze, Wang lubi opuszczać Sparowany, otwarty pionier , oprogramowanie, które pomagał opracować, uruchamiane przez noc na jego laptopie. POET to rodzaj dojo szkoleniowego dla wirtualnych botów. Jak dotąd w ogóle nie uczą się robić zbyt wiele. Ci agenci AI nie są gra w Go , dostrzeganie oznak raka , lub fałdowanie białek — próbują poruszać się po prymitywnym, kreskówkowym krajobrazie płotów i wąwozów bez przewracania się.

Ale to nie to, czego boty się uczą, jest ekscytujące — tak się uczą. POET generuje tory przeszkód, ocenia zdolności botów i wyznacza im kolejne wyzwania, a wszystko to bez udziału człowieka. Krok po kroku roboty ulepszają się metodą prób i błędów. W pewnym momencie może przeskoczyć urwisko jak mistrz kung fu, mówi Wang.

W tej chwili może się to wydawać proste, ale dla Wanga i garstki innych badaczy POET wskazuje na nowy, rewolucyjny sposób tworzenia superinteligentnych maszyn: poprzez nakłonienie sztucznej inteligencji do tworzenia się.

Były kolega Wanga, Jeff Clune, jest jednym z największych propagatorów tego pomysłu. Clune pracował nad tym od lat, najpierw na Uniwersytecie Wyoming, a potem w Uber AI Labs, gdzie współpracował z Wangiem i innymi. Teraz dzieląc swój czas między University of British Columbia i OpenAI, ma wsparcie jedno z najlepszych laboratoriów sztucznej inteligencji na świecie .

Clune nazywa próbę zbudowania prawdziwie inteligentnej sztucznej inteligencji najbardziej ambitnym poszukiwaniem naukowym w historii ludzkości. Dzisiaj, siedemdziesiąt lat po rozpoczęciu poważnych wysiłków na rzecz stworzenia sztucznej inteligencji, wciąż jesteśmy daleko od stworzenia maszyn, które są niemal tak inteligentne jak ludzie, nie mówiąc już o mądrzejszych. Clune uważa, że ​​POET może wskazać drogę na skróty.

„Musimy zdjąć kajdany i zejść z własnej drogi”, mówi.

Jeśli Clune ma rację, używanie AI do tworzenia AI może być ważnym krokiem na drodze, do której pewnego dnia prowadzi sztuczna inteligencja ogólna (AGI) — maszyny, które mogą przechytrzyć ludzi. W bliższej perspektywie technika ta może również pomóc nam odkryć różne rodzaje inteligencji: inteligencję niebędącą człowiekiem, która może znaleźć rozwiązania w nieoczekiwany sposób i być może uzupełnić naszą własną inteligencję, a nie ją zastąpić.

Naśladowanie ewolucji

Po raz pierwszy rozmawiałem z Clune o tym pomyśle na początku zeszłego roku, zaledwie kilka tygodni po jego przejściu do OpenAI. Chętnie rozmawiał o swojej dotychczasowej pracy, ale nie spuszczał ust z tego, co robi ze swoim nowym zespołem. Zamiast odbierać telefon w środku, wolał spacerować po ulicach poza biurami, gdy rozmawialiśmy.

Clune powiedziałby tylko, że OpenAI dobrze pasuje. Mój pomysł jest bardzo zgodny z wieloma rzeczami, w które wierzą, mówi. To był rodzaj małżeństwa zawartego w niebie. Podobała im się wizja i chcieli, żebym tu przyjechał i ją realizował. Kilka miesięcy po dołączeniu Clune, OpenAI zatrudnił również większość swojego starego zespołu Ubera.

Ambitna wizja Clune opiera się nie tylko na inwestycjach OpenAI. Historia sztucznej inteligencji pełna jest przykładów, w których rozwiązania zaprojektowane przez człowieka ustąpiły miejsca rozwiązaniom maszynowym. Weźmy na przykład wizję komputerową: dekadę temu wielki przełom w rozpoznawaniu obrazów nastąpił, gdy istniejące ręcznie wykonane systemy zostały zastąpione tymi, które uczyły się od zera. Tak samo jest z wieloma sukcesami AI.

Jedną z fascynujących rzeczy w sztucznej inteligencji, a w szczególności w uczeniu maszynowym, jest jej zdolność do znajdowania rozwiązania, których nie znaleźli ludzie —zaskoczyć nas. Często cytowanym przykładem jest AlphaGo (i jego następca AlphaZero), który pokonał to, co ludzkość ma do zaoferowania w starożytnej, urzekającej grze Go, stosując pozornie obce strategie. Po setkach lat badań prowadzonych przez ludzkich mistrzów sztuczna inteligencja znalazła rozwiązania, o których nikt nigdy nie pomyślał.

Clune współpracuje teraz z zespołem OpenAI, który opracował boty, które nauczyły się bawić w chowanego w środowisku wirtualnym w 2018 roku. Te AI rozpoczęły się od prostych celów i prostych narzędzi do ich osiągnięcia: jedna para musiała znaleźć drugą, która mogła ukryć się za ruchomymi przeszkodami. Jednak kiedy te boty zostały uwolnione do nauki, wkrótce znalazły sposoby na wykorzystanie swojego środowiska w sposób, którego naukowcy nie przewidzieli. Wykorzystali usterki w symulowanej fizyce ich wirtualnego świata, aby przeskakiwać, a nawet przechodzić przez ściany.

Tego rodzaju nieoczekiwane pojawiające się zachowania dają kuszące wskazówki, że sztuczna inteligencja może znaleźć rozwiązania techniczne, o których ludzie sami by nie wymyślili, wymyślając nowe i bardziej wydajne rodzaje algorytmów lub sieci neuronowych — a nawet całkowicie porzucając sieci neuronowe, będące podstawą współczesnej sztucznej inteligencji.

Clune lubi przypominać ludziom, że inteligencja wyrosła już z prostych początków. Interesujące w tym podejściu jest to, że wiemy, że może działać, mówi. Bardzo prosty algorytm darwinowskiej ewolucji stworzył twój mózg, a twój mózg jest najinteligentniejszym algorytmem uczenia się we wszechświecie, jaki do tej pory znamy. Chodzi o to, że jeśli inteligencja, jaką znamy, wynikała z bezmyślnej mutacji genów przez niezliczone pokolenia, dlaczego nie spróbować odtworzyć procesu produkcji inteligencji – który jest prawdopodobnie prostszy – zamiast samej inteligencji?

Powiązana historia

Sztuczna inteligencja ogólna: czy jesteśmy blisko i czy warto próbować?

Maszyna, która może myśleć jak człowiek, była wiodącą wizją badań nad sztuczną inteligencją od najwcześniejszych dni — i pozostaje jej najbardziej dzielącą ideą.

Ale jest tu jeszcze jedna ważna obserwacja. Inteligencja nigdy nie była punktem końcowym ewolucji, czymś, do czego należy dążyć. Zamiast tego pojawił się w wielu różnych formach z niezliczonych drobnych rozwiązań wyzwań, które pozwoliły żywym istotom przetrwać i podjąć przyszłe wyzwania. Inteligencja jest obecnie szczytowym punktem trwającego i otwartego procesu. W tym sensie ewolucja różni się od algorytmów w sposób, w jaki ludzie zwykle o nich myślą – jako o środkach do celu.

Clune i inni uważają, że ta otwartość, widoczna w pozornie bezcelowej sekwencji wyzwań generowanych przez POET, może prowadzić do nowych rodzajów sztucznej inteligencji. Od dziesięcioleci naukowcy zajmujący się sztuczną inteligencją próbowali budować algorytmy naśladujące ludzką inteligencję, ale prawdziwym przełomem może być budowanie algorytmów, które próbują naśladować otwarte rozwiązywanie problemów ewolucji — i siedzenie z powrotem, by obserwować, co się wyłania.

Naukowcy już wykorzystują samo uczenie maszynowe, szkoląc je, aby znaleźć rozwiązania niektórych z najtrudniejszych problemów w tej dziedzinie, takich jak tworzenie maszyn, które mogą uczyć się więcej niż jednego zadania naraz lub radzić sobie z sytuacjami, których wcześniej nie napotkali. Niektórzy uważają, że przyjęcie takiego podejścia i bieganie z nim może być najlepszą drogą do sztucznej inteligencji ogólnej. Clune mówi, że moglibyśmy uruchomić algorytm, który początkowo nie ma w sobie zbyt wiele inteligencji, i obserwować, jak sam się ładuje aż do poziomu AGI.

Prawda jest taka, że ​​na razie AGI pozostaje fantazją. Ale to głównie dlatego, że nikt nie wie, jak to zrobić. Postępy w sztucznej inteligencji są fragmentaryczne i dokonywane przez ludzi, a postępy zazwyczaj obejmują poprawki do istniejących technik lub algorytmów, co skutkuje stopniowymi skokami wydajności lub dokładności. Clune charakteryzuje te wysiłki jako próby odkrycia elementów składowych sztucznej inteligencji, nie wiedząc, czego szukasz ani ile bloków będziesz potrzebować. A to dopiero początek. W pewnym momencie musimy podjąć herkulesowe zadanie złożenia ich wszystkich razem, mówi.

Proszenie AI o znalezienie i złożenie dla nas tych elementów konstrukcyjnych jest zmianą paradygmatu. Mówi, że chcemy stworzyć inteligentną maszynę, ale nie obchodzi nas, jak może wyglądać — po prostu daj nam to, co działa.

Nawet jeśli AGI nigdy nie zostanie osiągnięte, podejście samouczące może nadal zmienić rodzaje tworzonej sztucznej inteligencji. Świat potrzebuje czegoś więcej niż bardzo dobrego gracza Go, mówi Clune. Dla niego stworzenie superinteligentnej maszyny oznacza zbudowanie systemu, który wymyśla własne wyzwania, rozwiązuje je, a następnie wymyśla nowe. POET jest małym przebłyskiem tego w akcji. Clune wyobraża sobie maszynę, która uczy bota chodzić, potem grać w klasy, a potem może grać w Go. Może wtedy uczy się zagadek matematycznych i zaczyna wymyślać własne wyzwania, mówi. System stale się rozwija, a możliwości są nieograniczone.

Być może to szalona spekulacja, ale jedną z nadziei jest to, że takie maszyny mogą ominąć nasze konceptualne ślepe uliczki, pomagając nam odkryć niezwykle złożone kryzysy, takie jak zmiany klimatyczne czy globalne zdrowie.

Ale najpierw musimy zrobić.

Jak stworzyć mózg

Istnieje wiele różnych sposobów podłączenia sztucznego mózgu.

Sieci neuronowe składają się z wielu warstw sztucznych neuronów zakodowanych w oprogramowaniu. Każdy neuron może być połączony z innymi w powyższych warstwach. Sposób okablowania sieci neuronowej ma duże znaczenie, a nowe architektury często prowadzą do nowych przełomów.

Sieci neuronowe kodowane przez naukowców są często wynikiem prób i błędów. Niewiele jest teorii na temat tego, co działa, a co nie, i nie ma gwarancji, że znaleziono najlepsze projekty. Dlatego automatyzacja poszukiwania lepszych projektów sieci neuronowych jest jednym z najgorętszych tematów w sztucznej inteligencji od co najmniej lat 80. XX wieku. Najpopularniejszym sposobem automatyzacji procesu jest umożliwienie sztucznej inteligencji wygenerowania wielu możliwych projektów sieci i umożliwienie sieci automatycznej wypróbowania każdego z nich i wybrania najlepszych. Jest to powszechnie znane jako neuroewolucja lub przeszukiwanie architektury neuronowej (NAS).

W ciągu ostatnich kilku lat te konstrukcje maszyn zaczęły przewyższać ludzkie. W 2018 roku Esteban Real i jego koledzy z Google wykorzystali NAS do wygenerowania sieci neuronowej do rozpoznawania obrazów, która pokonaj najlepsze sieci zaprojektowane przez człowieka wtedy. To było otwieracz oczu.

System 2018 jest częścią trwającego projektu Google o nazwie AutoML, który wykorzystał również NAS do stworzenia EfficientNets, rodziny modeli głębokiego uczenia, które są bardziej wydajne niż zaprojektowane przez człowieka , osiągając wysoki poziom dokładności w zadaniach rozpoznawania obrazów za pomocą mniejszych, szybszych modeli.

Po trzech latach Real przesuwa granice tego, co można wygenerować od zera. Wcześniejsze systemy po prostu przeorganizowały wypróbowane i przetestowane elementy sieci neuronowej, takie jak istniejące typy warstw lub komponentów. Moglibyśmy oczekiwać dobrej odpowiedzi, mówi.

W zeszłym roku Real i jego zespół zdjęli koła treningowe. Nowy system, zwany Zerowy AutoML , próbuje zbudować sztuczną inteligencję od podstaw, używając wyłącznie najbardziej podstawowych pojęć matematycznych, które rządzą uczeniem maszynowym.

Co zdumiewające, AutoML Zero nie tylko spontanicznie zbudowało sieć neuronową, ale także wymyśliło gradientowe opadanie, najpowszechniejszą technikę matematyczną używaną przez ludzkich projektantów do trenowania sieci. Byłem dość zaskoczony, mówi Real. To bardzo prosty algorytm — zajmuje około sześciu linijek kodu — ale napisał dokładnie sześć linijek.

AutoML Zero nie generuje jeszcze architektur, które mogą konkurować z wydajnością systemów zaprojektowanych przez człowieka — ani nie robi wielu rzeczy, których nie zrobiłby ludzki projektant. Ale Real wierzy, że pewnego dnia może.

Czas wyszkolić nowy rodzaj nauczyciela

Najpierw tworzysz mózg; musisz tego nauczyć. Ale mózgi maszyn nie uczą się tak, jak nasze. Nasze mózgi świetnie przystosowują się do nowych środowisk i nowych zadań. Dzisiejsze AI mogą rozwiązywać problemy w określonych warunkach, ale zawodzą, gdy te warunki zmienią się nawet trochę. Ta nieelastyczność utrudnia dążenie do stworzenia bardziej uogólnionej sztucznej inteligencji, która może być użyteczna w wielu różnych scenariuszach, co byłoby dużym krokiem w kierunku uczynienia ich naprawdę inteligentnymi.

Dla Jane Wang, badaczki z DeepMind w Londynie, najlepszym sposobem na uelastycznienie sztucznej inteligencji jest nauczenie jej tej cechy. Innymi słowy, chce zbudować sztuczną inteligencję, która nie tylko uczy się określonych zadań, ale także uczy się tych zadań w sposób, który można dostosować do nowych sytuacji.

Naukowcy od lat próbują uczynić sztuczną inteligencję bardziej elastyczną. Wang uważa, że ​​nakłonienie sztucznej inteligencji do samodzielnego rozwiązania tego problemu pozwala uniknąć niektórych prób i błędów ręcznie zaprojektowanego podejścia: nie możemy oczekiwać, że od razu natkniemy się na właściwą odpowiedź. Ma nadzieję, że w trakcie tego procesu dowiemy się również więcej o tym, jak działają mózgi. Wciąż jest tak wiele rzeczy, których nie rozumiemy na temat sposobu, w jaki uczą się ludzie i zwierzęta, mówi.

Istnieją dwa główne podejścia do automatycznego generowania algorytmów uczenia się, ale oba zaczynają się od istniejącej sieci neuronowej i wykorzystują sztuczną inteligencję do jej uczenia.

Powiązana historia

Sztuczna inteligencja uzbrojona w wiele zmysłów może zyskać bardziej elastyczną inteligencję

Inteligencja ludzka wyłania się z połączenia naszych zmysłów i zdolności językowych. Może to samo dotyczy sztucznej inteligencji.

Pierwsze podejście, wymyślone osobno przez Wang i jej koledzy z DeepMind i przez zespół w OpenAI mniej więcej w tym samym czasie używa rekurencyjnych sieci neuronowych. Ten rodzaj sieci można wytrenować w taki sposób, że aktywacje ich neuronów — mniej więcej podobne do odpalania neuronów w mózgach biologicznych — kodują dowolny rodzaj algorytmu. DeepMind i OpenAI wykorzystały to, aby wytrenować powtarzalną sieć neuronową w celu wygenerowania algorytmów uczenia się przez wzmacnianie, które informują sztuczną inteligencję, jak zachowywać się, aby osiągnąć określone cele.

W rezultacie systemy DeepMind i OpenAI nie uczą się algorytmu rozwiązującego określone wyzwanie, takie jak rozpoznawanie obrazów, ale uczą się uczenie się algorytm, który można zastosować do wielu zadań i dostosowywać w miarę postępów. To jak stare powiedzenie o nauczeniu kogoś łowienia ryb: podczas gdy ręcznie zaprojektowany algorytm może nauczyć się konkretnego zadania, te sztuczne sztuczki są zmuszone do samodzielnego uczenia się. A niektóre z nich działają lepiej niż te zaprojektowane przez człowieka.

Drugie podejście pochodzi od Chelsea Finn z Uniwersytetu Kalifornijskiego w Berkeley i jej kolegów. Nazywa meta-uczenie się niezależne od modelu lub MAML, trenuje model przy użyciu dwóch procesów uczenia maszynowego, z których jeden jest zagnieżdżony w drugim.

Z grubsza, oto jak to działa. Proces wewnętrzny w MAML jest szkolony na danych, a następnie testowany — jak zwykle. Ale wtedy model zewnętrzny bierze wydajność modelu wewnętrznego — na przykład jak dobrze identyfikuje obrazy — i używa ich do nauczenia się, jak dostosować algorytm uczenia się tego modelu w celu zwiększenia wydajności. To tak, jakbyś miał inspektora szkolnego, który czuwał nad grupą nauczycieli, z których każdy oferuje inne techniki uczenia się. Inspektor sprawdza, które techniki pomagają uczniom uzyskać najlepsze wyniki i odpowiednio je poprawia.

Dzięki tym podejściom naukowcy tworzą sztuczną inteligencję, która jest bardziej niezawodna, bardziej uogólniona i zdolna do szybszego uczenia się przy mniejszej ilości danych. Na przykład, Finn chce, aby robot, który nauczył się chodzić po płaskim terenie, był w stanie przejść przy minimalnym dodatkowym przeszkoleniu do chodzenia po zboczu lub trawie lub z ładunkiem.

W zeszłym roku Clune i jego koledzy rozszerzyli technikę Finna, aby zaprojektować algorytm, który uczy się przy użyciu mniejszej liczby neuronów, tak aby nie nadpisywał wszystkiego, czego nauczył się wcześniej, co jest dużym nierozwiązanym problemem w uczeniu maszynowym znanym jako katastrofalne zapominanie. Wytrenowany model, który wykorzystuje mniej neuronów, znany jako model rzadki, będzie miał więcej nieużywanych neuronów, które po ponownym przeszkoleniu zostaną przeznaczone do nowych zadań, co oznacza, że ​​mniej używanych neuronów zostanie nadpisanych. Clune odkrył, że wyznaczenie swojej sztucznej inteligencji wyzwania polegającego na nauce więcej niż jednego zadania doprowadziło go do opracowania własnej wersji rzadkiego modelu, który przewyższał modele zaprojektowane przez człowieka.

Jeśli zamierzamy pozwolić sztucznej inteligencji tworzyć i uczyć się samemu, to sztuczna inteligencja powinna również generować własne środowiska szkoleniowe — szkoły i podręczniki, a także plany lekcji.

A w ubiegłym roku mieliśmy do czynienia z wieloma projektami, w których sztuczna inteligencja była szkolona na automatycznie generowanych danych. Systemy rozpoznawania twarzy są trenowane na przykład z twarzami generowanymi przez sztuczną inteligencję. Sztuczna inteligencja również uczy się, jak się wzajemnie szkolić. W jednym z ostatnich przykładów dwa ramiona robota Pracowali razem, a jedno ramię uczyło się stawiać coraz trudniejsze wyzwania związane z układaniem bloków, które uczyły drugiego chwytania i chwytania przedmiotów.

W rzeczywistości Clune zastanawia się, czy ludzka intuicja dotycząca tego, jakiego rodzaju danych potrzebuje sztuczna inteligencja, aby się uczyć, może być wyłączona. Na przykład on i jego koledzy opracowali to, co nazywa generatywne sieci nauczania , które uczą się, jakie dane powinny generować, aby uzyskać najlepsze wyniki podczas uczenia modelu. W jednym eksperymencie wykorzystał jedną z tych sieci, aby dostosować zestaw danych z odręcznie pisanymi liczbami, które są często używane do uczenia algorytmów rozpoznawania obrazów. To, co wymyślił, bardzo różniło się od oryginalnego zbioru danych wyselekcjonowanych przez człowieka: setki nie do końca cyfr, takich jak górna połowa cyfry siódmej lub coś, co wyglądało jak połączone ze sobą dwie cyfry. Niektóre przykłady wygenerowane przez sztuczną inteligencję były w ogóle trudne do rozszyfrowania. Mimo to dane generowane przez sztuczną inteligencję nadal świetnie sprawdzały się w trenowaniu systemu rozpoznawania pisma ręcznego w celu identyfikacji rzeczywistych cyfr.

Nie próbuj odnieść sukcesu

Dane generowane przez sztuczną inteligencję to wciąż tylko część układanki. Długoterminową wizją jest przeniesienie wszystkich tych technik – i innych jeszcze nie wynalezionych – i przekazanie ich trenerowi sztucznej inteligencji, który kontroluje sposób, w jaki sztuczne mózgi są podłączone, jak są szkolone i na czym są szkoleni. Nawet Clune nie jest jasne, jak taki przyszły system miałby wyglądać. Czasami mówi o czymś w rodzaju hiperrealistycznej symulowanej piaskownicy, w której sztuczna inteligencja może wyciąć zęby i oskórować wirtualne kolana. Coś, co jest skomplikowane, jest jeszcze wiele lat. Najbliżej jest jeszcze POET, system Clune stworzony z Rui Wangiem z Ubera i innymi.

POET był motywowany paradoksem, mówi Wang. Jeśli spróbujesz rozwiązać problem, poniesiesz porażkę; jeśli nie spróbujesz go rozwiązać, masz większe szanse na sukces. Jest to jeden ze spostrzeżeń, jakie Clune wyciąga ze swojej analogii z ewolucją — niesamowitych wyników, które wyłaniają się z pozornie losowego procesu, często nie można odtworzyć, podejmując przemyślane kroki w tym samym celu. Nie ma wątpliwości, że motyle istnieją, ale cofnij się do ich jednokomórkowych prekursorów i spróbuj stworzyć je od zera, wybierając każdy krok od bakterii do robaka, a prawdopodobnie ci się nie uda.

POET uruchamia swojego dwunożnego agenta w prostym środowisku, takim jak płaska ścieżka bez przeszkód. Agent początkowo nie wie, co zrobić z nogami i nie może chodzić. Ale dzięki próbom i błędom algorytm uczenia się przez wzmocnienie, który nim steruje, uczy się, jak poruszać się po płaskim terenie. Następnie POET generuje nowe losowe środowisko, które jest inne, ale niekoniecznie trudniejsze do poruszania się. Agent próbuje tam chodzić. Jeśli w tym nowym środowisku pojawią się przeszkody, agent uczy się, jak je pokonać. Za każdym razem, gdy agent odniesie sukces lub utknie, zostaje przeniesiony do nowego środowiska. Z biegiem czasu agenci uczą się szeregu czynności związanych z chodzeniem i skakaniem, które pozwalają im poruszać się po coraz trudniejszych torach przeszkód.

Zespół odkrył, że zasadnicze znaczenie ma losowe przełączanie środowisk.

Na przykład agenci czasami uczyli się chodzić po płaskim terenie z dziwnym, na wpół klęczącym szuraniem, bo to było wystarczająco dobre. Nigdy nie uczą się wstawać, bo nigdy nie muszą, mówi Wang. Ale po tym, jak zostali zmuszeni do nauczenia się alternatywnych strategii na usianym przeszkodami terenie, mogli wrócić do wczesnego etapu z lepszym sposobem chodzenia — używając obu nóg zamiast, powiedzmy, ciągnięcia jednej za sobą — a następnie posunąć tę ulepszoną wersję siebie do przodu do trudniejszych wyzwań.

POET szkoli swoje boty w sposób, w jaki żaden człowiek by tego nie zrobił — do sukcesu podąża błędnymi, nieintuicyjnymi ścieżkami. Na każdym etapie boty próbują znaleźć rozwiązanie dla każdego wyzwania, przed którym staną. Radząc sobie z losowo wybranymi przeszkodami, które napotykają, ogólnie stają się lepsi. Ale nie ma końca tego procesu, nie ma ostatecznego testu do zdania ani wysokiego wyniku do pokonania.

Clune, Wang i wielu ich kolegów wierzy, że jest to głęboki wgląd. Obecnie badają, co może to oznaczać dla rozwoju superinteligentnych maszyn. Czy mógłbym spróbować nie wytyczyć konkretną ścieżkę rzeczywiście jest kluczowym przełomem na drodze do sztucznej inteligencji ogólnej?

POET już inspiruje innych badaczy, takich jak Natasha Jaques i Michael Dennis z Uniwersytetu Kalifornijskiego w Berkeley. Opracowali system o nazwie SPAROWANE który wykorzystuje sztuczną inteligencję do generowania serii labiryntów, aby wyszkolić inną sztuczną inteligencję do poruszania się po nich.

Rui Wang uważa, że ​​wyzwania zaprojektowane przez człowieka będą wąskim gardłem i że prawdziwy postęp w sztucznej inteligencji będzie wymagał od sztucznej inteligencji wymyślenia własnych. Bez względu na to, jak dobre są dziś algorytmy, zawsze są one testowane na jakimś ręcznie zaprojektowanym benchmarku, mówi. Bardzo trudno wyobrazić sobie płynącą z tego sztuczną inteligencję ogólną, ponieważ wiąże się ona z ustalonymi celami.

Nowy rodzaj inteligencji

Szybki rozwój sztucznej inteligencji, która może sama się szkolić, rodzi również pytania o to, jak dobrze możemy kontrolować jej rozwój. Idea sztucznej inteligencji, która buduje lepszą sztuczną inteligencję, jest kluczową częścią tworzenia mitu stojącego za Osobliwością, wyobrażonym punktem w przyszłości, w którym sztuczna inteligencja zacznie się poprawiać w tempie wykładniczym i wyjdzie poza naszą kontrolę. W końcu, jak ostrzegają niektórzy czarnowidzowie, sztuczna inteligencja może zdecydować, że w ogóle nie potrzebuje ludzi.

Żaden z tych badaczy nie ma tego na myśli: ich praca jest bardzo skoncentrowana na ulepszaniu dzisiejszej sztucznej inteligencji. Maszyny, które wpadają w amok, pozostają daleką antyfantazją.

Mimo to Jane Wang z DeepMind ma zastrzeżenia. Dużą częścią atrakcyjności korzystania ze sztucznej inteligencji do tworzenia sztucznej inteligencji jest to, że może ona wymyślać projekty i techniki, o których ludzie nie pomyśleli. Jednak Wang zauważa, że ​​nie wszystkie niespodzianki są dobrymi niespodziankami: otwartość jest z definicji czymś nieoczekiwanym. Jeśli cały pomysł polega na tym, aby sztuczna inteligencja zrobiła coś, czego nie przewidziałeś, trudniej jest to kontrolować. To zarówno ekscytujące, jak i przerażające, mówi.

Clune podkreśla również, jak ważne jest myślenie o etyce nowej technologii od samego początku. Istnieje duża szansa, że ​​sieci neuronowe i algorytmy zaprojektowane przez sztuczną inteligencję będą jeszcze trudniejsze do zrozumienia niż dzisiejsze, i tak już nieprzejrzyste systemy czarnej skrzynki. Czy sztuczna inteligencja generowana przez algorytmy jest trudniejsza? audyt stronniczości ? Czy trudniej jest zagwarantować, że nie będą się zachowywać w niepożądany sposób?

Clune ma nadzieję, że takie pytania będą zadawane i udzielane odpowiedzi, ponieważ coraz więcej osób zdaje sobie sprawę z potencjału samogenerujących się AI. Większość ludzi w społeczności zajmującej się uczeniem maszynowym tak naprawdę nigdy nie mówi o naszej ogólnej ścieżce do niezwykle wydajnej sztucznej inteligencji, mówi – zamiast tego skupiają się na małych, przyrostowych ulepszeniach. Clune chce ponownie rozpocząć rozmowę o największych ambicjach pola.

Jego własne ambicje wiążą się z jego wczesnymi zainteresowaniami ludzką inteligencją i jej ewolucją. Jego wielką wizją jest takie ustawienie, aby maszyny mogły pewnego dnia zobaczyć swoją własną inteligencję – lub inteligencję – wyłaniającą się i ulepszającą poprzez niezliczone generacje prób i błędów, kierując się algorytmami bez ostatecznego planu.

Jeśli sztuczna inteligencja sama zacznie generować inteligencję, nie ma gwarancji, że będzie podobna do ludzkiej. Zamiast ludzi uczyć maszyny myślenia jak ludzie, maszyny mogą uczyć ludzi nowych sposobów myślenia.

Prawdopodobnie istnieje wiele różnych sposobów na bycie bardzo inteligentnym, mówi Clune. Jedną z rzeczy, które ekscytują mnie w sztucznej inteligencji, jest to, że możemy bardziej ogólnie zrozumieć inteligencję, widząc, jaka jest możliwa zmienność.

Myślę, że to fascynujące. To znaczy, to prawie jak wymyślanie podróży międzygwiezdnych i możliwość odwiedzania obcych kultur. Nie byłoby lepszego momentu w historii ludzkości niż spotkanie z obcą rasą i poznanie jej kultury, nauki, wszystkiego. Podróże międzygwiezdne są niezwykle trudne, ale mamy możliwość cyfrowego tworzenia obcych inteligencji.