Podcast: Czy można nauczyć maszynę myślenia?

Ariel Davis





Sztuczna inteligencja stała się tak ważną częścią naszego życia, że ​​można by wybaczyć utratę liczenia algorytmów, z którymi wchodzisz w interakcję. Ale sztuczna inteligencja obsługująca prognozę pogody, filtr na Instagramie lub ulubioną playlistę Spotify jest daleka od hiperinteligentne maszyny myślące pionierzy branży rozmyślają o tym od dziesięcioleci.

Głęboka nauka, technologia napędzająca obecny boom AI , może szkolić maszyny, aby stać się mistrzami w różnych zadaniach. Ale może uczyć się tylko jednego na raz. A ponieważ większość modeli sztucznej inteligencji szkoli swoje umiejętności na tysiącach lub milionach istniejących przykładów, w efekcie powielają wzorce w danych historycznych — w tym wiele złych decyzji podjętych przez ludzi, takich jak marginalizowanie osób kolorowych i kobiet.

Mimo to systemy takie jak mistrz gier planszowych AlphaZero i coraz bardziej przekonujący generator fałszywego tekstu GPT-3 podsyciły płomienie debaty na temat tego, kiedy ludzie będą tworzyć sztuczna inteligencja ogólna —maszyny, które potrafią wykonywać wiele zadań jednocześnie, myśleć i rozumować same za siebie.



Pomysł dzieli. Poza odpowiedzią na… w jaki sposób możemy opracować technologie zdolne do zdrowego rozsądku lub samodoskonalenia, to kolejne pytanie: kto tak naprawdę korzysta z replikacji ludzkiej inteligencji w sztucznym umyśle?

Większość wartości generowanej dzisiaj przez sztuczną inteligencję wraca do miliardowych firm, które już mają do dyspozycji fantastyczną ilość zasobów, mówi Karen Hao, starszy reporter MIT Technology Review ds. AI i autor publikacji Algorytm . I tak naprawdę nie wymyśliliśmy, jak przekonwertować tę wartość lub przekazać ją innym ludziom.

W tym odcinku Deep Tech, Hao i Will Douglas Heaven, nasz starszy redaktor ds. sztucznej inteligencji, dołączają do naszego redaktora naczelnego, Gideona Lichfielda, aby omówić różne szkoły myślenia na temat tego, czy sztuczna inteligencja ogólna jest w ogóle możliwa i co to jest. zajęłoby się tam dostać.



Sprawdź więcej odcinków Deep Tech tutaj.

Pokaż notatki i linki:

Pełna transkrypcja odcinka:

Gideon Lichfield: Sztuczna inteligencja jest teraz tak wszechobecna, że ​​prawdopodobnie nawet nie myślisz o tym, że jej używasz. Twoje wyszukiwania w sieci. Tłumacz Google. Asystenci głosowi, tacy jak Alexa i Siri. Te urocze małe filtry na Snapchacie i Instagramie. Co widzisz – i czego nie widzisz – w mediach społecznościowych. Powiadomienia o oszustwach od firmy obsługującej karty kredytowe. Zalecenia Amazona. Listy odtwarzania Spotify. Kierunki ruchu. Prognoza pogody. Cały czas to sztuczna inteligencja.

I to wszystko, co moglibyśmy nazwać głupią sztuczną inteligencją. Nie prawdziwa inteligencja. Naprawdę tylko kopiujące maszyny: algorytmy, które nauczyły się robić naprawdę konkretne rzeczy, szkoląc się na tysiącach lub milionach poprawnych przykładów. W przypadku niektórych z tych rzeczy, takich jak rozpoznawanie twarzy i mowy, są one jeszcze dokładniejsze niż ludzie.



Cały ten postęp ożywił starą debatę w tej dziedzinie: czy możemy tworzyć? obecny inteligencja, maszyny, które potrafią samodzielnie myśleć? Cóż, dzisiaj jest ze mną zespół AI MIT Technology Review: Will Heaven, nasz starszy redaktor ds. AI i Karen Hao, nasza starsza reporterka AI i autorka Algorytm , nasz biuletyn AI. Oboje śledzili postępy w sztucznej inteligencji i różne szkoły myślenia dotyczące tego, czy sztuczna inteligencja ogólna jest w ogóle możliwa i czego potrzeba, aby się tam dostać.

Jestem Gideon Lichfield, redaktor naczelny MIT Technology Review, a to jest Deep Tech.

Will, właśnie napisałeś historię zawierającą 4000 słów na pytanie, czy możemy stworzyć sztuczną inteligencję ogólną. Więc musiałeś mieć jakiś powód, żeby to sobie zrobić. Dlaczego to pytanie jest teraz interesujące?



Czy Douglas Heaven: W pewnym sensie zawsze było to interesujące. Budowa maszyny, która potrafi myśleć i robić rzeczy, które ludzie potrafią robić, była celem AI od samego początku, ale była to długa, długa walka. A szum z przeszłości doprowadził do porażki. Więc ta idea sztucznej ogólnej inteligencji stała się, no wiesz, bardzo kontrowersyjna i bardzo dzieląca – ale powraca. Dzieje się tak w dużej mierze dzięki sukcesowi głębokiego uczenia się w ciągu ostatniej dekady. A w szczególności systemy takie jak Alpha Zero, które zostało stworzone przez DeepMind i mogą grać w Go i Shogi, rodzaj japońskich szachów, i w szachy. Ten sam algorytm może grać we wszystkie trzy gry. Oraz GPT-3, duży model językowy OpenAI, który potrafi w niesamowity sposób naśladować sposób, w jaki piszą ludzie. To skłoniło ludzi, zwłaszcza w ciągu ostatniego roku, do wskoczenia i ponownego zadawania tych pytań. Czy jesteśmy na zakręcie budowy sztucznej inteligencji ogólnej? Maszyny, które potrafią myśleć i robić rzeczy tak, jak ludzie.

Gideon Lichfield: Karen, porozmawiajmy trochę więcej o GPT-3, o którym Will właśnie wspomniał. To ten algorytm, który, wiesz, dajesz mu kilka słów, a on wypluwa akapity i akapity tego, co wygląda przekonująco jak Szekspir lub cokolwiek innego, co mu każesz. Ale co jest w tym tak niezwykłego z perspektywy sztucznej inteligencji? Co robi, czego wcześniej nie można było zrobić?

Karen Hao: Co ciekawe, myślę, że przełomy, które doprowadziły do ​​powstania GPT-3, faktycznie miały miejsce sporo lat wcześniej. W 2017 r. główny przełom, który wywołał falę postępu w przetwarzaniu języka naturalnego, nastąpił wraz z opublikowaniem artykułu wprowadzającego ideę transformatorów. Sposób, w jaki algorytm transformatora radzi sobie z językiem, polega na tym, że analizuje miliony, a nawet miliardy przykładów, zdań o strukturze paragrafowej, a może nawet struktury kodu. I może wyodrębnić wzorce i zacząć przewidywać w bardzo imponującym stopniu, które słowa razem mają największy sens, a które zdania razem mają największy sens. A potem konstruuj te naprawdę długie akapity i eseje. Myślę, że GPT-3 zrobił inaczej, to fakt, że jest tylko kilka rzędów wielkości więcej danych, które są obecnie wykorzystywane do trenowania tej techniki transformatorowej. Więc to, co OpenAI zrobił z GPT-3, to nie tylko trenowanie go na większej liczbie przykładów słów z korporacji, takich jak Wikipedia, lub z artykułów takich jak New York Times lub fora Reddit lub wszystkich tych rzeczy, ale także trenują go, wzorce zdań, szkoli go na wzorcach akapitów, patrząc na to, co ma sens jako akapit wprowadzający, a nie akapit końcowy. Więc po prostu otrzymujemy znacznie więcej informacji i naprawdę zaczynamy bardzo dokładnie naśladować sposób, w jaki ludzie piszą, jak komponuje się muzykę lub jak koduje się kodowanie.

Więc po prostu otrzymujemy znacznie więcej informacji i naprawdę zaczynamy bardzo dokładnie naśladować sposób, w jaki ludzie piszą, jak komponuje się muzykę lub jak koduje się kodowanie.

Gideon Lichfield: A co robiła sztuczna inteligencja przed transformatorami, które potrafią wydobywać wzory z tych wszystkich rodzajów struktur?

Karen Hao: Wcześniej przetwarzanie języka naturalnego było właściwie… znacznie bardziej podstawowe. Tak więc transformatory są rodzajem samonadzorowanej techniki, w której algorytm nie jest dokładnie informowany, czego szukać w języku. Po prostu sam szuka wzorców i uważa, że ​​są powtarzającymi się cechami kompozycji językowej. Ale wcześniej było znacznie więcej nadzorowanych podejść do języka io wiele mocniej zakodowanych podejść do języka, w których ludzie uczyli maszyn w stylu „to są rzeczowniki, to są przymiotniki. W ten sposób konstruujecie te rzeczy razem. I niestety jest to bardzo żmudny proces, aby spróbować wypracować język w taki sposób, w którym każde słowo musi mieć etykietę. A maszynę trzeba ręcznie nauczyć, jak je konstruować. Ograniczyło to więc ilość danych, z których te techniki mogą czerpać. I właśnie dlatego systemy językowe naprawdę nie były zbyt dobre.

Gideon Lichfield: Wróćmy więc do tego rozróżnienia między uczeniem się nadzorowanym i samonadzorowanym, ponieważ myślę, że zobaczymy, że jest to dość ważna część postępów w kierunku czegoś, co może stać się inteligencją ogólną. Will, jak napisałeś w swoim artykule, jest wiele niejasności co do tego, co mamy na myśli, kiedy mówimy o sztucznej ogólnej inteligencji. Czy możesz porozmawiać o tym, jakie są tam opcje?

Czy Douglas Heaven: Jest pewne spektrum. Mam na myśli to, że z jednej strony masz systemy, które, wiecie, mogą robić wiele rzeczy, które wąska sztuczna inteligencja lub głupia sztuczna inteligencja, jeśli chcesz, mogą to zrobić dzisiaj, ale w pewnym sensie wszystkie naraz. A Alpha Zero to prawdopodobnie pierwszy przebłysk tego. Ten jeden algorytm, który może nauczyć się robić trzy różne rzeczy, ale ważne zastrzeżenie, nie może zmusić się do robienia tych trzech rzeczy naraz. Więc to nie jest pojedynczy mózg, który może przełączać się między zadaniami. Jak Shane Legg, współzałożyciel Deepmind, powiedział, że to tak, jakbyśmy musieli, wiesz, kiedy zaczęliśmy grać w szachy, musieliśmy zamienić nasz mózg i włożyć go do naszego szachowego mózgu.

To oczywiście nie jest zbyt ogólne, ale jesteśmy na szczycie tego rodzaju rzeczy – twój rodzaj wielonarzędziowej sztucznej inteligencji, w której jedna sztuczna inteligencja może zrobić kilka różnych rzeczy, które może już zrobić wąska sztuczna inteligencja. A potem przesuwając się w górę spektrum, co prawdopodobnie więcej ludzi ma na myśli mówiąc o AGI, to, no wiesz, myślące maszyny, maszyny, które są podobne do ludzi w przerażających cytatach, które mogą wykonywać wiele zadań w sposób, w jaki człowiek potrafi. Wiesz, że jesteśmy niezwykle elastyczni. Możemy przełączać się między, wiesz, smażeniem jajka, wiesz, pisaniem posta na blogu, śpiewaniem, cokolwiek. Mimo to są też ludzie, idący na drugi koniec spektrum, którzy również wciągnęliby się w świadomość maszynową, by porozmawiać o AGI. Wiesz, że nie będziemy mieć prawdziwej ogólnej inteligencji ani inteligencji podobnej do człowieka, dopóki nie będziemy mieli maszyny, która nie tylko może robić rzeczy, które my możemy zrobić, ale także wie, że może robić rzeczy, które my możemy zrobić, która ma jakiś rodzaj samorefleksji w tym miejscu. Myślę, że wszystkie te definicje istnieją od samego początku, ale jest to jedna z rzeczy, które sprawiają, że AGI jest trudne do omówienia i dość kontrowersyjne, ponieważ nie ma jasnej definicji.

Gideon Lichfield: Kiedy mówimy o sztucznej inteligencji ogólnej, istnieje tego rodzaju ukryte założenie, że sama inteligencja ludzka jest również absolutnie ogólna. Jest uniwersalny. Możemy usmażyć jajko, napisać posta na blogu, potańczyć lub pośpiewać. I to wszystko to umiejętności, które powinna posiadać każda inteligencja ogólna. Ale czy tak jest naprawdę, czy będą różne rodzaje inteligencji ogólnej?

Czy Douglas Heaven: Myślę, i myślę, że wielu w społeczności AI również zgodziłoby się, że istnieje wiele różnych inteligencji. Utknęliśmy na idei inteligencji podobnej do człowieka, myślę, że głównie dlatego, że ludzie przez długi czas byli najlepszym przykładem inteligencji ogólnej, jaką mieliśmy, więc jest oczywiste, dlaczego są wzorem do naśladowania, wiesz , chcemy budować maszyny na nasz własny obraz, ale wystarczy rozejrzeć się po królestwie zwierząt i jest wiele, wiele różnych sposobów bycia inteligentnym. Od rodzaju inteligencji społecznej, jaką mają mrówki, gdzie mogą wspólnie robić naprawdę niezwykłe rzeczy ośmiornicom, które dopiero zaczynamy rozumieć, w jaki sposób są inteligentne, ale potem są inteligentne w bardzo obcy sposób w porównaniu do nas. I nawet nasi najbliżsi kuzyni, tacy jak szympansy, mają inteligencję, która różni się od, a ty ja, mają inne umiejętności niż ludzie.

Więc myślę, że pomysł, że maszyny, jeśli staną się ogólnie inteligentne, muszą być takie jak my, jest, jak wiesz, nonsensem, wychodzi przez okno. Sama misja budowania AGI, która jest ludzka, jest być może bezcelowa, ponieważ mamy ludzką inteligencję, prawda? Mamy siebie. Dlaczego więc musimy tworzyć maszyny, które robią te rzeczy? Byłoby dużo, dużo lepiej budować inteligencje, które potrafią robić rzeczy, których my nie potrafimy. Są inteligentni na różne sposoby, aby komplementować nasze umiejętności.

Gideon Lichfield: Karen, ludzie oczywiście uwielbiają rozmawiać o groźbie przejęcia świata przez superinteligentną sztuczną inteligencję, ale czym naprawdę powinniśmy się martwić?

Karen Hao: Jednym z naprawdę dużych w ostatnich latach była dyskryminacja algorytmiczna. To zjawisko, które zaczęliśmy zauważać, kiedy trenujemy małe lub duże algorytmy do podejmowania decyzji na podstawie danych historycznych, kończy się to replikacją wzorców, które niekoniecznie chcemy, aby były replikowane w danych historycznych, takich jak marginalizacja ludzi kolor lub marginalizacja kobiet.

Rzeczy z naszej historii, bez których wolelibyśmy się obejść, gdy idziemy naprzód i rozwijamy się jako społeczeństwo. Ale z powodu tego, że algorytmy nie są zbyt inteligentne i wydobywają te wzorce i bezmyślnie je replikują, w końcu podejmują decyzje, które dyskryminują ludzi o kolorze skóry, dyskryminują kobiety, dyskryminują określone kultury, które nie są kulturami zachodniocentrycznymi.

A jeśli przyjrzysz się rozmowom, które mają miejsce wśród ludzi, którzy mówią o niektórych sposobach, jakie powinniśmy myśleć o łagodzeniu zagrożeń wokół superinteligencji lub wokół AGI, jakkolwiek chcesz to nazwać, będą mówić o tym wyzwaniu, jakim jest wyrównanie wartości. Wyrównanie wartości definiuje się jako sposób, w jaki ta superinteligentna sztuczna inteligencja rozumie nasze wartości i dostosowuje się do naszych wartości. Jeśli nie są zgodne z naszymi wartościami, mogą zrobić coś szalonego. I tak zaczyna szkodzić ludziom.

Gideon Lichfield: Jak stworzyć sztuczną inteligencję, super inteligentną sztuczną inteligencję, która nie jest zła?

Karen Hao: Dokładnie tak. Dokładnie tak. Więc zamiast mówić w przyszłości o próbach ustalenia wyrównania wartości za sto lat, powinniśmy teraz rozmawiać o tym, jak nie udało nam się dziś wyrównać wartości z bardzo podstawowymi sztucznymi inteligencjami i faktycznie rozwiązać problem dyskryminacji algorytmicznej.

Kolejnym ogromnym wyzwaniem jest koncentracja mocy, którą, hm, sztuczna inteligencja naturalnie tworzy. Potrzebujesz dziś niesamowitej mocy obliczeniowej, aby tworzyć zaawansowane systemy sztucznej inteligencji i przełamywać najnowocześniejsze rozwiązania. A jedynymi graczami, którzy mają teraz taką moc obliczeniową, są duże firmy technologiczne i być może czołowe uniwersytety badawcze. A nawet najlepsze uniwersytety badawcze ledwo mogą już konkurować z dużymi firmami technologicznymi.

Więc jabłka Googles Facebooks świata. Um, kolejna obawa, którą ludzie mają, za sto lat, gdy uwolniona zostanie superinteligentna sztuczna inteligencja, czy rzeczywiście przyniesie ona ludziom równomierne korzyści? Cóż, dzisiaj też tego nie rozgryźliśmy. Podobnie jak większość wartości generowanej dzisiaj przez sztuczną inteligencję wraca do miliardowych firm, które już mają do dyspozycji fantastyczną ilość zasobów. I tak naprawdę nie wymyśliliśmy, jak przekonwertować tę wartość lub przekazać ją innym ludziom.

Gideon Lichfield: No dobrze, wróćmy więc do idei inteligencji ogólnej i tego, jak ją zbudowalibyśmy, gdybyśmy mogli. Wcześniej wspomniał o głębokim uczeniu się. Jest to podstawowa technika większości sztucznej inteligencji, z której korzystamy dzisiaj. I ma dopiero około ośmiu lat. Karen, rozmawiałaś z ojcem głębokiego uczenia się, Geoffreyem Hintonem, na naszej niedawno konferencji EmTech. Uważa, że ​​głębokie uczenie, technika, której używamy do takich rzeczy jak usługi tłumaczeniowe lub rozpoznawanie twarzy, będzie również podstawą ogólnej inteligencji, kiedy w końcu tam dotrzemy.

Geoffrey Hinton [Od EmTech 2020]: Wierzę, że głębokie uczenie się będzie w stanie zrobić wszystko. Ale myślę, że będzie musiało nastąpić sporo przełomów koncepcyjnych, których jeszcze nie mieliśmy. // Szczególnie przełomy związane z tym, jak uzyskać duże wektory aktywności neuronowej w celu implementacji takich rzeczy, jak rozumowanie, ale potrzebujemy również ogromnego wzrostu skali. // Ludzki mózg ma około stu bilionów parametrów, czyli synaps. Sto bilionów. To, co teraz nazywa się naprawdę dużymi modelami, takimi jak GPT-3, ma 175 miliardów. Jest tysiące razy mniejszy niż mózg.

Gideon Lichfield: Czy możesz zacząć od wyjaśnienia, czym jest głębokie uczenie się?

Karen Hao: Głębokie uczenie to kategoria technik, która opiera się na idei, że sposobem na stworzenie sztucznej inteligencji jest tworzenie sztucznych sieci neuronowych, które są oparte na sieciach neuronowych w naszym mózgu. Ludzkie mózgi są najmądrzejszą formą inteligencji, jaką mamy dzisiaj.

Oczywiście Will mówił już o pewnych wyzwaniach dla tej teorii, ale zakładając, że ludzka inteligencja jest swego rodzaju uosobieniem inteligencji, którą mamy dzisiaj, chcemy spróbować odtworzyć sztuczne mózgi na wzór ludzkiego mózgu. I to właśnie jest głębokie uczenie się. To technika, która próbuje wykorzystać sztuczne sieci neuronowe jako sposób na osiągnięcie sztucznej inteligencji.

To, o czym wspomniałeś, to fakt, że w terenie istnieją w dużej mierze dwa różne obozy wokół tego, w jaki sposób możemy podejść do budowy sztucznej ogólnej inteligencji. Pierwszy obóz polega na tym, że mamy już wszystkie potrzebne nam techniki, po prostu musimy je masowo skalować za pomocą większej ilości danych i większych sieci neuronowych.

Drugi obóz to głębokie uczenie się nie wystarczy. Potrzebujemy czegoś innego, czego jeszcze nie wymyśliliśmy, aby uzupełnić głębokie uczenie się, aby osiągnąć niektóre z rzeczy, takich jak zdrowy rozsądek lub rozumowanie, które są dziś nieuchwytne w dziedzinie sztucznej inteligencji.

Gideon Lichfield: Więc Will, jak wspomniała przed chwilą Karen, ludzie, którzy myślą, że możemy zbudować ogólną inteligencję na podstawie głębokiego uczenia się, uważają, że musimy dodać do tego pewne rzeczy. Jakie są niektóre z tych rzeczy?

Czy Douglas Heaven: Wśród tych, którzy uważają, że głębokie uczenie jest, jest droga. Mam na myśli, że poza ładowaniem większej ilości danych, jak powiedziała Karen, istnieje wiele technik, których ludzie używają do rozwijania głębokiego uczenia się.

Masz nienadzorowane uczenie się, które jest tradycyjnie wieloma sukcesami głębokiego uczenia się, takich jak rozpoznawanie obrazów, tylko po to, by użyć utartego przykładu rozpoznawania kotów. To dlatego, że sztuczna inteligencja została przeszkolona na milionach obrazów, które ludzie oznaczyli kotem. Wiesz, tak wygląda kot, naucz się tego. Uczenie nienadzorowane ma miejsce wtedy, gdy maszyna wchodzi i przegląda dane, które nie zostały w ten sposób oznakowane, i sama próbuje wykryć wzorce.

Gideon Lichfield : Czyli innymi słowy, dałbyś to jak banda kotów, banda psów, banda ciastek z orzechami i podzieliłabyś je na grupy?

Czy Douglas Heaven: Tak. Zasadniczo musi najpierw dowiedzieć się, jakie są rodzaje różnic między tymi kategoriami, a nie być podpowiadanym. I ta zdolność do identyfikowania się, wiesz, jakie są te wyróżniające cechy, jest krokiem w kierunku lepszego sposobu uczenia się. I jest to praktycznie przydatne, ponieważ oczywiście zadanie etykietowania wszystkich tych danych jest ogromne.

I nie możemy dalej podążać tą ścieżką, zwłaszcza jeśli chcemy, aby system trenował na coraz większej ilości danych. Nie możemy dalej podążać ścieżką ręcznego oznaczania. I co ciekawsze, myślę, że nienadzorowany system uczenia się ma potencjał dostrzegania twoich kategorii, którego nie mają ludzie. Więc możemy się czegoś nauczyć od maszyny.

A potem masz takie rzeczy, jak uczenie się transferu, a to jest kluczowe dla ogólnej inteligencji. Tutaj masz model, który w taki czy inny sposób został wytrenowany na zestawie danych. A czego nauczyłeś się podczas tego szkolenia, chcesz móc przenieść to do nowego zadania, aby nie musieć za każdym razem zaczynać od zera.

Istnieją więc różne sposoby podejścia do uczenia się transferu, ale na przykład można wziąć niektóre wartości z jednego szkolenia, z jednej sieci pociągów i w pewnym sensie wstępnie załadować inny w sposób, który po poproszeniu o rozpoznanie , obraz innego zwierzęcia, ma już pewne wyczucie, wiesz, jakie zwierzęta mają, no wiesz, nogi, głowy i ogony.

Co masz. Więc po prostu chcesz mieć możliwość przeniesienia niektórych rzeczy, których się nauczyłeś z jednego zadania do drugiego. Są też takie rzeczy, jak uczenie się kilku uderzeń, z którego system uczy się lub, jak sama nazwa wskazuje, z bardzo niewielu przykładów treningowych. Będzie to również kluczowe, ponieważ nie zawsze mamy mnóstwo danych, które możemy przekazać tym systemom, aby je uczyć.

Mam na myśli, że są wyjątkowo nieefektywni, gdy się nad tym zastanowić w porównaniu z ludźmi. Wiesz, możemy wyciągnąć lekcję z jednego przykładu, dwóch przykładów. Pokazujesz dziecku zdjęcie żyrafy, a ono wie, czym jest żyrafa. Możemy nawet dowiedzieć się, co to jest, bez podawania żadnego przykładu.

Karen Hao: Tak. Tak. Jeśli się nad tym zastanowisz, dzieci… jeśli pokażesz im zdjęcie konia, a potem zdjęcie nosorożca i powiesz, wiesz, jednorożec to coś pomiędzy koniem a nosorożcem, może rzeczywiście, kiedy po raz pierwszy widzą jednorożca w książce z obrazkami, wiedz, że to jednorożec. I w ten sposób zaczynasz uczyć się więcej kategorii niż przykładów, które widzisz, i to jest inspiracją dla kolejnej granicy głębokiego uczenia się, zwanej uczeniem się low-shot lub mniej niż jednym uczeniem. I znowu, jest to ta sama zasada, co uczenie się przez kilka strzałów, gdzie jeśli jesteśmy w stanie zmusić te systemy do uczenia się z bardzo, bardzo, bardzo małych próbek danych, w taki sam sposób, jak robią to ludzie, to może to naprawdę wzmocnić proces uczenia się.

Gideon Lichfield: Dla mnie rodzi to jeszcze bardziej ogólne pytanie; co sprawia, że ​​ludzie zajmujący się AGI są tak pewni, że można wytworzyć inteligencję w maszynie, która reprezentuje informacje cyfrowo, w postaci jedynek i zer, podczas gdy wciąż tak mało wiemy o tym, jak ludzki mózg reprezentuje informacje. Czy nie jest to bardzo duże założenie, że możemy po prostu odtworzyć ludzką inteligencję w cyfrowej maszynie?

Czy Douglas Heaven: Tak! Zgadzam się. Pomimo ogromnej złożoności niektórych sieci neuronowych, które obserwujemy dzisiaj pod względem ich rozmiaru i połączeń, jesteśmy o rzędy wielkości od wszystkiego, co pasuje do skali mózgu, nawet trochę podstawowego mózgu zwierzęcego . Więc tak, istnieje ogromna przepaść między pomysłem, że będziemy w stanie to zrobić, szczególnie z obecną technologią, obecną technologią głębokiego uczenia się.

I oczywiście, nawet jeśli, jak wcześniej opisała Karen, sieci neuronowe są inspirowane przez mózg, neurony neurony w naszym mózgu. To tylko jeden sposób patrzenia na mózg. Mam na myśli, że mózgi to nie tylko grudki neuronów. Posiadają odrębne sekcje, które są przeznaczone do różnych zadań.

Więc znowu, pomysł, że tylko jedna bardzo duża sieć neuronowa osiągnie ogólną inteligencję, jest znowu skokiem wiary, ponieważ być może ogólna inteligencja będzie wymagała przełomu w sposobie komunikowania się dedykowanych struktur. Więc jest jeszcze jedna przepaść w tych, którzy dążą do tego celu.

Wiesz, niektórzy myślą, że możesz po prostu skalować sieci neuronowe. Inni uważają, że musimy odejść od specyfiki każdego indywidualnego algorytmu głębokiego uczenia się i spojrzeć na szerszy obraz. Właściwie, wiesz, może sieci neuronowe nie są najlepszym modelem mózgu i możemy zbudować lepsze, które przyjrzą się, jak różne części mózgu komunikują się z, wiesz, suma jest większa niż całość .

Gideon Lichfield: Zakończę pytaniem filozoficznym. Powiedzieliśmy wcześniej, że nawet zwolennicy AGI nie uważają, że będzie to świadome. Czy moglibyśmy nawet powiedzieć, czy będzie miał myśli? Czy zrozumie swoje istnienie w takim sensie, w jakim my to rozumiemy?

Czy Douglas Heaven: W artykule Alana Turinga z 1950 Can Machines Think, który nawet, wiecie, wtedy, gdy sztuczna inteligencja była jeszcze tylko teoretycznym pomysłem, nawet nie odnieśliśmy się do tego jako do pewnego rodzaju inżynieryjnej możliwości. Postawił pytanie: jak stwierdzić, czy maszyna potrafi myśleć? A w tym artykule, on odnosi się do tej idei świadomości. Może niektórzy ludzie przyjdą i powiedzą, że maszyny nigdy nie potrafią myśleć, ponieważ nigdy nie będziemy w stanie stwierdzić, że maszyny potrafią myśleć, ponieważ nie będziemy w stanie stwierdzić, że są świadome. I w pewnym sensie odrzuca to, mówiąc: cóż, jeśli posuwasz ten argument tak daleko, to musisz powiedzieć to samo. Cóż, ludzie, których spotykacie każdego dnia, nie ma ostatecznego sposobu, bym mógł powiedzieć, że którykolwiek z was nie jest przytomny. Wiesz, że jedyny sposób, bym to wiedział, to gdybym doświadczył bycia tobą. I dochodzisz do punktu, w którym komunikacja się załamuje i jest to miejsce, do którego nie możemy się udać. To jeden ze sposobów na odrzucenie tego pytania. To znaczy, myślę, że pytanie o świadomość będzie krążyło na zawsze. Myślę, że pewnego dnia będziemy mieli maszyny, które zachowują się tak, jakby były… mogły myśleć i wiesz, potrafiły naśladować ludzi tak dobrze, że równie dobrze możemy ich traktować tak, jakby były świadome, ale czy rzeczywiście są, nie sądzę, że kiedykolwiek się dowiemy.

Gideon Lichfield: Karen, co myślisz o świadomych maszynach?

Karen Hao: Mam na myśli to, że budując na tym, co powiedział Will, jest tak, że wiemy w ogóle, jaka jest świadomość. I myślę, że właściwie czerpałbym z pracy profesora z Tufts. Do sztucznej inteligencji podchodzi z perspektywy sztucznego życia. Na przykład jak replikujesz wszystkie różne rzeczy?

Nie tylko mózg, ale także impulsy elektryczne lub sygnały elektryczne, których używamy w ciele do komunikacji i które również mają inteligencję. Jeśli jesteśmy w stanie zasadniczo odtworzyć każdą drobiazg, każdy najmniejszy proces w naszych ciałach lub ostatecznie w ciele zwierzęcia, to dlaczego te istoty nie miałyby mieć takiej samej świadomości, jak my?

Czy Douglas Heaven: Wiecie, że teraz toczy się wspaniała debata na temat organoidów mózgowych, które są małymi skupiskami komórek macierzystych, które mają rosnąć w neurony i mogą nawet tworzyć połączenia. W niektórych z nich widać tę aktywność elektryczną. Na całym świecie istnieją różne laboratoria badające te małe plamki mózgowe, aby lepiej zrozumieć choroby ludzkiego mózgu. Ale toczy się naprawdę interesująca debata etyczna, wiesz, w którym momencie wzrasta ta aktywność elektryczna? Możliwość, że te małe pluskwy na szalkach Petriego są świadome. A to pokazuje, że nie mamy dobrej definicji świadomości, nawet dla naszych własnych mózgów, nie mówiąc już o mózgach maszynowych.

Karen Hao: I chcę dodać, że tak naprawdę nie mamy dobrej definicji sztuczności. To tylko dodaje, mam na myśli, jeśli mówimy o sztucznej, ogólnej inteligencji.

Nie mamy dobrej definicji żadnego z tych trzech słów, które składają się na ten termin. A więc dochodząc do tego, co Will zrobił o organoidach, które rosły na szalkach Petriego, uważa się to za sztuczne? Jeśli nie, dlaczego? Czy definiujemy sztuczne jako rzeczy, które po prostu nie są wykonane z materiału organicznego? Jest po prostu wiele niejednoznaczności i definicji wokół wszystkich rzeczy, o których mówimy, co sprawia, że ​​pytanie o świadomość jest bardzo skomplikowane.

Czy Douglas Heaven: Sprawia to również, że rozmawia się z nimi fajnie.

Gideon Lichfield: To tyle w tym odcinku Deep Tech. I to także ostatni odcinek, który teraz robimy. Pracujemy nad kilkoma innymi projektami audio, które mamy nadzieję uruchomić w nadchodzących miesiącach. Więc proszę, miej na nich oko. A jeśli jeszcze tego nie zrobiłeś, powinieneś sprawdzić nasz podcast AI zatytułowany In Machines We Trust, który ukazuje się co dwa tygodnie. Możesz go znaleźć wszędzie tam, gdzie zwykle słuchasz podcastów.

Deep Tech został napisany i wyprodukowany przez Anthony'ego Greena, a redagowany przez Jennifer Strong i Michaela Reilly. Jestem Gideon Lichfield. Dziękuję za słuchanie.

ukryć