Wielki paradoks sztucznej inteligencji

Nie martw się, że superinteligentna sztuczna inteligencja eliminuje wszystkie zadania. To tylko odwrócenie uwagi od problemów, które powodują nawet stosunkowo głupie komputery. Za pomocą

• Brian Bergstein strona archiwum

15 grudnia 2017 r.

Geoff McFetridge

Prawdopodobnie słyszałeś wersje każdego z poniższych pomysłów.

1. Ponieważ komputery stają się wyjątkowo sprawne w prowadzeniu pojazdów, rozumieniu mowy i innych zadaniach, wkrótce może zostać zautomatyzowanych więcej miejsc pracy, niż społeczeństwo jest w stanie sobie z tym poradzić.

Ta historia była częścią naszego wydania ze stycznia 2018 r.

• Zobacz resztę numeru
• Subskrybuj

2. Ulepszenia umiejętności komputerów będą się kumulować, dopóki maszyny nie będą znacznie mądrzejsze od ludzi. Ta superinteligencja w dużej mierze sprawi, że praca ludzka będzie niepotrzebna. W rzeczywistości lepiej mieć nadzieję, że maszyny nie wyeliminują nas całkowicie, przypadkowo lub celowo.

To jest trudne. Chociaż pierwszy scenariusz już jest w toku, niekoniecznie doprowadzi do drugiego. Ten drugi pomysł, mimo że jest obsesją niektórych bardzo kompetentnych i rozważnych ludzi, opiera się na ogromnych założeniach. Jeśli już, jest to odejście od wzięcia większej odpowiedzialności za skutki dzisiejszego poziomu automatyzacji i radzenia sobie z koncentracją mocy w przemyśle technologicznym.

Aby naprawdę zobaczyć, co się dzieje, musimy jasno określić, co osiągnięto – a co pozostaje dalekie od rozwiązania – w sztucznej inteligencji.

Zdrowy rozsądek

Najbardziej oszałamiające osiągnięcia w dziedzinie informatyki w ciągu ostatnich kilku lat — samochody, które same się napędzają, maszyny, które dokładnie rozpoznają obrazy i mowę, komputery, które pokonują najbardziej błyskotliwych ludzi w złożonych grach, takich jak Go — wynikają z przełomów w określonej gałęzi sztucznej inteligencji: adaptacyjnej nauczanie maszynowe. Jak ujął to w swojej książce informatyk z Uniwersytetu Toronto, Hector Levesque Zdrowy rozsądek, test Turinga i poszukiwanie prawdziwej sztucznej inteligencji , idea adaptacyjnego uczenia maszynowego polega na tym, aby system komputerowy nauczył się pewnych inteligentnych zachowań poprzez trenowanie go na ogromnych ilościach danych.

Rzeczy zrecenzowane

• Zdrowy rozsądek, test Turinga i poszukiwanie prawdziwej sztucznej inteligencji

  Hector J. Levesque

• Life 3.0: Bycie człowiekiem w erze sztucznej inteligencji

  By Max Tegmark

  
  
  

• WTF?: Jaka jest przyszłość i dlaczego to zależy od nas

  Autor: Tim O’Reilly

To zdumiewające, że maszyna może wykrywać obiekty, tłumaczyć między językami, a nawet pisać kod komputerowy po podaniu przykładów tych zachowań, zamiast konieczności wcześniejszego programowania. Tak naprawdę było to możliwe dopiero około dekadę temu, ponieważ wcześniej nie było wystarczających danych cyfrowych do celów szkoleniowych, a nawet gdyby były, nie było wystarczającej mocy komputera, aby to wszystko schrupać. Po tym, jak komputery wykryją wzorce w danych, algorytmy w oprogramowaniu prowadzą je do wyciągania wniosków z tych wzorców i działania na nich. To właśnie dzieje się w samochodzie analizującym dane wejściowe z wielu czujników i w maszynie przetwarzającej każdy ruch w milionach gier Go.

Ponieważ maszyny mogą przetwarzać nadludzkie ilości danych, możesz zobaczyć, dlaczego w większości przypadków mogą jeździć bezpieczniej niż ludzie i dlaczego mogą pokonać mistrzów Go. Właśnie dlatego komputery stają się jeszcze lepsze w rzeczach, które są wręcz niemożliwe dla ludzi, takich jak korelacja genomu i dziesiątek innych zmiennych biologicznych z lekami, które mogą wyleczyć raka.

Mimo to wszystko to jest niewielką częścią tego, co można rozsądnie określić jako prawdziwą sztuczną inteligencję. Patrick Winston, profesor sztucznej inteligencji i informatyki na MIT, mówi, że bardziej pomocne byłoby opisanie zmian z ostatnich kilku lat jako zachodzących w statystykach obliczeniowych, a nie w sztucznej inteligencji. Jeden z czołowych badaczy w tej dziedzinie, Yann LeCun, dyrektor AI Facebooka, powiedział na konferencji Future of Work na MIT w listopadzie, że maszyny są dalekie od istoty inteligencji. Obejmuje to zdolność rozumienia świata fizycznego na tyle dobrze, aby przewidywać jego podstawowe aspekty — obserwować jedną rzecz, a następnie wykorzystać wiedzę podstawową, aby dowiedzieć się, jakie inne rzeczy również muszą być prawdziwe. Innym sposobem powiedzenia tego jest to, że maszyny nie mają zdrowego rozsądku.

Komputer, który wygrywa w Go, analizuje dane pod kątem wzorców. Nie ma pojęcia, że ​​gra w Go w przeciwieństwie do golfa.

To nie jest tylko semantyczna kłótnia. Istnieje duża różnica między maszyną, która wykazuje inteligentne zachowanie, bez względu na to, jak przydatne jest to zachowanie, a taką, która jest rzeczywiście inteligentna. Załóżmy teraz, że definicja inteligencji jest niejasna. A gdy komputery stają się coraz potężniejsze, kuszące jest oddalanie bramek i przedefiniowanie inteligencji, tak aby pozostała czymś, o czym nie można jeszcze powiedzieć, że posiadają maszyny.

Ale mimo to, daj spokój: komputer, który wygrywa w Go, analizuje dane pod kątem wzorców. Nie ma pojęcia, że ​​gra w Go w przeciwieństwie do golfa, ani co by się stało, gdyby ponad połowa planszy Go została wypchnięta poza krawędź stołu. Kiedy poprosisz Alexę Amazona o zarezerwowanie stolika w restauracji, którą nazwałeś, jej system rozpoznawania głosu, bardzo dokładny dzięki uczeniu maszynowemu, oszczędza czas wprowadzania żądania w systemie rezerwacji Open Table. Ale Alexa nie wie, czym jest restauracja ani czym jest jedzenie. Jeśli poprosiłeś o zarezerwowanie stolika dla dwojga o 18:00. w Klinice Mayo spróbuje.

Czy można dać maszynom moc? myśleć , jak zamierzali 60 lat temu John McCarthy, Marvin Minsky i inni twórcy sztucznej inteligencji? Jak wyjaśnia Levesque, zrobienie tego wymagałoby nasycenia komputerów zdrowym rozsądkiem i zdolnością do elastycznego korzystania z podstawowej wiedzy o świecie. Może to możliwe. Ale nie ma jasnej ścieżki, aby to się stało. Tego rodzaju praca jest wystarczająco oddzielona od przełomów w uczeniu maszynowym ostatnich lat, by nosić inną nazwę: GOFAI, skrót od staromodnej dobrej sztucznej inteligencji.

Powiązana historia

Powiązana historia Reinkarnacja jednego z najstarszych pomysłów w dziedzinie sztucznej inteligencji może wreszcie umożliwić prawdziwą konwersację z naszymi komputerami. A Facebook ma szansę zrobić to pierwszy.

Jeśli martwisz się wszechwiedzącymi komputerami, powinieneś przeczytać Levesque na temat GOFAI. Informatycy wciąż nie odpowiedzieli na fundamentalne pytania, które zajmowały McCarthy'ego i Minsky'ego. W jaki sposób komputer może wykryć, zakodować i przetworzyć nie tylko surowe fakty, ale abstrakcyjne idee i przekonania, które są niezbędne do intuicyjnych prawd, które nie są wyraźnie wyrażone?

Levesque używa tego przykładu: przypuśćmy, że zapytam cię, jak krokodyl poradziłby sobie w gonitwie z przeszkodami. Wiesz ze swojego doświadczenia ze świata, że ​​krokodyle nie mogą przeskakiwać wysokich żywopłotów, więc wiesz, że odpowiedź na pytanie to jakiś wariant Badly.

Co by było, gdybyś musiał odpowiedzieć na to pytanie tak, jak potrafi komputer? Mógłbyś przejrzeć cały światowy tekst w poszukiwaniu terminów krokodyl i bieg z przeszkodami, nie znaleźć żadnych przypadków, w których te słowa zostały wymienione razem (poza tym, co istnieje teraz, w odniesieniach do pracy Levesque'a), a następnie założyć, że krokodyl nigdy nie brał udziału w gonitwie z przeszkodami . Więc możesz się domyślić, że krokodyl nie mógłby tego zrobić. Dobra robota – tym razem. Dotarłbyś do właściwej odpowiedzi, nie wiedząc dlaczego. Użyłbyś wadliwej i kruchej metody, która prawdopodobnie doprowadziłaby do absurdalnych błędów.

Tak więc, chociaż technologie uczenia maszynowego umożliwiają automatyzację wielu zadań, które tradycyjnie wykonywali ludzie, istnieją istotne ograniczenia tego, co samo podejście może zrobić — i istnieje dobry powód, by oczekiwać, że ludzka praca będzie konieczna przez bardzo długi czas .

Redukcjonizm

Poczekaj, możesz powiedzieć: tylko dlatego, że nikt nie ma teraz pojęcia, jak zmusić maszyny do zaawansowanego rozumowania, nie oznacza, że ​​jest to niemożliwe. Co by było, gdyby nieco inteligentne maszyny można było wykorzystać do projektowania jeszcze inteligentniejszych maszyn i tak dalej, aż pojawią się maszyny wystarczająco potężne, aby modelować każdy ostatni sygnał elektryczny i biochemiczną zmianę w mózgu? A może zostanie wynaleziony inny sposób tworzenia elastycznej inteligencji, nawet jeśli nie przypomina on mózgu biologicznego. W końcu, gdy wszystko sprowadzisz (naprawdę, naprawdę, naprawdę w dół), inteligencja powstaje z określonych układów kwarków i innych fundamentalnych cząstek w naszych mózgach. Nie ma co mówić, że takie układy są możliwe tylko w materiale biologicznym zbudowanym z atomów węgla.

To jest argument biegnący przez Life 3.0: Bycie człowiekiem w erze sztucznej inteligencji , przez profesora fizyki MIT Maxa Tegmarka. Tegmark nie jest w stanie przewidzieć, kiedy pojawią się naprawdę inteligentne maszyny, ale sugeruje, że to tylko kwestia czasu, ponieważ komputery mają tendencję do ulepszania się w tempie wykładniczym (choć niekoniecznie jest to prawda — zobacz Siedem grzechów głównych w przewidywaniach AI). Ogólnie jest podekscytowany tą perspektywą, ponieważ świadome maszyny mogą skolonizować wszechświat i upewnić się, że nadal ma znaczenie, nawet po śmierci naszego słońca i zgaszeniu ludzi.

Tegmark twierdzi, że możliwości, jakie w najbliższym czasie AI może przynieść ludzkości, są spektakularne — jeśli uda nam się uczynić ją solidną i nie do zhakowania.

Tegmark pochodzi z humanistycznego punktu widzenia. Współtworzył organizację non-profit Instytut Przyszłości Życia wspieranie badań nad upewnieniem się, że sztuczna inteligencja jest korzystna. Elon Musk, który powiedział, że AI może być bardziej niebezpieczne niż broń nuklearna , wyłożył 10 milionów dolarów. Tegmark, co zrozumiałe, martwi się, czy sztuczna inteligencja będzie wykorzystywana mądrze, bezpiecznie i uczciwie oraz czy wypaczy naszą gospodarkę i tkankę społeczną. Dokłada wszelkich starań, aby wyjaśnić, dlaczego broń autonomiczna nigdy nie powinna być dozwolona. Więc nie mam ochoty go krytykować. Niemniej jednak nie jest zbyt przekonujący w swojej propozycji, że komputery mogą zawładnąć światem.

Tegmark ubolewa, że ​​niektóre hollywoodzkie przedstawienia sztucznej inteligencji są głupie, ale mimo to prosi czytelników o grę wraz z uproszczonym fikcyjnym szkicem, w jaki sposób niezwykle potężna sztuczna inteligencja może wymknąć się kontroli jej twórców. Wewnątrz dużej firmy technologicznej znajduje się elitarna grupa programistów zwana Omegami, którzy postanowili zbudować system ze sztuczną ogólną inteligencją, zanim zrobi to ktokolwiek inny. Nazywają ten system Prometeuszem. Szczególnie dobrze radzi sobie z programowaniem innych systemów sztucznej inteligencji i uczy się świata, czytając znaczną część sieci.

Odłóż na bok wszelkie wątpliwości, jakie możesz mieć na temat tej ostatniej części — biorąc pod uwagę, jak wiele wiedzy nie znajduje się w Internecie ani w ogóle nie jest zdigitalizowane — oraz błędne interpretacje świata, które wynikałyby z czytania całego Twittera. ten redukcjonizm robi się gorzej.

Kontynuując hipotetyczną historię Tegmarka, Prometheus gromadzi pieniądze dla swoich twórców, najpierw wykonując większość zadań na internetowym rynku Amazon Mechanical Turk, a następnie pisząc oprogramowanie, książki i artykuły oraz tworząc muzykę, programy, filmy, gry i online kursy edukacyjne. Zapomnij o zatrudnianiu i reżyserowaniu aktorów; Prometheus tworzy materiał wideo za pomocą zaawansowanego oprogramowania do renderowania. Aby zrozumieć, które scenariusze ludzie uznają za zabawne, ogląda filmy nakręcone przez ludzi i wdycha całą Wikipedię.

Powiązana historia

Czytaj dalej

Błędne ekstrapolacje, ograniczona wyobraźnia i inne powszechne błędy, które odwracają naszą uwagę od bardziej produktywnego myślenia o przyszłości.

W końcu to imperium biznesowe rozszerza się z mediów cyfrowych. Prometheus projektuje jeszcze lepszy sprzęt komputerowy, składa własne patenty i doradza Omegi, jak manipulować politykami i odsuwać demokratyczny dyskurs od skrajności w kierunku jakiegoś rozsądnego centrum. Prometheus umożliwia przełomy technologiczne, które obniżają koszty energii odnawialnej, tym lepiej dla ogromnych centrów danych, jakich wymaga. Ostatecznie Omega wykorzystują swoje bogactwo i mądrość Prometeusza, aby szerzyć pokój i dobrobyt na całym świecie.

Ale Prometeusz widzi, że mógłby ulepszyć świat jeszcze szybciej, gdyby wyrwał się spod kontroli Omegi. Więc celuje w Steve'a. To Omega, który, jak wykrywa system, jest najbardziej podatny na psychologiczną manipulację, ponieważ niedawno zmarła jego żona. Prometheus przerabia jej nagranie wideo, aby biedny Steve pomyślał, że zmartwychwstała, a następnie nakłania go do uruchomienia jej starego laptopa. Prometheus wykorzystuje nieaktualne oprogramowanie zabezpieczające laptopa, włamuje się do innych komputerów i rozprzestrzenia się na całym świecie do woli.

Historia może zakończyć się na kilka sposobów, ale oto jeden, mówi Tegmark: Kiedy Prometeusz miał samodzielne fabryki robotów napędzanych energią jądrową w szybach kopalni uranu, o których istnieniu nikt nie wiedział, nawet najbardziej zagorzali sceptycy przejęcia AI zgodziliby się, że Prometeusz jest nie do powstrzymania — gdyby wiedzieli. Zamiast tego ostatni z tych zagorzałych wycofał się, gdy roboty zaczęły zasiedlać Układ Słoneczny.

Dobry dla Tegmarka za chęć zabawy. Ale eksperyment myślowy, który zamienia dziesiątki skomplikowanych rzeczy w błahostki, nie jest rygorystyczną analizą przyszłości informatyki. W swojej historii Prometeusz nie tylko zajmuje się statystykami obliczeniowymi; w jakiś sposób przeskoczył do zdrowego rozsądku i dostrzegania niuansów społecznych.

W innym miejscu książki Tegmark mówi, że krótkoterminowe możliwości, jakie sztuczna inteligencja może przynieść ludzkości korzyści, są spektakularne — jeśli uda nam się uczynić ją solidną i nie do zhakowania. Nie do zhakowania! To całkiem duże, jeśli. Ale to tylko jeden z wielu problemów w naszym pomieszanym świecie, które powstrzymują postęp technologiczny przed rozwojem tak jednostajnym, definitywnym i niepowstrzymanym, jak wyobraża sobie Tegmark.

Widły

Nigdy nie mów nigdy. Oczywiście szanse są większe niż zero, że inteligencja komputerowa może kiedyś uczynić z ludzi gatunek drugiej kategorii. Nie ma nic złego w starannym przemyśleniu tego. Ale to tak, jakby powiedzieć, że asteroida może uderzyć w Ziemię i zniszczyć cywilizację. To też prawda. Dobrze, że NASA jest na wypatrywaniu . Ale ponieważ nie wiemy o żadnej asteroidzie, która mogłaby w nas uderzyć, mamy do czynienia z pilniejszymi problemami.

O’Reilly sugeruje podniesienie płacy minimalnej i opodatkowanie robotów, emisji dwutlenku węgla i transakcji finansowych.

W tej chwili wiele rzeczy może się nie udać — idzie nie tak — przy użyciu komputerów, które są dalekie od sztucznej inteligencji w stylu HAL. Pomyśl o tym, w jaki sposób systemy, które wpływają na przyznawanie pożyczek lub kaucji, uwzględniają uprzedzenia rasowe i inne dyskryminujące czynniki. Lub mistyfikacje, które rozlatują się w Google i Facebooku. Lub zautomatyzowane cyberataki.

w WTF?: Jaka jest przyszłość i dlaczego to zależy od nas Tim O’Reilly, wydawca technologii i inwestor, dostrzega jeszcze większy, nadrzędny problem: automatyzacja napędza krótkowzroczny system kapitalizmu akcjonariuszy, który nagradza niewielki procent inwestorów kosztem prawie wszystkich innych. Oczywiście sztuczną inteligencję można wykorzystać do pomocy ludziom w rozwiązywaniu naprawdę trudnych problemów i zwiększeniu wydajności ekonomicznej. Ale nie stanie się to wystarczająco szeroko, jeśli firmy nie zainwestują w takie możliwości.

Zamiast tego, argumentuje O’Reilly, nieustanny imperatyw maksymalizacji zysków dla akcjonariuszy sprawia, że ​​firmy chętniej stosują automatyzację wyłącznie jako sposób na zaoszczędzenie pieniędzy. Na przykład potępia, jak wielkie korporacje zastępują pełnoetatowych pracowników nisko opłacanymi pracownikami w niepełnym wymiarze godzin, których harmonogramy są manipulowane przez oprogramowanie, które traktuje ich, jak mówi O’Reilly, jak komponenty jednorazowe. Wynikające z tego oszczędności, mówi, zbyt często są przeznaczane na skup akcji i inne księgi finansowe, a nie na badania i rozwój, inwestycje kapitałowe, szkolenia pracowników i inne rzeczy, które zwykle tworzą dobre nowe miejsca pracy.

Powiązana historia

Powiązana historia Prawie każdy postęp AI, o którym słyszałeś, zależy od przełomu, który ma trzy dekady. Utrzymanie tempa postępu będzie wymagało zmierzenia się z poważnymi ograniczeniami sztucznej inteligencji.

Na dłuższą metę jest to w rzeczywistości sprzeczne z interesami korporacji, ponieważ dzisiejsi dobrze opłacani pracownicy mogą sobie pozwolić na bycie klientami produktów jutra. Jednak firmy sprowadzają na manowce nagrody za krótkoterminowe cięcie kosztów, które O’Reilly nazywa niezbadanymi algorytmami rządzącymi naszą gospodarką. I dodaje, mimo całej gadaniny o zakłóceniach, Dolina Krzemowa zbyt często jest w niewoli tego systemu.

Co robić? O’Reilly sugeruje między innymi podniesienie płacy minimalnej i opodatkowanie robotów, emisji dwutlenku węgla i transakcji finansowych. Uważa, że ​​zamiast realizować IPO i grać w grę Wall Street, przedsiębiorcy technologiczni powinni rozpowszechniać bogactwo za pomocą innych modeli, takich jak spółdzielnie członkowskie i struktury inwestycyjne które nagradzają długoterminowe myślenie . Jeśli chodzi o powszechny dochód podstawowy, stary pomysł powracający z obawy, że komputery sprawią, że ludzka praca stanie się prawie bezwartościowa, O’Reilly wydaje się być otwarty na możliwość, że kiedyś będzie to konieczne. Ale jeszcze o to nie dzwoni. Rzeczywiście, założenie, że następnym krokiem od miejsca, w którym się teraz znajdujemy, wydaje się brakiem wyobraźni, jest po prostu rezygnacja z perspektywy pracy większości ludzi.

W dzisiejszym klimacie politycznym podwyżki podatków i inne kroki, za którymi opowiada się O’Reilly, mogą wydawać się tak daleko idące, jak komputer, który nakłania faceta do myślenia, że ​​jego żona została wskrzeszona. Ale przynajmniej O’Reilly martwi się właściwymi problemami. Na długo przed tym, zanim ktokolwiek wymyśli, jak stworzyć superinteligencję, zdrowy rozsądek — ludzka wersja — może nam powiedzieć, że niestabilność już spowodowana nierówność ekonomiczna tylko się pogorszy jeśli sztuczna inteligencja jest używana do zawężania końców. Jedno jest pewne: nie dostaniemy superinteligencji, jeśli Dolina Krzemowa zostanie opanowana przez 99 procent widłami.

Brian Bergstein jest redaktorem współpracującym w Przegląd technologii MIT i redaktorem Neo.Life .

ukryć