211service.com
Dlaczego sztuczna inteligencja stanowi zagrożenie dla demokracji — i co możemy zrobić, aby to powstrzymać
Futurystka i profesor Uniwersytetu Nowojorskiego Amy Webb o zbliżającej się katastrofie sztucznej inteligencji — i dlaczego wciąż jest nadzieja, że można jej uniknąć. 26 lutego 2019 r.
Amy Webb, futurystka i profesor NYU Elena Seibert
Amy Webb, futurystka, profesor NYU i wielokrotnie nagradzana autorka, spędziła większość ostatniej dekady na badaniu, dyskutowaniu i spotykaniu się z ludźmi i organizacjami na temat sztucznej inteligencji. Mówi, że we wszystkich sprawach związanych z AI osiągnęliśmy gorączkę. Teraz nadszedł czas, aby się cofnąć, aby zobaczyć, dokąd zmierza.
To jest zadanie jej nowej książki, Wielka dziewiątka: jak tytani techniczni i ich myślące maszyny mogą wypaczyć ludzkość , gdzie z lotu ptaka spogląda na trendy, które, jak ostrzega, skierowały rozwój technologii na niebezpieczną ścieżkę. W Stanach Zjednoczonych Google, Microsoft, Amazon, Facebook, IBM i Apple (G-MAFIA) są sparaliżowane nieustannymi krótkoterminowymi wymaganiami rynku kapitalistycznego, co uniemożliwia długoterminowe, przemyślane planowanie dla sztucznej inteligencji. W Chinach Tencent, Alibaba i Baidu konsolidują i wydobywają ogromne ilości danych, aby podsycać autorytarne ambicje rządu.
Jeśli nie zmienimy tej trajektorii, przekonuje Webb, możemy zmierzać prosto na katastrofę. Ale wciąż jest czas na działanie i rolę do odegrania dla wszystkich. MIT Technology Review usiadł z nią, aby porozmawiać o tym, dlaczego się martwi i co jej zdaniem możemy z tym zrobić.
Poniższe pytania i odpowiedzi zostały skrócone i zredagowane dla jasności.
Wspomniałeś, że obecnie obserwujemy zbieżność niepokojących trendów technologicznych, politycznych i gospodarczych. Czy możesz rozwinąć, jakie są trendy technologiczne?
Kiedy porozmawiasz z naukowcem pracującym w terenie, powiedzą ci, że minie bardzo dużo czasu, zanim zobaczymy wiele obietnic, które zostały złożone w odniesieniu do sztucznej inteligencji: rzeczy takie jak pełna automatyzacja w pojazdach, absolutne uznanie lub sztuczna inteligencja ogólna — AGI — systemy zdolne do poznania i myślenia bardziej ludzkiego.
Z mojego punktu widzenia, patrząc na horyzont na dzień, w którym mamy jakąś chodzącą, mówiącą maszynę lub maszynę z bezcielesnym głosem podejmującą autonomiczne decyzje, trochę mija się z celem. Już teraz obserwujemy miliardy drobnych postępów, które z czasem będą miały złożony wpływ i doprowadzą do powstania systemów, które mogą autonomicznie podejmować wiele decyzji naraz.
Na przykład zespół DeepMind ciężko pracował nad uczeniem maszyn, jak pokonać ludzi w grach. Posunęli się dość daleko w takich obszarach, jak uczenie się ze wzmocnieniem hierarchicznym i uczenie się wielozadaniowe. Najnowsza wersja algorytmu AlphaGo, AlphaZero, jest w stanie nauczyć się grać w trzy gry naraz bez obecności człowieka w pętli. To dość duży skok. Istnieje również zupełnie nowa dziedzina generatywnych sieci adwersarzy , w których za pomocą przyzwoitego korpusu obrazów można teraz generować ludzkie twarze, które wyglądają bardzo, bardzo realistycznie .
Te postępy nie są tak seksowne ani tak ekscytujące, jak to, co powiedziano nam o AGI. Ale jeśli jesteś w stanie spojrzeć na 40 000 stóp, możesz zobaczyć, że zbliżamy się do sytuacji, w której systemy będą dokonywać wyborów za nas. I musimy się zatrzymać i zadać sobie pytanie, co się stanie, gdy te systemy odłożą na bok ludzką strategię na rzecz czegoś zupełnie nam nieznanego.
A co z trendami politycznymi i gospodarczymi? Czy możesz opisać te, które najbardziej Cię niepokoją?
W Stanach Zjednoczonych swobodny przepływ idei może się rozprzestrzeniać bez żadnych ograniczeń. Tak powstała Dolina Krzemowa. Przyniosła zarówno konkurencję, jak i innowacyjność, dzięki czemu dotarliśmy do miejsca, w którym jesteśmy teraz, z AI wśród innych rodzajów technologii.
Wielka dziewiątka: jak tytani techniczni i ich maszyny myślące mogą wypaczyć ludzkość autorstwa Amy Webb
Jednak w USA również cierpimy na tragiczny brak przewidywania. Zamiast tworzyć wielką strategię dla sztucznej inteligencji lub dla naszej długoterminowej przyszłości, rząd federalny odarł fundusze z badań naukowych i technologicznych. Więc pieniądze muszą pochodzić z sektora prywatnego. Ale inwestorzy również oczekują pewnego zwrotu. To jest problem. Nie możesz zaplanować przełomowych odkryć w dziedzinie badań i rozwoju, gdy pracujesz nad podstawową technologią i badaniami. Byłoby wspaniale, gdyby wielkie firmy technologiczne miały luksus ciężkiej pracy bez konieczności organizowania dorocznej konferencji, aby pochwalić się swoim najnowszym i największym whiz-bangiem. Zamiast tego mamy teraz niezliczone przykłady złych decyzji, które podjął ktoś z G-MAFIA, prawdopodobnie dlatego, że działali szybko. Zaczynamy dostrzegać negatywne skutki napięcia między prowadzeniem badań, które są w najlepszym interesie ludzkości, a uszczęśliwianiem inwestorów.
Teraz to byłoby wystarczająco złe, tak jak jest, prawda? Ale to wszystko dzieje się w tym samym czasie, kiedy w Chinach konsoliduje się ogromna ilość władzy. Chiny posiadają państwowy fundusz majątkowy poświęcony podstawowym badaniom podstawowym w zakresie sztucznej inteligencji. Rzucają ogromne pieniądze w sztuczną inteligencję. I mają zupełnie inny pomysł niż USA, jeśli chodzi o prywatność i dane. Oznacza to, że mają o wiele więcej danych, które można wydobyć i udoskonalić. Dzięki centralnemu organowi rząd może bardzo łatwo testować i tworzyć usługi AI, które zawierają dane od 1,3 miliarda ludzi. I to tylko w ich własnym kraju.
Następnie mają Inicjatywę Pasa i Szlaku, która wygląda jak tradycyjny program infrastrukturalny, ale jest częściowo także cyfrowy. Nie chodzi tylko o budowanie dróg i mostów; to także budowa sieci 5G i układanie światłowodów oraz wydobywanie i rafinacja danych za granicą. Wdrażanie tych technologii stanowi zagrożenie dla ludzi, którym zależy na takich rzeczach, jak wolność słowa i zachodnie ideały demokratyczne.
Dlaczego powinniśmy dążyć do zachodnich ideałów demokratycznych?
To świetne pytanie. Mieszkałem w Chinach, Japonii i oczywiście w Stanach Zjednoczonych. I można by spojrzeć na stan naszego kraju w tej chwili i na to, co dzieje się w Chinach i zastanawiać się, czy to naprawdę najgorsza rzecz? Nawiasem mówiąc, chiński system oceniania kredytów społecznych brzmi dziwacznie i okropnie dla Amerykanów, ale wielu ludzi nie zdaje sobie sprawy, że samodzielne zgłaszanie się i monitorowanie zachowań w wioskach i społecznościach było częścią chińskiej kultury na zawsze. Społeczna ocena kredytowa po prostu to automatyzuje. Więc tak, to wspaniałe pytanie.
Myślę, że powiedziałbym, że gdybym miał spojrzeć na wyidealizowaną wersję chińskiego komunizmu i wyidealizowaną wersję zachodniej demokracji, wybrałbym demokrację zachodnią, ponieważ uważam, że jest lepsza okazja do swobodnego przepływu idei i na co dzień. ludzi, aby odnieść sukces. Myślę, że dawanie ludziom zachęt do indywidualnych i osobistych osiągnięć to świetny sposób na podniesienie społeczeństwa, pomaga nam osiągnąć nasz indywidualny potencjał.
Z kierunkiem, w którym świat zmierza dziś z AI, czy to uczciwe porównanie? Czy powinniśmy porównywać wyidealizowane wersje chińskiego komunizmu z zachodnią demokracją, czy najgorsze wersje tych dwóch?
To świetne pytanie, ponieważ można argumentować, że elementy ekosystemu AI już wpływają na nasze zachodnie ideały demokratyczne w naprawdę negatywny sposób. Oczywiście wszystko, co wydarzyło się z Facebookiem, służy jako przykład. Ale spójrz też, co dzieje się ze społecznością antyszczepionkowców. Rozpowszechniają całkowicie nieprawdziwe informacje o szczepionkach i podstawach nauki. Nasze amerykańskie tradycje będą mówić o wolności słowa, platformy to platformy, musimy pozwolić ludziom wyrażać siebie. Cóż, wyzwaniem jest to, że algorytmy dokonują wyborów dotyczących treści redakcyjnych, które prowadzą ludzi do podejmowania bardzo złych decyzji i w rezultacie do zachorowania dzieci.
Problem polega na tym, że nasza technologia staje się coraz bardziej wyrafinowana, ale nasze myślenie o tym, czym jest wolność słowa i jak wygląda gospodarka wolnorynkowa, nie stało się tak wyrafinowane. Mamy tendencję do uciekania się do bardzo podstawowych interpretacji: wolność słowa oznacza, że każda mowa jest wolna, chyba że sprzeciwia się prawu o zniesławieniu, a to koniec historii. To nie koniec historii. Musimy rozpocząć bardziej wyrafinowaną i inteligentną rozmowę na temat naszych obecnych przepisów, powstającej technologii i tego, jak możemy skłonić te dwie osoby do spotkania się pośrodku.
Innymi słowy, wierzycie, że ewoluujemy od miejsca, w którym jesteśmy teraz, do bardziej wyidealizowanej wersji zachodniej demokracji. I wolałbyś to znacznie od wyidealizowanego chińskiego komunizmu.
Tak, wierzę, że to możliwe. Moim ogromnym zmartwieniem jest to, że wszyscy czekają, że depczemy sobie po piętach i że trzeba będzie prawdziwej katastrofy, aby ludzie podjęli działania, tak jakby miejsce, do którego dotarliśmy, nie było katastrofalne. Ale dla mnie fakt, że odra wróciła do stanu Waszyngton jest katastrofalny wynik. Tak samo stało się po wyborach. Bez względu na to, po której stronie spektrum politycznego się znajdujesz, nie wyobrażam sobie dzisiaj, by ktokolwiek myślał, że obecny klimat polityczny jest dobry dla naszej przyszłości.
Więc absolutnie wierzę, że jest droga naprzód. Ale musimy się zebrać i wypełnić lukę między Doliną Krzemową a DC, abyśmy wszyscy mogli kierować łodzią w tym samym kierunku.
Co polecasz rządowi, firmom, uniwersytetom i indywidualnym konsumentom?
Ścieżka rozwoju AI jest problemem, a każdy z nas ma swój udział. Ty, ja, mój tata, mój sąsiad z sąsiedztwa, facet ze Starbucks, obok którego właśnie przechodzę. Więc co powinni robić zwykli ludzie? Bądź bardziej świadomy tego, kto i w jaki sposób korzysta z Twoich danych. Poświęć kilka minut na przeczytanie pracy napisanej przez mądrych ludzi i poświęć kilka minut, aby dowiedzieć się, o czym tak naprawdę mówimy. Zanim podpiszesz swoje życie i zaczniesz udostępniać zdjęcia swoich dzieci, zrób to w sposób świadomy. Jeśli nie masz nic przeciwko temu, co to oznacza i co może oznaczać później, dobrze, ale przynajmniej najpierw miej tę wiedzę.
Firmy i inwestorzy nie mogą oczekiwać ciągłego pośpiechu z produktem. To wystawia nas na problemy w przyszłości. Dzięki temu mogą na przykład usprawnić procesy rekrutacyjne, znacznie zwiększyć wysiłki na rzecz poprawy integracji i upewnić się, że ich pracownicy są bardziej reprezentatywni dla tego, jak wygląda rzeczywisty świat. Mogą też założyć niektóre hamulce. Każda inwestycja dokonana w firmę lub projekt AI lub cokolwiek to może być, powinna również obejmować finansowanie i czas na sprawdzenie takich rzeczy, jak ryzyko i stronniczość.
Uniwersytety muszą stworzyć w swoich programach miejsce na stopnie hybrydowe. Powinni zachęcać studentów CS do studiowania literatury porównawczej, religii świata, mikroekonomii, antropologii kulturowej i podobnych przedmiotów na innych wydziałach. Powinni bronić programów podwójnego stopnia w dziedzinie informatyki i stosunków międzynarodowych, teologii, nauk politycznych, filozofii, zdrowia publicznego, edukacji i tym podobnych. Nie należy uczyć etyki jako samodzielnych zajęć, po prostu odhaczając listę. Szkoły muszą zachęcać nawet mianowanych profesorów do wplatania w swoje kursy skomplikowanych dyskusji na temat uprzedzeń, ryzyka, filozofii, religii, płci i etyki.
Jedną z moich największych rekomendacji jest utworzenie GAIA, co nazywam Global Alliance on Intelligence Augmentation. Obecnie ludzie na całym świecie mają bardzo różne postawy i podejścia, jeśli chodzi o gromadzenie i udostępnianie danych, co można i należy zautomatyzować oraz jak może wyglądać przyszłość z bardziej ogólnie inteligentnymi systemami. Myślę więc, że powinniśmy stworzyć coś w rodzaju centralnej organizacji, która może opracować globalne normy i standardy, pewnego rodzaju barierki, aby wszczepić w systemy sztucznej inteligencji nie tylko amerykańskie czy chińskie ideały, ale także światopoglądy, które są znacznie bardziej reprezentatywne dla wszystkich.
Przede wszystkim musimy chcieć myśleć o tym znacznie dłużej, a nie tylko za pięć lat. Musimy przestać mówić: Cóż, nie możemy przewidzieć przyszłości, więc nie martwmy się tym teraz. To prawda, nie możemy przewidzieć przyszłości. Ale z pewnością możemy lepiej to zaplanować.
Skrócona wersja tej historii pojawiła się pierwotnie w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.