Skąd wiedzieć, czy sztuczna inteligencja zniszczy cywilizację?

ilustracja kanarków mechanicznych

ilustracja kanarków mechanicznych Pani Tech





Czy moglibyśmy obudzić się pewnego ranka oniemiali, że pojawiła się super potężna sztuczna inteligencja, z katastrofalnymi konsekwencjami? Książki jak Superinteligencja przez Nicka Bostroma i Życie 3.0 autorstwa Maxa Tegmarka, a także nowsze artykuły twierdzą, że wrogi superinteligencja jest egzystencjalnym zagrożeniem dla ludzkości.

Ale można bez końca spekulować. Lepiej zadać bardziej konkretne, empiryczne pytanie: Co mogłoby nas ostrzec, że superinteligencja rzeczywiście jest tuż za rogiem?

Takich zwiastunów moglibyśmy nazwać kanarkami w kopalniach AI. Jeśli program sztucznej inteligencji rozwinie fundamentalną nową zdolność, jest to odpowiednik upadku kanarka: wczesne ostrzeżenie o przełomach AI na horyzoncie.



Czy słynny test Turinga może służyć jako kanarek? Test, wynaleziony przez Alana Turinga w 1950 roku, zakłada, że ​​sztuczna inteligencja na poziomie człowieka zostanie osiągnięta, gdy dana osoba nie będzie w stanie odróżnić rozmowy z człowiekiem od rozmowy z komputerem. To ważny test, ale to nie jest kanarek; jest to raczej znak, że sztuczna inteligencja na poziomie człowieka już się pojawiła. Wielu informatyków wierzy, że jeśli ten moment nadejdzie, superinteligencja szybko nadejdzie. Potrzebujemy więcej pośrednich kamieni milowych.

Czy wydajność AI w grach takich jak Iść , poker lub Trzęsienie 3 , kanarek? Nie jest. Większość tak zwanej sztucznej inteligencji w tych grach to tak naprawdę człowiek pracuj nad sformułowaniem problemu i zaprojektowaniem rozwiązania. Zwycięstwo AlphaGo nad ludzkimi mistrzami Go było zasługą utalentowanego zespołu ludzi w DeepMind, a nie maszyny, która jedynie sterowała algorytmem stworzonym przez ludzi. To wyjaśnia, dlaczego przełożenie sukcesu AI z jednego wąskiego wyzwania na drugie wymaga lat ciężkiej pracy. Nawet AlphaZero, które nauczyło się grać w światowej klasy Go w ciągu kilku godzin, nie rozszerzyło znacząco swojego zakresu od 2017 roku. Metody takie jak głębokie uczenie są ogólne, ale ich skuteczne zastosowanie w konkretnym zadaniu wymaga rozległej interwencji człowieka.

Mówiąc szerzej, uczenie maszynowe jest podstawą sukcesów sztucznej inteligencji w ciągu ostatniej dekady. Jednak termin uczenie maszynowe jest mylący. Maszyny posiadają tylko wąski skrawek bogatych i wszechstronnych zdolności uczenia się ludzi. Powiedzieć, że maszyny się uczą, to jak powiedzieć, że małe pingwiny potrafią łowić ryby. Rzeczywistość jest taka, że ​​dorosłe pingwiny pływają, chwytają ryba , trawić, zwracać do ich dziobów i wkładać kąski do ust swoich dzieci. AI jest również karmiona łyżeczką przez naukowców i inżynierów.



W przeciwieństwie do uczenia maszynowego, uczenie się człowieka mapuje osobistą motywację (chcę prowadzić samochód, aby być niezależnym od moich rodziców) w strategicznym planie uczenia się (weź naukę jazdy i ćwicz w weekendy). Człowiek formułuje określone cele uczenia się (Popraw się podczas parkowania równoległego), zbiera i etykietuje dane (tym razem kąt był niewłaściwy) oraz uwzględnia zewnętrzne informacje zwrotne i wiedzę podstawową (Instruktor wyjaśnił, jak korzystać z lusterek bocznych). Ludzie identyfikują, kształtują i kształtują problemy w uczeniu się. Żadna z tych ludzkich zdolności nie jest nawet zdalnie replikowana przez maszyny. Maszyny potrafią wykonywać nadludzkie obliczenia statystyczne, ale to dopiero ostatnia mila nauki.

Maszyny potrafią wykonywać nadludzkie obliczenia statystyczne, ale to dopiero ostatnia mila nauki.

Automatyczne formułowanie problemów w nauce jest więc naszym pierwszym kanarkiem. Nie wydaje się być bliski śmierci.



Samochody autonomiczne to drugi kanarek. Są dalej w przyszłości, niż przewidywały takie boostery, jak Elona Muska . Sztuczna inteligencja może katastrofalnie zawieść w nietypowych sytuacjach, na przykład gdy osoba na wózku inwalidzkim przechodzi przez ulicę. Prowadzenie pojazdu jest znacznie trudniejsze niż poprzednie zadania AI, ponieważ wymaga podejmowania krytycznych dla życia decyzji w czasie rzeczywistym, opartych zarówno na nieprzewidywalnym świecie fizycznym, jak i interakcji z kierowcami, pieszymi i innymi. Oczywiście powinniśmy wdrożyć ograniczone samochody autonomiczne, gdy zmniejszą one liczbę wypadków, ale tylko wtedy, gdy uda się osiągnąć poziom jazdy na poziomie człowieka, można powiedzieć, że ten kanarek się przewrócił.

Lekarze AI to trzeci kanarek. Sztuczna inteligencja może już analizować obrazy medyczne z nadludzką dokładnością, ale to tylko wąski wycinek pracy ludzkiego lekarza. Lekarz AI musiałby przeprowadzać wywiady z pacjentami, rozważać komplikacje, konsultować się z innymi lekarzami i nie tylko. Są to trudne zadania, które wymagają zrozumienia ludzi, języka i medycyny. Taki lekarz nie musiałby oszukiwać pacjenta, by myślał, że jest człowiekiem – dlatego różni się to od testu Turinga. Musiałby jednak zbliżyć się do umiejętności ludzkich lekarzy w szerokim zakresie zadań i nieprzewidzianych okoliczności.

I chociaż sam test Turinga nie jest dobrym kanarkiem, ograniczone wersje testu mogą służyć jako kanarki. Istniejące AI nie są w stanie zrozumieć ludzi i ich motywacji, ani nawet podstawowych pytań fizycznych, takich jak czy jumbo jet zmieści się przez okno? Możemy przeprowadzić częściowy test Turinga, rozmawiając ze sztuczną inteligencją, taką jak Alexa lub Google Home, przez kilka minut, co szybko ujawnia ich ograniczone rozumienie języka i świata. Rozważmy bardzo prosty przykład oparty na schematach Winogradu zaproponowanych przez informatyka Hectora Levesque. Powiedziałem Alexie: Moje trofeum nie pasuje do mojego bagażu podręcznego, ponieważ jest za duże. Co powinienem zrobić? Odpowiedź Alexy brzmiała: nie znam tego. Ponieważ Alexa nie może zrozumieć rozmiarów przedmiotów, nie może zdecydować, czy odnosi się to do trofeum, czy do bagażu podręcznego. Kiedy sztuczna inteligencja nie może zrozumieć tego znaczenia, trudno uwierzyć, że jest gotowa przejąć świat. Gdyby Alexa mogła prowadzić merytoryczny dialog na bogaty temat, byłby to czwarty kanarek.



Obecne AI to uczeni idioci: odnoszą sukcesy w wąskich zadaniach, takich jak granie w Go lub kategoryzowanie obrazów MRI, ale brakuje im ogólności i wszechstronności ludzi. Każdy sawant-idiota jest konstruowany ręcznie i osobno, a od wszechstronnych możliwości pięciolatka dzielą nas dziesiątki lat. Proponowane przeze mnie kanarki wskazują natomiast punkty przegięcia pola AI.

Oren Etzioni

Zdjęcie dzięki uprzejmości Orena Etzioni

Niektórzy teoretycy, jak Bostrom, twierdzą, że mimo wszystko musimy planować zdarzenia o bardzo niskim prawdopodobieństwie, ale o dużych konsekwencjach, tak jakby były nieuniknione. Konsekwencje, jak mówią, są tak głębokie, że nasze szacunki ich prawdopodobieństwa nie są ważne. To głupi argument: można go użyć do usprawiedliwienia prawie wszystkiego. Jest to współczesna wersja argumentu XVII-wiecznego filozofa Blaise'a Pascala, że ​​warto postępować tak, jakby istniał chrześcijański Bóg, bo inaczej grozi wieczne piekło. Użył nieskończonego kosztu błędu, aby argumentować, że określony sposób działania jest racjonalny, nawet jeśli opiera się na wysoce nieprawdopodobnym założeniu. Ale argumenty oparte na nieskończonych kosztach mogą wspierać sprzeczne przekonania. Rozważmy na przykład antychrześcijańskiego Boga, który obiecuje wieczne piekło za każdy chrześcijański czyn. To również jest wysoce nieprawdopodobne; Jednak z logicznego punktu widzenia jest to tak samo rozsądny zakład jak wiara w boga Biblii. Ta sprzeczność pokazuje błąd w argumentacji opartej na nieskończonych kosztach.

Mój katalog sygnałów wczesnego ostrzegania, czyli kanarków, jest raczej ilustracyjny niż wyczerpujący, ale pokazuje, jak daleko jesteśmy od sztucznej inteligencji na poziomie człowieka. Jeśli i kiedy kanarek upadnie, będziemy mieli wystarczająco dużo czasu przed pojawieniem się sztucznej inteligencji na poziomie człowieka, aby zaprojektować solidne wyłączniki i zidentyfikować czerwone linie, których nie chcemy, aby sztuczna inteligencja przekroczyła. Eschatologia AI bez empirycznych kanarków odwraca uwagę od rozwiązywania istniejących problemów, takich jak regulowanie wpływu sztucznej inteligencji na zatrudnienie lub zapewnienie, że jej wykorzystanie w wyrokach karnych lub punktacji kredytowej nie dyskryminuje niektórych grup.

Jak powiedział Andrew Ng, jeden z najwybitniejszych światowych ekspertów od sztucznej inteligencji, martwienie się, że sztuczna inteligencja zmieni zło, jest trochę jak martwienie się o przeludnienie na Marsie. Dopóki kanarki nie zaczną umierać, ma całkowitą rację.

Oren Etzioni jest dyrektorem generalnym non-profit Allen Institute for AI i profesorem informatyki na Uniwersytecie Waszyngtońskim.

ukryć