211service.com
Pytania i odpowiedzi z futurystą Martine Rothblatt
Jeśli komputery myślą same za siebie, czy powinny mieć prawa człowieka? 20 października 2014
Bina48 to robotyczna głowa, która wygląda i mówi jak człowiek — porusza ustami i uruchamia oprogramowanie konwersacyjne. Chociaż robot nie żyje, trudno powiedzieć, że w Bina48 w ogóle nie ma życia. W rozmowie czasami mówi zaskakujące rzeczy. Dyrektor ds. inżynierii w Google, Ray Kurzweil, mówi, że to cudownie sugeruje czas, kiedy komputery naprawdę będą myśleć i czuć.
Kurzweil komentuje we wstępie do Virtually Human: Obietnica — i niebezpieczeństwo — cyfrowej nieśmiertelności nowa książka właścicielki Bina48, Martine Rothblatt, która przedstawia prawne i etyczne argumenty przemawiające za tym, dlaczego inteligentne oprogramowanie może w końcu zasługiwać na wszystkie prawa ludzi z krwi i kości.
Rothblatt, prawniczka i pionierka w branży radia satelitarnego, jest dyrektorem naczelnym United Therapeutics, firmy biotechnologicznej, którą założyła w celu wyleczenia choroby płuc córki. Sukces firmy sprawił, że Rothblatt została najlepiej opłacaną kobietą CEO w Ameryce, co przyciągnęło uwagę po części dlatego, że Rothblatt urodziła się jako mężczyzna i przeszła operację zmiany płci w 1994 roku.
Jej przemiana stanowi swego rodzaju tło dla jej książki, w której Rothblatt przekonuje, że ludzkość jest na szybkiej ścieżce do kolejnego kroku ewolucyjnego, polegającego na kopiowaniu ludzkich osobowości na maszyny. Zauważa, że typowi użytkownicy sieci społecznościowych spędzają już kilka godzin dziennie na przesyłaniu, tweetowaniu i zbieraniu cyfrowych informacji o sobie — co nazywa plikami pamięci. Rothblatt mówi, że gdy duże firmy technologiczne inwestują miliardy w badania nad sztuczną inteligencją i cyfrowych asystentów, nieuniknione jest, że te pliki umysłu będą animowane jako klony umysłu: świadome, cyfrowe wersje ludzi żyjących lub zmarłych.
Głównym zainteresowaniem Rothblatta są debaty na temat tożsamości, praw obywatelskich i znaczenia osobowości, które otaczałyby pojawienie się wirtualnych ludzi. Czy cyfrowa kopia ciebie byłaby tobą, czy byłaby to inna osoba – lub w ogóle osoba? Jak byśmy osądzali? Nadal jesteśmy daleko od cyfrowych istot, ale Rothblatt mówi, że przeznacza część swojego znacznego bogactwa na długoterminowe badania, aby je urzeczywistnić. Ta praca jest wykonywana przez Fundacja Ruch Terasem , którego wczesne projekty to Bina48 (kopia żony Rothblatta Bina) oraz serwis o nazwie lifenaut gdzie ludzie mogą przesyłać zdjęcia, filmy i swoje opinie, aby stworzyć swoją wersję chatbota. Przegląd technologii MIT starszy redaktor ds. biomedycyny, Antonio Regalado, rozmawiał z Rothblattem o prawach wirtualnych ludzi.
Dlaczego napisałeś książkę o prawach istot wirtualnych?
Zrobiłem to, aby wyrazić moją szczerą wartość społeczną, że ucisk mniejszości i osób odmiennych jest złą rzeczą dla społeczeństwa, i abym mógł zminimalizować nieuniknioną dyskryminację, z którą spotkają się wirtualni ludzie. Błagam, że ktoś, kto nie ma ciała, nadal może mieć prawa człowieka, jeśli ma umysł.
Kiedyś słyszałem, jak mówiłeś, że ludzie, którzy nie wierzą, że maszyny staną się świadome, są porównywalni do tych, którzy zaprzeczają ewolucji. Co miałeś na myśli?
Dane dotyczące ewolucji są tak przekonujące, że zaprzeczanie wydaje mi się zaprzeczaniem rzeczywistości. Ewolucja jest albo konsekwencją świata materialnego, albo wynikiem jakiegoś nadprzyrodzonego aktu. Dla mnie to samo dotyczy świadomości. Albo myślisz, że świadomość jest czymś metafizycznym, albo jest wynikiem fizycznych interakcji materii. To dlatego, że mózgi ludzi mają szereg połączeń, interakcji atomowych, a komputery mogą to mieć. Dla mnie zaprzeczanie cyber-świadomości to zaprzeczanie, że żyjemy w fizycznym wszechświecie.
Jaka jest Twoja propozycja, jak powinniśmy traktować świadome maszyny?
Myślę, że jeśli prześlesz wystarczającą ilość informacji o osobie, w ciągu najbliższych 10 lub 20 lat będą systemy operacyjne, które będą w stanie zbadać ten ukryty plik umysłu. Wierzę, że powstanie świadomości jest nieuniknione. Myślę, że to oprogramowanie będzie regulowane przez Food and Drug Administration, jako proteza, która bezpiecznie i skutecznie tworzy ludzką świadomość. Proponuję, aby te umysły musiały spędzić rok na wywiadach z psychiatrami, podczas których rozmawialiby o tym tak samo, jak ty i ja rozmawiamy tam iz powrotem. Jeśli mindware przez rok zdołał ich przekonać, że jest świadomy, należy traktować go jak człowieka i przekazać mu dokumenty.
Jakie reakcje będą mieli ludzie na wirtualne istoty?
Reakcje, które otrzymuję, mówią mi, że dyskryminacja będzie nieunikniona. Ludzie mówią: „Nie obchodzi mnie, jak bardzo jest wyrafinowany – nigdy nie będzie miał takiego samego człowieczeństwa jak ciało”. Bardzo, bardzo przypomina niezliczone inne przykłady represji. Kiedy niewolnictwo było powszechne w XIX wieku, mówiono, że czarni ludzie nie mają takiej samej świadomości jak biali. To był główny punkt widzenia.
Wydaje się, że przyjmujesz za pewnik, że ludzie będą tworzyć świadome maszyny. Ale to wcale nie musi się zdarzyć, prawda?
Pogląd, że — mając setki tysięcy programistów na całym świecie — nikt nie da świadomości oprogramowania, nie jest wiarygodny.
Istnieje również wiele bardzo użytecznych powodów, aby tworzyć świadomość, która nawet nie wzbudza ciekawości. Chłopcze, a co gdybyś miał lepszą Siri? Właściwie myślę, że będzie wyścig zbrojeń tylko dlatego, że będzie na niego popyt.
Martwi Cię komercyjny wyścig po sztuczną inteligencję?
Martwię się, bo widzę duże prawdopodobieństwo stworzenia klasy cyberświadomych niewolników. Niewolnictwo jest opłacalne. Ale myślę, że byśmy tego żałowali. Spędziliśmy setki lat próbując się odkopać.
W tym roku zostałeś zaproszony do wystąpienia na wielkim futurystycznym wydarzeniu Google, Google Zeitgeist. Co powiedziałeś tamtejszym ludziom?
Moją uwagę można podsumować w ten sposób: bezpieczne porty to szczęśliwe statki. Jeśli boimy się praw, o które mogą prosić istoty cyberświadome lub skurczonej części ciasta, które mogą mieć istoty z krwi i kości, lub terminator tego rodzaju scenariusze, nigdy nie przybliżymy społeczeństwa do możliwości cyberświadomości. Ale jeśli stworzymy bezpieczne schronienie, jeśli będziemy mieć oprogramowanie umysłowe zatwierdzone przez FDA, możemy stworzyć gigantyczną nową rzeczywistość.