Przestań mówić o etyce AI. Czas porozmawiać o władzy.

Vladan Joler

Na przełomie XIX i XX wieku koń niemiecki szturmem podbił Europę. Sprytny Hans, jak go nazywano, mógł pozornie wykonywać wszelkiego rodzaju sztuczki, które wcześniej ograniczały się do ludzi. Mógł dodawać i odejmować liczby, określać czas i czytać kalendarz, a nawet przeliterować słowa i zdania — a wszystko to poprzez wybijanie odpowiedzi kopytem. A był jednym dotknięciem; B miał dwa lata; 2+3 to pięć. Był międzynarodową sensacją – i dowodem, jak wielu wierzyło, że zwierzęta można nauczyć rozumowania równie dobrze jak ludzie.

Problem polegał na tym, że Mądry Hans tak naprawdę nie robił żadnej z tych rzeczy. Jak później odkryli badacze, koń nauczył się udzielać właściwej odpowiedzi, obserwując zmiany w postawie, oddechu i wyrazie twarzy swoich pytających. Gdyby pytający stał zbyt daleko, Hans straciłby swoje umiejętności. Jego inteligencja była tylko iluzją.

Ta historia jest używana jako przestroga dla badaczy AI podczas oceny możliwości ich algorytmów. System nie zawsze jest tak inteligentny, jak się wydaje. Zadbaj o prawidłowe zmierzenie.

Dzięki uprzejmości KATE CRAWFORD

Ale w swojej nowej książce Atlas AI Kate Crawford, czołowa badaczka sztucznej inteligencji, stawia ten morał na głowie. Problem, jak pisze, polegał na sposobie, w jaki ludzie definiowali dokonania Hansa: Hans już dokonywał niezwykłych wyczynów komunikacji międzygatunkowej, występów publicznych i znacznej cierpliwości, ale nie zostały one uznane za inteligencję.

Tak zaczyna się eksploracja przez Crawforda historii sztucznej inteligencji i jej wpływu na nasz świat fizyczny. Każdy rozdział ma na celu poszerzenie naszego zrozumienia technologii, ujawniając, jak wąsko ją postrzegaliśmy i definiowaliśmy.

Crawford robi to, zabierając nas w globalną podróż, od kopalń, w których wydobywane są pierwiastki ziem rzadkich wykorzystywane w produkcji komputerów, do centrów realizacji Amazon, gdzie ludzkie ciała zostały zmechanizowane w nieustannym dążeniu firmy do wzrostu i zysku. W rozdziale pierwszym opowiada, jak jechała furgonetką z serca Doliny Krzemowej do małej społeczności górniczej w Clayton Valley w Nevadzie. Tam bada destrukcyjne praktyki środowiskowe wymagane do uzyskania litu, który zasila komputery na całym świecie. To dobitna ilustracja tego, jak blisko te dwa miejsca znajdują się w przestrzeni fizycznej, a jednocześnie jak bardzo odległe są od siebie pod względem bogactwa.

Opierając swoją analizę na takich fizycznych badaniach, Crawford pozbywa się eufemistycznego sformułowania, że ​​sztuczna inteligencja to po prostu wydajne oprogramowanie działające w chmurze. Jej zbliżenia, barwne opisy ziemi i pracy, na których opiera się sztuczna inteligencja ziemi i pracy, a także głęboko problematyczne historie, które za tym stoją, uniemożliwiają dalsze mówienie o technologii wyłącznie w abstrakcji.

Na przykład w rozdziale czwartym Crawford zabiera nas w kolejną podróż — tę w czasie, a nie w przestrzeni. Aby wyjaśnić historię obsesji pola na punkcie klasyfikacji, odwiedza Muzeum Penn w Filadelfii, gdzie przygląda się rzędom ludzkich czaszek.

Czaszki zostały zebrane przez Samuela Mortona, XIX-wiecznego amerykańskiego kraniologa, który uważał, że możliwe jest obiektywne podzielenie ich na podstawie ich fizycznych pomiarów na pięć ras świata: afrykańską, rdzennych Amerykanów, kaukaską, malajską i mongolską. Crawford kreśli paralele między pracą Mortona a nowoczesnymi systemami sztucznej inteligencji, które nadal klasyfikują świat na stałe kategorie.

Te klasyfikacje są dalekie od obiektywności, przekonuje. Narzucają porządek społeczny, naturalizują hierarchie, powiększają nierówności. Widziana przez tę soczewkę AI nie może już być uważana za obiektywną lub neutralną technologię.

W swojej 20-letniej karierze Crawford zmagała się z rzeczywistymi konsekwencjami wielkoskalowych systemów danych, uczenia maszynowego i sztucznej inteligencji. W 2017 roku wraz z Meredith Whittaker współtworzyła instytut badawczy AI Now jako jedną z pierwszych organizacji zajmujących się badaniem społecznych implikacji tych technologii. Obecnie jest także profesorem na USC Annenberg w Los Angeles oraz inauguracyjną przewodniczącą katedry sztucznej inteligencji i sprawiedliwości w École Normale Supérieure w Paryżu, a także starszym głównym badaczem w Microsoft Research.

Crawford mówi, że pięć lat temu wciąż pracowała nad wprowadzeniem samej idei, że dane i sztuczna inteligencja nie są neutralne. Teraz rozmowa ewoluowała, a etyka AI wyrosła na własną dziedzinę. Ma nadzieję, że jej książka pomoże jeszcze bardziej dojrzeć.

Usiadłem z Crawford, aby porozmawiać o jej książce.

Poniższe zostały zredagowane pod kątem długości i przejrzystości.

Dlaczego zdecydowałeś się zrobić ten projekt książki i co to dla ciebie oznacza?

Crawforda: Tak wiele książek, które napisano o sztucznej inteligencji, tak naprawdę mówi tylko o bardzo wąskich osiągnięciach technicznych. Czasami piszą o wielkich ludziach AI, ale to naprawdę wszystko, co mieliśmy, jeśli chodzi o naprawdę zmaganie się z tym, czym jest sztuczna inteligencja.

Myślę, że spowodowało to bardzo wypaczone rozumienie sztucznej inteligencji jako systemów czysto technicznych, które są w jakiś sposób obiektywne i neutralne, i – jak mówią Stuart Russell i Peter Norvig w ich podręcznik —jako inteligentni agenci, którzy podejmują najlepszą decyzję z każdego możliwego działania.

Chciałem zrobić coś zupełnie innego: naprawdę zrozumieć, jak powstaje sztuczna inteligencja w najszerszym tego słowa znaczeniu. Oznacza to przyjrzenie się zasobom naturalnym, które ją napędzają, zużywanej przez nią energii, ukrytej pracy w całym łańcuchu dostaw oraz ogromnym ilościom danych, które są pozyskiwane z każdej platformy i urządzenia, z których korzystamy na co dzień.

Powiązana historia

Pracownicy Deepfake Amazon sieją zamieszanie na Twitterze. To nie jest problem.

Konta są prawdopodobnie tylko parodią, a nie częścią złowrogiej strategii korporacyjnej, ale ilustrują coś, co może się kiedyś zdarzyć.

Robiąc to, chciałem naprawdę otworzyć to rozumienie sztucznej inteligencji jako ani sztucznej, ani inteligentnej. To jest odwrotny sztucznych. Pochodzi z najbardziej materialnych części skorupy ziemskiej i z pracujących ludzkich ciał, a także ze wszystkich artefaktów, które codziennie produkujemy, mówimy i fotografujemy. Nie jest też inteligentny. Myślę, że istnieje ten wielki grzech pierworodny w tej dziedzinie, w którym ludzie zakładali, że komputery są w jakiś sposób jak ludzkie mózgi i jeśli tylko wyszkolimy je jak dzieci, powoli wyrosną na te nadprzyrodzone istoty.

Myślę, że to jest coś, co jest naprawdę problematyczne – kupiliśmy tę ideę inteligencji, podczas gdy w rzeczywistości patrzymy tylko na formy analizy statystycznej na dużą skalę, które mają tyle problemów, co dane, które są podane.

Czy od razu było dla ciebie oczywiste, że tak właśnie ludzie powinni myśleć o sztucznej inteligencji? A może była to podróż?

To była absolutnie podróż. Powiedziałbym, że jednym z punktów zwrotnych był dla mnie rok 2016, kiedy zacząłem projekt o nazwie Anatomia systemu AI z Vladanem Jolerem. Spotkaliśmy się na konferencji poświęconej sztucznej inteligencji obsługującej głos i staraliśmy się skutecznie narysować to, czego potrzeba, aby Amazon Echo działał. Jakie są składniki? Jak wyodrębnia dane? Jakie są warstwy potoku danych?

Zdaliśmy sobie sprawę, no cóż – właściwie, żeby to zrozumieć, musisz zrozumieć, skąd pochodzą komponenty. Gdzie wyprodukowano chipy? Gdzie są kopalnie? Gdzie się to wytapia? Gdzie są ścieżki logistyczne i łańcucha dostaw?

Wreszcie, jak prześledzić koniec życia tych urządzeń? Jak patrzymy na to, gdzie znajdują się wskazówki dotyczące e-odpadów w miejscach takich jak Malezja, Ghana i Pakistan? Skończyło się na tym bardzo czasochłonnym dwuletnim projekcie badawczym, aby naprawdę prześledzić te łańcuchy dostaw materiałów od kołyski do grobu.

Kiedy zaczynasz patrzeć na systemy sztucznej inteligencji na większą skalę i w tym dłuższym horyzoncie czasowym, odchodzisz od tych bardzo wąskich relacji o sprawiedliwości i etyce sztucznej inteligencji do stwierdzenia: są to systemy, które powodują głębokie i trwałe zmiany geomorficzne na naszej planecie, jak a także zwiększyć formy nierówności w pracy, które już mamy na świecie.

To uświadomiło mi, że muszę przejść od analizy tylko jednego urządzenia, Amazon Echo, do zastosowania tego rodzaju analizy w całej branży. To było dla mnie duże zadanie i dlatego Atlas AI pisanie zajęło pięć lat. Istnieje taka potrzeba, aby rzeczywiście zobaczyć, ile naprawdę nas kosztują te systemy, ponieważ tak rzadko wykonujemy pracę, aby rzeczywiście zrozumieć ich prawdziwe implikacje planetarne.

Inną rzeczą, którą powiedziałbym, która była prawdziwą inspiracją, jest rosnąca liczba naukowców, którzy zadają te większe pytania dotyczące pracy, danych i nierówności. Myślę tu o Ruha Benjamin, Safiyi Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown – lista jest długa. Postrzegam to jako wkład do tego zasobu wiedzy poprzez wprowadzenie perspektyw łączących środowisko, prawa pracownicze i ochronę danych.

Dużo podróżujesz przez całą książkę. Prawie każdy rozdział zaczyna się od tego, że faktycznie rozglądasz się po swoim otoczeniu. Dlaczego było to dla ciebie ważne?

To był bardzo świadomy wybór, aby ugruntować analizę AI w określonych miejscach, aby odejść od tych abstrakcyjnych zakamarków przestrzeni algorytmicznej, gdzie odbywa się tak wiele debat dotyczących uczenia maszynowego. I miejmy nadzieję, że podkreśla fakt, że kiedy tego nie robimy, kiedy po prostu mówimy o tych nigdzie przestrzeniach algorytmicznej obiektywności, jest to również wybór polityczny i ma to konsekwencje.

Jeśli chodzi o łączenie lokacji, właśnie dlatego zacząłem myśleć o tej metaforze atlasu, ponieważ atlasy to niezwykłe książki. Są to książki, które można otworzyć i spojrzeć na skalę całego kontynentu lub powiększyć i spojrzeć na pasmo górskie lub miasto. Dają ci te zmiany perspektywy i zmiany skali.

Jest taka urocza linia, której używam w książce fizyka Ursuli Franklin. Pisze o tym, jak mapy łączą znane i nieznane w tych metodach zbiorowego wglądu. Tak więc dla mnie było to naprawdę czerpanie z wiedzy, którą posiadałem, ale także myślenie o rzeczywistych miejscach, w których sztuczna inteligencja jest budowana bardzo dosłownie ze skał, piasku i ropy.

Jakie opinie otrzymała książka?

Jedną z rzeczy, które mnie zaskoczyły we wczesnych odpowiedziach, jest to, że ludzie naprawdę czują, że taka perspektywa jest spóźniona. Jest moment uznania, że ​​potrzebujemy innego rodzaju rozmowy niż te, które prowadzimy przez ostatnie kilka lat.

Spędziliśmy zbyt dużo czasu, skupiając się na wąskich poprawkach technicznych dla systemów sztucznej inteligencji i zawsze koncentrując odpowiedzi techniczne i odpowiedzi techniczne. Teraz musimy zmagać się ze śladem środowiskowym systemów. Musimy zmagać się z bardzo realnymi formami wyzysku siły roboczej, które miały miejsce przy budowie tych systemów.

A teraz zaczynamy dostrzegać toksyczną spuściznę tego, co się dzieje, gdy po prostu wyrywasz z Internetu jak najwięcej danych i nazywasz to po prostu prawdą. Tego rodzaju problematyczne kształtowanie świata wyrządziło tak wiele szkód i jak zawsze te szkody odczuły przede wszystkim społeczności, które zostały już zmarginalizowane i nie doświadczają korzyści płynących z tych systemów.

Co masz nadzieję, że ludzie zaczną robić inaczej?

Mam nadzieję, że o wiele trudniej będzie prowadzić te ślepe rozmowy, w których terminy takie jak etyka i sztuczna inteligencja zostały na dobre tak całkowicie wydenaturowany z jakiegokolwiek rzeczywistego znaczenia . Mam nadzieję, że odsuwa zasłonę i mówi, spójrzmy, kto kieruje dźwigniami tych systemów. Oznacza to odejście od skupiania się na rzeczach takich jak zasady etyczne na rzecz mówienia o władzy.

Jak odejść od tych ram etycznych?

Powiązana historia

Martwisz się o etykę AI w swojej firmie? Te startupy są tutaj, aby pomóc. Rozwijający się ekosystem odpowiedzialnych przedsięwzięć AI obiecuje pomóc organizacjom w monitorowaniu i naprawianiu ich modeli AI.

Jeśli przez ostatnią dekadę w sektorze technologicznym była prawdziwa pułapka, to jest nią to, że teoria zmian zawsze skupiała się na inżynierii. Zawsze tak było. Jeśli jest problem, jest na to rozwiązanie techniczne. I dopiero niedawno zaczynamy dostrzegać, że rozszerza się to na Och, no cóż, jeśli jest problem, to rozporządzenie może to naprawić. Decydenci mają pewną rolę.

Ale myślę, że musimy to poszerzyć jeszcze bardziej. Musimy też powiedzieć: gdzie są grupy społeczeństwa obywatelskiego, gdzie są aktywiści, gdzie są rzecznicy zajmujący się kwestiami sprawiedliwości klimatycznej, praw pracowniczych, ochrony danych? Jak włączamy ich do tych dyskusji? Jak uwzględniamy dotknięte społeczności?

Innymi słowy, jak sprawić, by ta znacznie głębsza demokratyczna rozmowa dotyczyła tego, w jaki sposób te systemy już wpływają na życie miliardów ludzi w sposób przede wszystkim niezgodny z zasadami, który żyje poza regulacjami i demokratycznym nadzorem?

W tym sensie ta książka próbuje zdecentrować technologię i zaczyna zadawać większe pytania wokół: W jakim świecie chcemy żyć?

Jaki świat? ty chcesz mieszkać? O jakiej przyszłości marzysz?

Chcę zobaczyć, jak grupy, które wykonują naprawdę ciężką pracę, zajmując się kwestiami, takimi jak sprawiedliwość klimatyczna i prawa pracownicze, łączą się i zdają sobie sprawę, że te wcześniej całkiem odrębne fronty zmian społecznych i sprawiedliwości rasowej naprawdę podzielały obawy i wspólną podstawę, na której koordynować i organizować.

Ponieważ patrzymy tutaj na naprawdę krótki horyzont czasowy. Mamy do czynienia z planetą, która już jest pod silnym obciążeniem. Patrzymy na głęboką koncentrację władzy w niezwykle niewielu rękach. Naprawdę musiałbyś cofnąć się do początków kolei, aby zobaczyć inną branżę, która jest tak skoncentrowana, a teraz można nawet powiedzieć, że wyprzedziła ją technologia.

Musimy więc zmagać się ze sposobami, w jakie możemy pluralizować nasze społeczeństwa i mieć większe formy demokratycznej odpowiedzialności. I to jest problem wspólnego działania. To nie jest problem indywidualnego wyboru. To nie jest tak, że wybieramy bardziej etyczną markę technologiczną z półki. Chodzi o to, że musimy znaleźć sposoby na wspólną pracę nad wyzwaniami na skalę planetarną.

Aktualizacja : Wyjaśniono opis instytutu AI Now.

ukryć