Problemy, z którymi boryka się sztuczna inteligencja, sięgają wieków wstecz

Ari Liloan

W marcu 2015 r. na Uniwersytecie Kapsztadzkim w RPA wybuchły protesty przeciwko pomnikowi brytyjskiego kolonialisty Cecila Rhodesa. Rhodes, magnat górniczy, który podarował ziemię, na której zbudowano uniwersytet, dokonał ludobójstwa na Afrykanach i położył podwaliny pod apartheid. Pod szyldem Rodos Must Fall uczniowie zażądali usunięcia posągu. Ich protesty wywołały globalny ruch na rzecz wykorzenienia spuścizny kolonialnej, która przetrwała w edukacji.

Wydarzenia skłoniły również Shakira Mohameda, południowoafrykańskiego badacza sztucznej inteligencji w DeepMind, do zastanowienia się nad tym, jakie spuścizny kolonialne mogą również istnieć w jego badaniach. W 2018 roku, kiedy dziedzina sztucznej inteligencji zaczęła liczyć się z problemami, takimi jak dyskryminacja algorytmiczna, napisał Mohamed wpis na blogu z jego początkowymi myślami. Wezwał w nim naukowców do dekolonizacji sztucznej inteligencji – do zmiany orientacji prac w tej dziedzinie z dala od zachodnich ośrodków, takich jak Dolina Krzemowa, i zaangażowania nowych głosów, kultur i pomysłów na kierowanie rozwojem technologii.

Teraz w wyniku wznowione krzyki za Rhodes Must Fall na kampusie Uniwersytetu Oksfordzkiego, zachęcony morderstwem George'a Floyda i globalnym ruchem antyrasistowskim, Mohamed wydał nowy artykuł wraz ze swoim kolegą Williamem Isaacem i doktorantką z Oxfordu Marie-Therese Png. Przedstawia oryginalne pomysły Mohameda konkretnymi przykładami na to, jak wyzwania AI są zakorzenione w kolonializmie, i przedstawia strategie ich rozwiązywania poprzez rozpoznanie tej historii.

Jak przejawia się kolonialność w AI

Choć historyczny kolonializm może się skończyć, jego skutki istnieją do dziś. Oto, co uczeni nazywają kolonialnością: idea, że ​​współczesna nierównowaga sił między rasami, krajami, bogatymi i biednymi oraz innymi grupami jest przedłużeniem nierównowagi sił między kolonizatorami a skolonizowanymi.

Weźmy za przykład rasizm strukturalny. Europejczycy pierwotnie wymyślili koncepcję ras i różnic między nimi, aby usprawiedliwić afrykański handel niewolnikami, a następnie kolonizację krajów afrykańskich. W Stanach Zjednoczonych skutki tej ideologii można teraz prześledzić poprzez własną historię niewolnictwa, Jima Crowa i brutalności policji.

W ten sam sposób, twierdzą autorzy artykułu, ta kolonialna historia wyjaśnia niektóre z najbardziej niepokojących cech i skutków sztucznej inteligencji. Identyfikują pięć przejawów kolonializmu w terenie:

Dyskryminacja i ucisk algorytmiczny. Związki między dyskryminacją algorytmiczną a rasizmem kolonialnym są chyba najbardziej oczywiste: algorytmy zbudowane w celu automatyzacji procedur i wytrenowane na danych w niesprawiedliwym rasowo społeczeństwie kończą na powielaniu tych rasistowskich wyników w swoich wynikach. Jednak większość badań dotyczących tego rodzaju szkód powodowanych przez sztuczną inteligencję koncentruje się na przykładach z USA. Analiza tego w kontekście kolonializmu pozwala na globalną perspektywę: Ameryka nie jest jedynym miejscem, w którym występują nierówności społeczne. Zawsze istnieją grupy, które są identyfikowane i poddane, mówi Izaak.

Praca z duchami. Zjawisko praca z duchami , niewidzialna praca związana z danymi wymagana do wspierania innowacji AI, zgrabnie rozszerza historyczną relację gospodarczą między kolonizatorem a skolonizowanym. Wiele byłych kolonii amerykańskich i brytyjskich — Filipiny, Kenia i Indie — stało się ośrodkami pracy duchów dla firm amerykańskich i brytyjskich. Tania, anglojęzyczna siła robocza w tych krajach, która w naturalny sposób nadaje się do pracy z danymi, istnieje ze względu na ich kolonialną historię.

Testowanie beta. Systemy AI są czasami testowane na bardziej wrażliwych grupach, zanim zostaną wdrożone dla prawdziwych użytkowników. Na przykład Cambridge Analytica przetestowała beta swoje algorytmy w wyborach w Nigerii w 2015 r. i Kenii w 2017 r., zanim wykorzystała je w Stanach Zjednoczonych i Wielkiej Brytanii. Późniejsze badania wykazały, że te eksperymenty aktywnie zakłócony kenijskiego procesu wyborczego i erozji spójności społecznej. Ten rodzaj testów nawiązuje do historycznego traktowania kolonii przez Imperium Brytyjskie jako laboratoriów dla nowych leków i technologii.

Zarządzanie AI. Brak równowagi sił geopolitycznych, który pozostawiła za sobą epoka kolonialna, również aktywnie kształtuje zarządzanie sztuczną inteligencją. Odbyło się to w niedawnym pośpiechu w tworzeniu globalnych wytycznych etycznych dotyczących sztucznej inteligencji: kraje rozwijające się w Afryce, Ameryce Łacińskiej i Azji Środkowej zostały w dużej mierze pominięte w dyskusjach, co skłoniło niektórych do odmówić udziału w międzynarodowych umowach dotyczących przepływu danych . W rezultacie kraje rozwinięte nadal w nieproporcjonalnym stopniu korzystają z globalnych norm ukształtowanych na ich korzyść, podczas gdy kraje rozwijające się nadal pozostają w tyle.

Międzynarodowy rozwój społeczny. Wreszcie, ta sama geopolityczna nierównowaga sił wpływa na sposób, w jaki sztuczna inteligencja jest wykorzystywana do pomocy krajom rozwijającym się. Sztuczna inteligencja na rzecz dobra lub sztuczna inteligencja na rzecz zrównoważonego rozwoju są często paternalistyczne. Zmuszają kraje rozwijające się do polegania na istniejących systemach sztucznej inteligencji, zamiast uczestniczyć w tworzeniu nowych, zaprojektowanych dla ich własnego kontekstu.

Naukowcy zauważają, że te przykłady nie są wyczerpujące, ale pokazują, jak daleko idące dziedzictwo kolonialne jest w globalnym rozwoju sztucznej inteligencji. Łączą również, jak się wydaje, odmienne problemy pod jedną jednoczącą tezą. Dzięki nowej gramatyce i słownictwu możemy rozmawiać zarówno o tym, dlaczego te kwestie są ważne, jak i o tym, co zamierzamy zrobić, aby na dłuższą metę myśleć i rozwiązywać te problemy, mówi Isaac.

Jak zbudować dekolonialną sztuczną inteligencję?

Jak twierdzą naukowcy, korzyścią płynącą z badania szkodliwych skutków sztucznej inteligencji za pomocą tej soczewki są ramy przewidywania i łagodzenia przyszłych szkód. Png wierzy, że tak naprawdę nie ma czegoś takiego jak niezamierzone konsekwencje — są to tylko konsekwencje martwych punktów organizacji i instytucji badawczych, gdy brakuje im zróżnicowanej reprezentacji.

W tym duchu naukowcy proponują trzy techniki osiągnięcia dekolonialnej lub bardziej inkluzywnej i korzystnej sztucznej inteligencji:

Rozwój techniczny z uwzględnieniem kontekstu. Po pierwsze, badacze AI budujący nowy system powinni zastanowić się, gdzie i jak będzie on używany. Ich praca również nie powinna kończyć się na pisaniu kodu, ale powinna obejmować jego testowanie, wspieranie zasad ułatwiających jego właściwe użycie oraz organizowanie działań przeciwko niewłaściwym.

Odwrotna nauka. Po drugie, powinni słuchać grup zmarginalizowanych. Jednym z przykładów tego, jak to zrobić, jest pączkująca praktyka partycypacyjne uczenie maszynowe , który ma na celu zaangażowanie w projektowanie osób najbardziej dotkniętych systemami uczenia maszynowego. Daje to badanym szansę rzucenia wyzwania i dyktowania, w jaki sposób formułowane są problemy z uczeniem maszynowym, jakie dane są gromadzone iw jaki sposób oraz gdzie wykorzystywane są ostateczne modele.

Solidarność. Zmarginalizowanym grupom należy również zapewnić wsparcie i zasoby, aby zainicjować własną pracę nad sztuczną inteligencją. Istnieje już kilka społeczności zmarginalizowanych praktyków sztucznej inteligencji, w tym Głębokie uczenie Indaba , Czarny w AI , oraz Queer w AI , a ich praca powinna zostać wzmocniona.

Naukowcy twierdzą, że od czasu opublikowania swojego artykułu zauważyli ogromne zainteresowanie i entuzjazm. To przynajmniej sygnalizuje mi, że istnieje podatność na tę pracę, mówi Izaak. Wydaje się, że jest to rozmowa, w którą społeczność chce się zaangażować.

ukryć