Grupy etyczne AI powtarzają jeden z klasycznych błędów społeczeństwa

Getty

Międzynarodowe organizacje i korporacje ścigają się, aby opracować globalne wytyczne dotyczące etycznego wykorzystania sztucznej inteligencji. Deklaracje, manifesty i rekomendacje zalewają internet. Ale te wysiłki będą daremne, jeśli nie uwzględnią kontekstów kulturowych i regionalnych, w których działa sztuczna inteligencja.

Wielokrotnie wykazano, że systemy sztucznej inteligencji powodują problemy, które nieproporcjonalnie dotykają zmarginalizowanych grup, przynosząc korzyści nielicznym uprzywilejowanym. Trwające obecnie globalne wysiłki w zakresie etyki sztucznej inteligencji — których jest dziesiątki — mają na celu pomóc wszystkim czerpać korzyści z tej technologii i zapobiegać jej szkodom. Ogólnie rzecz biorąc, robią to, tworząc wytyczne i zasady, których powinni przestrzegać deweloperzy, sponsorzy i organy regulacyjne. Mogą na przykład zalecić rutynowe audyty wewnętrzne lub wymagać ochrony danych osobowych użytkowników.

Wierzymy, że te grupy mają dobre intencje i wykonują wartościową pracę. Społeczność AI powinna rzeczywiście uzgodnić zestaw międzynarodowych definicji i pojęć dotyczących etycznej sztucznej inteligencji. Ale bez większej reprezentacji geograficznej stworzą globalną wizję etyki AI, która odzwierciedla perspektywy ludzi tylko w kilku regionach świata, zwłaszcza w Ameryce Północnej i północno-zachodniej Europie.

Ta praca nie jest ani łatwa, ani prosta. Uczciwość, prywatność i uprzedzenia oznaczają różne rzeczy (pdf) w różnych miejscach. Ludzie mają również odmienne oczekiwania wobec tych koncepcji, w zależności od ich własnych realiów politycznych, społecznych i ekonomicznych. Wyzwania i zagrożenia stwarzane przez sztuczną inteligencję również różnią się w zależności od lokalizacji.

Jeśli organizacje pracujące nad globalną etyką AI nie uznają tego, ryzykują opracowanie standardów, które w najlepszym przypadku będą bezsensowne i nieskuteczne we wszystkich regionach świata. W najgorszym przypadku te wadliwe standardy doprowadzą do powstania większej liczby systemów i narzędzi sztucznej inteligencji, które utrwalają istniejące uprzedzenia i są niewrażliwe na lokalne kultury.

Na przykład w 2018 r. Facebook powoli działał na dezinformację rozprzestrzenia się w Birmie co ostatecznie doprowadziło do naruszeń praw człowieka. Ocena (pdf) opłacone przez firmę okazało się, że ten nadzór był częściowo spowodowany wytycznymi dla społeczności Facebooka i polityką moderowania treści, które nie uwzględniały realiów politycznych i społecznych w kraju.

W wielu radach doradczych AI, panelach ekspertów i radach wyraźnie brakuje regionalnej różnorodności.

Aby zapobiec takim nadużyciom, firmy pracujące nad wytycznymi etycznymi dla systemów i narzędzi opartych na sztucznej inteligencji muszą zaangażować użytkowników z całego świata, aby pomogli stworzyć odpowiednie standardy zarządzania tymi systemami. Muszą także zdawać sobie sprawę z tego, jak ich polityka ma zastosowanie w różnych kontekstach.

Pomimo ryzyka, w wielu radach doradczych AI, panelach eksperckich i radach powoływanych przez wiodące organizacje międzynarodowe wyraźnie brakuje regionalnego zróżnicowania. ten ekspercka grupa doradcza dla projektu UNICEF AI for Children, na przykład, nie ma przedstawicieli z regionów z najwyższe stężenie dzieci i młodych dorosłych, w tym na Bliskim Wschodzie, w Afryce i Azji.

Niestety, w obecnej formie cała dziedzina etyki sztucznej inteligencji jest poważnie zagrożona ograniczeniem się do języków, idei, teorii i wyzwań z kilku regionów — głównie Ameryki Północnej, Europy Zachodniej i Azji Wschodniej.

Ten brak zróżnicowania regionalnego odzwierciedla obecny koncentracja badań AI (pdf) : 86% artykułów opublikowanych na konferencjach AI w 2018 r. przypisano autorom z Azji Wschodniej, Ameryki Północnej lub Europy. A mniej niż 10% odniesień wymienionych w artykułach AI opublikowanych w tych regionach dotyczy artykułów z innego regionu. Patenty są również bardzo skoncentrowane: 51% patentów AI opublikowanych w 2018 r. przypisano Ameryce Północnej.

Ci z nas, którzy pracują w etyce AI, wyrządzą więcej szkody niż pożytku, jeśli pozwolimy, aby brak różnorodności geograficznej w tej dziedzinie definiował nasze własne wysiłki. Jeśli nie będziemy ostrożni, możemy skodyfikować historyczne uprzedzenia AI w wytyczne, które wypaczają technologię dla przyszłych pokoleń. Musimy zacząć traktować priorytetowo głosy z krajów o niskich i średnich dochodach ( szczególnie t wąż w Global południe ) oraz ze społeczności historycznie zmarginalizowanych.

Postępy technologiczne często przynosiły korzyści Zachodowi, jednocześnie pogłębiając nierówności ekonomiczne, ucisk polityczny i niszczenie środowiska w innych miejscach. Włączenie krajów niezachodnich do etyki AI to najlepszy sposób na uniknięcie powtarzania tego schematu.

Powiązana historia

Pranie partycypacji może być kolejną niebezpieczną modą w uczeniu maszynowym Wiele osób już uczestniczy w pracach terenowych bez uznania i wynagrodzenia.

Dobrą wiadomością jest to, że do takich grup doradczych należy włączyć wielu ekspertów i liderów z niedostatecznie reprezentowanych regionów. Jednak wydaje się, że wiele organizacji międzynarodowych nie stara się zbytnio zabiegać o udział tych osób. Nowo utworzony Globalne Konsorcjum ds. Etyki AI , na przykład, nie ma członków założycieli reprezentujących instytucje akademickie lub ośrodki badawcze z Bliskiego Wschodu, Afryki czy Ameryki Łacińskiej. To pominięcie jest wyraźnym przykładem wzory kolonialne (pdf) powtarzają się.

Jeśli zamiast angażować się w tworzenie etycznych, bezpiecznych i integracyjnych systemów sztucznej inteligencji? mycie etyki , musimy najpierw zbudować zaufanie tych, którzy historycznie zostali skrzywdzeni przez te same systemy. To zaczyna się od znaczącego zaangażowania.

Na Instytut Etyki AI w Montrealu , gdzie oboje pracujemy, staramy się przyjąć inne podejście. Organizujemy spotkania dotyczące etyki cyfrowej sztucznej inteligencji, które są otwartymi dyskusjami, do których może dołączyć każdy, kto ma połączenie z internetem lub telefonem. Podczas tych wydarzeń nawiązaliśmy kontakt z różnorodną grupą osób, od profesora mieszkającego w Makau po studenta uniwersyteckiego studiującego w Bombaju.

Tymczasem grupy takie jak Partnerstwo na rzecz AI, dostrzegające szerzej brak różnorodności geograficznej w AI, mają zalecane zmiany do przepisów wizowych i proponowanych polityk, które ułatwiają naukowcom podróżowanie i dzielenie się pracą. Maskhan , organizacja oddolna, zrzesza badaczy zajmujących się przetwarzaniem języka naturalnego z Afryki, aby wesprzeć prace nad tłumaczeniem maszynowym, które zaniedbało języki niedominujące.

To zachęcające, gdy międzynarodowe organizacje próbują uwzględniać bardziej zróżnicowane perspektywy w swoich dyskusjach na temat sztucznej inteligencji. Ważne jest, abyśmy wszyscy pamiętali, że różnorodność regionalna i kulturowa jest kluczem do każdej rozmowy na temat etyki AI. Uczynienie z odpowiedzialnej sztucznej inteligencji normy, a nie wyjątku, jest niemożliwe bez głosów ludzi, którzy nie mają jeszcze władzy i wpływów.

DO bhiszek Gupta jest założycielem Instytut Etyki AI w Montrealu oraz inżynier uczenia maszynowego w firmie Microsoft, gdzie zasiada w Radzie ds. Odpowiedzialnej AI CSE. Wiktoria Heath jest naukowcem w Instytut Etyki AI w Montrealu oraz starszy pracownik naukowy w Kanadyjskie Stowarzyszenie NATO .

ukryć