Pranie partycypacji może być kolejną niebezpieczną modą w uczeniu maszynowym

Pani Tech | Getty, Unsplash

Społeczność AI w końcu budzi się do faktu, że uczenie maszynowe może wyrządzić nieproporcjonalne szkody już uciskanym i pokrzywdzonym grupom. Mamy aktywiści oraz organizatorzy podziękować za to. Obecnie badacze i naukowcy zajmujący się uczeniem maszynowym szukają sposobów, aby sztuczna inteligencja była bardziej sprawiedliwa, odpowiedzialna i przejrzysta, ale także, od niedawna, bardziej partycypacyjna.

Jedno z najbardziej ekscytujących i licznie odwiedzanych wydarzeń na Międzynarodowa konferencja na temat uczenia maszynowego w lipcu nazywał się Partycypacyjne podejścia do uczenia maszynowego . Warsztaty wykorzystały aspiracje społeczności do budowania bardziej demokratycznych, kooperacyjnych i sprawiedliwych systemów algorytmicznych poprzez włączenie do ich projektu metod partycypacyjnych. Takie metody włączają w proces projektowania osoby, które wchodzą w interakcję z systemem algorytmicznym i są pod jego wpływem — na przykład proszą pielęgniarki i lekarzy o pomoc w opracowaniu narzędzie do wykrywania sepsy .

To bardzo potrzebna interwencja w dziedzinie uczenia maszynowego, które może być nadmiernie zhierarchizowane i jednorodne. Ale to nie jest srebrna kula: w rzeczywistości pranie poprzez uczestnictwo może stać się kolejną niebezpieczną modą na polu. Właśnie to wraz z moimi współautorami Emanuelem Mossem, Olaitanem Awomolo i Laurą Forlano argumentuję w naszym ostatnim artykule Uczestnictwo nie jest poprawką projektową dla uczenia maszynowego .

Ignorowanie wzorców systemowego ucisku i przywilejów prowadzi do niezrozumiałych systemów uczenia maszynowego, które są głęboko nieprzejrzyste i niesprawiedliwe. Te wzory przenikały tę dziedzinę przez ostatnie 30 lat. Tymczasem świat obserwował wykładniczy wzrost nierówności majątkowych i zmian klimatycznych spowodowanych paliwami kopalnymi. Problemy te są zakorzenione w kluczowej dynamice kapitalizmu: ekstrakcji. Uczestnictwo również często opiera się na tej samej logice ekstrakcyjnej, zwłaszcza jeśli chodzi o uczenie maszynowe.

Uczestnictwo nie jest bezpłatne

Zacznijmy od tej obserwacji: uczestnictwo jest już dużą częścią uczenia maszynowego, ale w problematyczny sposób. Jednym ze sposobów jest uczestnictwo jako praca.

Niezależnie od tego, czy ich praca zostanie doceniona, wielu uczestników odgrywa ważną rolę w tworzeniu danych, które są wykorzystywane do trenowania i oceny modeli uczenia maszynowego. Zdjęcia, które ktoś zrobił i opublikował, są usuwane z sieci, a nisko opłacani pracownicy na platformach takich jak Amazon Mechanical Turk dodają do nich adnotacje, aby przekształcić je w dane treningowe. Zwykli użytkownicy witryny również robią tę adnotację, gdy wypełniają reCAPTCHA. I istnieje wiele przykładów tego, co jest znane jako praca z duchami — termin antropolog Mary Gray na określenie całej zakulisowej pracy, która ma na celu umożliwienie funkcjonowania pozornie zautomatyzowanych systemów. Duża część tego udziału nie jest odpowiednio rekompensowana, a w wielu przypadkach prawie nie jest nawet rozpoznawana.

Tymczasem uczestnictwo w formie konsultacji jest trendem obserwowanym w dziedzinach takich jak projektowanie urbanistyczne, a także coraz częściej w uczeniu maszynowym. Ale skuteczność tego podejścia jest ograniczona. Ogólnie rzecz biorąc, jest krótkotrwały, bez planu nawiązania znaczącego, długoterminowego partnerstwa. Troska o własność intelektualną utrudnia prawdziwe zbadanie tych narzędzi. W rezultacie ta forma uczestnictwa zbyt często ma charakter wyłącznie performatywny.

Powiązana historia

Problemy, z którymi boryka się sztuczna inteligencja, sięgają wieków wstecz Dyskryminacja algorytmiczna i praca duchów nie pojawiły się przypadkowo. Zrozumienie ich długiej, niepokojącej historii jest pierwszym krokiem do ich naprawienia.

Bardziej obiecująca jest idea partycypacji jako sprawiedliwość . Tutaj wszyscy uczestnicy procesu projektowania pracują razem w ściśle powiązanych relacjach z częstą komunikacją. Udział jako sprawiedliwość to długoterminowe zobowiązanie, które koncentruje się na projektowaniu produktów kierowanych przez osoby z różnych środowisk i społeczności, w tym społeczność osób niepełnosprawnych, która od dawna odgrywa rolę Wiodącą rolę tutaj. Koncepcja ta ma znaczenie społeczne i polityczne, ale struktury rynku kapitalistycznego sprawiają, że jest prawie niemożliwe do dobrego wdrożenia.

Uczenie maszynowe rozszerza szersze priorytety branży technologicznej, które koncentrują się na skali i ekstrakcji. Oznacza to, że uczestniczące uczenie maszynowe jest na razie oksymoronem. Domyślnie większość systemów uczenia maszynowego ma możliwość inwigilacji, ucisku i przymusu (w tym w Miejsce pracy ). Systemy te mają również sposoby na uzyskanie zgody — na przykład poprzez wymaganie od użytkowników wyrażenia zgody na systemy nadzoru w celu korzystania z określonych technologii lub poprzez wdrożenie Ustawienia domyślne które zniechęcają ich do korzystania z ich prawa do prywatności.

Biorąc to pod uwagę, nie jest niespodzianką, że uczenie maszynowe nie uwzględnia istniejącej dynamiki mocy i stosuje ekstrakcyjne podejście do współpracy. Jeśli nie będziemy ostrożni, partycypacyjne uczenie maszynowe może podążać ścieżką etyki AI i stać się tylko kolejną modą, która służy do legitymizacji w sprawiedliwość.

Lepszy sposób

Jak możemy uniknąć tych niebezpieczeństw? Nie ma prostej odpowiedzi. Ale oto cztery sugestie:

Uznaj uczestnictwo za pracę. Wiele osób korzysta już z systemów uczenia maszynowego na co dzień. Duża część tej pracy zajmuje się konserwacją i ulepszaniem tych systemów i dlatego jest cenna dla właścicieli systemów. Aby to potwierdzić, wszyscy użytkownicy powinni zostać poproszeni o zgodę i mieć możliwość rezygnacji z dowolnego systemu. Jeśli zdecydują się na udział, należy im zaproponować rekompensatę. Może to oznaczać wyjaśnienie, kiedy i w jaki sposób dane generowane przez zachowanie użytkownika będą wykorzystywane do celów szkoleniowych (na przykład za pomocą banera w Mapach Google lub powiadomienia o rezygnacji). Oznaczałoby to również zapewnienie odpowiedniego wsparcia dla: moderatorzy treści , sprawiedliwe wynagradzanie pracowników-widmów oraz opracowywanie systemów nagród pieniężnych lub niepieniężnych, aby wynagradzać użytkownikom ich dane i pracę.

Określ kontekst uczestnictwa . Zamiast próbować stosować uniwersalne podejście, technolodzy muszą być świadomi konkretnych kontekstów, w których działają. Na przykład podczas projektowania system przewidywania przemocy wśród młodzieży i gangów , technolodzy powinni stale dokonywać ponownej oceny sposobów, w jakie wykorzystują żywe doświadczenia i wiedzę fachową w danej dziedzinie, a także współpracować z ludźmi, dla których projektują. Jest to szczególnie ważne, ponieważ kontekst projektu zmienia się w czasie. Dokumentowanie nawet niewielkich zmian w procesie i kontekście może stanowić bazę wiedzy dla długoterminowego, efektywnego uczestnictwa. Na przykład, czy przy projektowaniu systemu uczenia maszynowego w opiece klinicznej należy konsultować się wyłącznie z lekarzami, czy też należy włączyć pielęgniarki i pacjentów? Wyjaśnienie, dlaczego i w jaki sposób zostały zaangażowane określone społeczności, sprawia, że ​​takie decyzje i relacje są przejrzyste, odpowiedzialne i wykonalne.

Zaplanuj długoterminowe uczestnictwo od samego początku. Ludzie są bardziej skłonni do pozostawania zaangażowanymi w procesy w czasie, jeśli są w stanie dzielić się wiedzą i zdobywać ją, w przeciwieństwie do wyciągania jej z nich. Może to być trudne do osiągnięcia w uczeniu maszynowym, szczególnie w przypadku projektów zastrzeżonych. W tym miejscu warto uznać napięcia, które komplikują długoterminowe uczestnictwo w uczeniu maszynowym, oraz uznać, że współpraca i sprawiedliwość nie są skalowane w sposób bezproblemowy. Wartości te wymagają nieustannej konserwacji i muszą być wielokrotnie artykułowane w nowych kontekstach.

Ucz się na błędach z przeszłości. Więcej szkód można wyrządzić, replikując sposoby myślenia, które pierwotnie wytworzyły szkodliwą technologię. Jako badacze musimy zwiększyć naszą zdolność do myślenia lateralnego w różnych zastosowaniach i zawodach. Aby to ułatwić, społeczność zajmująca się uczeniem maszynowym i projektowaniem mogłaby opracować przeszukiwalną bazę danych w celu podkreślenia niepowodzeń udziału w projektowaniu (takich jak: Projekt nabrzeża Sidewalk Labs w Toronto ). Te niepowodzenia można odnieść do koncepcji społeczno-strukturalnych (takich jak kwestie dotyczące nierówności rasowych). Ta baza danych powinna obejmować projekty projektowe we wszystkich sektorach i domenach, nie tylko tych związanych z uczeniem maszynowym, oraz wyraźnie uwzględniać nieobecności i wartości odstające. Te skrajne przypadki są często tymi, z których możemy się najwięcej nauczyć.

To ekscytujące widzieć, jak społeczność zajmująca się uczeniem maszynowym zajmuje się kwestiami sprawiedliwości i równości. Ale odpowiedzi nie powinny opierać się wyłącznie na uczestnictwie. Pragnienie zdobycia srebrnej kuli nękało społeczność technologiczną zbyt długo. Czas przyjąć złożoność, która wiąże się z wyzwaniem ekstrakcyjnej kapitalistycznej logiki uczenia maszynowego.

Mona Sloane jest socjologiem na Uniwersytecie Nowojorskim. Zajmuje się nierównością projektową w kontekście projektowania i polityki AI.

ukryć