AI wysyła ludzi do więzienia — i źle to robi

Ian Waldie/Getty Images

Może wydawać się, że sztuczna inteligencja nie ma wielkiego osobistego wpływu, jeśli najczęściej używasz algorytmów uczenia maszynowego przez kanał informacyjny Facebooka lub rankingi wyszukiwania Google. Ale na Dane dla Black Lives Podczas konferencji w zeszły weekend technolodzy, eksperci prawni i działacze społeczni spojrzeli na sytuację z perspektywy, dyskutując na temat amerykańskiego systemu sądownictwa karnego. Tam algorytm może określić trajektorię twojego życia.

Stany Zjednoczone więzi więcej ludzi niż jakikolwiek inny kraj na świecie. Pod koniec 2016 r. prawie 2,2 miliona dorosłych byli przetrzymywani w więzieniach lub więzieniach, a dodatkowe 4,5 miliona przebywało w innych zakładach karnych. Innymi słowy, 1 na 38 dorosłych Amerykanów był pod jakąś formą nadzoru korekcyjnego. Koszmarność tej sytuacji to jedna z nielicznych kwestii, które jednoczą polityków po obu stronach korytarza.

Pod ogromną presją zmniejszenia liczby więzień bez ryzyka wzrostu przestępczości sale sądowe w całych Stanach Zjednoczonych zwróciły się ku zautomatyzowanym narzędziom, próbując jak najskuteczniej i bezpieczniej przemieszczać oskarżonych przez system prawny. To tutaj zaczyna się część naszej historii z AI.

Departamenty policji używają algorytmów predykcyjnych, aby ustalić, gdzie wysłać swoje szeregi. Organy ścigania wykorzystują systemy rozpoznawania twarzy, aby pomóc zidentyfikować podejrzanych. Praktyki te zostały dokładnie zbadane pod kątem tego, czy faktycznie poprawiają bezpieczeństwo, czy po prostu utrwalają istniejące nierówności. Badacze oraz obrońcy praw obywatelskich na przykład wielokrotnie udowadniali, że systemy rozpoznawania twarzy mogą spektakularnie zawieść, szczególnie w przypadku osób o ciemnej karnacji – nawet myląc członków Kongresu ze skazanymi przestępcami.

Jednak najbardziej kontrowersyjne narzędzie pojawia się po tym, jak policja dokonała aresztowania. Przywitaj się z algorytmami oceny ryzyka kryminalnego.

Narzędzia do oceny ryzyka mają na celu jedno: przeanalizowanie szczegółów profilu oskarżonego i wyrzucenie wyniku recydywy — pojedynczej liczby oszacowującej prawdopodobieństwo ponownego popełnienia przez niego przestępstwa. Następnie sędzia bierze pod uwagę niezliczoną ilość decyzji, które mogą określić, jaki rodzaj usług rehabilitacyjnych powinni otrzymać poszczególni oskarżeni, czy powinni zostać przetrzymywani w więzieniu przed rozprawą i jak surowe powinny być ich wyroki. Niski wynik toruje drogę do życzliwszego losu. Wysoki wynik robi dokładnie odwrotnie.

Logika korzystania z takich narzędzi algorytmicznych polega na tym, że jeśli potrafisz dokładnie przewidzieć zachowanie przestępcze, możesz odpowiednio przydzielić zasoby, czy to na resocjalizację, czy na kary pozbawienia wolności. Teoretycznie zmniejsza to również wszelkie uprzedzenia wpływające na proces, ponieważ sędziowie podejmują decyzje na podstawie zaleceń opartych na danych, a nie na podstawie własnego przeczucia.

Być może już zauważyłeś problem. Współczesne narzędzia do oceny ryzyka są często oparte na algorytmach wyszkolonych na danych historycznych dotyczących przestępstw.

Jak już omówiliśmy wcześniej, algorytmy uczenia maszynowego wykorzystują statystyki do znajdowania wzorców w danych. Więc jeśli nakarmisz go historycznymi danymi o przestępczości, wykryje wzorce związane z przestępczością. Ale te wzorce są statystyczne korelacje —nigdzie w pobliżu tego samego co przyczyny . Gdyby algorytm wykrył, na przykład, że niski dochód był skorelowany z wysokim poziomem recydywy, nie pozostawiłby nikogo mądrzejszego w kwestii, czy niski dochód rzeczywiście był przyczyną przestępstwa. Ale właśnie to robią narzędzia oceny ryzyka: zamieniają korelacyjne spostrzeżenia w przyczynowe mechanizmy punktacji.

Teraz populacje, które historycznie były nieproporcjonalnie celem organów ścigania – zwłaszcza społeczności o niskich dochodach i mniejszości – są narażone na spoliczkowanie z wysokimi wynikami recydywy. W rezultacie algorytm może wzmacniać i utrwalać osadzone uprzedzenia i generować jeszcze więcej zniekształconych danych, aby zasilać błędne koło. Ponieważ większość algorytmów oceny ryzyka jest zastrzeżona, niemożliwe jest również przesłuchanie ich decyzji lub pociągnięcie ich do odpowiedzialności.

Debata na temat tych narzędzi wciąż trwa. W lipcu ubiegłego roku ponad 100 organizacji zajmujących się prawami obywatelskimi i społecznościami, w tym ACLU i NAACP, podpisany oświadczenie wzywające do stosowania oceny ryzyka. W tym samym czasie coraz więcej jurysdykcji i stanów, w tym Kalifornia, zwraca się do nich w celu naprawy przeciążonych więzień i więzień.

Ocena ryzyka oparta na danych jest sposobem na oczyszczenie i usankcjonowanie opresyjnych systemów, powiedziała Marbre Stahly-Butts, dyrektor wykonawczy Law for Black Lives. na scenie na konferencji , który odbył się w MIT Media Lab. Jest to sposób na odwrócenie uwagi od rzeczywistych problemów dotykających społeczności o niskich dochodach i mniejszości, takich jak zdefundowane szkoły i niedostateczny dostęp do opieki zdrowotnej.

Nie jesteśmy ryzykiem, powiedziała. Jesteśmy potrzebami.

Ta historia pierwotnie pojawiła się w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zapisz się tutaj za darmo.

ukryć