Policja przewidująca jest nadal rasistowska — bez względu na to, jakie dane wykorzystuje

David McNew/Getty Images

Nie jest tajemnicą, że predyktywne narzędzia policyjne są rasowo uprzedzony . Szereg badań wykazało, że rasistowskie pętle sprzężenia zwrotnego mogą powstać, jeśli algorytmy: przeszkolony w zakresie danych policyjnych , takich jak aresztowania. Jednak nowe badania pokazują, że uczenie narzędzi predykcyjnych w sposób mający na celu zmniejszenie uprzedzeń ma niewielki wpływ.

Dane dotyczące aresztowania powodują zniekształcenie narzędzi predykcyjnych, ponieważ wiadomo, że policja aresztuje więcej osób w dzielnicach zamieszkałych przez osoby czarnoskóre i innych mniejszości, co prowadzi algorytmy do kierowania większej liczby działań policyjnych na te obszary, co prowadzi do większej liczby aresztowań. W rezultacie narzędzia predykcyjne błędnie przydzielają patrole policyjne: niektóre dzielnice są niesłusznie wyznaczonymi miejscami przestępczymi, podczas gdy inne są niedostatecznie kontrolowane.

Powiązana historia

Prognozujące algorytmy policyjne są rasistowskie. Muszą zostać zdemontowane. Brak przejrzystości i stronnicze dane szkoleniowe oznaczają, że narzędzia te nie są odpowiednie do celu. Jeśli nie możemy ich naprawić, powinniśmy je porzucić.

Na swoją obronę wielu twórców narzędzi prognostycznych dla policji twierdzi, że zaczęli używać raportów ofiar, aby uzyskać dokładniejszy obraz wskaźników przestępczości w różnych dzielnicach. Teoretycznie raporty ofiar powinny być mniej stronnicze, ponieważ nie mają na nie wpływu uprzedzenia policji ani pętle zwrotne.

Ale Nil-Jana Akpinar i Alexandra Chouldechova z Carnegie Mellon University oraz Maria De-Arteaga z University of Texas w Austin pokazują, że pogląd przedstawiony w raportach ofiar jest również wypaczony . Zespół zbudował własny algorytm predykcyjny, korzystając z tego samego modelu, który można znaleźć w kilku popularnych narzędziach, w tym PredPol, najczęściej używanym systemie w USA. Przeszkolili model na podstawie danych z raportów ofiar dla Bogoty w Kolumbii, jednego z nielicznych miast, dla których dostępne są niezależne dane dotyczące zgłaszania przestępstw na poziomie dystryktu po dystrykcie.

Kiedy porównali prognozy swojego narzędzia z rzeczywistymi danymi dotyczącymi przestępczości dla każdej dzielnicy, odkryli, że popełniło ono znaczne błędy. Na przykład w dzielnicy, w której zgłoszono niewiele przestępstw, narzędzie przewidziało około 20% rzeczywistych punktów zapalnych — lokalizacji o wysokim wskaźniku przestępczości. Z drugiej strony, w dzielnicy o dużej liczbie zgłoszeń, narzędzie przewidziało o 20% więcej hot spotów, niż było w rzeczywistości.

Dla Rashidy Richardson, prawniczki i badaczki, która bada stronniczość algorytmiczną w Rutgers Law School w New Jersey, wyniki te wzmacniają dotychczasową pracę, która podkreśla problemy z zestawami danych wykorzystywanymi w policji predykcyjnej. Prowadzą do stronniczych wyników, które nie poprawiają bezpieczeństwa publicznego, mówi. Myślę, że wielu dostawców predykcyjnych działań policyjnych, takich jak PredPol, zasadniczo nie rozumie, w jaki sposób strukturalne i społeczne warunki powodują lub wypaczają wiele form danych o przestępstwach.

Dlaczego więc algorytm pomylił się tak bardzo? Problem ze zgłoszeniami ofiar polega na tym, że osoby czarnoskóre są częściej zgłaszane za przestępstwo niż biali. Bogatsi biali ludzie częściej zgłaszają biedniejszego czarnoskórego niż na odwrót. A Czarni częściej zgłaszają innych Czarnych. Podobnie jak w przypadku danych dotyczących aresztowań, prowadzi to do tego, że dzielnice Czarnych są oznaczane jako gorące miejsca przestępczości częściej niż powinny.

Inne czynniki również zniekształcają obraz. Zgłaszanie ofiar wiąże się również z zaufaniem społeczności lub nieufnością wobec policji, mówi Richardson. Więc jeśli jesteś w społeczności z historycznie skorumpowanym lub notorycznie uprzedzonym rasowo wydziałem policji, będzie to miało wpływ na to, jak i czy ludzie zgłaszają przestępstwa. W takim przypadku narzędzie prognostyczne może zaniżać poziom przestępczości na danym obszarze, więc nie zapewni odpowiedniej policji.

Brak szybkiej naprawy

Co gorsza, nadal nie ma oczywistej poprawki technicznej. Akpinar i Chouldechova próbowali dostosować swój model Bogoty, aby uwzględnić zaobserwowane błędy, ale nie mieli wystarczającej ilości danych, aby zrobić dużą różnicę – pomimo tego, że w Bogocie jest więcej danych na poziomie dystryktu niż dla jakiegokolwiek miasta w USA. Ostatecznie nie jest jasne, czy złagodzenie uprzedzeń w tym przypadku jest łatwiejsze niż poprzednie wysiłki, które miały na celu osłabienie systemów opartych na danych aresztowania, mówi Akpinar.

Co można zrobić? Richardson uważa, że ​​jedyną odpowiedzią jest presja społeczna, by zdemontować rasistowskie narzędzia i stojącą za nimi politykę. To tylko kwestia woli politycznej, mówi. Zauważa, że ​​pierwsi nabywcy narzędzi prognostycznych, takich jak Santa Cruz, ogłosili, że nie będą już ich używać, i że pojawiły się zjadliwe oficjalne doniesienia na temat stosowania predykcyjnych narzędzi policyjnych przez LAPD i Chicago PD. Ale reakcje w każdym mieście były inne, mówi.

Chicago zawiesiło stosowanie predykcyjnych działań policyjnych, ale ponownie zainwestowało w bazę danych dla gangów policyjnych, która według Richardsona ma wiele takich samych problemów.

Niepokoi to, że nawet gdy rządowe dochodzenia i raporty wykryją poważne problemy z tymi technologiami, nie wystarczy, by politycy i funkcjonariusze policji powiedzieli, że nie należy ich używać, mówi.

ukryć