Aktywista demontujący rasistowskie algorytmy policyjne

Damon Casarez

Hamid Khan jest organizatorem społeczności w Los Angeles od ponad 35 lat, konsekwentnie koncentrując się na przemocy policji i prawach człowieka. Rozmawiał z nami 3 kwietnia 2020 r. w sprawie nadchodzącego odcinka podcastu o sztucznej inteligencji i policji. Gdy świat zwraca uwagę na brutalność policji i rasizm instytucjonalny, pomyśleliśmy, że nasza rozmowa z nim o tym, w jaki sposób jego zdaniem technologia umożliwia rasizm w policji, powinna zostać opublikowana już teraz.

Khan jest założycielem Koalicji Szpiegowskiej Stop LAPD, która wygrała wiele przełomowe sprawy sądowe w imieniu społeczności mniejszościowych, o które walczy. Jego praca jest prawdopodobnie najbardziej znana z promowania działań policyjnych z predykcją. 21 kwietnia, kilka tygodni po tym wywiadzie, LAPD ogłosił koniec wszystkich predykcyjnych programów policyjnych .

Chan jest kontrowersyjna postać który odrzucił współpracę z grupami takimi jak Electronic Frontier Foundation (EFF) z powodu nacisku na reformy. Nie wierzy, że reforma zadziała. Wywiad został zredagowany pod kątem długości i jasności.

Opowiedz nam o swojej pracy. Dlaczego dbasz o nadzór policyjny?

Praca, którą wykonujemy, w szczególności przyglądając się wydziałowi policji w Los Angeles, analizuje, w jaki sposób inwigilacja, zbieranie, przechowywanie i udostępnianie informacji było w przeszłości wykorzystywane do wyrządzania szkód, śledzenia, śledzenia, monitorowania, prześladowania określonych społeczności: społeczności, które są biedni, czarni i brązowi, społeczności, które można by uznać za podejrzane, i dziwaczne transseksualne ciała. Tak więc na różnych poziomach nadzór jest procesem kontroli społecznej.

Czy uważasz, że technologia odgrywa rolę w działaniach policyjnych?

Koalicja Szpiegowska Stop LAPD ma kilka przewodnich wartości. Po pierwsze, to, na co patrzymy, nie jest chwilą w czasie, ale kontynuacją historii. Nadzór jest używany od setek lat. Niektóre z najwcześniejszych procesów inwigilacji sięgają czasów nowojorskich przepisów dotyczących lampionów na początku XVIII wieku. Jeśli byłeś zniewoloną osobą, czarną lub rdzenną osobą, i wychodziłeś w przestrzeń publiczną bez swojego pana, musiałeś chodzić z prawdziwą latarnią, z knotem świecy i wszystkim innym, aby w zasadzie dokonać samoidentyfikacji siebie jako podejrzanego, jako drugiego.

Kolejną wartością przewodnią jest to, że zawsze jest inna. Historycznie rzecz biorąc, zawsze istnieje zagrożenie dla systemu. Zawsze istnieje ciało, jednostka lub grupy ludzi, które są uważane za niebezpieczne. Są uważani za podejrzanych.

Trzecią wartością jest to, że zawsze staramy się pozbawić sensacji retorykę bezpieczeństwa narodowego. Aby było to bardzo proste i jasne, [staramy się pokazać], jak porusza się środowisko gromadzenia i udostępniania informacji oraz jak jest to proces pilnowania wszystkich.

W policji nie ma miejsca na algorytmy.

A jedną z naszych ostatnich wartości przewodnich jest to, że nasza walka jest zakorzeniona w prawach człowieka. Jesteśmy grupą zaciekle abolicjonistyczną, więc naszym celem jest demontaż systemu. Nie angażujemy się w prace reformatorskie. Uważamy również, że każdy rozwój polityki dotyczący przejrzystości, odpowiedzialności i nadzoru jest szablonem dla pełzania misji. Za każdym razem, gdy inwigilacja zostanie uprawomocniona, można ją z czasem rozszerzyć. W tej chwili walczymy o uziemienie dronów w Los Angeles i udało nam się je uziemić przez kilka lat. A pod koniec marca Departament Policji Chula Vista w San Diego ogłosił, że zamierzają wyposażają swoje drony w głośniki do monitorowania ruchu osób niezamieszkanych.

Czy możesz wyjaśnić pracę, jaką Koalicja Szpiegowska Stop LAPD wykonała w zakresie predykcyjnego działania policji? Jakie są z tym problemy z twojej perspektywy?

PredPol był oparty na lokalizacji predykcyjnym policją, w której lokalizacja o powierzchni 500 na 500 stóp kwadratowych została zidentyfikowana jako gorący punkt. Drugi program towarzyszący, Operacja Laser, polegał na predykcyjnej policji opartej na osobach.

W 2010 roku przyjrzeliśmy się różnym sposobom wdrażania tych programów [nadzoru LAPD]. Policja przewidująca była kluczowym programem. W 2016 roku oficjalnie rozpoczęliśmy kampanię mającą na celu zrozumienie wpływu predykcyjnej polityki policyjnej w Los Angeles, której celem jest rozmontowanie programu, udostępnienie tych informacji społeczności i odparcie walki.

Policja predykcyjna oparta na osobach twierdziła, że ​​w przypadku osób, które są nazywane osobami zainteresowania lub nałogowymi przestępcami, którzy mogli mieć pewną historię w przeszłości, moglibyśmy użyć narzędzia oceny ryzyka, aby ustalić, że zamierzają dokonać recydywy. Więc to była gra liczbowa. Jeśli w przeszłości posiadali broń, otrzymywali pięć punktów. Jeśli byli na zwolnieniu warunkowym lub w zawieszeniu, przypisywano im pięć punktów. Jeśli byli związani z gangiem, przypisywano im pięć punktów. Gdyby mieli interakcje z policją, takie jak zatrzymanie się i przeszukanie, otrzymaliby jeden punkt. I tak się stało, gdy osoby, które były na zwolnieniu warunkowym lub w zawieszeniu lub pilnowały własnych interesów i odbudowywały swoje życie, zostały następnie umieszczone w programie znanym jako Chroniczny Program Przestępcy, bez wiedzy wielu ludzi.

Tak więc lokalizacja staje się kryminalizowana, ludzie stają się kryminalni i jest tylko kilka sekund, zanim broń wyjdzie, a ktoś zostanie postrzelony i zabity.

Następnie, na podstawie tej oceny ryzyka, gdzie Palantir przetwarza wszystkie dane , LAPD stworzyło listę. Zaczęli publikować biuletyny, które były jak plakat z listą poszukiwanych osób, ze zdjęciami, adresami i historią tych osób, i umieszczali je w radiowozach. [Zaczęli] wdrażać czytniki tablic rejestracyjnych, płaszczkę, IMSI-Catcher, CCTV i różne inne technologie, aby śledzić ich ruchy, a następnie tworzyć warunki na ziemi, aby ich zatrzymać, nękać i zastraszać. Zbudowaliśmy dużo energii oddolnej, a w kwietniu 2019 roku Operacja Laser została formalnie zdemontowana. Został przerwany.

A teraz idziemy po PredPol i domagamy się, aby PredPol również został zdemontowany. [LAPD ogłosił koniec PredPol 21 kwietnia 2020 r.] Naszym celem zniesienia i demontażu tego programu jest nie tylko zakorzenienie w śmieciach, śmieciach; rasistowskie dane wchodzące i rasistowskie dane wychodzące. Nasza praca jest naprawdę zakorzeniona w tym, że ostatecznie służy całym ideologicznym ramom patriarchatu i kapitalizmu oraz białej supremacji i kolonializmowi osadników.

Wydaliśmy raport, Zanim kula trafi w ciało, w maju 2018 r. w sprawie predykcyjnych działań policyjnych w Los Angeles, co doprowadziło do tego, że miasto Los Angeles zorganizowało publiczne przesłuchania w sprawie działań policyjnych opartych na danych, które były pierwszymi tego rodzaju w kraju. Zażądaliśmy audytu kryminalistycznego PredPol przez generalnego inspektora. W marcu 2019 r. generalny inspektor wydał audyt i stwierdził, że nie możemy nawet przeprowadzić audytu PredPol, bo to po prostu niemożliwe. To takie skomplikowane.

W policji nie ma miejsca na algorytmy. Myślę, że bardzo ważne jest, abyśmy zrozumieli, że stawką jest życie. Ten język policji opartej na lokalizacji sam w sobie jest zastępcą rasizmu. Nie są po to, by pilnować wybojów i drzew. Są tam, aby policjować ludzi w miejscu. Tak więc lokalizacja staje się kryminalizowana, ludzie stają się kryminalni i jest tylko kilka sekund, zanim broń wyjdzie, a ktoś zostanie postrzelony i zabity.

Liderzy zespołów Stop LAPD Spying Coalition Hamid Khan (po prawej), Jamie Garcia (w środku) i Gen Dogon (po lewej) w dzielnicy Skid Row w Los Angeles, gdzie koalicja ma swoją siedzibę.

DAMON CASAREZ

W jaki sposób zapewniasz, że opinia publiczna rozumie tego rodzaju taktyki policyjne?

Rejestry publiczne są naprawdę dobrym narzędziem do pozyskiwania informacji. Jakie jest pochodzenie tego programu? Chcemy wiedzieć: jaka była wizja? Jak to zostało wyartykułowane? Jaki jest cel finansowania? Jakiego słownictwa używają? Jakie wyniki przedstawiają fundatorowi?

Jestem człowiekiem i nie jestem tutaj, żeby mnie po prostu rozpakować i po prostu zacząć na mnie eksperymentować, a potem mnie zapakować.

Oni [LAPD] uznaliby obszar, budynek mieszkalny, za gorące punkty i strefy. A ludzie byli zatrzymywani w znacznie szybszym tempie [tam]. Za każdym razem, gdy kogoś zatrzymasz, informacje te trafiają do bazy danych. Stał się głównym programem do gromadzenia danych.

Zażądaliśmy ujawnienia tajnej listy tych osób, którą posiadali. LAPD walczyło i wygraliśmy ten proces o publiczne akta. Więc teraz mamy tajną listę 679 osób, z którą teraz chcemy się skontaktować. I są to wszystkie młode osobniki, w większości około 90% do 95% czarnych i brązowych.

Zmiana linii terenu stwarza warunki do większego rozwoju, większej gentryfikacji, większej liczby eksmisji, większej liczby przesiedleń. Policja stała się więc obrońcami własności prywatnej i obrońcami przywilejów.

Co powiesz ludziom, którzy wierzą, że technologia może pomóc złagodzić niektóre z tych problemów w policji, takie jak uprzedzenia, ponieważ technologia może być obiektywna?

Przede wszystkim technologia nie działa sama. Od projektu, przez produkcję, przez wdrożenie, aż do wyniku, nieustannie wbudowuje się uprzedzenia. To nie tylko uprzedzenia samych ludzi; jego wrodzona stronniczość w systemie .

Jest tak wiele punktów wpływu, że, szczerze mówiąc, nasza walka nie polega na czyszczeniu danych. Nasza walka nie toczy się o bezstronny algorytm, ponieważ nie wierzymy, że nawet matematycznie może istnieć bezstronny algorytm dla policji.

Jakie są względy praw człowieka, jeśli chodzi o technologię policyjną i inwigilację?

Pierwszym prawem człowieka byłoby zaprzestanie eksperymentów. Jestem człowiekiem i nie jestem tutaj, żeby mnie po prostu rozpakować i po prostu zacząć na mnie eksperymentować, a potem mnie zapakować. Tak wiele danych z naszego życia się wydarzyło. Od kapitalizmu plantacyjnego, przez kapitalizm z rasą, aż po kapitalizm nadzoru, jesteśmy narażeni na kupno i sprzedaż. Nasze umysły i myśli zostały utowarowione. Ma też ogłupiający wpływ na naszą kreatywność jako istot ludzkich, jako część naturalnego wszechświata. Wyrabiamy z nas zgodę.

W przypadku czegoś takiego jak koronawirus z pewnością widzimy, że niektórzy ludzie są gotowi zrezygnować z części swoich danych i prywatności. Co myślisz o wyborze lub kompromisie między użytecznością a prywatnością?

Trzeba na to naprawdę spojrzeć przez znacznie szerszy obiektyw. Wracając do jednej z naszych wartości przewodnich: nie moment w czasie, ale ciąg dalszy historii. Musimy więc przyjrzeć się kryzysom z przeszłości, zarówno rzeczywistym, jak i spreparowanym.

Spójrzmy na Igrzyska Olimpijskie 1984 w Los Angeles. Doprowadziło to do najbardziej masowego rozszerzenia uprawnień policji i militaryzacji Departamentu Policji Los Angeles i departamentu szeryfa pod pozorem bezpieczeństwa publicznego. Chodziło o to, że chcemy, aby wszystko było bezpieczne. Ale nie tylko stało się to stałą cechą i nową normą, ale także opracowano taktykę. Ponieważ ulice musiały zostać oczyszczone, podejrzane ciała, osoby bez domów, zostały siłą usunięte. Podobno zaczęły się gangi. Tak więc masowo aresztowano młodą czarnoskórą i brązową młodzież. To jak 1983, prowadzące do 1984.

W latach 1986-1987 w Los Angeles zakazy gangów stały się stałym elementem. Doprowadziło to do powstania ogromnych baz danych gangów, a dzieci w wieku nawet dziewięciu miesięcy trafiały do ​​tych baz danych gangów. Stało się to Operacją Młot, w której zdobyli czołgi i pojazdy opancerzone, używane przez SWAT do dostarczania przestępstw narkotykowych na niskim poziomie oraz niszczenia i rozbijania domów ludzi.

Teraz znów jesteśmy w tej chwili. To nie tylko strukturalna ekspansja uprawnień policji; musimy przyjrzeć się policji, która w coraz większym stopniu przyjmuje role pracowników socjalnych. Buduje się przez ostatnie 10 lat. Z tym wiąże się również wiele dolarów na usługi zdrowotne i ludzkie. Na przykład w Los Angeles zarządca miasta wyszedł z audytem około pięć lat temu, a oni spojrzeli na 100 milionów dolarów na usługi dla bezdomnych, które zapewnia miasto. Zastanów się? Z tego 87 milionów dolarów trafiło do LAPD.

Czy możesz podać konkretny przykład tego, jak użycie technologii przez policję wpływa na członków społeczności?

Policja oparta na wywiadzie to koncepcja, która wywodzi się z Anglii, z okręgu policji w hrabstwie Kent i rozpoczęła się około 30 lat temu w Stanach Zjednoczonych. Głównym tematem działań policyjnych opartych na danych wywiadowczych jest nadzór behawioralny. Zachowanie ludzi musi być monitorowane, a następnie przetwarzane, a informacje muszą być udostępniane. Ludzie muszą być śledzeni i śledzeni.

Nie ma życzliwszego, łagodniejszego rasizmu, a te programy trzeba zdemontować.

Jeden program o nazwie Suspicious Activity Reporting wyszedł z 11 września, w którym kilka działań, które są całkowicie chronione konstytucyjnie, zostało wymienionych jako potencjalnie podejrzane. Na przykład robienie zdjęć w miejscach publicznych, używanie kamer wideo w miejscach publicznych, wchodzenie do infrastruktury i pytanie o godziny pracy. Zaobserwowano zachowanie, które wskazuje na przedoperacyjne planowanie działalności przestępczej i/lub terrorystycznej. A więc obserwujesz czyjeś zachowanie, co rozsądnie wskazuje, że nie ma prawdopodobnej przyczyny. Tworzy nie fakt, ale troskę. Ta policja oparta na spekulacjach i przeczuciach jest prawdziwa.

Udało nam się uzyskać liczby z programu Zobacz coś, powiedz coś LAPD. Odkryliśmy, że na czarną społeczność miał odmienny wpływ 3:1. Około 70% tych raportów Zobacz coś, powiedz coś pochodziło głównie z białych społeczności w Los Angeles. Więc teraz program jest uzbrojony i staje się licencją na rasowy profil.

Celem jest zawsze budowanie siły w kierunku zniesienia tych programów, ponieważ nie można ich zreformować. Nie ma życzliwszego, łagodniejszego rasizmu, a te programy trzeba zdemontować.

Czyli naprawdę myślisz, że reforma nie pozwoli na wykorzystanie tych technologii w policji?

Mogę tylko opowiedzieć o mojej własnej historii 35 lat organizowania się w LA. To nie jest kwestia poprawy, to kwestia pogorszenia się. I myślę, że technologia to wspiera. Kiedy patrzysz na historię reform, ciągle uderzamy głową o ścianę i wciąż wracamy do tej samej starej rzeczy. Nie możemy tak naprawdę działać przy założeniu, że serca i umysły mogą się zmienić, szczególnie gdy ktoś ma licencję na zabijanie.

Nie jestem technologiem. Nasza ostrożność jest skierowana do technologów: wiesz, trzymaj się swojego pasa. Śledź społeczność i postępuj zgodnie z jej wskazówkami.

ukryć