Nowy pozew, który pokazuje, że rozpoznawanie twarzy jest oficjalnie kwestią praw obywatelskich

ACLU

9 stycznia 2020 r. policja z Detroit pojechała na przedmieścia Farmington Hill i aresztowała Roberta Williamsa na jego podjeździe, podczas gdy jego żona i młode córki się przyglądały. Williams, Murzyn, został oskarżony o kradzież zegarków z luksusowego sklepu Shinola. Został przetrzymany na noc w więzieniu.

Podczas przesłuchania funkcjonariusz pokazał Williamsowi zdjęcie podejrzanego. Jego odpowiedź, ponieważ on powiedział ACLU , było odrzucenie roszczenia. To nie ja, powiedział oficerowi. Mam nadzieję, że nie uważacie, że wszyscy czarni wyglądają tak samo. Mówi, że oficer odpowiedział: Komputer mówi, że to ty.

Powiązana historia

Co się stanie, gdy algorytm się pomyli?

Dziwne w fałszywym aresztowaniu Roberta Williamsa nie było to, że policja wykorzystała rozpoznawanie twarzy do jego identyfikacji. Chodzi o to, że mu o tym powiedzieli.

Bezprawne aresztowanie Williamsa, o którym po raz pierwszy doniósł New York Times w sierpniu 2020 , został oparty na złym dopasowaniu z systemu rozpoznawania twarzy Departamentu Policji w Detroit. Dwa więcej przypadki fałszywe aresztowania zostały upublicznione. Obaj są również czarnymi mężczyznami i obaj podjęli kroki prawne.

Teraz Williams podąża ich ścieżką i idzie dalej — nie tylko pozywając wydział za bezprawne aresztowanie, ale także próbując zakazać technologii.

We wtorek ACLU i University of Michigan Law School’s Civil Rights Litigation Initiative złożył pozew w imieniu Williamsa, twierdząc, że aresztowanie naruszyło jego prawa wynikające z Czwartej Poprawki i było sprzeczne z prawem stanu Michigan dotyczącym praw obywatelskich.

Pozew domaga się odszkodowania, większej przejrzystości w zakresie korzystania z rozpoznawania twarzy oraz zaprzestania wykorzystywania przez Departament Policji w Detroit technologii rozpoznawania twarzy, zarówno bezpośredniej, jak i pośredniej.

Co mówi pozew

ten dokumenty złożone we wtorek rozłożyć sprawę. W marcu 2019 r. DPD uruchomiło ziarniste zdjęcie czarnoskórego mężczyzny w czerwonej czapce z nagrania z monitoringu Shinoli za pomocą systemu rozpoznawania twarzy, wykonanego przez firmę DataWorks Plus. System zwrócił dopasowanie ze starym zdjęciem Williamsa z prawa jazdy. Funkcjonariusze śledczy włączyli następnie zdjęcie licencyjne Williama jako część składu zdjęć oraz wykonawcę ochrony Shinola ( kto właściwie nie był obecny w momencie kradzieży) zidentyfikował Williamsa jako złodzieja. Funkcjonariusze otrzymali nakaz, który wymaga wielokrotnych podpisów od kierownictwa departamentu, a Williams został aresztowany.

Skarga argumentuje, że fałszywe aresztowanie Williamsa było bezpośrednim skutkiem systemu rozpoznawania twarzy i że ta sprawa bezprawnego aresztowania i pozbawienia wolności jest przykładem poważnej szkody spowodowanej niewłaściwym użyciem i poleganiem na technologii rozpoznawania twarzy.

Sprawa zawiera cztery zarzuty, z których trzy skupiają się na braku prawdopodobnej przyczyny aresztowania, podczas gdy jedna skupia się na rasowych różnicach w skutkach rozpoznawania twarzy. Stosując technologię, która, jak dowiedziono empirycznie, błędnie identyfikuje osoby czarnoskóre w tempie znacznie wyższym niż w przypadku innych grup ludzi, DPD odmówiła panu Williamsowi pełnego i równego korzystania z usług, przywilejów i korzyści Departamentu Policji w Detroit ze względu na jego rasę. lub kolor.

Trudności technologii rozpoznawania twarzy w identyfikacji osób o ciemniejszej karnacji: dobrze udokumentowane . Po zabójstwie George'a Floyda w Minneapolis w 2020 r. niektóre miasta i stany ogłosiły zakazy i moratorium na używanie przez policję rozpoznawania twarzy. Ale wielu innych, w tym Detroit, nadal go używało pomimo rosnących obaw.

Poleganie na słabszych obrazach

Kiedy w zeszłym roku MIT Technology Review rozmawiał z prawnikiem Williamsa z ACLU, Philem Mayorem, podkreślił, że problemy rasizmu w amerykańskich organach ścigania sprawiają, że korzystanie z rozpoznawania twarzy jest jeszcze bardziej niepokojące.

To nie jest sytuacja jednego złego aktora, powiedział burmistrz. Jest to sytuacja, w której mamy karny system prawny, który niezwykle szybko się oskarża i niezwykle wolno chroni prawa ludzi, zwłaszcza gdy mówimy o osobach kolorowych.

Eric Williams, starszy prawnik w Economic Equity Practice w Detroit, mówi, że aparaty mają wiele ograniczeń technologicznych, między innymi dlatego, że są na stałe zakodowane z zakresami kolorów w celu rozpoznania odcienia skóry i często po prostu nie mogą przetwarzać ciemniejszej skóry.

„Myślę, że każdy czarnoskóry człowiek w kraju miał doświadczenie bycia na zdjęciu, a zdjęcie staje się albo jaśniejsze, albo znacznie ciemniejsze”.

Myślę, że każda czarna osoba w kraju miała doświadczenie bycia na zdjęciu, a zdjęcie jest albo jaśniejsze, albo znacznie ciemniejsze, mówi Williams, który jest członkiem komitetu prawników ACLU w Michigan, ale nie pracuje nad Robertem. Sprawa Williamsa. Oświetlenie jest jednym z podstawowych czynników wpływających na jakość obrazu. Tak więc fakt, że organy ścigania polegają do pewnego stopnia… na naprawdę kiepskich obrazach, jest problematyczny.

Zdarzały się przypadki kwestionowania stronniczych algorytmów i technologii sztucznej inteligencji na podstawie rasy. Na przykład Facebook przeszedł masowy audyt praw obywatelskich po tym, jak okazało się, że jego ukierunkowane algorytmy reklamowe wyświetlają reklamy na podstawie rasy, płci i religii. YouTube został pozwany w pozew zbiorowy złożony przez czarnych twórców który twierdził, że jego systemy sztucznej inteligencji profilują użytkowników i cenzurują lub dyskryminują treści ze względu na rasę. YouTube został również pozwany przez twórców LGBTQ+, którzy stwierdzili, że systemy moderowania treści oznaczyli słowa gejem i lesbijką.

Niektórzy eksperci twierdzą, że to tylko kwestia czasu, zanim zastosowanie stronniczej technologii przez ważną instytucję, taką jak policja, zostanie postawione przed prawnymi wyzwaniami.

Powiązana historia

Dlaczego rok 2020 był kluczowym, sprzecznym rokiem dla rozpoznawania twarzy Ruch sprawiedliwości rasowej wepchnął problemy z technologią do świadomości społecznej – ale pomimo skandali i zakazów, jej rozwój nie zwalnia.

Korzystanie przez rząd z rozpoznawania twarzy ma wyraźnie odmienny wpływ na osoby kolorowe, mówi Adam Schwartz, starszy prawnik w Electronic Frontier Foundation. Kolejne badania pokazują, że ta niebezpieczna technologia ma znacznie wyższy wskaźnik fałszywych trafień u osób kolorowych w porównaniu z białymi. W związku z tym użycie tej technologii przez rząd narusza przepisy, które zabraniają rządowi przyjmowania praktyk, które mają odmienny wpływ.

Ale Mayor, prawnik Williamsa, spodziewał się ciężkiej walki. Powiedział MIT Technology Review w zeszłym roku, że spodziewa się, że Departament Policji w Detroit: nadal twierdzą, że rozpoznawanie twarzy to świetne narzędzie dochodzeniowe.

Sprawa Williamsa dowodzi, że tak nie jest. Wcale tak nie jest, powiedział. W rzeczywistości może zaszkodzić ludziom, gdy użyjesz go jako narzędzia dochodzeniowego.

Pod mikroskopem

W oświadczeniu Lawrence Garcia, prawnik miasta Detroit, powiedział, że miasto dążyło do „osiągnięcia rozwiązania” w sprawie, ale powiedział, że rozpoznawanie twarzy nie jest winne tej sytuacji.

„Jak wyjaśnił szef policji, aresztowanie było wynikiem tandetnego śledztwa, a nie wadliwej technologii” – powiedział Garcia. „Wydział Policji w Detroit przeprowadził wewnętrzne dochodzenie i poniósł zarzuty niewłaściwego postępowania w stosunku do kilku członków wydziału. DPD wprowadziło nowe protokoły, aby zapobiec występowaniu podobnych problemów”.

Ale garnitur Williamsa pojawia się w krytycznym momencie dla wyścigu i policji w USA. Został złożony, gdy obrońcy rozpoczęli kłótnie w procesie Dereka Chauvina, oficera oskarżonego o zamordowanie George'a Floyda w Minneapolis w maju zeszłego roku – oraz trzeciego dnia protestów w odpowiedzi na zastrzelenie Daunte Wrighta w pobliskim Brooklyn Center w Minnesocie. Wright, 20-letni Murzyn, został zatrzymany w celu zatrzymania ruchu i aresztowany na podstawie nakazu, zanim funkcjonariuszka Kim Potter zastrzeliła go, podobno myląc swój pistolet z paralizatorem.

Eric Williams mówi, że niezbędne jest zrozumienie rozpoznawania twarzy w szerszym kontekście niepowodzeń policji:

Kiedy firma DPD zdecydowała się na zakup tej technologii… wiedziano, że technologia rozpoznawania twarzy była podatna na błędną identyfikację osób o ciemniejszej karnacji, zanim Williams został aresztowany, prawda? Mimo to w mieście, które jest w ponad 80% czarne, zdecydowali się na wykorzystanie tej technologii.

Najwyraźniej przywiązujesz mniejszą wagę do życia, środków do życia i swobód obywatelskich Czarnych niż do białych. To po prostu zbyt powszechne w obecnych Stanach Zjednoczonych.

Ta historia została zaktualizowana o oświadczenie miasta Detroit. Jennifer Strong przyczyniła się do powstania tej historii.

ukryć