211service.com
W USA panuje kryzys rozpoznawania twarzy i działań policyjnych
Pani Tech | Unsplash
Kiedy pojawiły się wiadomości, że pomyłka w systemie rozpoznawania twarzy skłoniła policję z Detroit do aresztowania Roberta Williamsa za przestępstwo, którego nie popełnił, był koniec czerwca, a w kraju wybuchły już zamieszki związane ze śmiercią George'a Floyda miesiąc wcześniej . Niedługo potem okazało się, że jeszcze jeden Murzyn, Michael Oliver, został aresztowany w podobnych okolicznościach co Williams. Podczas gdy znaczna część Stanów Zjednoczonych nadal woła o sprawiedliwość rasową, cichsza rozmowa nabiera kształtu na temat technologii rozpoznawania twarzy i policji. Dobrze zrobimy, jeśli posłuchamy.
Kiedy Jennifer Strong i ja zaczęliśmy donosić o wykorzystaniu technologii rozpoznawania twarzy przez policję w naszym nowym podcastie, W maszynach, którym ufamy , wiedzieliśmy, że te systemy oparte na sztucznej inteligencji są wdrażane przez gliniarzy w całych Stanach Zjednoczonych i innych krajach. Ale nie mieliśmy pojęcia, jak wiele dzieje się poza zasięgiem opinii publicznej.
Na początek nie wiemy, jak często wydziały policji w USA używają rozpoznawania twarzy z tego prostego powodu, że w większości jurysdykcji nie muszą zgłaszać, kiedy używają go do identyfikacji podejrzanego o popełnienie przestępstwa. ten najnowsze liczby są spekulacyjne i pochodzą z 2016 r. , ale sugerują, że w tamtym czasie co najmniej połowa Amerykanów miała zdjęcia w systemie rozpoznawania twarzy. W jednym hrabstwie na Florydzie każdego miesiąca przeprowadzano 8000 wyszukiwań.
Nie wiemy również, które wydziały policji mają technologię rozpoznawania twarzy, ponieważ policja często ukrywa proces zamówień. Istnieją na przykład dowody na to, że wiele departamentów kupuje swoją technologię za pomocą dotacji federalnych lub prezentów non-profit, które są zwolnione z niektórych przepisów dotyczących ujawniania. W innych przypadkach firmy oferują policyjne okresy próbne dla swojego oprogramowania, które umożliwiają funkcjonariuszom korzystanie z systemów bez oficjalnej zgody lub nadzoru. Dzięki temu firmy, które tworzą systemy rozpoznawania twarzy, mogą twierdzić, że ich produkty są powszechnie używane – i sprawiać wrażenie, że są zarówno popularnymi, jak i niezawodnymi narzędziami do rozwiązywania przestępstw.
Chronione algorytmy, które nie służą
Ale jeśli rozpoznawanie twarzy jest z czegokolwiek znane, to właśnie takie jest niewiarygodne. Jak relacjonujemy w programie, w styczniu londyńska Metropolitan Police zadebiutował system rozpoznawania twarzy na żywo że w testach miał wskaźnik dokładności poniżej 20% . W Nowym Jorku Metro Transit Authority wypróbowało system na głównych arteriach komunikacyjnych ze zgłoszonym współczynnikiem dokładności 0%. Systemy są również często stronnicze rasowo — jedno z badań wykazało, że w niektórych systemach komercyjnych, nawet w warunkach laboratoryjnych błędy w identyfikacji kobiet o ciemniejszej karnacji wynosiły około 35%. Podczas zgłaszania się do programu odkryliśmy, że policja często zmienia zdjęcia, aby zwiększyć swoje szanse na znalezienie dopasowania. Niektórzy nawet bronili tej praktyki jako kluczowej dla dobrej pracy policji.
Dwie najbardziej kontrowersyjne i zaawansowane firmy w tej dziedzinie, ClearviewAI i NTechLabs, twierdzą, że rozwiązały problem stronniczości i osiągnęły niemal idealną dokładność. ClearviewAI twierdzi, że jest używany przez około 600 departamentów policji w USA (niektórzy eksperci, z którymi rozmawialiśmy, byli sceptyczni wobec tej liczby). NTechLabs, z siedzibą w Rosji, podpisał kontrakt z rozpoznawaniem twarzy na żywo w całej Moskwie.
Ale prawie nie ma możliwości samodzielnej weryfikacji ich roszczeń. Obie firmy mają algorytmy, które znajdują się w bazach danych miliardów zdjęć publicznych. Tymczasem Narodowy Instytut Standardów i Technologii (NIST) oferuje jeden z niewielu niezależnych audytów technologii rozpoznawania twarzy. Test dostawcy NIST wykorzystuje znacznie mniejszy zestaw danych, co wraz z jakością i różnorodnością obrazów w bazie danych ogranicza jego moc jako narzędzia audytu. ClearviewAI nie wziął udziału w najnowszym teście NIST. NTechLabs wykonał test obrazu statycznego i wypadł dobrze, ale nie ma obecnie używanego testu rozpoznawania twarzy na żywo. Nie ma również niezależnego testu specjalnie na stronniczość.
Rozpoznawanie na ulicach
Niedawna fala protestów Black Lives Matter, wywołana śmiercią Floyda, zakwestionowała wiele z tego, co zaakceptowaliśmy we współczesnej policji, w tym wykorzystanie technologii. Czarna ironia polega na tym, że kiedy ludzie wychodzą na ulice, by zaprotestować przeciwko rasizmowi w policji, niektórzy policjanci używają najnowocześniejszych narzędzi ze znanym rasowym uprzedzeniem wobec zgromadzonych. Wiemy na przykład, że wydział policji w Baltimore użył identyfikatora twarzy na protestujących po śmierci Freddiego Graya w 2015 roku. Wiemy, że kilka wydziałów opublikowało publiczne wezwania do nagrania tegorocznych protestów. Udokumentowano, że policja w Minneapolis ma dostęp do szeregu technologii, w tym usługi ClearviewAI . Według Jamesona Spivacka z Centrum Prywatności i Technologii na Uniwersytecie Georgetown, z którym przeprowadzamy wywiad w programie, jeśli rozpoznawanie twarzy jest używane w protestach BLM, jest to skierowane w szczególności na przemówienie polityczne Czarnych i zniechęca do nich.
Po latach walki o regulacje, głównie przez organizacje czarne i brunatne, , nigdy nie byliśmy w lepszym momencie, aby naprawdę się zmienić. Microsoft, Amazon i IBM ogłosiły wycofanie lub moratorium na swoje produkty do rozpoznawania twarzy. W ciągu ostatnich kilku miesięcy kilka głównych miast USA ogłosiło zakazy lub moratoria na tę technologię. Z drugiej strony technologia szybko się rozwija. Możliwości systemów — a także potencjalne nadużycia i nadużycia — będą nadal rosły w zawrotnym tempie. Już teraz zaczynamy widzieć, jak wydziały policji i dostawcy technologii wychodzą poza statyczne, retrospektywne systemy rozpoznawania twarzy na rzecz analizy wideo na żywo, która jest zintegrowana z innymi rodzajami strumieni danych, takimi jak systemy nadzoru dźwiękowego wystrzałów z broni palnej.
Niektórzy z policjantów, z którymi rozmawialiśmy, powiedzieli, że nie należy zostawiać ich z archaicznymi narzędziami do walki z przestępczością w XXI wieku. I prawdą jest, że w niektórych przypadkach technologia może sprawić, że działania policji będą mniej brutalne i mniej podatne na ludzkie uprzedzenia.
Ale po miesiącach relacjonowania naszej miniserii audio, miałem złe przeczucia. Stawka rośnie z dnia na dzień i do tej pory opinia publiczna pozostawała daleko w tyle w zrozumieniu tego, co się dzieje. Nie jest jasne, jak to się zmieni, chyba że wszyscy ludzie ze wszystkich stron tej sprawy zgodzą się, że każdy ma prawo do informacji.