Nowojorscy policjanci użyli kontrowersyjnego narzędzia do rozpoznawania twarzy. Oto, co musisz wiedzieć.

Getty

To był pracowity tydzień dla Clearview AI, kontrowersyjnej firmy zajmującej się rozpoznawaniem twarzy, która wykorzystuje 3 miliardy zdjęć zeskrobanych z Internetu do napędzania wyszukiwarki twarzy. 6 kwietnia opublikowano Buzzfeed News baza ponad 1800 podmiotów — w tym policja stanowa i lokalna oraz inne agencje finansowane przez podatników, takie jak systemy opieki zdrowotnej i szkoły publiczne — które, jak twierdzi, korzystały z kontrowersyjnych produktów firmy. Wiele z tych agencji odpowiedziało na zarzuty, mówiąc, że tylko przetestowały tę technologię i nie miały formalnej umowy z firmą.

Ale dzień wcześniej definicja okresu próbnego z Clearview została szczegółowo opisana, gdy witryna z wiadomościami non-profit Muckrock opublikował e-maile między Departamentem Policji Nowego Jorku a firmą. Dokumenty, uzyskane dzięki wolności wniosków o udzielenie informacji przez Legal Aid Society i dziennikarkę Rachel Richards, śledzą przyjazną dwuletnią relację między departamentem a firmą technologiczną, podczas której nowojorska policja wielokrotnie testowała tę technologię i wykorzystywała rozpoznawanie twarzy w śledztwach na żywo .

Powiązana historia

W USA panuje kryzys rozpoznawania twarzy i działań policyjnych Ta głęboko błędna technologia jest szeroko stosowana, w dużej mierze poza zasięgiem opinii publicznej

NYPD wcześniej bagatelizowało swój związek z Clearview AI i wykorzystanie technologii firmy. Jednak wiadomości e-mail pokazują, że relacje między nimi były dobrze rozwinięte, a duża liczba policjantów przeprowadzała dużą liczbę wyszukiwań za pomocą aplikacji i używała ich w prawdziwych śledztwach. NYPD ma przeprowadzić ponad 5100 wyszukiwań z Clearview AI.

Jest to szczególnie problematyczne, ponieważ określone zasady ograniczają NYPD do tworzenia nienadzorowanego repozytorium zdjęć, do którego systemy rozpoznawania twarzy mogą się odwoływać, oraz ograniczają korzystanie z technologii rozpoznawania twarzy do określonego zespołu. Wydaje się, że obie zasady zostały ominięte dzięki Clearview AI. E-maile ujawniają, że NYPD dało wielu funkcjonariuszom spoza zespołu rozpoznawania twarzy dostęp do systemu, który opiera się na ogromnej bibliotece publicznych zdjęć z mediów społecznościowych. E-maile pokazują również, w jaki sposób funkcjonariusze NYPD pobrali aplikację na swoje urządzenia osobiste, z naruszeniem określonych zasad i wykorzystali potężne i stronniczy technologia w swobodnym stylu.

Clearview AI obsługuje potężną sieć neuronową, która przetwarza zdjęcia twarzy i porównuje ich dokładny pomiar i symetrię z ogromną bazą danych zdjęć, aby zasugerować możliwe dopasowania. Nie jest jasne, jak dokładna jest ta technologia, ale jest szeroko stosowana przez policję i inne agencje rządowe. Sztuczna inteligencja Clearview została mocno krytykowany za wykorzystanie informacji umożliwiających identyfikację osoby, decyzję o naruszaniu prywatności ludzi poprzez usuwanie zdjęć z Internetu bez ich zgody oraz wybór klientów.

E-maile obejmują okres od października 2018 r. do lutego 2020 r., od kiedy CEO Clearview AI, Hoan Ton-That został przedstawiony zastępcy inspektora NYPD Chrisowi Flanaganowi. Po wstępnych spotkaniach Clearview AI zawarła umowę z NYPD w grudniu 2018 r. na okres próbny, który trwał do marca następnego roku.

Dokumenty pokazują, że wiele osób w NYPD miało dostęp do Clearview w tym czasie i później, od kierownictwa departamentu po młodszych oficerów. Podczas wymiany Clearview AI zachęcała do większego korzystania ze swoich usług. (Sprawdź, czy możesz osiągnąć 100 wyszukiwań, instrukcje dotyczące wprowadzania na pokład sugerowały funkcjonariuszom.) Wiadomości e-mail pokazują, że konta próbne dla NYPD zostały utworzone dopiero w lutym 2020 r., prawie rok po zakończeniu okresu próbnego.

Przejrzeliśmy e-maile i rozmawialiśmy o ich zawartości z najlepszymi ekspertami ds. nadzoru i prawa. Oto, co musisz wiedzieć.

NYPD skłamała na temat zakresu swojego związku z Clearview AI i wykorzystania technologii rozpoznawania twarzy

Nowojorscy policjanci powiedzieli Wiadomości BuzzFeed i Poczta w Nowym Jorku wcześniej nie miała żadnego związku instytucjonalnego z Clearview AI, formalnie lub nieformalnie. Departament ujawnił, że wypróbował Clearview AI, ale wiadomości e-mail pokazują, że technologia była używana przez długi czas przez dużą liczbę osób, które przeprowadziły dużą liczbę wyszukiwań w prawdziwych śledztwach.

Podczas jednej wymiany detektyw pracujący w wydziale rozpoznawania twarzy departamentu powiedział, że aplikacja działa świetnie. W innym oficer z oddziału NYPD ds. kradzieży tożsamości powiedział, że nadal otrzymujemy pozytywne wyniki i kontynuujemy aresztowania. (Usunęliśmy z tych zdjęć pełne nazwiska i adresy e-mail; inne dane osobowe zostały zredagowane w oryginalnych dokumentach).

Albert Fox Cahn, dyrektor wykonawczy Surveillance Technology Oversight Project, organizacji non-profit, która opowiada się za zniesieniem stosowania przez policję technologii rozpoznawania twarzy w Nowym Jorku, mówi, że dane wyraźnie zaprzeczają wcześniejszym publicznym oświadczeniom NYPD na temat korzystania z Clearview AI.

Mamy tu wzorzec, w którym funkcjonariusze uzyskują konta Clearview — nie na tygodnie czy miesiące, ale na przestrzeni lat, mówi. Mamy dowody na spotkania z urzędnikami na najwyższym szczeblu NYPD, w tym z sekcją identyfikacji twarzy. Nie jest to kilku funkcjonariuszy, którzy decydują się odejść i założyć konto próbne. Było to systematyczne przyjmowanie technologii rozpoznawania twarzy Clearview, skierowanej do nowojorczyków.

Co więcej, NYPD opis zastosowania rozpoznawania twarzy , który jest wymagany na mocy niedawno uchwalonego prawa, mówi, że śledczy porównują obrazy sondy uzyskane podczas śledztwa z kontrolowaną i ograniczoną grupą zdjęć będących już w posiadaniu NYPD. Clearview AI jest znana ze swojej bazy danych ponad 3 miliardy zdjęć zeskrobany z sieci.

NYPD ściśle współpracuje z organami ścigania imigracyjnego, a funkcjonariusze skierowali Clearview AI do ICE

Dokumenty zawierają wiele e-maili od NYPD, które wydają się być skierowaniami do pomocy Clearview w sprzedaży swojej technologii Departamentowi Bezpieczeństwa Wewnętrznego. Dwóch funkcjonariuszy policji miało w swoim podpisie e-mail powiązania z NYPD i Homeland Security, podczas gdy inny funkcjonariusz został zidentyfikowany jako członek grupy zadaniowej Homeland Security.

Wydaje się, że jest tak dużo komunikacji, może dzielenie się danymi i tak wiele nieuregulowanego korzystania z technologii.

Nowy Jork jest wyznaczony jako miasto sanktuarium, co oznacza, że ​​lokalne organy ścigania ograniczają współpracę z federalnymi agencjami imigracyjnymi. W rzeczywistości rozpoznawanie twarzy NYPD zasady prywatności mówi, że informacje nie są udostępniane w celu wspierania egzekucji imigracyjnej i nie będą udostępniane innym agencjom w celu wspierania egzekucji imigracyjnej.

Myślę, że jednym z największych wniosków jest to, jak bezprawne i nieuregulowane są interakcje i krajobraz nadzoru i wymiany danych między lokalną policją, federalnymi organami ścigania, egzekwowaniem prawa imigracyjnego, mówi Matthew Guariglia, analityk z Electronic Frontier Foundation. Wydaje się, że jest tak dużo komunikacji, może dzielenie się danymi i tak wiele nieuregulowanego korzystania z technologii.

Cahn mówi, że e-maile natychmiast rozbrzmiewają dzwonkiem alarmowym, zwłaszcza że wiele informacji z organów ścigania przepływa przez centralne systemy zwane centrami syntezy jądrowej.

Możesz twierdzić, że jesteś sanktuarium, ile tylko chcesz, ale tak długo, jak będziesz mieć te zespoły zadaniowe DHS, tak długo, jak będziesz mieć centra fuzji informacji, które umożliwiają wymianę danych w czasie rzeczywistym z DHS, robisz ta obietnica zamieniła się w kłamstwo.

Wielu funkcjonariuszy poprosiło o korzystanie z Clearview AI na ich urządzeniach osobistych lub za pośrednictwem osobistych kont e-mail

Co najmniej czterech funkcjonariuszy poprosiło o dostęp do aplikacji Clearview na swoich urządzeniach osobistych lub za pośrednictwem osobistych wiadomości e-mail. Urządzenia departamentu są ściśle regulowane i pobieranie aplikacji na oficjalne telefony komórkowe NYPD może być trudne. Niektórzy funkcjonariusze wyraźnie zdecydowali się używać swoich urządzeń osobistych, gdy telefony departamentowe były zbyt restrykcyjne.

Clearview odpowiedział na tego e-maila, Cześć William, wkrótce powinieneś otrzymać e-mail konfiguracyjny w swojej skrzynce odbiorczej.

Jonathan McCoy jest prawnikiem ds. medycyny sądowej w Legal Aid Society i brał udział w składaniu wniosku o wolność dostępu do informacji. Uważał, że korzystanie z urządzeń osobistych jest szczególnie kłopotliwe: Mój wniosek jest taki, że aktywnie próbowali obejść zasady i procedury nowojorskiej policji, które stwierdzają, że jeśli zamierzasz korzystać z technologii rozpoznawania twarzy, musisz przejść przez FIS (sekcja identyfikacji twarzy) i muszą korzystać z technologii, która została już zatwierdzona przez hurtownię NYPD. NYPD ma już system rozpoznawania twarzy, dostarczany przez firmę Dataworks.

Powiązana historia

Aktywista demontujący rasistowskie algorytmy policyjne Hamid Khan wygrywa swoją walkę o zniesienie technologii nadzoru używanej przez LAPD

Guariglia mówi, że wskazuje to na nieostrożność zarówno ze strony NYPD, jak i Clearview AI. Byłbym przerażony, gdybym dowiedział się, że policjanci używali Clearview na swoich urządzeniach osobistych do identyfikowania osób, które następnie przyczyniły się do aresztowań lub oficjalnych śledztw NYPD, mówi.

Obawy, które pojawiają się w tych e-mailach, nie są tylko teoretyczne: mogą pozwolić policji na wniesienie skargi do sądu, a nawet uchylenie spraw z powodu nieprzestrzegania procedury. McCoy mówi, że Towarzystwo Pomocy Prawnej planuje wykorzystać dowody z e-maili do obrony klientów, którzy zostali aresztowani w wyniku śledztwa z wykorzystaniem rozpoznawania twarzy.

Mamy nadzieję, że będziemy mieć podstawę, by udać się do sądu i powiedzieć, że jakikolwiek wyrok skazujący uzyskany w wyniku korzystania z oprogramowania został wykonany w sposób niewspółmierny do zasad i procedur NYPD, mówi. Ponieważ Clearview jest technologią nieprzetestowaną i zawodną, ​​możemy argumentować, że korzystanie z takiej technologii naruszyło prawa naszego klienta.

ukryć