Dlaczego rok 2020 był kluczowym, sprzecznym rokiem dla rozpoznawania twarzy

Alexander Farnsworth | Getty

Pierwsze potwierdzone bezprawne aresztowanie w Ameryce za pomocą technologii rozpoznawania twarzy miało miejsce w styczniu 2020 r. Robert Williams, czarnoskóry mężczyzna, został aresztowany na swoim podjeździe pod Detroit, a jego żona i młoda córka obserwowały. Noc spędził w więzieniu. Następnego dnia w pokoju przesłuchań detektyw przesunął przez stół Williamsowi zdjęcie innego czarnoskórego mężczyzny, który został przyłapany na wideo kradzieży zegarków z butiku Shinola.

Czy to ty? on zapytał .

Nie, to nie ja. - odpowiedział Williams.

Detektyw podał kolejne zdjęcie. Myślę, że to nie ty też?

Williams przyłożył zdjęcie do twarzy. To najwyraźniej nie był on. Williams powiedział: To nie ja. Mam nadzieję, że nie sądzisz, że wszyscy Czarni wyglądają tak samo.

Komputer mówi, że to ty, odpowiedział detektyw.

Nowatorska rzecz o aresztowanie Roberta Williamsa nie było to, że się wydarzyło, lub że to był błąd. Wiadomo, że rozpoznawanie twarzy jest mniej dokładne w przypadku osób o ciemniejszej karnacji. A technologia ta jest szeroko wykorzystywana przez departamenty policji w Stanach Zjednoczonych, chociaż nie ma dobrych danych na temat jej wszechobecności. Niezwykłą częścią historii Williamsa jest to, że policja przyznała się do używania rozpoznawania twarzy podczas jego aresztowania.

Wiadomość o sprawie upubliczniono na początku sierpnia i – po letnim proteście skupionym na sposobie, w jaki czarne społeczności są nadzorowane w Ameryce – spotkała się z ogólnokrajowym oburzeniem. Kilka tygodni później wyszło na jaw kolejne bezprawne aresztowanie Murzyna w Detroit z powodu technologii rozpoznawania twarzy.

Jeszcze wcześniej aktywiści domagali się zakończenia Projektu Greenlight, ogólnomiejskiej inicjatywy publiczno-prywatnej, która wykorzystuje rozpoznawanie twarzy w celu zmniejszenia przestępczości. A jednak nie tylko projekt jest nadal realizowany: pod koniec września rada miasta przegłosowała przedłużenie umowy między Departamentem Policji w Detroit a dostawcą rozpoznawania twarzy, firmą DataWorks Plus.

Rok sprzeczności

Wydarzenia w Detroit są obecnie przykładem naszego skomplikowanego związku z rozpoznawaniem twarzy. Jego zastosowanie rośnie, aw niektórych dziedzinach technologia stała się integralną częścią. W innych, takich jak handel detaliczny, rozpoznawanie twarzy zaczyna być wprowadzane z dużymi nadziejami na przyszłość. Wielu dostawców technologii zakłada, że ​​społeczeństwo będzie coraz bardziej komfortowo korzystać z biometrii i wkrótce stanie się ona organiczną częścią życia cyfrowego: Apple mocno na to postawił, a teraz miliony ludzi używają jego systemu Face ID do odblokowania swoich iPhone'y na co dzień.

Ale opinia publiczna ma również nową świadomość zagrożeń, jakie stwarza rozpoznawanie twarzy, zwłaszcza w sądownictwie karnym. Obecnie jest znacznie większa świadomość, więcej obaw i więcej rozmów niż kiedykolwiek wcześniej, a w tym roku pojawiło się więcej przepisów dotyczących rozpoznawania twarzy niż we wszystkich poprzednich latach razem wziętych. W 2019 r. w sześciu miastach w USA obowiązywały zakazy lub moratoria i to samo w tym roku.

Pogodzenie tych praw z rozwojem branży będzie trudne. Ale wydarzenia z 2020 roku dają pewne wskazówki, jak te kompromisy mogą się rozegrać w nadchodzącym roku.

Mali gracze, wielki przemysł

W styczniu New York Times opublikował dochodzenie ClearviewAI, małej firmy zajmującej się rozpoznawaniem twarzy, która zastosowała swój algorytm w bazie danych zawierającej miliardy zdjęć pobranych z mediów społecznościowych. Komendy policji korzystające z systemu ClearviewAI skutecznie uzyskiwały dostęp do twoich zdjęć na Facebooku, aby dopasować często niewyraźne lub niekompletne obrazy policyjne podczas dochodzenia.

Firma została mocno skrytykowana i kolejne raporty BuzzFeed News pokazał, że system jest używany przez aż 2200 organów ścigania w USA, a także przez Immigration and Customs Enforcement, Departament Sprawiedliwości oraz sprzedawców detalicznych, w tym Macy’s i Walmart.

Historia Clearview naprawdę przeraziła wiele osób – tak jak powinno, mówi Jameson Spivack, współpracownik ds. Polityki w Centrum Prywatności i Technologii Uniwersytetu Georgetown. Wiele obaw skupia się na tym, jak rozdrobniona jest ta dziedzina. Podczas gdy duże firmy, takie jak IBM i Microsoft, są znaczącymi siłami, istnieje również wiele mniejszych prywatnych firm, takich jak ClearviewAI i NtechLab, które działają przy niewielkim nadzorze publicznym. Raporty ujawniły również, jak niewiele opinia publiczna wiedziała o powszechnym użyciu tej technologii przez rząd.

Katalizator: protesty rasowe

Te historie zwiększyły świadomość problemów, ale Spivack twierdzi, że protesty Black Lives Matter po zabójstwie George'a Floyda były największym pojedynczym katalizatorem dla ustawodawstwa ograniczającego korzystanie z rozpoznawania twarzy w Stanach Zjednoczonych. Amerykanie nagle zaczęli ponownie przyglądać się policji i jej narzędziom, polityce i kulturze.

Zaniepokojenie zaczęło rosnąć po tym, jak badacze Joy Buolamwini i Timnit Gebru odkryli i udokumentowane uprzedzenia rasowe w komercyjnych produktach do rozpoznawania twarzy w 2018 r., co doprowadziło kilka miast i stanów do przekazywać prawa co uniemożliwiło policji używanie rozpoznawania twarzy w połączeniu z kamerami na ciele.

Ale podczas największego ruchu protestu w historii Ameryki, aktywiści byli zaniepokojeni że technologie nadzoru policyjnego zostaną wykorzystane do działań odwetowych. Od tego czasu potwierdzono, że przynajmniej Nowy Jork , Miami , oraz Waszyngton, DC, wydział policji S używali rozpoznawania twarzy do inwigilacji protestujących.

1 czerwca w Waszyngtonie policja użyła kulek pieprzowych i gazu łzawiącego, aby odeprzeć protestujących na Lafayette Square, aby prezydent Trump mógł zrobić sobie zdjęcie w pobliskim kościele. Pośród chaosu protestujący uderzył policjanta. Kilka dni później funkcjonariusze znaleźli zdjęcie mężczyzny na Twitterze i przeszukali je przez system rozpoznawania twarzy, znaleźli dopasowanie i dokonali aresztowania. Podobnie w Miami, kobieta oskarżona o rzucanie kamieniami w policję podczas protestu została aresztowana na podstawie meczu rozpoznawania twarzy.

Spivack widział, jak oddolni aktywiści przeciwko rozpoznawaniu twarzy ściśle współpracowali z grupami reformy policji przez całe lato i jesień, kierowanymi przez inne grupy poparcia, takie jak American Civil Liberties Union. W Portland w stanie Oregon jeden z protestujących stworzył nawet system rozpoznawania twarzy, aby… zidentyfikować anonimowych funkcjonariuszy policji .

W 2020 r. na szczeblu miejskim, stanowym, a nawet federalnym zaproponowano przepisy ograniczające użycie takiej technologii przez policję. W czerwcu demokratyczni prawodawcy przedstawili ustawę zakazującą stosowania rozpoznawania twarzy przez federalne organy ścigania. W Vermont zarządzeniem wykonawczym gubernatora ustanowiono ogólnostanowy zakaz korzystania z technologii przez rząd. W Massachusetts miasta Cambridge i Boston uchwaliły tego lata zakazy stosowania technologii, a rząd stanowy zatwierdził zakaz rozpoznawania twarzy w przypadku agencji publicznych, w tym organów ścigania, w grudniu; Gubernator Charlie Baker jest obecnie odmowa podpisania rachunku .

Kalifornia rozpoczęła własną debatę na temat ustawodawstwa stanowego w maju, a miasta San Francisco i Oakland już zakazały używania rozpoznawania twarzy przez organy ścigania. W lipcu Nowy Jork wprowadził moratorium na rozpoznawanie twarzy w szkołach do 2022 roku. W Portland w stanie Oregon nowy zakaz w całym mieście zabrania korzystania z tej technologii przez jakąkolwiek grupę publiczną lub prywatną.

Ale ta zmiana nie dzieje się wszędzie, jak pokazuje ponowne zaangażowanie w nadzór w Detroit. Spivack spekuluje, że dynamika władzy rasowej może wpływać na polityczną walkę wokół policyjnego nadzoru. Jeśli spojrzeć na wiele miast, które były jednymi z pierwszych, które zakazały rozpoznawania twarzy, były one zazwyczaj – nie zawsze, ale zazwyczaj – bogatsze, bielsze, bardzo postępowe, być może z większym kapitałem politycznym i możliwością wywierania wpływu na prawodawców. niż bardziej zmarginalizowanych społeczności, mówi.

Perspektywa narodowa?

Jednak nie wszystkie reakcje przybrały formę przepisów. Na początku czerwca IBM ogłosił, że zaprzestał sprzedaży swoich produktów do rozpoznawania twarzy. Amazon i Microsoft poszły w ich ślady, tymczasowo zrywając umowy z departamentami policji. A w lipcu ACLU złożyła wniosek pozew przeciwko ClearviewAI za nieprzestrzeganie ustawy o ochronie prywatności informacji biometrycznych stanu Illinois — pierwsze pełne wyzwanie prawne dla firmy.

Microsoft, Amazon, IBM i grupy branżowe, takie jak Security Industry Association, przygotowują się do walki. Oni dramatycznie zwiększył lobbowanie na temat rozpoznawania twarzy od 2018 do 2019 roku i oczekuje się, że rok 2020 przyniesie jeszcze większy wzrost. Wielu opowiada się za zwiększeniem regulacji, ale nie za zakazami. Moratorium Amazona kończy się w czerwcu, a Microsoft jest uzależnione od ustanowienia prawa federalnego.

W międzyczasie ACLU nadal opracowuje przepisy, które mają na celu zakazanie tej technologii. W oświadczeniu na swojej stronie internetowej czytamy, że organizacja występuje do sądów, na ulice, do organów ustawodawczych, rad miejskich, a nawet do rad miejskich, aby bronić naszych praw przed rosnącymi zagrożeniami tej nieuregulowanej technologii nadzoru.

Priorytety nowej administracji będą również kształtować regulacje w 2021 r. i później. Jako kandydatka na prezydenta Kamala Harris cytowana regulacja rozpoznawania twarzy w egzekwowaniu prawa w ramach jej planu reformy policji. Jeśli administracja naciska na ustawodawstwo federalne, jest bardziej prawdopodobne, że stanie się to kwestią ogólnokrajową, w wyniku czego mniej środków zostanie skierowanych na więcej lokalnych kampanii nadzorczych. Ale jeśli nie, walka prawdopodobnie będzie nadal toczyć się na poziomie stanu i miasta.

ukryć