Już w przyszłym tygodniu moglibyśmy zobaczyć federalne przepisy dotyczące rozpoznawania twarzy

AP Photo/John Minchillo, plik

10 maja 40 grup wsparcia wysłało list otwarty domagać się stałego zakazu w sprawie korzystania przez policję amerykańską z oprogramowania do rozpoznawania twarzy firmy Amazon, Rekognition. List został zaadresowany do Jeffa Bezosa i Andy'ego Jassy'ego, obecnych i przyszłych prezesów firmy, i przyszedł zaledwie kilka tygodni wcześniej Roczne moratorium Amazona w sprawie sprzedaży organom ścigania miał wygasnąć.

W liście przeciwstawiono wokalne poparcie Bezosa i Jassy'ego działaczom Black Lives Matter podczas protestów przeciwko sprawiedliwości rasowej po zabójstwie George'a Floyda zeszłego lata z doniesieniem, że inne produkty Amazon zostały wykorzystane przez organy ścigania do identyfikacji protestujących .

17 maja Amazon ogłoszony przedłużyłoby swoje moratorium w nieskończoność, dołączając do konkurentów IBM i Microsoft w samoregulującym się czyśćcu. Posunięcie to jest ukłonem w stronę politycznej potęgi grup walczących o ukrócenie technologii – i uznaniem, że zaczynają się pojawiać nowe legislacyjne pola bitewne. Wielu uważa, że ​​wkrótce pojawi się znaczące ustawodawstwo federalne.

Ludzie są wyczerpani

Miniony rok był kluczowe dla rozpoznawania twarzy , z ujawnieniem roli technologii w fałszywe aresztowania , a jego zakazy zostały wprowadzone przez prawie dwa tuziny miast i siedem stanów w całych Stanach Zjednoczonych. Ale od jakiegoś czasu tempo się zmienia.

W 2018 roku badacze AI opublikowali badanie porównanie dokładności komercyjnego oprogramowania do rozpoznawania twarzy firm IBM, Microsoft i Face++. Ich praca wykazała, że ​​technologia znacznie dokładniej identyfikuje mężczyzn o jaśniejszej karnacji niż kobiety o ciemniejszej karnacji; System IBM uzyskał najgorszy wynik, z 34,4% różnicą w poziomie błędów między obiema grupami.

Również w 2018 roku ACLU przetestowało Rekognition Amazona i stwierdził, że błędnie zidentyfikował 28 członków Kongresu jako przestępców – błąd nieproporcjonalnie dotykający osoby kolorowe. Organizacja napisał własny list otwarty do Amazon , domagając się, aby firma zabroniła rządowego korzystania z tej technologii, podobnie jak Kongresowy Czarny Klub — ale Amazon nie wprowadził żadnych zmian.

(Rzecznik Amazona odniósł się do przeglądu technologii MIT do obalenie opublikowany w lipcu 2018 r., który przedstawia problemy firmy z dokładnością i metodami testu ACLU.)

„Jeśli zamierzamy zobowiązać się do równości rasowej w systemie sądownictwa karnego… jedną z najprostszych i najjaśniejszych rzeczy, jakie można zrobić, jest zaprzestanie korzystania z technologii rozpoznawania twarzy”.

Kate Ruane, ACLU

Jednak podczas ruchów sprawiedliwości rasowej przeciwko brutalności policji zeszłego lata Amazon zaskoczył wielu, ogłaszając, że powstrzymuje policyjne stosowanie Uznania, z wyjątkami dla federalnych funkcjonariuszy organów ścigania, takich jak ICE. W oświadczeniu firmy stwierdzono, że ma nadzieję, że przerwa może dać Kongresowi wystarczająco dużo czasu na wprowadzenie odpowiednich zasad.

Evan Greer jest dyrektorem Fight for the Future, grupy promującej technologię, która wierzy w zniesienie technologii rozpoznawania twarzy i twierdzi, że rośnie poparcie społeczne dla jej uregulowania. Mówi, że przedłużenie moratorium w tym tygodniu pokazuje, że Amazon reaguje na tę ogromną presję, jaką otrzymują, nie tylko w związku z rozpoznawaniem twarzy, dodając, że naprawdę przypisuję ogromne zasługi ogólnonarodowym powstaniom o sprawiedliwość rasową, które miały miejsce w ciągu ostatniego roku i pół.

Rzeczywistość polityczna

Chociaż presja wywierana jest na dużych dostawców technologii, w rzeczywistości większość organów ścigania i użytkowników rządowych nie kupuje oprogramowania do rozpoznawania twarzy od firm takich jak Amazon. Tak więc, chociaż moratoria i zakazy są mile widziane dla grup poparcia, niekoniecznie uniemożliwiają korzystanie z technologii. Tymczasem Kongres nie uchwalił jeszcze żadnych federalnych przepisów dotyczących rozpoznawania twarzy w organach ścigania, rządowych lub handlowych, które regulowałyby mniejszych dostawców.

Niektórzy mają jednak nadzieję, że wkrótce pojawi się ustawodawstwo federalne, albo poprzez bezpośrednie działania Kongresu, prezydenckie zarządzenie wykonawcze, albo nadchodzące ustawy o przywłaszczeniu i reformie policji.

Myślę, że najlepszym scenariuszem jest to, że Kongres uchwali moratorium na jego używanie, mówi Kate Ruane, starszy radca prawny ACLU. Uważa, że ​​nowe zastosowania powinny być dozwolone dopiero po dalszych pracach legislacyjnych.

Zaproponowano już kilka ustaw federalnych, które ograniczałyby dostęp do rozpoznawania twarzy.

• ten Ustawa moratorium o rozpoznawaniu twarzy i technologii biometrycznej wzywa do zakazania korzystania z oprogramowania przez wszelkie podmioty federalne i wstrzymania federalnych dotacji finansowych wszelkim władzom stanowym i lokalnym, które nie wprowadzają własnego moratorium. Został on zaproponowany przez czterech demokratycznych członków Kongresu i wprowadzony do Senatu w zeszłym roku.
• ten George Floyd Sprawiedliwość w ustawie o policji uniemożliwiłoby stosowanie rozpoznawania twarzy w aparatach do ciała. Ustawa została już uchwalona w Izbie i oczekuje się, że trafi do Senatu w nadchodzącym tygodniu. Prezydent Biden poprosił o przyjęcie ustawy przed rocznicą śmierci George'a Floyda 25 maja.
• ten Czwarta poprawka nie jest na sprzedaż? , dwupartyjny projekt ustawy wprowadzony przez 18 senatorów, ogranicza rządowi możliwość współpracy z dostawcami technologii, którzy łamią warunki świadczenia usług. W praktyce w dużej mierze uniemożliwiłoby to dostęp rządu do systemów zajmujących się skrobaniem sieci, takich jak Clearview AI .

Mutale Nkonde, założyciel i dyrektor generalny AI for the People, organizacji non-profit, która opowiada się za sprawiedliwością rasową w technologii, uważa, że ​​przed wyborami śródokresowymi w przyszłym roku prawdopodobnie zobaczymy dodatkowe ustawodawstwo federalne.

Myślę, że zostanie wprowadzone ustawodawstwo federalne, które będzie regulować wszystkie systemy algorytmiczne, w tym rozpoznawanie twarzy, mówi Nkonde. Myślę, że to rzeczywistość polityczna.

Nkonde twierdzi, że koncepcja oceny wpływu, która ocenia systemy technologiczne na podstawie praw obywatelskich, zyskuje na popularności w kręgach politycznych po obu stronach przejścia.

ACLU lobbuje w administracji Bidena o wydanie zarządzenia wykonawczego, a ostatnio opublikował list z 40 innymi grupami prosząc o natychmiastowy zakaz korzystania z tej technologii przez rząd.

Jeśli zamierzamy zobowiązać się do sprawiedliwości rasowej, jeśli zamierzamy zobowiązać się do równości rasowej w systemie sądownictwa karnego, to zobowiążemy się do tego rodzaju reform, jedną z najprostszych i najjaśniejszych rzeczy, które możesz zrobić, jest zakończenie wykorzystanie technologii rozpoznawania twarzy, mówi Ruane.

Ludzie są po prostu bardziej radykalni

W międzyczasie Ruane spodziewa się, że samoregulacja pozostanie jedną z najskuteczniejszych metod zapobiegania częstszemu wykorzystywaniu rozpoznawania twarzy. Jest prawdopodobne, że agencje federalne, takie jak Departament Mieszkalnictwa, Bezpieczeństwa Wewnętrznego i Edukacji, rozważą nałożenie przepisów zakazujących korzystania z technologii .

Nkonde jest optymistą, że moratoria rozszerzą się na zakazy i bardziej trwałe przepisy: myślę, że moratoria wydawały się być tym, co było możliwe przed śmiercią George'a Floyda. Po tym ludzie są po prostu bardziej radykalni.

Greer ostrzega jednak, że pomimo całego pędu przeciwko rozpoznawaniu twarzy, ustawodawstwo, które koncentruje się głównie na rasowej dokładności systemów, może nie rozwiązać głębszych problemów. Myślę, że byłoby błędem, gdyby decydenci postrzegali dokładność jako jedyny problem z rozpoznawaniem twarzy, którym należy się zająć, mówi. Branża byłaby bardzo zadowolona z rachunku, który na przykład mówi coś w stylu: „Jeśli zamierzasz sprzedawać system rozpoznawania twarzy, musi on być w 99% dokładny dla osób różnych ras i o różnej karnacji”.

Dodaje, że nawet jeśli stronniczość nie jest wpisana do systemu, nadal masz stronniczy system policyjny, który jest teraz przyspieszany i jakby doładowywany tą technologią.

Ta historia została zaktualizowana, aby uwzględnić odpowiedź Amazona na test ACLU systemu Rekognition firmy Amazon w 2018 roku.

ukryć