Pandemia testuje granice rozpoznawania twarzy

Pani Tech | Pexels

Na pierwszy rzut oka JB, artysta mieszkający w Los Angeles, być może nie wygląda zbytnio jak zdjęcie na ich prawie jazdy. Po pierwsze, zdjęcie legitymacyjne pochodzi sprzed kilku lat. Włosy, które kiedyś były długie i ciemne, teraz są zaczesane i rozjaśnione. I jest fakt, że JB jest osobą transpłciową i od ponad dwóch lat zażywa testosteron, co doprowadziło do zmiany rysów twarzy, grubszych brwi i trądziku, którego wcześniej nie było. (Poprosili o identyfikację tylko po pierwszych inicjałach ze względu na obawy dotyczące prywatności.)

JB stracił pracę w niepełnym wymiarze godzin w handlu detalicznym, kiedy w marcu zeszłego roku nastąpiły blokady i, podobnie jak miliony innych Amerykanów, próbował ubiegać się o zasiłek dla bezrobotnych – nigdy nie podejrzewając, że ich zmieniający się wygląd stanie na przeszkodzie. Miesiące po przesłaniu dokumentów drogą elektroniczną i wykonaniu wielu połączeń na gorącą linię, która nie prowadziła donikąd, JB został wreszcie zaproszony do korzystania z kalifornijskiego systemu rozpoznawania twarzy w celu zweryfikowania swojej tożsamości. Ale nawet po wielu próbach system nie mógł dopasować twarzy i zdjęcia JB do dowodu osobistego, odcinając im korzyści, do których się zakwalifikowali. W końcu JB przestał próbować: proces był zbyt frustrujący.

Powiązana historia

Jak te amerykańskie szkoły zostały ponownie otwarte bez wywołania epidemii chowu

Szkoły, które w zeszłym roku utrzymywały liczbę przypadków na niskim poziomie, pomimo pandemicznego chaosu, miały kilka wspólnych strategii. Oto, czego mogą nas nauczyć, jak robić to dobrze.

Organy ścigania i prywatne firmy od lat stosują rozpoznawanie twarzy, ale wykorzystanie tej technologii w dystrybucji pomocy rządowej gwałtownie wzrosło podczas pandemii. Stany i agencje federalne zwróciły się w stronę rozpoznawania jako bezkontaktowego, zautomatyzowanego sposobu weryfikacji tożsamości osób ubiegających się o bezrobocie i inne świadczenia publiczne.

Eksperci i aktywiści martwią się, że awarie tej technologii mogą uniemożliwić ludziom uzyskanie korzyści, których tak bardzo potrzebują – i że może być jeszcze bardziej niebezpieczna, jeśli będzie działać zgodnie z przeznaczeniem.

Używaj swojej twarzy dla przyziemnych

Pandemia przyspieszyła wykorzystanie wielu narzędzi do gromadzenia danych biometrycznych — kontroli temperatury przy drzwiach, kamery termowizyjne w szkołach skany twarzy na lotniskach. Jeśli chodzi o świadczenia takie jak bezrobocie, rządy stanowe zwracają się w szczególności do rozpoznawania twarzy, aby zweryfikować tożsamość osób przed wydaniem pieniędzy, do których są uprawnieni. Druga fala amerykańskich funduszy stymulacyjnych, uchwalona w grudniu 2020 r., wymagała od stanów weryfikacji osób ubiegających się o pomoc dla bezrobotnych na wypadek pandemii – federalną pulę pieniędzy.

Teraz 27 stanów agencje ds. bezrobocia (m.in. z Kalifornii) współpracują z ID.me, firmą oferującą technologię rozpoznawania twarzy, mówi CEO Blake Hall. Departament Pracy USA również dostarczył miliony w finansowaniu państwom do wdrożenia środków zapobiegania nadużyciom, które: napompował więcej dolarów w rozpoznawanie twarzy. W ostatnich miesiącach pojawiły się raporty na terenie całego kraju przypadków, w których systemy bezrobocia nie rozpoznawały skanów twarzy wnioskodawców, co stawiało osoby takie jak JB w niepewnej sytuacji finansowej. Ryzyko błędnej identyfikacji nie jest równomiernie rozłożone: rozpoznawanie twarzy okazało się mniej dokładne w przypadku ludzie koloru niż biali, a mężczyźni są częściej identyfikowani niż kobiety, według A badanie federalne opublikowane w 2019 r. Ustalenia były dalej analizowane w badanie ostatni rok.

Hall twierdzi, że na próbie 700 użytkowników ID.me nie znalazło korelacji między odcieniem skóry a prawdopodobieństwem niepowodzenia etapu dopasowywania jeden do jednego.

Oprogramowanie do rozpoznawania twarzy zaczęło stawać się coraz bardziej popularne na wiele lat przed pandemią, a jego potencjalne wady są dobrze udokumentowane: dziennikarze ujawnili, w jaki sposób policja w USA obszerne bazy danych twarzy w dochodzeniach, z wątpliwą dokładnością. Firmy zatrzymali się lub ograniczyli wykorzystanie tej technologii wśród dowodów na to, że nie działa ona tak dobrze u osób kolorowych. Mimo to nadal się rozprzestrzenia: inne agencje federalne plan na rozszerzeniu jego zastosowania, a jednocześnie jest używany wszędzie, od centrów handlowych po sale koncertowe. Macy był pozwany w zeszłym roku w związku z domniemanym wykorzystywaniem rozpoznawania twarzy u klientów sklepu. Jednak zastosowania technologii związane z pandemią do sprawdzania takich rzeczy, jak kwalifikowalność do świadczeń, są szczególnie zaniepokojone przez krytyków.

To, co nie daje mi spać w nocy, to fakt, że wraz z narastającą pandemią wszystko zaczyna się pojawiać, mówi Evan Greer, dyrektor Fight for the Future, grupy zajmującej się prawami cyfrowymi. Będzie w sklepach i będziesz mieć możliwość zapłaty twarzą. Zostanie znormalizowany w transporcie publicznym. Będzie używany podczas rozmów kwalifikacyjnych.

Powiązana historia

W jaki sposób reakcja na pandemię Stanów Zjednoczonych zwiększyła nierówności? Spójrz na nowojorskie salony paznokci.

Podczas gdy wielu pracowników umysłowych pozostało w domu, aby uniknąć kowboju, pracownicy salonów borykali się z wysokim wskaźnikiem infekcji, niemożliwymi do wyboru opcjami zachowania bezpieczeństwa i niewielką pomocą rządu.

Coraz częściej jest używany w interesie zdrowia publicznego. Australia niedawno rozszerzył program używanie rozpoznawania twarzy do egzekwowania środków ostrożności dotyczących Covid-19. Osoby poddawane kwarantannie podlegają losowym meldunkom, w których muszą wysłać selfie w celu potwierdzenia, że ​​przestrzegają zasad. Według Reutersa zbierane są również dane lokalizacyjne.

Greer mówi, że jeśli chodzi o podstawowe rzeczy, takie jak zasiłki w nagłych wypadkach, aby zapłacić za mieszkanie i żywność, pierwszym priorytetem powinno być upewnienie się, że każdy ma dostęp do pomocy. Dodaje, że zapobieganie oszustwom jest pozornie rozsądnym celem, ale najpilniejszym celem musi być zapewnienie ludziom potrzebnych im korzyści.

Systemy muszą być budowane z uwzględnieniem praw człowieka i potrzeb osób wrażliwych od samego początku. To nie mogą być refleksje, mówi Greer. Nie mogą to być poprawki błędów, które już się nie udały.

Hall z ID.me twierdzi, że usługi jego firmy są lepsze niż istniejące metody weryfikacji tożsamości i pomogły stanom ograniczyć masowe oszustwa związane z bezrobociem od czasu wdrożenia weryfikacji twarzy. Twierdzi, że wnioski o bezrobocie mają około 91% prawdziwych zdawalności — czy to na własną rękę, czy poprzez rozmowę wideo z przedstawicielem ID.me.

[To] był nasz cel, mówi. Gdybyśmy mogli zautomatyzować 91% tego, to stany, które właśnie prześcignęły pod względem zasobów, mogą wykorzystać te zasoby, aby świadczyć usługi konsjerża w białych rękawiczkach 9%.

Według Halla, gdy użytkownicy nie są w stanie przejść przez proces rozpoznawania twarzy, ID.me wysyła im e-maile w celu kontynuacji.

Wszystko w tej firmie polega na pomaganiu ludziom w uzyskaniu dostępu do rzeczy, do których są uprawnieni, mówi.

Technologia w prawdziwym świecie

Miesiące, w których JB przeżył bez dochodów, były trudne. Zmartwienia finansowe wystarczyły, aby wywołać stres, a inne problemy, takie jak zepsuty komputer, potęgowały niepokój. Nawet ich były pracodawca nie mógł lub nie chciał pomóc przebić się przez biurokrację.

To bardzo izolujące, gdy myślisz: „Nikt mi nie pomaga w żadnej sytuacji” – mówi JB.

Po stronie rządowej eksperci twierdzą, że to ma sens, że pandemia przyniosła nową technologię na pierwszy plan, ale przypadki takie jak JB pokazują, że sama technologia nie jest pełną odpowiedzią. Anne L. Washington, adiunkt ds. polityki danych na Uniwersytecie Nowojorskim, mówi, że uważanie nowej technologii rządowej za sukces jest kuszące, gdy działa ona przez większość czasu w fazie badań, ale zawodzi w 5% przypadków w prawdziwym świecie. Porównuje wynik do gry w muzyczne krzesła, w której w sali na 100 osób, pięć zawsze pozostanie bez miejsca.

Problem polega na tym, że rządy otrzymują jakąś technologię, która działa w 95% przypadków – myślą, że jest rozwiązana, mówi. Zamiast tego interwencja człowieka staje się ważniejsza niż kiedykolwiek. Mówi Waszyngton: Potrzebują systemu, aby regularnie obsługiwać pięć osób, które stoją.

Istnieje dodatkowa warstwa ryzyka, gdy w grę wchodzi prywatna firma. Największym problemem, który pojawia się podczas wdrażania nowego rodzaju technologii, jest miejsce przechowywania danych, mówi Waszyngton. Bez zaufany podmiot która ma prawny obowiązek chronić informacje ludzi, dane wrażliwe mogą trafić w ręce innych osób. Jak byśmy się czuli, na przykład, gdyby rząd federalny powierzył prywatnej firmie nasze numery ubezpieczenia społecznego, kiedy zostały one utworzone?

Problem polega na tym, że rządy otrzymują jakąś technologię, która działa w 95% przypadków – myślą, że jest rozwiązana

Anne L. Washington, Uniwersytet Nowojorski

Powszechne i niekontrolowane korzystanie z narzędzi rozpoznawania twarzy może również wpłynąć na i tak już zmarginalizowane grupy bardziej niż inne. Osoby transpłciowe, na przykład, mają szczegółowe , częste problemy z narzędziami takimi jak Zdjęcia Google, które mogą kwestionować to, czy zdjęcia przed i po przejściu przedstawiają tę samą osobę. Oznacza to liczenie się z oprogramowaniem w kółko.

[Istnieje] nieścisłość w zdolności technologii do odzwierciedlenia zakresu rzeczywistej różnorodności i skrajnych przypadków w prawdziwym świecie, mówi Daly Barnett, technolog z Electronic Frontier Foundation. Nie możemy na nich polegać, aby dokładnie klasyfikować, obliczać i odzwierciedlać te piękne przypadki brzegowe.

Gorzej niż porażka

Rozmowy na temat rozpoznawania twarzy zwykle dotyczą tego, jak technologia może zawieść lub dyskryminować. Jednak Barnett zachęca ludzi do myślenia poza tym, czy narzędzia biometryczne działają, czy nie, lub czy w technologii pojawiają się uprzedzenia. Odpiera myśl, że w ogóle ich potrzebujemy. Rzeczywiście, aktywiści tacy jak Greer ostrzegają, że narzędzia mogą być jeszcze bardziej niebezpieczne, gdy działają doskonale. Rozpoznawanie twarzy było już wykorzystywane do identyfikowania, karania lub tłumienia protestujących, chociaż ludzie walczą. W Hongkongu protestujący nosili maski i gogle, aby ukryj ich twarz z takiego nadzoru policyjnego. W USA prokuratorzy federalni zrezygnowano z opłat przeciwko protestującemu zidentyfikowanemu za pomocą rozpoznawania twarzy, który został oskarżony o napaść na funkcjonariuszy policji.

Powiązana historia

Oficjalne liczby bezrobotnych są przerażające. Rzeczywista sytuacja jest jeszcze gorsza. Rekordowe liczby bezrobotnych tylko wskazują na kryzys, z którym boryka się wielu bez pracy.

Myślę, że to zrozumiałe, że skupiamy się na tych wadach i uprzedzeniach, ponieważ ta technologia jest obecnie używana, mówi Greer. Ale kiedy weźmiesz technologię… i nałożysz ją na społeczeństwo, które jest głęboko niesprawiedliwe, nawet jeśli sama technologia jest „neutralna” lub nie ma w sobie żadnego rodzaju uprzedzeń, będzie to miało efekt automatyzacji i zaostrzenie tej dyskryminacji.

Zarówno Fight for the Future, jak i EFF wspierają zakazy rządowego korzystania z narzędzi do rozpoznawania twarzy. Barnett mówi, że nawet jeśli ta technologia jest wykorzystywana, agencje rządowe nie powinny polegać na jednym systemie jako strażniku dostępu – zwłaszcza, aby zapewnić ludziom niezbędne do przeżycia.

Nietrudno sobie wyobrazić, jak, nawet jeśli mają teraz dobre intencje, [te technologie] można później wykorzystać przeciwko ludziom w różnych celach, mówi.

Jednak dla osób z marginesu szczoteczki z rozpoznawaniem twarzy już sprawiają problemy. Ponad rok po tym, jak JB po raz pierwszy złożył wniosek o bezrobocie, szczegóły tego żmudnego procesu wciąż tkwią w ich pamięci. Kiedy pierwotne roszczenie wygasło wiosną tego roku, była to ulga. Niedawno dostali nową pracę i wszystko wróciło do normy.

To było tak, że w końcu odzyskuję swoje życie, mówią. Bardzo się cieszę, że nie mam do czynienia z tym systemem. I naprawdę mam nadzieję, że nigdy więcej nie będę musiał zajmować się tym systemem.

Ta historia jest częścią Projektu Technologii Pandemicznej, wspieranego przez Fundację Rockefellera.

ukryć