Rozpoznawanie twarzy na żywo śledzi dzieci podejrzane o bycie przestępcami

Pani Tech | Getty

W krajowej bazie danych w Argentynie dziesiątki tysięcy wpisów szczegółowo opisują imiona, urodziny i dokumenty tożsamości osób podejrzanych o popełnienie przestępstwa. Baza danych, znana jako Consulta Nacional de Rebeldías y Capturas (Krajowy Rejestr Uciekinierów i Aresztowań) lub CONARC, powstała w 2009 roku w ramach działań na rzecz poprawy egzekwowania prawa w przypadku poważnych przestępstw.

Ale w CONARC jest kilka rzeczy nie tak. Po pierwsze, jest to zwykły plik arkusza kalkulacyjnego bez ochrony hasłem, który można łatwo znaleźć w wyszukiwarce Google i pobrać przez każdego. Po drugie, wiele rzekomych przestępstw, takich jak drobna kradzież, nie jest tak poważnych, podczas gdy inne w ogóle nie są określone.

Najbardziej niepokojący jest jednak wiek najmłodszego domniemanego sprawcy, zidentyfikowanego jedynie jako M.G., który jest cytowany za przestępstwa przeciwko osobom (złośliwe) – poważne obrażenia. M.G. najwyraźniej urodził się 17 października 2016 r., co oznacza, że ​​ma tydzień przed ukończeniem czterech lat.

Ale już nowe śledztwo Human Rights Watch odkrył, że nie tylko dzieci są regularnie dodawane do CONARC, ale baza danych obsługuje również system rozpoznawania twarzy na żywo w Buenos Aires, wdrożony przez władze miasta. To sprawia, że ​​system jest prawdopodobnie pierwszym znanym przypadkiem tego rodzaju wykorzystywanym do polowania na dzieci podejrzane o działalność przestępczą.

To całkowicie oburzające, mówi Hye Jung Han, obrońca praw dziecka w Human Rights Watch, który kierował badaniami.

Buenos Aires po raz pierwszy rozpoczęło testowanie rozpoznawania twarzy na żywo 24 kwietnia 2019 r. Wdrożony bez konsultacji społecznych system wywołał natychmiastowy opór. W październiku ogólnokrajowa organizacja praw obywatelskich złożył pozew zakwestionować to. W odpowiedzi rząd przygotował projekt nowej ustawy – obecnie przechodzącej procesy legislacyjne – która zalegalizowałaby rozpoznawanie twarzy w przestrzeni publicznej.

System od początku został zaprojektowany do łączenia się z CONARC. Chociaż sam CONARC nie zawiera żadnych zdjęć swoich domniemanych sprawców, jest połączony z dokumentami tożsamości ze zdjęciem z krajowego rejestru. Oprogramowanie wykorzystuje strzały w głowę podejrzanych, aby wyszukiwać mecze w czasie rzeczywistym za pomocą kamer miejskiego metra. Gdy system oznaczy osobę, alarmuje policję, aby dokonać aresztowania.

Od tego czasu system doprowadził do: liczny fałszywy aresztowania (linki w języku hiszpańskim), z którymi policja nie ma ustalonego protokołu postępowania. Jeden mężczyzna, który został błędnie zidentyfikowany, został zatrzymany na sześć dni i miał zostać przeniesiony do więzienia o zaostrzonym rygorze, zanim ostatecznie wyjaśnił swoją tożsamość. Innemu powiedziano, że powinien spodziewać się wielokrotnego oflagowania w przyszłości, mimo że udowodnił, że nie był tym, kogo szuka policja. Aby pomóc rozwiązać zamieszanie, dali mu przepustkę do pokazania następnemu oficerowi, która mogła go powstrzymać.

Wydaje się, że nie ma mechanizmu umożliwiającego korygowanie błędów ani w algorytmie, ani w bazie danych, mówi Han. To dla nas sygnał, że oto rząd, który zaopatrzył się w technologię, której nie rozumie zbyt dobrze pod względem wszystkich konsekwencji technicznych i praw człowieka.

Wszystko to już jest głęboko niepokojące, ale dodanie dzieci do równania znacznie pogarsza sprawę. Chociaż rząd ma publicznie odmówiono (link w języku hiszpańskim), że CONARC obejmuje nieletnich, Human Rights Watch znalazła co najmniej 166 dzieci wymienionych w różnych wersjach bazy danych między majem 2017 a majem 2020. W przeciwieństwie do M.G. większość z nich identyfikuje się po imieniu, co jest nielegalne. Zgodnie z międzynarodowym prawem dotyczącym praw człowieka, dzieci oskarżone o przestępstwo muszą być chronione przez cały czas trwania postępowania.

Również w przeciwieństwie do MG, większość miała 16 lub 17 lat w momencie wejścia – choć, w tajemniczy sposób, było kilka dzieci w wieku od roku do trzech lat. Wiek to nie jedyne widoczne błędy we wpisach dzieci. Istnieją rażące literówki, sprzeczne szczegóły, a czasem wiele krajowych dowodów tożsamości wymienionych dla tej samej osoby. Ponieważ dzieci również zmieniają się fizycznie szybciej niż dorośli, ich dokumenty tożsamości ze zdjęciem są bardziej narażone na dezaktualizację.

Co więcej, systemy rozpoznawania twarzy, nawet w idealnych warunkach laboratoryjnych, notorycznie radzą sobie z dziećmi, ponieważ są szkolone i testowane głównie na dorosłych. System Buenos Aires nie jest inny. Według oficjalne dokumenty (link w języku hiszpańskim), testowano go tylko na twarzach dorosłych pracowników władz miejskich przed zakupem. Wcześniejsze testy przeprowadzone przez rząd USA dotyczące konkretnego algorytmu, który, jak się uważa, jest używany, sugerują również, że działa on sześciokrotnie gorzej u dzieci (w wieku od 10 do 16 lat) niż u dorosłych (w wieku od 24 do 40 lat).

Wszystkie te czynniki narażają dzieci na zwiększone ryzyko, że zostaną błędnie zidentyfikowane i fałszywie aresztowane. Mogłoby to doprowadzić do nieuzasadnionej kryminalnej przeszłości, z potencjalnie długotrwałymi reperkusjami dla ich możliwości edukacji i zatrudnienia. Może to również mieć wpływ na ich zachowanie.

Argument, że rozpoznawanie twarzy ma mrożący wpływ na wolność słowa, jest bardziej wzmocniony w przypadku dzieci, mówi Han. Możesz sobie wyobrazić, że dziecko [które zostało fałszywie aresztowane] byłoby wyjątkowo cenzurujące lub ostrożne w kwestii tego, jak zachowuje się w miejscach publicznych. I wciąż jest za wcześnie, aby spróbować ustalić długoterminowe skutki psychologiczne – jak może to również ukształtować ich światopogląd i sposób myślenia.

Chociaż Buenos Aires jest pierwszym miastem, które Han zidentyfikował za pomocą rozpoznawania twarzy na żywo do śledzenia dzieci, obawia się, że wiele innych przykładów jest ukrytych. W styczniu, Londyn ogłoszony że włączy rozpoznawanie twarzy na żywo do swoich działań policyjnych. Moskwa powiedziała, że ​​w ciągu kilku dni: wdrożył podobny system przez miasto.

Chociaż nie wiadomo jeszcze, czy te systemy aktywnie próbują dopasować dzieci, dzieci już zostały dotknięte. W filmie dokumentalnym 2020 Odchylenie kodowane , chłopiec zostaje fałszywie zatrzymany przez londyńską policję po tym, jak rozpoznawanie twarzy na żywo myli go z kimś innym. Nie jest jasne, czy policja rzeczywiście szukała osoby nieletniej, czy starszej.

Nawet ci, którzy nie są zatrzymani, tracą prawo do prywatności, mówi Han: Przed kamerą z funkcją rozpoznawania twarzy przechodzą wszystkie dzieciaki tylko po to, by dostać się do metra.

Często w debatach na temat tych systemów łatwo zapomnieć, że dzieci wymagają szczególnej uwagi . Ale to nie jedyny powód do niepokoju, dodaje Han. Fakt, że te dzieci byłyby pod tego rodzaju inwazyjnym nadzorem – pełne prawa człowieka i społeczne implikacje tej technologii są wciąż nieznane. Innymi słowy: to, co jest złe dla dzieci, jest ostatecznie złe dla wszystkich.

ukryć