To, co dzieje się w Vegas… jest rejestrowane w aparacie

Wykorzystywanie przez policję rozpoznawania twarzy jest przedmiotem wielu badań. W trzeciej części naszej czteroczęściowej serii poświęconej rozpoznawaniu twarzy, prowadząca Jennifer Strong zabierze Cię do Sin City, które w rzeczywistości ma jedną z najbardziej dopracowanych w Ameryce zasad, kiedy gliniarze mogą uchwycić twoje podobieństwo. Dowiaduje się również, dlaczego gwiazdy takie jak Woody Harrelson odgrywają główną rolę w rozmowach na temat tej technologii.

Spotykamy się:

• Albert Fox Cahn, założyciel Surveillance Technology Oversight Project (S.T.O.P.)
• Phil Mayor, starszy prawnik ds. personelu ACLU Michigan
• Kapitan Dori Koren, policja Las Vegas
• Zastępca komendanta Armando Aguilar, Policja w Miami

Kredyty:

Ten odcinek został zrelacjonowany i wyprodukowany przez Jennifer Strong, Tate Ryan-Mosley i Emmę Cillekens. Pomogli nam Benji Rosen i Karen Hao. Redagują nas Michael Reilly i Gideon Lichfield. Naszym dyrektorem technicznym jest Jakub Górski.

Pełna transkrypcja odcinka:

Jennifer Silna : W porządku, więc wybieramy się na przejażdżkę jednym z najbardziej ruchliwych mostów Nowego Jorku, nazywa się RFK. Powodem, dla którego to robimy, jest fakt, że urząd tranzytowy, MTA, zainstalował rozpoznawanie twarzy na żywo. Właściwie zamierzamy teraz przejść pod nią. Czy widzisz, że kamera jest skierowana prosto na nasze twarze? Teraz umieścili to w całym mieście. Znajduje się w wielu mostach i tunelach, ale powodem, dla którego jesteśmy na tym, jest to, że tam wszystko się zaczęło i co przynajmniej teoretycznie robi, ma czytać z naszych twarzy przez przednie szyby. A szaleństwo na tym polega, no cóż, szaleństwo na tym polega na tym, że nikt nie wiedział, że był test, ale szaleństwem jest również to, że wyniki tego testu wyciekły do ​​prasy w zeszłym roku. Chcesz zgadnąć, ile twarzy zostało uchwyconych podczas okresu testowego? Co myślisz? Nawiasem mówiąc, to jest Emma Cillekens... moja producentka.

Emma Cillekens : Nie wiem jak tysiące, może miliony? To jest Nowy Jork, może miliony.

Jennifer Silna : Nie. Um, nie mają żadnego. Zero procent. Ale posunęli się do przodu, a mimo to kontynuowali.

Andrzej Kuomo : Bezgotówkowe opłaty za przejazd, które tak naprawdę nie dotyczy opłat za przejazd. Tak naprawdę chodzi o wprowadzenie systemu elektronicznego, którego nigdy wcześniej nie mieliśmy.

Jennifer Silna : To gubernator Nowego Jorku Andrew Cuomo przemawiający na imprezie w 2018 roku.

Andrzej Kuomo : To, co robi, to jest umieszczone w systemie, który odczytuje każdą tablicę rejestracyjną, która przejeżdża przez to przejście i zgłasza się do radiowozu, który stacjonuje tam w ciągu pięciu sekund.

Jennifer Silna : Ale to nie jest wydarzenie techniczne, ani nie chodzi o działania policji. Świętuje zakończenie remontu tunelu łączącego Brooklyn z Manhattanem. Widzisz, miejskie metro i tunele zalane słoną wodą w następstwie huraganu Sandy. Cała elektronika i okablowanie musiały zostać wymienione, co dało im możliwość spróbowania czegoś nowego.

Andrzej Kuomo : Przechodzimy teraz na technologię rozpoznawania twarzy, która przenosi Cię na zupełnie nowy poziom, gdzie można zobaczyć twarz osoby w samochodzie i porównać ją z bazami danych.

Jennifer Silna : I eksperymentują z czymś jeszcze bardziej nowatorskim niż czytanie twarzy czy tablic rejestracyjnych. Próbują czytać ludziom w uszach.

Andrzej Kuomo : Ponieważ wiele razy osoba odwróci głowę, gdy zobaczy kamerę bezpieczeństwa. Więc teraz eksperymentują z technologią, która po prostu identyfikuje osobę na ucho, wierzcie lub nie.

Jennifer Silna : Jestem Jennifer Strong i to jest trzecia część naszej serii o policji i rozpoznawaniu twarzy. W tym odcinku przyjrzymy się bliżej, w jaki sposób ta technologia jest wykorzystywana w różnych miastach i spotykamy się z niektórymi komendantami policji pomagającymi w podejmowaniu tych decyzji.

[Pokaż wprowadzenie]

Jennifer Silna : Drogi nie są jedynym miejscem, w którym władze tranzytowe w Nowym Jorku mogą eksperymentować z identyfikacją twarzy, ale bez zasad dotyczących tego, jak się z tego korzysta, dowiadujemy się o tym po fakcie, a często przez przypadek, jak wtedy, gdy zadzwonił reporter New York Times na Twitterze coś, co widziała w metrze.

Albert Fox Cahn : Więc to był monitor ustawiony na stacji metra Time Square, który miał te żółte pola wokół twarzy ludzi, co oznaczało, że używał minimalnej technologii identyfikacji twarzy. Jeśli nie twarzy.

Jennifer Silna : Albert Fox Cahn jest założycielem projektu Surveillance Technology Oversight Project. Inaczej znany jako STOP. Po obejrzeniu tego tweeta skontaktował się z agencją transportową, MTA, ale mówi, że nie udzielili wiele odpowiedzi.

Albert Fox Cahn : Więc pozwaliśmy ich. A ostatnio otrzymaliśmy pozytywną decyzję sędziego stanu Nowy Jork, który stwierdził, że MTA niesłusznie zataiło informacje o tych monitorach bez wyjaśnienia, w jaki sposób były używane, czy w grę wchodziło rozpoznawanie twarzy i jaki był cel ich ustawienia. przede wszystkim dlatego, że uzasadnieniem MTA dla korzystania z tych monitorów było „nie martw się”. To nie jest rozpoznawanie twarzy. Chcieliśmy tylko przestraszyć publiczność, by pomyślała, że ​​mamy rozpoznawanie twarzy, żeby nie pominęli opłaty za przejazd.

Jennifer Silna : Ale taktyki zastraszania nie są jedynymi, o które się martwi. Od wielu lat kłóci się z NYPD o to, jak używają tej technologii.

Albert Fox Cahn : Masz tę niesamowicie potężną technologię, ale jest już podatna na pewne rodzaje błędów i pewne rodzaje uprzedzeń. A NYPD przechodzi i używa w sposób, który tylko zwiększa to ryzyko. Każesz im karmić się na zdjęciach doppelgänger i nie mamy pojęcia, ile razy to zostało zrobione.

Jennifer Silna : Istnieje nawet nazwa na to, zwana porównaniem celebrytów. Kilka lat temu śledczy szukali podejrzanego schwytanego na taśmie, kradnącego piwo z drogerii w Nowym Jorku. Kamera uchwyciła jego twarz, ale nie na tyle dobrze, aby system rozpoznawania twarzy zwrócił jakiekolwiek dopasowania. Detektyw zauważył, że podejrzany wyglądał trochę jak aktor Woody Harrelson i po przejrzeniu zdjęć przez system znaleźli dopasowanie. Nie wiemy, jak często to się dzieje, ale wiemy, że jest to więcej niż jeden raz. W innym przykładzie z NYPD zawodnik New York Knics zastępuje podejrzanego.

Albert Fox Cahn : A więc używając do mnie zdjęcia celebryty, to jest bardzo problematyczne, że zawłaszczasz czyjś wizerunek do tego rodzaju celów. Poza tym nie ma dowodów na to, że to prawda.

Jennifer Silna : Inna praktyka, którą uważa za kłopotliwą, policja ręcznie robi zdjęcia w Photoshopie. Widzisz, rozpoznawanie twarzy często nie rozpoznaje twarzy z zamkniętymi oczami. Więc niektóre wydziały policji wkleją otwarte oczy na te zdjęcia, aby uzyskać wyniki. Zmieniają też swoje zdjęcia w inny sposób.

Albert Fox Cahn : Jeśli usta są otwarte, zamkniesz je w Photoshopie. Jeśli część twarzy jest zasłonięta, zobaczysz przypadki, w których obrazy trafiają do Google, a następnie kopiują i wklejają jak część innego obrazu, aby spróbować utworzyć kompozyt, który algorytm rozpoznawania twarzy zidentyfikuje jako realną ludzką twarz. Ponieważ chociaż te narzędzia mogą być niewiarygodnie potężne, są również tak delikatne i nawet zamknięcie jednego oka może wystarczyć, aby algorytm rozpoznawania twarzy nie widział ludzkiej twarzy, do której mógłby dopasować.

Jennifer Silna : Co więcej, tak naprawdę nawet nie wiemy, jakimi narzędziami dysponuje policja w niektórych miejscach, w tym w Nowym Jorku.

Albert Fox Cahn : Ale nawet nasi wybrani urzędnicy, nasza rada miejska nie wiedzą, jakich narzędzi używają. A to zagrożenie dla samej demokracji, gdy policja działa bez żadnego nadzoru, ale uniemożliwia to również publiczne odparcie, którego potrzebujemy, aby zacząć zakazywać tych narzędzi, gdy nie wiemy, że są używane w pierwsze miejsce.

Jennifer Silna : Ale to się zmienia. Tego lata miasto uchwaliło ustawę o nadzorze publicznym nad technologią nadzoru lub ustawę POST. Wymaga od policji ujawnienia podstawowych informacji o tym, jakie technologie nadzoru posiada, jak działają, jak są używane i jak często dotyczą technologii, od lokalizacji telefonu komórkowego, urządzeń śledzących, automatycznych czytników tablic rejestracyjnych, kamer ciała i oprogramowania do monitorowania mediów społecznościowych . I oczywiście rozpoznawanie twarzy, ale to nie jest nowa ustawa. Siedzi przez ostatnie trzy lata.

Albert Fox Cahn : Żadna z szeroko zakrojonych reform, jakie widzieliśmy w Nowym Jorku, nie byłaby możliwa bez niesamowitych protestów i powstań, które widzieliśmy w całym mieście, w całym kraju. To całkowicie zmieniło debatę na temat policji w tym mieście.

Jennifer Silna : ACLU to kolejny gracz pracujący nad tą samą łamigłówką. To organizacja non-profit skupiona na prawach i wolnościach jednostki. Mówią otwarcie o potrzebie uregulowania identyfikacji twarzy, szczególnie w przypadku Roberta Williamsa, człowieka, którego poznaliśmy w pierwszym odcinku.

Roberta Williamsa : Nie wiedziałem, że używają jakiegokolwiek rodzaju rozpoznawania twarzy czy czegoś takiego, dopóki nie porozmawiałem z detektywami, którzy mi to pokazali, że właśnie to mnie zatrzymali.

Melissa Williams : Nie sądziliśmy, że to się może zdarzyć. Nie sądziliśmy, że to rzecz. Nawet gdybym śledził wiadomości o rozpoznawaniu twarzy, i tak by to było używane. Nie spodziewałam się, że policja pojawi się u naszych drzwi i aresztuje mojego męża. Więc czuję, że inni ludzie powinni wiedzieć, że to może się zdarzyć i tak się stało. I to nie powinno się zdarzyć.

Jennifer Silna : On i jego żona Melissa, którą właśnie usłyszałeś, są reprezentowani przez Phila Mayora, starszego prawnika w ACLU w Michigan.

Phil Major : Obrońca państwa Williams opowiada o tym, że po raz pierwszy od lat reprezentowania oskarżonych w sprawach karnych dowiedzieli się, że jej klient został zidentyfikowany za pomocą technologii rozpoznawania twarzy. I znowu, to nie wyszło w sądzie. Wyszło, bo policja przypadkowo coś powiedziała. Więc ja, jestem tak pewny, jak tylko mogę być, że są ludzie, którzy są dzisiaj w więzieniu skazani za przestępstwa, że ​​wzięli udział w ugodzie, ponieważ komputer popełnił ten sam błąd, co w przypadku pana Williamsa.

Jennifer Silna : Ale prawdziwą krzywdę nadal może wyrządzić fałszywy mecz upubliczniony, nawet jeśli nikt nie zostanie aresztowany.

Amara Majed : Rankiem 25 kwietnia, w środku sezonu finałowego, obudziłem się w moim pokoju w akademiku przy 35 nieodebranych telefonach, które gorączkowo informowały mnie, że zostałem fałszywie zidentyfikowany jako jeden z terrorystów zaangażowanych w niedawne ataki wielkanocne na moją ukochaną ojczyznę , Sri Lanka,

Jennifer Silna : Amara Majeed miała 22 lata i była starsza na Brown University, kiedy jej twarz pojawiła się na plakacie z imieniem innej kobiety oskarżonej o te ataki. Została fałszywie zidentyfikowana przez algorytm.

Amara Majed : Nie ma słów, aby opisać ból związany z tak ohydnymi atakami na moją ojczyznę i ludzi. Zdjęcia i posty fałszywie implikujące mnie naraziły na szwank spokój mojej rodziny i zagroziły życiu naszych dalszych rodzin.

Jennifer Silna : Władze Sri Lanki przeprosiły później za błąd, ale nie wcześniej niż była nękana, trollowana i grożona w mediach społecznościowych. Wszystko sprowadza się do tego. Polityka, przejrzystość i nadzór nad identyfikatorem twarzy różnią się radykalnie w zależności od miejsca. A nawet jeśli istnieją zasady, które zapobiegają występowaniu tego typu rzeczy, są one tak dobre, jak są przestrzegane. Kiedy wrócimy, spotkamy kilka wydziałów policji, które nad tym pracują.

[Do]

Jennifer Silna : NYPD opublikowało swoją politykę identyfikacji twarzy w marcu, po prawie dekadzie nacisków publicznych, ale inne wydziały policji od samego początku były o wiele bardziej skłonne zaangażować opinię publiczną w tę sprawę, w tym w krainie kasyn, Las Vegas, gdzie odwiedzający a ci, którzy tam mieszkają, nie są obcy inwigilacji z powodu ogromnych sum pieniędzy, które przechodzą przez te podłogi w pokojach gier. Kapitan policji Dori Koren jest dowódcą, który nadzoruje Las Vegas Strip. Opowiada mi o supernowoczesnym pokoju do nadzoru, który brzmi tak, jakby można go było pokazać w jednym z tych programów dla policjantów. Z powodu koronawirusa nie mogę osobiście odwiedzić centrum dowodzenia. Więc opisuje to dla mnie.

Dori Koren : To trochę hollywoodzkie i zrobiliśmy to celowo, jeśli chodzi o to, jak chcieliśmy, żeby to było. Więc wyobraź sobie, że wchodzisz do dużego pokoju i na przedniej ścianie masz ten ogromny wyświetlacz, wszystkie rodzaje kamer, takie jak w pokoju nadzoru, ale trochę bardziej zaawansowane technologicznie, trochę większe, trochę bardziej zaawansowane.

Jennifer Silna : Wszystko w tym pokoju jest połączone. Alarmy odtwarzane, gdy czujniki dźwiękowe wykryją strzelaninę, a także wiele innych rzeczy, o których funkcjonariusze mogą być zainteresowani, a wszystkie te technologie identyfikacji pojawiają się na dużej mapie z siatką. Dzięki temu osoby i wydarzenia mogą być umieszczane w określonej lokalizacji w czasie zbliżonym do rzeczywistego. I w pewnym sensie przemawia do miasta jako całości. Las Vegas to jedno z pionierskich inteligentnych miast w kraju, z czujnikami wbudowanymi niemal wszędzie, aż po kosze na śmieci, które potrafią wyczuć to, co jest w środku. Kapitan Koren mówi, że identyfikator twarzy zrewolucjonizował policję. Zamiast odpowiadać na zbrodnie, mówi, że mogą się przed nimi stawić.

Dori Koren : Rozpoznawanie twarzy okazało się dla nas absolutnie instrumentalne, instrumentalne w ratowaniu życia, instrumentalne w zapobieganiu brutalnym przestępstwom.

Jennifer Silna : Twierdzi, że pozwala to funkcjonariuszom zidentyfikować schemat działalności przestępczej w czasie rzeczywistym.

Dori Koren : Dowiedz się, że jest drugi napad, który właśnie miał miejsce w sklepie spożywczym i być może opis podejrzanego, który popełnił napad z bronią palną, ma koszulkę w tym samym kolorze, co napad, który miał miejsce 10 minut temu. Albo ten sam pojazd. Lub to samo zachowanie. I próbują wychwycić te wzorce, a następnie wysyłają je w czasie rzeczywistym, aby w ten sposób zapobiec trzeciemu lub czwartemu napadowi.

Jennifer Silna : I chętnie o tym rozmawiają.

Dori Koren : Mocno wierzymy w przejrzystość. Mam na myśli to, że w końcu my, policja, służymy społeczności, z której pochodzą. Dlatego chcemy mieć pewność, że innowacyjne i zaawansowane rzeczy, które robimy, zwłaszcza jeśli chodzi o wdrażanie technologii do walki z przestępczością, są akceptowane przez społeczność.

Jennifer Silna : Ten rodzaj otwartości jest rzadki i to nie tylko w przypadku organów ścigania. Prywatne firmy również stosują rozpoznawanie twarzy, często nikomu o tym nie mówiąc. Według Reutersa, niedawny przykład, kamery do identyfikacji twarzy zostały po cichu zainstalowane w setkach aptek Rite Aid, głównie w niższych dochodach i niebiałych częściach Los Angeles i Nowego Jorku. A kasyna od dziesięcioleci używają pewnego rodzaju identyfikacji twarzy w celu zapobiegania oszustwom, zwiększenia bezpieczeństwa, a nawet rozpoznawania graczy przy stołach.

Dori Koren : Sektor prywatny ma jedne z bardziej zaawansowanych platform rozpoznawania twarzy na krawędzi. Są to platformy, które rejestrują i analizują twarze ludzi w czasie rzeczywistym, gdy przechodzą przez pole widzenia kamery. Nie chcesz zostawiać tylko prywatnych firm, ogółu społeczeństwa, w tym również wszystkich twoich przestępców, aby mieli najlepsze i najbardziej zaawansowane technologie, a organom ścigania pozostawić archaiczne narzędzia, które nie są w stanie wykonać tej pracy w XXI wiek.

Jennifer Silna : Ale to nie znaczy, że uważa, że ​​policja powinna mieć wolną rękę ze wszystkimi rodzajami technologii.

Dori Koren : Nie używamy rozpoznawania twarzy na krawędzi, co zasadniczo oznacza nagrywanie na żywo materiału z tej kamery, aby skanować twarze wszystkich osób, które znajdą się pod tym kątem. Nie robimy tego. Nie wiem, czy organy ścigania są gotowe to wykorzystać, a już na pewno nie uważam, że powinny, chyba że ich społeczność popiera korzystanie z tego typu bardzo zaawansowanej technologii.

Jennifer Silna : Nie przeszukują też zdjęć w mediach społecznościowych w poszukiwaniu podejrzanych. Szukają tylko kogoś, kto popełnił przestępstwo, a jeśli dostaną dopasowanie, ograniczają jego wartość. To znaczy, że nie możesz po prostu aresztować tej osoby na podstawie tego meczu. Ale poznanie tego wszystkiego oznaczało dla mnie niespodziankę, gdy zapytałem, czy kiedykolwiek zmieniasz zdjęcia, aby działały lepiej?

Dori Koren : Ten aspekt zmiany zdjęć przyciągnął tak wiele negatywnej uwagi, jakby policja robiła coś złego. I nie sądzę, żeby opinia publiczna ogólnie zrozumiała, dlaczego przerabiasz zdjęcie. Odpowiedź na twoje pytanie brzmi: tak, zmieniamy zdjęcia w ramach egzaminu z rozpoznawania twarzy. Jeśli już, to powinniśmy argumentować za tym, a nie przeciw.

Jennifer Silna : Mówi, że w niektórych przypadkach, gdyby tego nie zrobili, ich dokładność by spadła.

Dori Koren : Zmieniając zdjęcie, rozjaśniając je, trochę przyciemniając lub zmieniając kąt, daje nam to największą szansę na potwierdzenie wyników, na przetestowanie algorytmu. Nie chcemy iść i podążać za niewłaściwym tropem niewłaściwej osoby. Więc cokolwiek musimy zrobić, aby zmodyfikować zdjęcie, aby móc uzyskać jak najdokładniejsze wyniki, i jak powiedziałem, dla nas używamy różnych innych kontroli i równowagi, aby następnie ustalić, czy jest to naprawdę prawdopodobny kandydat.

Jennifer Silna : Koren powiedział dalej, że nie łączą twarzy innych osób ze zdjęciem wejściowym, więc na przykład nie wklejanie na otwartych oczach, ale nasuwa się pytanie, jak dokładnie mierzymy dokładność? A kto może decydować, kiedy i jak ta praktyka modyfikowania zdjęć jest fair play?

Dori Koren : Bezpieczeństwo to nie tylko bezpieczeństwo fizyczne, ale także zachowanie równowagi z prywatnością, prawami obywatelskimi i swobodami obywatelskimi. I myślę, że istnieje odpowiednia równowaga. Jest na to sposób. Ale rozmowa musi być otwarta, a ludzie muszą być otwarci po obu stronach, aby móc ją prowadzić. Tak więc przyszłość policji może stać się znacznie lepsza dzięki tym technologiom. Więc tak długo, jak to robimy, prawda.

Jennifer Silna : Nie można przecenić tego, jak bardzo rzeczy, takie jak polityka policji, narzędzia, relacje ze społecznościami i nadzór publiczny, różnią się w zależności od miejsca. Więc ta równowaga swobód obywatelskich i policji musi zostać zachwiana, nie tylko w Las Vegas, ale w każdym mieście w kraju. Mimo to rozmawialiśmy z innymi działami i jest kilka wspólnych tematów. Armando Aguilar jest zastępcą szefa policji Miami i nadzoruje wydział dochodzeń kryminalnych.

Armando Aguilar : To nieocenione narzędzie dla organów ścigania, ale z pewnością bardzo niebezpieczne. A jeśli się nad tym zastanowić, wiele innych narzędzi, które funkcjonariusze organów ścigania mają w niewłaściwych rękach, jest również bardzo niebezpiecznych. Chcieliśmy więc mieć pewność, że nie tylko korzystamy z technologii, ale że korzystamy z niej w sposób odpowiedzialny i że robimy to w taki sposób, aby ludzie, którym służyliśmy, czuli się komfortowo.

Jennifer Silna : Używają rozpoznawania twarzy w jakiejś formie od 2013 roku.

Armando Aguilar : Zaczęliśmy i nadal korzystamy z programu o nazwie FACES, obsługiwanego przez Biuro Szeryfa Hrabstwa Pinellas. Jest to jedno z hrabstw na Florydzie i jest to wspólna baza danych ze wszystkimi hrabstwami w całym stanie. I tak pod koniec 2019 roku przeszliśmy do produktu o nazwie Clearview AI.

Jennifer Silna : FACES korzysta z rządowej bazy danych zdjęć, takiej jak Las Vegas i Clearview, która zawiera miliardy zdjęć usuniętych z sieci.

Armando Aguilar : Technologia porusza się szybciej niż polityka. Był czas, kiedy technologia była tutaj używana bez polityki przewodniej. I tak raz, hm, kiedy wszedłem w moją obecną rolę, pomyślałem, że to bardzo ważne, aby ustawić te parametry i po prostu upewnić się, że jesteśmy odpowiedzialni za korzystanie z technologii.

Jennifer Silna : Koronawirus, rzucił im podkręconą piłkę i jak wszystko inne, ratusze stały się wirtualne, takie jak ten na Facebooku Live.

Głos w ratuszu : Jakie dane wysyła Miami PD lub są śledzone przez Clearview.?

Jennifer Silna : Tworząc ich politykę, Aguilar mówi, że spotkał się również z ACLU.

Armando Aguilar : Z szacunkiem rozpoczęli spotkanie mówiąc, że nie możemy zrobić nic, co by ich usatysfakcjonowało, poza stwierdzeniem, że zamierzamy całkowicie zrezygnować z programu. Ale wiedząc, że prawdopodobnie tak się nie stanie, mieli około siedmiu lub ośmiu bardzo ważnych obaw, na które zwrócili nam uwagę. I faktycznie zgodziliśmy się z nimi i każdą z nich włączyliśmy do naszej polityki.

Jennifer Silna : Nakładają również ograniczenia na to, kto może z niego korzystać.

Armando Aguilar : Więc zrobiliśmy również, aby upewnić się, że ograniczymy możliwości nadużyć, ograniczyliśmy liczbę użytkowników. Tak więc każdy, kto potrzebuje czyjegoś zdjęcia, przejrzeć przez Clearview lub FACES, musi wysłać prośbę do naszego centrum kryminalnego w czasie rzeczywistym.

Jennifer Silna : Upewnił się, że wszystkie próbne konta Clearview oferowane policji w Miami zostały anulowane. I zmniejszył liczbę osób, które mają dostęp.

Armando Aguilar : Dużo łatwiej jest kontrolować, gdy w tej samej jednostce pracuje tuzin osób niż ludzie, którzy są rozproszeni po całym 1800-osobowym wydziale policji korzystającym z programu.

Jennifer Silna : Dzięki tym nowym wytycznym, nawet jeśli zdjęcie znajdzie dopasowanie, nie daje prawdopodobnego powodu do aresztowania.

Armando Aguilar : Więc teraz mamy ten mecz, ale czy możemy umieścić tę osobę w składzie fotograficznym, a także poprosić naocznego świadka, aby ją zidentyfikował? Czy istnieją dowody na odciski palców? Czy istnieją dowody DNA? Czy detektyw śledczy lub oficer śledczy może sam dokonać identyfikacji po tym, jak po obejrzeniu filmu i po obejrzeniu zdjęcia, to znaczy, które zostało wgrane do systemu. Więc to nie jest tylko automatyczne: „Hej, ta osoba została dopasowana w 99%. Chodźmy po nie. Tylko dlatego, że ktoś dzwoni na napiwek i mówi: Hej, myślę, że to mój sąsiad, Bobby, nie będziemy aresztować Bobby'ego.

Jennifer Silna : I jeszcze raz chciałem wiedzieć, czy kiedykolwiek manipulują swoimi zdjęciami, zanim przepuszczą je przez oprogramowanie, aby zwiększyć szanse na dopasowanie.

Armando Aguilar : Nie, my, w żaden sposób nie manipulujemy naszą fotografią próbną, która jest znowu fotografią, którą wrzucamy do systemu, używamy wszystkiego, co jest dostępne i albo wymyślamy dopasowanie, albo nie 'T.

Jennifer Silna : Nie poddają się również celebrytom, aby pomóc znaleźć podejrzanego ani monitorować ludzi w czasie rzeczywistym. Zastanawiali się też, w jaki sposób Face ID może naruszać prawa konstytucyjne.

Armando Aguilar : Może jeśli pewnego dnia będziemy mieć protesty poza posterunkiem policji, które stały się bardzo realne w ciągu ostatnich kilku miesięcy, nie chcemy używać tej technologii tylko do identyfikacji protestujących lub organizatorów protestów. Ludzie chcą żyć na głos i publikować każdy, każdy moment swojego życia w mediach społecznościowych, a także prosić o prywatność. I tak z pewnością wielu z nas ustawia swoje osobiste konta w mediach społecznościowych na ustawienia prywatne. Dlatego chcę się upewnić, że wszyscy wiedzą, że ten system w żaden sposób nie włamuje się do twoich prywatnych ustawień. W ten sposób przeszukuje się tylko strony internetowe i media społecznościowe pod kątem tych obrazów, które są dostępne dla każdego. A więc wszystko, co wykraczałoby poza to, byłoby wyraźnym pogwałceniem, uh, praw ludzi wynikających z Czwartej Poprawki. I to jest coś, czego, uh, nie mamy możliwości robienia, uh, ani nie jesteśmy zainteresowani robieniem tego.

Jennifer Silna : Mówi więc, że jesteśmy odpowiedzialni za ochronę naszej prywatności w sieci. I mamy możliwość zmiany ustawień Facebooka na prywatne, ale korzystanie z domyślnych ustawień w mediach społecznościowych to nie to samo, co wejście do komisariatu policji i dostarczenie kilku zdjęć, które zdradzają wiele danych osobowych. I to jest część tego, co sprawia, że ​​zgoda online jest naprawdę trudna.

Jennifer Silna: W następnym odcinku poznajemy założyciela rosyjskiej firmy stojącej za prawdopodobnie największym na świecie systemem identyfikacji twarzy w czasie rzeczywistym, którego celem jest nie tylko praca z osobami noszącymi maski, ale także sprawdzenie, czy są noszone prawidłowo i odczytanie prawa jazdy samochodu talerz w tym samym czasie.

Jennifer Silna: Czy kiedykolwiek martwisz się, że ktoś może wziąć całą twoją ciężką pracę i wykorzystać ją do zbudowania świata, w którym tak naprawdę nie chcesz żyć? Dołącz do nas, gdy kończymy tę miniserię, badając dalsze możliwości i sprawdzając, jak może wyglądać polityka.

Jennifer Silna: Ten odcinek został zrelacjonowany i wyprodukowany przeze mnie, Tate, Ryan-Mosley i Emmę Cillekens. Pomogli nam Benji Rosen i Karen Hao. Redagują nas Michael Reilly i Gideon Lichfield. Naszym dyrektorem technicznym jest Jakub Górski. Dziękuję za słuchanie. Jestem Jennifer Strong.

ukryć