Obywatele kierują rozpoznawanie twarzy na niezidentyfikowaną policję

Nowa seria naszego podcastu AI, In Machines We Trust, dotyczy rozpoznawania twarzy. W pierwszej części serii Jennifer Strong i zespół z MIT Technology Review badają nieoczekiwane sposoby wykorzystania tej technologii, w tym sposób, w jaki jest ona wykorzystywana przez policję.

Spotykamy się:

• Christopher Howell, analityk danych i protestujący.

Kredyty:

Ten odcinek został zrelacjonowany i wyprodukowany przez Jennifer Strong, Tate Ryan-Mosley i Emmę Cillekens oraz Karen Hao. Redagują nas Michael Reilly i Gideon Lichfield.

Transkrypcja:

[Reklama]

[ID TR]

Mocny: Od czasu, gdy ostatnio rozmawialiśmy o rozpoznawaniu twarzy, wydarzyło się kilka rzeczy. Widzieliśmy, jak coraz więcej miejsc przenosi się, aby ograniczyć jego użycie, podczas gdy w tym samym czasie szkoły i inne budynki publiczne zaczęły używać identyfikatora twarzy w ramach swoich planów zapobiegania krukowicom. Używamy go nawet na zwierzętach, a nie tylko na twarzach podobnych do naszych, takich jak szympansy i goryle, chińskie firmy technologiczne używają go na świniach, a kanadyjscy naukowcy pracują nad identyfikacją wielorybów, a nawet niedźwiedzi grizzly.

Innymi słowy, liczba sposobów, w jakie możemy wykorzystać tę technologię, eksploduje, podobnie jak obawy o to, czy jest to wykonalne, nie mówiąc już o dobrym pomyśle. I tak, zakazy używania identyfikacji twarzy są coraz większe, od Portland w stanie Maine do Portland w stanie Oregon, gdzie w przyszłym roku wejdą w życie najostrzejsze ograniczenia dotyczące rozpoznawania twarzy w całym kraju, zakazujące nie tylko używania go przez policję, ale także przez komercję. również aplikacje.

Kołodziej: Koledzy, jesteśmy tu dziś po południu, aby rozważyć dwa rozporządzenia, które mają na celu zakazanie stosowania technologii rozpoznawania twarzy przez nasz własny rząd miasta Portland oraz przez podmioty prywatne w przestrzeni publicznej.

Mocny: To burmistrz Portland Ted Wheeler otwierający posiedzenie rady miejskiej, która uchwaliła te ustawy we wrześniu. Jak w przypadku większości rzeczy w dzisiejszych czasach, publiczne komentarze i głosowanie odbyły się na Zoomie.

Kołodziej: Portland jest daleki od miasta antytechnologicznego i chcę to jasno powiedzieć. Nie jesteśmy przeciwni technologii z szeroką gamą lokalnych i krajowych firm technologicznych. Jesteśmy jednym z najszybciej rozwijających się centrów technologicznych na zachodnim wybrzeżu.

Mocny: W ciągu następnych kilku godzin do głosu doszli prawnicy, inżynierowie oprogramowania, zaniepokojeni obywatele i liderzy biznesu. Potem, tuż przed głosowaniem. Ostatnia osoba, lokalny analityk danych, podniosła wirtualną rękę, aby zadać pytanie.

Kołodziej: Christopher Howell... wreszcie, witam.

Howell: Chciałbym wyrazić warunkowe poparcie dla tego rozporządzenia, ale mam obawy.

Mocny: To dlatego, że buduje coś, co wykorzystuje rozpoznawanie twarzy w mniej niż konwencjonalny sposób.

Howell: Zajmuję się rozwijaniem rozpoznawania twarzy, aby faktycznie używać go na funkcjonariuszach policji w Portland, ponieważ nie identyfikują się publicznie i popełniają przestępstwa. Czy stanie się to nielegalne, jeśli wydasz to zarządzenie?

[Muzyka]

Mocny: Nazywam się Jennifer Strong i w ciągu najbliższych kilku tygodni zamierzamy zrobić kolejne głębokie nurkowanie na temat wzrostu rozpoznawania twarzy. W tym najnowszym miniserialu przyjrzymy się, w jaki sposób jest używany w sporcie zarówno przez sportowców, jak i kibiców, w sklepach detalicznych, a nawet w jaki sposób służy bezdomnym. Ale najpierw zaczynamy od spojrzenia na to, jak odwraca się to od policji.

[POKAŻ ID]

Mocny: Anonimowość policji i innych autorytetów jest przesiąknięta naprawdę skomplikowaną historią. Istnieje delikatna równowaga prywatności i odpowiedzialności obydwa strony dla protestujących i dla policji.

[Dźwięk zamieszek w Chicago.]

Mocny: Chicagowskie zamieszki z 1968 r. przerwały telewizory Amerykanów w całym kraju, gdy dostroili się do oglądania Narodowej Konwencji Demokratów, która odbyła się w Chicago w tym roku.

[Dźwięk zamieszek w Chicago.]

Mocny: Protestujący demonstrowali przeciwko wojnie w Wietnamie i Partii Demokratycznej. Po starciu z policją w Grant Park protestujący przemaszerowali Michigan Avenue do hotelu, w którym przebywało wielu delegatów na konwencję. Przez 17 minut Ameryka obserwowała na żywo, jak Gwardia Narodowa Illinois strzela gazem łzawiącym... jak policja bije demonstrantów.

[Dźwięk zamieszek w Chicago. „Cały świat patrzy”]

Mocny: Policja nie nosiła plakietek z nazwiskami i jest to dość powszechne, gdy policja zajmuje się protestującymi. Czasami jest to legalne, czasami nielegalne, a czasami nawet nakazane w interesie bezpieczeństwa, jak tego lata w Buffalo w stanie Nowy Jork.

Reporter: Komisarz policji w Buffalo mówi, że to jego decyzja, aby funkcjonariusze nosili numery odznak, a nie ich nazwiska na mundurach.

Komisarz: Wzrastało zaniepokojenie funkcjonariuszami i ich rodziną. Aby funkcjonariusze mogli bez obaw wykonywać swoją pracę, podjąłem wówczas decyzję.

Mocny: Ale kiedy to się dzieje, obywatele i aktywiści odpierają. Wielu twierdzi, że daje to policji jeszcze większą władzę niż dotychczas… ponieważ pociągnięcie ich do odpowiedzialności staje się prawie niemożliwe.

Rozmówca: Potrzebujemy, aby nasza rada wstała i przemówiła w imieniu 255 000 ludzi, których reprezentujesz, i zachęcała oraz domagała się, aby ta policja zmieniła politykę z powrotem, zamiast myśleć wyłącznie o kilkunastu nękanych funkcjonariuszach, którzy mogliby być chronieni zgodnie z obowiązującym prawem .

Mocny: Ale na długo przed wydarzeniami tego lata ludzie próbowali zidentyfikować niezidentyfikowanych funkcjonariuszy policji. Wykorzystywali zdjęcia z protestów, detektywowali w mediach społecznościowych, korzystali z crowdsourcingu przez Internet, a nawet uciekali się do kradzieży danych osobowych. Podobnie jak w przypadku kolektywu hakerskiego – zwanego Anonimem. Jest znany z tego, że sprzymierzył się z protestami Occupy Wall Street i na krótko zdjął stronę internetową nowojorskiej giełdy. Ta sama grupa ujawniła później prywatne informacje, które ukradła z policyjnych i rządowych stron internetowych, w tym adresy domowe funkcjonariuszy policji.

Prank Call: Dotarłeś do biura szeryfa hrabstwa Baldwin… [pierścień]

Mocny: W tej żartobliwej rozmowie twierdzą, że włamali się.

[Fragmenty dowcipnej rozmowy]

Mocny: Zdemaskowanie tych, którzy dzierżą władzę nad innymi, nie jest czymś wyjątkowym w Stanach Zjednoczonych. W 2014 roku, podczas aneksji Krymu przez Rosję, można sobie przypomnieć, że kontrolę przejęli żołnierze bez odznak na zielonych mundurach. W tym czasie najwyżsi urzędnicy, w tym prezydent Władimir Putin, wielokrotnie zaprzeczali, że te wojska były rosyjskie.

Trochę : W ogóle nie ma żołnierzy. Przynajmniej żadnych rosyjskich oddziałów.

Mocny: To ambasador Rosji przy UE rozmawiający z dziennikarzami.

Ambasador: Stany Zjednoczone, które mają tradycję ingerowania w inne kraje i wysyłania wojsk za granicę, mogą działać zgodnie z własną mentalnością… powiedziałbym. Ale to nie jest przypadek rosyjskiej ingerencji.

Mocny: Ale to było. Dopasowując zdjęcia, potencjalnie za pomocą rozpoznawania twarzy, rząd ukraiński ustalił, że wojska w rzeczywistości były powiązane z rosyjskim wojskiem. I opublikowali zdjęcia jako dowód. Później Putin przyznał również, że wojska rzeczywiście były rosyjskie.

Tłumaczenie Putina: Oczywiście rosyjscy żołnierze poparli krymskie siły samoobrony. Działali cywilnie, jak już wspomniałem, ale zdecydowanie i profesjonalnie.

[Muzyka]

Mocny: Teraz protestujący coraz częściej próbują odwrócić Face I-D od policji – aby zidentyfikować funkcjonariuszy, którzy używają nadmiernej siły. W tym w Hongkongu, gdzie w zeszłym roku dramatyczne obrazy starć między protestującymi a policją zdominowały serwisy informacyjne pokazujące, jak policja strzela na żywo i protestujący atakują funkcjonariuszy. Mówi reporter New York Times Paul Mozur w publicznej telewizji.

Mozur: W miarę jak protesty trwają, a policja i mieszkańcy Hongkongu kontynuują walkę tydzień po tygodniu, twarz została uzbrojona, a sama tożsamość w pewien sposób uzbrojona. Wiesz, protestujący wyjdą, a policja spróbuje uchwycić ich obrazy na wideo, a następnie wrócić i zidentyfikować ich za pośrednictwem wszystkich mediów społecznościowych i materiałów internetowych, które są tam, i odwrotnie. Widzieliśmy, jak policja faktycznie zdejmuje odznaki, więc teraz protestujący robią to samo z policją, do której próbują wrócić i skorzystać z mediów społecznościowych i dowiedzieć się, która policja robi jakie działania. Jeden z protestujących, w szczególności Colin Cheung, którego znaleźliśmy, stworzył narzędzie do rozpoznawania twarzy, aby spróbować zidentyfikować policję… i tak naprawdę nie wypuścił produktu, ale mówi, że z powodu tego, że policja go namierzyła.

Mocny: Cheung został aresztowany wkrótce po tym, jak napisał o tym narzędziu na Facebooku… ale podobne wysiłki są prowadzone w innych miejscach, w tym w Portland w stanie Oregon.

Howell: Biorę dokładnie tę samą technologię, której używają na nas. I to nie tak, że staram się zadręczać ludzi. Chodzi mi o funkcjonariuszy, którzy zasadniczo łamią prawo w zakresie użycia siły.

Mocny: Christopher Howell jest naukowcem zajmującym się danymi i protestuje.

Howell: A ja po prostu chciałem dostać się na płytę. Hej, jest inny sposób, w jaki moglibyśmy to wykorzystać. // I naprawdę bardziej chodzi o, wiesz, wywieranie na nich presji, by się identyfikowali, w przeciwieństwie do tego, że musimy to robić.

Mocny: Jego zeznanie przed radą miasta Portland na temat tego narzędzia, nad którym pracuje, doprowadziło do tego, że jego projekt został omówiony przez The New York Times. Od tego czasu przyciągnął sporo uwagi, podobnie jak reakcja burmistrza Portland, który nazwał projekt przerażającym.

Howell: To przerażające pozwalać im wychodzić i łzawić ludzi noc po nocy // a ja, to było naprawdę, dla mnie był to rodzaj oszałamiającego momentu, jak, to przerażające, że ci faceci nie mają swoich imion. Wiesz, że ktoś może po prostu przebrać się za policjanta, którego znasz [śmiech]

Mocny: Mówi, że zaczął projekt częściowo tylko po to, by zobaczyć, jak będzie działać.

Howell: Mam na myśli to, że jest tam zdecydowana ciekawość technologiczna… i tego rodzaju coś, co mogę zrobić, gdy jest późno w nocy i frustrujące jest oglądanie tych rzeczy, wiadomości lub wchodzisz na Twittera i oglądasz filmy ludzi, wszystkich z protestów i ok, cóż, co mogę zrobić? …i ostatecznie chciałbym, żeby to nie było konieczne. Myślę, że powinni nosić swoje imiona dużymi literami, abyśmy nie musieli używać rozpoznawania twarzy na gliniarzach, aby próbować dowiedzieć się, kim są.

Mocny: Możliwość zidentyfikowania funkcjonariusza nie polega tylko na tym, aby wiedzieć, czy ktoś rzeczywiście nim jest… Niezwykle trudno jest złożyć skargę na kogoś, nie wiedząc, kim jest ta osoba.

Howell: Jednym z powodów, dla których to zacząłem, było to, że w procesach sądowych nie można nazwać gliniarza, który mnie popchnął. Musisz wiedzieć, kto to jest. Po prostu powiedzą, no cóż, nie wiemy kto to był. Więc nie ma nikogo, kogo mógłbyś pozwać, a próbując zdobyć informacje o tym, co zrobili konkretni funkcjonariusze, nie pozwolą ci na to łowić. // Musisz to wiedzieć, jeśli dasz mi zdjęcie, wiesz, oto ten gliniarz uderzający kogoś pałką, którą chcę, i domyślimy się, możesz zobaczyć jego twarz. Więc dowiemy się, kto to jest, jak to zrobić? I początkowo bardziej myślałem o odwrotnym wyszukiwaniu obrazów w bazie danych. Jakbym po prostu zebrał wszystkie zdjęcia, jakie mogę, i będziemy mogli je połączyć, żeby móc powiedzieć, że to ta sama osoba. A potem zdałem sobie sprawę, że mógłbym zrobić coś lepszego.

Mocny: Zdał sobie sprawę, że może zbudować narzędzie do identyfikacji twarzy, wykorzystując zdjęcia funkcjonariuszy z Internetu.

Howell: Zacząłem więc patrzeć na ich zdjęcia, na których są zidentyfikowani lub wiadomości, wiesz, cofając się dalej i polując na artykuły z wiadomościami.

Mocny: Projekt jest technicznie łatwiejszy niż budowanie systemu mającego na celu identyfikację kogokolwiek.

Howell: Wiemy, kim jest policja, no wiesz, nie ma, nie powinno być ludzi w strojach do zamieszek, którzy nie są policjantami. Więc jeśli możesz zdobyć wszystkie ich zdjęcia i to jest prawdziwe wyzwanie, ale wtedy możesz mieć mniej trudny matematyczny problem w tym sensie do zidentyfikowania, ok, wiemy, że ta osoba jest poza tym zestawem. Dowiedzmy się, który z nich to...

Mocny: Mówi, że do tej pory zebrał tysiące zdjęć… głównie ręcznie z Twittera i artykułów prasowych, średnio od 15 do 20 na każdego zidentyfikowanego oficera.

Howell: Wiele początkowych obrazów pochodziło z Twittera. Wiele z tego polegało na wchodzeniu w artykuły z wiadomościami. // Mam na myśli wypadek drogowy, jednym z nich jest, wiesz, wiadomości są świetnym przykładem. Bo znalazłem kilka takich. Albo jak wspólne grillowanie i są tam umundurowani funkcjonariusze i nazywa ich.

Mocny: Nie jest to dokładnie ta sama skala, co systemy identyfikacji twarzy używane przez policję…

Howell : Po prostu robię to teraz w skrypcie Pythona - wiesz, wszystko jest lokalne na moim laptopie.

Mocny: ...z reguły są one szkolone na zestawach zdjęć milionów lub miliardów.

Howell: Ponieważ uważam, że dokładność jest ważna, a liczba zdjęć jest na tyle mała, że ​​gdybym próbowała tam umieścić swoją twarz, nie chcę mieć kolejnego Chrisa Howella.

Mocny: Ale to tylko tyle obrazów, że wydaje się, że załatwia sprawę. Mówi, że jego narzędzie zostało już wykorzystane do potwierdzenia tożsamości funkcjonariusza w sprawie, która ma trafić do sądu.

Howell: Ktoś przyniósł mi zdjęcie, którego nie znalazłem i powiedział, pomóż mi, wiesz, używasz swojego systemu i powiedz mi, co mówi. I już wiedziała, za kogo to uważała, ale mi nie powiedziała. A potem najlepszy wynik był tym, którego oczekiwano.

Mocny: Jeśli chodzi o to, dokąd to pójdzie dalej, nikt nie zgadnie, chociaż może sobie wyobrazić dzień, w którym może być używany we współpracy z miastem.

Howell: Mogłabym zobaczyć przyszłość, może za lata, kiedy sprawy będą wyglądać trochę inaczej, gdzie miasto udostępnia coś takiego, organizuje je same i zmusza do robienia wielu zdjęć, abyśmy mogli mieć dobrze wyszkoloną rzecz. Więc jak opinia obywateli. I niekoniecznie musiałyby to być wszystkie negatywne rzeczy, ale w taki sposób, aby można je było również wykorzystać do skarg. Mam na myśli, że część mnie uważa, że ​​przydałoby się im nawiązanie współpracy z samymi agencjami rządowymi, aby powiedzieć: „Hej, chcemy być odpowiedzialni”. Nie sądzę, żeby to było bardzo realistyczne w 2020 roku, ale myślę, że to może być niedaleko! [śmiać się]

Mocny: Coś, czego nie chce, to uczynić go open source.

Howell: Nie wydaje mi się, żeby ktokolwiek był naprawdę dobrym pomysłem, żeby było to po prostu widoczne publicznie na stronie internetowej. Pomyśl, że to jest proszenie, aby coś poszło nie tak, jak naprawdę oczywiste rzeczy, które możesz mieć, ludzie, wiesz, fałszowanie rzeczy lub celowe umieszczanie mylących zdjęć…

[Muzyka]

Mocny: Zakazy Portland dotyczące identyfikacji twarzy wejdą w życie w styczniu, ale projekt Howella? Nie będzie to miało wpływu. Szkoły publiczne, instytucje religijne, a nawet sposoby rozpoznawania twarzy na lotnisku, na przykład sposób, w jaki linie lotnicze, takie jak Delta, wsiadają na pokład swoich pasażerów. Nic z tego również nie zostanie naruszone. Agencje samorządowe nie będą mogły z niego korzystać. I nie będzie dozwolone w większości przestrzeni publicznych lub prywatnych, które są otwarte dla publiczności, takich jak centrum handlowe. Lokalna policja również nie będzie mogła korzystać z tej technologii, chociaż ludzie w ich prywatnych domach, tacy jak Christopher Howell, będą. Zakazy nie dotyczą również organów ścigania na poziomie stanowym lub federalnym.

W pewnym sensie wykorzystanie tej technologii inwigilacji staje się rodzajem globalnego wyścigu zbrojeń między osobami publicznymi a autorytetami, które mają nadzieję na odsłonięcie osłony anonimowości, aby zachęcić do dobrego zachowania. Trudno powiedzieć, kto może być zwycięzcą, ale z pewnością przegranym jest prywatność.

W następnym odcinku…

Fragment : To nie jest traumatyczne poinformowanie, aby ktoś wszedł do placówki i powiedział: tak, absolutnie możesz wejść, ale pozwól, że pobiorę twoje odciski palców.

Mocny: Przyglądamy się wprowadzaniu rozpoznawania twarzy w mieszkaniach komunalnych i schroniskach dla bezdomnych.

Fragment : Rozpoznawanie twarzy jest milsze emocjonalnie, ponieważ jest pasywne, nie dotyka ich i można je uchwycić szybciej i nie ma ryzyka przeniesienia.

Mocny: Ten odcinek został zrelacjonowany i wyprodukowany przeze mnie, Tate Ryan-Mosley, Karen Hao i Emmę Cillekens. Redagują nas Michael Reilly i Gideon Lichfield.

Dzięki za wysłuchanie, jestem Jennifer Strong.

[ID TR]

ukryć