211service.com
Program rozpoznawania twarzy FBI jest rozbudowany i niedokładny
Uśmiechnij się: być może zostałeś źle zidentyfikowany.
W zeszłym roku dowiedzieliśmy się o niezwykłej skali technologii rozpoznawania twarzy FBI, z dostępem do prawie 412 milionów zdjęć – wiele z nich pochodzi ze źródeł niezwiązanych z przestępczością, takich jak dokumenty tożsamości. Agencja wywiadowcza próbowała stworzyć system, który może dokładnie identyfikować przestępców, powiedzmy, w nagraniach z telewizji przemysłowej — chociaż nie było wtedy wiadomo, jak dobrze działało oprogramowanie biura ani czy faktycznie usprawniło śledztwa.
Teraz mamy przynajmniej trochę więcej wglądu w program. ten Opiekun raporty że przesłuchanie komisji nadzoru Izby w zeszłym tygodniu ujawniło kilka interesujących nowych szczegółów na temat rozprzestrzeniania się i możliwości systemów rozpoznawania twarzy FBI.
Po pierwsze, jest bardzo duża szansa, że jako Amerykanin pojawisz się w bazie. Okazuje się, że wśród tych wielu milionów zdjęć są podobizny około połowy dorosłej populacji kraju. Jest to możliwe, ponieważ obrazy pochodzące ze źródeł niezwiązanych z przestępczością stanowią 80 procent bazy danych. Więc wysyłając formularze i zdjęcia do paszportu, prawa jazdy lub innego oficjalnego dokumentu tożsamości, prawdopodobnie pomagasz rozwijać zestaw danych.
Być może bardziej niepokojąca jest jakość uznania FBI. Przesłuchanie ujawniło, że oprogramowanie firmy błędnie identyfikuje osoby w prawie 15 procentach przypadków. Z kolei wiodąca na rynku technologia rozpoznawania twarzy jest teraz tak dokładna, że jest używana do autoryzacji płatności w Chinach , a Baidu twierdzi, że poprawnie potwierdza czyjąś tożsamość 99,77 procent czasu .
W obronie FBI prawdopodobnie pracuje z obrazami o znacznie niższej jakości, zarówno w swojej bazie danych, jak i na obrazach, na których próbuje przeprowadzić rozpoznawanie, niż te dostępne dla takich jak Baidu. Jednak wskaźniki błędów wynoszące 15 procent są nadal wysokie i mogą prowadzić do fałszywych tropów lub nieuzasadnionych włamań na prywatność.
getty
Oprogramowanie wydaje się również błędnie identyfikować czarnych ludzi częściej niż białych. Niestety, efekt ten jest przewidywalny: wyjaśnialiśmy w przeszłości, że systemy rozpoznawania twarzy są z natury stronnicze, ponieważ są szkolone na zestawach danych, które nie reprezentują niektórych danych demograficznych.
Ale ten problem może mieć niepokojące konsekwencje. Jako Opiekun notatki, czarni są większe prawdopodobieństwo posiadania oprogramowania do rozpoznawania twarzy używanego do ich identyfikacji , więc wydaje się dziwne, a nawet niesprawiedliwe, aby używać narzędzi, które są wyraźnie słabo przygotowane do rozpoznania ich podobieństwa.
Wszystkie te bryłki zwiększają obawy o prywatność, które już nękały inicjatywę FBI, aby zbudować system, który mógłby dokładnie identyfikować przestępców. Przynajmniej problemy zostały ujawnione – teraz trzeba je tylko rozwiązać.
(Czytaj więcej: Opiekun , szukając podejrzanych, FBI może patrzeć na ciebie , płacić twarzą , czy systemy rozpoznawania twarzy są dokładne? Zależy od Twojej rasy. )