W ten sposób straciliśmy kontrolę nad naszymi twarzami

Getty

W 1964 matematyk i informatyk Woodrow Bledsoe najpierw próbował dopasować twarze podejrzanych do zdjęć policyjnych. Odmierzył odległości między różnymi rysami twarzy na wydrukowanych fotografiach i wprowadził je do programu komputerowego. Jego szczątkowe sukcesy zapoczątkowały dziesięciolecia badań nad uczeniem maszyn rozpoznawania ludzkich twarzy.

Ale już nowe badanie pokazuje, jak bardzo to przedsięwzięcie naruszyło naszą prywatność. To nie tylko napędzało coraz potężniejsze narzędzie nadzoru. Najnowsza generacja rozpoznawania twarzy opartego na głębokim uczeniu całkowicie zakłóciła nasze normy wyrażania zgody.

Deborah Raji, stypendystka organizacji non-profit Mozilla, i Genevieve Fried, która doradza członkom Kongresu USA w zakresie odpowiedzialności algorytmicznej, przeanalizowały ponad 130 zestawów danych dotyczących rozpoznawania twarzy zebranych przez 43 lata. Odkryli, że naukowcy, kierując się rosnącymi wymaganiami dotyczącymi danych w ramach głębokiego uczenia się, stopniowo zaprzestali proszenia ludzi o zgodę. Doprowadziło to do tego, że coraz więcej osobistych zdjęć ludzi jest włączanych do systemów nadzoru bez ich wiedzy.

Doprowadziło to również do znacznie bardziej nieuporządkowanych zbiorów danych: mogą one przypadkowo zawierać zdjęcia nieletnich, używać rasistowskich i seksistowskich etykiet lub mieć niespójną jakość i oświetlenie. Tendencja ta może pomóc wyjaśnić rosnącą liczbę przypadków, w których systemy rozpoznawania twarzy zawiodły z niepokojącymi konsekwencjami, takimi jak fałszywe aresztowania dwóch czarnoskórych mężczyzn w rejonie Detroit w zeszłym roku.

Na początku ludzie bardzo ostrożnie podchodzili do zbierania, dokumentowania i weryfikowania danych dotyczących twarzy, mówi Raji. Teraz już nas to nie obchodzi. Wszystko to zostało porzucone, mówi. Po prostu nie możesz śledzić miliona twarzy. Po pewnym momencie nie możesz nawet udawać, że masz kontrolę.

Historia danych dotyczących rozpoznawania twarzy

Naukowcy zidentyfikowali cztery główne epoki rozpoznawania twarzy, z których każda była napędzana rosnącym pragnieniem ulepszenia technologii. Pierwsza faza, która trwała do lat 90., charakteryzowała się w dużej mierze metodami ręcznymi intensywnymi i wolnymi obliczeniowo.

Ale potem, zachęcony uświadomieniem sobie, że rozpoznawanie twarzy może śledzić i identyfikować osoby skuteczniej niż odciski palców, Departament Obrony USA włożył 6,5 miliona dolarów w stworzenie pierwszego zestawu danych twarzy na dużą skalę. W ciągu 15 sesji fotograficznych w ciągu trzech lat w ramach projektu uchwycono 14 126 zdjęć 1199 osób. Baza danych technologii rozpoznawania twarzy (FERET) została wydana w 1996 roku.

W następnej dekadzie odnotowano wzrost w akademickich i komercyjnych badaniach nad rozpoznawaniem twarzy i stworzono znacznie więcej zbiorów danych. Zdecydowana większość pochodziła z sesji zdjęciowych, takich jak FERET i miała pełną zgodę uczestnika. Wiele z nich zawierało również skrupulatne metadane, jak mówi Raji, takie jak wiek i pochodzenie etniczne badanych lub informacje o oświetleniu. Jednak te wczesne systemy miały problemy w warunkach rzeczywistych, co skłoniło naukowców do poszukiwania większych i bardziej zróżnicowanych zbiorów danych.

W 2007 roku udostępnienie zestawu danych Labeled Faces in the Wild (LFW) otworzyło drogę do gromadzenia danych za pomocą wyszukiwania w Internecie. Badacze zaczęli pobierać obrazy bezpośrednio z Google, Flickr i Yahoo bez obaw o zgodę. Kolejny zestaw danych skompilowany przez innych badaczy, zwany LFW+, również złagodził standardy dotyczące włączania nieletnich, wykorzystując zdjęcia znalezione z wyszukiwanymi hasłami, takimi jak dziecko, nieletni i nastolatek, aby zwiększyć różnorodność. Proces ten umożliwił tworzenie znacznie większych zbiorów danych w krótkim czasie, ale rozpoznawanie twarzy wciąż borykało się z wieloma takimi samymi wyzwaniami jak wcześniej. To zmusiło naukowców do poszukiwania jeszcze większej liczby metod i danych, aby przezwyciężyć słabą wydajność technologii.

Następnie, w 2014 roku, Facebook wykorzystał zdjęcia swoich użytkowników do trenowania modelu głębokiego uczenia o nazwie DeepFace. Chociaż firma nigdy nie opublikowała zestawu danych, nadludzka wydajność systemu przeniosła głębokie uczenie do faktycznej metody analizy twarzy. To wtedy ręczna weryfikacja i etykietowanie stały się prawie niemożliwe, ponieważ zestawy danych rozrosły się do dziesiątek milionów zdjęć, mówi Raji. Wtedy też zaczynają pojawiać się naprawdę dziwne zjawiska, takie jak automatycznie generowane etykiety zawierające obraźliwą terminologię.

Powiązana historia

AI zobaczyła przycięte zdjęcie AOC. To autouzupełniało jej noszenie bikini. Algorytmy generujące obrazy wyrzucają te same seksistowskie, rasistowskie idee, które istnieją w Internecie.

W tym czasie również zaczął się zmieniać sposób wykorzystywania zbiorów danych. Zamiast próbować dopasowywać jednostki, nowe modele zaczęły bardziej skupiać się na klasyfikacji. Zamiast mówić: „Czy to zdjęcie Karen? Tak lub nie”, zmieniło się w „Przewidujmy wewnętrzną osobowość Karen lub jej pochodzenie etniczne” i umieszczając ludzi w tych kategoriach, mówi Raji.

Amba Kak, dyrektor ds. polityki globalnej w AI Now, która nie brała udziału w badaniach, mówi, że artykuł przedstawia wyraźny obraz ewolucji przemysłu biometrycznego. Głębokie uczenie się mogło uchronić technologię przed niektórymi jej zmaganiami, ale ten postęp technologiczny ma również swoją cenę, mówi. Przedstawia wszystkie te kwestie, które są nam dobrze znane: zgoda, ekstrakcja, problemy z IP, prywatność.

Szkoda, która rodzi krzywdę

Raji mówi, że jej śledztwo w sprawie danych wzbudziło w niej poważne obawy związane z rozpoznawaniem twarzy opartym na głębokim uczeniu.

Mówi, że to o wiele bardziej niebezpieczne. Wymóg danych zmusza Cię do zbierania niezwykle wrażliwych informacji o co najmniej dziesiątkach tysięcy osób. Zmusza do naruszenia ich prywatności. To samo w sobie jest podstawą krzywdy. A potem gromadzimy wszystkie te informacje, których nie możesz kontrolować, aby zbudować coś, co prawdopodobnie będzie działać w sposób, którego nie możesz nawet przewidzieć. To jest naprawdę natura tego, w którym się znajdujemy.

Ma nadzieję, że artykuł skłoni naukowców do zastanowienia się nad kompromisem między korzyściami wynikającymi z głębokiego uczenia się a utratą zgody, drobiazgową weryfikacją danych i dokładną dokumentacją. Czy warto było porzucić wszystkie te praktyki na rzecz głębokiego uczenia się? ona mówi.

Zachęca tych, którzy chcą kontynuować budowanie rozpoznawania twarzy, aby rozważyli opracowanie różnych technik: abyśmy naprawdę spróbowali używać tego narzędzia bez krzywdzenia ludzi, będą wymagali ponownego wyobrażenia sobie wszystkiego, co o nim wiemy.

Korekta, 15 lutego 2021: W poprzedniej wersji artykułu stwierdzono, że zbiór danych Labeled Faces in the Wild (LFW) „złagodził standardy dotyczące włączania nieletnich”. W rzeczywistości był to zbiór danych LFW+, który został następnie skompilowany przez inną grupę badaczy.

ukryć