Zmniejszenie tendencyjności rozpoznawania twarzy nie czyni go mniej przerażającym

Fotografia/Getty

W ciągu ostatnich kilku lat nastąpił gwałtowny wzrost popularności technologii rozpoznawania twarzy, wykrywania i analizy.

Prawdopodobnie najbardziej znasz uznanie systemy, takie jak polecający tagowanie zdjęć Facebooka i FaceID firmy Apple, które mogą identyfikować konkretne osoby. Wykrycie z drugiej strony systemy określają, czy twarz jest w ogóle obecna; oraz analiza systemy starają się identyfikować aspekty, takie jak płeć i rasa. Wszystkie te systemy są obecnie wykorzystywane do różnych celów, od wynajmowanie i sprzedaż detaliczna do bezpieczeństwo oraz nadzór .

Wiele osób uważa, że ​​takie systemy są zarówno bardzo dokładne, jak i bezstronne. Logika jest taka, że ​​pracownicy ochrony lotniska mogą się męczyć, a policja może błędnie oceniać podejrzanych, ale dobrze wyszkolony system sztucznej inteligencji powinien być w stanie konsekwentnie identyfikować lub kategoryzować każdy obraz twarzy.

Jednak w praktyce badania wielokrotnie wykazały, że systemy te radzą sobie z niektórymi grupami demograficznymi znacznie bardziej niedokładnie niż z innymi. Ostatni rok, Odcienie płci , przełomowe badanie przeprowadzone przez Joy Buolamwini, badaczkę MIT Media Lab, wykazało, że systemy klasyfikacji płci sprzedawane przez IBM, Microsoft i Face++ miały wskaźnik błędu aż o 34,4 punktu procentowego wyższy dla kobiet o ciemniejszej karnacji niż mężczyzn o jaśniejszej karnacji. ACLU Północnej Kalifornii podobnie znaleziono że platforma Amazona częściej błędnie identyfikuje innych niż białych członków Kongresu.

Problem polega na tym, że systemy rozpoznawania i analizy twarzy są często szkolone na przekrzywionych zestawach danych: otrzymują znacznie mniej obrazów kobiet i osób o ciemnej skórze niż obrazów mężczyzn i osób o jasnej karnacji. I chociaż wiele z nich jest rzekomo testowanych pod kątem uczciwości, te testy nie sprawdzają wydajności na wystarczająco szerokim zakresie twarzy – jak stwierdził Buolamwini. Te dysproporcje utrwalają i umacniają istniejące niesprawiedliwości oraz prowadzą do konsekwencji, które pogarszają się wraz ze wzrostem stawki.

Trzy nowe artykuły opublikowane w zeszłym tygodniu zwracają obecnie bardzo potrzebną uwagę na ten problem. Oto krótki opis każdego z nich.

Papier #1. W ostatni czwartek, Buolamwini wydany aktualizacja do Gender Shades poprzez ponowne przetestowanie systemów, które wcześniej badała, i rozszerzenie jej recenzji o Rekognition Amazona i nowy system małej firmy AI o nazwie Kairos. Mamy dobre wieści. Odkryła, że ​​IBM, Face++ i Microsoft poprawiły dokładność klasyfikacji płci dla kobiet o ciemniejszej karnacji, a Microsoft zmniejszył swój wskaźnik błędów do poniżej 2%. Z drugiej strony platformy Amazon i Kairos nadal miały luki w dokładności odpowiednio 31 i 23 punktów procentowych między jaśniejszymi mężczyznami i ciemniejszymi kobietami. Buolamwini powiedział badanie pokazuje, że technologie te muszą podlegać zewnętrznemu audytowi, aby zapewnić ich techniczną odpowiedzialność.

Artykuł nr 2. W niedzielę a badanie z Laboratorium Informatyki i Sztucznej Inteligencji MIT (CSAIL) wykazał skuteczność nowego algorytmu łagodzenia uprzedzeń w systemie wykrywania twarzy, nawet jeśli jest on przeszkolony na mocno tendencyjnych danych. Podczas szkolenia identyfikuje również, które przykłady w danych są niedostatecznie reprezentowane i poświęca więcej czasu na ich przeglądanie, aby zrekompensować. Kiedy naukowcy przetestowali system w zestawieniu danych dotyczących płci Buolamwini, odkryli, że pomogło to zlikwidować największą lukę w dokładności między samcami o jaśniejszej i ciemniejszej karnacji, w porównaniu ze standardowym algorytmem treningowym (chociaż nie wyeliminował go całkowicie). .

Referat nr 3. Dziś rano IBM Research opublikowało papier który identyfikuje dziesiątki cech do pomiaru różnorodności poza kolorem skóry i płcią, w tym wysokość głowy, szerokość twarzy, odległość między oczami i wiek. Odkrycia opierają się na wcześniejszych badaniach na ludzkich twarzach. Dopóki nie mamy środków zróżnicowania twarzy, mówi John Smith, jeden ze współautorów artykułu, nie możemy wrócić i egzekwować ich podczas trenowania tych systemów rozpoznawania twarzy. W związku z tym zespół opublikował nowy zestaw danych z 1 milionem zdjęć twarzy, opatrzonych adnotacjami za pomocą tych nowych pomiarów.

Różne miary różnorodności twarzy, przedstawione w nowym artykule IBM Research. Badania IBM

Każde z tych badań podjęło ważne kroki w kierunku rozwiązania problemu uprzedzeń w rozpoznawaniu twarzy — poprzez pociąganie firm do odpowiedzialności, tworzenie nowych algorytmów i poszerzanie naszego rozumienia różnorodności danych. Ale stworzenie sprawiedliwszych i dokładniejszych systemów to tylko połowa sukcesu.

Nawet najuczciwsze i najdokładniejsze systemy nadal mogą być wykorzystywane do naruszania swobód obywatelskich ludzi. W zeszłym roku Daily Beast dochodzenie odkrył, że Amazon aktywnie promował swoją platformę nadzoru twarzy amerykańskim organom imigracyjnym i celnym, lepiej znanym jako ICE, aby pomóc w rozprawieniu się ze społecznościami migrantów. Przechwytywanie dochodzenie Odkryli również, że IBM rozwinął umiejętność identyfikacji etnicznej twarzy w ramach długoterminowej współpracy z Departamentem Policji Nowego Jorku. Technologia ta została następnie wdrożona w publicznych kamerach monitoringu do testów, bez wiedzy mieszkańców miasta. Już teraz brytyjska policja metropolitalna używa rozpoznawania twarzy do: skanuj tłumy publiczne dla osób na listach obserwacyjnych, a Chiny używają go do masowa obserwacja wszystkich mieszkańców, do celów, w tym śledzenia dysydentów.

W odpowiedzi na szybkie rozprzestrzenianie się tych systemów rośnie liczba działaczy na rzecz praw obywatelskich i technolodzy wezwali do ich uregulowania; Google ma nawet zawieszony sprzedaż takich systemów, dopóki nie będzie miała jasnych strategii zapobiegania ich nadużyciom.

Bez sprawiedliwości algorytmicznej, algorytmiczna dokładność/techniczna uczciwość może stworzyć narzędzia AI, które są uzbrojone, mówi Buolamwini.

Ta historia pojawiła się pierwotnie w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.

ukryć