Badanie rządu USA potwierdza, że ​​większość systemów rozpoznawania twarzy jest rasistowska

Kategoria: Sztuczna inteligencja Opublikowany 20 grudnia

Według A przełomowe badanie .

Co przetestowali: Amerykański Narodowy Instytut Standardów i Technologii (NIST) przetestował każdy algorytm w dwóch najczęstszych zadaniach rozpoznawania twarzy. Pierwszy, znany jako dopasowanie jeden do jednego, polega na dopasowaniu zdjęcia kogoś do innego zdjęcia tej samej osoby w bazie danych. Służy na przykład do odblokowywania smartfonów lub sprawdzania paszportów. Drugie, znane jako wyszukiwanie jeden-do-wielu, polega na określeniu, czy zdjęcie kogoś pasuje do bazy danych. Jest to często wykorzystywane przez wydziały policji do identyfikacji podejrzanych w dochodzeniu.

Agencja przeanalizowała cztery zestawy danych twarzy, które są obecnie wykorzystywane w zastosowaniach rządu USA: zdjęcia kubków osób mieszkających w USA; zdjęcia aplikacyjne od osób ubiegających się o świadczenia imigracyjne; zdjęcia aplikacyjne od osób ubiegających się o wizy; i zdjęcia ludzi przekraczających granicę do Stanów Zjednoczonych. W sumie zbiory danych obejmowały 18,27 mln zdjęć 8,49 mln osób.

Co znaleźli: NIST podzielił się niektórymi wynikami badania wysokiego poziomu. Najważniejsze z nich:

1. W przypadku dopasowania jeden do jednego większość systemów miała wyższy odsetek wyników fałszywie dodatnich dla twarzy Azjatów i Afroamerykanów niż twarzy rasy kaukaskiej, czasami o czynnik 10, a nawet 100. Innymi słowy, były bardziej prawdopodobne znajdź dopasowanie, gdy go nie było.

2. Zmieniło się to w przypadku algorytmów rozpoznawania twarzy opracowanych w krajach azjatyckich, które powodowały bardzo niewielką różnicę w fałszywych trafieniach między twarzami azjatyckimi i kaukaskimi.

3. Algorytmy opracowane w Stanach Zjednoczonych były konsekwentnie złe w dopasowywaniu twarzy Azjatów, Afroamerykanów i rdzennych Amerykanów. Rdzenni Amerykanie mieli najwyższy odsetek wyników fałszywie pozytywnych.

4. Dopasowanie jeden-do-wielu, systemy miały najgorszy odsetek wyników fałszywie pozytywnych dla Afroamerykanek, co naraża tę populację na największe ryzyko fałszywego oskarżenia o przestępstwo.

Dlaczego to ma znaczenie: Wykorzystanie systemów rozpoznawania twarzy gwałtownie rośnie w egzekwowaniu prawa, kontroli granicznej i innych zastosowaniach w całym społeczeństwie. Podczas gdy kilka badań akademickich wcześniej wykazało, że popularne systemy komercyjne są stronnicze w stosunku do rasy i płci, badanie NIST jest jak dotąd najbardziej wszechstronną oceną i potwierdza te wcześniejsze wyniki. Wyniki stawiają pod znakiem zapytania, czy systemy te powinny być nadal tak szeroko stosowane.

Następne kroki: Teraz do decydentów należy znalezienie najlepszego sposobu uregulowania tych technologii. NIST wzywa również twórców rozpoznawania twarzy do przeprowadzenia dalszych badań nad tym, jak można złagodzić te uprzedzenia.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.