Nowy wykrywacz uśmiechu AI firmy Google pokazuje, jak przyjęcie rasy i płci może zmniejszyć uprzedzenia

Kategoria: Bez kategorii Opublikowany gru 04

Widzenie komputerowe staje się coraz lepsze w rozpoznawaniu różnych wyrazów twarzy, ale w przypadku niektórych grup, które nie są odpowiednio reprezentowane w zestawach danych treningowych, takich jak mniejszości rasowe lub kobiety o cechach androgynicznych, algorytmy wciąż mogą być gorsze.

Nowy artykuł opublikowany w arXiv przez badaczy Google udoskonalili najnowocześniejsze algorytmy wykrywania uśmiechu, włączając i szkoląc klasyfikatory rasowe i płciowe w swoim modelu. Klasyfikator rasowy został przeszkolony na czterech podgrupach rasowych i dwóch pod względem płci (naukowcy nie wymienili grup rasowych, ale zdjęcia wydają się składać z Azjatów, czarnych, Latynosów i białych).

Ich metoda osiągnęła prawie 91 procent dokładności w wykrywaniu uśmiechów w zestawie danych Faces of the World (FotW), zbiorze 13 000 zdjęć twarzy zebranych z Internetu, który jest czasami używany jako punkt odniesienia dla takich algorytmów. Oznacza to poprawę o nieco ponad 1,5 procent w stosunku do poprzedniego wyniku. Wyniki wykazały ogólną lepszą dokładność, pokazując, że zwracanie uwagi na rasę i płeć może dać lepsze wyniki niż próba zbudowania algorytmu, który jest ślepy na kolory.

Wielu badaczy waha się przed włączeniem takich klasyfikatorów, zakładając, że łatwiej jest być winnym stronniczości (lub przynajmniej zostać o to oskarżonym), gdy twój system ma wyraźne kategorie rasowe lub płciowe. Wyniki zespołu Google dowodzą, że wysiłek włożony w szkolenie osób zajmujących się klasyfikacją rasową lub płciową może faktycznie zmniejszyć problem uprzedzeń. Naukowcy wykorzystali również klasyfikacje, takie jak Płeć 1 i Płeć 2, aby uniknąć wprowadzania nieświadomych uprzedzeń społecznych, gdy tylko było to możliwe.

Mimo obiecujących wyników i dbałości o świadomość stronniczości we wszystkich jej formach, naukowcy włączyli do swojego artykułu sekcję zatytułowaną Rozważania etyczne, w której dokładają wszelkich starań, aby zauważyć, że ich praca nie ma na celu motywowania rasy i płci. identyfikacja jako cel końcowy. Wskazują również, że nie ma złotego standardu podziału kategorii rasowych i że płeć powinna być uważana za spektrum w przyszłej pracy, a nie stan binarny.