Amazon zrezygnował z oprogramowania do rekrutacji AI, ponieważ był stronniczy w stosunku do kobiet

Kategoria: Dolina Krzemowa Opublikowany 10 października

Dane, na których uczono algorytm sztucznej inteligencji, stworzyły preferencję dla kandydatów płci męskiej.

Wiadomości: Według raportu autorstwa Reuters , Amazon zaczął opracowywać zautomatyzowany system w 2014 roku, aby oceniać osoby poszukujące pracy od jednej do pięciu gwiazdek. Jednak w zeszłym roku firma zrezygnowała z projektu po tym, jak zobaczyła, że ​​preferuje on kandydatów płci męskiej na stanowiskach technicznych.

Czemu? Narzędzie AI zostało przeszkolone na podstawie życiorysów, które firma otrzymała od 10 lat. Ponieważ technologia jest branżą zdominowaną przez mężczyzn, większość życiorysów pochodzi od mężczyzn.

Wynik: System został nieumyślnie przeszkolony, aby wybierać kandydatów płci męskiej zamiast kandydatek płci żeńskiej. Podobno karaliby życiorysy zawierające słowo „kobiety” lub nazwy niektórych wyłącznie kobiecych uczelni. Chociaż Amazon wprowadził zmiany, aby te warunki były neutralne, firma straciła pewność, że program jest rzeczywiście neutralny pod względem płci we wszystkich innych obszarach.

Dlaczego jest to ważne: Nie możemy traktować sztucznej inteligencji jako z natury bezstronnej. Szkolenie systemów na danych tendencyjnych oznacza, że ​​algorytmy również stają się stronnicze. Jeśli nieuczciwe programy zatrudniania AI, takie jak ten, nie zostaną wykryte przed wdrożeniem , raczej utrwalą długotrwałe problemy z różnorodnością w biznesie, niż je rozwiążą.

Chcesz być na bieżąco z tym, jak technologia zmienia miejsce pracy przyszłości? Zapisz się do naszego biuletynu o przyszłości pracy, Clocking In .