Wszystkie programy do automatycznego zatrudniania są domyślnie podatne na stronniczość

Kategoria: Polityka techniczna Opublikowany 13 grudnia

DO nowy raport z organizacji non-profit Upturn przeanalizowała niektóre z najbardziej znanych algorytmów rekrutacyjnych na rynku i stwierdziła, że ​​domyślnie takie algorytmy są podatne na stronniczość.

Etapy zatrudniania: Opracowano algorytmy automatyzujące cztery podstawowe etapy procesu rekrutacji: pozyskiwanie, sprawdzanie, rozmowy kwalifikacyjne i selekcję. Analiza wykazała, że ​​chociaż narzędzia predykcyjne były rzadko wdrażane w celu dokonania ostatecznego wyboru, kogo zatrudnić, były one powszechnie używane na tych etapach do odrzucania ludzi.

Kiedy wkrada się uprzedzenie: Jeśli wykorzystywane są dane dotyczące zatrudnienia w przeszłości, informacje szkoleniowe mogą być tendencyjne lub niereprezentatywne, przenosząc te odchylenia do oprogramowania. Samo usunięcie danych o płci i rasie nie zapobiegnie stronniczości oprogramowania. Inne informacje, takie jak odległość od biura, mogą silnie korelować z bardziej wrażliwymi czynnikami. Amazon dostrzegł to w algorytmie rekrutacyjnym, który próbował opracować. Menadżerowie ds. rekrutacji mogą być również skłonni do zbytniego uwiarygodnienia zaleceń algorytmów rekrutacyjnych.

Regulowanie AI: Badanie wykazało również, że obecne przepisy nie są przygotowane do radzenia sobie z problemem. Przepisy mające na celu regulowanie decyzji o zatrudnieniu ludzi nie pozwalają łatwo dochodzenia i egzekwowania w przypadku dyskryminacji opartej na maszynach.

Pozytywy: Z drugiej strony, narzędzia prognostyczne mogą pomóc odkryć wcześniejsze ludzkie uprzedzenia i założenia, które wcześniej zostały przeoczone. Pozwoliłoby to firmom na dokonanie pozytywnych zmian w swoich praktykach. Kilku dostawców podejmuje kroki nie tylko w celu sprawdzenia swoich produktów pod kątem stronniczości, ale także wbudowania w swoje produkty funkcji promujących kapitał, mówi jedna z autorek raportu, Miranda Bogen. Mamy nadzieję, że więcej dostawców przyjmie tego typu interwencje, ale przed nami jeszcze długa droga, zanim będziemy pewni, że narzędzia prognostyczne nie przynoszą więcej szkód niż korzyści.

Rozwiązanie problemu: Aby korzystanie z zatrudniania AI było bardziej sprawiedliwe, raport zaleca:

—umożliwienie niezależnego audytu oprogramowania pracodawcy i dostawcy
— zlecanie rządom aktualizacji przepisów w celu uwzględnienia oprogramowania do predykcyjnego zatrudniania
—dokładniejsze badanie platform ogłoszeń i ofert pracy w celu przeanalizowania ich rosnącego wpływu na zatrudnianie

Ponieważ w tym procesie jest tak wiele różnych punktów, w których mogą pojawić się uprzedzenia, pracodawcy powinni zdecydowanie postępować ostrożnie, mówi Bogen. Powinni jasno informować, jakich narzędzi prognostycznych używają, i podejmować wszelkie możliwe kroki, aby proaktywnie wykrywać i eliminować pojawiające się uprzedzenia – a jeśli nie mogą tego zrobić z pewnością, powinni wyciągnąć wtyczkę.

Ten artykuł został pierwotnie opublikowany w naszym biuletynie o przyszłości pracy, Clocking In. Możesz zarejestrować się tutaj .