Branża zatrudniania AI jest pod lupą — ale trudno będzie to naprawić

Kategoria: Polityka techniczna Opublikowany lis 07

Elektroniczne Centrum Informacji o Prywatności (EPIC) ma poprosił Federalną Komisję Handlu o zbadanie HireVue , narzędzie AI, które pomaga firmom określić, których pracowników należy zatrudnić.

Co to jest HireVue? HireVue to jedno z rosnącej liczby narzędzi sztucznej inteligencji, które firmy wykorzystują do oceny kandydatów do pracy. Algorytm analizuje wywiady wideo, używając wszystkiego, od doboru słów po ruchy twarzy, aby ustalić wynik zatrudnialności, który jest porównywany z wynikami innych kandydatów. Już ponad 100 firm skorzystało z niego na ponad milionie wnioskodawców, według Washington Post .

Jaki jest problem? Trudno przewidzieć, którzy pracownicy odniosą sukces na podstawie takich rzeczy, jak wyraz twarzy. Co gorsza, krytycy obawiają się, że algorytm jest szkolony na ograniczonych danych, a więc będzie bardziej prawdopodobne, że będą oznaczać tradycyjnych kandydatów (białych, mężczyzn) jako bardziej zdolnych do zatrudnienia. W rezultacie kandydaci, którzy odbiegają od tradycji – w tym osoby, które nie mówią po angielsku jako ojczystym językiem lub są niepełnosprawni – prawdopodobnie otrzymają niższe wyniki, eksperci mówią . Ponadto zachęca kandydatów do grania w system poprzez przeprowadzanie wywiadów w sposób, który ich zdaniem spodoba się HireVue.

Co dalej? Narzędzia do zatrudniania AI nie są dobrze uregulowane, a rozwiązanie problemu będzie trudne z kilku powodów.

— Większość firm nie udostępnia swoich danych ani nie wyjaśnia, jak działają algorytmy, więc bardzo trudno jest udowodnić jakiekolwiek stronniczość. To jest jeden z powodów, dla których do tej pory nie było żadnych poważnych procesów sądowych. Skarga EPIC, która sugeruje, że obietnica HireVue narusza zasady FTC dotyczące nieuczciwych i oszukańczych praktyk, to początek. Ale nie jest jasne, czy coś się wydarzy. FTC otrzymała skargę, ale nie powiedziała, czy będzie ją rozpatrywać.

— Inne próby zapobiegania stronniczości mają dobre intencje, ale są ograniczone. Na początku tego roku prawodawcy z Illinois uchwalili prawo, które wymaga od pracodawców: przynajmniej powiedz osobom poszukującym pracy że będą korzystać z tych algorytmów i uzyskać ich zgodę. Ale to nie jest zbyt przydatne. Wiele osób prawdopodobnie wyrazi zgodę po prostu dlatego, że nie chcą stracić okazji.

— Na koniec, podobnie jak sztuczna inteligencja w opiece zdrowotnej lub sztuczna inteligencja na sali sądowej, sztuczna inteligencja w zatrudnianiu odtworzy uprzedzenia społeczne, co jest skomplikowanym problemem. Organy regulacyjne będą musiały dowiedzieć się, jak dużą odpowiedzialność powinny ponosić firmy, aby uniknąć błędów uprzedzonego społeczeństwa.