Rzecznicy praw osób niepełnosprawnych martwią się dyskryminacją w narzędziach do zatrudniania AI

Pani Tech | Getty

Twoja zdolność do zdobycia następnej pracy może zależeć od tego, jak dobrze grasz w jedną z gier opartych na sztucznej inteligencji, które lubią firmy AstraZeneca oraz Listonosze są coraz częściej wykorzystywane w procesie rekrutacji.

Niektóre firmy, które tworzą te gry, takie jak Pymetrics i Arctic Shores, twierdzą, że ograniczają stronniczość w zatrudnianiu. Ale gry z zatrudnianiem AI mogą być szczególnie trudne w nawigacji dla osób niepełnosprawnych poszukujących pracy.

W najnowszym odcinku podcastu MIT Technology Review In Machines We Trust, badamy, w jaki sposób gry i inne narzędzia wykorzystujące sztuczną inteligencję mogą wykluczać osoby niepełnosprawne. I chociaż wiele osób w USA zwraca się do komisji federalnej odpowiedzialnej za dyskryminację w zatrudnieniu, aby uregulować te technologie, agencja jeszcze nie podjęła działań.

Aby się bliżej przyjrzeć, poprosiliśmy Henry Claypool , analityk ds. polityki niepełnosprawności, zagrać jednego z Pymetria gry. Pymetrics mierzy dziewięć umiejętności, w tym uwagę, hojność i tolerancję ryzyka, tego dyrektora generalnego i współzałożyciela Frida Polly mówi odnoszą się do sukcesu w pracy.

Kiedy współpracuje z firmą, która chce zatrudnić nowych ludzi, Pymetrics najpierw prosi firmę o zidentyfikowanie osób, które już odnoszą sukcesy w pracy, którą próbuje obsadzić, i każą im grać w swoje gry. Następnie, aby zidentyfikować umiejętności najbardziej charakterystyczne dla odnoszących sukcesy pracowników, porównuje ich dane z gry z danymi z losowej próby graczy.

Kiedy się włączył, gra skłoniła Claypoola do wyboru między wersją zmodyfikowaną – przeznaczoną dla osób z ślepotą barw, ADHD lub dysleksją – a wersją niezmodyfikowaną. To pytanie stanowi dylemat dla wnioskodawców z niepełnosprawnościami, mówi.

Obawiam się, że jeśli kliknę jeden z nich, ujawnię coś, co zdyskwalifikowa mnie do pracy, a jeśli nie kliknę – powiedzmy – dysleksji lub czegokolwiek, co utrudnia mi czytanie listów i Przetwarzam te informacje szybko, wtedy będę w niekorzystnej sytuacji, mówi Claypool. Tak czy inaczej zawiodę.

Powiązana historia

Przetestowaliśmy narzędzia wywiadu AI. Oto, co znaleźliśmy.

Jeden z nich dał naszej kandydatce wysoką ocenę za znajomość języka angielskiego, gdy mówiła tylko po niemiecku.

Polli mówi, że Pymetrics nie informuje pracodawców, którzy kandydaci prosili o zakwaterowanie w grze podczas procesu zatrudniania, co powinno pomóc w zapobieganiu dyskryminacji przez pracodawców osób z pewnymi niepełnosprawnościami. Dodała, że ​​w odpowiedzi na nasze zgłoszenie firma wyjaśni te informacje, aby kandydaci wiedzieli, że ich potrzeba zakwaterowania w grze jest prywatna i poufna.

Ustawa o Amerykanach niepełnosprawnych wymaga od pracodawców zapewnienia osobom niepełnosprawnym racjonalnych udogodnień. A jeśli oceny rekrutacyjne firmy wykluczają osoby niepełnosprawne, to musi udowodnić, że oceny te są niezbędne do wykonywania pracy.

Dla pracodawców, korzystanie z gier takich jak te wyprodukowane przez Arktyczne Brzegi może wydawać się bardziej obiektywny. W przeciwieństwie do tradycyjnych testów psychometrycznych algorytm Arctic Shores ocenia kandydatów na podstawie ich wyborów w trakcie gry. Jednak kandydaci często nie wiedzą, co mierzy gra ani czego się spodziewać podczas gry. W przypadku wnioskodawców z niepełnosprawnościami trudno jest stwierdzić, czy powinni poprosić o zakwaterowanie.

Safe Hammad, dyrektor ds. technologii i współzałożyciel Arctic Shores, mówi, że jego zespół koncentruje się na udostępnieniu swoich ocen jak największej liczbie osób. Mówi, że osoby ze ślepotą barw i niepełnosprawnością słuchu mogą korzystać z oprogramowania firmy bez specjalnych udogodnień, ale pracodawcy nie powinni wykorzystywać takich próśb do sprawdzania kandydatów.

Korzystanie z tych narzędzi może jednak czasami wykluczać ludzi w sposób, który może nie być oczywisty dla potencjalnego pracodawcy. patty sanchez jest specjalistą ds. zatrudnienia w Centrum Szkoleniowe MacDonald na Florydzie, który pracuje z osobami niesłyszącymi lub niedosłyszącymi poszukującymi pracy. Około dwa lata temu jedna z jej klientek złożyła podanie o pracę w Amazonka które wymagały przeprowadzenia wywiadu wideo przez HireVue .

Sanchez, który również jest głuchy, próbował zadzwonić i poprosić o pomoc firmę, ale nie mógł się połączyć. Zamiast tego przywiozła swojego klienta i tłumacza języka migowego do miejsca zatrudnienia i namówiła tam przedstawicieli do przeprowadzenia z nim osobistego wywiadu. Amazon zatrudnił swojego klienta, ale Sanchez twierdzi, że takie problemy są powszechne podczas poruszania się po zautomatyzowanych systemach. (Amazon nie odpowiedział na prośbę o komentarz.)

Udostępnienie technologii zatrudniania oznacza zapewnienie, że kandydat może z niej korzystać, a umiejętności, które mierzy, nie wykluczają w nieuczciwy sposób kandydatów z niepełnosprawnościami. Aleksandra Givens , prezes zarządu Centrum Demokracji i Technologii , organizacja zajmująca się prawami obywatelskimi w erze cyfrowej.

Narzędzia rekrutacyjne oparte na sztucznej inteligencji często nie uwzględniają osób niepełnosprawnych podczas generowania danych treningowych – mówi. Takie osoby od dawna są wykluczone z siły roboczej, więc algorytmy wzorowane na wcześniejszych pracownikach firmy nie będą odzwierciedlać ich potencjału.

Nawet jeśli modele mogłyby uwzględniać wartości odstające, sposób, w jaki przedstawia się niepełnosprawność, różni się znacznie w zależności od osoby. Na przykład dwie osoby z autyzmem mogą mieć bardzo różne mocne strony i wyzwania.

Gdy automatyzujemy te systemy, a pracodawcy naciskają na to, co jest najszybsze i najbardziej wydajne, tracą oni szansę na to, by ludzie rzeczywiście wykazali się swoimi kwalifikacjami i zdolnością do wykonywania pracy, mówi Givens. A to ogromna strata.

Podejście bez użycia rąk

Organom regulacyjnym rządowym trudno jest monitorować narzędzia do zatrudniania AI. W grudniu 2020 roku 11 senatorów napisało list do Amerykańska Komisja ds. Równych Szans Zatrudnienia wyrażając obawy dotyczące wykorzystania technologii zatrudniania po pandemii Covid-19. W liście zapytano o uprawnienia agencji do zbadania, czy narzędzia te dyskryminują, szczególnie wobec osób niepełnosprawnych.

EEOC odpowiedział listem w styczniu, który wyciekł do MIT Technology Review . W liście komisja wskazała, że ​​nie może badać narzędzi zatrudniania AI bez konkretnego zarzutu dyskryminacji. W liście nakreślono również obawy związane z niechęć branży do udostępniania danych i stwierdzono, że różnice między oprogramowaniem różnych firm uniemożliwiłyby EEOC wprowadzenie jakichkolwiek ogólnych zasad.

Byłem zaskoczony i rozczarowany, gdy zobaczyłem odpowiedź, mówi Roland Behm , prawnik i rzecznik osób z problemami ze zdrowiem behawioralnym. Cała treść tego listu wydawała się sprawiać, że EEOC wydaje się bardziej biernym obserwatorem niż organem egzekucyjnym.

Agencja zazwyczaj rozpoczyna dochodzenie, gdy osoba fizyczna złoży wniosek o dyskryminację. Jednak dzięki technologii zatrudniania AI większość kandydatów nie wie, dlaczego zostali odrzuceni do pracy. Uważam, że powodem, dla którego nie widzieliśmy więcej działań egzekucyjnych lub prywatnych sporów w tym obszarze, jest fakt, że kandydaci nie wiedzą, że są oceniani przez komputer, mówi Keith Nerd , komisarz EEOC.

Sonderling mówi, że wierzy, że sztuczna inteligencja usprawni proces rekrutacji i ma nadzieję, że agencja wyda wskazówki dla pracodawców, jak najlepiej ją wdrożyć. Mówi, że z zadowoleniem przyjmuje nadzór Kongresu.

Powiązana historia

Audytorzy testują algorytmy zatrudniania pod kątem stronniczości, ale nie ma łatwego rozwiązania

Audyty AI mogą pomijać pewne rodzaje uprzedzeń i niekoniecznie weryfikują, czy narzędzie rekrutacyjne wybiera najlepszych kandydatów do pracy.

Jednakże, Aaron Rieke , dyrektor zarządzający Zmiana na lepsze , organizacja non-profit zajmująca się prawami obywatelskimi i technologią, wyraziła rozczarowanie odpowiedzią EEOC: Właściwie mam nadzieję, że w nadchodzących latach EEOC może być nieco bardziej agresywne i kreatywne w myśleniu o tym, jak wykorzystać tę władzę.

Paulina Kim , profesor prawa at Uniwersytet Waszyngtoński w St. Louis , którego badania koncentrują się na algorytmicznych narzędziach rekrutacyjnych, twierdzi, że EEOC może być bardziej proaktywne w gromadzeniu badań i aktualizowaniu wytycznych, aby pomóc pracodawcom i firmom AI w przestrzeganiu prawa.

Behm dodaje, że EEOC może skorzystać z innych sposobów egzekucji, w tym oskarżenia komisarza, co pozwala komisarzom na wszczęcie dochodzenia w sprawie podejrzenia dyskryminacji zamiast żądania indywidualnego roszczenia (Sonderling mówi, że rozważa postawienie takiego zarzutu). Sugeruje również, aby EEOC skonsultowało się z grupami rzeczników w celu opracowania wytycznych dla firm AI, które mają nadzieję lepiej reprezentować osoby niepełnosprawne w ich modelach algorytmicznych.

Jest mało prawdopodobne, że firmy i pracodawcy zajmujący się sztuczną inteligencją celowo sprawdzają osoby niepełnosprawne, mówi Behm. Ale nie poświęcili czasu i wysiłku niezbędnych do zrozumienia systemów, które podejmują decyzje, które dla wielu ludzi zmieniają życie: czy zostanę zatrudniony, czy nie? Czy mogę wspierać rodzinę, czy nie?

ukryć