Firma zatrudniająca AI twierdzi, że może przewidzieć zmianę pracy na podstawie twoich rozmów kwalifikacyjnych

Zrzut ekranu z PredictiveHire.

Od początku pandemii coraz więcej firm zwrócili się do AI o pomoc w ich zatrudnieniu. Najczęstsze systemy obejmują korzystanie z algorytmów skanowania twarzy, gier, pytań lub innych ocen w celu ustalenia, z którymi kandydatami należy przeprowadzić rozmowę kwalifikacyjną.

Podczas gdy aktywiści i naukowcy ostrzegają, że te narzędzia przesiewowe mogą utrwalać dyskryminację, sami twórcy twierdzą, że algorytmiczne zatrudnianie pomaga skorygować człowiek uprzedzenia. Algorytmy można testować i modyfikować, podczas gdy ludzkie uprzedzenia są znacznie trudniejsze do skorygowania — a przynajmniej tak to się dzieje. W Artykuł z grudnia 2019 r. , naukowcy z Cornell dokonali przeglądu krajobrazu firm zajmujących się algorytmicznym badaniem przesiewowym, aby przeanalizować ich twierdzenia i praktyki. Spośród 18, które identyfikowali z anglojęzycznymi stronami internetowymi, większość reklamowała się jako uczciwsza alternatywa dla zatrudniania przez ludzi, co sugeruje, że chwytają się zwiększonego zaniepokojenia tymi problemami, aby pochwalić się zaletami swoich narzędzi i zdobyć więcej klientów.

Ale dyskryminacja nie jest jedynym problemem związanym z zatrudnianiem algorytmicznym, a niektórzy badacze obawiają się, że język marketingowy, który koncentruje się na uprzedzeniach, pozwala firmom oderwać się od innych kwestii, takich jak prawa pracownicze. Nowy preprint z jednej z tych firm służy teraz jako ważne przypomnienie: nie powinniśmy pozwolić, aby uwaga, jaką ludzie zaczęli zwracać na kwestie uprzedzeń i dyskryminacji, faktycznie przesłoniła fakt, że istnieje wiele innych problemów, mówi Solon Barocas, adiunkt na Cornell University i główny badacz w Microsoft Research, który zajmuje się badaniem uczciwości i odpowiedzialności algorytmicznej.

Firma, o której mowa, to PredictiveHire z siedzibą w Australii, założona w październiku 2013 r. Oferuje ona chatbota, który zadaje kandydatom szereg pytań otwartych. Następnie analizuje ich odpowiedzi, aby ocenić związane z pracą cechy osobowości, takie jak popęd, inicjatywa i odporność. Według prezesa firmy, Barbary Hyman, jej klientami są pracodawcy, którzy muszą zarządzać dużą liczbą aplikacji, m.in. w handlu detalicznym, sprzedaży, call center i służbie zdrowia. Jak wykazało badanie Cornell, w swoim języku marketingowym aktywnie wykorzystuje obietnice sprawiedliwszego zatrudniania. Na swojej stronie głównej śmiało reklamuje: Poznaj Phai. Twój drugi pilot w zatrudnianiu. Dokonywanie wywiadów SUPER SZYBKO. W KOŃCU WŁĄCZNIE. WRESZCIE BEZ BIASU.

Jak pisaliśmy wcześniej, idea algorytmów wolnych od stronniczości to: wysoko zwodniczy . Ale Predictive Hire’ najnowsze badania jest niepokojący z innego powodu. Koncentruje się na zbudowaniu nowego modelu uczenia maszynowego, który ma na celu przewidywanie prawdopodobieństwa zmiany pracy przez kandydata, czyli praktyki zmiany pracy częściej, niż życzy sobie tego pracodawca. Praca jest następstwem niedawnych, recenzowanych badań firmy, które dotyczyły tego, w jaki sposób pytania do wywiadu otwartego korelować z osobowością (sam w sobie a wysoce kontestowana praktyka ). Ponieważ psychologowie organizacyjni wykazali już związek między osobowością a zmianą pracy, mówi Hyman, firma chciała przetestować, czy mogą wykorzystać swoje istniejące dane do prognozowania. Dodaje, że utrzymanie pracowników jest bardzo ważne dla wielu firm, z którymi współpracujemy, biorąc pod uwagę koszty wysokiej rotacji pracowników, szacowane na 16% kosztów wynagrodzenia każdego pracownika.

W badaniu wykorzystano odpowiedzi tekstowe od 45 899 kandydatów, którzy korzystali z chatbota PredictiveHire. Wnioskodawcom zadano początkowo od pięciu do siedmiu pytań otwartych oraz pytań samooceny dotyczących ich przeszłych doświadczeń i oceny sytuacji. Obejmowały one pytania mające na celu wskazanie cech, które badania wykazały, że wcześniej silnie korelowały z tendencjami do zmiany pracy, takimi jak bycie bardziej otwartym na doświadczenie, mniej praktycznym i mniej przyziemnym. Naukowcy z firmy twierdzą, że model był w stanie przewidzieć zmianę pracy z istotnością statystyczną. Witryna PredictiveHire już reklamuje tę pracę jako ocenę ryzyka lotu, która jest: wkrótce .

Nowa praca PredictiveHire jest doskonałym przykładem tego, co według Nathana Newmana jest jednym z największych negatywnych skutków dużych zbiorów danych na pracę. Newman, adiunkt w John Jay College of Criminal Justice, napisał w: dokument prawny z 2017 r. że oprócz obaw związanych z dyskryminacją w zatrudnieniu, analiza dużych zbiorów danych była również wykorzystywana na niezliczone sposoby do obniżania płac pracowników.

Na przykład testy osobowości oparte na uczeniu maszynowym są coraz częściej wykorzystywane przy zatrudnianiu w celu odfiltrowania potencjalnych pracowników, którzy mają większe prawdopodobieństwo agitacji za podwyżkami płac lub wspierania uzwiązkowienia. Pracodawcy coraz częściej monitorują wiadomości e-mail pracowników, czaty i inne dane, aby ocenić, które mogą odejść, i obliczyć minimalną podwyżkę płacy potrzebną do pozostania. A algorytmiczne systemy zarządzania, takie jak Uber, decentralizują pracowników z dala od biur i cyfrowych przestrzeni konferencyjnych, które pozwalają im koordynować ze sobą i wspólnie domagać się lepszego traktowania i płacy.

Żaden z tych przykładów nie powinien być zaskakujący, argumentował Newman. Są po prostu współczesną manifestacją tego, co pracodawcy w przeszłości robili, by tłumić płace poprzez celowanie i rozbijanie działalności związkowej. Wykorzystywanie ocen osobowości w zatrudnianiu, które datuje się na lata 30. w Stanach Zjednoczonych, w rzeczywistości zaczęło się jako mechanizm odsiewania osób, które najprawdopodobniej zostaną organizatorami pracy. Testy stały się szczególnie popularne w latach 60. i 70., kiedy psychologowie organizacyjni dopracowali je do oceny pracowników pod kątem sympatii związkowych.

W tym kontekście ocena ryzyka walki PredictiveHire jest tylko kolejnym przykładem tego trendu. Zmiana pracy lub groźba zmiany pracy, jak wskazuje Barocas, jest jednym z głównych sposobów zwiększania dochodów przez pracowników. Firma zbudowała nawet swoją ocenę na badaniach osobowości zaprojektowanych przez psychologów organizacyjnych.

Barocas niekoniecznie opowiada się za całkowitym wyrzuceniem narzędzi. Uważa, że ​​cel, jakim jest usprawnienie pracy przy zatrudnianiu dla wszystkich, jest szlachetny i można go osiągnąć, jeśli organy regulacyjne nabiorą na nie mandatu większa przejrzystość . Obecnie żaden z nich nie otrzymał rygorystycznej, recenzowanej oceny, mówi. Ale gdyby firmy były bardziej otwarte na swoje praktyki i przedkładały swoje narzędzia do takiej walidacji, mogłoby to pomóc w utrzymaniu ich odpowiedzialności. Może również pomóc naukowcom w łatwiejszym nawiązywaniu kontaktów z firmami w celu zbadania wpływu narzędzi zarówno na pracę, jak i dyskryminację.

Pomimo całej mojej własnej pracy przez ostatnie kilka lat wyrażającej obawy związane z tymi rzeczami, mówi, faktycznie wierzę, że wiele z tych narzędzi może znacząco poprawić obecny stan rzeczy.

ukryć