AI musi stawić czoła problemowi niewidzialnego pracownika

SAIPH DZIKI

Wiele z najbardziej udanych i powszechnie stosowanych modeli uczenia maszynowego jest trenowanych z pomocą tysięcy nisko opłacani pracownicy koncertowi . Miliony ludzi na całym świecie zarabiają pieniądze na platformach takich jak Amazon Mechanical Turk, które pozwalają firmom i badaczom zlecać małe zadania pracownikom społecznościowym online. Według jedno oszacowanie , ponad milion osób w samych Stanach Zjednoczonych zarabia każdego miesiąca, pracując na tych platformach. Około 250 000 z nich zarabia w ten sposób co najmniej trzy czwarte swoich dochodów. Ale chociaż wielu z nich pracuje dla jednych z najbogatszych laboratoriów sztucznej inteligencji na świecie, otrzymują wynagrodzenie poniżej płacy minimalnej i nie mają możliwości rozwijania swoich umiejętności.

Saiph Dziki jest dyrektorem laboratorium interakcji człowiek-komputer na Uniwersytecie Zachodniej Wirginii, gdzie zajmuje się technologiami obywatelskimi, koncentrując się na kwestiach takich jak zwalczanie dezinformacji i pomoc pracownikom koncertowym w poprawie warunków pracy. W tym tygodniu dała zaproszony wykład w NeurIPS , jedna z największych na świecie konferencji AI, zatytułowana Przyszłość pracy dla niewidzialnych pracowników w AI. Rozmawiałem z Savage na Zoom na dzień przed jej wystąpieniem.

Nasza rozmowa została zredagowana dla jasności i długości.

Mówisz o niewidzialnych pracownikach w AI. Jakie prace wykonują ci ludzie?

Wiele zadań obejmuje oznaczanie danych — zwłaszcza danych obrazów — które są wprowadzane do nadzorowanych modeli uczenia maszynowego, aby lepiej rozumieły świat. Inne zadania obejmują transkrypcję dźwięku. Na przykład, gdy rozmawiasz z Alexą Amazona, pracownicy mogą przepisywać to, co mówisz, aby algorytm rozpoznawania głosu nauczył się lepiej rozumieć mowę. I właśnie miałem spotkanie z pracownikami społecznościowymi w wiejskiej Wirginii Zachodniej. Zostają zatrudnieni przez Amazon do czytania wielu dialogów, aby pomóc Alexie zrozumieć, jak mówią ludzie w tym regionie. Możesz również nakazać pracownikom etykietowanie stron internetowych, które mogą być wypełnione mową nienawiści lub pedofilią. Dlatego podczas wyszukiwania obrazów w Google lub Bing nie jesteś narażony na te rzeczy.

Ludzie są zatrudniani do wykonywania tych zadań na platformach takich jak Amazon Mechanical Turk. Duże firmy technologiczne mogą używać własnych wersji — na przykład Facebook i Microsoft mają własne. Różnica w stosunku do Amazon Mechanical Turk polega na tym, że każdy może z niego korzystać. Naukowcy i start-upy mogą podłączyć się do platformy i zasilać się niewidzialnymi pracownikami.

Jakie problemy mają ci niewidzialni pracownicy?

Właściwie nie uważam crowdwork'u za coś złego; to naprawdę dobry pomysł. Ułatwiło to firmom dodawanie zewnętrznej siły roboczej.

Powiązana historia

Nadchodząca wojna z ukrytymi algorytmami, które więzią ludzi w ubóstwie Rosnąca grupa prawników odkrywa, nawiguje i zwalcza zautomatyzowane systemy, które odmawiają biednych mieszkań, miejsc pracy i podstawowych usług.

Ale jest wiele problemów. Po pierwsze, pracownicy tych platform zarabiają bardzo niskie zarobki. Przeprowadziliśmy badanie, w którym przez kilka lat śledziliśmy setki pracowników Amazon Mechanical Turk i okazało się, że zarabiali około 2 dolary na godzinę. To znacznie mniej niż płaca minimalna w USA. Są ludzie, którzy poświęcają swoje życie tym platformom; to ich główne źródło dochodu.

A to rodzi inne problemy. Platformy te odcinają również przyszłe możliwości zatrudnienia, ponieważ pełnoetatowi pracownicy społecznościowi nie mają możliwości rozwijania swoich umiejętności – a przynajmniej nie tych, które są uznawane. Odkryliśmy, że wiele osób nie umieszcza swojej pracy na tych platformach w swoim CV. Jeśli powiedzą, że pracowali przy Amazon Mechanical Turk, większość pracodawców nawet nie będzie wiedziała, co to jest. Większość pracodawców nie zdaje sobie sprawy, że to właśnie oni stoją za naszą sztuczną inteligencją.

To oczywiste, że masz prawdziwą pasję do tego, co robisz. Jak to się stało, że nad tym pracowałeś?

Pracowałem nad projektem badawczym w Stanford, gdzie byłem w zasadzie pracownikiem społecznościowym, co naraziło mnie na problemy. Pomogłem zaprojektować nową platformę, która przypominała Amazon Mechanical Turk, ale była kontrolowana przez pracowników. Ale byłem też pracownikiem technicznym w Microsoft. I to również otworzyło mi oczy na to, jak to jest pracować w dużej firmie technologicznej. Stajesz się pozbawiony twarzy, co jest bardzo podobne do tego, czego doświadczają crowdworkerzy. I to naprawdę pobudziło mnie do chęci zmiany miejsca pracy.

Wspomniałeś o przeprowadzeniu badania. Jak dowiesz się, co robią ci pracownicy i jakie warunki napotykają?

Robię trzy rzeczy. Przeprowadzam wywiady z pracownikami, przeprowadzam ankiety i buduję narzędzia, które dają mi bardziej ilościową perspektywę tego, co dzieje się na tych platformach. Udało mi się zmierzyć, ile czasu pracownicy inwestują w wykonanie zadań. Mierzę również ilość nieodpłatnej pracy, którą wykonują pracownicy, na przykład szukanie zadań lub komunikowanie się z pracodawcą – rzeczy, za które otrzymałbyś wynagrodzenie, gdybyś miał pensję.

Zostałeś zaproszony do wygłoszenia wykładu w NeurIPS w tym tygodniu. Dlaczego jest to coś, co społeczność AI musi usłyszeć?

Cóż, zasilają swoje badania pracą tych pracowników. Myślę, że bardzo ważne jest, aby zdać sobie sprawę, że autonomiczny samochód lub cokolwiek innego istnieje dzięki ludziom, którym nie przysługuje płaca minimalna. Kiedy myślimy o przyszłości AI, powinniśmy pomyśleć o przyszłości pracy. Warto przypomnieć, że ci pracownicy to ludzie.

Czy mówisz, że firmy lub badacze celowo zaniżają wynagrodzenie?

Nie, to nie to. Myślę, że mogą nie docenić tego, o co proszą pracowników i jak długo to potrwa. Ale przez większość czasu po prostu w ogóle nie myśleli o drugiej stronie transakcji.

Ponieważ po prostu widzą platformę w Internecie. I jest tani.

Tak, dokładnie.

Co z tym zrobimy?

Wiele rzeczy. Pomagam pracownikom zorientować się, ile czasu może im zająć zadanie. W ten sposób mogą ocenić, czy zadanie będzie tego warte. Dlatego opracowałem wtyczkę AI dla tych platform, która pomaga pracownikom dzielić się informacjami i szkolić się nawzajem, które zadania są warte ich czasu i które pozwalają rozwijać określone umiejętności. Sztuczna inteligencja uczy się, jaki rodzaj porad jest najskuteczniejszy. Przyjmuje komentarze tekstowe, które pracownicy piszą do siebie i dowiaduje się, jakie rady prowadzą do lepszych wyników, i promuje je na platformie.

Powiedzmy, że pracownicy chcą podnieść swoje zarobki. Sztuczna inteligencja określa, jaki rodzaj porad lub strategii najlepiej nadaje się do pomocy pracownikom w tym zakresie. Na przykład może to sugerować, że wykonujesz tego rodzaju zadania od tych pracodawców, ale nie inne rodzaje zadań tam. Albo powie ci, żebyś nie spędzał więcej niż pięć minut na szukaniu pracy. Model uczenia maszynowego opiera się na subiektywnej opinii pracowników na temat Amazon Mechanical Turk, ale stwierdziłem, że wciąż może podnosić płace pracowników i rozwijać ich umiejętności.

Więc chodzi o pomoc pracownikom w maksymalnym wykorzystaniu tych platform?

To początek. Ale ciekawie byłoby pomyśleć o drabinach kariery. Na przykład moglibyśmy poprowadzić pracowników do wykonania szeregu różnych zadań, które pozwolą im rozwijać swoje umiejętności. Możemy też pomyśleć o zapewnieniu innych możliwości. Firmy umieszczające pracę na tych platformach mogą oferować mikrostaże online dla pracowników.

I powinniśmy wspierać przedsiębiorców. Zajmuję się tworzeniem narzędzi, które pomagają ludziom tworzyć własne rynki koncertów. Pomyśl o tych pracownikach: są bardzo zaznajomieni z pracą na koncertach i mogą mieć nowe pomysły na prowadzenie platformy. Problem polega na tym, że nie mają umiejętności technicznych, aby ją skonfigurować, więc buduję narzędzie, które sprawia, że ​​konfiguracja platformy jest trochę podobna do konfigurowania szablonu strony internetowej.

Wiele z tego dotyczy wykorzystania technologii do zmiany równowagi sił.

Chodzi też o zmianę narracji. Niedawno spotkałem się z dwoma pracownikami społecznościowymi, z którymi rozmawiałem i którzy właściwie nazywają siebie pracownikami technicznymi, co – mam na myśli, że w pewien sposób są pracownikami technicznymi, ponieważ napędzają naszą technologię. Kiedy mówimy o crowdworkerach, zazwyczaj przedstawia się ich jako tych, którzy wykonują te okropne prace. Ale zmiana sposobu, w jaki myślimy o tym, kim są ci ludzie, może być pomocna. To tylko kolejna praca techniczna.

ukryć