Firmy te twierdzą, że dostarczają dane dotyczące uczciwego handlu. Czy oni?

Ilustracja przedstawiająca otwieranie mózgu, odsłaniająca pracowników danych Róża Wong

Pewnego chłodnego nowojorskiego popołudnia w lutym, Leon Campbell przykucnął przy swoim biurku w biurze na Manhattanie. Wywołał podcast o grach i uruchomił platformę oprogramowania na swoim laptopie. Przez kilka następnych godzin klikał na obrazach narożniki pojazdów, zmuszając oprogramowanie do rysowania wokół nich ramek.

Identyfikując zdjęcia samochodów i SUV-ów, Campbell i inni tworzyli ryzy danych do uczenia algorytmów, takich jak te w pojazdach autonomicznych. To była monotonna praca, powiedział Campbell, który ma 24 lata i autyzm. Często wiązało się to z narysowaniem pudełek w podobnych pozycjach i przestawieniem pudełek tak, aby nadal znajdowały się wokół obiektu, gdy wyjdą nieco poza ramę. Niemniej jednak cieszył się, że go ma. To pomaga mi przygotować się na przyszłe przedsięwzięcia, które chcę realizować, powiedział, dodając, że ma nadzieję zostać programistą lub projektantem gier.

Budowa systemów sztucznej inteligencji wiąże się z dużym nakładem pracy ludzkiej. Wiele z nich polega na czyszczeniu, kategoryzowaniu i oznaczaniu danych, zanim sztuczna inteligencja pozyska je w celu wyszukania wzorców. AI Now Institute, organ ds. etyki, odnosi się do tej pracy jako ukrytej pracy potoku AI, zapewniającej niewidzialną ludzką pracę, która często powstrzymuje twierdzenia o „magii” AI po wdrożeniu tych systemów w produktach i usługach.

Campbell jest stosunkowo uprzywilejowanym członkiem tej puli pracowników. Pracuje 28 godzin tygodniowo dla Daivergent, internetowej platformy roboczej zaprojektowanej, aby pomóc osobom z autyzmem zdobyć przydatne doświadczenie zawodowe i przygotować się do kariery, i zarabia od 12 do 20 dolarów za godzinę. (Daivergent nie ujawnił swojej dokładnej płacy, ale powiedział, że jest to typowy zakres firmy i stawka rynkowa dla Nowego Jorku.)

Z drugiej strony większość osób wykonujących adnotacje do danych nie pracuje w biurach na Manhattanie, ale w swoich domach w miejscach takich jak Indie, Kenia, Malezja i Filipiny. Logują się na platformach internetowych od kilku minut do kilku godzin dziennie, być może rozróżniając pęczki zielonej cebuli i łodygi selera lub okulary przeciwsłoneczne w stylu kocich oczu i lotników. Jak opisano w niedawnej książce Ghost Work autorstwa Mary Gray i Siddhartha Suri, większość z nich to pracownicy kontraktowi z niskimi zarobkami, niepewnym zatrudnieniem i bez możliwości awansu zawodowego.

Mała grupa firm zajmujących się adnotacjami danych ma na celu przepisanie tej narracji. Ale te firmy, które chcą dobrze sobie radzić w usługach danych AI, odkrywają, że droga do oświecenia przedsiębiorstwa może być wyboista.

Alegium

Gra liczb

Zazwyczaj pracownicy zajmujący się adnotacjami danych logują się do Amazon Mechanical Turk lub platform gig-work z firm zajmujących się adnotacjami danych, takich jak Appen. Tam wykonują zadania zlecone przez firmy AI, które płacą platformom skrawki centa za minutę. W bezwzględnej rywalizacji o biznes platformy te konkurują skalą, szybkością i kosztami.

Na przykład Appen może pochwalić się pulą miliona wykonawców, którzy wykonują takie zadania, jak kategoryzowanie obrazów medycznych czy tłumaczenie tekstu dla chatbotów. Kiedy w marcu firma kupiła dostawcę adnotacji danych Figure 8 za 300 milionów dolarów, firma wyjaśniono że zakup pomoże jej spełnić wymagania klientów dotyczące skali, szybkości i jakości.

To naprawdę wyścig na dno, mówi Daniel Kaelin, dyrektor ds. sukcesu klientów w Alegion, firmie świadczącej usługi adnotacji danych w Austin w Teksasie. Cała ta branża jest bardzo, bardzo konkurencyjna; każdy próbuje znaleźć trochę tańszą siłę roboczą gdzieś na świecie.

Co tak naprawdę oznacza wpływ?

Alegion jest jedną z kilku platform, w tym CloudFactory, Digital Divide Data (DDD), iMerit i Samasource, które twierdzą, że chcą, aby dane AI działały godnie. Nazywają siebie firmami wpływowymi i twierdzą, że oferują etycznie pozyskiwaną pracę związaną z danymi, z lepszymi warunkami pracy i perspektywami kariery niż większość firm w branży. To jak ziarna kawy ze sprawiedliwego handlu, ale dla ogromnych zbiorów danych.

Jednak nie ma żadnych przepisów, a jedynie słabe standardy branżowe określające, co oznacza etyczne zaopatrzenie. A własne definicje firm bardzo się różnią.

Na przykład w iMerit ludzie, którzy pracowali w firmie przez kilka lat, awansowali w górę, aby pełnić rolę kierowników zespołów, kierowników projektów i trenerów domen, mówi Radha Basu, współzałożycielka i dyrektor generalny firmy. Firma zatrudnia 2300 pełnoetatowych pracowników, w większości z Indii; połowa to kobiety, które mogą otrzymać do sześciu miesięcy urlopu macierzyńskiego. Firma iMerit powstała w 2012 roku jako firma dochodowa typu double bottom-line, co oznacza, że ​​mierzy się na podstawie wskaźników wpływu społecznego, takich jak integracja i różnorodność, a także tradycyjnych wskaźników podatkowych.

Osoby w Kenii i Ugandzie pracujące dla dostawcy usług danych Samasource mają również pracę na pełen etat, z korzyściami takimi jak opieka zdrowotna, emerytury, dotowane posiłki i 90 dni urlopu macierzyńskiego. Tymczasem DDD zatrudnia młodzież o niskich dochodach, migrantów wiejskich i mieszkańców miejskich slumsów – z których co najmniej 50% to kobiety – do wykonywania cyfrowych zadań przez sześć do ośmiu godzin dziennie, zgodnie z raportem firmy z 2018 roku. Firma płaci za część edukacji i pomaga swoim współpracownikom przejść do pracy w innym miejscu.

Z kolei Alegion i CloudFactory oferują głównie pracę kontraktową na godzinę – co jest normą wśród firm zajmujących się przypisywaniem danych – zamiast zatrudnienia na pełny etat. CloudFactory twierdzi, że 79% pracowników chmury twierdzi, że firma jest ich głównym źródłem dochodu,wzrost z 28% w 2015 r.. Jednak w przypadku Alegionu wiele z nich jest postrzeganych jako dochód dodatkowy, a nie dochód pierwotny, mówi dyrektor generalny Alegionu, Nathaniel Gates. To nie jest dla nich kariera.

Troy Stringfield, który objął stanowisko globalnego dyrektora ds. wpływu firmy Alegion w 2018 r., broni etykiety wpływu — którą siedmioletnia firma przyjęła dopiero w ciągu ostatniego roku — mówiąc, że wpływ oznacza tworzenie pracy, która poprawia jakość życia ludzi. Wchodzi i mówi: „Co to jest płaca znośna? Co sprawia, że ​​są lepsi od tego, gdzie są?”, mówi.

Ale Sara Enright, dyrektor projektu w Global Impact Sourcing Coalition (GISC), organizacji branżowej finansowanej przez członków, mówi, że wątpliwe jest, aby taka praca była nazywana Impact sourcing: jeśli jest to wyłącznie praca na koncertach, w której dana osoba ma dostęp w niepełnym wymiarze godzin pensje przez godzinę dziennie tu i tam, to nie ma wpływu na zatrudnienie, ponieważ nie prowadzi do rozwoju kariery i ostatecznie do zmniejszenia ubóstwa.

CloudFactory, DDD, iMerit i Samasource (ale nie Alegion) są członkami GISC, który ustanowił standard pozyskiwania wpływu . Określa minimalne wymagania i dobrowolne najlepsze praktyki dotyczące zatrudnienia, które poprawiają życie osób, które w przeciwnym razie mają ograniczone szanse na formalne zatrudnienie. Organizacja, założona w 2016 roku, wymaga, aby wyniki jej członków w zakresie niedyskryminacji, równości wynagrodzeń i innych kryteriów były oceniane co dwa lata.

Jednak członkowie GISC nie są karani ani wyrzucani, jeśli nie przejdą oceny. Firmy różnią się również tym, ile podają do publicznej wiadomości. Samaźródło na przykład publikuje audyty wpływu raportowanie danych demograficznych siły roboczej, liczby osób wyprowadzonych z ubóstwa i nie tylko. DDD Raporty roczne zawierają dane pokazujące średnie miesięczne zarobki pracowników oraz szacowany wzrost dochodów w ciągu całego życia.

Z drugiej strony CloudFactory opublikowało raport o wpływie społecznym w 2015 roku, ale od tamtego czasu nie wydała żadnego. Firma powiedziała MIT Technology Review, że co roku przekazuje metryki wpływu do Fundacji Rockefellera, inwestora w firmie. Tymczasem iMerit powiedział, że jako firma nastawiona na zysk nie publikuje takich raportów, podczas gdy Alegion powiedział, że ma szerokie cele, które chce osiągnąć, ale nie podał konkretnych wskaźników.

Wejście na rynek amerykański

W swojej dążeniu do ekspansji firmy takie jak Alegion i iMerit również próbują zbudować pulę pracowników przetwarzających dane w Stanach Zjednoczonych, czerpiąc z populacji znajdujących się w niekorzystnej sytuacji i zmarginalizowanych. Daje im to lukratywny dostęp do klientów rządowych, finansowych i opieki zdrowotnej, którzy wymagają rygorystycznych środków bezpieczeństwa, pracują z regulowanymi danymi medycznymi i finansowymi lub potrzebują pracy w USA z innych powodów prawnych.

Aby rekrutować tych amerykańskich pracowników, firmy mające wpływ na wpływy mogą przechodzić przez firmy takie jak Daivergent, która służy jako kanał do organizacji takich jak Autism Society i Autism Speaks. (Tam właśnie pracuje Campbell, którego poznaliśmy wcześniej rysując pudełka wokół samochodów). Alegion również przeprowadził próbę z pracownikami dostarczonymi przez IAM23, grupę wsparcia dla weteranów wojskowych.

Jednak próba wprowadzenia do USA modelu opartego na outsourcingu zagranicznym stanowi problem. Nadal potrzebujesz niedrogiej siły roboczej, mówi Stringfield z Alegion.

iMerit również miał problemy ze wzrostem siły roboczej w USA. Kiedy firma otworzyła sklep w Nowym Orleanie w zeszłym roku, obiecując 100 nowych miejsc pracy, burmistrz Mitch Landrieu publicznie jej pogratulował. Ale po ponad roku firma ma w mieście zaledwie 30 pełnoetatowych pracowników. Aby osiągnąć 100, potrzebuje więcej umów z klientami, mówi Jai Natarajan, szef marketingu firmy.

Częścią firmy jest to, że nie tylko zapewnia tanią, towarową pracę na koncertach, ale coś dość specjalistycznego. Na przykład w czerwcu firma iMerit's Basu była w Nowym Orleanie, pomagając opracować program szkoleniowy dla pracowników wykonujących rodzaj analizy obrazu, która może zająć od 45 do 90 minut na zadanie. Ludzie patrzą na Impact sourcing i zakładają, że ludzie, którzy pochodzą z ubogich środowisk, zajmują się tylko etykietowaniem na najniższym poziomie. To dość niedokładne, mówi Basu. Jednak ceny wyścigu do dołu w branży etykietowania danych pomagają wzmocnić ogólne przekonanie, że praca jest prosta i powinna być tania. To sprawia, że ​​twierdzenie iMerit – że jego usługi wymagają wyższych umiejętności – jest trudne do sprzedania.

Konkurowanie z głównymi firmami nastawionymi na zysk również było trudne dla Samasource, który Leila Janah uruchomiła jako organizację non-profit 11 lat temu. Samozwańczy nerd totalnej sprawiedliwości społecznej, który wygłosił przemówienia na SXSW, kilka wydarzeń TedX i doroczne spotkanie MFW w 2016 r., Janah napisał książkę z 2017 r. Daj pracę: odwracanie ubóstwa jedna praca na raz. Po uruchomieniu swojej marki LXMI, luksusowej marki kosmetyków do pielęgnacji skóry fair-trade, Janah pojawiła się na błyszczących stronach Moda w 2018 roku , obok projektantów mody, modelek, pary rodzeństwa tancerzy na lodzie i innych, którzy dokonują zmian i prowadzą rozmowy, gdziekolwiek zaprowadzi ich ich kariera.

Mimo jej płodnych wysiłków, mówi Janah, Samasource nie miało szans w starciu z firmami typu for-profit. W zasadzie mieliśmy zostać oszukani przez wszystkie te firmy… z zerowym zainteresowaniem etyką lub płaceniem uczciwych wynagrodzeń, ale zebraniem 20 milionów dolarów z funduszy VC na tworzenie danych szkoleniowych z, w zasadzie, anonimową siłą roboczą, mówi.

Przeszła więc na model hybrydowy, w którym założycielska organizacja non-profit posiada większość udziałów w firmie nastawionej na zysk, która może pozyskiwać kapitał od inwestorów. Jest to coraz bardziej powszechny model dla przedsiębiorców społecznych w obszarach takich jak mikrokredyty, opieka zdrowotna i szkolenia zawodowe.

Alegium

Ale przyszedł z kompromisem. Samasource zdecydował, że aby zachęcić inwestorów, nie miał innego wyboru, jak tylko dać im prawo głosu. Nie ma inwestora, który w inny sposób zainwestowałby w firmę, w której zarząd non-profit dyktowałby wyniki, mówi Janah. Mówi, że jej zarząd uznał, że ryzyko odebrania przez inwestorów modelu wpływu Samasource było bardzo niskie, i nie zastanawiałaby się nad tym, czy inwestorzy faktycznie podjęli jakiekolwiek decyzje, które go osłabiły.

Pranie udarowe?

Bez standardów raportowania i walidacji przez strony trzecie, musimy wierzyć firmom na słowo, że to, co robią, to nie tylko sztuczki marketingowe lub to, co niektórzy nazywają myciem skutków.

Dobrze jest zapytać, kiedy firma bez wielu kwalifikacji mówi: „Spójrz na wpływ, jaki osiągamy dzięki zapewnianiu dobrych miejsc pracy”, mówi Enright. Samo rozwijanie firmy w kraju rozwijającym się niekoniecznie sprawia, że ​​jest to przedsięwzięcie wywierające wpływ, tylko dlatego, że oferuje dobrą pracę ludziom, którzy w przeciwnym razie nie mieliby tej pracy.

Inaczej niż w przypadku towarów sprawiedliwego handlu, na firmy wywierana jest niewielka presja publiczna, aby były uczciwe, ponieważ świadczą one swoje usługi przedsiębiorstwom, a nie bezpośrednio konsumentom. Konsumenci mogą cenić etyczne pozyskiwanie - na przykład w Patagonii i różnych markach konsumenckich - i jako konsument kupujesz to, mówi Natarajan z iMerit. Ale dopiero się okaże, co oznacza etyczne zaopatrzenie w sektorze b-to-b. Jak Wydanie Pulsu z 2014 roku , magazyn branży outsourcingowej, zauważył, że firmy musiałyby dokonać wyboru, aby skorzystać z dostawców siły roboczej świadomych wpływu. Bez przepisów i presji opinii publicznej nie jest jasne, co może skłonić ich do dokonania takiego wyboru, a bez standardów i odpowiedzialności nie jest jasne, jak powinni oceniać dostawców.

W końcu może to być tylko regulacja, która zmienia praktyki pracy. Nie ma możliwości zmiany zatrudnienia od wewnątrz rynków. Tak, robią wszystko, co mogą, a to tak, jakby powiedzieć, że mam rower bez pedałów i robię wszystko, co w mojej mocy, aby jeździć na nim tak szybko, jak to jest zrobione, mówi Gray. Praca z duchami współautor. Nie ma organizowania praw pracowników i uczciwego zatrudnienia bez zaangażowania społeczeństwa obywatelskiego i jeszcze tego nie zrobiliśmy.

Kate Kaye jest niezależną dziennikarką i założycielką strony sprawozdawczej poświęconej etyce AI Czerwony ogon .

ukryć