211service.com
Czy Gig Economy jest sfałszowany?
Ilustracja autorstwa Matthew Hollistera
Aplikacje i witryny, których można używać do zatrudniania osób do poszczególnych zadań, takich jak kupowanie artykułów spożywczych lub projektowanie nowego logo, wystartowały w ostatnich latach, obiecując bardziej wydajny i sprawiedliwszy rynek pracy. Jednak nowe badanie z Northeastern University w Bostonie sugeruje, że dyskryminacja rasowa i seksualna może być powszechna na dwóch popularnych platformach ekonomii koncertów.
Badacze kierowani przez Christo Wilson , adiunkt w Northeastern oraz Ancsa Hannak , doktorant zbadał TaskRabbit, platformę do zatrudniania ludzi do załatwiania spraw, oraz Fiverr, rynek usług kreatywnych. Na obu znaleźli dowody na uprzedzenia wzdłuż linii rasowych i płciowych.
To tylko jeden przykład tego, jak uprzedzenia wkradają się do platform i usług internetowych. I to niepokojące, ponieważ gospodarka koncertowa miała być nie tylko bardziej wydajna i elastyczna, ale także mniej stronnicza — ponieważ algorytmy wykonują pracę polegającą na łączeniu ludzi.
Na Fiverr naukowcy znaleźli dowody na to, że czarni i azjatyccy robotnicy otrzymali niższe oceny niż biali. A na TaskRabbit kobiety otrzymały mniej recenzji niż mężczyźni, a czarni pracownicy otrzymali niższe oceny niż biali. Być może najbardziej niepokojące jest to, że naukowcy znaleźli dowody na takie stronniczość w algorytmie rekomendacji w TaskRabbit. Badania zostaną zaprezentowane na konferencji naukowej w Nowym Jorku w tym tygodniu.
Nie można powiedzieć z całą pewnością, że korelacja zidentyfikowana przez Wilsona i Hannáka wynika z uprzedzeń rasowych i płciowych ze strony zatrudniających, w przeciwieństwie do jakiegoś nieznanego czynnika zakłócającego, ale Wilson twierdzi, że wzór jest niepokojący. Mówi się, że to przyszłość pracy, mówi. Jeśli zamierzasz wdrożyć algorytm, który będzie używany przez miliony ludzi, ponosisz pewien rodzaj odpowiedzialności wobec opinii publicznej za zbadanie, co wdrażasz, ocenę tego i sprawdzenie, czy będzie zawierał którekolwiek z tych negatywne skutki uboczne.
Rzecznik Fiverr twierdzi, że metodologia badania była błędna, ponieważ ignoruje takie czynniki, jak granice międzynarodowe i różnice językowe. Zaznacza również, że użytkownicy nie muszą podawać żadnych danych demograficznych, aby korzystać z usługi, co ułatwia uniknięcie dyskryminacji. TaskRabbit nie odpowiedział na prośbę o komentarz.
Istnieje jednak coraz więcej dowodów na to, że stronniczość może wpływać na wszystkie rodzaje usług cyfrowych. W zeszłym miesiącu naukowcy z MIT, Stanford i University of Washington odkrył, że że kierowcy Ubera w Bostonie częściej odwoływali podróże dla klientów o afroamerykańsko brzmiących nazwiskach oraz że czarni klienci Ubera w Seattle musieli liczyć się z dłuższym czasem oczekiwania niż ich biali odpowiednicy. W badaniu opublikowanym w zeszłym roku naukowcy z CMU znalazłem dowody że ogłoszenia o dobrze płatnej pracy były częściej wyświetlane mężczyznom niż kobietom.
W wielu przypadkach widoczne uprzedzenia odzwierciedlają to, co można znaleźć w prawdziwym świecie, takie jak świadome i podświadome uprzedzenia, które pracodawcy mogą wnosić przy podejmowaniu decyzji o zatrudnieniu. Tak więc w przypadku silników rekomendacji lub systemów uczenia maszynowego pytanie brzmi, w jaki sposób można usunąć stronniczość, czy to ze zbiorów danych dostarczanych do algorytmów, czy z samych algorytmów.
Ludzie myślą, że ponieważ jest to komputer, jest neutralny – dodaje Wilson. Jeśli masz stronnicze dane, ma sens trenowanie algorytmu stronniczego.
Don MacKenzie , adiunkt na Uniwersytecie Waszyngtońskim i jeden z autorów niedawnego badania Ubera, podkreśla, że badanie nie dowodzi, że w grę wchodzą uprzedzenia rasowe lub płciowe. Ale mówi, że ważne jest, aby wziąć pod uwagę stronniczość w ekonomii koncertów i leżących u jej podstaw algorytmach – dodając, że problem powinien być możliwy do rozwiązania, jeśli firmy będą ostrożne.
Jest to rozwijający się obszar i jeśli istnieje zestaw najlepszych praktyk, nie jestem tego świadomy, mówi MacKenzie. Z mojej perspektywy firmy, programiści i badacze danych powinni być czujni, słuchać opinii i nie bać się wypróbowywać różnych rozwiązań. Myślę, że jeśli wszyscy podejdą do tych kwestii w dobrej wierze, konstruktywnie i z chęcią wypróbowania różnych rzeczy, możemy zbliżyć się do wyeliminowania uprzedzeń w tych systemach.