211service.com
Facebook potrzebuje 30 000 własnych moderatorów treści, mówi nowy raport
Powiązana prasa Powiązana prasa
Wyobraź sobie, że Facebook przestał teraz moderować swoją witrynę. Każdy mógł publikować co tylko chciał. Doświadczenie wydaje się sugerować, że dość szybko stałoby się to piekielne środowisko przepełnione spamem, nękaniem, przestępczością, ścinaniem głów przez terrorystów, tekstami neonazistowskimi i obrazami przedstawiającymi seksualne wykorzystywanie dzieci. W takim scenariuszu prawdopodobnie odeszłyby ogromne połacie jego bazy użytkowników, a następnie lukratywni reklamodawcy.
Ale jeśli umiar jest tak ważny, nie jest tak traktowany. Zdecydowana większość z 15 000 osób, które spędzają cały dzień na decydowaniu, co może, a co nie może być na Facebooku, nawet nie pracuje dla Facebooka. Cała funkcja moderacji treści jest przekazywana zewnętrznym dostawcom, którzy zatrudniają pracowników tymczasowych na niepewnych kontraktach w ponad 20 lokalizacjach na całym świecie. Muszą przeglądać setki postów dziennie, z których wiele jest głęboko traumatyzujące . Błędy są rozpowszechniony , pomimo przyjęcia przez firmę Narzędzia AI do stanowisk segregacyjnych, według których wymagają uwagi. Facebook sam przyznał się do 10% wskaźnika błędów, niezależnie od tego, czy jest to nieprawidłowe oznaczanie postów do usunięcia, które powinny być utrzymane, czy odwrotnie. Biorąc pod uwagę, że recenzenci muszą przedzierać się przez trzy miliony postów dziennie, oznacza to 300 000 błędów dziennie. Niektóre błędy mogą mieć śmiertelne skutki. Na przykład członkowie armii Myanmaru korzystali z Facebooka podżegać do ludobójstwa przeciwko w większości muzułmańskiej mniejszości Rohingya w 2016 i 2017 roku. Firma później to przyznała nie udało się wyegzekwować własnych zasad zakaz mowy nienawiści i podżegania do przemocy.
Jeśli chcemy ulepszyć sposób prowadzenia moderacji, Facebook musi zatrudnić moderatorów treści we własnym zakresie, uczynić ich pełnoprawnymi pracownikami i podwoić ich liczbę, argumentuje nowy raport z Centrum Biznesu i Praw Człowieka Uniwersytetu Nowojorskiego.
Moderacja treści nie przypomina innych funkcji zlecanych na zewnątrz, takich jak gotowanie czy sprzątanie, mówi autor raportu Paul M. Barrett, zastępca dyrektora centrum. Jest to centralna funkcja biznesu mediów społecznościowych, co sprawia, że jest nieco dziwne, że traktuje się ją tak, jakby była peryferyjna lub czyjś problem.
Dlaczego moderacja treści jest tak traktowana przez liderów Facebooka? Przynajmniej częściowo sprowadza się to do kosztów, mówi Barrett. Jego zalecenia byłyby bardzo kosztowne dla firmy, aby uchwalić – najprawdopodobniej w dziesiątkach milionów dolarów (chociaż patrząc na to z perspektywy, sprawia, że miliardy dolarów zysku każdego roku). Ale jest drugi, bardziej złożony powód. Działalność moderacji treści po prostu nie pasuje do wizerunku Doliny Krzemowej. Niektóre rodzaje działań są bardzo cenione i glamourowane – innowacje produktowe, sprytny marketing, inżynieria… sedno sprawy moderacji treści nie pasuje do tego, mówi.
Uważa, że nadszedł czas, aby Facebook potraktował moderację jako centralną część swojej działalności. Mówi, że podniesienie jej statusu w ten sposób pomogłoby uniknąć katastrofalnych błędów popełnianych w Birmie, zwiększyć odpowiedzialność i lepiej chronić pracowników przed szkodami dla ich zdrowia psychicznego.
Wydaje się nieuniknioną rzeczywistością, że moderowanie treści zawsze będzie wiązało się z kontaktem z jakimś przerażającym materiałem, nawet jeśli praca jest wnoszona we własnym zakresie. Jednak firma może zrobić o wiele więcej, aby to ułatwić: lepiej sprawdzać moderatorów, aby upewnić się, że naprawdę są świadomi zagrożeń związanych z pracą, i zapewnić dostęp do najwyższej jakości opieki i poradnictwa. Barrett uważa, że moderowanie treści może być czymś, co wszyscy pracownicy Facebooka muszą robić przez co najmniej rok, jako rodzaj obowiązku, aby pomóc im zrozumieć wpływ ich decyzji.
Raport zawiera osiem rekomendacji dla Facebooka:
- Przestań zlecać moderowanie treści i zwiększ liczbę moderatorów w miejscu pracy.
- Podwój liczbę moderatorów, aby poprawić jakość sprawdzania treści.
- Zatrudnij kogoś do nadzorowania treści i sprawdzania faktów, który podlega bezpośrednio prezesowi lub dyrektorowi operacyjnemu.
- Dalszy rozwój moderacji w zagrożonych krajach w Azji, Afryce i innych krajach.
- Zapewnij wszystkim moderatorom najwyższej jakości opiekę medyczną na miejscu, w tym dostęp do psychiatrów.
- Sponsoruj badania nad zagrożeniami dla zdrowia związanymi z moderacją treści, w szczególności PTSD.
- Zapoznaj się z wąsko dostosowanymi przepisami rządowymi dotyczącymi szkodliwych treści.
- Znacząco rozszerz weryfikację faktów, aby obalać fałszywe informacje.
Propozycje są co najmniej ambitne. Kiedy skontaktowano się z Facebookiem w celu uzyskania komentarza, nie dyskutował, czy rozważyłby ich uchwalenie. Jednak rzecznik powiedział, że jego obecne podejście oznacza, że możemy szybko dostosować koncentrację naszych pracowników w razie potrzeby, dodając, że daje nam to możliwość upewnienia się, że posiadamy odpowiednią wiedzę językową – i możemy szybko zatrudniać w różnych strefach czasowych – w miarę nowych potrzeb pojawiają się lub gdy sytuacja na całym świecie to uzasadnia.
Ale Barrett uważa, że niedawny eksperyment przeprowadzony w odpowiedzi na kryzys koronawirusa pokazuje, że zmiana jest możliwa. Facebook ogłosił, że ponieważ wielu jego moderatorów treści nie było w stanie wejść do biur firmy, to: przenieść odpowiedzialność na pracowników wewnętrznych do sprawdzania pewnych wrażliwych kategorii treści.
To bardzo wymowne, że w chwili kryzysu Zuckerberg polegał na ludziach, którym ufa: na swoich pełnoetatowych pracownikach, jak mówi. Być może można by to uznać za podstawę do rozmowy na Facebooku na temat dostosowania sposobu wyświetlania moderacji treści.