Wyciekły zasady moderacji Facebooka pokazują, dlaczego Big Tech nie może nadzorować mowy nienawiści

Kategoria: Dolina Krzemowa Opublikowany 28 grudnia

Społeczeństwo poprosiło Big Tech o wyłączenie mowy nienawiści w Internecie. Dostaliśmy dokładnie to, o co prosiliśmy.

Wiadomości: Max Fisher z New York Times opublikowane fragmenty z ponad 1400 stron wewnętrznych dokumentów Facebooka, zawierających zasady dla globalnej armii firmy liczącej ponad 7500 moderatorów treści. (Płyta główna miała wcześniej opublikowany niektóre z tego samego materiału).

Co jest w środku? Ogromna mieszanina wytycznych, ograniczeń i klasyfikacji. Same zasady dotyczące mowy nienawiści obejmują 200 wypełnionych żargonem, przyprawiających o zawrót głowy stron. Zawierają one szczegółowe informacje o tym, jak interpretować emotikony (używanie ? może być najwyraźniej zarówno zastraszaniem, jak i chwaleniem) oraz listy osób lub partii politycznych, które należy monitorować pod kątem możliwej mowy nienawiści. Dokumenty pokazują, że Facebook jest znacznie potężniejszym arbitrem globalnej mowy, niż to przyznał, pisze Fisher.

Problem: Wytyczne są nie tylko bizantyjskie; niektóre są nieaktualne lub zawierają błędy. Różnią się one również znacznie w zależności od nacisku na firmę: Facebook blokuje dziesiątki skrajnie prawicowych grup w Niemczech, gdzie władze kontrolują sieć społecznościową, ale tylko jedną w sąsiedniej Austrii. Od moderatorów, z których większość pracuje dla firm outsourcingowych i przechodzi minimalne szkolenie, oczekuje się, że w ciągu kilku sekund będą dokonywać złożonych ocen, przetwarzanie tysiąca postów dziennie , których reguły zmieniają się często w odpowiedzi na wydarzenia polityczne i często korzystają z Tłumacza Google.

Na wynos: To usuwa wszelkie pozostały udawanie że Facebook jest tylko neutralną platformą wydawniczą. Osądy polityczne przenikają każdą stronę tych wytycznych.

Ale czego się spodziewałeś? Jak powiedział mi w październiku były szef ochrony Facebooka, Alex Stamos, zażądaliśmy, aby platformy technologiczne nienawidziły mowy, a to tylko daje im więcej władzy. To niebezpieczna ścieżka, ostrzegł Stamos. Za pięć lub dziesięć lat mogą istnieć systemy uczenia maszynowego, które będą rozumieć zarówno ludzkie języki, jak i ludzkie. Możemy skończyć z szybkością maszyny, moderacją w czasie rzeczywistym wszystkiego, co mówimy online.