Automoderator Reddita to przyszłość internetu i jest głęboko niedoskonały

obraz mężczyzny patrzącego na kod komputerowy trzy monitory automoderator automod moderowanie reddit Jefferson Santos przez Unsplash

Przez ostatnie cztery lata Shagun Jhaver moderował kilka subredditów, skrupulatnie przewijając strony i blokując posty, które naruszają zasady społeczności lub są wręcz obraźliwe.

Doktorant w Georgia Tech, którego badania koncentrują się na moderowaniu treści, Jhaver zastanawiał się, czy automatyczny moderator może pomóc mu zaoszczędzić nie tylko czas, ale także psychiczne żniwo przesiewania psychologicznie wyczerpujących treści. Wraz z trzema kolegami postanowił więc dowiedzieć się, czy automatyczny moderator – w tym przypadku AutoMod — faktycznie pracował.

Zespół osobiście moderował kilka stron na Reddicie, a następnie przeprowadził wywiady z 16 innymi moderatorami niektórych z najpopularniejszych subredditów na stronie — w tym r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying i r/politics. z czego miliony subskrybentów. Wszyscy polegają na AutoMod, który pomoże im moderować. Jhaver zaprezentuje Praca w przyszłym tygodniu w Konferencja ACM na temat pracy spółdzielczej wspomaganej komputerowo i obliczeń społecznych .

Platformy mediów społecznościowych, takie jak Facebook, Instagram i YouTube, od dawna polegają na ludzkich moderatorach, którzy ręcznie przeczesują treści i usuwają brutalne i obraźliwe materiały, od rasistowskiej i seksistowskiej mowy nienawiści po graficzne wideo z masowych strzelanin. Moderatorzy, często pracując na podstawie umowy, za minimalną płacę z niewielkimi świadczeniami, mogą spędzać długie godziny na poważnie odbija się na ich zdrowiu psychicznym .

Automoderatorzy są próbą złagodzenia nudnych i negatywnych skutków takiej pracy. Opracowany przez Redditor Chad Birch jako sposób na zwiększenie jego zdolności do moderowania kanału r/gaming, AutoMod to oparte na regułach narzędzie do identyfikowania słów, które naruszają zasady publikowania określonej strony. Od tego czasu jest szeroko stosowany – Reddit zaadoptował go w całej witrynie w 2015 roku, a wkrótce potem podążyły za nim niezwykle popularne platformy do strumieniowego przesyłania gier Twitch i Discord.

Jednak to, czy AutoMod rzeczywiście oszczędza czas, jest wątpliwe. Z jednej strony automoderatorzy są bardzo dobrzy w tym, co robią – jeśli są zaprogramowani do wyszukiwania przekleństw, bezbłędnie znajdą i zablokują posty, które je zawierają. Może wysyłać do autorów powiadomienia o problematycznych treściach, które według Jhavera mają charakter edukacyjny, ponieważ autorzy mogą dowiedzieć się, co było nie tak z tym, co opublikowali.

To nie jest mały wyczyn. Jak zauważają Jhaver i jego koledzy, około 22% wszystkich zgłoszeń na Reddit między marcem a październikiem 2018 r. zostało usuniętych. To daje około 17,4 miliona postów w tym okresie.

Ale powiedzmy, że to słowo jest ważne dla kontekstu postu – dyskusji w 2016 roku o niesławnej niesławnej osobie, która wkrótce zostanie prezydentem Donalda Trumpa. komentarz na temat chwytania kobiecych genitaliów , na przykład. Takie posty byłyby oflagowane z powodu obraźliwego języka, mimo że omawianie tego języka jest przede wszystkim celem posta. Jhaver mówi, że to frustruje użytkowników, którzy muszą wrócić i poprosić moderatorów o przywrócenie posta.

A w świecie mediów społecznościowych, w którym niepokojące treści coraz częściej składają się z obraźliwych memów, transmisji na żywo ze strzelanin lub innych wizualnych, beztekstowych treści, poleganie AutoMod na znajdowaniu słów kluczowych jest dużą odpowiedzialnością.

Robert Peck, moderator dużych subreddits r/pics i r/aww, wie o tym aż za dobrze. Każda z tych stron jest oparta na obrazach, a każda ma miliony obserwujących publikujących znacznie więcej treści, niż ktokolwiek mógłby być rozsądnie poproszony o przesiewanie.

Mimo to twierdzi, że chociaż nie potrafi analizować obrazów, AutoMod ułatwił mu pracę. Użytkownicy dodają deskryptory bezpośrednio do obrazów, a my możemy sprawdzić te tytuły, mówi. Szukamy zgrubienia konta lub spamu, który ma konta automatyzujące posty. Często używają nawiasów. Możemy powiedzieć AutoModowi, aby szukał tych wzorców.

Czy ci się to podoba, czy nie, AutoMod i jego podobni to przyszłość moderowania platform społecznościowych. Prawdopodobnie zawsze będzie niedoskonały, ponieważ maszyny wciąż są daleko od prawdziwego zrozumienia ludzkiego języka. Ale na tym właśnie ma polegać automatyzacja: na oszczędzaniu czasu ludzi na żmudne lub budzące zastrzeżenia zadania. Możliwość skoncentrowania się na postach, które wymagają ludzkiego dotyku, sprawia, że ​​praca moderatora jest o wiele bardziej wartościowa i pozwala zarówno moderatorom, jak i plakatom skupić się na lepszych rozmowach.

Nie rozwiąże problemu osób publikujących nieprzyjemne, złośliwe lub w inny sposób szkodliwe treści – to nadal będzie jeden z najbardziej drażliwych problemów współczesnego Internetu. Ale to robi różnicę. Peck mówi, że jest wdzięczny za zdolność AutoModa do pomocy mu w tworzeniu postów wsadowych. To potężna technologia i całkiem przyjazna dla użytkownika — nie ma trudności z zaprogramowaniem równoważnego bota, mówi. [AutoMod] to moje najpotężniejsze narzędzie i bez niego byłbym zgubiony.

ukryć