211service.com
Jak algorytm wykrywania trolli nauczył się antyspołecznego handlu?
Trolle są plagą wielu stron internetowych. Są to ludzie, którzy celowo angażują się w zachowania antyspołeczne, publikując treści podżegające lub nie na temat. W najlepszym razie są frustrującą irytacją; w najgorszym przypadku mogą zamienić ludzkie życie w nieszczęście.
Tak więc sposób na wykrywanie trolli na początku ich kariery online i zapobieganie ich najgorszym ekscesom byłby cennym narzędziem.
Dziś Justin Cheng z Uniwersytetu Stanforda w Kalifornii i kilku kumpli twierdzą, że stworzyli właśnie takie narzędzie, analizując zachowanie trolli na kilku znanych stronach internetowych i tworząc algorytm, który potrafi je dokładnie wykryć już po 10 postach. Mówią, że ich technika powinna mieć duże znaczenie praktyczne dla ludzi, którzy utrzymują społeczności internetowe.
Cheng i wsp. badają trzy internetowe społeczności informacyjne: ogólną witrynę z wiadomościami CNN.com, witrynę z wiadomościami politycznymi Breitbart.com oraz witrynę z grami komputerowymi IGN.com.
Na każdej z tych witryn znajduje się lista użytkowników, którzy zostali zbanowani za zachowania antyspołeczne, łącznie ponad 10 000 z nich. Posiadają również wszystkie wiadomości publikowane przez tych użytkowników przez cały okres ich aktywności online. Takie osoby są wyraźnymi przykładami użytkowników antyspołecznych i stanowią „podstawową prawdę” w naszych analizach, mówią Cheng i spółka.
Ci goście postanowili odpowiedzieć na trzy różne pytania dotyczące antyspołecznych użytkowników. Po pierwsze, czy są aspołeczni przez całe życie społeczne, czy dopiero pod koniec. Po drugie, czy reakcja społeczności powoduje pogorszenie ich zachowania. I wreszcie, czy użytkownicy antyspołeczni mogą być odpowiednio wcześnie zidentyfikowani.
Porównując wiadomości wysłane przez użytkowników, którzy zostali ostatecznie zbanowani, z wiadomościami wysłanymi przez użytkowników, którzy nigdy nie zostali zbanowani, Cheng i spółka odkryli wyraźne różnice. Jedną z miar, z których korzystają, jest czytelność postów, oceniana na podstawie metryki zwanej zautomatyzowanym indeksem czytelności.
To wyraźnie pokazuje, że użytkownicy, którzy zostali później zbanowani, mają tendencję do pisania postów gorszej jakości na początek. I nie tylko, jakość ich postów z czasem spada.
I chociaż społeczności początkowo wydają się wyrozumiały i dlatego powoli zakazują zakazywania antyspołecznym użytkownikom, z czasem stają się mniej tolerancyjne. Skutkuje to zwiększonym tempem usuwania [postów użytkowników antyspołecznych], jak mówią.
Co ciekawe, Cheng i spółka twierdzą, że różnice między wiadomościami publikowanymi przez osoby, które zostały później zbanowane, a tymi, które nie są, są tak wyraźne, że stosunkowo łatwo jest je wykryć za pomocą algorytmu uczenia maszynowego. W rzeczywistości wystarczy obserwować od pięciu do dziesięciu postów użytkowników, zanim klasyfikator będzie w stanie dokonać wiarygodnej prognozy, chwalą się.
To może się przydać. Zachowania aspołeczne to coraz poważniejszy problem, którego wykrycie i rozwiązanie wymaga znacznego wkładu człowieka. Ten proces często oznacza, że użytkownicy antyspołeczni mogą działać znacznie dłużej niż to konieczne. Nasze metody mogą skutecznie identyfikować użytkowników antyspołecznych na wczesnym etapie życia społeczności i zmniejszać część tego obciążenia, mówią Cheng i spółka.
Oczywiście należy zachować ostrożność przy każdym automatycznym podejściu. Jednym z potencjalnych zagrożeń jest niepotrzebne blokowanie użytkowników, którzy nie są antyspołeczni, ale zostali zidentyfikowani jako tacy przez algorytm. Ten odsetek wyników fałszywie dodatnich należy dokładniej zbadać.
Niemniej jednak, dzięki podejściu firmy Cheng i spółka, praca moderatorów na stronach umożliwiających przesyłanie wiadomości może wkrótce zostać znacznie ułatwiona.
Nr ref.: arxiv.org/abs/1504.00680 : Zachowanie antyspołeczne w internetowych społecznościach dyskusyjnych