211service.com
Czarnoskóre dziennikarki i polityczki otrzymują obraźliwe tweety co 30 sekund
Uczenie maszynowe ujawnia niepokojący poziom nękania, wykorzystywania i trollingu wymierzonego w kobiety i mniejszości na Twitterze. 18 grudnia 2018
Kuna Björk | Unsplash
Twitter może być toksycznym miejscem. W ostatnich latach trolling i nękanie na stronie sprawiły, że jest to wyjątkowo nieprzyjemne i denerwujące doświadczenie dla wielu osób, zwłaszcza kobiet i mniejszości. Jednak automatyczne rozpoznanie i powstrzymanie takich nadużyć jest trudne do dokładnego i niezawodnego wykonania. Dzieje się tak, ponieważ pomimo wszystkich ostatnich postępów w sztucznej inteligencji, maszyny generalnie wciąż mają trudności z rozsądnym reagowaniem na komunikację między ludźmi. Na przykład sztuczna inteligencja zwykle ma trudności z wyłapaniem obraźliwych wiadomości, które mogą być sarkastyczne lub zakamuflowane za pomocą pozytywnych słów kluczowych.
W nowym badaniu wykorzystano najnowocześniejsze uczenie maszynowe, aby uzyskać dokładniejszy obraz skali nękania na Twitterze. Jego analiza potwierdza to, co wiele osób już podejrzewa: dziennikarki i politycy z mniejszości kobiet i mniejszości spotykają się z szokującą ilością nadużyć na platformie.
Badanie przeprowadzone przez Amnesty International we współpracy z kanadyjską firmą ElementyAI pokazuje, że czarnoskóre polityczki i dziennikarki są o 84% częściej wymieniane w obraźliwych lub problematycznych tweetach niż białe kobiety wykonujące ten sam zawód.
To po prostu doprowadza do szału, mówi Julien Cornebise, dyrektor ds. badań w ElementAI w Londynie, biurze zajmującym się humanitarnymi zastosowaniami uczenia maszynowego. Te kobiety stanowią dużą część tego, jak działa społeczeństwo.
Badacze ElementAI najpierw wykorzystali narzędzie do uczenia maszynowego podobne do tego używanego do klasyfikowania spamu w celu identyfikacji obraźliwych tweetów. Następnie badacze przekazali ochotnikom mieszankę wstępnie sklasyfikowanych i wcześniej niewidocznych tweetów do sklasyfikowania. Tweety zidentyfikowane jako obraźliwe zostały wykorzystane do szkolenia sieci głębokiego uczenia się. Rezultatem jest system, który może klasyfikować nadużycia z imponującą dokładnością, według Cornebise.
Projekt skupił się na tweetach wysyłanych do polityków i dziennikarzy. W badaniu wzięło udział 6500 wolontariuszy ze 150 krajów, którzy pomogli sklasyfikować nadużycia w 228 000 tweetów wysłanych do 778 kobiet polityków i dziennikarzy w Wielkiej Brytanii i Stanach Zjednoczonych w 2017 roku.
W badaniu przeanalizowano tweety wysyłane do członkiń parlamentu Wielkiej Brytanii oraz Kongresu i Senatu USA, a także dziennikarek z takich publikacji jak Daily Mail, Gal Dem, Guardian, Pink News i Sun w Wielkiej Brytanii oraz Breitbart i New York Times w USA.
Okazało się, że w tym okresie do 778 kobiet wysłano 1,1 miliona obraźliwych tweetów — to odpowiednik jednego na 30 sekund. Okazało się również, że 7,1% wszystkich tweetów wysyłanych do kobiet w tych rolach to nadużycia. Naukowcy stojący za badaniem wydali również narzędzie, zwany Patrolem Trolli , aby sprawdzić, czy tweet stanowi nadużycie lub nękanie.
Chociaż podejście oparte na głębokim uczeniu było dużym ulepszeniem istniejących metod wykrywania nadużyć, naukowcy ostrzegają, że uczenie maszynowe lub sztuczna inteligencja nie wystarczą do ciągłego identyfikowania trollingu. Cornebise twierdzi, że narzędzie jest często tak dobre, jak moderatorzy, ale jest również podatne na błędy. Mówi, że w dającej się przewidzieć przyszłości potrzebny będzie ludzki osąd.
Twitter był szeroko krytykowany za to, że nie robi więcej, aby nadzorować swoją platformę. Milena Marin, która pracowała nad projektem w Amnesty International, mówi, że firma powinna przynajmniej bardziej transparentnie podchodzić do swoich metod policyjnych.
Troll Patrol nie polega na nadzorowaniu Twittera ani zmuszaniu go do usuwania treści, mówi Marin. Ostrzegła jednak, że Twitter musi zacząć jasno określać, w jaki sposób wykorzystuje uczenie maszynowe do wykrywania nadużyć i publikować informacje techniczne o algorytmach, na których opiera się.
W odpowiedzi na raport, prawnik Twittera Vijaya Gadde zwrócił uwagę na problem zdefiniowania nadużycia. Chciałbym zauważyć, że koncepcja „problematycznych” treści do celów klasyfikacji treści wymaga dalszej dyskusji, powiedział Gadde w oświadczeniu. Ciężko pracujemy, aby stworzyć globalnie egzekwowalne zasady i rozpoczęliśmy konsultacje z opinią publiczną w ramach tego procesu.