Masowe strzelaniny w Nowej Zelandii pokazują, jak zepsute są media społecznościowe

Kategoria: Dolina Krzemowa Opublikowany 15 marca

Rewolwerowiec transmitował na żywo morderstwo dziesiątek niewinnych osób w dwóch meczetach w Christchurch w Nowej Zelandii w piątek – a świat otrzymał okropne przypomnienie o tym, jak wadliwe są istniejące zasady i algorytmy w mediach społecznościowych w celu nadzorowania brutalnych i obraźliwych treści.

W dniach poprzedzających strzelaninę sprawca najwyraźniej chwalił się swoimi planami i zamieścił internetowy manifest. Następnie transmitował ten przerażający akt na żywo na Facebooku. W wyniku ataku zginęło 49 osób, a kilkadziesiąt zostało rannych.

Transmisja na żywo: W ciągu ostatnich 18 miesięcy, po skandalach związanych z nękaniem i fałszywymi wiadomościami, firmy zajmujące się mediami społecznościowymi zainwestował dużo w moderatorów treści . Ale to niewiele zrobiło, by powstrzymać rozprzestrzenianie się materiału wideo ze strzelaniny. Podobno transmisja na żywo nie tylko trwała przez 20 minut, ale powstały film został następnie ponownie opublikowany na YouTube, a niektóre klipy pozostały przez ponad godzinę.

Według ekspertów kilka czynników przyczyniło się do tego, że materiał filmowy prześlizgnął się przez filtry.

Wyzwanie w czasie rzeczywistym: Ważne jest, aby szybko złapać film, aby nie rozprzestrzenił się na inne platformy. Jednak moderacja w mediach społecznościowych po prostu nie jest nastawiona na przechwytywanie treści w czasie rzeczywistym. Niemożliwe jest skuteczne zautomatyzowanie procesu, a identyfikacja strumieni na żywo, które należy wyłączyć ręcznie, jest jak znalezienie igły w stogu siana danych, który cały czas przepływa przez sieć, mówi Mydło Karola , profesor w Szkole Dziennikarstwa NYU. Dodaje, że Facebook może wymagać od użytkowników budowania reputacji przed udostępnieniem im treści na żywo, aby zmniejszyć ryzyko.

Uderz w kreta: Moderatorzy są w najlepszym razie przytłoczeni. Film z strzelaniny na YouTube najprawdopodobniej rozprzestrzenił się tak szybko, że ludzie zatrudnieni do sprawdzania nieodpowiednich treści nie mieli czasu, aby wszystko uchwycić. Pracownicy ci mają zwykle kilka sekund na wykonanie połączenia. Proces można częściowo zautomatyzować, ale ci, którzy ponownie opublikowali materiał, najwyraźniej go przycięli i wprowadzili zniekształcenia, aby uniknąć tych algorytmów.

Awaria algorytmiczna: Firmy zajmujące się mediami społecznościowymi również stosują poprawki algorytmiczne, aby zmienić priorytet podejrzanych treści. Ale Mike Anna , profesor nadzwyczajny na Uniwersytecie Południowej Kalifornii, twierdzi, że te algorytmy zostały prawdopodobnie rzucone przez popularność obraźliwych filmów.

To nie nasz problem: Czynniki te odzwierciedlają kluczowy problem systemowy: Facebook, YouTube i inne duże platformy społecznościowe nie postrzegają siebie w pierwszej kolejności jako arbitrów treści. Badania wykazały że skrajnie prawicowe źródła informacji mogą być bardziej proaktywnie nadzorowane, aby zapobiec rozprzestrzenianiu się materiałów zawierających przemoc lub nienawiść. Mają taką postawę post hoc, mówi Ananny. To głęboka kulturowa sprawa.