Algorytm YouTube wydaje się kierować ludzi do filmów alternatywnych

Kategoria: Ludzie i technologia Opublikowany 29 stycznia

Nowy badanie sugeruje, że to, co podejrzewaliśmy od lat, jest słuszne: YouTube jest kanałem ekstremizmu i nienawiści.

Skąd to wiemy? Ponad 330 000 filmów na prawie 350 kanałach YouTube zostało przeanalizowanych i ręcznie sklasyfikowanych zgodnie z systemem zaprojektowanym przez Anti-Defamation League. Zostały one oznaczone jako media (lub coś, co uważamy za fakty), alt-lite intelektualna ciemna sieć lub alt-right.

Grupy: Alt-right jest tym, co tradycyjnie kojarzy się z białą supremacją, dążąc do białego etnostatu. Ci, którzy łączą się z intelektualną ciemną siecią, usprawiedliwiają białą supremację na podstawie eugeniki i nauki o rasie. Członkowie alt-lite rzekomo nie popierają białej supremacji, chociaż wierzą w teorie spiskowe o zastępowaniu przez grupy mniejszościowe.

Wejście: Autorzy badania wysunęli hipotezę, że alternatywna i intelektualna ciemna sieć często służy jako brama do bardziej ekstremalnych, skrajnie prawicowych ideologii. Przetestowali więc to, śledząc autorów 72 milionów komentarzy do około dwóch milionów filmów między majem a lipcem zeszłego roku. Wyniki były niepokojące. Ponad 26% osób, które skomentowały filmy alt-lite, przeszło do filmów alt-right, a następnie je skomentowało.

Gra winna: Za pomocą prostego wyszukiwania dość łatwo jest dostać się do alternatywnych i intelektualnych treści w ciemnej sieci, ale filmy z alternatywnymi wersjami są zwykle trudniejsze do znalezienia dla początkujących użytkowników. Jednak badacze odkryli, że algorytm YouTube często kierował użytkowników, którzy szukali określonych słów kluczowych, w stronę coraz bardziej brutalnych, ekstremalnych treści.

A jest coraz gorzej: Zespół ze Szwajcarskiego Federalnego Instytutu Technologii w Lozannie znalazł również dowody na to, że nasila się nakładanie się alt-rightów z innymi, którzy parają się intelektualną ciemną siecią i materiałami alt-lite. Autorzy szacują, że około 60 000 osób, które komentowały treści alt-lite lub intelektualne ciemne strony internetowe, zostało narażonych na filmy alt-right w ciągu około 18 miesięcy. Praca została zaprezentowana na konferencji 2020 poświęconej uczciwości, odpowiedzialności i przejrzystości, która odbyła się w tym tygodniu w Barcelonie.

Nadal niewiele wiemy o radykalizacji w YouTube: Po pierwsze, nie jesteśmy do końca pewni, co sprawia, że ​​ludzie przechodzą od materiałów alternatywnych do materiałów skrajnie prawicowych. Dzieje się tak częściowo dlatego, że YouTube ogranicza dostęp do danych rekomendacji. Możliwe jest również, że niektórzy ludzie przychodzą do YouTube już zradykalizowani przez jakieś zewnętrzne źródło spoza YouTube. Ale te badania sugerują, że algorytmy rekomendacji YouTube mogą odgrywać znaczącą rolę.

Tło: YouTube od dawna zmaga się z zachowaniem równowagi między zachowaniem wolności słowa a zwalczaniem mowy nienawiści. Firma podjęła wstępne kroki, blokując niektóre kanały, w szczególności Infowars Alexa Jonesa. Ale krytycy twierdzą, że YouTube nie zrobił wystarczająco dużo.

W oświadczeniu YouTube powiedział, że rozwiązuje następujące problemy: W ciągu ostatnich kilku lat… Zmieniliśmy nasze algorytmy wyszukiwania i odkrywania, aby zapewnić wyświetlanie bardziej wiarygodnych treści i wyróżnianie ich w wynikach wyszukiwania i rekomendacjach oraz zaczęliśmy ograniczać rekomendacje dotyczące treści granicznych i filmy, które mogą wprowadzać użytkowników w błąd w szkodliwy sposób”.

Rzecznik dodał, że YouTube kwestionuje metodologię i nie bierze pod uwagę nowszych aktualizacji swojej polityki lub zaleceń dotyczących szerzenia nienawiści. 'Zdecydowanie nie zgadzamy się z metodologią, danymi i, co najważniejsze, wnioskami wyciągniętymi z tych nowych badań' - powiedział rzecznik.

Uwaga od redakcji: ta historia została zredagowana w celu uwzględnienia komentarza i sporu YouTube.