Dlaczego media społecznościowe nie mogą moderować treści w cieniu

Pexels

W 2016 roku mogłem policzyć z jednej strony rodzaje interwencji, które firmy technologiczne były skłonne zastosować, aby pozbyć się swoich platform z dezinformacji, mowy nienawiści i nękania. Z biegiem lat prymitywne mechanizmy, takie jak blokowanie treści i blokowanie kont, przekształciły się w bardziej złożony zestaw narzędzi, w tym poddawanie tematów kwarantannie, usuwanie postów z wyszukiwania, blokowanie rekomendacji i obniżanie priorytetów postów.

A jednak, nawet przy większej liczbie opcji, dezinformacja pozostaje poważnym problemem. W Dniu Wyborów pojawiło się wiele informacji na temat dezinformacji — moja koleżanka Emily Drefyuss odkryła na przykład, że gdy Twitter próbował radzić sobie z treścią za pomocą hashtagu #BidenCrimeFamily, stosując taktykę, w tym deindeksowanie przez blokowanie wyników wyszukiwania, użytkownicy, w tym Donald, atut dostosowane za pomocą wariantów tego samego tagu . Ale wciąż nie wiemy zbyt wiele o tym, jak Twitter zdecydował się robić te rzeczy w pierwszej kolejności, ani jak waży i uczy się ze sposobów, w jakie użytkownicy reagują na moderację.

Jakie działania podjęły te firmy? Jak działają ich zespoły moderacyjne? Jak wygląda proces podejmowania decyzji?

Ponieważ firmy zajmujące się mediami społecznościowymi zawieszały konta oraz oznaczały i usuwały posty, wielu badaczy, organizacje społeczeństwa obywatelskiego i dziennikarze starali się zrozumieć swoje decyzje. Brak przejrzystości tych decyzji i procesów oznacza, że ​​– dla wielu – wyniki wyborów w tym roku kończą się gwiazdką, podobnie jak w 2016 roku.

Jakie działania podjęły te firmy? Jak działają ich zespoły moderacyjne? Jak wygląda proces podejmowania decyzji? W ciągu ostatnich kilku lat firmy zajmujące się platformami połączyły duże grupy zadaniowe zajmujące się usuwaniem dezinformacji wyborczej i etykietowaniem wczesnych deklaracji zwycięstwa. Sarah Roberts , profesor na UCLA, pisał o niewidzialnej pracy moderatorów treści platformowych jako o ukrytym przemyśle, labiryncie wykonawców i skomplikowanych zasadach, o których opinia publiczna niewiele wie. Dlaczego nie wiemy więcej?

W powyborczej mgle media społecznościowe stały się terenem toczącej się na niskim poziomie wojny z naszym bezpieczeństwem poznawczym, z mnożącymi się kampaniami dezinformacyjnymi i teoriami spiskowymi. Kiedy media informacyjne pełniły rolę strażnika informacji, było to… obarczony zobowiązaniami w interesie publicznym takie jak udostępnianie aktualnych, lokalnych i istotnych informacji. Firmy zajmujące się mediami społecznościowymi odziedziczyły podobną pozycję w społeczeństwie, ale nie podjęły tych samych obowiązków. Ta sytuacja napełniła armaty zarzutami o uprzedzenia i cenzurę w sposobie moderowania treści związanych z wyborami.

Ponoszenie kosztów

W październiku ja dołączył do panelu ekspertów w sprawie dezinformacji, spisku i infodemii dla Stałej Specjalnej Komisji ds. Wywiadu Izby Reprezentantów. Towarzyszyła mi Cindy Otis, była analityk CIA; Nina Jankowicz, dezinformatorka w Wilson Center; oraz Melanie Smith, szefowa działu analiz w Graphika.

Kiedy przygotowywałem swoje zeznanie, Facebook zmagał się z QAnon, zmilitaryzowanym ruchem społecznym, monitorowanym przez ich dział organizacji niebezpiecznych i potępionym przez Dom w ustawie ponadpartyjnej . Mój zespół był badam QAnon od lat . Ta teoria spiskowa stała się ulubionym tematem wśród badaczy dezinformacji ze względu na wszystkie sposoby, w jakie pozostała rozszerzalna, adaptowalna i odporna w obliczu wysiłków firm platformowych zmierzających do poddania jej kwarantannie i usunięcia.

QAnon stał się również tematem Kongresu, ponieważ nie chodzi już o osoby uczestniczące w dziwna gra online: wylądowało jak tornado w życiu polityków, którzy są teraz celem kampanii nękania, które przechodzą z gorączkowe sny spiskowców o przemoc . Co więcej, stało się to szybko i na nowe sposoby. Teorie spiskowe zwykle zajmują lata, aby rozprzestrzenić się w społeczeństwie, promując kluczowe postacie polityczne, medialne i religijne. Media społecznościowe przyspieszyły ten proces dzięki stale rosnącym formom dostarczania treści. Obserwatorzy QAnon nie tylko komentują najświeższe wiadomości; naginają go do swojej prośby .

Skupiłem swoje zeznanie na wielu niewymienionych z nazwy szkodach spowodowanych niezdolnością firm zajmujących się mediami społecznościowymi do zapobiegania dezinformacji przed nasyceniem ich usług. Dziennikarze, pracownicy służby zdrowia i pracownicy medyczni, liderzy społeczeństwa obywatelskiego i urzędnicy miejscy, tacy jak organy ścigania i urzędnicy wyborowi, ponoszą koszty dezinformacji na dużą skalę i ciężar przeciwdziałania jej skutkom. Wiele osób porusza się na palcach w kwestiach politycznych podczas rozmów z przyjaciółmi i rodziną, ale ponieważ dezinformacja na temat protestów zaczęła mobilizować białych strażników, a dezinformacja medyczna doprowadziła ludzi do bagatelizowania pandemii, różne sektory zawodowe zaczęły odgrywać ważną nową rolę, ponieważ zwolennicy prawdy .

Weźmy na przykład pracowników służby zdrowia i lekarzy, którzy musieli opracować zasoby do łagodzenia dezinformacji medycznej na temat COVID-19. Lekarze próbują stać się wpływowymi osobami online, aby skorygować fałszywe porady i fałszywe twierdzenia o cudownych lekarstwach, zabierając czas na zapewnienie opieki lub opracowanie leczenia. W międzyczasie wiele redakcji dostosowało się do normalizacji dezinformacji w mediach społecznościowych, rozwijając rytm dezinformacji — obalając teorie spiskowe lub fałszywe wiadomości, które mogą mieć wpływ na ich czytelników. Ale te zasoby byłyby znacznie lepiej wydane na utrzymanie dziennikarstwa, niż na działanie w charakterze zewnętrznych moderatorów treści.

Powiązana historia

Dziękujemy za opublikowanie: Lekcje palenia dotyczące regulowania mediów społecznościowych Byli dyrektorzy Facebooka przyznają, że używali podręcznika przemysłu tytoniowego do produktów uzależniających. Być może można go również użyć do cofnięcia uszkodzeń.

Organizacje społeczeństwa obywatelskiego również zostały zmuszone do wydawania zasobów na monitorowanie dezinformacji i ochronę swojej bazy przed ukierunkowanymi kampaniami. Rasowa dezinformacja to wytrawna taktyka krajowych i zagranicznych operacji wpływowych: kampanie albo podszywają się pod kolorowe społeczności, albo wykorzystują rasizm w celu zwiększenia polaryzacji w kwestiach klinowych. Brandi Collins-Dexter zeznał o tych problemach na przesłuchaniu w Kongresie w czerwcu, podkreślając, jak firmy technologiczne ukrywają się za wezwaniami do ochrony wolności słowa za wszelką cenę, nie robiąc wystarczająco dużo, aby chronić społeczności czarnoskórych, które codziennie są atakowane w mediach społecznościowych za pomocą dezinformacji medycznych, mowy nienawiści, podżegania i nękania.

Urzędnicy wyborczy , pracownicy organów ścigania i ratownicy są w bardzo niekorzystnej sytuacji, próbując wykonywać swoją pracę, podczas gdy plotki i teorie spiskowe rozprzestrzeniają się w Internecie. Teraz, organy ścigania szykują się na przemoc w lokalach wyborczych.

Droga do poprawy

Kiedy dezinformacja rozprzestrzenia się ze świata cyfrowego do świata fizycznego, może przekierować zasoby publiczne i zagrozić bezpieczeństwu ludzi. Dlatego firmy zajmujące się mediami społecznościowymi muszą traktować tę kwestię tak poważnie, jak traktują chęć zysku.

Ale potrzebują ścieżki do poprawy. Sekcja 230 ustawy o komunikacji i dobrych obyczajach umożliwia firmom mediów społecznościowych poprawę moderacji treści, ale politycy zagrozili usunięciem tych zabezpieczeń aby mogli kontynuować swoje własne kampanie propagandowe. Przez cały październikowy przesłuchanie pojawiło się widmo nowej agencji, która mogłaby niezależnie kontrolować naruszenia praw obywatelskich, badać kwestie prywatności danych i oceniać rynkowe efekty zewnętrzne tej branży w innych sektorach.

Jak argumentowałem podczas przesłuchania, ogromny zasięg mediów społecznościowych na całym świecie oznacza, że ​​ważne jest, aby regulacje nie zaczynały się od demontażu sekcji 230, dopóki nie zostanie wprowadzona nowa polityka.

Do tego czasu potrzebujemy większej przejrzystości. Dezinformacja nie dotyczy wyłącznie faktów; chodzi o to, kto może powiedzieć, jakie są fakty. Uczciwe decyzje dotyczące moderacji treści są kluczem do odpowiedzialności publicznej.

Zamiast trzymać się technostalgii przez czas, kiedy nie było tak źle, czasami warto zapytać, czego potrzeba, by wynaleźć media społecznościowe, abyśmy mogli wytyczyć kurs dla sieci, którą chcemy – sieci, która promuje demokrację, wiedza, opieka i równość. W przeciwnym razie każda niewyjaśniona decyzja firm technologicznych o dostępie do informacji może stać się pożywką dla spiskowców i, co gorsza, podstawą nadmiernie sięgającej polityki rządu.

ukryć