211service.com
Farmy trolli docierały do 140 milionów Amerykanów miesięcznie na Facebooku przed wyborami w 2020 r., wynika z wewnętrznego raportu
Przegląd technologii MIT | Elementy Envato
Aktualizacja: Po opublikowaniu tej historii Facebook usunął dwie z pięciu zidentyfikowanych przez nas stron o farmach trolli.
W okresie poprzedzającym wybory w 2020 r., najbardziej kontestowane w historii Stanów Zjednoczonych, najpopularniejsze strony Facebooka zawierające treści chrześcijańskie i czarnoskóre były prowadzone przez wschodnioeuropejskie farmy trolli. Według wewnętrznego raportu firmy te strony były częścią większej sieci, która łącznie dotarła do prawie połowy wszystkich Amerykanów i osiągnęła ten zasięg nie dzięki wyborowi użytkownika, ale przede wszystkim dzięki własnemu projektowi platformy Facebooka i algorytmowi żądnemu zaangażowania.
Powiązana historia
Jak Facebook uzależnił się od rozpowszechniania dezinformacji Algorytmy sztucznej inteligencji firmy dały jej nienasycony nawyk kłamstw i mowy nienawiści. Teraz człowiek, który je zbudował, nie może rozwiązać problemu.
Raport, napisany w październiku 2019 r. i uzyskany przez MIT Technology Review od byłego pracownika Facebooka, który nie był zaangażowany w jego badanie, wykazał, że po wyborach w 2016 r. Facebook nie nadał priorytetu fundamentalnym zmianom w sposobie promowania i rozpowszechniania informacji przez swoją platformę. Zamiast tego firma realizowała strategię „walnięcie w kreta”, która polegała na monitorowaniu i tłumieniu działań złych aktorów, gdy angażowali się w dyskurs polityczny, oraz dodawaniu barier ochronnych, które zapobiegały najgorszemu z najgorszego.
Jednak to podejście nie pomogło w rozwiązaniu podstawowego problemu, zauważono w raporcie. Farmy trolli – profesjonalne grupy, które pracują w skoordynowany sposób, aby publikować prowokacyjne treści, często propagandowe, w sieciach społecznościowych – wciąż zdobywały ogromną liczbę odbiorców, prowadząc sieci stron na Facebooku. Ich treść docierała miesięcznie do 140 milionów użytkowników w USA — 75% z nich nigdy nie śledziło żadnej ze stron. Widzieli treść, ponieważ system rekomendacji treści Facebooka wepchnął ją do ich kanałów informacyjnych.
Zamiast użytkowników decydujących się na otrzymywanie treści od tych aktorów, to nasza platforma decyduje się dać [te farmy trolli] ogromny zasięg, napisał autor raportu, Jeff Allen, były starszy analityk danych na Facebooku.
Joe Osborne, rzecznik Facebooka, powiedział w oświadczeniu, że firma badała już te tematy w czasie, gdy pojawił się raport Allena, dodając: Od tego czasu stworzyliśmy zespoły, opracowaliśmy nowe zasady i współpracowaliśmy z rówieśnikami z branży, aby rozwiązać problem te sieci. Podjęliśmy agresywne działania egzekucyjne przeciwko tego rodzaju zagranicznym i krajowym nieautentycznym grupom, a wyniki udostępnialiśmy publicznie co kwartał.
W trakcie sprawdzania faktów tej historii na krótko przed publikacją, MIT Technology Review odkrył, że pięć stron o farmach trolli wymienionych w raporcie pozostało aktywnych.
To największa strona poświęcona farmie trolli skierowana do Afroamerykanów w październiku 2019 r. Nadal pozostaje aktywna na Facebooku.
Raport wykazał, że farmy trolli docierały do tych samych grup demograficznych, które zostały wyróżnione przez wspieraną przez Kreml Agencję Badań nad Internetem (IRA) podczas wyborów w 2016 r., których celem byli chrześcijanie, czarnoskórzy Amerykanie i rdzenni Amerykanie. 2018 Dochodzenie w sprawie wiadomości BuzzFeed odkrył, że co najmniej jeden członek rosyjskiej IRA, oskarżony o rzekomą ingerencję w amerykańskie wybory w 2016 r., również odwiedził Macedonię w związku z pojawieniem się jej pierwszych farm trolli, chociaż nie znalazł konkretnych dowodów na związek. (Facebook powiedział, że jego śledztwo również nie wykazało związku między IRA a macedońskimi farmami trolli).
To jest nienormalne. To nie jest zdrowe, napisał Allen. Umożliwiliśmy nieautentycznym aktorom gromadzenie ogromnej liczby obserwatorów w nieznanych celach… Fakt, że aktorzy z możliwymi powiązaniami z IRA mają dostęp do ogromnej liczby widzów w tych samych grupach demograficznych, do których kierowała IRA, stanowi ogromne ryzyko dla wyborów w USA w 2020 r. .
Dopóki farmy trolli odnosiły sukcesy w stosowaniu tych taktyk, każdy inny zły aktor też mógłby to zrobić, kontynuował: Jeśli farmy trolli docierają do 30 milionów użytkowników w USA z treściami skierowanymi do Afroamerykanów, nie powinniśmy być wcale zaskoczeni, jeśli odkryjemy IRA obecnie ma tam również dużą publiczność.
Allen napisał raport jako czwartą i ostatnią część półtorarocznej próby zrozumienia farm trolli. Opuścił firmę w tym samym miesiącu, po części z powodu frustracji, że kierownictwo skutecznie zignorowało jego badania, według byłego pracownika Facebooka, który dostarczył raport. Allen odmówił komentarza.
Raport ujawnia alarmujący stan rzeczy, w których przywódcy Facebooka przez lata opuszczali platformę, pomimo powtarzających się publicznych obietnic, że będą agresywnie zwalczać ingerencję w wybory z zagranicy. MIT Technology Review udostępnia pełny raport z usuniętymi nazwiskami pracowników, ponieważ leży to w interesie publicznym.
Jego objawienia obejmują:
- Według stanu na październik 2019 r. z Kosowa i Macedonii, znanych złych aktorów podczas wyborów w 2016 r., zabrakło około 15 000 stron na Facebooku z większością widzów w USA.
- Łącznie te strony o farmach trolli — które raport traktuje jako jedną stronę do celów porównawczych — dotarły do 140 milionów użytkowników w USA miesięcznie i 360 milionów użytkowników na całym świecie tygodniowo. Strona Walmart dotarła do drugiej największej liczby odbiorców w Stanach Zjednoczonych, liczącej 100 milionów.
- Strony farmy trolli połączyły się również w:
- największa chrześcijańsko-amerykańska strona na Facebooku, 20 razy większa niż następna co do wielkości – docierająca miesięcznie do 75 milionów użytkowników w USA, z których 95% nigdy nie śledziło żadnej z tych stron.
- największa afroamerykańska strona na Facebooku, trzykrotnie większa niż następna co do wielkości – docierająca miesięcznie do 30 milionów użytkowników w USA, z których 85% nigdy nie śledziło żadnej z tych stron.
- druga co do wielkości strona rdzennych Amerykanów na Facebooku, docierająca miesięcznie do 400 000 użytkowników, z których 90% nigdy nie śledziło żadnej ze stron.
- piąta co do wielkości kobieca strona na Facebooku, docierająca miesięcznie do 60 milionów użytkowników w USA, z których 90% nigdy nie śledziło żadnej z tych stron.
- Farmy trolli mają wpływ przede wszystkim na Stany Zjednoczone, ale także na Wielką Brytanię, Australię, Indie oraz kraje Ameryki Środkowej i Południowej.
- Facebook przeprowadził wiele badań, które potwierdziły, że treści, które z większym prawdopodobieństwem otrzymają zaangażowanie użytkowników (polubienia, komentarze i udostępnienia) są bardziej prawdopodobnymi typami, o których wiadomo, że są złe. Mimo to firma nadal klasyfikuje treści w kanałach informacyjnych użytkowników według tego, co przyniesie największe zaangażowanie.
- Facebook zabrania stronom publikowania treści jedynie skopiowanych i wklejonych z innych części platformy, ale nie egzekwuje polityki wobec znanych złych aktorów. Ułatwia to zagranicznym aktorom, którzy nie mówią w lokalnym języku, publikowanie całkowicie skopiowanych treści i nadal docierają do ogromnej publiczności. W pewnym momencie aż 40% odsłon na stronach w USA przypadło na te, które prezentowały głównie nieoryginalne treści lub materiały o ograniczonej oryginalności.
- Farmy trolli wcześniej trafiły do programów partnerskich Facebooka Instant Artykuły i Ad Breaks, które mają na celu pomóc organizacjom informacyjnym i innym wydawcom zarabiać na swoich artykułach i filmach. W pewnym momencie, ze względu na brak podstawowych kontroli jakości, aż 60% przeczytanych artykułów trafiało do treści, które zostały splagiatowane skądinąd. Ułatwiło to farmom trolli łączenie się niezauważone, a nawet otrzymywanie płatności z Facebooka.
Jak Facebook umożliwia farmom trolli i powiększa ich publiczność
Raport dotyczy w szczególności farm trolli w Kosowie i Macedonii, prowadzonych przez ludzi, którzy niekoniecznie rozumieją amerykańską politykę. Jednak ze względu na sposób, w jaki zaprojektowane są systemy nagradzania na Facebooku, mogą one nadal mieć znaczący wpływ na dyskurs polityczny.
Powiązana historia
Zaryzykowała wszystko, żeby zdemaskować Facebooka. Teraz opowiada swoją historię. Sophie Zhang, była badaczka danych z Facebooka, ujawniła, że umożliwia to globalną manipulację polityczną i niewiele zrobiła, aby to powstrzymać.
W raporcie Allen wymienia trzy powody, dla których te strony są w stanie zdobyć tak dużą publiczność. Po pierwsze, Facebook nie karze stron za publikowanie całkowicie nieoryginalnych treści. Jeśli coś wcześniej stało się wirusowe, prawdopodobnie ponownie stanie się wirusowe, gdy zostanie opublikowane po raz drugi. To sprawia, że każdy może naprawdę łatwo zdobyć masową rzeszę fanów, na przykład wśród czarnoskórych Amerykanów. Źli aktorzy mogą po prostu kopiować wirusowe treści ze stron czarnoskórych Amerykanów, a nawet z Reddit i Twittera, i wklejać je na własnej stronie — a czasem na dziesiątkach stron.
Po drugie, Facebook udostępnia interesujące treści na stronach osobom, które ich nie śledzą. Gdy znajomi użytkowników komentują lub udostępniają posty na jednej z tych stron, ci użytkownicy również zobaczą to w swoich kanałach aktualności. Im więcej treści strony jest komentowane lub udostępniane, tym bardziej wykracza ona poza swoich obserwujących. Oznacza to, że farmy trolli, których strategia koncentruje się na ponownym publikowaniu najbardziej angażujących treści, mają ogromną zdolność dotarcia do nowych odbiorców.
Po trzecie, system rankingowy Facebooka wypycha bardziej angażujące treści wyżej w kanałach informacyjnych użytkowników. W większości ludzie, którzy prowadzą farmy trolli, mają motywy finansowe, a nie polityczne; publikują to, co wzbudza największe zainteresowanie, bez względu na rzeczywistą treść. Ale ponieważ dezinformacja, przynęta na kliknięcia i treści politycznie dzielące mają większe szanse na uzyskanie wysokiego zaangażowania (jak potwierdzają wewnętrzne analizy Facebooka), farmy trolli z czasem skłaniają się do publikowania ich większej ilości, mówi raport.
W rezultacie w październiku 2019 r. wszystkie 15 z najpopularniejszych stron skierowanych do Amerykanów pochodzenia chrześcijańskiego, 10 z 15 najpopularniejszych stron na Facebooku skierowanych do czarnoskórych Amerykanów i cztery z 12 najpopularniejszych stron na Facebooku skierowanych do rdzennych Amerykanów było prowadzonych przez farmy trolli.
Nasza platforma dała największy głos w amerykańskiej społeczności chrześcijańskiej garstce złych aktorów, którzy, opierając się na swoich praktykach produkcji mediów, nigdy nie byli w kościele, napisał Allen. Nasza platforma dała największy głos w społeczności Afroamerykanów garstce złych aktorów, którzy, opierając się na swoich praktykach w zakresie produkcji mediów, nigdy nie mieli interakcji z Afroamerykaninem.
Powiązana historia
Recenzja: Dlaczego Facebook nigdy się nie naprawi W „Brzydkiej prawdzie” reporterzy Sheera Frenkel i Cecilia Kang ujawniają fundamentalne wady Facebooka, szczegółowo opisując lata między dwoma wyborami w USA.
Zawsze wyda mi się to głęboko dziwne... i naprawdę przerażające, pisał. Wydaje się całkiem jasne, że dopóki ta sytuacja nie zostanie naprawiona, zawsze będziemy odczuwać poważne trudności w realizacji naszej misji.
Raport zasugerował również możliwe rozwiązanie. To nie pierwszy raz, kiedy ludzkość walczyła ze złymi aktorami w naszych ekosystemach medialnych, napisał, wskazując na wykorzystanie przez Google tak zwanej miary autorytetu opartej na wykresach — która ocenia jakość strony internetowej na podstawie tego, jak często ją cytuje i jest cytowany przez inne wysokiej jakości strony internetowe — aby zdegradować złych aktorów w swoich rankingach wyszukiwania.
Mamy własną implementację miary autorytetu opartej na wykresach – kontynuował. Jeśli platforma poświęci więcej uwagi temu istniejącym wskaźnikom w rankingu stron, może to pomóc w odwróceniu niepokojącego trendu, w którym strony docierają do najszerszych odbiorców.
Kiedy rankingi Facebooka stawiają na pierwszym miejscu zaangażowanie, strony z farmami trolli biją autentyczne strony, napisał Allen. Ale 90% stron Troll Farm ma dokładnie 0 autorytetu wykresu… [Strony autentyczne] wyraźnie wygrywają.
Problemy systemowe
Przeszukanie wszystkich stron poświęconych farmie trolli wymienionych w raporcie ujawnia, że pięć z nich jest nadal aktywnych prawie dwa lata później:
- Strona o nazwie My Baby Daddy Ain’t Shit, która była największą stroną Facebooka skierowaną do Afroamerykanów w październiku 2019 roku.
- Strona o nazwie Savage Hood skierowana do Afroamerykanów.
- Strona o nazwie Hood Videos, skierowana do Afroamerykanów.
- Strona o nazwie Cel życia, skierowana do chrześcijan.
- Strona o nazwie Eagle Spirit, której celem są rdzenni Amerykanie.
Strona o farmie trolli skierowana do chrześcijańskich Amerykanów.
Ostatnie kontrowersje na Facebooku Raport o szeroko oglądanej treści sugeruje, że niektóre z głównych luk w zabezpieczeniach wykorzystywanych przez farmy trolli również pozostają. Piętnaście z 19 najczęściej oglądanych postów wymienionych w raporcie zostały plagiatowane z innych postów, które wcześniej stały się wirusowe na Facebooku lub innej platformie, zgodnie z analizą Caseya Newtona z The Verge.
Samantha Bradshaw, adiunkt na Uniwersytecie Stanforda, która bada skrzyżowanie dezinformacji, mediów społecznościowych i demokracji, mówi, że raport mówi o wielu głębszych problemach systemowych z platformą i jej algorytmem w sposób, w jaki promują pewne rodzaje treści dla niektórych użytkowników, a wszystko oparte tylko na tej podstawowej wartości wzrostu. Jeśli nie zostaną one naprawione, będą nadal tworzyć zniekształcone, ekonomiczne bodźce dla złych aktorów, dodaje: To jest problem.