Jak Facebook i Google finansują globalne dezinformacje

Giganci technologiczni płacą miliony dolarów operatorom stron typu clickbait, finansując niszczenie ekosystemów informacyjnych na całym świecie.





światło i cień na podłodze

Getty

  • Karen Hao strona archiwum
20 listopada 2021

Birma, marzec 2021.

Miesiąc po upadku demokratycznego rządu.



Twoja przeglądarka nie obsługuje tagu wideo. Twoja przeglądarka nie obsługuje tagu wideo.

Film na żywo na Facebooku pokazał setki ludzi protestujących przeciwko wojskowemu zamachowi stanu na ulicach Birmy.

Miał prawie 50 000 udostępnień i ponad 1,5 miliona wyświetleń w kraju z nieco ponad 54 milionami ludzi.

Obserwatorzy, nie mogąc zobaczyć wydarzeń na ziemi, wykorzystali materiał filmowy, wraz z setkami innych przekazów na żywo, do śledzenia i dokumentowania rozwijającej się sytuacji. (MIT Technology Review zamazał nazwy i obrazy plakatów, aby uniknąć narażenia ich bezpieczeństwa.)



Ale niecały dzień później to samo wideo było ponownie emitowane wiele razy, a każdy nadal twierdził, że jest na żywo.

W środku ogromnego kryzysu politycznego nie było już sposobu, aby odróżnić, co jest prawdziwe, a co nie.

Według danych z CrowdTangle, narzędzia prowadzonego przez Facebooka, w 2015 r. sześć z 10 witryn w Birmie, które cieszyły się największym zaangażowaniem na Facebooku, pochodziło z legalnych mediów. Rok później Facebook (który niedawno zmienił nazwę na Meta) zaoferował globalny dostęp do artykułów błyskawicznych, programu, z którego wydawcy mogliby zarabiać na swoich treściach.



Rok po tym wdrożeniu legalni wydawcy stanowili tylko dwóch z 10 najlepszych wydawców na Facebooku w Birmie. Do 2018 r. wyniosły zero. Całe zaangażowanie przeniosło się zamiast tego na fałszywe wiadomości i strony internetowe z przynętami na kliknięcia. W kraju, w którym Facebook jest synonimem internetu, treści o niskiej jakości przytłaczają inne źródła informacji.

To właśnie podczas tej gwałtownej degradacji cyfrowego środowiska Myanmaru, w sierpniu 2017 r. wojownicza grupa Rohingjów – głównie muzułmańska mniejszość etniczna – zaatakowała i zabiła kilkunastu członków sił bezpieczeństwa. i wypychać antymuzułmańską propagandę, artykuły o fałszywych wiadomościach wykorzystujące nastroje stały się wirusowe. Twierdzili, że muzułmanie byli uzbrojeni, że gromadzili się w motłochu liczącym 1000 osób, że zbliżali się do ciebie, by cię zabić.

Dziś nadal nie jest jasne, czy fałszywe wiadomości pochodziły głównie od aktorów politycznych, czy od osób motywowanych finansowo. Ale tak czy inaczej, sama ilość fałszywych wiadomości i clickbait działała jak paliwo do płomieni i tak już niebezpiecznie wysokich napięć etnicznych i religijnych. Zmienił opinię publiczną i eskalował konflikt, który ostatecznie doprowadził, według ostrożnych szacunków, do śmierci 10 000 Rohingjów i wysiedlenia kolejnych 700 000.



W 2018 roku dochodzenie ONZ wykazało, że przemoc wobec Rohingya stanowiła ludobójstwo, a Facebook odegrał decydującą rolę w tych okrucieństwach. Kilka miesięcy później Facebook przyznał, że nie zrobił wystarczająco dużo, aby zapobiec wykorzystywaniu naszej platformy do wzniecania podziałów i podżegania do przemocy offline.

W ciągu ostatnich kilku tygodni rewelacje z Facebook Papers, zbioru wewnętrznych dokumentów dostarczonych Kongresowi i konsorcjum organizacji informacyjnych przez demaskatorkę Frances Haugen, potwierdziły to, co organizacje społeczeństwa obywatelskiego mówią od lat: Algorytmiczne wzmacnianie prowokacyjnych treści przez Facebooka , w połączeniu z brakiem priorytetowego traktowania moderowania treści poza Stanami Zjednoczonymi i Europą, podsyciło rozprzestrzenianie się mowy nienawiści i dezinformacji, niebezpiecznie destabilizując kraje na całym świecie.

Ale w tej historii brakuje kluczowego elementu. Facebook nie tylko wzmacnia dezinformację.

Firma również go finansuje.

Przegląd technologii MIT dochodzenie, oparte na wywiadach z ekspertami, analizach danych i dokumentach, które nie zostały uwzględnione w Facebook Papers, wykazało, że Facebook i Google płacą miliony dolarów na reklamy bankrollowym aktorom typu clickbait, napędzając pogorszenie ekosystemów informacyjnych na całym świecie.

Anatomia farmy clickbait

Facebook uruchomił program Instant Artykuły w 2015 roku z garstką wydawców z USA i Europy. Firma zaliczyła program jako sposób na skrócenie czasu ładowania artykułów i stworzenie bardziej przejrzystego interfejsu użytkownika.

Powiązana historia

Jak Facebook uzależnił się od rozpowszechniania dezinformacji

Algorytmy sztucznej inteligencji firmy dały jej nienasycony nawyk kłamstw i mowy nienawiści. Teraz człowiek, który je zbudował, nie może rozwiązać problemu.

To była publiczna sprzedaż. Ale przeprowadzka również dogodnie przechwyciła dolary reklamowe od Google. Przed artykułami błyskawicznymi artykuły publikowane na Facebooku przekierowywały do ​​przeglądarki, gdzie otwierały się na własnej stronie internetowej wydawcy. Dostawca reklam, zwykle Google, zarobiłby wtedy na wyświetleniach lub kliknięciach reklam. Dzięki nowemu schematowi artykuły byłyby otwierane bezpośrednio w aplikacji Facebooka, a Facebook byłby właścicielem przestrzeni reklamowej. Gdyby uczestniczący wydawca również zdecydował się na zarabianie w sieci reklamowej Facebooka, zwanej Audience Network, Facebook mógłby wstawiać reklamy do historii wydawcy i uzyskać 30% cięcie przychodów.

Artykuły błyskawiczne szybko wypadły z łask dzięki oryginalnej grupie dużych wydawców głównego nurtu. Dla nich wypłaty nie były wystarczająco wysokie w porównaniu z innymi dostępnymi formami zarabiania. Ale nie dotyczyło to wydawców z Globalnego Południa, które zapoczątkował Facebook przyjęcie do programu w 2016 roku . W 2018 roku firma zgłosiła wypłatę 1,5 miliarda dolarów wydawcom i twórcom aplikacji (którzy mogą również uczestniczyć w Audience Network). Do 2019 roku liczba ta osiągnęła wiele miliardów .

Na początku Facebook przeprowadzał niewielką kontrolę jakości nad typami wydawców dołączających do programu. Projekt platformy również nie karał w wystarczającym stopniu użytkowników za publikowanie identycznych treści na stronach Facebooka — w rzeczywistości nagradzał za zachowanie. Opublikowanie tego samego artykułu na wielu stronach może nawet podwoić liczbę użytkowników, którzy go kliknęli i wygenerować przychody z reklam.

Farmy Clickbait na całym świecie wykorzystały tę wadę jako strategię — taką, z której korzystają do dziś.

Farma utworzy stronę internetową lub wiele stron internetowych…

…za publikowanie głównie treści plagiatowych.

Rejestruje je za pomocą Natychmiastowe przedmioty oraz Sieć odbiorców ,

który wstawia reklamy do swoich artykułów.

Następnie publikuje te artykuły w klastrze nawet kilkudziesięciu stron na Facebooku naraz.

Aktorzy Clickbait pojawili się w Myanmarze przez noc. Przy odpowiednim przepisie na tworzenie angażujących i sugestywnych treści mogą generować tysiące dolarów miesięcznie przychodów z reklam lub 10-krotność średniej miesięcznej pensji – wypłacanej im bezpośrednio przez Facebooka.

Najpierw wewnętrzny dokument firmy zgłoszony przez MIT Technology Review w październiku , pokazuje, że Facebook był świadomy problemu już w 2019 roku. Autor, były badacz danych Facebooka, Jeff Allen, odkrył, że ta dokładna taktyka pozwoliła farmom clickbait w Macedonii i Kosowie dotrzeć do prawie pół miliona Amerykanów na rok przed wyborami w 2020 roku . Farmy trafiły również do artykułów błyskawicznych i przerw na reklamy, podobnego programu do zarabiania na umieszczaniu reklam w filmach na Facebooku. Według raportu, w pewnym momencie aż 60% domen zarejestrowanych w artykułach błyskawicznych używało taktyk spamerskich stosowanych przez farmy clickbaitów. Allen, związany umową o zachowaniu poufności z Facebookiem, nie skomentował raportu.

Pomimo nacisków zarówno wewnętrznych, jak i zewnętrznych badaczy, Facebook starał się powstrzymać nadużycia. W międzyczasie firma wdrażała więcej programów monetyzacji, aby otworzyć nowe strumienie przychodów. Oprócz przerw na reklamy dla filmów, pojawiła się monetyzacja IGTV dla Instagrama i reklamy In-Stream dla filmów na żywo. Widzieliśmy ten lekkomyślny nacisk na wzrost liczby użytkowników — teraz widzimy lekkomyślny nacisk na wzrost wydawców, mówi Victoire Rio, badaczka praw cyfrowych walcząca ze szkodami wywołanymi przez platformę w Birmie i innych krajach globalnego Południa.

MIT Technology Review wykrył, że problem występuje teraz na skalę globalną. Pojawiły się tysiące operacji typu clickbait, głównie w krajach, w których wypłaty Facebooka zapewniają większe i stabilniejsze źródło dochodu niż inne formy dostępnej pracy. Niektóre z nich to zespoły ludzi, podczas gdy inne to osoby, wspierane przez tanie zautomatyzowane narzędzia, które pomagają im tworzyć i rozpowszechniać artykuły na masową skalę. Nie ograniczają się już również do publikowania artykułów. Wysyłają filmy na żywo i prowadzą konta na Instagramie, na których bezpośrednio zarabiają lub wykorzystują do zwiększania ruchu na swoich witrynach.

Google też jest winny. Jego program AdSense napędzał farmy w Macedonii i Kosowie, które były skierowane do odbiorców amerykańskich w okresie poprzedzającym wybory prezydenckie w 2016 roku. I to właśnie AdSense zachęca nowych aktorów typu clickbait w YouTube do publikowania skandalicznych treści i wirusowych dezinformacji.

Obecnie wiele farm clickbait zarabia zarówno na artykułach błyskawicznych, jak i AdSense, otrzymując wypłaty od obu firm. A ponieważ algorytmy Facebooka i YouTube’a wzmocnić wszystko, co jest atrakcyjne dla użytkowników , stworzyli ekosystem informacyjny, w którym treści, które stają się wirusowe na jednej platformie, są często poddawane recyklingowi na drugiej, aby zmaksymalizować dystrybucję i przychody.

Ci aktorzy nie istnieliby, gdyby nie platformy, mówi Rio.

Powiązana historia

Farmy trolli docierały do ​​140 milionów Amerykanów miesięcznie na Facebooku przed wyborami w 2020 r., wynika z wewnętrznego raportu

To jest nienormalne. To nie jest zdrowe.

W odpowiedzi na szczegółowe dowody, które przedstawiliśmy każdej firmie na ten temat, rzecznik Meta, Joe Osborne, zakwestionował nasze podstawowe ustalenia, mówiąc, że źle zrozumieliśmy problem. Niezależnie od tego, od wielu lat zainwestowaliśmy w tworzenie nowych, opartych na ekspertach i skalowalnych rozwiązań tych złożonych problemów i będziemy to robić nadal, powiedział.

Firma Google potwierdziła, że ​​zachowanie naruszało jej zasady, i zamknęło wszystkie kanały YouTube MIT Technology Review, które zostały zidentyfikowane jako rozpowszechniające nieprawdziwe informacje. Ciężko pracujemy, aby chronić widzów przed kliknięciami lub wprowadzającymi w błąd treściami na naszych platformach i dużo zainwestowaliśmy w systemy, które mają na celu podnoszenie wiarygodnych informacji, powiedział rzecznik YouTube, Ivy Choi.

Farmy Clickbait nie kierują się tylko na swoje kraje pochodzenia. Idąc za przykładem aktorów z Macedonii i Kosowa, najnowsi operatorzy zdali sobie sprawę, że nie muszą rozumieć ani lokalnego kontekstu kraju, ani jego języka, aby przekształcić oburzenie polityczne w dochód.

MIT Technology Review nawiązał współpracę z Allenem, który obecnie kieruje organizacją non-profit o nazwie Instytut Uczciwości która prowadzi badania nad nadużyciami platformy, aby zidentyfikować potencjalnych aktorów typu clickbait na Facebooku. Skupiliśmy się na stronach wyczerpanych z Kambodży i Wietnamu — dwóch krajów, w których operacje na klikanie zarabiają teraz na sytuacji w Birmie.

Uzyskaliśmy dane od CrowdTangle, którego zespół programistów firma rozpadła się na początku tego roku i od Listy wydawców Facebooka , które rejestrują, którzy wydawcy są zarejestrowani w programach zarabiania. Allen napisał niestandardowy algorytm grupowania, aby znaleźć strony publikujące treści w wysoce skoordynowany sposób i skierowane do użytkowników języków używanych głównie poza krajami, w których prowadzone są operacje. Następnie przeanalizowaliśmy, które klastry miały co najmniej jedną stronę zarejestrowaną w programie zarabiania lub mocno promowały treści ze strony zarejestrowanej w programie.

Znaleźliśmy ponad 2000 stron w obu krajach zaangażowanych w to zachowanie przypominające przynętę na kliknięcia. (Może to być niedoszacowanie, ponieważ nie wszystkie strony na Facebooku są śledzone przez CrowdTangle). Wiele z nich ma miliony obserwujących i prawdopodobnie dociera do jeszcze większej liczby użytkowników. W swoim raporcie z 2019 r. Allen stwierdził, że 75% użytkowników którzy mieli kontakt z treściami na kliknięcia z farm prowadzonych w Macedonii i Kosowie, nigdy nie śledzili żadnej z tych stron. System rekomendacji treści Facebooka wrzucił go do swoich kanałów informacyjnych.

Kiedy MIT Technology Review wysłał Facebookowi listę tych stron i szczegółowe wyjaśnienie naszej metodologii, Osborne nazwał analizę błędną. Chociaż niektóre strony tutaj mogły znajdować się na naszych listach wydawców, wielu z nich w rzeczywistości nie zarabiało na Facebooku, powiedział.

Rzeczywiście, liczby te nie wskazują, że wszystkie te strony generowały przychody z reklam. Zamiast tego jest to oszacowanie, oparte na danych udostępnionych publicznie przez Facebook, liczby stron powiązanych z aktorami typu clickbait w Kambodży i Wietnamie, które Facebook zakwalifikował do zarabiania na platformie.

Osborne potwierdził również, że więcej znalezionych przez nas stron podobnych do kliknięć w Kambodży zostało bezpośrednio zarejestrowanych w jednym z programów monetyzacji Facebooka, niż wcześniej sądziliśmy. W naszej analizie stwierdziliśmy, że 35% stron w naszych klastrach zrobiło to w ciągu ostatnich dwóch lat. Pozostałe 65% miałoby pośrednio generował przychody z reklam poprzez intensywną promocję treści z zarejestrowanej strony wśród szerszej publiczności. Osborne powiedział, że w rzeczywistości o połowa spośród znalezionych przez nas stron lub około 150 innych stron zostało bezpośrednio zarejestrowanych w pewnym momencie w programie monetyzacji, głównie w artykułach błyskawicznych.

Wkrótce po tym, jak skontaktowaliśmy się z Facebookiem, operatorzy stron typu „clickbait” w Birmie zaczęli narzekać na forach internetowych, że ich strony zostały usunięte z artykułów błyskawicznych. Osborne odmówił odpowiedzi na nasze pytania dotyczące ostatnich działań egzekucyjnych podjętych przez firmę.

Facebook nieustannie starał się usunąć tych aktorów ze swoich programów. Na przykład tylko 30 stron prowadzonych w Kambodży nadal zarabia, powiedział Osborne. Jednak nasze dane z list wydawców Facebooka pokazują, że egzekwowanie przepisów jest często opóźnione i niekompletne – strony typu clickbait mogą pozostać w programach zarabiania przez setki dni, zanim zostaną usunięte. Ci sami aktorzy będą również kręcić nowe strony, gdy ich stare zdemonetyzują.

Allen jest teraz open-sourcing kodu zachęcaliśmy innych niezależnych badaczy do udoskonalania i rozwijania naszej pracy.

Aby wesprzeć dziennikarstwo MIT Technology Review, rozważ zostanie subskrybentem .

Korzystając z tej samej metodologii, znaleźliśmy również ponad 400 zagranicznych stron skierowanych głównie do odbiorców z USA w klastrach, które pojawiły się na listach wydawców Facebooka w ciągu ostatnich dwóch lat. (Nie uwzględniliśmy stron z krajów, których podstawowym językiem jest angielski.) Zestaw zawiera klaster monetyzujący prowadzony częściowo poza Macedonią, skierowany do kobiet i społeczności LGBTQ. Ma osiem stron na Facebooku, w tym dwie zweryfikowane, które mają odpowiednio ponad 1,7 miliona i 1,5 miliona obserwujących, a także publikuje treści z pięciu witryn, z których każda jest zarejestrowana w Google AdSense i Audience Network. Ma również trzy konta na Instagramie, które zarabiają dzięki sklepom z pamiątkami i współpracy oraz kierując użytkowników do tych samych, w dużej mierze splagiatów, stron internetowych. Administratorzy stron na Facebooku i kontach na Instagramie nie odpowiedzieli na nasze prośby o komentarz.

Strony wiadomości LGBT i wiadomości o prawach kobiet na Facebooku publikują identyczne treści z pięciu własnych powiązanych witryn, które zarabiają na artykułach błyskawicznych i Google AdSense, a także z innych serwisów informacyjnych, z którymi prawdopodobnie współpracuje.

Osborne powiedział, że Facebook bada teraz konta po tym, jak zwróciliśmy na nie uwagę firmy. Choi powiedział, że Google usunęło reklamy AdSense z setek stron w tych witrynach w przeszłości z powodu naruszenia zasad, ale same witryny nadal mogą zarabiać na podstawie regularnych recenzji firmy.

Chociaż możliwe jest, że Macedończycy, którzy prowadzą te strony, rzeczywiście interesują się amerykańską polityką oraz prawami kobiet i osób LGBTQ, treści niezaprzeczalnie generują przychody. Oznacza to, że to, co promują, najprawdopodobniej kieruje się tym, co wygrywa, a co przegrywa z algorytmem kanału informacyjnego Facebooka.

Aktywność pojedynczej strony lub grupy stron może nie wydawać się znacząca, mówi Camille François, badacz z Columbia University, który badał zorganizowane kampanie dezinformacyjne w mediach społecznościowych. Ale kiedy setki lub tysiące aktorów robią to samo, wzmacniając tę ​​samą treść i docierając do milionów widzów, może to wpłynąć na publiczną rozmowę. To, co ludzie postrzegają jako rozmowę domową na dany temat, może w rzeczywistości być czymś zupełnie innym, mówi François. To grupa płatnych osób, które udają, że nie mają ze sobą żadnych relacji, optymalizując to, co publikować.

Osborne powiedział, że Facebook stworzył w ciągu ostatnich dwóch lat kilka nowych zasad i protokołów egzekwowania, aby rozwiązać ten problem, w tym karanie stron z jednego kraju, które zachowują się tak, jakby były lokalne w innym kraju, a także karanie stron, które budują publiczność na na podstawie jednego tematu, a następnie przejść do innego. Ale zarówno Allen, jak i Rio twierdzą, że działania firmy nie zdołały zlikwidować fundamentalnych luk w polityce i projektach platformy – luk, które napędzają globalny kryzys informacyjny.

Dotyczy to przede wszystkim krajów poza Stanami Zjednoczonymi, ale w dłuższej perspektywie stanowi ogromne ryzyko również dla Stanów Zjednoczonych, mówi Rio. Będzie to miało wpływ na prawie każde miejsce na świecie, gdy będą miały miejsce wzmożone wydarzenia, takie jak wybory.

Dezinformacja do wynajęcia

W odpowiedzi na wstępne sprawozdanie MIT Technology Review dotyczące wewnętrznego raportu Allena z 2019 r., które my opublikowane w całości , David Agranovich, dyrektor ds. przeciwdziałania globalnym zagrożeniom na Facebooku, tweetował , Strony, o których tutaj mowa, oparte na naszych własnych badaniach z 2019 r., są spamerami motywowanymi finansami, a nie jawnymi operacjami wywierania wpływu. Oba są poważnymi wyzwaniami, ale są różne. Łączenie ich nikomu nie pomaga. Osborne powtórzył, że łączymy obie grupy w odpowiedzi na nasze odkrycia.

Jednak eksperci od dezinformacji twierdzą, że mylące jest wyznaczanie twardej granicy między spamerami motywowanymi finansowo a operacjami wywierania wpływu politycznego.

Istnieje rozróżnienie w intencji: spamerzy motywowani finansami są agnostyczni w stosunku do publikowanych treści. Idą tam, gdzie są kliknięcia i pieniądze, pozwalając algorytmowi Facebooka na dyktowanie tematów, które będą omawiać w następnej kolejności. Operacje polityczne są natomiast ukierunkowane na realizację określonego programu.

Ale w praktyce to nie ma znaczenia : w swojej taktyce i wpływie często wyglądają tak samo. Przeciętnego dnia witryna typu clickbait motywowana finansami może być zapełniona wiadomościami o celebrytach, uroczymi zwierzętami lub bardzo emocjonalnymi historiami — wszystkie one są niezawodnymi czynnikami napędzającymi ruch. Następnie, gdy dochodzi do politycznego zamieszania, dryfują w stronę ponadpartyjnych wiadomości, dezinformacji i przynęty na oburzenie, ponieważ stają się bardziej zaangażowane.

Najlepszym przykładem jest macedoński klaster stron. Przez większość czasu treści promują prawa kobiet i LGTBQ. Ale w czasie wydarzeń takich jak wybory 2020, powstanie 6 stycznia i uchwalenie ustawy antyaborcyjnej w Teksasie, klaster wzmocnił szczególnie wyraźne treści polityczne. Wiele z jej artykułów było szeroko rozpowszechnianych na legalnych stronach z ogromną liczbą obserwujących, w tym prowadzonych przez Occupy Democrats, Union of Concerned Scientists i Women’s March Global.

Przykład wysoce politycznego artykułu, który został ostatecznie usunięty z jednej z pięciu stron powiązanych z klastrem. Witryny Clickbait często usuwają stare artykuły ze swoich stron.

Tymczasem działania polityczne mogą publikować treści o celebrytach i zwierzętach, aby tworzyć strony na Facebooku z dużą liczbą obserwujących. Następnie zwracają się do polityki podczas drażliwych wydarzeń politycznych, korzystając z ogromnej publiczności, którą już mają do dyspozycji.

Polityczni agenci czasami płacą spamerom motywowanym finansami, aby rozpowszechniali propagandę na swoich stronach na Facebooku lub kupowali strony, aby wykorzystać je do kampanii wpływowych. Rio widziało już dowody na istnienie czarnego rynku, na którym aktorzy typu „clickbait” mogą sprzedawać swoją dużą publiczność na Facebooku.

Innymi słowy, strony wyglądają nieszkodliwie, dopóki tak nie jest. Umożliwiliśmy nieautentycznym aktorom gromadzenie ogromnej liczby obserwatorów w nieznanych celach, napisał Allen w raporcie.

Ta zmiana miała miejsce w Birmie wiele razy od czasu powstania farm clickbait, w szczególności podczas kryzysu Rohingya i ponownie w okresie poprzedzającym i po tegorocznym wojskowym zamachu stanu. (Ten ostatni został wywołany wydarzeniami podobnymi do tych, które doprowadziły do ​​powstania 6 stycznia w USA, w tym: powszechne fałszywe twierdzenia o skradzionych wyborach .)

W październiku 2020 r. Facebook usunął wiele stron i grup zaangażowanych w skoordynowane zachowania typu clickbait w Birmie. w analiza z tych aktywów Graphika, firma badawcza zajmująca się badaniem rozpowszechniania informacji w Internecie, stwierdziła, że ​​strony skupiały się głównie na wiadomościach i plotkach o celebrytach, ale wypychały propagandę polityczną, niebezpieczną antymuzułmańską retorykę i dezinformację na temat covid-19 w kluczowych momentach kryzysu . Kilkadziesiąt stron miało ponad milion obserwujących, a największa sięgała ponad 5 milionów.

To samo zjawisko miało miejsce na Filipinach przed wyborami prezydenta Rodrigo Duterte w 2016 roku. Duterte jest porównywany do Donalda Trumpa za jego populistyczną politykę, bombastyczną retorykę i autorytarne skłonności. Podczas jego kampanii farma na kliknięcia, zarejestrowana formalnie jako firma Twinmark Media, przeszła z relacjonowania celebrytów i rozrywki na promowanie jego i jego ideologii.

W tamtym czasie powszechnie uważano, że politycy wynajęli Twinmark do przeprowadzenia kampanii wpływu. Ale w wywiadach z dziennikarzy oraz badacze , byli pracownicy Twinmark przyznali, że po prostu dążą do zysku. Eksperymentując, pracownicy odkryli, że treści pro-Duterte świetnie sprawdzały się podczas gorących wyborów. Płacili nawet innym celebrytom i wpływowym osobom za udostępnianie swoich artykułów, aby uzyskać więcej kliknięć i generować większe przychody z reklam, zgodnie z badaniami od badaczy mediów i komunikacji Jonathana Onga i Jasona Vincenta A. Cabañesa.

W ostatnich miesiącach kampanii Duterte zdominował dyskurs polityczny w mediach społecznościowych. Sam Facebook nazwał go niekwestionowany król rozmów na Facebooku kiedy okazało się, że był przedmiotem 68% wszystkich dyskusji związanych z wyborami , w porównaniu z 46% dla swojego następnego najbliższego rywala.

Trzy miesiące po wyborach Maria Ressa, prezes firmy medialnej Rappler, która w tym roku zdobyła Pokojową Nagrodę Nobla za swoją pracę w walce z dezinformacją, opublikował utwór opisujący, jak koncert skoordynowanych clickbaitów i propagandy na Facebooku zmienia opinię publiczną w kluczowych kwestiach.

Jest to strategia „śmierci tysiącami cięć” – obcinania faktów, używania półprawd, które fabrykują alternatywną rzeczywistość, łącząc moc botów i fałszywych kont w mediach społecznościowych w celu manipulowania prawdziwymi ludźmi, napisała.

W 2019 roku Facebook w końcu zdjął 220 stron na Facebooku, 73 konta na Facebooku i 29 kont na Instagramie powiązanych z Twinmark Media. Do tego czasu Facebook i Google zapłaciły już farmie aż 8 milionów dolarów ( 400 milionów pesos filipińskich ).

Ani Facebook, ani Google nie potwierdziły tej kwoty. Osborne z Meta zakwestionował charakterystykę, że Facebook wpłynął na wybory.

Ewoluujące zagrożenie

Jak wynika z wewnętrznego raportu Allena, w pierwszej połowie 2019 r. Facebook dołożył wszelkich starań, aby wyeliminować farmy clickbait z błyskawicznych artykułów i przerw na reklamy. W szczególności zaczął sprawdzać wydawców pod kątem oryginalności treści i demonetyzować tych, którzy publikowali treści w większości nieoryginalne.

Ale te automatyczne kontrole są ograniczone. Skupiają się przede wszystkim na ocenie oryginalności filmów, a nie na przykład na tym, czy artykuł został splagiatowany. Nawet gdyby tak było, takie systemy byłyby tylko tak dobre, jak możliwości sztucznej inteligencji firmy w danym języku. Krajom, w których języki nie są traktowane priorytetowo przez społeczność badawczą AI, poświęca się znacznie mniej uwagi, jeśli w ogóle. W przypadku Etiopii jest 100 milionów ludzi i sześć języków. Facebook obsługuje tylko dwa z tych języków dla systemów integralności, powiedziała Haugen podczas swojego zeznania przed Kongresem.

Rio twierdzi, że istnieją również luki w egzekwowaniu prawa. Osoby naruszające zasady są usuwane z programu, ale nie z platformy, i mogą odwołać się do przywrócenia. Odwołania są rozpatrywane przez osobny zespół niż ten, który zajmuje się egzekucją i przeprowadza tylko podstawowe kontrole tematyczne przed przywróceniem aktora. (Facebook nie odpowiedział na pytania dotyczące tego, czego faktycznie szukają te kontrole.) W rezultacie ponowne dołączenie do witryny po usunięciu może zająć operatorowi zaledwie kilka godzin. W jakiś sposób wszystkie zespoły nie rozmawiają ze sobą, mówi.

W ten sposób Rio znalazła się w stanie paniki w marcu tego roku. Miesiąc po tym, jak wojsko aresztowało byłego demokratycznego przywódcę Aung San Suu Kyi i przejęło kontrolę nad rządem, protestujący nadal brutalnie ścierali się z nowym reżimem. Wojsko sporadycznie odcinało dostęp do Internetu i sieci nadawczych, a Rio była przerażona o bezpieczeństwo swoich przyjaciół w kraju.

Zaczęła ich szukać w filmach na Facebook Live. Ludzie naprawdę aktywnie oglądali te filmy, ponieważ w ten sposób możesz śledzić swoich bliskich, mówi. Nie przejmowała się, że filmy pochodzą ze stron z problemami z wiarygodnością; wierzyła, że ​​streamery używają fałszywych stron, aby chronić swoją anonimowość.

Potem stało się niemożliwe: dwukrotnie obejrzała ten sam film na żywo. Zapamiętała to, bo to było przerażające: setki dzieciaków, które wyglądały na 10 lat, w kolejce z rękami na głowach, były ładowane do wojskowych ciężarówek.

Kiedy się w to zagłębiła, odkryła, że ​​filmy wcale nie były na żywo. Filmy na żywo mają wskazywać na transmisję w czasie rzeczywistym i zawierać ważne metadane dotyczące czasu i miejsca aktywności. Te filmy zostały pobrane z innych miejsc i ponownie wyemitowane na Facebooku za pomocą narzędzi innych firm, aby wyglądały jak transmisje na żywo.

Powiązana historia

Zaryzykowała wszystko, żeby zdemaskować Facebooka. Teraz opowiada swoją historię.

Sophie Zhang, była badaczka danych z Facebooka, ujawniła, że ​​umożliwia to globalną manipulację polityczną i niewiele zrobiła, aby to powstrzymać.

Były ich setki, zdobywając dziesiątki tysięcy potyczek i setki tysięcy wyświetleń. Na początku listopada MIT Technology Review znalazł dziesiątki duplikatów fałszywych filmów na żywo z tego okresu. Jedna duplikat pary z odpowiednio ponad 200 000 i 160 000 wyświetleń, ogłoszona w języku birmańskim, jestem jedyną osobą, która nadaje na żywo z całego kraju w czasie rzeczywistym. Facebook usunął kilka z nich po tym, jak zwróciliśmy na nie uwagę, ale dziesiątki innych, a także strony, które je opublikowały, nadal pozostają. Osborne powiedział, że firma jest świadoma problemu i znacznie zmniejszyła liczbę fałszywych żyć i ich dystrybucję w ciągu ostatniego roku.

Jak na ironię, Rio uważa, że ​​filmy zostały prawdopodobnie wyrwane z materiału filmowego z kryzysu przesłanego na YouTube jako dowód praw człowieka. Innymi słowy, sceny rzeczywiście pochodzą z Myanmaru, ale wszystkie zostały wysłane z Wietnamu i Kambodży.

W ciągu ostatniego półrocza Rio prześledziło i zidentyfikowało kilka klastrów stron, których brakuje w Wietnamie i Kambodży. Wielu z nich wykorzystywało fałszywe filmy na żywo, aby szybko zwiększyć liczbę obserwujących i zachęcić widzów do dołączenia do grup na Facebooku przebranych za społeczności prodemokratyczne. Rio martwi się teraz, że najnowsze wprowadzenie reklam typu In-Stream na Facebooku w filmach na żywo jeszcze bardziej zachęci aktorów typu clickbait do ich podrabiania. Jeden z kambodżańskich klastrów z 18 stronami zaczął publikować wysoce szkodliwą dezinformację polityczną, osiągając w sumie 16 milionów kontaktów i 1,6 miliona odbiorców w ciągu czterech miesięcy. Facebook zlikwidował wszystkie 18 stron w marcu, ale nowe klastry nadal się rozkręcają, podczas gdy inne pozostają.

Z tego, co Rio wie, ci aktorzy wietnamscy i kambodżańscy nie mówią po birmańsku. Prawdopodobnie nie rozumieją kultury birmańskiej ani polityki kraju. Najważniejsze jest to, że nie muszą. Nie wtedy, gdy kradną ich zawartość.

Od tego czasu Rio znalazło kilka prywatnych grup Kambodżan na Facebooku i Telegramie (jedna z ponad 3000 osób), gdzie handlują narzędziami i wskazówkami na temat najlepszych strategii zarabiania pieniędzy. MIT Technology Review przejrzała zebrane dokumenty, obrazy i filmy i zatrudniła tłumacza języka khmerskiego, aby zinterpretował film instruktażowy, który krok po kroku prowadzi widzów przez proces klikania.

Materiały pokazują, w jaki sposób kambodżańscy operatorzy gromadzą badania na temat najskuteczniejszych treści w każdym kraju i plagiatują je na swoich stronach internetowych typu clickbait. Jeden folder Dysku Google udostępniony w społeczności zawiera dwa tuziny arkuszy kalkulacyjnych z linkami do najpopularniejszych grup na Facebooku w 20 krajach, w tym w USA, Wielkiej Brytanii, Australii, Indiach, Francji, Niemczech, Meksyku i Brazylii.

Samouczek wideo pokazuje również, w jaki sposób znajdują najbardziej wirusowe filmy z YouTube w różnych językach i używają zautomatyzowanego narzędzia do konwersji każdego z nich na artykuł dla swojej witryny. Znaleźliśmy 29 kanałów YouTube rozpowszechniających dezinformację polityczną na temat obecnej sytuacji politycznej w Birmie, na przykład, które były przekształcane w artykuły typu clickbait i rozpowszechniane wśród nowych odbiorców na Facebooku.

Jeden z kanałów YouTube rozpowszechniających dezinformację polityczną w Birmie. Google ostatecznie go usunął.

Gdy zwróciliśmy jej uwagę na kanały, YouTube zamknął je wszystkie za naruszenie wytycznych dla społeczności, w tym siedem, które uznał za część skoordynowanych operacji wpływu związanych z Birmą. Choi zauważył, że wcześniej YouTube przestał wyświetlać reklamy w prawie 2000 filmach na tych kanałach. Nadal aktywnie monitorujemy nasze platformy, aby zapobiegać złym podmiotom, które chcą nadużywać naszej sieci dla zysku – powiedziała.

Są też inne narzędzia, w tym takie, które umożliwiają wyświetlanie nagranych filmów jako fałszywych filmów na żywo na Facebooku. Kolejna generuje losowo szczegóły profilu dla mężczyzn z USA , w tym zdjęcie, imię i nazwisko, datę urodzenia, numer PESEL, numer telefonu i adres, dzięki czemu kolejne narzędzie może masowo produkować fałszywe konta na Facebooku przy użyciu niektórych z tych informacji.

Teraz jest to tak łatwe, że wielu aktorów z Kambodży działa solo. Rio nazywa ich mikroprzedsiębiorcami. W najbardziej ekstremalnym scenariuszu widziała, jak osoby same zarządzają aż 11 000 kont na Facebooku.

Odnoszący sukcesy mikroprzedsiębiorcy szkolą również innych do wykonywania tej pracy w swojej społeczności. Będzie gorzej, mówi. „Każdy Joe na świecie może bez twojej wiedzy wpływać na twoje środowisko informacyjne.

Zysk ponad bezpieczeństwo

Podczas swojego zeznania w Senacie w październiku tego roku Haugen zwróciła uwagę na podstawowe wady opartego na treści podejścia Facebooka do nadużyć na platformach. Obecna strategia, skoncentrowana na tym, co może, a czego nie może pojawić się na platformie, może być tylko reaktywna, a nigdy kompleksowa – powiedziała. Wymaga to nie tylko od Facebooka wyliczenia wszystkich możliwych form nadużyć, ale także od firmy biegłości w moderowaniu w każdym języku. Facebook zawiódł w obu przypadkach – a najbardziej bezbronni ludzie na świecie zapłacili największą cenę, powiedziała.

Haugen powiedział, że głównym winowajcą jest dążenie Facebooka do maksymalizacji zaangażowania, które zmieniło jego algorytm i projekt platformy w gigantyczny megafon dla mowy nienawiści i dezinformacji. jakiś Dochodzenie w sprawie przeglądu technologii MIT z początku tego roku, na podstawie dziesiątek wywiadów z kierownictwem Facebooka, obecnymi i byłymi pracownikami, rówieśnikami z branży oraz ekspertami zewnętrznymi, potwierdza tę charakterystykę.

Jej zeznanie odzwierciedlało również to, co napisał Allen w swoim raporcie – oraz to, co Rio i inni eksperci od dezinformacji wielokrotnie widzieli w swoich badaniach. W przypadku farm clickbait wejście do programów monetyzacji jest pierwszym krokiem, ale to, ile zarobią, zależy od tego, jak bardzo systemy rekomendacji treści Facebooka zwiększają ich artykuły. Nie prosperowaliby ani nie plagiowali tak szkodliwych treści, gdyby ich podejrzana taktyka nie działała tak dobrze na platformie.

W rezultacie wyeliminowanie samych farm nie jest rozwiązaniem: wysoce zmotywowani aktorzy zawsze będą mogli tworzyć nowe witryny i nowe strony, aby uzyskać więcej pieniędzy. Zamiast tego, to algorytmy i mechanizmy nagradzania treści wymagają rozwiązania.

W swoim raporcie Allen zaproponował: jeden możliwy sposób Facebook mógłby to zrobić: używając tak zwanej miary autorytetu opartej na wykresach do oceniania treści. Wzmocniłoby to strony o wyższej jakości, takie jak wiadomości i media, i zmniejszyłoby strony o niższej jakości, takie jak przynęta na kliknięcia, odwracając obecny trend.

Haugen podkreślił, że niepowodzenie Facebooka w naprawie swojej platformy nie było spowodowane brakiem rozwiązań, narzędzi lub pojemności. Facebook może się zmienić, ale najwyraźniej nie zrobi tego samodzielnie, powiedziała. Obawiam się, że bez działania, dzielące i ekstremistyczne zachowania, które obserwujemy dzisiaj, to dopiero początek. To, co widzieliśmy w Birmie, a teraz widzimy w Etiopii, to tylko początkowe rozdziały historii tak przerażającej, że nikt nie chce czytać jej końca.

(Osborne powiedział, że Facebook ma dziś zupełnie inne podejście do Myanmaru, z większą wiedzą na temat kwestii praw człowieka w tym kraju oraz dedykowanym zespołem i technologią do wykrywania treści naruszających prawa, takich jak mowa nienawiści, w języku birmańskim.)

W październiku ustępujący specjalny wysłannik ONZ ds. Birmy powiedział, że kraj ten: popadł w wojnę domową . Tysiące ludzi od tego czasu uciekło do krajów sąsiednich, takich jak Tajlandia i Indie. Od połowy listopada aktorzy typu clickbait nadal co godzinę publikują fałszywe wiadomości. Na jednym stanowisku zamordowano demokratyczną przywódczynię, matkę Suu. W innym w końcu została uwolniona.

Specjalne podziękowania dla naszego zespołu. Projekt i rozwój autorstwa Rachel Stein i Andre Vitorio. Kierownictwo artystyczne i produkcja Emily Luong i Stephanie Arnett. Montaż przez Nialla Firtha i Mata Honana. Sprawdzenie faktów przez Matta Mahoneya. Redakcja kopii: Linda Lowenthal.

Korekta: W poprzedniej wersji artykułu błędnie stwierdzono, że po skontaktowaniu się z Facebookiem aktorzy typu „clickbait” w Kambodży zaczęli narzekać na forach internetowych, że zostali wyrzuceni z błyskawicznych artykułów. Aktorzy faktycznie byli w Birmie.