Byłem tam, kiedy: Facebook przedkładał zyski nad bezpieczeństwo

W zeszłym miesiącu głównym źródłem Pliki na Facebooku Wall Street Journal , ujawniła swoją tożsamość w odcinku 60 minut . Frances Haugen, była kierownik produktu w firmie, mówi, że zgłosiła się po tym, jak widziała, jak przywódcy Facebooka wielokrotnie przedkładali zysk nad bezpieczeństwo. Następnie wystąpiła przed prawodawcami w USA i Wielkiej Brytanii, aby porozmawiać o tym, czego nauczyła się podczas pracy w kancelarii.

Ale Haugen nie był pierwszym informatorem Facebooka, który zaalarmował niezdolność lub niechęć firmy do radzenia sobie z poważnymi problemami spowodowanymi przez algorytmy platformy. W 2020 roku dowiedzieliśmy się o Sophie Zhang, która została oficjalnie zatrudniona w firmie jako analityk danych niskiego poziomu. Kiedy zrezygnowała, jej przebojowa notatka informacyjna z 8 000 słów ujawniła, że ​​zidentyfikowała dziesiątki krajów, w tym Indie, Meksyk, Afganistan i Koreę Południową, gdzie fałszywe konta i polubienia pozwalały politykom wprowadzać w błąd opinię publiczną i zdobywać władzę. Ujawnił również, jak niewiele firma zrobiła, aby złagodzić problem, pomimo wielokrotnych wysiłków Zhanga, aby zwrócić na to uwagę kierownictwa.

W najnowszym odcinku Byłem tam, kiedy , nowy projekt historii mówionej z podcastu In Machines We Trust, rozmawiamy z Zhang o jej wysiłkach.

Kredyty:

Ten odcinek został wyprodukowany przez Jennifer Strong, Anthony'ego Greena i Emmę Cillekens. Jest edytowany przez Michaela Reilly i Mata Honana. Jest zmiksowany przez Garreta Langa, z sound designem i muzyką Jacoba Gorskiego.

Pełny zapis:

[ID TR]

SOT: Frances Haugen: Podczas mojego pobytu na Facebooku zdałem sobie sprawę z druzgocącej prawdy. Prawie nikt poza Facebookiem nie wie, co dzieje się wewnątrz Facebooka.

Jennifer: Frances Haugen jest byłym menedżerem produktu na Facebooku. Złożyła skargi do federalnych organów ścigania, twierdząc, że kierownictwo giganta mediów społecznościowych wielokrotnie przedkładało zysk nad bezpieczeństwo.

SOT: Frances Haugen: Firma celowo ukrywa ważne informacje przed opinią publiczną, rządem USA i rządami na całym świecie.

Jennifer: Jej skargi przyszły wraz ze skarbnicą dokumentów, które Haugen zebrał przed odejściem… próbując wykazać, że firma świadomie zdecydowała się nie naprawiać problemów na swojej platformie.

Wśród nich... że algorytmy, takie jak ten, który stoi za Twoim kanałem informacyjnym na Facebooku, wzmacniają nienawiść, dezinformację i niepokoje polityczne.

I nie jest jedyną informatorką oskarżającą firmę o przymykanie oczu na kampanie dezinformacyjne na platformie.

Sophie Zhang pracowała jako analityk danych na Facebooku… i dopóki nie została zwolniona, pochłaniała się znajdowaniem i usuwaniem fałszywych kont, komentarzy i polubień, które były wykorzystywane do wpływania na wybory na całym świecie. Jej przebojowa notatka wyjściowa zawierała 8 tysięcy słów… i ujawniła, jak niewiele zrobił Facebook, aby złagodzić problem.

Jestem Jennifer Strong, a to jest Byłem tam, kiedy .

Jest to projekt historii mówionej przedstawiający historie przełomowych momentów w sztucznej inteligencji i informatyce… opowiedziane przez ludzi, którzy byli ich świadkami.

[Pokaż identyfikator]

Zofia Zhang: Jestem Sophie Zhang. Na Facebooku byłam analitykiem danych i pracowałam w zespole angażującym. Przez fałszywe rozumiem na przykład fałszywe konta, ale także konta zhakowane. A przez zaangażowanie mam na myśli polubienia, komentarze, udostępnienia i tak dalej. Ale w wolnym czasie, kiedy zacząłem dorabiać w sferze poszukiwania nieautentycznej działalności politycznej. Często bardzo wyrafinowana, nieautentyczna działalność polityczna. Mogłabym argumentować, że to też było fałszywe zaręczyny, ale nie nad tym miałam pracować.

Kiedy zacząłem przyglądać się skrzyżowaniom między fałszywym zaangażowaniem a aktywnością obywatelską, bardzo szybko znalazłem wyniki na całym świecie. Znalazłem wyniki w Brazylii, Indiach, Indonezji, w wielu krajach, ale także w Hondurasie, całkiem sporo w Hondurasie w stosunku do jego wielkości. I przygotowywałem raport dla kierownictwa dotyczący tego problemu. Chciałem zrobić zrzut ekranu strony głównego odbiorcy w Hondurasie, Juana Orlando Hernándeza, który po tym, jak go sprawdziłem, okazał się prezydentem Hondurasu.

Szedłem na jego stronę, aby zrobić zrzut ekranu, kiedy nagle się zatrzymali, ponieważ zauważyłem coś bardzo niezwykłego, ponieważ ludzie, którzy lubili jego stronę i komentowali, wielu z nich wcale nie było ludźmi. Były to strony udające użytkowników. A więc cofając się w tym miejscu, czym są strony? Kim są użytkownicy? Strony to funkcja Facebooka przeznaczona dla osób publicznych, organizacji publicznych itp. Na przykład MIT Tech Review ma stronę na Facebooku. MIT Tech Review nie jest osobą. Strona jest prowadzona przez kogoś innego na Facebooku.

Tak więc intencją stron na Facebooku jest to, że mają odzwierciedlać podmioty publiczne, a pojedynczy użytkownik może kontrolować wiele stron. Na przykład ten sam administrator może kontrolować stronę CNN, a także CNN, Filipiny, CNN Europe itp. Ale nic nie powstrzymywało użytkownika przed skonfigurowaniem setek stron, nadanie im imion i zdjęć profilowych jak prawdziwi ludzie i zachowywanie się jak prawdziwi ludzie. W rzeczywistości było im łatwiej, ponieważ mogli dość łatwo przełączać się między tymi stronami bez konieczności logowania się i wylogowywania za każdym razem.

Dość szybko zorientowałem się, że te fałszywe strony udające użytkowników, w Hondurasie były ich tysiące. A kilkaset z nich było osobiście prowadzonych przez administratora strony prezydenta Hondurasu. To był ktoś, kto najwyraźniej miał duże zaufanie w mediach społecznościowych do rządu Hondurasu. I nie ukrywali nawet faktu, że używają tysięcy fałszywych aktywów do manipulowania własnymi obywatelami.

I tak od początku byłem bardzo naiwny. Myślałem, że dobrze, znalazłem to. Ci ludzie byli głupi. Złapaliśmy ich. Przekażę je innym. Przejmą to. Mogę wrócić do mojej aktualnej pracy i wszystko będzie dobrze. Zamiast tego był to początek dwuletniej syzyfowej gehenny, ponieważ to, co się wydarzyło, kiedy podniosłem to, że wszyscy zgodzili się, że to straszne. Nie było kontrowersyjne, że to było złe. Wszyscy zgodzili się, że nie powinno to być dozwolone, ale pytanie brzmiało, co z tym zrobimy? Czy mamy możliwość na to działać? Czy jest to zgodne z naszymi zasadami i tak dalej. Od samego początku mówiłem o tym wszystkim, którzy wydawali się mieć z tym związek. Rozmawiałem o tym z Pages Integrity, Groups Integrity. Rozmawiałem o tym z zespołem ds. uczciwości obywatelskiej. Próbowałem zainteresować się analizą zagrożeń. W końcu rozmawiałem z każdym, kto chciał słuchać. Rozmawiałem ze wszystkimi, włącznie z wiceprezydentem Guyem Rosenem. Zasadniczo było to jak rozmowa z wiatrem, jak próba opróżnienia oceanu za pomocą durszlaka. W końcu doszedłem do wniosku, że najlepszym sposobem na uzyskanie wyników często nie jest próba skorzystania z odpowiednich kanałów, ale publiczne narzekanie w firmie w Workplace, który jest zasadniczo Facebookiem dla biura, i publikowanie w Workplace postów o sytuacji, którą inni w firmie można było zobaczyć. I wielu z nich było oczywiście zdenerwowanych, ponieważ nie była to firma, w której myśleli i dla której chcieli pracować. Nie wiem, czy w ten sposób, przez innych, ale ostatecznie Facebook zlikwidował działania rządu Hondurii, co było wiadomością międzynarodową.

Kilka tygodni później operacja wróciła inną metodą. Kiedy udało nam się pokonać w Hondurasie, na początku nadal byłem naiwny i idealistyczny. Pomyślałem, okej, zanim to się stało, wszyscy mówili, że nie mieliśmy precedensu, nie wiedzieliśmy, co robić, ale teraz mamy precedens. Teraz możemy powiedzieć, że stworzyliśmy taki precedens. Możemy to rozwiązać w ten sposób. Więc po tym pomyślałem, ok, mogę wysłać je do wszystkich innych, które znalazłem. Zajmą się tym. Nie zadbali o to. Kiedy użyłem odpowiednich kanałów do ich przesłania, poszły one zasadniczo do niszczarki czarnych skrzynek, gdzie zostały zignorowane.

W drugiej połowie 2019 r. podniosłem i zgłosiłem około trzy tuziny kolejnych sieci nieautentycznych działań politycznych od Afganistanu po Albanię, od Brazylii po Boliwię, od Indii po Indonezję. I tak zajęło trochę czasu, aby wymyślić właściwy sposób, aby faktycznie uzyskać wyniki i sprawić, by ludzie faktycznie zareagowali. Zależało to od tego, czy byli związani z politykami i prominentnymi postaciami, bo jeśli coś było związane z osobą polityczną, znacznie trudniej było to usunąć. Podam ci numer teraz, kiedy nie wyszedłem, kiedy po raz pierwszy go zobaczyli. Ponieważ Azerbejdżan z pewnością ma mniej niż 3% światowej populacji, znacznie mniejszą, jego sieć tworzyła może milion komentarzy miesięcznie. Stanowiło to około 3% wszystkich komentarzy Pages pod postami innych stron na całym świecie, na całym świecie, obywatelskich lub nieobywatelskich.

Ale nawet kiedy złapałem rząd Azerbejdżanu na gorącym uczynku, zakończenie operacji zajęło ponad rok. Kiedy dowiedziałem się, że rząd Azerbejdżanu utworzył ogromną farmę płatnych agentów, aby masowo nękać opozycję. To było bardzo złe. Było to bardzo wyraźnie powiązane z rządem Azerbejdżanu. I to było na ogromną skalę. Ale kiedy go zdjęliśmy, jestem pewien, że gdzieś na Facebooku był zespół, który był bardzo zdenerwowany tym, dlaczego liczby nagle spadły bez powodu, dla którego mogliby to rozgryźć. między moim odkryciem a obaleniem Azerbejdżanu rozprawił się z opozycją, aresztował nieulepszone postacie opozycji i rozpoczął wojnę z Armenią.

Praca nad tym zagadnieniem stawała się coraz bardziej stresująca. Trudno indywidualnie zobaczyć, jaki wpływ miało to wszystko, ale szybko stało się jasne, że było to związane z działalnością narodów, które walczyły, ponieważ tak wiele się działo. A ja osobiście podejmowałem decyzje o tym, co jest ważne. Zasadniczo ode mnie zależało, co zdecydowałem się pójść dalej, co wybrałem na priorytety i na co starałem się zwrócić na siebie uwagę. I zdecydowałem się nie traktować priorytetowo Boliwii, ponieważ obiektywnie była bardzo mała i niezbyt inteligentna. Długo po wyborach doszło do masowych protestów, które przerodziły się w coś, co nazywano alternatywnie zamachem stanu lub powstaniem ludowym, które doprowadziło do upadku rządu Boliwii. Wiem, że nie powinna to być moja osobista odpowiedzialność, ale pod koniec dnia nie było nikogo, kto by się podniósł. Dlatego zdecydowałem się zrobić to sam. A ponieważ postawiłem się w tej sytuacji, to w zasadzie ode mnie zależało, na czym mogłem się skupić i chcę to jasno powiedzieć. Zawsze byli inni, którzy byli odpowiedzialni za dopracowanie moich odkryć i faktyczne usunięcie ich na końcu.

Od początku zdecydowałem, że będę tylko prokuratorem, w zasadzie zrobię wszystko, aby nigdy nie być sędzią, ławą przysięgłych i katem, bo i tak miałem zbyt dużą władzę w swoich rękach. Nie sądzę, aby ktokolwiek mógł decydować, czy Albania jest ważniejsza niż Azerbejdżan i tego typu pytania. Ponieważ znaleźli również w tej księdze rachunkowej, które były powiązane z członkami wspierającymi albańskiego rządu. Ale to, co znalazłem w Azerbejdżanie, było obiektywnie gorsze pod względem wielkości i skali. Wiedziałem więc, że mam kapitał polityczny tylko na to, by bardzo powoli przebijać się przez jedną na raz. Dlatego postanowiłem skupić się na Azerbejdżanie. W Albanii nadal to się dzieje. Albania miała wybory parlamentarne na początku tego roku i nadal trwało. To znaczy, ponad dwa lata po tym, jak to odkryłem, Facebook wciąż nic nie zrobił.

I mogę tylko obficie przeprosić Albańczyków. Nie powinienem być w sytuacji, w której musiałbym wybierać, czy ważniejsza jest Albania czy Azerbejdżan. Podtrzymuję swoją decyzję, ponieważ to, co znaleźli w Azerbejdżanie, było obiektywnie gorsze, ale i tak żadna osoba nie powinna odpowiadać za takie pytania. Pojawiło się wiele doniesień prasowych na temat niedoboru zasobów Facebooka w obszarze uczciwości. Nie widziałem żadnych doniesień prasowych narzekających, że Facebook ma zbyt małe zasoby w marketingu reklamowym. I myślę, że na końcu jest to wiele o priorytetach firmy.

To, co było dla mnie najtrudniejsze, było w niektórych krajach autorytarnych. Opozycja demokratyczna korzystała z zatrudniającej i pikantnej taktyki. I najbardziej przemyślane były te sprawy. Ale i tak je zdjąłem bez wahania, ponieważ bardzo mocno wierzyłem, że moja wierność jest ideom demokracji i praworządności. I że zasadniczo demokracja nie może stać na łożu kłamstw. Jako pracownik bardzo niskiego szczebla w wolnym czasie, bez jakiegokolwiek nadzoru, osobiście podejmowałem decyzje, które bezpośrednio wpływały na rządy krajowe.

Trudno jest odpowiedzieć na to, co moim zdaniem powinno się wydarzyć, ponieważ część tego jest jak pytanie, czy możesz nadać niebu dowolny kolor, jaki kolor chciałbyś, żeby było? Ponieważ jest to pytanie w większości teoretyczne, a twoja odpowiedź nie będzie miała żadnego rzeczywistego wpływu na rzeczywisty świat.

Nie mogę sprawić, żeby Mark zmienił zdanie bardziej niż oni mogą sprawić, że niebo będzie różowe przez noc. To zależy od ludzi, którzy mnie słuchają, od ludzi takich jak ty, bo sam niczego nie mogę zmienić. Mam tylko tyle mocy, ile dają mi inni. Jeśli chcesz, aby coś się zmieniło, powinieneś osobiście zapytać swoich przedstawicieli, ponieważ ostatecznie jest to problem, którego nie doświadcza kilka pojedynczych osób. To jest problem, w którym koszty ponosi społeczeństwo, demokracja, dyskurs obywatelski jako całość. A jako firma Facebook nie ma już motywacji, aby to naprawić, niż spodziewaliśmy się, że Philip Morris opracuje nieuzależniające papierosy.

Jennifer: Byłem tam, kiedy to projekt historii mówionej przedstawiający historie osób, które były świadkami lub dokonały przełomu w sztucznej inteligencji i informatyce.

Masz historię do opowiedzenia? Znasz kogoś, kto to robi? Napisz do nas e-mail na podcasty na stronie przeglądu technologii dot com.

[MIDROLKA]

[KREDYTY]

Jennifer: Ten odcinek został wyprodukowany przeze mnie z pomocą Anthony'ego Greena i Emmy Cillekens. Redagują nas Niall Firth i Mat Honan. Naszym inżynierem miksu jest Garret Lang… a muzykę przewodnią tworzy Jacob Gorski.

Dzięki za wysłuchanie, jestem Jennifer Strong.

[ID TR]

ukryć