Były szef bezpieczeństwa Facebooka: Proszenie Big Tech o monitorowanie mowy nienawiści jest niebezpieczną ścieżką

Josh Edelson | Dzięki uprzejmości Uniwersytetu Stanford

Jeszcze kilka tygodni temu Alex Stamos był szefem ochrony Facebooka. Prowadził polowanie na rosyjską dezinformację polityczną na platformie po wyborach w USA w 2016 roku. Teraz na Uniwersytecie Stanforda ogłosił niedawno utworzenie Stanford Internet Observatory – projektu mającego na celu zwalczanie mowy nienawiści, propagandy i manipulacji poprzez zrzeszanie badaczy akademickich, socjologów, decydentów politycznych i samych gigantów technologicznych.

Podobnie jak wiele osób, Stamos uważa, że ​​platformy technologiczne, takie jak Facebook i Google, mają zbyt dużą moc. Ale nie zgadza się z wezwaniami do ich zerwania. I twierdzi, że ci sami ludzie, którzy twierdzą, że Facebook i Google są zbyt potężne, dają im… jeszcze władzy, nalegając, aby robili więcej, aby kontrolować mowę nienawiści i propagandę.

To niebezpieczna ścieżka, ostrzega. Jeśli kraje demokratyczne zmuszają firmy technologiczne do nakładania ograniczeń na wolność słowa, to samo dzieje się z tymi autokratycznymi. Niedługo technologia umożliwi moderowanie w czasie rzeczywistym wszystkiego, co mówimy online, z prędkością maszyny. Próbując powstrzymać Big Tech, ryzykujemy stworzenie Wielkiego Brata. Więc jakie jest rozwiązanie? Rozmawiałem ze Stamosem w jego biurze w Stanford, żeby się dowiedzieć. (Wywiad został skondensowany i zredagowany dla jasności.)

Powiedziałeś ostatnio że jest już za późno, aby uratować półrocze 2018 przed ingerencją z zagranicy. Kto jest winien, że tak się stało, biorąc pod uwagę wszystko, czego nauczyliśmy się w 2016 roku?

W 2016 roku wydarzyły się trzy rzeczy. Była kampania dezinformacyjna i propagandowa prowadzona przez [Rosyjską] Agencję Badań nad Internetem i powiązane grupy. Miała miejsce kampania przecieku, w której GRU [rosyjski wywiad wojskowy] włamał się do e-maila DNC [Narodowego Komitetu Demokratycznego], a następnie zamieścił historie [w mediach]. Doszło do rozpoznawczej penetracji systemów wyborczych 21 państw.

Najwięcej pracy [nad nim wykonano] z pierwszym problemem, ponieważ całkowicie leży on w zakresie odpowiedzialności platform. Zdefiniowali, co jest reklamą polityczną, a co emisyjną, stworzyli przejrzystość reklam, zdefiniowali niewłaściwą koordynację i zaczęli egzekwować te zasady.

„Rosjanie byli w stanie wysłać swoją drużynę B do włamania się do DNC. Nie jestem pewien, czy ludzie są gotowi na drużynę A”.

W kampanii hakerskiej i przeciekowej GRU wydarzyło się bardzo niewiele. W DNC nastąpiły ulepszenia w zakresie bezpieczeństwa. Spodziewam się, że większość kampanii jest ostrożniejsza. Ale wydaje się, że nie ma hurtowej poprawy bezpieczeństwa wśród kampanii i kandydatów. Rosjanie byli w stanie wysłać swoją drużynę B do włamania się do DNC. Nie jestem pewien, czy ludzie są gotowi na drużynę A.

Trzeciego prawie nic nie zrobiliśmy. Wciąż masz 10 000 organów wyborczych [w USA] przeprowadzających wybory. Mamy wiele stanów, w których nie ma papierowej kopii zapasowej [dla kart do głosowania]. Jest zbyt wiele władz odpowiedzialnych za własne bezpieczeństwo, abyśmy mogli zabezpieczyć [wybory] bez dostarczania przez rząd federalny ogromnych zasobów. Myślę, że w tym miejscu mamy jedne z najbardziej podatnych na ataki.

Czy problem dezinformacji/propagandy jest więc w większości rozwiązany?

W wolnym społeczeństwie nigdy nie wyeliminujesz tego problemu. Myślę, że najważniejszą rzeczą [w USA] jest przejrzystość reklamy. Z lub bez jakiejkolwiek zagranicznej ingerencji, partie, kampanie, PAC [komitety działań politycznych] tutaj w USA dzielą elektorat na malutkie wiaderka, a to jest zła rzecz. Przejrzystość to dobry początek.

Następnym krokiem, którego potrzebujemy, jest ustawodawstwo federalne, które nałoży ograniczenia na kierowanie reklam. W ekosystemie reklamy internetowej są tysiące firm. Facebook, Google i Twitter są jedynymi, które cokolwiek zrobiły, ponieważ są one najczęściej poruszane w prasie i wywierają największą presję ze strony polityków. Tak więc bez ustawodawstwa zamierzamy po prostu wepchnąć wszystkich atakujących w długi ogon reklamy, do firm, które nie mają dedykowanych zespołów szukających rosyjskich grup dezinformacyjnych.

Facebook był krytykowany za rosyjską ingerencję polityczną zarówno w USA, jak i w innych krajach, ludobójstwo w Birmie i wiele innych rzeczy. Czy uważasz, że Facebook w pełni pojął zakres swoich wpływów i swojej odpowiedzialności?

Myślę, że firma z pewnością rozumie jego wpływ. Najtrudniejsze jest rozwiązanie go. Dziewięćdziesiąt procent użytkowników Facebooka mieszka poza Stanami Zjednoczonymi. Znacznie ponad połowa żyje w krajach niewolnych lub w demokracjach bez ochrony mowy. Jednym z problemów jest wymyślanie rozwiązań w tych krajach, które nie trafiają od razu w bardzo mroczne miejsce [tj. cenzura].

„Myślę, że [Facebook] z pewnością rozumie jego wpływ. Najtrudniejsze jest rozwiązanie tego.

Innym jest ustalenie, za jakie problemy należy postawić zasoby inżynieryjne. Bez względu na to, jak duża jest firma, istnieje tylko pewna liczba problemów, z którymi [możesz się uporać]. Jednym z problemów, z jakimi borykały się firmy, jest to, że znajdują się w trybie gaśniczym, w którym przeskakują z sytuacji awaryjnej do sytuacji awaryjnej.

W miarę zwiększania liczby personelu, staje się to coraz lepsze, ale potrzebujemy również bardziej świadomej dyskusji zewnętrznej na temat rzeczy, na których chcemy, aby firmy się skoncentrowały – jakie są problemy, które bezwzględnie należy rozwiązać, a jakie nie. Wspomniałeś o wielu problemach, które w rzeczywistości są bardzo różne, ale ludzie zacierają je wszystkie razem.

Czy uważasz, że firmy technologiczne mają zbyt dużą władzę? Czy Facebook powinien być zmuszony do pozbycia się na przykład Instagrama i WhatsAppa?

Jeśli ludzie antymonopolowi uważają, że należy wymusić zbycie poszczególnych platform, to zależy od nich. Nie sądzę, że to rozwiąże te problemy lub je pogorszy. Co gorsza, to rozbicie określonych produktów. Dziesięć WhatsApp jest gorszych niż jeden WhatsApp, a dziesięć Facebooków jest gorszych niż jeden Facebook, ponieważ traci się ekonomię skali [i] możliwość posiadania dobrze obsadzonego zespołu, który jest ekspertem w tego rodzaju nadużyciach [mowa nienawiści, propaganda itp. .].

Prawda jest taka, że ​​reagują na nie duże firmy. Wszyscy ignorują małe firmy, ponieważ nie są to dobre nagłówki. Facebook zrobił więcej niż zdecydowana większość innych firm.

Jak regulować w świecie, w którym technologia postępuje tak szybko, podczas gdy regulacje poruszają się tak wolno? W jaki sposób społeczeństwo powinno ustalać rozsądne granice tego, co robią firmy technologiczne?

Ale w tej chwili społeczeństwo nie prosi o ograniczenia w tym, co robią. Pyta, aby firmy technologiczne zrobiły: jeszcze . I myślę, że to niebezpieczna ścieżka. We wszystkich problemach, o których wspomniałeś – rosyjska dezinformacja, Birma – mówisz tym firmom: Chcemy, abyś miał więcej uprawnień do kontrolowania tego, co mówią i robią inni ludzie.

„Za pięć lub dziesięć lat może nastąpić… moderacja w czasie rzeczywistym wszystkiego, co mówimy w Internecie, z prędkością maszyny”.

To bardzo niebezpieczne, zwłaszcza w obliczu rozwoju uczenia maszynowego. Za pięć lub dziesięć lat mogą istnieć systemy uczenia maszynowego, które będą rozumieć zarówno ludzkie języki, jak i ludzkie. Możemy skończyć z szybkością maszyny, moderacją w czasie rzeczywistym wszystkiego, co mówimy online. Tak więc uprawnienia, które teraz przyznajemy firmom technologicznym, to uprawnienia, które te maszyny będą miały za pięć lat.

Jaki jest podstawowy problem, który próbuje rozwiązać Stanford Internet Observatory?

Nie ma określonej dziedziny akademickiej badającej niewłaściwe wykorzystanie technologii, poza wysoce technicznymi wadami. Wydziały informatyki prowadzą badania nad nowymi rodzajami exploitów, nowymi rodzajami błędów, ezoterycznymi rozwiązaniami kryptograficznymi, ale nie można uzyskać doktoratu z zakresu zastraszania i nękania oraz technicznych rozwiązań dla nich. Być może politolodzy badają wpływ sieci społecznościowych na demokrację, a ludzie z wydziału psychologii badają wpływ korzystania z Instagrama na nastolatki, które mają skłonności samobójcze, ale brakuje im umiejętności technicznych i infrastruktury.

Tak więc Stanford Internet Observatory będzie stałym programem, zatrudniającym naukowców zajmujących się danymi, inżynierów oprogramowania, badaczy i analityków, którzy rozumieją, jak wchodzić w interakcje z platformami technologicznymi i jak przeprowadzać analizy danych na bardzo dużą skalę. Grupa ta może następnie świadczyć usługi dla grup akademickich na całym świecie i prowadzić własne badania. Wtedy możemy katalizować prace, które prawdopodobnie by się nie wydarzyły, ponieważ nie mieszczą się one jednoznacznie w żadnej sferze akademickiej.

Nad jakimi rozwiązaniami pracujesz?

Jeśli spojrzysz na rok 2016, zobaczysz awarie wywiadu między rządem USA [i] rządami sojuszniczymi, a także między tymi rządami a platformami technologicznymi. Musimy pomyśleć o obowiązkach tych różnych grup io tym, jak pogodzić fakt, że firmy technologiczne działają w sposób quasi-rządowy. Jakie kontrole powinny mieć wdrożone iw którym momencie zaczyna się i kończy ich odpowiedzialność? Pracujemy nad rekomendacjami na Kongres na przyszły rok.

Budujemy również zdolność monitorowania wykorzystywania dezinformacji w różnych wyborach. Naszym celem jest, aby w przyszłym roku było to możliwe w wyborach w Indiach i europejskich.

Demokraci nieuchronnie będą bardziej otwarci na tego rodzaju rozwiązania niż Republikanie. Jak zrobić to bezpartyjne?

Pomysł, że ingerencja w wybory pomaga tylko Republikanom, jest szalony. Rosyjski podręcznik jest tam. Wykazano słabości naszego systemu. Zasygnalizowaliśmy naszym przeciwnikom, że mogą ingerować w nasze wybory i nie zrobimy nic, by naprawdę za to ukarać.

„Moje przesłanie do Republikanów brzmi: „Rozwiążmy ten problem, zanim będziecie musieli mieć swój własny 2016 rok”.

Więc w pełni spodziewałbym się, że w przyszłe wybory zaangażują się inni adwersarze. Chiny, Iran, Korea Północna – pomysł, że wszystkie te kraje będą wspierać Republikanów, jest niedorzeczny. Więc moja wiadomość do Republikanów brzmi: naprawmy ten problem, zanim będziecie musieli mieć swój własny 2016 rok.

Ta dyskusja musi przejść obok Trumpa. Republikanie kończą z zamrożeniem mózgu, jeśli zasugerujesz, że Trump nie został wybrany sprawiedliwie i uczciwie. Musimy więc po prostu porozmawiać o lukach w zabezpieczeniach io możliwym ich wpływie w 2020 roku. Kiedy prywatnie rozmawiam z Republikanami, są na to znacznie bardziej otwarci.

Powiązanym problemem jest brak wiedzy technologicznej wśród polityków. Jak to rozwiązujesz?

Ci ludzie na ogół mają całkiem sprytnych pracowników, ale większość pracowników nie pracowała w technologii. Dlatego musimy zachęcać ludzi, którzy pracowali w branży technologicznej, do pójścia do pracy w DC. Są przykłady takie jak Chris Soghoian [aktywista technologiczny, obecnie pracujący dla senatora Rona Wydena], gdzie technicy przyjeżdżają do Kongresu i mają ogromny wpływ indywidualnie.

I to działa w obie strony. Musimy uczyć informatyków historii i etyki, a studentów sztuk wyzwolonych o podstawach technologii, aby mogli wywierać wpływ. Umiejętność rozmawiania z nerdami w sposób, który szanują, jest niezwykle potężna i to jest coś, czego obecnie brakuje Kongresowi.

ukryć