211service.com
Komu potrzebna jest demokracja, kiedy masz dane?
Oto, jak Chiny rządzą przy użyciu danych, sztucznej inteligencji i nadzoru internetowego. 20 sierpnia 2018
Zdjęcie dwóch kamer monitorujących obok portretu Mao Zedonga.
W 1955 roku pisarz science fiction Isaac Asimov opublikował krótkie opowiadanie o eksperymencie w demokracji elektronicznej, w którym jeden obywatel, wybrany do reprezentowania całej populacji, odpowiadał na pytania generowane przez komputer o nazwie Multivac. Maszyna wzięła te dane i obliczyła wyniki wyborów, które w związku z tym nigdy nie musiały się odbyć. Historia Asimova została osadzona w Bloomington w stanie Indiana, ale dziś w Chinach powstaje przybliżenie Multivaca.
Deborah Seligsohn, politolog i ekspert ds. Chin z Uniwersytetu Villanova w Filadelfii, mówi, że w przypadku każdego autorytarnego reżimu istnieje podstawowy problem z ustaleniem, co dzieje się na niższych poziomach i w całym społeczeństwie. Jak skutecznie rządzić krajem, w którym mieszka jedna na pięć osób na świecie, z coraz bardziej złożoną gospodarką i społeczeństwem, jeśli nie pozwoli się na debatę publiczną, aktywizm obywatelski i opinie wyborcze? W jaki sposób gromadzisz wystarczającą ilość informacji, aby faktycznie podejmować decyzje? A w jaki sposób rząd, który nie zaprasza swoich obywateli do udziału, nadal wzbudza zaufanie i nagina publiczne zachowanie bez umieszczania policji na każdym kroku?
Ta historia była częścią naszego wydania z września 2018 r.
- Zobacz resztę numeru
- Subskrybuj
Hu Jintao, przywódca Chin od 2002 do 2012 roku, próbował rozwiązać te problemy, zezwalając na skromną demokratyczną odwilż, umożliwiającą dotarcie skarg do klasy rządzącej. Jego następca, Xi Jinping, odwrócił ten trend. Zamiast tego jego strategia zrozumienia i reagowania na to, co dzieje się w 1,4 miliardowym narodzie, opiera się na połączeniu nadzoru, sztucznej inteligencji i dużych zbiorów danych, aby monitorować życie i zachowanie ludzi w najdrobniejszych szczegółach.
Pomaga to, że kilka burzliwych lat w światowych demokracjach sprawiło, że chińska elita polityczna czuje się coraz bardziej usprawiedliwiona w odcinaniu wyborców. Wydarzenia takie jak wybory Donalda Trumpa, Brexit, wzrost liczby skrajnie prawicowych partii w Europie i rządy terroru Rodrigo Duterte na Filipinach podkreślają to, co wielu krytyków postrzega jako problemy nieodłącznie związane z demokracją, zwłaszcza populizm, niestabilność i niepewne spersonalizowane przywództwo.
Odkąd został sekretarzem generalnym Komunistycznej Partii Chin w 2012 r., Xi przedstawił szereg ambitnych planów dla kraju, wiele z nich opartych na technologii – w tym cel, by zostać światowym liderem w dziedzinie sztucznej inteligencji do 2030 r. Xi wezwał do suwerenność cybernetyczną w celu wzmocnienia cenzury i zapewnienia pełnej kontroli nad krajowym internetem. W maju powiedział na spotkaniu Chińskiej Akademii Nauk, że technologia jest kluczem do osiągnięcia wielkiego celu, jakim jest budowanie socjalistycznego i zmodernizowanego narodu. W styczniu, kiedy przemawiał do narodu w telewizji, na półkach po obu jego stronach znajdowały się zarówno klasyczne tytuły, takie jak Das Kapital, jak i kilka nowych dodatków, w tym dwie książki o sztucznej inteligencji: Pedro Domingos Główny algorytm i Bretta Kinga Rozszerzony: Życie na inteligentnym pasie .
Żaden rząd nie ma bardziej ambitnego i dalekosiężnego planu wykorzystania mocy danych do zmiany sposobu, w jaki rządzi, niż rząd chiński, mówi Martin Chorzempa z Peterson Institute for International Economics w Waszyngtonie. Nawet niektórzy zagraniczni obserwatorzy, obserwujący z daleka, mogą pokusić się o zastanowienie, czy takie zarządzanie oparte na danych stanowi realną alternatywę dla coraz bardziej dysfunkcjonalnego modelu wyborczego. Jednak nadmierne poleganie na mądrości technologii i danych niesie ze sobą ryzyko.
Dane zamiast dialogu
Chińscy przywódcy od dawna chcieli wykorzystać nastroje społeczne, nie otwierając drzwi do gorącej debaty i krytyki władz. Przez większość cesarskiej i nowożytnej historii Chin istniała tradycja niezadowolonych ludzi ze wsi, którzy podróżowali do Pekinu i urządzali małe demonstracje jako publiczni petenci. Pomyślano, że jeśli władze lokalne nie rozumieją lub nie przejmują się ich skargami, cesarz może wykazać się lepszym osądem.
Za Hu Jintao niektórzy członkowie Partii Komunistycznej widzieli ograniczoną otwartość jako możliwy sposób na ujawnienie i naprawienie pewnych rodzajów problemów. Blogi, dziennikarze zajmujący się zwalczaniem korupcji, prawnicy zajmujący się prawami człowieka i krytycy internetowi zwracający uwagę na lokalną korupcję, wywołały publiczną debatę pod koniec rządów Hu. Na początku swojej kadencji Xi otrzymywał codzienne informacje o obawach publicznych i niepokojach, które były usuwane z mediów społecznościowych, według byłego urzędnika USA, który znał tę sprawę. W ostatnich latach składający petycje przybyli do stolicy, aby zwrócić uwagę na skandale, takie jak nielegalne zajmowanie gruntów przez władze lokalne i skażone mleko w proszku.
Ale policja coraz częściej powstrzymuje składających petycje przed dotarciem do Pekinu. Teraz pociągi wymagają dowodów tożsamości, aby kupić bilety, co ułatwia władzom identyfikację potencjalnych „kłopotliwych”, takich jak ci, którzy protestowali przeciwko rządowi w przeszłości, mówi Maya Wang, starszy chiński badacz Human Rights Watch. Kilku składających petycję powiedziało nam, że zostali zatrzymani na peronach kolejowych. Blogerzy, aktywiści i prawnicy są również systematycznie uciszani lub więzieni, jakby dane mogły dać rządowi te same informacje bez żadnych kłopotliwych problemów wolności.
Demo szanghajskiego startupu dotyczące systemu rozpoznawania twarzy.
Pomysł wykorzystania technologii sieciowej jako narzędzia rządzenia w Chinach sięga co najmniej połowy lat 80. XX wieku. Jak wyjaśnia historyk z Harvardu, Julian Gewirtz: Kiedy chiński rząd zobaczył, że technologia informacyjna staje się częścią codziennego życia, zdał sobie sprawę, że będzie to potężne nowe narzędzie zarówno do gromadzenia informacji, jak i kontrolowania kultury, aby uczynić Chińczyków bardziej „nowoczesnymi” i bardziej „rządzalnych” — które były odwieczną obsesją przywództwa. Kolejne postępy, w tym postęp w sztucznej inteligencji i szybszych procesorach, przybliżyły tę wizję.
O ile nam wiadomo, w Chinach nie ma jednego wzorcowego planu łączącego technologię i zarządzanie. Istnieje jednak kilka inicjatyw, które mają wspólną strategię zbierania danych o ludziach i firmach w celu informowania o procesie podejmowania decyzji oraz tworzenia systemów zachęt i kar w celu wpływania na zachowanie. Inicjatywy te obejmują system kredytu społecznego Rady Stanu z 2014 r., ustawę o cyberbezpieczeństwie z 2016 r., różne eksperymenty w zakresie kredytu społecznego na szczeblu lokalnym i prywatnym, plany inteligentnych miast oraz oparte na technologii działania policyjne w zachodnim regionie Sinkiang. Często obejmują one partnerstwa między rządem a chińskimi firmami technologicznymi.
Najbardziej dalekosiężnym jest System Kredytu Społecznego, chociaż lepszym tłumaczeniem na język angielski może być system zaufania lub reputacji. Plan rządowy, który obejmuje zarówno ludzi, jak i przedsiębiorstwa, wśród swoich celów wymienia szczerość w sprawach rządowych, szczerość handlową i wiarygodność sędziów. (Każdy w Chinach ma ciotkę, która została oszukana. Istnieje uzasadniona potrzeba zajęcia się problemem załamania zaufania publicznego, mówi Paul Triolo, szef praktyki geotechnologicznej w firmie konsultingowej Eurasia Group). różni piloci zapowiadają, jak może działać w 2020 roku, kiedy ma zostać w pełni wdrożony.
Uważa się, że algorytm podkreśla podejrzane zachowania, takie jak odwiedzanie meczetu lub posiadanie zbyt wielu książek.
Czarne listy to pierwsze narzędzie systemu. Przez ostatnie pięć lat chiński system sądowy publikował nazwiska osób, które nie zapłaciły grzywien lub nie zastosowały się do wyroków. Zgodnie z nowymi przepisami dotyczącymi kredytów socjalnych, lista ta jest udostępniana różnym firmom i agencjom rządowym. Osoby z listy zablokowały się w pożyczaniu pieniędzy, rezerwowaniu lotów i przebywaniu w luksusowych hotelach. Chińskie krajowe firmy transportowe stworzyły dodatkowe czarne listy, aby karać pasażerów za zachowania takie jak blokowanie drzwi pociągu lub wszczynanie bójek podczas podróży; przestępcy nie mogą w przyszłości kupować biletów przez sześć lub 12 miesięcy. Na początku tego roku Pekin zadebiutował na serii czarnych list, aby zabronić nieuczciwym przedsiębiorstwom otrzymywania przyszłych kontraktów rządowych lub dotacji do ziemi.
Kilka samorządów eksperymentowało z oceną kredytów społecznych, choć nie jest jasne, czy będą one częścią planu krajowego. Na przykład północne miasto Rongcheng przypisuje punktację każdemu z 740 000 mieszkańców, donosi Foreign Policy. Każdy zaczyna z 1000 punktów. Jeśli przekażesz darowiznę na cele charytatywne lub wygrasz nagrodę rządową, zdobywasz punkty; jeśli złamiesz prawo drogowe, na przykład prowadząc samochód pod wpływem alkoholu lub przejeżdżając przez przejście dla pieszych, tracisz punkty. Osoby z dobrymi wynikami mogą uzyskać zniżki na zimowe dostawy ogrzewania lub uzyskać lepsze warunki na kredyty hipoteczne; osoby o złych wynikach mogą stracić dostęp do kredytów bankowych lub awansów na stanowiskach rządowych. Ratusz wystawia plakaty lokalnych wzorów do naśladowania, które wykazały cnoty i zdobyły wysokie noty.
Ideą kredytu społecznego jest monitorowanie i zarządzanie zachowaniem ludzi i instytucji, mówi Samantha Hoffman z Mercator Institute for China Studies w Berlinie. Gdy naruszenie zostanie zarejestrowane w jednej części systemu, może wywołać reakcje w innych częściach systemu. Jest to koncepcja mająca na celu wspieranie zarówno rozwoju gospodarczego, jak i zarządzania społecznego, i jest z natury polityczna. W Stanach Zjednoczonych istnieją już pewne podobieństwa do chińskiego planu: zła ocena kredytowa może uniemożliwić zaciągnięcie kredytu mieszkaniowego, podczas gdy wyrok skazujący zawiesza lub unieważnia prawo do głosowania. Ale nie wszystkie są połączone w ten sam sposób – nie ma nadrzędnego planu, podkreśla Hoffman.
Jedną z największych obaw jest to, że ponieważ w Chinach brakuje niezależnego sądownictwa, obywatele nie mają możliwości kwestionowania fałszywych lub niedokładnych zarzutów. Niektórzy znaleźli swoje nazwiska dodane do czarnych list podróżnych bez powiadomienia po orzeczeniu sądu. Wnioskodawcy i dziennikarze śledczy są monitorowani według innego systemu, a osoby, które weszły na odwyk, są obserwowane przez jeszcze inny system. Teoretycznie bazy danych użytkowników narkotyków mają usuwać nazwiska po pięciu lub siedmiu latach, ale widziałem wiele przypadków, w których tak się nie stało, mówi Wang z Human Rights Watch. Niezwykle trudno jest kiedykolwiek usunąć się z którejkolwiek z tych list.
Od czasu do czasu wybuchy wściekłości w Internecie wskazują na publiczne oburzenie. Wiadomość, że studentka została odrzucona przez uczelnię z powodu umieszczenia jej ojca na czarnej liście kredytowej, niedawno wywołała lawinę gniewu w Internecie. Decyzja uczelni nie została oficjalnie usankcjonowana ani nakazana przez rząd. Raczej, w swoim entuzjazmie do wspierania nowej polityki, administratorzy szkół po prostu doprowadzili ich do tego, co uważali za logiczny wniosek.
Nieprzezroczystość systemu utrudnia ocenę skuteczności eksperymentów, takich jak Rongcheng. Partia wycisnęła prawie wszystkie krytyczne głosy od 2012 roku, a ryzyko kwestionowania systemu – nawet w stosunkowo niewielkim stopniu – wzrosło. Dostępne informacje są głęboko wadliwe; Systematyczne fałszowanie danych dotyczących wszystkiego, od wzrostu PKB po wykorzystanie energii wodnej, przenika chińskie statystyki rządowe. Badacz z australijskiego National University, Borge Bakken, szacuje, że oficjalne dane dotyczące przestępczości, które rząd ma wyraźną motywację do bagatelizowania, mogą stanowić zaledwie 2,5 procent wszystkich zachowań przestępczych.
Teoretycznie zarządzanie oparte na danych może pomóc w rozwiązaniu tych problemów – omijając zniekształcenia, aby umożliwić rządowi centralnemu bezpośrednie zbieranie informacji. Taka była na przykład idea wprowadzenia monitorów jakości powietrza, które przesyłają dane z powrotem do władz centralnych, zamiast polegać na lokalnych urzędnikach, którzy mogą znajdować się w kieszeni zanieczyszczającego przemysłu. Jednak wiele aspektów dobrego zarządzania jest zbyt skomplikowanych, aby umożliwić tego rodzaju bezpośrednie monitorowanie i zamiast tego polegać na danych wprowadzonych przez tych samych lokalnych urzędników.
Jednak rząd chiński rzadko publikuje dane dotyczące wydajności, które osoby z zewnątrz mogą wykorzystać do oceny tych systemów. Weźmy na przykład kamery, które służą do identyfikacji i zawstydzania spacerowiczów w niektórych miastach, wyświetlając ich twarze na publicznych billboardach, a także do śledzenia zwyczajów modlitewnych muzułmanów w zachodnich Chinach. Ich dokładność pozostaje pod znakiem zapytania: w szczególności, jak dobrze oprogramowanie do rozpoznawania twarzy wyszkolone na twarzach Chińczyków Han rozpoznaje członków eurazjatyckich grup mniejszościowych? Co więcej, nawet jeśli gromadzenie danych jest dokładne, w jaki sposób rząd wykorzysta takie informacje, aby ukierunkować lub udaremnić przyszłe zachowanie? Algorytmy policyjne, które przewidują, kto może stać się przestępcą, nie są dostępne do wglądu publicznego, podobnie jak statystyki pokazujące, czy przestępczość lub terroryzm wzrosły, czy też zmalały. (Na przykład w zachodnim regionie Xinjiang dostępne informacje pokazują jedynie, że liczba osób zatrzymanych przez policję dramatycznie wzrosła, wzrastając o 731 procent w latach 2016-2017).
W mieście Xiangyang kamery połączone z technologią rozpoznawania twarzy wyświetlają na billboardzie zdjęcia spacerowiczów z nazwiskami i numerami identyfikacyjnymi.
To nie technologia stworzyła politykę, ale technologia znacznie rozszerza rodzaje danych, które chiński rząd może gromadzić na temat osób, mówi Richard McGregor, starszy pracownik Instytutu Lowy i autor Partia: Tajny świat komunistycznych władców Chin . Internet w Chinach działa jako prywatna usługa cyfrowej inteligencji działająca w czasie rzeczywistym.
Policja algorytmiczna
Pisanie w Washington Post na początku tego roku Xiao Qiang, profesor komunikacji na Uniwersytecie Kalifornijskim w Berkeley, nazwał chińskie zarządzanie oparte na danych cyfrowym państwem totalitarnym. Aspekty dystopijne są najwyraźniej widoczne w zachodnich Chinach.
Xinjiang (Nowe Terytorium) jest tradycyjnym domem chińskiej mniejszości muzułmańskiej znanej jako Ujgurowie. Ponieważ duża liczba chińskich migrantów Han osiedliła się – niektórzy twierdzą, że skolonizowali – region, praca i możliwości religijne oferowane lokalnej ludności ujgurskiej uległy zmniejszeniu. Jednym z rezultatów był wzrost przemocy, w której celem były zarówno Han, jak i Ujgur, w tym zamieszki w stolicy Urumczi w 2009 roku, w których zginęło 200 osób. Reakcją rządu na rosnące napięcia nie było organizowanie forów publicznych w celu uzyskania opinii lub porad politycznych. Zamiast tego państwo wykorzystuje gromadzenie danych i algorytmy, aby określić, kto może w przyszłości popełnić akty przemocy lub nieposłuszeństwa.
Rząd Xinjiangu zatrudnił prywatną firmę do zaprojektowania algorytmów predykcyjnych, które oceniają różne strumienie danych. Nie ma publicznego rejestru ani odpowiedzialności za to, jak te obliczenia są budowane lub ważone. Ludzie żyjący w tym systemie na ogół nawet nie wiedzą, jakie są zasady, mówi Rian Thum, antropolog z Loyola University, który bada Xinjiang i który widział rządowe ogłoszenia o zamówieniach, które zostały wydane podczas tworzenia systemu.
W zachodnim mieście Kaszgar wiele domów rodzinnych i sklepów przy głównych ulicach jest teraz zabitych deskami, a place publiczne są puste. Kiedy odwiedziłem go w 2013 roku, było jasne, że Kaszgar był już miastem segregowanym – ludność Han i Ujgurów żyła i pracowała w różnych częściach miasta. Ale wieczorami było to również miejsce tętniące życiem i często hałaśliwe, gdzie odgłosy wezwania do modlitwy przeplatały się z muzyką taneczną z lokalnych klubów i rozmowami starszych panów siedzących do późna na plastikowych krzesłach na patio. Dziś miasto jest niesamowicie ciche; życie publiczne w sąsiedztwie praktycznie zniknęło. Emily Feng, dziennikarka Czasy finansowe , odwiedził Kaszgar w czerwcu i opublikował na Twitterze zdjęcia nowo pustych ulic.
Powodem jest to, że według niektórych szacunków więcej niż jeden na dziesięciu dorosłych Ujgurów i Kazachów w Sinciang został wysłany do obozów reedukacyjnych otoczonych drutem kolczastym – a ci, którzy pozostają na wolności, są przerażeni.
W ciągu ostatnich dwóch lat utworzono tysiące punktów kontrolnych, na których przechodnie muszą okazać zarówno twarz, jak i dowód osobisty, aby jechać autostradą, wejść do meczetu lub odwiedzić centrum handlowe. Ujgurowie są zobowiązani do zainstalowania na swoich smartfonach aplikacji śledzących zaprojektowanych przez rząd, które monitorują ich kontakty online i odwiedzane przez nich strony internetowe. Funkcjonariusze policji regularnie odwiedzają lokalne domy, aby zebrać dalsze dane na temat tego, ile osób mieszka w gospodarstwie domowym, jakie są ich relacje z sąsiadami, ile razy ludzie codziennie się modlą, czy podróżowali za granicę i jakie mają książki.
Wszystkie te strumienie danych są wprowadzane do systemu bezpieczeństwa publicznego Xinjiangu, wraz z innymi zapisami zawierającymi informacje na temat wszystkiego, od historii bankowej po planowanie rodziny. Program komputerowy agreguje wszystkie dane z tych różnych źródeł i oznacza tych, którzy mogą stać się „zagrożeniem” dla władz, mówi Wang. Chociaż dokładny algorytm nie jest znany, uważa się, że może on podkreślać zachowania, takie jak odwiedzanie konkretnego meczetu, posiadanie dużej ilości książek, kupowanie dużej ilości benzyny lub odbieranie telefonów lub e-maili od kontaktów z zagranicy. Osoby z flagami są odwiedzane przez policję, która może ich aresztować i umieścić w więzieniach lub obozach reedukacyjnych bez żadnych formalnych zarzutów.
Odwiedzający Plac Tiananmen w Pekinie skanują swoje dokumenty w punkcie kontrolnym.
Adrian Zenz, politolog z Europejskiej Szkoły Kultury i Teologii w Korntal w Niemczech, szacuje, że wskaźnik internowania mniejszości w Sinciang może sięgać nawet 11,5 procent dorosłej populacji. Obozy te mają na celu zaszczepienie patriotyzmu i oduczenie ludzi przekonań religijnych. (Nowe ogłoszenia o zamówieniach dla strażników kremacji wydają się wskazywać, że rząd próbuje również wyeliminować tradycyjne muzułmańskie praktyki pogrzebowe w regionie.)
Podczas gdy Xinjiang reprezentuje jedną drakońską skrajność, w innych częściach Chin obywatele zaczynają sprzeciwiać się niektórym rodzajom inwigilacji. Firma internetowa, która przesyłała strumieniowo materiały z telewizji przemysłowej, zamknęła te transmisje po publicznym oburzeniu. Miasto Szanghaj wydało niedawno przepisy, które umożliwiają ludziom kwestionowanie nieprawidłowych informacji wykorzystywanych do sporządzania zapisów dotyczących kredytów społecznych. Rosną wymagania dotyczące prywatności ze strony chińskich użytkowników Internetu, mówi Samm Sacks, starszy pracownik Programu Polityki Technologicznej w CSIS w Nowym Jorku. To nie jest takie darmowe dla wszystkich, za jakie ma być.
Christina Larson jest wielokrotnie nagradzaną korespondentką zagraniczną i dziennikarką naukową, piszącą głównie o Chinach i Azji.