Jak demokracje mogą odzyskać władzę w cyfrowym świecie?

Pani Tech | Getty

Czy kłamstwa cenzora Twittera powinny być publikowane na Twitterze przez prezydenta USA? Czy YouTube powinien usunąć dezinformację o covid-19? Czy Facebook powinien zrobić więcej przeciwko mowie nienawiści? Takie pytania, które codziennie pojawiają się w mediach, mogą sprawiać wrażenie, że głównym zagrożeniem dla demokracji napędzanym technologią jest kuratorowanie treści przez firmy z branży mediów społecznościowych. Jednak te kontrowersje są jedynie symptomami większego zagrożenia: głębokości sprywatyzowanej władzy nad światem cyfrowym.

Każdy demokratyczny kraj na świecie stoi przed tym samym wyzwaniem, ale żaden nie jest w stanie samodzielnie go rozbroić. Potrzebujemy globalnego sojuszu demokratycznego, aby ustanowić normy, zasady i wytyczne dla firm technologicznych oraz uzgodnić protokoły dla transgranicznej działalności cyfrowej, w tym ingerencji w wybory, cyberwojny i handlu online. Obywatele są lepiej reprezentowani, gdy koalicja ich rządów — a nie garstka kadry kierowniczej korporacji — określa zasady ładu korporacyjnego oraz gdy funkcjonują mechanizmy kontroli, równowagi i nadzoru.

Istnieje długa lista sposobów, w jakie firmy technologiczne rządzą naszym życiem bez większych regulacji. W obszarach, od budowy infrastruktury krytycznej i jej obrony — a nawet tworzenia ofensywnych narzędzi cybernetycznych — po projektowanie systemów sztucznej inteligencji i rządowych baz danych, decyzje podejmowane w interesie biznesu wyznaczają normy i standardy dla miliardów ludzi.

Coraz częściej firmy przejmują role państwowe lub opracowują produkty, które wpływają na prawa podstawowe. Na przykład systemy rozpoznawania twarzy, które nigdy nie zostały odpowiednio uregulowane przed opracowaniem i wdrożeniem, są obecnie tak szeroko stosowane, że pozbawiają ludzi prywatności. Podobnie firmy systematycznie gromadzą prywatne dane, często bez zgody – jest to norma branżowa, którą organy regulacyjne powoli rozwiązują.

Powiązana historia

Dlaczego Kongres powinien patrzeć na Twittera i Facebooka Jeśli amerykańscy politycy naprawdę przejmują się szkodami, jakie mogą wyrządzić platformy internetowe, powinni przyjrzeć się internetowym teoriom spiskowym — i temu, jak mogą zostać pogorszone przez projektowanie witryn mediów społecznościowych.

Ponieważ technologie ewoluują szybciej niż przepisy, rosną rozbieżności między agencją prywatną a nadzorem publicznym. Weźmy na przykład firmy smart city, które obiecują, że samorządy będą mogły zmniejszyć zatłoczenie, monitorując samochody w czasie rzeczywistym i dostosowując czas sygnalizacji świetlnej. W przeciwieństwie do, powiedzmy, drogi wybudowanej przez firmę budowlaną, ta cyfrowa infrastruktura niekoniecznie należy do domeny publicznej. Firmy, które go budują, zdobywają wiedzę i wartość, która może nie wracać do opinii publicznej.

Ta dysproporcja między sektorem publicznym i prywatnym wymyka się spod kontroli. Istnieje luka informacyjna, luka talentów i luka obliczeniowa. Razem składają się one na lukę w zakresie władzy i odpowiedzialności. Cała warstwa kontroli naszego codziennego życia istnieje zatem bez demokratycznej legitymacji i przy niewielkim nadzorze.

Dlaczego powinno nas to obchodzić? Ponieważ decyzje podejmowane przez firmy dotyczące systemów cyfrowych mogą nie być zgodne z podstawowymi zasadami demokratycznymi, takimi jak wolność wyboru, uczciwa konkurencja, niedyskryminacja, sprawiedliwość i odpowiedzialność. Niezamierzone konsekwencje procesów technologicznych, błędne decyzje lub projekty biznesowe mogą stworzyć poważne zagrożenia dla bezpieczeństwa publicznego i bezpieczeństwa narodowego. A władza, która nie podlega systematycznym kontrolom i równowadze, jest sprzeczna z podstawowymi zasadami większości demokracji.

Obecnie regulacje dotyczące technologii są często określane jako trójstronna rywalizacja między systemami państwowymi w Chinach i Rosji, systemami rynkowymi w Stanach Zjednoczonych oraz wizją opartą na wartościach w Europie. W rzeczywistości jednak istnieją tylko dwa dominujące systemy zarządzania technologią: opisany powyżej sprywatyzowany, który obowiązuje w całym demokratycznym świecie, oraz autorytarny.

Aby zmusić firmy technologiczne o zasięgu globalnym do porządku, potrzebujemy czegoś nowego: globalnego sojuszu, który stawia demokrację na pierwszym miejscu.

Laissez-faire podejście demokratycznych rządów i ich niechęć do krępowania prywatnych firm w kraju, widoczne jest również na arenie międzynarodowej. Podczas gdy rządy demokratyczne w dużej mierze pozwoliły firmom rządzić, rządy autorytarne zaczęły kształtować normy na forach międzynarodowych. Ta niefortunna zmiana zbiega się z trendem upadku demokracji na całym świecie, ponieważ duże demokracje, takie jak Indie, Turcja i Brazylia, stały się bardziej autorytarne. Bez przemyślanych i natychmiastowych wysiłków demokratycznych rządów, aby odzyskać sprawczość, korporacyjne i autorytarne modele zarządzania zniszczą demokrację na całym świecie.

Czy to oznacza, że ​​demokratyczne rządy powinny zamiast tego budować własne platformy mediów społecznościowych, centra danych i telefony komórkowe? Nie. Ale muszą pilnie odzyskać swoją rolę w tworzeniu reguł i ograniczeń, które podtrzymują podstawowe zasady demokracji w sferze technologicznej. Do tej pory rządy te powoli zaczęły to robić za pomocą przepisów na szczeblu krajowym lub, w przypadku Europy, na szczeblu regionalnym. Aby jednak uspokoić firmy technologiczne z całego świata, potrzebujemy czegoś nowego: globalnego sojuszu, który stawia demokrację na pierwszym miejscu.

Łączenie się w zespoły

Globalne instytucje powstałe w następstwie II wojny światowej, takie jak Organizacja Narodów Zjednoczonych, Światowa Organizacja Handlu i Organizacja Traktatu Północnoatlantyckiego, stworzyły porządek międzynarodowy oparty na zasadach. Jednak nie uwzględniają w pełni świata cyfrowego w swoich zadaniach i programach, nawet jeśli wielu z nich w końcu zaczyna koncentrować się na współpracy cyfrowej, handlu elektronicznym i cyberbezpieczeństwie. I chociaż handel cyfrowy (który wymaga własnych regulacji, takich jak zasady dotyczące handlu elektronicznego i kryteriów wymiany danych) ma coraz większe znaczenie, członkowie WTO nie uzgodnili globalnych zasad dotyczących usług dla inteligentnej produkcji, cyfrowych łańcuchów dostaw i inne transakcje obsługiwane cyfrowo.

Potrzebujemy zatem teraz dużej koalicji demokratycznej, która może zaoferować sensowną alternatywę dla dwóch istniejących modeli zarządzania technologią: prywatyzowanego i autorytarnego. Powinna być globalną koalicją, przyjmującą kraje spełniające kryteria demokratyczne.

Wspólnota Demokracji, koalicja państw, która została utworzona w 2000 r. w celu rozwoju demokracji, ale nigdy nie wywarła większego wpływu, mogłaby zostać zreorganizowana i zmodernizowana tak, aby obejmowała ambitny mandat w zakresie zarządzania technologią. Alternatywnie można by utworzyć D7 lub D20 — koalicję podobną do G7 lub G20, ale złożoną z największych demokracji na świecie.

Taka grupa uzgadniałaby przepisy i standardy technologii zgodnie z podstawowymi zasadami demokracji. Wtedy każdy kraj członkowski wdrażałby je na swój własny sposób, podobnie jak robią to dziś państwa członkowskie UE z dyrektywami UE.

Jakie problemy rozwiązałaby taka koalicja? Koalicja mogłaby na przykład przyjąć wspólną definicję: wolność wypowiedzi dla firm zajmujących się mediami społecznościowymi. Być może ta definicja byłaby podobna do szeroko rozpowszechnionego podejścia europejskiego, w którym wyrażanie opinii jest bezpłatne, ale istnieją wyraźne wyjątki dotyczące mowy nienawiści i podżegania do przemocy.

Albo koalicja może ograniczyć praktykę mikrokierowanie reklam politycznych w mediach społecznościowych: może na przykład zabronić firmom zezwalania reklamodawcom na dostosowywanie i kierowanie reklam na podstawie czyjejś religii, pochodzenia etnicznego, orientacji seksualnej lub zebranych danych osobowych. Koalicja mogłaby przynajmniej opowiadać się za większą przejrzystością w zakresie mikrotargetowania, aby stworzyć bardziej świadomą debatę na temat tego, które praktyki gromadzenia danych powinny być niedostępne.

Koalicja demokratyczna mogłaby również przyjąć standardy i metody nadzoru nad cyfrowe operacje wyborów i kampanii . Może to oznaczać uzgodnienie wymagań bezpieczeństwa dla maszyn do głosowania, a także standardów anonimowości, testów warunków skrajnych i metod weryfikacji, takich jak wymaganie kopii papierowej dla każdego głosu. A cała koalicja mogłaby zgodzić się na nałożenie sankcji na każdy kraj lub podmiot niepaństwowy, który ingeruje w wybory lub referendum w którymkolwiek z państw członkowskich.

Powiązana historia

Dlaczego zakaz reklam politycznych na Facebooku podejmuje niewłaściwy problem Moratorium na nowe reklamy polityczne tuż przed dniem wyborów dotyczy jednego rodzaju wyzwania, jakie niosą ze sobą media społecznościowe. Po prostu nie to się liczy.

Kolejnym zadaniem, które może podjąć koalicja, jest rozwijanie zasady handlu dla gospodarki cyfrowej . Na przykład członkowie mogą uzgodnić, że nigdy nie będą żądać od firm przekazywania kodu źródłowego oprogramowania władzom państwowym, tak jak robią to Chiny. Mogłyby również zgodzić się na przyjęcie wspólnych zasad ochrony danych w przypadku transakcji transgranicznych. Takie posunięcia pozwoliłyby na rozwój pewnego rodzaju cyfrowej strefy wolnego handlu w krajach o podobnych poglądach.

Chiny już mają coś podobnego w postaci eWTP, platformy handlowej, która umożliwia globalny bezcłowy handel dla transakcji poniżej miliona dolarów. Ale eWTP, które zostało założone przez giganta handlu elektronicznego Alibaba, jest prowadzone przez firmy z sektora prywatnego z siedzibą w Chinach. Wiadomo, że chiński rząd ma dostęp do danych za pośrednictwem prywatnych firm. Bez publicznej, opartej na zasadach alternatywy eWTP mogłaby stać się de facto globalną platformą handlu cyfrowego, pozbawioną mandatu demokratycznego i nadzoru.

Inną kwestią, którą ta koalicja mogłaby rozwiązać, byłaby bezpieczeństwo łańcuchów dostaw dla urządzeń takich jak telefony i laptopy. Wiele krajów zakazało smartfonów i sprzętu telekomunikacyjnego Huawei z powodu obaw, że technologia firmy może mieć wbudowane luki lub backdoory, które chiński rząd mógłby wykorzystać. Aktywne opracowywanie wspólnych standardów w celu ochrony integralności łańcuchów dostaw i produktów stworzyłoby równe szanse dla członków koalicji i zbudowałoby zaufanie do firm, które zgodzą się ich przestrzegać.

Kolejnym obszarem, który może być godny uwagi koalicji jest: cyberwojna i konflikt hybrydowy (gdzie agresja cyfrowa i fizyczna są połączone). W ciągu ostatniej dekady coraz więcej krajów uznało konflikt hybrydowy za zagrożenie dla bezpieczeństwa narodowego. Każdy naród z wysoko wykwalifikowanymi operacjami cybernetycznymi może siać spustoszenie w krajach, które nie zainwestują w obronę przed nimi. Tymczasem cyberataki dokonywane przez podmioty niepaństwowe zmieniły równowagę sił między państwami.

Obecnie jednak nie ma międzynarodowych kryteriów określających, kiedy cyberatak można uznać za akt wojny. To zachęca złych aktorów do uderzania wieloma małymi ciosami. Oprócz bezpośredniego skutku ekonomicznego lub (geo)politycznego, ataki takie podważają zaufanie, że sprawiedliwość zostanie wymierzona.

Demokratyczna koalicja mogłaby pracować nad zlikwidowaniem tej luki w odpowiedzialności i powołać niezależny trybunał do zbadania takich ataków, być może podobny do stałego trybunału arbitrażowego w Hadze, który orzeka w sporach międzynarodowych. Liderzy demokratycznego sojuszu mogli wówczas na podstawie orzeczeń trybunału decydować, czy należy zastosować sankcje gospodarcze i polityczne.

To tylko niektóre ze sposobów, w jakie globalna koalicja demokratyczna mogłaby wprowadzać zasady, których bardzo brakuje w sferze cyfrowej. Standardy koalicji mogą skutecznie stać się standardami globalnymi, jeśli jej członkowie będą reprezentować znaczną część światowej populacji. Ogólne rozporządzenie o ochronie danych UE stanowi przykład tego, jak może to działać. Chociaż RODO ma zastosowanie tylko do Europy, globalne firmy technologiczne muszą przestrzegać jego zasad dla swoich europejskich użytkowników, co utrudnia sprzeciw, ponieważ inne jurysdykcje przyjmują podobne przepisy. Podobnie osoby niebędące członkami demokratycznej koalicji mogą skończyć na przestrzeganiu wielu jej zasad, aby czerpać korzyści.

Jeśli demokratyczne rządy nie przejmą większej władzy w zarządzaniu technologią, gdy rządy autorytarne staną się potężniejsze, świat cyfrowy — który jest częścią naszego codziennego życia — nie będzie demokratyczny. Bez systemu wyraźnej legitymacji dla tych, którzy rządzą — bez kontroli, równowagi i mechanizmów niezależnego nadzoru — niemożliwe jest pociąganie firm technologicznych do odpowiedzialności. Tylko budując globalną koalicję na rzecz zarządzania technologią, demokratyczne rządy mogą ponownie postawić demokrację na pierwszym miejscu.

Marietje Schaake jest dyrektorem ds. polityki międzynarodowej w Centrum Polityki Cybernetycznej Uniwersytetu Stanforda i członkiem ds. polityki międzynarodowej w Stanford Institute for Human-Centered Artificial Intelligence. W latach 2009-2019 Marietje była posłanką do Parlamentu Europejskiego z ramienia holenderskiej partii liberalno-demokratycznej.

ukryć