Czas na kartę praw do danych

Pani Tech

Jest lato 2023 roku i Rachel jest spłukana. Pewnego wieczoru siedzi w barze i przegląda w telefonie ogłoszenia o pracę, a ona dostaje SMS-a. Naukowcy prowadzący badania nad funkcją wątroby wydobyli jej nazwisko z programu lojalnościowego baru — zapisała się, aby otrzymać zniżkę na nachos w ramach happy hour. Oferują 50 USD tygodniowo za dostęp do strumienia danych dotyczących zdrowia jej telefonu i karty paska przez następne trzy miesiące.

Na początku Rachel jest zirytowana wtargnięciem. Ale ona potrzebuje pieniędzy. Kiwa więc głową na swój telefon – subtelny, ale wyraźny gest zgody, który jest prawnie wiążący jak podpis – i wraca do nachosów i poszukiwania pracy.

Ale w miarę upływu lata Rachel nie może nie zauważyć, że pracodawcy odrzucają ją po tym, jak jej znajomi, jeden po drugim, ustawiają się w kolejce. Bez jej wiedzy — ponieważ nie przeczytała drobnego druku — niektóre dane z badania, wraz z historią zakupów alkoholu, trafiły do ​​jednej z dwóch agencji zatrudnienia, które zdominowały rynek. Każdy pracodawca, który sprawdza jej aplikację w agencji, widzi teraz, że została sprofilowana jako nierzetelna osoba z depresją. Nic dziwnego, że nie może dostać pracy. Ale nawet gdyby mogła odkryć, że została w ten sposób sprofilowana, jakie ma wyjście?

Dzień z życia

Jeśli to czytasz, prawdopodobnie, podobnie jak Rachel, stworzyłeś dziś ogromną ilość danych — czytając lub robiąc zakupy online, śledząc trening lub po prostu idąc gdzieś z telefonem w kieszeni. Niektóre z tych danych zostały utworzone przez Ciebie celowo, ale wiele z nich powstało w wyniku Twoich działań bez Twojej wiedzy, nie mówiąc już o zgodzie.

Rozprzestrzenianie się danych w ostatnich dziesięcioleciach doprowadziło niektórych reformatorów do okrzyku: Jesteś właścicielem swoich danych! Eric Posner z University of Chicago, Eric Weyl z Microsoft Research i guru wirtualnej rzeczywistości Jaron Lanier przekonują, że dane należy traktować jako posiadanie. Mówi tak również Mark Zuckerberg, założyciel i szef Facebooka. Facebook teraz mówi że jesteś właścicielem wszystkich kontaktów i informacji, które publikujesz na Facebooku i możesz kontrolować sposób ich udostępniania. Czasy finansowe twierdzi, że kluczową częścią odpowiedzi jest przyznanie konsumentom własności ich własnych danych osobowych. W ostatnie przemówienie , Tim Cook, CEO Apple, zgodził się, mówiąc, że firmy powinny uznać, że dane należą do użytkowników.

Własność danych nie tylko nie rozwiązuje istniejących problemów; tworzy nowe.

Ten esej argumentuje, że własność danych jest wadliwym, przynoszącym efekt przeciwny do zamierzonego sposobem myślenia o danych. Nie tylko nie rozwiązuje istniejących problemów; tworzy nowe. Zamiast tego potrzebujemy ram, które dadzą ludziom prawa do określić, w jaki sposób wykorzystywane są ich dane, bez konieczności przejmowania ich na własność. Ustawa o ochronie danych, a rachunek wprowadzony 12 grudnia przez amerykańskiego senatora Briana Schatza, demokratę z Hawajów, jest dobrym wstępnym krokiem w tym kierunku (w zależności od tego, jak rozwinie się drobny druk). Jak powiedział Doug Jones, demokratyczny senator z Alabamy, który jest jednym ze współsponsorów projektu ustawy: Prawo do prywatności i bezpieczeństwa w Internecie powinno mieć fundamentalne znaczenie.

Pojęcie własności jest atrakcyjne, ponieważ sugeruje zapewnienie władzy i kontroli nad swoimi danymi. Ale posiadanie i wypożyczanie danych to zła analogia. Kontrola nad sposobem wykorzystania poszczególnych bitów danych to tylko jeden z wielu problemów. Prawdziwe pytania to pytania o to, jak dane kształtują społeczeństwo i jednostki. Historia Rachel pokaże nam, dlaczego prawa do danych są ważne i jak mogą działać, aby chronić nie tylko Rachel jako jednostkę, ale całe społeczeństwo.

Jutro nigdy nie wie

Aby dowiedzieć się, dlaczego własność danych jest błędną koncepcją, najpierw pomyśl o tym artykule, który czytasz. Już samo otwarcie jej na urządzeniu elektronicznym tworzyło dane – wpis w historii Twojej przeglądarki, ciasteczka wysyłane do Twojej przeglądarki, wpis w dzienniku serwera witryny w celu zarejestrowania wizyty z Twojego adresu IP. Praktycznie niemożliwe jest zrobienie czegokolwiek online — czytanie, zakupy, a nawet po prostu pójście gdzieś z telefonem podłączonym do Internetu w kieszeni — bez pozostawienia cyfrowego cienia za sobą. Te cienie nie mogą być własnością — tak jak, powiedzmy, rower — tak samo jak efemeryczne plamy cienia, które podążają za tobą w słoneczne dni.

Twoje dane same w sobie nie są zbyt przydatne dla marketera lub ubezpieczyciela. Analizowane w połączeniu z podobnymi danymi od tysięcy innych osób, jednak karmi algorytmy i robi wiaderka (np. nałogowy palacz z nałogiem lub zdrowy biegacz, zawsze na czas). Jeśli algorytm jest niesprawiedliwy — jeśli na przykład błędnie klasyfikuje Cię jako zagrożenie dla zdrowia, ponieważ został przeszkolony na wypaczonym zestawie danych lub po prostu dlatego, że jesteś osobą odstającą — wówczas pozwolenie na posiadanie danych nie będzie uczciwe. Jedynym sposobem na uniknięcie wpływu algorytmu byłoby nigdy, przenigdy, nie udzielanie nikomu dostępu do swoich danych. Ale nawet jeśli próbowałeś gromadzić dane, które Cię dotyczą, korporacje i rządy, które mają dostęp do dużych ilości danych o innych ludziach, mogą wykorzystać te dane do wyciągania wniosków na Twój temat. Dane nie są neutralnym wrażeniem rzeczywistości. Tworzenie i konsumpcja danych odzwierciedla sposób dystrybucji władzy w społeczeństwie.

Możesz oczywiście zachować prywatność wszystkich swoich danych, aby uniknąć ich wykorzystania przeciwko Tobie. Ale jeśli zastosujesz się do tej strategii, możesz stracić korzyści płynące z czasami udostępniania swoich danych. Na przykład, gdy prowadzisz samochód, nawigując za pomocą aplikacji na smartfona, udostępniasz anonimowe informacje w czasie rzeczywistym, które następnie przekładają się na dokładne warunki na drodze (np. dojazd do pracy zajmie Ci 26 minut, jeśli wyjedziesz o 8: 16 rano). Te dane są indywidualnie prywatne — obcy nie mogą zobaczyć, gdzie jesteś — ale łącznie stanowią dobro zbiorowe.

Tworzenie i konsumpcja danych odzwierciedla sposób dystrybucji władzy w społeczeństwie.

Ten przykład pokazuje, w jaki sposób dane w agregacie mogą zasadniczo różnić się charakterem od poszczególnych bitów i bajtów, które je tworzą. Nawet argumenty oparte na dobrych intencjach dotyczące własności danych zakładają, że jeśli dobrze pokierujesz danymi osobowymi, uzyskasz dobre wyniki społeczne. A to po prostu nieprawda.

Dlatego wielu problemów związanych z nieuczciwym wykorzystaniem danych nie można rozwiązać poprzez kontrolowanie, kto ma do nich dostęp. Na przykład w niektórych jurysdykcjach Stanów Zjednoczonych sędziowie przy podejmowaniu decyzji o zwolnieniu za kaucją i skazaniu używają algorytmicznie generowanej oceny ryzyka. Te programy komputerowe przewidzieć prawdopodobieństwo, że dana osoba popełni przyszłe przestępstwa. Wyobraź sobie, że taki algorytm mówi, że masz 99% szans na popełnienie kolejnego przestępstwa lub opuszczenie przyszłego spotkania za kaucją, ponieważ osoby podobne demograficznie do Ciebie często są przestępcami lub skaczą za kaucją. To może być niesprawiedliwe w twoim przypadku, ale nie możesz być właścicielem swojego profilu demograficznego lub swojej historii karnej i nie pozwolić systemowi prawnemu tego zobaczyć. Nawet jeśli odmówisz zgody na wykorzystanie Twoich danych, organizacja może wykorzystać dane o innych osobach w celu dokonania ekstrapolacji statystycznych, które mają na Ciebie wpływ. Ten przykład podkreśla fakt, że dane dotyczą władzy — osoby oskarżone lub skazane za przestępstwa mają na ogół mniejszą władzę niż osoby podejmujące decyzje o kaucji i skazaniu.

Podobnie istniejące rozwiązania dotyczące nieuczciwego wykorzystania danych często obejmują kontrolowanie nie tego, kto ma dostęp do danych, ale sposobu ich wykorzystania. Na przykład zgodnie z amerykańską ustawą o przystępnej cenie firmy ubezpieczeniowe nie mogą odmawiać ani pobierać wyższych opłat za ubezpieczenie tylko dlatego, że ktoś ma wcześniej istniejący stan. Rząd nie mówi firmom, że nie mogą przechowywać tych danych o pacjentach; po prostu mówi, że muszą to zignorować. Osoba nie jest właścicielem faktu, że ma cukrzycę, ale może mieć prawo do tego, by nie być dyskryminowaną z tego powodu.

Zgoda jest często wymieniana jako podstawowa zasada, której należy przestrzegać w odniesieniu do wykorzystywania danych. Jednak przy braku regulacji rządowych uniemożliwiających firmom ubezpieczeniowym wykorzystywanie danych o istniejących schorzeniach, indywidualni konsumenci nie mają możliwości odmowy wyrażenia zgody. Powodem, dla którego brakuje im tej zdolności, jest to, że firmy ubezpieczeniowe mają większą władzę niż oni. Zgoda, mówiąc wprost, nie działa.

Prawa do danych powinny chronić prywatność i powinny uwzględniać fakt, że prywatność nie jest reaktywnym prawem do ochrony przed społeczeństwem. Chodzi o wolność rozwijania siebie z dala od handlu iz dala od rządowej kontroli. Ale prawa do danych dotyczą nie tylko prywatności. Podobnie jak inne prawa — na przykład do wolności słowa — prawa do danych dotyczą zasadniczo zapewnienia przestrzeni dla indywidualnej wolności i sprawczości podczas uczestnictwa w nowoczesnym społeczeństwie. Szczegóły powinny wynikać z podstawowych zasad, tak jak w obowiązującej amerykańskiej karcie praw. Zbyt często próby wypowiadania się takie zasady ugrzęznąć w gąszczu rzeczy, takich jak modele zgody, które mogą szybko stać się nieaktualne.

Na całym świecie potrzebne są jasne, szerokie zasady, w sposób dostosowany do systemów prawnych poszczególnych krajów. W Stanach Zjednoczonych istniejące przepisy konstytucyjne — takie jak równa ochrona na mocy prawa i zakaz nieuzasadnionych przeszukań i konfiskat — są niewystarczające. Na przykład trudno jest argumentować, że ciągłe, uporczywe śledzenie ruchów danej osoby w miejscach publicznych jest poszukiwaniem. A jednak taka inwigilacja jest porównywalna w swoich natrętnych skutkach do nierozsądnych poszukiwań. Nie wystarczy mieć nadziei, że sądy wypracują korzystne interpretacje XVIII-wiecznego języka zastosowanego w technologiach XXI wieku.

Karta praw do danych powinna zawierać prawa takie jak:

• Nie wolno naruszać prawa ludzi do zabezpieczenia się przed nieuzasadnionym nadzorem.
• Żadna osoba nie może być poddawana potajemnej manipulacji swoim zachowaniem.
• Żadna osoba nie może być niesprawiedliwie dyskryminowana na podstawie danych.

Nie są to bynajmniej wszystkie przepisy, których potrzebowałby trwały i skuteczny projekt ustawy. Mają być początkiem i przykładami jasności i ogólności, jakich potrzebuje taki dokument.

Aby uczynić różnicę dla ludzi takich jak Rachel, karta praw do danych będzie wymagała nowego zestawu instytucji i instrumentów prawnych, aby zabezpieczyć prawa, które określa. Państwo musi chronić i ograniczać te prawa, co zaczęło robić europejskie ogólne rozporządzenie o ochronie danych (RODO) z 2018 roku. Nowa infrastruktura w zakresie praw danych powinna iść dalej i obejmować rady, spółdzielnie zajmujące się danymi (które umożliwiłyby zbiorowe działania i występować w imieniu użytkowników), systemy certyfikacji danych etycznych, wyspecjalizowani prawnicy i audytorzy zajmujący się prawami danych oraz przedstawiciele danych, którzy działają jako powiernicy dla członków społeczeństwa, zdolnych do analizowania złożonego wpływu, jaki dane mogą mieć na życie.

Z niewielką pomocą moich przyjaciół

Powiązana historia

Powiązana historia

Jak wygląda przyszłość bez ochrony praw danych? Wróćmy do bezowocnego poszukiwania pracy przez Rachel. Jej charakterystyka jako osoby z depresją, nierzetelna, może być poprawna lub nie. Być może algorytm popełnił błąd: Rachel jest całkowicie zdrowa i zdolna do pracy. Ale w miarę jak algorytmy stają się coraz lepsze i korzystają z większych zbiorów danych, coraz mniej prawdopodobne staje się, że będą niedokładne. Czy to jednak uczyniłoby je bardziej sprawiedliwymi?

Co jeśli Rachel był trochę przygnębiony? Dobra praca mogła jej pomóc w przezwyciężeniu depresji. Ale zamiast tego jej profil szybko staje się samospełniającą się przepowiednią. Nie mogąc znaleźć pracy, rzeczywiście popada w depresję i staje się niewiarygodna.

Teraz rozważ dylemat Rachel w świecie z silniejszą ochroną praw danych. Zgadza się na badanie funkcji wątroby, ale gdy przegląda jego warunki, przedstawiciel danych algorytmicznych sygnalizuje problem, w pewien sposób, w jaki algorytmiczni strażnicy chronią przed wirusami komputerowymi i spamem. Po zgłoszeniu problemu jest on kierowany do zespołu audytorów, którzy zgłaszają się do lokalnej rady ds. praw danych (w tej hipotetycznej przyszłości). Zespół analizuje algorytm zastosowany w badaniu i odkrywa powiązanie z profilowaniem zatrudnienia. Zarząd stwierdza, że ​​Rachel została sprofilowana i że dzięki nowo przyjętej interpretacji ustawy o równości zatrudnienia i ustawy o ochronie danych (uchwalonej w 2022 r.) takie profilowanie jest wyraźnie nielegalne. Rachel nie musi sama podejmować działań — rada sankcjonuje badaczy za nadużycia związane z danymi.

Spotkać się

Narastająca erozja prywatności jest trudna do zauważenia i nie wyrządza nikomu krzywdy — podobnie jak śladowe ilości dwutlenku węgla są ledwo wykrywalne i nie wyrządzają żadnej szkody środowisku.

Jak argumentowałem, własność danych jest błędem kategorii o zgubnych konsekwencjach: tak naprawdę nie możesz być właścicielem większości swoich danych, a nawet gdybyś mógł, często nie chroniłoby to przed nieuczciwymi praktykami. Dlaczego zatem idea posiadania danych jest tak popularnym rozwiązaniem?

Odpowiedź jest taka, że ​​eksperci ds. polityki i technolodzy zbyt często milcząco akceptują koncepcję kapitalizmu danych. Postrzegają dane jako źródło kapitału (np. Facebook wykorzystuje dane o mnie do kierowania reklam) lub jako produkt pracy (np. powinienem otrzymać zapłatę za dane, które są o mnie wytworzone). To żadna z tych rzeczy. Myślenie o danych tak, jak myślimy o rowerze, oleju czy pieniądzach, nie oddaje, jak głęboko zmieniły się relacje między obywatelami, państwem i sektorem prywatnym w erze danych. Nowy paradygmat zrozumienia, czym są dane — i jakie prawa się z nimi wiążą — jest pilnie potrzebny, jeśli mamy stworzyć sprawiedliwy ustrój XXI wieku.

Ten paradygmat może z pożytkiem czerpać z analogii środowiskowych — myślenie o danych jak o gazach cieplarnianych lub innych efektach zewnętrznych, gdzie małe cząstki zanieczyszczenia, indywidualnie nieszkodliwe, mają katastrofalne konsekwencje zbiorowe. Większość ludzi ceni sobie prywatność, tak jak ceni sobie możliwość oddychania czystym powietrzem. Narastająca erozja prywatności jest trudna do zauważenia i nie wyrządza nikomu krzywdy — podobnie jak śladowe ilości dwutlenku węgla są ledwo wykrywalne i nie wyrządzają żadnej szkody środowisku. Ale w sumie, tak jak duże ilości gazów cieplarnianych powodują fundamentalne szkody dla środowiska, masowa zmiana charakteru prywatności powoduje fundamentalne szkody w tkance społecznej.

Aby zrozumieć tę szkodę, potrzebujemy nowego paradygmatu. Ten paradygmat musi uchwycić sposób, w jaki otaczający koc danych zmienia nasze wzajemne relacje — jako rodzina, przyjaciele, współpracownicy, konsumenci i obywatele. Aby to zrobić, ten paradygmat musi być oparty na fundamentalnym zrozumieniu, że ludzie mają prawa do danych i że rządy muszą je chronić.

Po drodze pojawią się wyzwania. Ani infrastruktura techniczna, ani infrastruktura prawna dotycząca praw do danych nie są proste. Trudno będzie dojść do konsensusu co do istniejących praw. Jeszcze trudniej będzie wdrożyć nowe ustawodawstwo i regulacje chroniące te prawa. Podobnie jak w obecnej debacie w Kongresie USA, zainteresowane grupy oraz lobbyści branży będzie walczyć o ważne szczegóły. Bilanse osiągnięte w różnych krajach będą różne. Ale bez silnej i prężnej infrastruktury praw danych otwarte społeczeństwo demokratyczne nie może przetrwać.

ukryć