Jak zatruć dane, których Big Tech używa do inwigilacji?

Eric Risberg / AP

Każdego dnia Twoje życie pozostawia ślad cyfrowych okruszków, których giganci technologiczni wykorzystują do śledzenia Ciebie. Wysyłasz e-mail, zamawiasz jedzenie, streamujesz program. Odbierają cenne pakiety danych, aby lepiej zrozumieć Twoje preferencje. Te dane są wprowadzane do algorytmów uczenia maszynowego, aby kierować do Ciebie reklamy i rekomendacje. Google przekazuje Twoje dane za ponad 120 miliardów dolarów rocznie z przychodów z reklam.

Coraz częściej nie możemy już zrezygnować z tego rozwiązania. W 2019 roku Kashmir Hill, ówczesny reporter Gizmodo, próbował słynnie: wyciąć z jej życia pięciu największych gigantów technologii . Spędziła sześć tygodni, nieszczęśliwa, walcząc o wykonywanie podstawowych funkcji cyfrowych. Tymczasem giganci technologiczni nawet nie poczuli swędzenia.

Teraz naukowcy z Northwestern University sugerują nowe sposoby przywrócenia równowagi sił poprzez leczenie naszego kolektyw dane jako karta przetargowa. Giganci technologiczni mogą mieć do dyspozycji wymyślne algorytmy, ale nie mają sensu bez wystarczającej ilości odpowiednich danych do trenowania.

w nowy papier prezentowana w Association for Computing Machinery’s Konferencja Uczciwość, Odpowiedzialność i Przejrzystość w przyszłym tygodniu badacze, w tym doktoranci Nicholas Vincent i Hanlin Li, proponują trzy sposoby, w jakie opinia publiczna może to wykorzystać na swoją korzyść:

• Ostrzeżenia o danych , zainspirowany ideą strajków pracowniczych, które polegają na ukryciu lub usunięciu danych, aby firma technologiczna nie mogła ich użyć – na przykład opuszczenie platformy lub zainstalowanie narzędzi ochrony prywatności.
• Zatrucie danych , co wiąże się z przesyłaniem bezsensownych lub szkodliwych danych. AdNauseam , na przykład, to rozszerzenie przeglądarki, które klika każdą wyświetlaną Ci reklamę, myląc w ten sposób algorytmy kierowania reklam Google.
• Świadomy wkład danych , który polega na nadaniu znaczenia pełny dane konkurentowi platformy, na którą chcesz zaprotestować, na przykład przesyłając swoje zdjęcia z Facebooka na Tumblr.

Ludzie już stosują wiele z tych taktyk, aby chronić swoją prywatność. Jeśli kiedykolwiek korzystałeś z narzędzia do blokowania reklam lub innego rozszerzenia przeglądarki, które modyfikuje wyniki wyszukiwania w celu wykluczenia niektórych witryn, zaangażowałeś się w uderzanie danych i odzyskałeś agencję w związku z wykorzystaniem Twoich danych. Ale jak zauważył Hill, sporadyczne indywidualne działania, takie jak te, nie robią wiele, aby skłonić gigantów technologicznych do zmian ich zachowania.

Co by było, gdyby miliony ludzi skoordynowały się, aby dobrze zatruć dane giganta technologicznego? To może tylko dać im pewną dźwignię do dochodzenia swoich żądań.

Mogło być już kilka takich przykładów. W styczniu miliony użytkowników usunęło swoje konta WhatsApp i przeniosło się do konkurentów, takich jak Signal i Telegram po tym, jak Facebook ogłosił, że zacznie udostępniać dane WhatsApp reszcie firmy. Exodus spowodował, że Facebook opóźnienie zmiany polityki.

Tylko w tym tygodniu Google również ogłoszone że przestanie śledzić osoby w sieci i kierować do nich reklamy. Chociaż nie jest jasne, czy jest to prawdziwa zmiana, czy tylko rebranding, mówi Vincent, możliwe, że zwiększone wykorzystanie narzędzi takich jak AdNauseam przyczyniło się do tej decyzji, obniżając skuteczność algorytmów firmy. (Oczywiście, ostatecznie trudno to stwierdzić. Jedyną osobą, która naprawdę wie, jak skutecznie przenoszenie danych wpłynęło na system, jest firma technologiczna, mówi.)

Vincent i Li uważają, że te kampanie mogą uzupełniać strategie, takie jak wspieranie polityki i organizowanie pracowników w ruchu, aby oprzeć się Big Tech.

To ekscytujące, widzieć tego rodzaju prace, mówi Ali Alkhatib, pracownik naukowy Centrum Etyki Stosowanej Danych Uniwersytetu w San Francisco, który nie był zaangażowany w badania. To było naprawdę interesujące widzieć, jak myślą o zbiorowym lub holistycznym podejściu: możemy zadzierać ze studnią i stawiać wymagania wobec tego zagrożenia, ponieważ to są nasze dane i wszystko razem idzie w parze.

Powiązana historia

W ten sposób straciliśmy kontrolę nad naszymi twarzami

Największe w historii badanie danych dotyczących rozpoznawania twarzy pokazuje, jak bardzo rozwój głębokiego uczenia się spowodował utratę prywatności.

Nadal pozostaje wiele do zrobienia, aby te kampanie były bardziej rozpowszechnione. Informatycy mogliby odegrać ważną rolę w tworzeniu większej liczby narzędzi, takich jak na przykład AdNauseam, które pomogłyby obniżyć barierę utrudniającą uczestnictwo w takich taktykach. Decydenci też mogliby pomóc. Ostrzeżenia o danych są najskuteczniejsze, gdy są wspierane przez silne przepisy dotyczące prywatności danych, takie jak Ogólne rozporządzenie o ochronie danych (RODO), które daje konsumentom prawo do żądania usunięcia ich danych. Bez takiej regulacji trudniej jest zagwarantować, że firma technologiczna da ci możliwość szorowania twoich cyfrowych zapisów, nawet jeśli usuniesz swoje konto.

A niektóre pytania pozostają bez odpowiedzi. Ile osób potrzebuje strajk danych, aby uszkodzić algorytm firmy? A jakie dane byłyby najskuteczniejsze w zatruwaniu konkretnego systemu? Na przykład w symulacji obejmującej algorytm rekomendacji filmów naukowcy odkryli, że jeśli 30% użytkowników zastrajkuje, może to obniżyć dokładność systemu o 50%. Ale każdy system uczenia maszynowego jest inny, a firmy stale je aktualizują. Naukowcy mają nadzieję, że więcej osób w społeczności zajmującej się uczeniem maszynowym będzie mogło przeprowadzać podobne symulacje systemów różnych firm i identyfikować ich słabe punkty.

Alkhatib sugeruje, że naukowcy powinni również przeprowadzić więcej badań nad tym, jak inspirować zbiorowe działanie na danych. Mówi, że wspólne działanie jest naprawdę trudne. Jednym z wyzwań jest zachęcenie ludzi do kontynuowania bieżących działań. A potem pojawia się wyzwanie, jak sprawić, by grupa ludzi, którzy są bardzo krótkotrwali – w tym przypadku mogą to być osoby korzystające z wyszukiwarki przez pięć sekund – postrzegała siebie jako część społeczności, która rzeczywiście ma długowieczność?

Te taktyki mogą również mieć dalsze konsekwencje, które wymagają dokładnego zbadania, dodaje. Czy zatruwanie danych może skończyć się tylko dodatkowym nakładem pracy dla moderatorów treści i innych osób, których zadaniem jest czyszczenie i etykietowanie danych szkoleniowych firm?

Ale ogólnie rzecz biorąc, Vincent, Li i Alkhatib są optymistami, że wykorzystanie danych może przekształcić się w przekonujące narzędzie do kształtowania tego, jak giganci technologiczni traktują nasze dane i naszą prywatność. Systemy AI są zależne od danych. To tylko fakt, jak działają, mówi Vincent. Ostatecznie jest to sposób, w jaki społeczeństwo może zdobyć władzę.

ukryć