Oczywiście technologia utrwala rasizm. Został tak zaprojektowany.

Zdjęcie źródłowe: Getty / Pani Tech

Dziś Stany Zjednoczone kruszą się pod ciężarem dwóch pandemii: koronawirusa i brutalności policji.

Obie dopuszczają się przemocy fizycznej i psychicznej. Obaj nieproporcjonalnie zabijają i osłabiają ludzi czarnych i brązowych. Oba są animowane przez technologię, którą projektujemy, zmieniamy i wdrażamy — czy to śledzenie kontaktów, rozpoznawanie twarzy, czy media społecznościowe.

Ta historia była częścią naszego wydania z lipca 2020 r.

• Zobacz resztę numeru
• Subskrybuj

Często korzystamy z technologii, aby pomóc rozwiązać problemy. Ale kiedy społeczeństwo definiuje, kadruje i przedstawia ludzi kolorowych jako problem, te rozwiązania często wyrządzają więcej szkody niż pożytku. Zaprojektowaliśmy technologie rozpoznawania twarzy które atakują podejrzanych o przestępstwa na podstawie koloru skóry. mamy przeszkolonych zautomatyzowanych systemów profilowania ryzyka które nieproporcjonalnie identyfikują Latynosów jako nielegalnych imigrantów. mamy opracowane algorytmy scoringu kredytowego które w nieproporcjonalny sposób identyfikują czarnych ludzi jako ryzyko i uniemożliwiają im kupowanie domów, uzyskiwanie pożyczek lub znalezienie pracy.

Zatem pytanie, z którym musimy się zmierzyć, brzmi: czy będziemy nadal projektować i wdrażać narzędzia, które służą interesom rasizmu i białej supremacji,

Oczywiście to wcale nie jest nowe pytanie.

Prawa obywatelskie

W 1960 roku przywódcy Partii Demokratycznej skonfrontowali się z własnym problemem: jak ich kandydat na prezydenta, John F. Kennedy, mógł wesprzeć słabnące poparcie ze strony Czarnych i innych mniejszości rasowych?

Przedsiębiorczy politolog z MIT, Basen Ithiel de Sola , podszedł do nich z rozwiązaniem. Zbierał dane wyborców z wcześniejszych wyborów prezydenckich, wprowadzał je do nowej cyfrowej maszyny przetwarzającej, opracowywał algorytm modelowania zachowań wyborczych, przewidywał, jakie stanowiska polityczne przyniosłyby najkorzystniejsze wyniki, a następnie doradzał kampanii Kennedy'ego odpowiednie działanie. Pool założył nową firmę, Simulmatics Corporation i zrealizował swój plan. Udało mu się, Kennedy został wybrany, a wyniki pokazały moc tej nowej metody modelowania predykcyjnego.

Napięcia rasowe eskalowały w latach sześćdziesiątych. Potem nadeszło długie, gorące lato 1967 roku. Płonęły miasta w całym kraju, od Birmingham w Alabamie, przez Rochester w stanie Nowy Jork, po Minneapolis Minnesota i wiele innych. Czarni Amerykanie protestowali przeciwko uciskowi i dyskryminacji, z jakim mieli do czynienia z rąk amerykańskiego systemu sądownictwa karnego. Ale prezydent Johnson nazwał to niepokojem społecznym i utworzył Komisję Kernera, aby zrozumieć przyczyny zamieszek w gettach. Komisja wezwała Simulmatics.

W ramach projektu DARPA, którego celem było odwrócenie losów wojny w Wietnamie, firma Poola ciężko pracowała nad przygotowaniem masowej kampanii propagandowej i psychologicznej przeciwko Wietkongu. Prezydent Johnson był chętny do wdrożenia technologii wpływu behawioralnego Simulmatics, aby stłumić wewnętrzne zagrożenie narodu, a nie tylko jego zagranicznych wrogów. Pod przykrywką tego, co nazwali badaniem mediów, Simulmatics zbudowało zespół do przeprowadzenia na dużą skalę kampanii inwigilacyjnej na obszarach dotkniętych zamieszkami, która przyciągnęła uwagę narodu tego lata 1967 roku.

Trzyosobowe drużyny udały się na tereny, na których tego lata miały miejsce zamieszki. Zidentyfikowali i przeprowadzili wywiady ze strategicznie ważnymi czarnymi ludźmi. Podążyli za nimi, aby zidentyfikować i przeprowadzić wywiady z innymi czarnymi mieszkańcami w każdym miejscu, od zakładów fryzjerskich po kościoły. Zapytali mieszkańców, co myślą o relacjach z zamieszek w mediach. Ale zebrali też dane o znacznie więcej: o tym, jak ludzie poruszali się po mieście podczas zamieszek, z kim rozmawiali przed iw trakcie oraz jak przygotowywali się na następstwa. Zebrali dane na temat wykorzystania punktów poboru opłat, sprzedaży na stacjach benzynowych i tras autobusowych. Uzyskali dostęp do tych społeczności pod pretekstem, że próbują zrozumieć, w jaki sposób media rzekomo wzniecały zamieszki. Ale Johnson i krajowi przywódcy polityczni próbowali rozwiązać problem. Chcieli wykorzystać informacje zebrane przez Simulmatics do śledzenia przepływu informacji podczas protestów, aby zidentyfikować influencerów i odciąć przywództwo protestów.

Nie dokonali tego bezpośrednio. Nie mordowali ludzi, nie wsadzali ich do więzień ani nie znikali potajemnie.

Ale pod koniec lat sześćdziesiątych tego rodzaju informacje pomogły stworzyć coś, co stało się znane jako systemy informacyjne wymiaru sprawiedliwości w sprawach karnych. Rozmnażały się przez dziesięciolecia, kładąc podwaliny pod profilowanie rasowe, predykcyjne działania policyjne i rasowo ukierunkowaną inwigilację. Pozostawili po sobie spuściznę, która obejmuje miliony uwięzionych czarnych i brązowych kobiet i mężczyzn.

Przeformułowanie problemu

Czerń i czarni ludzie. Obydwa utrzymują się jako problem naszego narodu – ośmielę się powiedzieć nawet naszego świata – problem. Kiedy śledzenie kontaktów pojawiło się po raz pierwszy na początku pandemii, łatwo było je uznać za niezbędne, ale łagodne narzędzie do monitorowania zdrowia. Naszym problemem był koronawirus i zaczęliśmy projektować nowe technologie nadzoru w postaci aplikacji do śledzenia kontaktów, monitorowania temperatury i mapowania zagrożeń, które pomogą rozwiązać ten problem.

Ale wydarzyło się coś ciekawego i tragicznego. Odkryliśmy, że osoby czarnoskóre, Latynosi i ludy tubylcze były nieproporcjonalnie zakażone i dotknięte chorobą. Nagle staliśmy się również problemem narodowym; nieproporcjonalnie zagroziliśmy rozprzestrzenieniem się wirusa. To się pogłębiło, gdy tragiczne morderstwo George'a Floyda przez białego policjanta wysłało tysiące protestujących na ulice. Kiedy zaczęły się grabieże i zamieszki, my – Czarni – ponownie byliśmy postrzegani jako zagrożenie dla prawa i porządku, zagrożenie dla systemu, który utrwala białą władzę rasową. To sprawia, że ​​zastanawiasz się, ile czasu zajmie organom ścigania wdrożenie tych technologii, które po raz pierwszy zaprojektowaliśmy do walki z Covid-19, aby stłumić zagrożenie, jakie czarni rzekomo stwarzają dla bezpieczeństwa narodu.

Jeśli nie chcemy, aby nasza technologia była wykorzystywana do utrwalania rasizmu, musimy upewnić się, że nie mieszamy problemów społecznych, takich jak przestępczość, przemoc lub choroby, z osobami rasy czarnej i brunatnej. Kiedy to robimy, ryzykujemy przekształcenie tych ludzi w problemy, do rozwiązania których wdrażamy naszą technologię, w zagrożenie, które projektujemy, aby je wyeliminować.

Charlton McIlwain jest profesorem mediów, kultury i komunikacji na Uniwersytecie Nowojorskim i autorem Black Software: Internet i sprawiedliwość rasowa, od AfroNetu do Black Lives Matter

ukryć