Wielka Brytania porzuca algorytm imigracyjny, który według krytyków jest rasistowski

James Cridland / Flickr

Wiadomości: Brytyjskie Ministerstwo Spraw Wewnętrznych zapowiedziało, że tak: przestań używać algorytmu rozpatrywania wniosków wizowych, które zdaniem krytyków są rasistowskie. Przeciwnicy tego kłócić się że wykorzystanie przez algorytm narodowości do decydowania o tym, które aplikacje mają być śledzone w trybie przyspieszonym, doprowadziło do systemu, w którym ludzie z bogatych białych krajów otrzymują Speedy Boarding; biedniejsi kolorowi ludzie spychani są na tyły kolejki.

Czas na przeprojektowanie: Ministerstwo Spraw Wewnętrznych zaprzecza, jakoby jego system był uprzedzony rasowo, a postępowanie sądowe wciąż trwa. Mimo to Ministerstwo Spraw Wewnętrznych zgodziło się na porzucenie algorytmu i planuje ponownie uruchomić przeprojektowaną wersję jeszcze w tym roku, po przeprowadzeniu pełnego przeglądu, który będzie szukał nieświadomych uprzedzeń. W międzyczasie Wielka Brytania przyjmie tymczasowy system, który nie wykorzystuje narodowości do sortowania wniosków.

System ruchu: Od 2015 r. Wielka Brytania filtruje wnioski wizowe za pomocą systemu sygnalizacji świetlnej, który przypisuje każdemu wnioskodawcy czerwony, bursztynowy lub zielony poziom ryzyka. Osoby, którym przypisano czerwony poziom ryzyka, były bardziej narażone na odmowę.

Szerszy trend: Wiadomo, że algorytmy okopać uprzedzenia instytucjonalne , zwłaszcza rasistowskich. Jednak coraz częściej są one wykorzystywane do podejmowania ważnych decyzji, od kontroli kredytowej po wnioski wizowe, aż do… rozprawy przedprocesowe i policja . Krytycy skarżyli się, że amerykański system imigracyjny jest rasowo uprzedzony zbyt. Jednak w większości przypadków rozpakowanie dokładnego sposobu działania tych algorytmów i ujawnienie dowodów ich stronniczości jest trudne, ponieważ wiele z nich jest zastrzeżonych, a ich użycie nie podlega nadzorowi publicznemu.

Ale krytyka rośnie. W USA niektóre wydziały policji zawieszają kontrowersyjne algorytmy predykcyjne i firmy technologiczne przestał dostarczać stronniczą technologię rozpoznawania twarzy . W lutym orzekł holenderski sąd że system, który przewidywał prawdopodobieństwo popełnienia przez daną osobę oszustwa socjalnego lub podatkowego, był niezgodny z prawem, ponieważ nieuczciwie atakował mniejszości. Decyzja brytyjskiego Ministerstwa Spraw Wewnętrznych o dokonaniu przeglądu swojego systemu bez czekania na orzeczenie prawne może okazać się kamieniem milowym.

ukryć