Dlaczego powinniśmy oczekiwać, że algorytmy będą stronnicze

Technologie napędzane algorytmami i sztuczną inteligencją są coraz częściej obecne w naszym życiu, a teraz regularnie natykamy się na drażliwe pytanie: czy te programy mogą być neutralnymi aktorami? A może zawsze będą odzwierciedlać w jakimś stopniu ludzkie uprzedzenia?

Zamieszanie wokół listy popularnych tematów Facebooka i jej możliwe liberalne nastawienie uderzyło w taki nerw, że Senat USA wezwał na firmę, aby przedstawiła oficjalne wyjaśnienia, a w tym tygodniu dyrektor operacyjny Sheryl Sandberg powiedział, że firma się rozpocznie szkolenie pracowników identyfikować i kontrolować swoje skłonności polityczne.

Jest to jednak tylko jeden wynik szerszego trendu, który Fred Benenson, były szef danych Kickstarter, nazywa pranie matematyki : nasza skłonność do ubóstwiania programów takich jak Facebook jako całkowicie obiektywnych, ponieważ mają one u podstaw matematykę.

Jeden obszar potencjalnego błędu wynika z faktu, że tak wielu programistów tworzących te programy, zwłaszcza eksperci od uczenia maszynowego, to mężczyźni. W ostatnich Artykuł Bloomberga , cytuje się Margaret Mitchell, badaczkę z Microsoftu, która opłakuje niebezpieczeństwa związane z morzem kolesi zadających pytania kluczowe dla tworzenia tych programów.

Od pewnego czasu narasta zaniepokojenie tym problemem, ponieważ badania wykazały dowody na stronniczość w reklamach internetowych, rekrutacjach i strategiach cenowych opartych na przypuszczalnie neutralnych algorytmach.

W jednym badanie , profesor Harvardu Latanya Sweeney przyjrzała się reklamom Google AdSense, które pojawiły się podczas wyszukiwania imion związanych z białymi dziećmi (Geoffrey, Jill, Emma) oraz imion związanych z czarnymi dziećmi (DeShawn, Darnell, Jermaine). Odkryła, że ​​reklamy zawierające słowo aresztowanie były wyświetlane obok ponad 80 procent wyszukiwań czarnych nazwisk, ale mniej niż 30 procent wyszukiwań białych nazwisk.

Sweeney martwi się, że sposób, w jaki technologia reklamowa Google utrwala uprzedzenia rasowe, może osłabić szanse osoby czarnoskórej w konkursie, niezależnie od tego, czy chodzi o nagrodę, randkę czy pracę.

Szczególnie ostrożne muszą być takie dziedziny jak pożyczki i kredyty, które tradycyjnie cierpiały z powodu dobrze znanej ludzkiej dyskryminacji.

ZestFinance, internetowy pożyczkodawca, który opiera się na idei, że programy uczenia maszynowego mogą zwiększyć liczbę osób uznanych za wiarygodne, patrząc na dziesiątki tysięcy punktów danych, utrzymuje, że jest dobrze wyczulony na zagrożenia związane z dyskryminacyjnym pożyczaniem. Aby chronić się przed dyskryminacją, ZestFinance stworzył narzędzia do testowania własnych wyników.

Ale pozostaje niebezpieczeństwo, że nierozpoznany błąd, nie tylko w programowaniu algorytmu, ale nawet w napływających do niego danych, może przypadkowo zmienić dowolny program w dyskryminator. Konsumentom, którzy nie są w stanie rozpakować zawiłości tych programów, trudno będzie stwierdzić, czy zostali potraktowani sprawiedliwie.

Produkty oparte na algorytmach i danych zawsze będą odzwierciedlać wybory projektowe ludzi, którzy je zbudowali, wyjaśnił Benenson w niedawnym pytaniu i odpowiedzi z Technical.ly Brooklyn, i nieodpowiedzialne jest zakładanie, że jest inaczej.

(Czytaj więcej : dziennik 'Wall Street , Technicznie Brooklyn , Bloomberg , AI startuje [PDF])

ukryć