Rasizm zatruwa dostarczanie reklam online, mówi profesor Harvardu

Czy kiedykolwiek byłeś aresztowany? Wyobraź sobie, że pytanie nie pojawia się w samotności twoich myśli, gdy czytasz ten artykuł, ale pojawia się wyraźnie, gdy ktoś pyta o twoje imię i nazwisko w wyszukiwarce.

Zrzut ekranu reklamy Google.

Tak zaczyna Latanya Sweeney z Uniwersytetu Harvarda w przekonującej gazecie, w której przekonuje, że dyskryminacja rasowa jest plagą dostarczania reklam w Internecie.

Wiele osób będzie miało doświadczenie w wyszukiwaniu w Google znajomych, kolegów i krewnych, aby dowiedzieć się o ich obecności w Internecie — witrynach, na których się pojawiają, ich zdjęciach, hobby i tak dalej.

Sweeney interesuje się reklamami, które pojawiają się obok tych wyników. Gdy wpisała swoje nazwisko w Google, pojawiła się reklama o treści:

Latanya Sweeney, aresztowana? 1) Wprowadź nazwę i stan 2) Uzyskaj dostęp do pełnego tła. Sprawdza się natychmiast. www.instantcheckmate.com

To jest sugestywne sformułowanie. Sugeruje to, że Latanya Sweeney posiada rejestr karny, którego szczegóły można uzyskać, klikając reklamę. Ale po kliknięciu w link i uiszczeniu niezbędnej opłaty abonamentowej, Sweeney mówi, że nie znalazła żadnego aktu aresztowania.

Ciekawe w tym jest to, że imię Sweeney również jest sugestywne – że jest czarna. Pytanie, które zadaje Sweeney, brzmi, czy podobne wyszukiwanie z nazwą sugerującą biały profil rasowy również wyświetla reklamy wspominające o aktach aresztowania.

Odpowiedzią jest potężna pobudka. Sweeney twierdzi, że ma dowody na to, że imiona identyfikujące osoby czarnoskóre są do 25 procent bardziej narażone na reklamy związane z aresztowaniem. Występuje dyskryminacja w dostarczaniu tych reklam, podsumowuje.

Sweeney zebrał te dowody, zbierając ponad 2000 nazwisk sugerujących rasę. Na przykład imiona takie jak Trevon, Lakisha i Darnell sugerują, że właściciel jest czarny, podczas gdy imiona takie jak Laurie, Brendan i Katie sugerują, że właściciel jest biały.

Następnie wprowadziła te dodatkowe nazwiska w Google.com i Reuters.com i sprawdziła zwrócone reklamy. Większość nazw generowała reklamy do rejestrów publicznych. Okazało się jednak, że nazwiska identyfikujące osoby czarnoskóre znacznie częściej niż te identyfikujące osoby białe generowały reklamy zawierające słowo aresztowanie (60 procent w porównaniu do 48 procent). Wszystko pochodziło z www.instantcheckmate.com .

Twierdzi, że wyniki są statystycznie istotne z mniej niż 0,1% szansą, że zostały wygenerowane przez przypadek.

Na Reuters.com nazwiska osób identyfikujących osoby czarnoskóre były o 25 procent bardziej narażone na reklamy związane z aresztowaniem.

To niezwykły wynik, który rodzi więcej pytań niż odpowiedzi. Największą zagadką jest oczywiście to, co powoduje, że reklamy są wyświetlane w tym schemacie. Tutaj tajemnica usługi Google Adsense znacznie przesłania sprawę.

Sweeney mówi, że zasadniczo istnieją trzy możliwości. Jednym jest to www.instantcheckmate.com utworzyła reklamy zawierające wzmianki o aresztowaniu, które mają być podawane do czarnych nazwisk identyfikujących. Innym jest to, że Google w jakiś sposób naruszył swój mechanizm wyświetlania reklam w ten sposób.

Bardziej podstępnym wyjaśnieniem jest to, że winę ponosi całe społeczeństwo. Jeśli usługa Google Adsense dowie się, które kombinacje reklam są bardziej skuteczne, najpierw wyświetli reklamy związane z aresztowaniem wszystkim losowo. Zmieniłoby się to jednak, gdyby okazało się, że kliknięcia są bardziej prawdopodobne, gdy te reklamy są wyświetlane w przypadku nazwy identyfikującej osoby czarne. Innymi słowy, wyniki odzwierciedlają jedynie dyskryminujący wzorzec kliknięć zwykłych ludzi.

Oczywiście nie możemy tego wiedzieć bez większego wglądu w czarną skrzynkę, jaką jest Google Adsense.

Najwyraźniej Sweeney odkrył tutaj poważny problem, biorąc pod uwagę wpływ obecności w Internecie na perspektywy zatrudnienia danej osoby.

Niezależnie od przyczyny, Sweeney mówi, że technologia może zaoferować jakieś rozwiązanie. Jeśli algorytmy stojące za programem Adsense mogą uzasadnić maksymalizację przychodów, twierdzi, że powinny być w stanie uzasadnić prawne i społeczne konsekwencje pewnych wzorców kliknięć.

To ciekawy pomysł i taki, który Google www.instantcheckmate.com a społeczeństwo w ogóle powinno rozważyć bardziej szczegółowo.

Nr ref.: http://arxiv.org/abs/1301.6822 Dyskryminacja w dostarczaniu reklam online

Aktualizacja 4 lutego 2013 14:34 EST

W odpowiedzi na ten wpis na blogu rzecznik Google przesyła następujący komentarz:

AdWords nie prowadzi żadnego profilowania rasowego. Mamy też polityka anty i przemocy który stanowi, że nie będziemy zezwalać na reklamy nawołujące do organizacji, osoby lub grupy ludzi. Poszczególni reklamodawcy decydują, jakie słowa kluczowe chcą wybrać, aby powodować wyświetlanie ich reklam.

Aktualizacja 7 lutego

Instantcheckmate.com wysyła następujące oświadczenie:

W rzeczywistości Instant Checkmate chciałby jednoznacznie stwierdzić, że nigdy nie zajmował się profilowaniem rasowym w Google AdWords.
Nie mamy absolutnie żadnej technologii, która pozwoliłaby nawet połączyć nazwę z rasą i nigdy nie podjęliśmy takiej próby. Sama idea jest sprzeczna z najgłębszymi zasadami i wartościami naszej firmy.

ukryć