Algorytm wyświetlania reklam Facebooka rozróżnia płeć i rasę

Pani Tech/Logo: facebook

Algorytmy są stronnicze — a Facebook nie jest wyjątkiem.

Zaledwie w zeszłym tygodniu gigant technologiczny został pozwany przez Departament Mieszkalnictwa i Rozwoju Miast USA za to, że pozwolił reklamodawcom celowo kierować swoje reklamy na rasę, płeć i religię – wszystkie klasy chronione przez prawo USA. Firma ogłosiła, że ​​przestanie na to pozwalać.

Ale nowe dowody pokazuje, że algorytm Facebooka, który automatycznie decyduje, komu wyświetli się reklama, i tak dokonuje takiej samej dyskryminacji, wyświetlając reklamy ponad dwóm miliardom użytkowników na podstawie ich danych demograficznych.

Zespół kierowany przez Muhammada Ali i Piotra Sapieżyńskiego z Northeastern University przeprowadził serię identycznych reklam z niewielkimi różnicami w dostępnym budżecie, nagłówku, tekście lub obrazie. Odkryli, że te subtelne poprawki miały znaczący wpływ na odbiorców, do których docierała każda reklama — zwłaszcza, gdy dotyczyły pracy lub nieruchomości. Na przykład stanowiska dla nauczycieli przedszkolnych i sekretarek były pokazywane większej liczbie kobiet, podczas gdy stanowiska dla dozorców i taksówkarzy były pokazywane w przypadku wyższego odsetka mniejszości. Reklamy domów na sprzedaż były również pokazywane większej liczbie białych użytkowników, podczas gdy reklamy wynajmu były pokazywane większej liczbie mniejszości.

Wprowadziliśmy ważne zmiany w naszych narzędziach do kierowania reklam i wiemy, że to tylko pierwszy krok, rzecznik Facebooka powiedział w oświadczeniu w odpowiedzi na ustalenia. Przyglądaliśmy się naszemu systemowi wyświetlania reklam i zaangażowaliśmy liderów branży, naukowców i ekspertów ds. praw obywatelskich w ten właśnie temat — i badamy kolejne zmiany.

Pod pewnymi względami nie powinno to dziwić — stronniczość algorytmów rekomendacji jest znanym problemem od wielu lat. Na przykład w 2013 r. Latanya Sweeney, profesor rządu i technologii na Harvardzie, opublikowała artykuł, który pokazał niejawną dyskryminację rasową algorytmu wyświetlania reklam Google. Problem powraca do zasadniczego działania tych algorytmów. Wszystkie z nich opierają się na uczeniu maszynowym, które znajduje wzorce w ogromnych ilościach danych i ponownie stosuje je do podejmowania decyzji. Istnieje wiele sposobów, w jakie stronniczość może przedostać się podczas tego procesu, ale dwa najbardziej widoczne w przypadku Facebooka dotyczą problemów podczas formułowania problemów i zbierania danych.

Błąd występuje podczas formułowania problemu, gdy cel modelu uczenia maszynowego jest niezgodny z potrzebą unikania dyskryminacji. Narzędzie reklamowe Facebooka pozwala reklamodawcom wybrać jeden z trzech celów optymalizacji: liczbę wyświetleń reklamy, liczbę kliknięć i zaangażowanie, które otrzymuje, oraz wielkość generowanej sprzedaży. Ale te cele biznesowe nie mają nic wspólnego, powiedzmy, z utrzymaniem równego dostępu do mieszkań. W rezultacie, gdyby algorytm odkrył, że może zwiększyć zaangażowanie, pokazując więcej białych użytkowników domów do zakupu, dyskryminowałby czarnych użytkowników.

Stronniczość pojawia się podczas zbierania danych, gdy dane treningowe odzwierciedlają istniejące uprzedzenia. Narzędzie reklamowe Facebooka opiera swoje decyzje optymalizacyjne na historycznych preferencjach wykazanych przez ludzi. Jeśli w przeszłości więcej mniejszości zainteresowało się reklamami wynajmu, model uczenia maszynowego zidentyfikuje ten wzorzec i zastosuje go w nieskończoność. Po raz kolejny będzie ślepo brnął drogą dyskryminacji w zakresie zatrudnienia i mieszkalnictwa – bez wyraźnego polecenia.

Chociaż te zachowania w uczeniu maszynowym były badane od dłuższego czasu, nowe badanie oferuje bardziej bezpośrednie spojrzenie na sam zakres jego wpływu na dostęp ludzi do mieszkań i możliwości zatrudnienia. Te odkrycia są wybuchowe! Christian Sandvig, dyrektor Centrum Etyki, Społeczeństwa i Informatyki na Uniwersytecie Michigan, powiedział Ekonomista. Gazeta mówi nam, że [...] wykorzystywane w ten sposób big data nigdy nie dadzą nam lepszego świata. W rzeczywistości jest prawdopodobne, że te systemy pogarszają świat, przyspieszając problemy na świecie, które czynią rzeczy niesprawiedliwymi.

Dobra wiadomość jest taka, że ​​mogą istnieć sposoby rozwiązania tego problemu, ale nie będzie to łatwe. Wielu naukowców zajmujących się sztuczną inteligencją poszukuje obecnie technicznych rozwiązań dotyczących błędu uczenia maszynowego, które mogłyby stworzyć bardziej sprawiedliwe modele reklamy internetowej. Niedawny papier z Yale University i Indian Institute of Technology sugeruje na przykład, że możliwe jest ograniczenie algorytmów w celu zminimalizowania zachowań dyskryminacyjnych, aczkolwiek przy niewielkim koszcie dla przychodów z reklam. Jednak decydenci będą musieli odgrywać większą rolę, jeśli platformy mają zacząć inwestować w takie poprawki – zwłaszcza, jeśli może to wpłynąć na ich wynik finansowy.

Pierwotnie pojawiło się to w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.

ukryć