Algorytmy reklamowe Facebooka wciąż uniemożliwiają kobietom oglądanie pracy

Pani Tech | Pexels

Facebook wstrzymuje niektóre ogłoszenia o pracę dla kobiet ze względu na ich płeć, zgodnie z najnowszym audytem swojego serwisu reklamowego.

Audyt , przeprowadzone przez niezależnych badaczy z University of Southern California (USC), ujawnia, że ​​system dostarczania reklam Facebooka wyświetla różne ogłoszenia o pracę dla kobiet i mężczyzn, mimo że stanowiska wymagają tych samych kwalifikacji. Jest to uważane za dyskryminację ze względu na płeć zgodnie z amerykańskim prawem dotyczącym równych szans zatrudnienia, które zakazuje kierowania reklam na podstawie chronionych cech. Ustalenia pojawiają się pomimo lat rzecznictwa i procesów sądowych, a także po obietnicach ze strony Facebooka, aby zmienić sposób wyświetlania reklam.

Badacze zarejestrowali się jako reklamodawca na Facebooku i kupili pary ogłoszeń o pracę o identycznych kwalifikacjach, ale o różnych rzeczywistych danych demograficznych. Ogłosili dwie oferty pracy dla kierowców dostawczych, na przykład: jedną dla Domino's (dostawa pizzy) i jedną dla Instacart (dostawa artykułów spożywczych). Obecnie więcej mężczyzn niż kobiet jeździ dla Domino's i odwrotnie dla Instacart.

Chociaż nie określono odbiorców na podstawie danych demograficznych, funkcja Facebook wyłączona w przypadku ogłoszeń o mieszkaniach, kredytach i pracy w marcu 2019 r., po rozstrzygnięciu kilku spraw sądowych, algorytmy nadal wyświetlały reklamy statystycznie różnym grupom demograficznym. Reklama Domino była wyświetlana większej liczbie mężczyzn niż kobiet, a reklama Instacart była wyświetlana większej liczbie kobiet niż mężczyzn.

Naukowcy odkryli ten sam schemat w przypadku reklam dwóch innych par zawodów: inżynierowie oprogramowania dla Nvidii (krzywiony mężczyzna) i Netflix (skośny mężczyzna) oraz sprzedawcy samochodów (skośny mężczyzna) i biżuterii (skośny mężczyzna).

Wyniki sugerują, że algorytmy Facebooka w jakiś sposób wychwytują obecny rozkład demograficzny tych miejsc pracy, które często różnią się z przyczyn historycznych. (Naukowcy nie byli w stanie ustalić, dlaczego tak się dzieje, ponieważ Facebook nie powie, jak działa jego system dostarczania reklam). Facebook odtwarza te zniekształcenia, gdy wyświetla reklamy, mimo że nie ma uzasadnienia kwalifikacji, mówi Aleksandra Korolova, adiunkt w USC, która była współautorką badania wraz ze swoim kolegą Johnem Heidemannem i ich doradcą z tytułem doktora Basileal Imaną.

Powiązana historia

Jak Facebook uzależnił się od rozpowszechniania dezinformacji

Algorytmy sztucznej inteligencji firmy dały jej nienasycony nawyk kłamstw i mowy nienawiści. Teraz człowiek, który je zbudował, nie może rozwiązać problemu.

Badanie dostarcza najnowszych dowodów na to, że Facebook nie rozwiązał swoich problemów z dyskryminacją reklam od pierwszego ProPublica ujawnił tę kwestię w październiku 2016 r. . W tamtym czasie ProPublica ujawniła, że ​​platforma umożliwiała reklamodawcom oferującym pracę i mieszkanie wykluczenie pewnych odbiorców charakteryzujących się cechami takimi jak płeć i rasa. Takie grupy są objęte specjalną ochroną na mocy prawa USA, co czyni tę praktykę nielegalną. Zajęło to dwa i pół roku i kilka prawnych potyczek dla Facebooka aby w końcu usunąć tę funkcję .

Ale kilka miesięcy później amerykański Departament Mieszkalnictwa i Rozwoju Miast (HUD) wniósł nowy pozew, twierdząc, że algorytmy dostarczania reklam Facebooka nadal wykluczają odbiorców reklam mieszkaniowych bez określenia przez reklamodawcę wykluczenia. Zespół niezależnych badaczy, w tym Korolova, kierowany przez Muhammada Ali i Piotra Sapieżyńskiego z Northeastern University, potwierdził te zarzuty tydzień później . Okazało się na przykład, że domy na sprzedaż były częściej pokazywane białym użytkownikom, a domy do wynajęcia częściej pokazywane były mniejszościom.

Korolova chciała wrócić do tej kwestii w swoim ostatnim audycie, ponieważ ciężar dowodu w przypadku dyskryminacji w pracy jest wyższy niż w przypadku dyskryminacji mieszkaniowej. Chociaż wszelkie odchylenia w wyświetlaniu reklam opartych na chronionych cechach są nielegalne w przypadku mieszkalnictwa, amerykańskie prawo pracy uznaje za uzasadnione, jeśli skrzywienie wynika z uzasadnionych różnic w kwalifikacjach. Nowa metodologia kontroluje ten czynnik.

Projekt eksperymentu jest bardzo przejrzysty – mówi Sapieżyński, który nie brał udziału w najnowszym badaniu. Chociaż niektórzy mogą twierdzić, że sprzedawcy samochodów i biżuterii rzeczywiście mają różne kwalifikacje, mówi, że różnice między dostarczaniem pizzy a dostawą artykułów spożywczych są znikome. Tych różnic między płciami nie da się wytłumaczyć różnicami w kwalifikacjach ze względu na płeć lub brakiem kwalifikacji – dodaje. Facebook nie może już powiedzieć, że [to] można obronić przez prawo.

Publikacja tego audytu pojawia się w trakcie wzmożonej analizy prac nad sztuczną inteligencją Facebooka. W marcu MIT Technology Review opublikował wyniki dziewięciomiesięczne śledztwo do zespołu odpowiedzialnej sztucznej inteligencji firmy, który stwierdził, że zespół, utworzony po raz pierwszy w 2018 r., zaniedbał pracę nad takimi kwestiami, jak algorytmiczne wzmacnianie dezinformacji i polaryzacja, ponieważ skupiał się na uprzedzeniach sztucznej inteligencji. Firma opublikował post na blogu krótko potem, podkreślając wagę tej pracy i mówiąc w szczególności, że Facebook stara się lepiej zrozumieć potencjalne błędy, które mogą mieć wpływ na nasz system reklam, w ramach naszych bieżących i szerszych prac nad badaniem uczciwości algorytmicznej w reklamach.

„Podjęliśmy znaczące kroki w celu rozwiązania problemów związanych z dyskryminacją w reklamach i mamy dziś zespoły pracujące nad uczciwością reklam” – powiedział rzecznik Facebooka Joe Osborn w oświadczeniu. „Nasz system bierze pod uwagę wiele sygnałów, aby spróbować wyświetlać ludziom reklamy, którymi będą najbardziej zainteresowani, ale rozumiemy obawy poruszone w raporcie… Nadal ściśle współpracujemy ze społecznością praw obywatelskich, organami regulacyjnymi i naukowcami w tych ważnych sprawach.

Jednak pomimo tych twierdzeń Korolova twierdzi, że nie znalazła zauważalnej zmiany między audytem z 2019 r. a tym w sposobie działania algorytmów dostarczania reklam Facebooka. Z tej perspektywy jest to naprawdę rozczarowujące, ponieważ zwróciliśmy im na to uwagę dwa lata temu, mówi. Zaproponowano jej również współpracę z Facebookiem przy rozwiązywaniu tych problemów, mówi. – Nie otrzymaliśmy odpowiedzi. Przynajmniej do mnie nie dotarli.

W poprzednich wywiadach firma stwierdziła, że ​​z powodu toczącego się postępowania sądowego nie jest w stanie omówić szczegółów działań mających na celu złagodzenie algorytmicznej dyskryminacji w swoim serwisie reklamowym. Zespół ds. reklamy powiedział, że postęp był ograniczony przez wyzwania techniczne.

Sapieżyński, który przeprowadził obecnie trzy audyty platformy, mówi, że nie ma to nic wspólnego z problemem. Facebook wciąż musi przyznać, że jest problem, mówi. Dodaje, że chociaż zespół rozpracowuje techniczne problemy, istnieje również łatwe rozwiązanie tymczasowe: może wyłączyć algorytmiczne kierowanie reklam specjalnie pod kątem mieszkań, zatrudnienia i pożyczek bez wpływu na pozostałą część usługi. Mówi, że to tylko kwestia woli politycznej.

Christo Wilson, inny badacz z Northeastern, który bada błędy algorytmiczne, ale nie brał udziału w badaniach Korolovej ani Sapieżyńskiego, zgadza się: Ile razy badacze i dziennikarze muszą znaleźć te problemy, zanim po prostu zaakceptujemy, że cały system kierowania reklam jest bankrutem?

ukryć