Facebook twierdzi, że będzie szukał uprzedzeń rasowych w swoich algorytmach

Kategoria: Sztuczna inteligencja Opublikowany 22 lipca

Wiadomości: Facebook mówi, że się konfiguruje nowe wewnętrzne zespoły do ​​poszukiwania rasistowskich uprzedzeń w algorytmach, które napędzają jego główną sieć społecznościową i Instagram, według Wall Street Journal. W szczególności badania będą dotyczyć negatywnych skutków uczenia maszynowego, które może: kodować ukryty rasizm w danych szkoleniowych — na temat czarnych, latynoskich i innych grup mniejszościowych.

Dlaczego jest to ważne: W ciągu ostatnich kilku lat coraz więcej badaczy i aktywistów zwracało uwagę na problem: stronniczość w AI i nieproporcjonalny wpływ, jaki ma na mniejszości . Facebook, który wykorzystuje uczenie maszynowe do nadzorowania codziennych doświadczeń 2,5 miliarda użytkowników, jest już spóźniony na tego rodzaju wewnętrzną ocenę. Istnieją już dowody na to, że algorytmy wyświetlania reklam Facebooka dyskryminuj według rasy i umożliwić reklamodawcom na przykład uniemożliwienie określonym grupom rasowym oglądania ich reklam.

Pod presją: Facebook ma historię unikania w swoich systemach oskarżeń o stronniczość. Dotarcie do tego punktu zajęło kilka lat złej prasy i nacisków ze strony organizacji praw obywatelskich. Facebook utworzył te zespoły po trwającym miesiąc bojkocie reklamowym zorganizowanym przez grupy praw obywatelskich – w tym Anti-Defamation League, Color of Change i NAACP – które skłoniły dużych wydawców, takich jak Coca-Cola, Disney, McDonald's i Starbucks do zawiesić swoje kampanie.

Brak łatwego rozwiązania: Przeprowadzka jest mile widziana. Jednak wszczęcie śledztwa jest dalekie od rzeczywistego rozwiązania problemu uprzedzeń rasowych, zwłaszcza gdy nikt tak naprawdę nie wie, jak to naprawić. W większości przypadków, w danych treningowych istnieje stronniczość i nie ma dobrych, uzgodnionych sposobów, aby go usunąć. I dostosowanie tych danych – forma algorytmiczna akcja afirmatywna — jest kontrowersyjna. Tendencja do uczenia maszynowego to także tylko jeden z problemów mediów społecznościowych związanych z rasą. Jeśli Facebook ma zamiar przyjrzeć się swoim algorytmom, powinien być częścią szerszego przeglądu, który zmaga się również z polityką, która zapewnia platformy dla rasistowskich polityków, grup zwolenników białej supremacji i negujących Holokaust.

„Będziemy nadal ściśle współpracować z zespołem ds. odpowiedzialnej sztucznej inteligencji Facebooka, aby mieć pewność, że przyglądamy się potencjalnym stronniczym uprzedzeniom na naszych platformach” – mówi Stephanie Otway, rzecznik Instagrama. „To dopiero początek i planujemy udostępnić więcej szczegółów na temat tej pracy w nadchodzących miesiącach”.