211service.com
Odchylenie już istnieje w wynikach wyszukiwania i będzie się tylko pogarszać
Nowa książka argumentuje, że sposób, w jaki działają wyszukiwarki, nie jest pozbawiony uprzedzeń. 26 lutego 2018
NYU Book Press
Internet może wydawać się równymi szansami, ale tak nie jest. Safiya Umoja Noble stanęła twarzą w twarz z tym faktem pewnego dnia, gdy użyła wyszukiwarki Google do wyszukiwania tematów, które jej siostrzenice mogą uznać za interesujące. Weszła w termin czarne dziewczyny i wróciła ze stronami zdominowanymi przez pornografię.
Noble, profesor komunikacji USC Annenberg, był przerażony, ale nie zaskoczony. Od lat przekonuje, że wartości sieci odzwierciedlają jej twórców – głównie białych mężczyzn z Zachodu – a nie reprezentują mniejszości i kobiet. Jej najnowsza książka, Algorytmy Ucisku , zawiera szczegółowe informacje na temat badań, które rozpoczęła po tej fatalnej wyszukiwarce Google, i eksploruje ukryte struktury, które kształtują sposób, w jaki uzyskujemy informacje przez internet.
Książka, która ukazała się w tym miesiącu, twierdzi, że algorytmy wyszukiwarek nie są tak neutralne, jak Google chciałby, abyś myślał. Algorytmy promują niektóre wyniki ponad inne, a nawet pozornie neutralny fragment kodu może odzwierciedlać uprzedzenia społeczne. Co więcej, bez żadnego wglądu w działanie algorytmów lub szerszy kontekst wyszukiwania mogą niesprawiedliwie kształtować dyskusję na taki temat, jak czarne dziewczyny.
Szlachetny rozmawiał z Przegląd technologii MIT o problemach związanych z obecnym systemem, o tym, jak Google może działać lepiej i jak sztuczna inteligencja może pogorszyć sytuację.
DZIĘKI UPRZEJMOŚCI SAFIYA UMOJA NOBLE
Co ludzie mylą się na temat działania wyszukiwarek?
Jeśli szukamy najbliższego Starbucksa, konkretnego cytatu lub czegoś bardzo wąskiego, co można łatwo zrozumieć, to działa dobrze. Ale kiedy zaczynamy wchodzić w bardziej skomplikowane koncepcje dotyczące tożsamości, wiedzy, w tym momencie wyszukiwarki zaczynają nas zawodzić. Nie byłby to taki problem, z wyjątkiem tego, że opinia publiczna naprawdę polega na wyszukiwarkach, aby dać im to, co według nich będzie prawdą, lub coś sprawdzonego lub coś, co jest wiarygodne. To tutaj, jak sądzę, mamy największe nieporozumienie w społeczeństwie na temat tego, czym są wyszukiwarki.
Aby rozwiązać problem stronniczości, Google zwykle pomija pewne wyniki. Czy istnieje lepsze podejście?
Moglibyśmy pomyśleć o wycofaniu się z tak ambitnego projektu uporządkowania całej światowej wiedzy lub moglibyśmy przeformułować i powiedzieć: To jest technologia, która jest niedoskonała. Można nim manipulować. Pokażemy ci, jak się nim manipuluje. Zamierzamy uczynić tego rodzaju wymiary naszego produktu bardziej przejrzystymi, abyście poznali głęboko subiektywną naturę wyjścia. Zamiast tego wiele firm – nie tylko Google – jest tak, że [dostarczają] coś, czemu można zaufać i na co można liczyć, i tu staje się to dość trudne.
W jaki sposób uczenie maszynowe może utrwalić rasizm i seksizm, o którym piszesz?
Twierdzę, że sztuczna inteligencja, czyli systemy automatycznego podejmowania decyzji, staną się w tym stuleciu kwestią praw człowieka. Mocno w to wierzę, ponieważ algorytmy i projekty uczenia maszynowego wykorzystują dane, które są już stronnicze, niekompletne, wadliwe i [uczymy] maszyny, jak podejmować decyzje na podstawie tych informacji. Wiemy, że [to] doprowadzi do różnych rozbieżnych wyników. Dodam tylko, że sztuczna inteligencja będzie coraz trudniejsza do interweniowania, ponieważ stanie się mniej jasne, jakie dane zostały wykorzystane do poinformowania o tworzeniu tej sztucznej inteligencji lub tworzeniu tych systemów. Na przykład istnieje wiele różnych rodzajów zbiorów danych, które nie są ustandaryzowane, które łączą się w celu podejmowania decyzji.
Odkąd po raz pierwszy szukałeś czarnych dziewczyn w 2010 roku, widziałeś, jak sprawy się poprawiają lub pogarszają?
Odkąd zacząłem pisać i mówić publicznie o czarnych dziewczynach, w szczególności związanych z pornografią, wszystko się zmieniło. Teraz pornografia i treści hiperseksualne nie znajdują się na pierwszej stronie, więc myślę, że była to cicha poprawa, która nie nastąpiła z dużą ilością fanfar. Jednak inne społeczności, takie jak Latynoski i Azjatki, nadal są silnie zseksualizowane w wynikach wyszukiwania.