Algorytm Google do wykrywania mowy nienawiści jest rasistowski

Kategoria: Dolina Krzemowa Opublikowany 13 sierpnia

Systemy sztucznej inteligencji przeznaczone do wykrywania obraźliwych treści online znacznie częściej określają tweety jako obraźliwe, jeśli zostały opublikowane przez osoby, które identyfikują się jako Afroamerykanie.

Wiadomości: Naukowcy zbudowali dwa systemy AI i przetestowaliśmy je na parze zestawów danych zawierających ponad 100 000 tweetów, które zostały oznaczone przez ludzi etykietami takimi jak obraźliwa, brak lub mowa nienawiści. Jeden z algorytmów nieprawidłowo oznaczył 46% nieobraźliwych tweetów autorów afroamerykańskich jako obraźliwe. Testy na większych zbiorach danych, w tym jednym złożonym z 5,4 miliona tweetów, wykazały, że posty autorów afroamerykańskich były 1,5 raza częściej określane jako obraźliwe. Kiedy badacze przetestowali następnie Google Perspektywiczny , narzędzie AI, którego firma pozwala każdemu używać do moderowania dyskusji online, znaleźli podobne uprzedzenia rasowe.

Ciężka równowaga do uderzenia: Masowe strzelaniny popełniane przez zwolenników białej supremacji w Stanach Zjednoczonych i Nowej Zelandii doprowadziły do ​​coraz częstszych apeli polityków do platform mediów społecznościowych, aby zrobiły więcej w celu wyeliminowania mowy nienawiści. Badania te podkreślają, jak skomplikowane jest to zadanie. To, czy język jest obraźliwy, może zależeć od tego, kto go mówi i kto go słyszy. Na przykład czarna osoba używająca słowa na N bardzo różni się od białej osoby używającej go. Ale systemy sztucznej inteligencji nie rozumieją i obecnie nie potrafią zrozumieć tego niuansu.

Ryzyko: Pospiesznie korzystając z oprogramowania do automatycznego wyeliminowania obraźliwego języka, ryzykujemy uciszenie głosów mniejszości. Moderowanie treści online to traumatyczna, trudna praca , więc firmy technologiczne chętnie polegają na systemach AI zamiast na ludziach (są też znacznie tańsze). Niniejsze badanie pokazuje ogromne ryzyko związane z takim podejściem.

Zapisz się tutaj, aby otrzymywać nasz codzienny biuletyn Pobieranie, aby otrzymywać najświeższe informacje ze świata wschodzących technologii, które musisz przeczytać.