IBM twierdzi, że nie pracuje już nad rozpoznawaniem twarzy, ponieważ służy do profilowania rasowego

Kategoria: Sztuczna inteligencja Opublikowany cze 09

Wiadomości: IBM powiedział, że firma przestanie rozwijać lub sprzedawać oprogramowanie do rozpoznawania twarzy ze względu na obawy, że technologia jest wykorzystywana do promowania rasizmu. W list do Kongresu , dyrektor generalny IBM, Arvind Krishna, powiedział, że gigant technologiczny sprzeciwia się każdej technologii wykorzystywanej do masowej inwigilacji, profilowania rasowego, łamania podstawowych praw i wolności człowieka.

Wezwał do krajowego dialogu na temat tego, czy i jak właściwe jest, aby technologia rozpoznawania twarzy była wykorzystywana przez krajowe organy ścigania. W liście wezwano również do wprowadzenia nowych przepisów federalnych mających na celu rozprawienie się z niewłaściwym postępowaniem policji oraz do zwiększenia szkoleń i edukacji w zakresie umiejętności na żądanie w celu poprawy możliwości ekonomicznych osób kolorowych.

To nie jest nowy problem: Aktywiści i eksperci od lat zwracają uwagę na to, że systemy rozpoznawania twarzy są stronnicze i zgłaszają obawy dotyczące ich potencjał do nadużyć . Ich obawy są uzasadnione: a przełomowe badanie przez amerykański Narodowy Instytut Standardów i Technologii w zeszłym roku potwierdził, że większość algorytmów rozpoznawania twarzy działa gorzej na twarzach innych niż białe.

Jak został odebrany: IBM jest pierwszą dużą firmą technologiczną, która całkowicie wycofała się z rozwoju technologii. Chociaż wiadomość została szeroko odebrana pozytywnie przez pracowników technicznych, a w szczególności działaczy kampanii zaniepokojonych wykorzystaniem rozpoznawania twarzy, krytyków wskazałem że nie jest wielkim poświęceniem dla IBM, aby wyjść z rynku, na którym na początku ledwo miał przyczółek.

Mimo to wciąż jest to duża firma technologiczna zajmująca niezwykle silne stanowisko moralne w jednym z najbardziej kontrowersyjnych tematów dnia. Jest to szczególnie na czasie, biorąc pod uwagę trwające protesty przeciwko przemocy policyjnej i rasizmowi w Stanach Zjednoczonych i na całym świecie. Nie jest jednak jasne, czy pozostanie to jednorazową zmianą IBM, czy posunięciem, które pomoże popchnąć inne firmy technologiczne do działania.