Badacze sztucznej inteligencji twierdzą, że wydawcy naukowi pomagają utrwalać rasistowskie algorytmy

Kategoria: Sztuczna inteligencja Opublikowany 23 czerwca

Wiadomości: jakiś list otwarty z rosnącej koalicji naukowców zajmujących się sztuczną inteligencją wzywa wydawcę naukowego Springera Nature do artykułu konferencyjnego, który podobno planował zamieścić w swojej nadchodzącej książce Transakcje dotyczące informatyki i inteligencji obliczeniowej . Artykuł zatytułowany A Deep Neural Network Model to Predict Criminality using Image Processing przedstawia system rozpoznawania twarzy rzekomo zdolny do przewidywania, czy ktoś jest przestępcą, zgodnie z oryginalna informacja prasowa . Został opracowany przez naukowców z Harrisburg University i miał zostać zaprezentowany na nadchodzącej konferencji.

Wymagania: Powołując się na pracę wiodącej czarnej AI uczeni , list obala podstawy naukowe artykułu i stwierdza, że ​​technologie przewidywania przestępczości są rasistowskie. Wymienia również trzy postulaty: 1) aby Springer Nature wycofał swoją ofertę opublikowania opracowania; 2) o wydanie oświadczenia potępiającego stosowanie technik statystycznych, takich jak uczenie maszynowe, do przewidywania przestępczości i uznających jego rolę w zachęcaniu do takich badań; oraz 3) aby wszyscy wydawcy naukowi zobowiązali się nie publikować podobnych artykułów w przyszłości. List, który został wysłany do Springer Nature w poniedziałek, został napisany przez pięciu badaczy z MIT, Rensselaer Polytechnic Institute, McGill University i AI Now Institute. W ciągu kilku dni zyskał ponad 600 podpisów i liczył się w środowiskach etycznych i akademickich AI, w tym od czołowych postaci, takich jak Meredith Whittaker, współzałożyciel AI Now Institute i Ethan Zuckerman, były dyrektor Center for Civic Media w Laboratorium Mediów MIT.

Dlaczego jest to ważne: Chociaż list zwraca uwagę na konkretny artykuł, celem autorów jest ukazanie systematycznego problemu ze sposobem, w jaki publikacje naukowe zachęcają badaczy do utrwalania nieetycznych norm. Właśnie dlatego wciąż obserwujemy pojawianie się nauki o rasie, powiedziała Chelsea Barabas, doktorantka na MIT i jedna ze współautorów listu. To dlatego, że wydawcy to publikują. Prawdziwe znaczenie tego artykułu Springera polega na tym, że nie jest niczym wyjątkowym, powtórzyła Theodora Dryer, badaczka podoktorancka w AI Now i inny współautor. To symbol problemu i krytyki, która trwa od tak dawna.

Odpowiedź Springera: W odpowiedzi na list Springer powiedział, że nie będzie publikował gazety. Artykuł, o którym mówisz, został zgłoszony na nadchodzącą konferencję, na którą Springer planował opublikować materiały. Po dokładnym procesie recenzowania artykuł został odrzucony. Uniwersytet w Harrisburgu również usunął komunikat prasowy , stwierdzając, że wydział aktualizuje dokument w celu rozwiązania zgłoszonych wątpliwości. Harrisburg University i współautor artykułu odmówili prośby o komentarz, a także prośby o kopię oryginalnego artykułu. Sygnatariusze listu powiedzieli, że będą nadal naciskać na spełnienie drugiego i trzeciego żądania.

Większy obraz: Odkąd śmierć George'a Floyda wywołała międzynarodowy ruch na rzecz sprawiedliwości rasowej, dziedzina sztucznej inteligencji i ogólnie przemysł technologiczny stanęły w obliczu rozliczenia roli, jaką odegrały we wzmacnianiu rasizmu strukturalnego. Na przykład w tygodniu od 8 czerwca IBM, Microsoft i Amazon ogłosiły zakończenie lub częściowe zawieszenie swoich produktów do rozpoznawania twarzy. Przeprowadzka była zwieńczeniem dwa lata adwokatury od badaczy i aktywistów, aby zademonstrować związek między tymi technologiami a nadmierną polityką społeczności mniejszościowych. List otwarty jest najnowszym osiągnięciem w tym ruchu w kierunku większej odpowiedzialności etycznej w AI.

Naprawdę chcieliśmy przyczynić się do tego rozwijającego się ruchu, powiedziała Sonja Solomun, dyrektor ds. badań Centrum Mediów, Technologii i Demokracji na Uniwersytecie McGill. Szczególnie, gdy patrzymy przez nasze okna i widzimy, co dzieje się teraz w USA i na świecie, stawka jest tak wysoka.

Aktualizacja: Po publikacji Springer Nature wydał oświadczenie wyjaśniające, że „w żadnym momencie [artykuł] nie został przyjęty do publikacji… Decyzja redaktora serii o odrzuceniu ostatecznej pracy została podjęta we wtorek 16 czerwca i została oficjalnie przekazana autorom w poniedziałek 22 czerwca Czerwiec.'