Czy potrafisz stworzyć sztuczną inteligencję, która nie jest zdolna?

Doug Maloney/Unsplash

Sztuczna inteligencja ma dobrze znany problem z uprzedzeniami, szczególnie jeśli chodzi o rasę i płeć. Być może widziałeś niektóre nagłówki: systemy rozpoznawania twarzy, które: nie rozpoznaje czarnych kobiet lub automatycznych narzędzi rekrutacyjnych, które: pominąć kandydatki .

Ale chociaż naukowcy bardzo starali się rozwiązać niektóre z najbardziej rażących problemów, jest jedna grupa osób, którą przeoczyli: osoby niepełnosprawne. Weź samojezdne samochody. Ich algorytmy opierają się na danych treningowych, aby dowiedzieć się, jak wyglądają piesi, aby pojazdy ich nie przejechały. Jeśli dane treningowe nie obejmują osób na wózkach inwalidzkich, technologia może narazić te osoby na niebezpieczeństwo zagrażające życiu.

Dla Shari Trewin, badaczki z zespołu kierowniczego IBM ds. dostępności, jest to nie do przyjęcia. W ramach nowa inicjatywa , ona jest teraz odkrywanie nowe procesy projektowania i metody techniczne mające na celu złagodzenie uprzedzeń maszyn wobec osób niepełnosprawnych. Porozmawiała z nami o niektórych wyzwaniach, a także o możliwych rozwiązaniach.

Poniższe zostały zredagowane pod kątem długości i przejrzystości.

Dlaczego sprawiedliwość wobec osób niepełnosprawnych jest innym problemem niż uczciwość w odniesieniu do innych chronionych cech, takich jak rasa i płeć?

Status niepełnosprawności jest znacznie bardziej zróżnicowany i złożony pod względem wpływu na ludzi. Wiele systemów będzie modelować rasę lub płeć jako prostą zmienną z niewielką liczbą możliwych wartości. Ale jeśli chodzi o niepełnosprawność, istnieje tak wiele różnych form i różne poziomy dotkliwości. Niektóre z nich są stałe, inne tymczasowe. Każdy z nas może dołączyć lub opuścić tę kategorię w dowolnym momencie swojego życia. To dynamiczna sprawa.

Około jedna na pięć osób w USA jest obecnie niepełnosprawna. Tak więc jest to naprawdę powszechne, ale trudne do przypisania do prostej zmiennej z niewielką liczbą możliwych wartości. Może istnieć system, który dyskryminuje niewidomych, ale nie głuchych. Tak więc testowanie uczciwości staje się znacznie trudniejsze.

Informacje o niepełnosprawności są również bardzo wrażliwe. Ludzie są znacznie bardziej niechętni do ujawniania ich niż informacje o płci, wieku lub rasie, a w niektórych sytuacjach proszenie o te informacje jest nawet nielegalne. Tak więc wiele razy w danych jest znacznie mniej prawdopodobne, że dowiesz się czegokolwiek o niepełnosprawności, którą dana osoba może mieć lub nie. To również znacznie utrudnia stwierdzenie, czy masz sprawiedliwy system.

Chciałem cię o to zapytać. Jako ludzie zdecydowaliśmy, że najlepszym sposobem uniknięcia dyskryminacji ze względu na niepełnosprawność jest nieujawnianie statusu niepełnosprawności. Dlaczego nie miałoby to być prawdą w przypadku systemów uczenia maszynowego?

Shari Trewin, badaczka w zespole IBM Accessibility Leadership dzięki uprzejmości IBM

Tak, to pierwsza rzecz, o której ludzie myślą: jeśli system nie wie nic o stanie niepełnosprawności jednostek, z pewnością będzie to sprawiedliwe. Problem polega jednak na tym, że niepełnosprawność często wpływa na inne informacje, które są wprowadzane do modelu. Załóżmy na przykład, że jestem osobą, która korzysta z czytnika ekranu, aby uzyskać dostęp do sieci, i przeprowadzam test online pod kątem podania o pracę. Jeśli ten program testowy nie jest dobrze zaprojektowany i dostępny dla mojego czytnika ekranu, poruszanie się po stronie zajmie mi więcej czasu, zanim będę mógł odpowiedzieć na pytanie. Jeśli ten czas nie zostanie wzięty pod uwagę przy ocenie mnie, to każdy, kto używa tego samego narzędzia z podobną niepełnosprawnością, jest systematycznie w niekorzystnej sytuacji – nawet jeśli system nie wie, że jestem niewidomy.

Więc jeśli istnieje tak wiele różnych niuansów dotyczących niepełnosprawności, czy rzeczywiście można osiągnąć sprawiedliwość?

Myślę, że bardziej ogólnym wyzwaniem dla społeczności AI jest to, jak radzić sobie z wartościami odstającymi, ponieważ systemy uczenia maszynowego — uczą się norm, prawda? Optymalizują pod kątem norm i nie traktują odstających w żaden szczególny sposób. Ale często osoby niepełnosprawne nie pasują do normy. Sposób, w jaki uczenie maszynowe ocenia ludzi według tego, do kogo są podobni – nawet jeśli nigdy nie widziało nikogo podobnego do ciebie – jest fundamentalnym ograniczeniem pod względem sprawiedliwego traktowania osób niepełnosprawnych.

Dużo lepiej sprawdziłaby się metoda, która łączy uczenie maszynowe z jakimś dodatkowym rozwiązaniem, np. regułami logicznymi, które są zaimplementowane w warstwie powyżej. Są też sytuacje, w których zwrócenie większej uwagi na gromadzenie bardziej zróżnicowanego zestawu danych zdecydowanie pomogłoby. Niektórzy ludzie eksperymentują z technikami, w których usuwasz rdzeń danych i próbujesz trenować, aby uzyskać wartości odstające. Inni eksperymentują z różnymi technikami uczenia się, które mogą lepiej optymalizować pod kątem wartości odstających niż normy.

Myślę, że dopiero wtedy, gdy zaczynasz myśleć o niepełnosprawności, zaczynasz myśleć o różnorodności jednostek i znaczeniu odstających. Jeśli nie masz wystarczającej różnorodności płci w swoim zbiorze danych, możesz to naprawić. Naprawienie różnorodności niepełnosprawności nie jest takie łatwe.

Jak radzisz sobie z problemem prywatności osób związanych z ich niepełnosprawnością?

Tak, aby przetestować system pod kątem uczciwości, potrzebujesz pewnych danych. A osoby niepełnosprawne dostarczające te dane są dobrem społecznym, ale to ryzyko osobiste. Osoby niepełnosprawne są często łatwo identyfikowane nawet na podstawie anonimowych danych, tylko dlatego, że są tak wyjątkowe. Jak więc to złagodzić? Nadal to rozpracowujemy.

Jakie są twoje największe obawy związane z tym problemem?

Często systemy sztucznej inteligencji optymalizują coś, co nie jest dobrem osób, na które mają wpływ podejmowane decyzje. Ten wpływ musi mieć znacznie większe znaczenie w procesie projektowania, abyśmy nie tylko wprowadzali system, który sprawdza, ile pieniędzy oszczędzamy lub jak wydajnie przetwarzamy ludzi. Potrzebujemy nowych sposobów pomiaru systemów, które uwzględniają aspekt wpływu na użytkowników końcowych, zwłaszcza jeśli jest to grupa w niekorzystnej sytuacji.

Jak byśmy to zrobili?

Testowanie uczciwości jest jednym ze sposobów mierzenia tego wpływu. Inną kwestią jest włączenie grupy defaworyzowanej w proces projektowania i wysłuchanie ich obaw. Nawet wyraźne włączenie pewnych mierników satysfakcji interesariuszy, które można zmierzyć za pomocą wywiadów lub ankiet – tego rodzaju rzeczy.

Jakie rzeczy Cię ekscytują w tej dziedzinie badań?

Technologie sztucznej inteligencji już teraz zmieniają świat osób niepełnosprawnych, zapewniając im nowe możliwości, takie jak aplikacje, które informują Cię o tym, co znajduje się w Twoim polu widzenia, gdy wskazujesz telefon.

Myślę, że jeśli zrobimy to dobrze, istnieje realna szansa, aby systemy sztucznej inteligencji ulepszyły poprzednie systemy przeznaczone wyłącznie dla ludzi. W dzisiejszym społeczeństwie istnieje wiele dyskryminacji, uprzedzeń i niezrozumienia osób niepełnosprawnych. Jeśli uda nam się znaleźć sposób na produkcję systemów AI, które wyeliminują tego rodzaju uprzedzenia, będziemy mogli zacząć zmieniać traktowanie osób niepełnosprawnych i ograniczać dyskryminację.

ukryć