211service.com
Jak wykorzenić ukryte uprzedzenia w AI?
Algorytmy podejmują decyzje zmieniające życie, takie jak odmowa zwolnienia warunkowego lub udzielanie pożyczek. Cynthia Dwork, informatyk z Harvardu, opracowuje sposoby upewnienia się, że maszyny działają uczciwie. 24 października 2017 r.
Miguel Porlan
Dlaczego projektantom algorytmów lub analitykom danych trudno jest wyjaśnić stronniczość i niesprawiedliwość?
Weźmy środowisko pracy, które jest wrogie kobietom. Załóżmy, że definiujesz sukces jako fakt, że ktoś pracuje od dwóch do trzech lat i otrzymuje awans. Wtedy Twój predyktor — na podstawie danych historycznych — dokładnie przewidzi, że zatrudnianie kobiet nie jest dobrym pomysłem. Co ciekawe, nie mówimy o historycznych decyzjach rekrutacyjnych. Nawet jeśli decyzje o zatrudnieniu były całkowicie bezstronne, rzeczywistość – prawdziwa dyskryminacja we wrogim środowisku – pozostaje. Jest głębszy, bardziej strukturalny, bardziej zakorzeniony i trudniejszy do pokonania.
Ta historia była częścią naszego wydania z listopada 2017 r.
- Zobacz resztę numeru
- Subskrybuj
Uważam, że uczenie maszynowe i sztuczna inteligencja będą świetnie wykorzystane w połączeniu z naprawdę dobrze poinformowanymi ludźmi, którzy znają historię, socjologię i psychologię, aby dowiedzieć się, kogo należy traktować podobnie do kogo.
Nie mówię, że komputery nigdy nie będą w stanie tego zrobić, ale teraz tego nie widzę. Skąd wiesz, kiedy masz odpowiedni model i kiedy rejestruje to, co naprawdę wydarzyło się w społeczeństwie? Musisz rozumieć, o czym mówisz. Jest takie słynne powiedzenie Wszystkie modele są złe, a niektóre są przydatne.
— jak powiedział Will Knight