211service.com
Problem białego faceta AI nie znika
Eric wesoły/AP
Liczby mówią o tragicznym braku różnorodności w branży AI. Kobiety stanowią tylko 18% autorów na wiodących konferencjach poświęconych AI, 20% profesury AI oraz 15% i 10% pracowników naukowych odpowiednio na Facebooku i Google. Różnorodność rasowa jest jeszcze gorsza: czarnoskórzy pracownicy stanowią tylko 2,5% całej siły roboczej Google i 4% Facebooka i Microsoftu. Nie są dostępne żadne dane dotyczące osób transpłciowych i innych mniejszości płciowych – ale jest mało prawdopodobne, że trend zostanie tam również odparty.
Jest to głęboko niepokojące, gdy wpływ branży dramatycznie wzrósł, wpływając na wszystko, od zatrudniania i mieszkania po wymiar sprawiedliwości w sprawach karnych i wojsko. Po drodze technologia zautomatyzowała uprzedzenia swoich twórców do niepokojącego efektu: dewaluacja życiorysów kobiet , utrwalając dyskryminację w zatrudnieniu i mieszkalnictwie oraz przestrzegając rasistowskich praktyk policyjnych i wyroków skazujących w więzieniach .
Te konsekwencje pogorszą się tylko bez innego podejścia do rozwiązania problemu, mówi A nowy raport w tym tygodniu z instytutu badawczego AI Now.
Problem braku różnorodności w technologii [...] osiągnął nowy i pilny punkt zwrotny, powiedziała Meredith Whittaker, współzałożycielka instytutu, podczas telekonferencji towarzyszącej raportowi. Miliony ludzi odczuwają skutki tych narzędzi i są dotknięte wszelkimi uprzedzeniami AI, które się w nich wpajają.
Zespół AI Now identyfikuje dwa główne powody, dla których próby rozwiązania problemu braku różnorodności nie powiodły się. Po pierwsze, duży nacisk kładzie się na zwiększenie liczby kobiet w dziedzinie technologii, a mniejszy na poprawę różnorodności rasy, płci i innych cech. Po drugie, kładzie się nieproporcjonalny nacisk na naprawę rurociągu — pomysł zwiększenia liczby kandydatów z niedostatecznie reprezentowanych grup, które przepływają ze szkół do przemysłu. Ma to tendencję do niedoceniania innych wad systemowych, które uniemożliwiają kobietom i mniejszościom pozostanie w terenie, takich jak nękanie, niesprawiedliwe odszkodowania i brak równowagi sił.
Naukowcy przedstawiają kilka zaleceń dotyczących poprawy różnorodności w miejscu pracy w bardziej kompleksowy sposób. Obejmują one środki mające na celu zlikwidowanie luki w wynagrodzeniach i szansach, zwiększenie różnorodności na szczeblach kierowniczych w różnych działach oraz zmianę struktur motywacyjnych dla kadry kierowniczej firm do zatrudniania i zatrzymywania pracowników z grup niedostatecznie reprezentowanych.
Ale problem jest również głębszy niż praktyki zatrudniania i wynagradzania, mówi Jessie Daniels, badaczka z Data & Society, która bada skrzyżowanie rasizmu i technologii i nie była zaangażowana w raport. Przemysł technologiczny został zasadniczo zbudowany na etosie, że technologia istnieje niezależnie od społeczeństwa, mówi: Na początku lat 90. pojawił się pomysł, że internet uwolni nas od rzeczy takich jak rasa, płeć i kalectwo; pomysł, że udamy się do tego miejsca zwanego „cyberprzestrzenią”, gdzie nie będziemy już musieli myśleć o ucieleśnieniu ani tożsamości.
Ten pomysł pozostał w branży do dziś i jest źródłem zarówno powtarzających się niepowodzeń w zwiększaniu różnorodności pracowników, jak i powtarzających się skandali związanych ze stronniczością AI. Firmy technologiczne są budowane – a produkty technologiczne są projektowane – z fantazją, że istnieją niezależnie od seksizmu, rasizmu i kontekstu społecznego wokół nich.
To nie błąd, mówi Daniels. To funkcja.