211service.com
Jak walczyć z nienawiścią w Internecie
Jennifer Chayes, badaczka danych, uważa, że możemy użyć narzędzi obliczeniowych, aby wykorzenić złe zachowanie w sieci.
27 października 2021
Christie Tam Klok
Podczas swojej pracy w Microsoft i na uczelni Jennifer Chayes walczyła o wykorzystanie nauki o danych i obliczeń, aby sztuczna inteligencja była bardziej sprawiedliwa i mniej stronnicza.
Od rzucenia szkoły w wieku 15 lat do zostania nestorem data science na Uniwersytecie Kalifornijskim w Berkeley, Chayes przeszedł całkiem niezłą ścieżkę kariery. Dołączyła do UCLA w 1987 roku jako profesor matematyki. Dziesięć lat później Microsoft skłonił ją do współtworzenia interdyscyplinarnej Research Theory Group.
Ta historia była częścią naszego wydania z listopada 2021 r.
- Zobacz resztę numeru
- Subskrybuj
To właśnie w jej laboratorium Microsoft w Nowym Jorku naukowcy odkryli stronniczość oprogramowania do rozpoznawania twarzy firmy, pokazując, że system dokładniej klasyfikował białe twarze niż brązowe i czarne. To odkrycie spowodowało, że firma odrzuciła lukratywny kontrakt z wydziałem policji i zaczęła pracować nad usunięciem stronniczości takich algorytmów. ten grupa FATE (Sprawiedliwość, Odpowiedzialność, Przejrzystość i Etyka w AI) powstał w laboratorium.
Anil Ananthaswamy zapytał Chayes, obecnie zastępca rektora Wydziału Informatyki, Nauki o Danych i Społeczeństwa oraz dziekan Szkoły Informacji w Berkeley, w jaki sposób nauka o danych przekształca informatykę i inne dziedziny.
P: Jak wyglądało przejście ze środowiska akademickiego do przemysłu?
A: To był szok. Wiceprezes ds. badań w Microsoft, Dan Ling, zadzwonił do mnie, aby przekonać mnie do pójścia na rozmowę kwalifikacyjną. Rozmawiałem z nim około 40 minut. I w końcu powiedziałem: Czy naprawdę chcesz wiedzieć, co mnie dręczy? Microsoft to banda dorastających chłopców, a ja nie chcę spędzać życia z bandą dorastających chłopców.
P: Jak na to zareagował?
A: Powiedział: O nie, nie jesteśmy. Przyjdź i poznaj nas. Spotkałem tam kilka niesamowitych kobiet, kiedy odwiedziłem, i spotkałem fenomenalnie otwartych ludzi, którzy chcieli spróbować rzeczy, aby zmienić świat.
P: Jak nauka o danych zmieniła obliczenie?
DO: Gdy zdobyliśmy więcej danych, informatyka zaczęła patrzeć na zewnątrz. Myślę o nauce danych jako mariażu informatyki, statystyki, etyki i nacisku na dziedzinę lub nacisk dyscyplinarny, czy to biomedycyna i zdrowie, klimat i zrównoważony rozwój, czy dobro człowieka i sprawiedliwość społeczna i tak dalej. To transformacja informatyki.
P: Czy istnieje różnica w sposobie, w jaki naukowcy zajmujący się danymi rozwiązują problemy?
Odp.: Wraz z pojawieniem się wszystkich tych danych mamy możliwość uczenia się na podstawie danych bez posiadania teorii, dlaczego coś się dzieje. Szczególnie w dobie uczenia maszynowego i głębokiego uczenia pozwala nam wyciągać wnioski i przewidywać bez podstawowej teorii.
P: Czy to może powodować problemy?
DO: Niektórzy uważają to za problem w przypadkach, w których masz [na przykład] dane biomedyczne. Dane bardzo dokładnie przewidują, co zadziała, a co nie, bez podstawowego mechanizmu biologicznego.
P: Jakieś zalety?
DO: Dane pozwoliły nam teraz zrobić, w wielu przypadkach, to, co ekonomista nazwałby kontrfaktem, w którym faktycznie widać losową zmienność danych, która pozwala wyciągnąć wnioski bez przeprowadzania eksperymentów. To niezwykle przydatne.
Czy naprawdę chcę wypróbować różne rodzaje edukacji na różnych populacjach? A może chcę zobaczyć, że w pewnym momencie wystąpiła losowa zmienność, która pozwoli mi wyciągnąć naprawdę dobre wnioskowanie przyczynowe, a zatem mogę na tym oprzeć politykę?
P: Czy widzisz problem w wykorzystywaniu danych, zwłaszcza przez duże firmy?
O: Jest mnóstwo problemów. Używają go nie tylko korporacje technologiczne. Używają go firmy ubezpieczeniowe. Jest używany przez platformy rządowe, platformy zdrowia publicznego i platformy edukacyjne. Jeśli nie rozumiesz wyraźnie, jakie błędy mogą się wkradać, zarówno w samych zestawach danych, jak iw algorytmach, prawdopodobnie zaostrzysz tendencyjność.
Te uprzedzenia wkradają się, gdy nie ma zbyt wielu danych. Może też być skorelowany z innymi czynnikami. Osobiście pracowałem nad automatycznym tłumaczeniem biografii i CV. Nie wolno nam używać płci ani rasy. Nawet jeśli nie patrzę na [te] chronione atrybuty, jest wiele rzeczy [w danych], które zastępują płeć lub rasę. Jeśli chodziłeś do pewnych szkół, dorastałeś w określonych dzielnicach, uprawiałeś określone sporty i wykonywałeś określone zajęcia, są one skorelowane [z płcią lub rasą].
P: Czy algorytmy wychwytują te proxy?
DO: Zaostrzają to. Musisz to wyraźnie zrozumieć i musisz wyraźnie temu zapobiec, pisząc algorytm.
P: Jak możemy rozwiązać takie problemy?
DO: Istnieje cały ten obszar FATE: uczciwość, odpowiedzialność, przejrzystość i etyka w sztucznej inteligencji, która polega na projektowaniu tych algorytmów i zrozumieniu, czym one są. Ale musimy zrobić o wiele więcej.
P: A analiza danych pomaga?
O: To jest absolutnie nauka o danych. Istnieje część sieci zwana manosferą, z której pochodzi wiele nienawiści. Ciężko to wyśledzić. Ale jeśli używasz przetwarzania języka naturalnego i innych narzędzi, możesz zobaczyć, skąd pochodzi. Możesz także spróbować zbudować interfejsy, które umożliwią grupom rzecznictwa i innym osobom znalezienie tego i pomoc w wykorzenieniu. To wykracza poza samo bycie uczciwym. To odwraca losy sposobu, w jaki te platformy zostały uzurpowane, aby zwiększyć uprzedzenia i nienawiść, i mówiąc: „Wykorzystamy moc obliczeń i nauki o danych, aby zidentyfikować i złagodzić nienawiść.