Kongres oczekuje od Google odpowiedzi na temat zwolnienia Timnita Gebru

Yvette Clarke

Przedstawiciel Yvette Clarke AP Photo/Kathy Willens





Dziewięciu członków Kongresu Stanów Zjednoczonych wysłało list do Google, prosząc o wyjaśnienie okoliczności związanych z przymusowym odejściem byłego współkierownika ds. etycznej sztucznej inteligencji, Timnita Gebru. Prowadzona przez reprezentantkę Yvette Clarke i senatora Rona Wydena, podpisana przez senatorów Elizabeth Warren i Cory'ego Bookera, litera wysyła ważny sygnał o tym, jak Kongres przygląda się gigantom technologicznym i myśli o nadchodzących regulacjach.

Gebru, czołowy głos w etyce AI i jedna z nielicznej garstki czarnoskórych kobiet w Google, była bezceremonialnie zwolniony dwa tygodnie temu, po przedłużającym się sporze w sprawie artykułu badawczego. Papier szczegółowo opisał ryzyko związane z dużymi modelami językowymi AI przeszkolony na ogromnych ilościach danych tekstowych, które są podstawowym obszarem badań Google, napędzającym różne produkty, w tym lukratywną wyszukiwarkę Google.



Powołując się na artykuł MIT Technology Review, list porusza trzy kwestie: potencjał stronniczości w dużych modelach językowych, rosnący wpływ korporacji na badania nad sztuczną inteligencją oraz brak różnorodności w Google. Prosi dyrektora generalnego Google, Sundara Pichaia, o konkretny plan rozwiązania każdego z nich, a także o obecną politykę przeglądu badań i szczegóły dotyczące trwającego śledztwa w sprawie wyjścia Gebru (Pichai zobowiązał się do tego śledztwa w notatka wewnętrzna , po raz pierwszy opublikowane przez Axios). Jako członkowie Kongresu, którzy aktywnie dążą do wzmocnienia badań nad sztuczną inteligencją, odpowiedzialności i różnorodności poprzez ustawodawstwo i nadzór, z szacunkiem zwracamy się do Ciebie z prośbą o następujące zapytania, czytamy w liście.

W kwietniu 2019 r. Clarke i Wyden przedstawili projekt ustawy, Ustawa o odpowiedzialności algorytmicznej , co wymagałoby od dużych firm przeprowadzania audytów systemów uczenia maszynowego pod kątem stronniczości i podejmowania na czas działań naprawczych w przypadku wykrycia takich problemów. Wymagałoby to również od tych firm audytu wszystkich procesów związanych z danymi wrażliwymi — w tym informacjami umożliwiającymi identyfikację osób, danymi biometrycznymi i genetycznymi — pod kątem zagrożeń prywatności i bezpieczeństwa. W tamtym czasie wielu ekspertów prawnych i technologicznych chwaliło ustawę za zniuansowane zrozumienie sztucznej inteligencji i technologii opartych na danych. Świetny pierwszy krok, napisał Andrew Selbst, adiunkt w University California Los Angeles School of Law, na Twitterze. Wymagałoby dokumentacji, oceny i prób zajęcia się przewidywanymi skutkami. To nowe, ekscytujące i niezwykle potrzebne.

Powiązana historia

Czytamy gazetę, która zmusiła Timnita Gebru do wycofania się z Google. Oto, co mówi.

Znany z firmy badacz etyki zwrócił uwagę na ryzyko związane z dużymi modelami językowymi, które są kluczowe dla działalności Google.



Najnowszy list nie wiąże się bezpośrednio z ustawą o odpowiedzialności algorytmicznej, ale jest częścią tego samego posunięcia niektórych członków Kongresu, aby stworzyć przepisy, które złagodziłyby stronniczość AI i inne szkody związane z automatycznymi systemami opartymi na danych. Warto zauważyć, że pojawia się on w warunkach rosnącej presji na regulacje antymonopolowe. Na początku tego miesiąca amerykańska Federalna Komisja Handlu złożył pozew antymonopolowy przeciwko Facebookowi za antykonkurencyjne zachowanie i nieuczciwe metody konkurencji. Latem House Democrats opublikował 449-stronicowy raport na temat monopolistycznych praktyk Big Tech.

List pojawia się również w kontekście rosnących napięć geopolitycznych. Ponieważ podczas pandemii stosunki amerykańsko-chińskie osiągnęły najniższy poziom w historii, urzędnicy amerykańscy podkreślili strategiczne znaczenie pojawiających się technologii, takich jak sztuczna inteligencja i 5G. List podnosi również ten wymiar, uznając wiodącą rolę Google w sztucznej inteligencji i jej rolę w utrzymaniu wiodącej pozycji USA. Ale wyjaśnia, że ​​nie powinno to podważać działań regulacyjnych, linia argumentacji spopularyzowany przez CEO Facebooka Marka Zuckerberga . List mówi, że aby zapewnić Ameryce zwycięstwo w wyścigu AI, amerykańskie firmy technologiczne muszą nie tylko przewodzić światu pod względem innowacji; muszą również zapewnić, że takie innowacje odzwierciedlają wartości naszego narodu.

Nasz list powinien zwrócić uwagę wszystkich pracowników sektora technologicznego, nie tylko Google, na naszą uwagę, powiedział Clarke w oświadczeniu dla MIT Technology Review. Etyczna sztuczna inteligencja to pole bitwy o przyszłość praw obywatelskich. Nasze obawy dotyczące ostatnich wydarzeń nie dotyczą tylko jednej osoby; dotyczą tego, jak będzie wyglądał XXI wiek, jeśli wolność akademicka i integracja akademicka ustąpią miejsca innym priorytetom. Nie możemy złagodzić uprzedzeń algorytmicznych, jeśli przeszkadzamy tym, którzy starają się je badać i studiować.



ukryć