Czołowa badaczka etyki AI mówi, że została zwolniona z Google

Timnit Gebru

Kimberly White / Stringer





2 grudnia społeczność badawcza AI była zszokowana, gdy dowiedziała się, że Timnit Gebru został zwolniony ze swojego stanowiska w Google. Gebru, jeden z czołowych głosów w odpowiedzialnych badaniach nad sztuczną inteligencją, znany jest między innymi ze współautorstwa przełomowych prac, które ujawniły dyskryminacyjny charakter rozpoznawania twarzy , współzakładając grupę Black in AI i bezustannie opowiada się za różnorodnością w branży technologicznej .

Ale w środowy wieczór ogłosiła na Twitterze że została zwolniona ze stanowiska współkierownika ds. etyki AI w Google. Najwyraźniej przełożony mojego menedżera wysłał e-mail [do] moich bezpośrednich podwładnych, mówiąc, że przyjęła moją rezygnację. Nie zrezygnowałam, powiedziała.

w wywiad z Bloomberg Gebru powiedziała w czwartek, że zwolnienie nastąpiło po przedłużającej się kłótni z jej przełożonymi o publikację artykułu badawczego dotyczącego etyki AI. Jeden z tweetów Gebru i później wewnętrzny e-mail od Jeffa Deana, szefa Google AI, sugerują, że gazeta była krytyczna wobec koszty środowiskowe oraz osadzone uprzedzenia w dużych modelach językowych.



Gebru, który napisał artykuł z czterema kolegami z Google i dwoma współpracownikami zewnętrznymi, przesłał go na konferencję naukową, która miała się odbyć w przyszłym roku. Po wewnętrznej weryfikacji poproszono ją o wycofanie artykułu lub usunięcie nazwisk pracowników Google. Odpowiedziała, że ​​zrobiłaby to, gdyby jej przełożeni spełnili szereg warunków. Gdyby nie mogli, ona by praca na ostatniej randce , powiedziała.

Wysłała też sfrustrowany e-mail do wewnętrznego listserva, Google Brain Women and Allies, opisującego powtarzające się trudności, jakich doświadczyła jako czarnoskóra badaczka. Właśnie przeprowadziliśmy badania nad czarnymi wszystkimi rękami z tak emocjonalnym pokazem irytacji, napisała. Czy wiesz, co się od tego czasu wydarzyło? Wyciszanie w najbardziej fundamentalny możliwy sposób.

Następnie Gebru wyjechała na wakacje i przed powrotem otrzymała wiadomość e-mail z zakończeniem pracy od Megan Kacholi, wiceprezesa ds. inżynierii w Google Research. Dzięki za wyjaśnienie warunków, podany e-mail , jak napisał na Twitterze Gebru. Nie możemy zgodzić się na punkty 1 i 2, o które prosisz. Szanujemy Twoją decyzję o opuszczeniu Google i przyjmujemy Twoją rezygnację. Jej e-mail do listserv był niezgodny z oczekiwaniami menedżera Google, kontynuował. Dzięki temu przyjmujemy Twoją rezygnację natychmiast, ze skutkiem już dziś.

W czwartek rano, po wylaniu poparcia dla Gebru w mediach społecznościowych, Dean wysłał wewnętrzny e-mail do grupy AI Google z jego opisem sytuacji. Powiedział, że artykuł Gebru nie spełnił naszych wymagań dotyczących publikacji, ponieważ zignorował zbyt wiele istotnych badań. Powiedział również, że warunki Gebru obejmowały ujawnienie tożsamości każdej osoby, z którą rozmawialiśmy z Megan i konsultowaliśmy się w ramach recenzji artykułu oraz dokładne informacje zwrotne.



„Biorąc pod uwagę rolę Timnit jako szanowanego badacza i menedżera w naszym zespole ds. etycznej sztucznej inteligencji, czuję się źle, że Timnit dotarła do miejsca, w którym tak myśli o pracy, którą wykonujemy”, napisał. Wiem, że wszyscy naprawdę podzielamy pasję Timnita, aby sztuczna inteligencja była bardziej sprawiedliwa i inkluzywna.

Ani firmy Gebru, Dean, ani Google nie odpowiedziały na prośby o komentarz, a wiele szczegółów dotyczących dokładnego przebiegu wydarzeń lub przyczyny rozwiązania umowy pozostaje niejasnych. W miarę jak się pojawiają, wielu ponownie zwróciło uwagę na: tweet z 30 listopada którą Gebru przypiął na górze jej profilu. Czy ktoś pracuje nad regulacją chroniącą badaczy etycznej sztucznej inteligencji, podobną do ochrony sygnalistów? czyta. Ponieważ przy ilości cenzury i zastraszania, które mają miejsce w stosunku do osób z określonych grup, jak ktokolwiek może ufać, że mogą się odbyć jakiekolwiek prawdziwe badania w tej dziedzinie?

ukryć