211service.com
Hej Google, przepraszam, że straciłeś radę etyki, więc stworzyliśmy ją dla Ciebie
Cóż, to nie trwało długo. Po nieco ponad tygodniu Google wycofał się z utworzenia swojej Zewnętrznej Rady Doradczej ds. Zaawansowanych Technologii (ATEAC) — komitetu, który miał udzielić firmie wskazówek, jak etycznie rozwijać nowe technologie, takie jak sztuczna inteligencja. Włączenie do rady prezes Heritage Foundation, Kay Coles James, wywołało oburzenie z powodu jej anty-środowiskowych, anty-LGBTQ i antyimigranckich poglądów, oraz kierował blisko 2500 pracowników Google podpisać petycję o jej usunięcie. Zamiast tego gigant internetowy po prostu postanowił zamknąć całość.
Jak sprawy potoczyły się tak źle? I czy Google może je naprawić? Pozyskaliśmy kilkunastu ekspertów w dziedzinie sztucznej inteligencji, technologii i etyki, którzy powiedzieli nam, gdzie firma zgubiła się i co może zrobić dalej. Gdyby ci ludzie byli na ATEAC, historia mogłaby potoczyć się inaczej.
„Bądź przejrzysty i konkretny w odniesieniu do ról i obowiązków, jakie mają rady ds. etyki”
Rashida Richardson, dyrektor ds. badań politycznych w AI Now Institute
„Nie mamy wglądu w to, czy tablice etyki są rzeczywiście moralnym kompasem, czy tylko kolejną pieczątką”
Teoretycznie rady ds. etyki mogą być wielką korzyścią, jeśli chodzi o upewnienie się, że produkty AI są bezpieczne i nie dyskryminują. Jednak aby rady ds. etyki miały jakikolwiek znaczący wpływ, muszą ponosić odpowiedzialność publiczną i mieć rzeczywiste uprawnienia nadzorcze.
Oznacza to, że firmy technologiczne powinny chcieć dzielić się kryteriami, których używają, aby wybrać, kto zasiada w tych radach etyki. Powinny również być przejrzyste i konkretne w odniesieniu do ról i obowiązków, jakie mają ich rady ds. etyki, tak aby opinia publiczna mogła ocenić ich skuteczność. W przeciwnym razie nie mamy wglądu w to, czy tablice etyki są rzeczywiście moralnym kompasem, czy tylko kolejną pieczątką. Biorąc pod uwagę globalny wpływ i odpowiedzialność dużych firm AI, ten poziom przejrzystości i odpowiedzialności jest niezbędny.
Zastanów się, co tak naprawdę oznacza skuteczne i sprawiedliwe zarządzanie technologią
Jake Metcalf, badacz etyki technologii w Data & Society
Hullabaloo ATEAC pokazuje nam, jak najeżona i kontrowersyjna będzie prawdopodobnie ta nowa era etyki technologicznej. W tym przypadku Google wyraźnie błędnie odczytało pokój. Politycznie marginalne populacje, które podlegają klasyfikacyjnym kaprysom technologii AI/ML, prawdopodobnie doznają większych szkód etycznych wynikających z automatycznego podejmowania decyzji. Google faworyzujący Kay Coles James za różnorodność punktów widzenia nad jej otwartą nienawiścią do osób transpłciowych pokazuje, że nie biorą oni pod uwagę tego, co właściwie oznacza skuteczne i sprawiedliwe zarządzanie technologią.
„Etyka to dwie różne rzeczy, które w praktyce mogą być ze sobą sprzeczne. Firmy są podatne na te pierwsze, a przerażone tych drugich”
Dla firm jest to trudne, ponieważ etyka oznacza dwie różne rzeczy, które w praktyce mogą być ze sobą sprzeczne: jest to zarówno codzienna praca nad zrozumieniem i łagodzeniem konsekwencji (takich jak uruchamianie narzędzia do wykrywania uprzedzeń lub organizowanie debaty poświęconej projektowi), jak i ocena tego, jak społeczeństwo można zamówić najbardziej sprawiedliwie (np. czy różne szkody dla zmarginalizowanych społeczności oznaczają, że linia produktów powinna być wzbogacona). Korporacje są podatne na te pierwsze, a obawiają się tych drugich. Ale jeśli etyka AI nie polega na zapobieganiu zautomatyzowanym nadużyciom, blokowaniu transferu niebezpiecznych technologii do autokratycznych rządów lub zakazie automatyzacji przemocy państwa, to trudno jest wiedzieć, co według firm technologicznych jest inne niż puste gesty. Pod ładnym nowym narzędziem do raportowania etyki, które jest zgodne z wskaźnikami KPI firmy, kryje się autentyczna obawa, że życie jest na szali. Trzymanie ich w głowie od razu jest wyzwaniem dla firm zbiurokratyzowanych i dla etyków, którzy zainwestowali w to, by więcej sprawiedliwych technologii zwyciężyło.
Najpierw poznaj słonia w pokoju: zasady AI Google
Evan Selinger, profesor filozofii w Rochester Institute of Technology
Google umieścił kibosz na ATEAC bez wcześniejszego rozpoznania słonia w pokoju: zasady AI dyrektor generalny Sundar Pichai wypowiedział się latem. Czołowi naukowcy, ludzie z organizacji społeczeństwa obywatelskiego i starsi pracownicy firm technologicznych konsekwentnie mówili mi, że chociaż zasady wyglądają dobrze na papierze, są na tyle elastyczne, że można je interpretować w sposób, który oszczędzi firmie Google konieczności narażania na szwank jakiegokolwiek długoterminowego rozwoju strategie — nie tylko dlatego, że mechanizmy egzekwowania zasad naruszania zasad nie są dobrze zdefiniowane i ostatecznie całe przedsiębiorstwo pozostaje przedsięwzięciem samoregulacyjnym.
To powiedziawszy, z pewnością pomogłoby uczynić kierownictwo bardziej odpowiedzialnym przed radą etyki, gdyby grupa była (a) właściwie utworzona; b) otrzymać jasne i solidne uprawnienia instytucjonalne (zamiast być tam, aby służyć radą); oraz (c) także sam musi przestrzegać przejrzystych standardów odpowiedzialności, aby upewnić się, że nie stanie się trybikiem w racjonalizującej pralce etycznej.
Zmień ludzi odpowiedzialnych za tworzenie tych grup
Ellen Pao, założycielka Project Include
Ten nieudany wysiłek pokazuje dokładnie, dlaczego Google potrzebuje lepszych doradców. Ale być może muszą również zmienić ludzi odpowiedzialnych za tworzenie tych grup – i być może ich wewnętrzne zespoły również powinny wykonywać tę pracę. Było kilka problemów z wynikiem, jak wszyscy widzieliśmy, ale także problemy z procesem. Jeśli nie poinformowałeś całej grupy o tym, z kim będą pracować, to ogromny błąd. Sprowadzenie ludzi, którzy bardziej odzwierciedlają świat, w którym żyjemy, powinno nastąpić wewnętrznie, zanim spróbujemy zebrać zewnętrzną grupę.
Na marginesie, ludzie powinni badać grupy, do których dołączają, panele konferencyjne, na których przemawiają, i swoje zespoły, zanim się zaangażują, aby wiedzieli, na co się zapisują. To niesamowite, jak bardzo możesz na nich wpłynąć i jak możesz zmienić skład grupy samym pytaniem.
Wzmocnij antagonizm – nie te przyjazne wewnętrzne partnerstwa i starania dotyczące trzymania się za rękę
Meg Leta Jones, adiunkt w dziedzinie komunikacji, kultury i technologii na Uniwersytecie Georgetown
Tablice etyczne nie są niczyją pracą na co dzień i oferują jedynie możliwość prowadzenia rzadkich rozmów na wysokim poziomie, które w najlepszym przypadku zapewniają wgląd, a w najgorszym przypadku przykrywkę. Jeśli chcemy zbudować zaufanie do instytucji, w tym technologii, firm technologicznych, mediów i rządu, nasza obecna kultura polityczna wymaga antagonizmu, a nie tych przyjaznych partnerstw wewnętrznych i wysiłków związanych z trzymaniem się za rękę. Wzmocnienie pozycji antagonistów i wspieranie antagonizmu może lepiej i skuteczniej realizować cele „etycznej sztucznej inteligencji”.
„Tablice etyki w najlepszym wypadku zapewniają wgląd, a w najgorszym – osłonę”
Spójrz w głąb siebie i wzmocnij pracowników, którzy solidaryzują się z słabszymi grupami
Anna Lauren Hoffmann, adiunkt w The Information School na Uniwersytecie Waszyngtońskim
Nieudany zarząd ATEAC Google wyjaśnia, że etyka AI to nie tylko sposób, w jaki tworzymy, rozwijamy i wdrażamy technologie AI — ale także sposób, w jaki robimy etykę. Żywe słabości, dystrybucja władzy i wpływów oraz to, czyje głosy stają się podniesione, są integralnymi czynnikami, które należy wziąć pod uwagę przy dążeniu do etyki w prawdziwym świecie. W tym celu porażka ATEAC i inne przypadki odmowy (na przykład przeciwko Project Maven , Dragonfly i zasadom dotyczącym molestowania seksualnego ) jasno pokazują, że Google ma już ogromne zasoby w postaci wielu swoich pracowników. Chociaż potrzebujemy również znaczących regulacji i nadzoru zewnętrznego, firma powinna spojrzeć do wewnątrz i wzmocnić tych już zmarginalizowanych pracowników, gotowych do zorganizowania się i solidarności z grupami słabszymi, aby stawić czoła wszechobecnym problemom transfobii, rasizmu, ksenofobii i nienawiści.
Zarząd nie może być po prostu „kilkoma ważnymi ludźmi, których znamy”. Potrzebujesz prawdziwych etyków
Patrick Lin, dyrektor Grupa ds. Etyki i Nauk Wschodzących w Cal Poly
Mówiąc słowami Aaliyah, myślę, że następnym krokiem dla Google jest odkurzenie się i spróbowanie ponownie. Ale muszą być bardziej ostrożni w tym, kogo umieszczają na tablicy — nie może to być po prostu lista „zapytajmy kilka ważnych osób, które znamy”, jak wydawało się, że była to wersja 1.0 rady. Po pierwsze, jeśli istnieje szczere zainteresowanie uzyskaniem wskazówek etycznych, potrzebni są prawdziwi etycy — eksperci, którzy przeszli profesjonalne szkolenie w zakresie etyki teoretycznej i stosowanej. W przeciwnym razie byłoby to odrzucenie wartości ekspertyzy, którą już teraz obserwujemy zbyt często, na przykład, jeśli chodzi o nauki podstawowe.
„Wyobraź sobie, że firma chciałaby zwołać radę ds. prawa AI, ale był w niej tylko jeden prawnik”
Wyobraź sobie, że firma chciałaby zwołać radę ds. AI, ale był w niej tylko jeden prawnik (tak jak w radzie etyki AI w wersji 1.0 był tylko jeden filozof). To wywołałoby poważne czerwone flagi. Nie wystarczy, że ktoś zajmuje się kwestiami prawnymi – robi to mnóstwo ludzi, w tym ja, i mogą one dobrze uzupełnić ekspertyzy prawników i prawników. Ale aby ta rada była naprawdę skuteczna, musi w swoim rdzeniu obejmować rzeczywistych ekspertów dziedzinowych.
Ostatnie kilka tygodni pokazało, że bezpośrednia organizacja działa…
Os Keyes, doktorant w Data Ecology Lab na Uniwersytecie Waszyngtońskim
Szczerze mówiąc nie mam rady dla Google. Google robi dokładnie to, do czego mają się robić podmioty korporacyjne w naszym społeczeństwie; pracują dla politycznej (a więc regulacyjnej, a więc finansowej) korzyści, nie pozwalając, by ślad moralności wbił się w ich wyniki kwartalne lub plan strategiczny. Moja rada jest dla wszystkich oprócz Google. Dla osób spoza Google: zadzwoń do swoich przedstawicieli. Zapytaj, co robią w sprawie regulacji AI. Zapytaj, co robią w sprawie kontroli lobbingu. Zapytaj, co robią z regulacjami korporacyjnymi. Dla osób ze środowisk akademickich: zadzwoń do swoich instruktorów. Zapytaj, co robią w nauczaniu uczniów etyki, że etyka jest ważna tylko wtedy, gdy jest stosowana i przeżywana. Dla osób w Google: zadzwoń do osób na zewnątrz i zapytaj, czego od Ciebie potrzebują. Wydarzenia ostatnich tygodni pokazały, że bezpośrednia praca organizacyjna; solidarność działa.
Cztery spotkania w roku raczej nie będą miały wpływu. Potrzebujemy zwinnego wkładu etycznego
Irina Raicu, dyrektor programu etyki internetowej na Uniwersytecie Santa Clara
Myślę, że to była świetna stracona okazja. Zastanawiałem się, kto w Google był zaangażowany w podejmowanie decyzji o tym, kogo zaprosić. (Ta decyzja sama w sobie wymagała zróżnicowanego wkładu). Ale to mówi o szerszym problemie: o tym, że Google ogłosiło utworzenie rady bez żadnego wyjaśnienia kryteriów wyboru uczestników. Bardzo mało dyskutowano również o powodach utworzenia rady, o tym, jaki będzie ich wpływ, itp. Gdyby przedstawili więcej kontekstu, późniejsza dyskusja mogłaby wyglądać inaczej.
Są też inne problemy; biorąc pod uwagę szybkość rozwoju i wdrażania sztucznej inteligencji, cztery spotkania (nawet z różnorodną grupą doradców ds. etyki sztucznej inteligencji) w ciągu roku prawdopodobnie nie będą miały znaczącego wpływu, tj. naprawdę zmienić trajektorię badań lub rozwoju produktu. Dopóki model jest zwinny, potrzebujemy również danych etycznych zwinnych.
Grupa musi mieć uprawnienia do odmowy projektom
Sam Gregory, dyrektor programowy w Witness
Jeśli Google chce naprawdę wprowadzić szacunek dla etyki lub praw człowieka do inicjatyw AI, musi najpierw zdać sobie sprawę, że rada doradcza, a nawet rada nadzorcza, to tylko część większego podejścia. Muszą od samego początku jasno powiedzieć, że grupa faktycznie ma prawo odmówić projektom i zostać wysłuchana. Następnie muszą jasno określić ramy – zalecamy, aby były one oparte na ustalonych międzynarodowych przepisach i normach dotyczących praw człowieka – a zatem osoba lub grupa, która ma doświadczenie w dyskryminacji lub nadużyciach, nie powinna brać w tym udziału.
Unikaj traktowania etyki jak gry PR lub problemu technicznego
Anna Jobin, badaczka w Laboratorium Etyki i Polityki Zdrowotnej w Szwajcarskim Federalnym Instytucie Technologii
Jeśli Google poważnie traktuje etyczną sztuczną inteligencję, firma musi unikać traktowania etyki jak gry PR lub problemu technicznego i uwzględniać ją w swoich praktykach i procesach biznesowych. Może zaistnieć potrzeba przeprojektowania swoich struktur zarządzania, aby stworzyć lepszą reprezentację i odpowiedzialność zarówno przed wewnętrzną siłą roboczą, jak i ogółem społeczeństwa. W szczególności musi priorytetowo traktować dobro mniejszości i wrażliwych społeczności na całym świecie, zwłaszcza osób, na które jego technologia ma lub może mieć negatywny wpływ.
„Poszukuj nie tylko tradycyjnej wiedzy, ale także spostrzeżeń ludzi, którzy są ekspertami w zakresie własnych przeżytych doświadczeń”
Joy Buolamwini, założyciel Algorithmic Justice League
Kiedy myślimy o zarządzaniu sztuczną inteligencją, musimy nie tylko szukać tradycyjnej wiedzy, ale także spostrzeżeń ludzi, którzy są ekspertami w zakresie własnych doświadczeń życiowych. Jak możemy zaangażować marginalizowane głosy w kształtowanie sztucznej inteligencji? Jak mogłaby wyglądać partycypacyjna sztuczna inteligencja skupiająca poglądy osób najbardziej narażonych na niekorzystne skutki sztucznej inteligencji?
„Nie wyobrażam sobie rekomendacji takiego panelu doradczego stojącego na drodze do tego, czego wymaga rynek”
Czerpiąc z doświadczenia ATEAC, Google powinien włączyć procesy oceny społeczności w ramach wynagrodzenia do opracowywania swoich produktów i usług. Będzie to wymagało znaczącej przejrzystości i ciągłego nadzoru. A Google i inni członkowie partnerstwa na rzecz sztucznej inteligencji powinni odłożyć część zysków, aby zapewnić finansowanie konsorcjum na badania nad etyką i odpowiedzialnością sztucznej inteligencji, nie skupiając się tylko na badaniach nad uczciwością sztucznej inteligencji, które podnoszą same perspektywy techniczne.
Być może to najlepsze, że listek figowy „etycznego rozwoju” został usunięty
Adam Greenfield, autor książki Radykalne Technologie
Wszystko, co słyszeliśmy o tej tablicy, było haniebne, od początkowego instynktu zaproszenia Jamesa do decyzji o zamknięciu go zamiast poświęcania energii na radzenie sobie z konsekwencjami tego wyboru. Ale biorąc pod uwagę, że moje odczucia na temat AI są mniej więcej takie jak Butlerian Jihad, być może najlepiej będzie, jeśli listek figowy „etycznego rozwoju” został usunięty. W końcu nie wyobrażam sobie żadnej rekomendacji takiego panelu doradczego, jednak może to być forma, która stoi na przeszkodzie temu, czego wymaga rynek i/lub postrzeganej konieczności konkurowania z innymi aktorami zaangażowanymi w rozwój AI.
„To krzepiące widzieć siłę aktywizmu pracowniczego”
Tess Posner, dyrektor generalny AI4ALL
Wspaniale jest widzieć firmy, organizacje i naukowców pracujących nad tworzeniem etycznych ram dla sztucznej inteligencji. Branża technologiczna przeżywa coraz większe trudności w tej dziedzinie — znalezienie sposobu na zrobienie tego we właściwy sposób jest trudne i wymaga czasu i wielu iteracji. Wierzymy, że jest to okazja, aby dalej pytać, które głosy należy uwzględnić, i upewnić się, że uwzględniono różne głosy i głosy, na które mogą mieć bezpośredni wpływ wyniki podjętych decyzji. Pocieszające jest to, że siła aktywizmu pracowniczego wpływa na zmiany w tej i innych kwestiach technologicznych.