W 2020 r. przestańmy prać etykę AI i faktycznie zróbmy coś

Etyczne wybory AI Getty

W zeszłym roku, kiedy zaczynałem zajmować się sztuczną inteligencją, świat sztucznej inteligencji został poważnie przebudzony. W 2018 r. nastąpiły niesamowite postępy w badaniach nad sztuczną inteligencją — od uczenia się przez wzmacnianie przez generatywne sieci przeciwników (GAN) po lepsze zrozumienie języka naturalnego. Ale rok też zobaczył kilka głośnych ilustracji szkód, jakie te systemy mogą powodować, gdy są wdrażane zbyt pochopnie.

Tesla rozbił się na Autopilocie , zabijając kierowcę, i autonomiczny Uber rozbił się , zabijając pieszego. Komercyjne systemy rozpoznawania twarzy spisały się fatalnie w audyty na ciemnoskórych ludzi , ale giganci technologiczni i tak nadal je sprzedawali, w tym klientom, w tym organom ścigania. Na początku tego roku, zastanawiając się nad tymi wydarzeniami, napisałem rezolucję dla społeczności AI: Przestańcie traktować AI jak magię i weź odpowiedzialność za jej tworzenie, stosowanie i regulowanie w sposób etyczny.

W pewnym sensie moje życzenie się spełniło. W 2019 roku mówiło się więcej o etyce AI niż kiedykolwiek wcześniej. Dziesiątki organizacji opracowały wytyczne dotyczące etyki AI; firmy pospiesznie tworzyły odpowiedzialne zespoły AI i paradowały przed mediami. Trudno jest już uczestniczyć w konferencji związanej ze sztuczną inteligencją bez części programowania poświęconej wiadomości związanej z etyką: jak chronimy prywatność ludzi, gdy sztuczna inteligencja potrzebuje tak dużej ilości danych? Jak wzmocnić pozycję zmarginalizowanych społeczności zamiast je wykorzystywać? Jak nadal ufać mediom w obliczu algorytmicznie tworzonej i rozpowszechnianej dezinformacji?

Ale rozmowa to tylko to – to nie wystarczy. Mimo wszystkich deklarowanych deklaratywnych deklaratywnych słów, wytyczne dotyczące etyki AI wielu organizacji pozostają niejasne i trudne do wdrożenia. Niewiele firm może pokazać namacalne zmiany w sposobie oceny i zatwierdzania produktów i usług AI. Wpadamy w pułapkę prania etyki, gdzie prawdziwe działanie zostaje zastąpione powierzchownymi obietnicami. W najbardziej dotkliwym przykładzie Google utworzyło nominalną radę etyczną AI bez faktycznego prawa weta wobec wątpliwych projektów i z kilkoma członkami, których włączenie wywołało kontrowersje. Luz natychmiast doprowadził do jego rozwiązania.

Tymczasem potrzeba większej odpowiedzialności etycznej stała się jeszcze bardziej nagląca. Te same postępy poczynione w GAN w 2018 r. doprowadziły do ​​rozpowszechnienia hiperrealistycznych deepfake'ów, które są obecnie wykorzystywane do atakowania kobiet i podważania wiary ludzi w dokumentację i dowody. Nowe odkrycia rzuciły światło na ogromny wpływ głębokiego uczenia się na klimat, ale organizacje nadal szkolą coraz większe i bardziej energochłonne modele. Uczeni i dziennikarze również ujawnili, ile ludzie są za kurtyną algorytmiczną. Branża sztucznej inteligencji tworzy zupełnie nową klasę ukrytych pracowników — moderatorów treści, osób zajmujących się etykietowaniem danych, transkrybujących — którzy trudzą się w często brutalnych warunkach.

Ale nie wszystko jest ciemne i ponure: 2019 był rokiem największy oddolny odpór przed szkodliwą sztuczną inteligencją ze strony społeczności, decydentów i samych pracowników technicznych. Kilka miast — w tym San Francisco i Oakland w Kalifornii oraz Somerville w stanie Massachusetts — zabroniło publicznego używania rozpoznawania twarzy, a proponowane ustawodawstwo federalne może wkrótce zakaz korzystania z mieszkań komunalnych w USA także. Pracownicy gigantów technologicznych, takich jak Microsoft, Google i Salesforce, również coraz częściej sprzeciwiali się wykorzystywaniu przez ich firmy sztucznej inteligencji do śledzenia migrantów i nadzoru dronów.

W społeczności AI badacze podwoili się również w kwestii łagodzenia uprzedzeń AI i ponownie przeanalizowali zachęty, które prowadzą do niekontrolowanego zużycia energii w terenie. Firmy zainwestowały więcej zasobów w ochronę prywatności użytkowników oraz zwalczanie fałszywych podróbek i dezinformacji. Eksperci i decydenci pracowali wspólnie, aby zaproponować przemyślane nowe przepisy mające na celu powstrzymanie niezamierzonych konsekwencji bez tłumienia innowacji. Na największym dorocznym zgromadzeniu w tej dziedzinie w tym roku byłem zarówno poruszony, jak i zaskoczony tym, jak wiele przemówień, warsztatów i plakatów skupiało się na rzeczywistych problemach — zarówno tych stworzonych przez sztuczną inteligencję, jak i tych, które może pomóc rozwiązać.

Oto więc moja nadzieja na rok 2020: aby przemysł i środowisko akademickie utrzymały tę dynamikę i wprowadzą konkretne oddolne i odgórne zmiany, które dostosują rozwój sztucznej inteligencji. Póki mamy jeszcze czas, nie powinniśmy tracić z oczu snu ożywiającego pole. Kilkadziesiąt lat temu ludzie rozpoczęli poszukiwania inteligentnych maszyn, aby pewnego dnia mogli pomóc nam rozwiązać niektóre z naszych najtrudniejszych wyzwań.

Innymi słowy, sztuczna inteligencja ma pomóc ludzkości w prosperowaniu. Nie zapomnijmy.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć