Przewodnik Big Tech dotyczący etyki AI

Andrea Daquino

Badacze sztucznej inteligencji często twierdzą, że dobre uczenie maszynowe to tak naprawdę bardziej sztuka niż nauka. To samo można powiedzieć o skutecznym public relations. Dobór odpowiednich słów do uderzyć w pozytywny ton lub przeformułować rozmowę o AI to delikatne zadanie: dobrze wykonane może wzmocnić wizerunek marki, ale wykonane źle, może wywołać jeszcze większy sprzeciw.

Giganci technologiczni by wiedzieli. W ciągu ostatnich kilku lat musieli szybko nauczyć się tej sztuki, ponieważ zmagali się z rosnącą nieufnością publiczną do swoich działań i nasiloną krytyką dotyczącą ich badań i technologii nad sztuczną inteligencją.

Teraz opracowali nowe słownictwo, którego można użyć, gdy chcą zapewnić opinię publiczną, że bardzo zależy im na odpowiedzialnym rozwijaniu sztucznej inteligencji — ale chcą się upewnić, że nie zachęcają do zbytniej analizy. Oto przewodnik dla wtajemniczonych, jak rozszyfrować ich język i kwestionować założone założenia i wartości.

odpowiedzialność (n) - Akt pociąganie do odpowiedzialności kogoś innego za konsekwencje awarii systemu AI.

dokładność (n) - Poprawność techniczna. Najważniejsza miara sukcesu w ocenie wydajności modelu AI. Widzieć walidacja .

przeciwnik (n) - Samotny inżynier, który jest w stanie zakłócić działanie twojego potężnego, generującego przychody systemu AI. Widzieć krzepkość , bezpieczeństwo .

wyrównanie (n) - Wyzwanie polegające na projektowaniu systemów AI, które robią to, co im każemy i cenią to, co cenimy. Celowo abstrakcyjne. Unikaj używania prawdziwych przykładów szkodliwych niezamierzonych konsekwencji. Widzieć bezpieczeństwo .

sztuczna inteligencja ogólna (wyrażenie) - Hipotetyczny bóg AI to prawdopodobnie odległa przyszłość, ale może też nieuchronnie. Może być naprawdę dobry lub naprawdę zły, w zależności od tego, co jest bardziej przydatne retorycznie. Oczywiście budujesz ten dobry. Co jest drogie. Dlatego potrzebujesz więcej pieniędzy. Widzieć ryzyko długoterminowe .

rewizja (n) - Recenzja że płacisz komuś innemu za wykonanie swojej firmy lub systemu AI, dzięki czemu wyglądasz bardziej przejrzyście bez konieczności zmiany czegokolwiek. Widzieć ocena wpływu .

zwiększać (v) - Zwiększenie produktywności pracowników umysłowych. Efekt uboczny: automatyzacja pracy robotniczej. Smutne, ale nieuniknione.

korzystny (przym) - Ogólny deskryptor za to, co próbujesz zbudować. Dogodnie źle zdefiniowany. Widzieć wartość .

przez projekt (ph) - Jak w przypadku uczciwości w fazie projektowania lub rozliczalności w fazie projektowania. Fraza sygnalizująca, że ​​od samego początku intensywnie myślisz o ważnych rzeczach.

zgodność (n) - Czynność przestrzegania prawa. Wszystko, co nie jest nielegalne, idzie.

etykiety danych (ph) - Ludzie, którzy rzekomo istnieją za interfejsem Mechanical Turk firmy Amazon zrobić tanie czyszczenie danych. Nie jestem pewien, kim oni są. Nigdy ich nie spotkałem.

zdemokratyzować (v) - Skalowanie technologii za wszelką cenę. Uzasadnienie koncentracji zasobów. Widzieć skala .

różnorodność, równość i integracja (ph) - Akt zatrudniania inżynierów i badaczy z grup marginalizowanych, aby można było ich pokazywać publicznie. Jeśli kwestionują status quo, zwolnij ich .

efektywność (n) – Wykorzystanie mniejszej ilości danych, pamięci, personelu lub energii do zbudowania systemu sztucznej inteligencji.

rada etyki (ph) - Grupa doradców bez realnej władzy, zwołana w celu stworzenia wizerunku, którego aktywnie słucha Twoja firma. Przykłady: Rada etyczna Google AI (anulowane), Rada Nadzorcza Facebooka (nadal stoi).

zasady etyki (ph) - Zestaw truizmów używanych do zasygnalizowania twoich dobrych intencji. Utrzymuj to na wysokim poziomie. Im bardziej niejasny język, tym lepiej. Widzieć odpowiedzialna AI .

wytłumaczalne (adj) — Opis systemu AI, który rozumiecie Ty, programista i użytkownik. O wiele trudniejsze do osiągnięcia dla ludzi, na których jest używany. Prawdopodobnie nie warte wysiłku. Widzieć interpretowalny .

uczciwość (n) - skomplikowany pojęcie bezstronności używany do opisu bezstronnych algorytmów. Można zdefiniować na dziesiątki sposobów w zależności od preferencji.

na dobre (ph) - Jak w AI na dobre lub dane na dobre . Inicjatywa całkowicie styczna z Twoją podstawową działalnością, która pomaga w generowaniu dobrej reklamy.

dalekowzroczność (n) - Umiejętność zaglądania w przyszłość. Zasadniczo niemożliwe: w ten sposób całkowicie rozsądne wyjaśnienie, dlaczego nie możesz pozbyć się niezamierzonych konsekwencji swojego systemu sztucznej inteligencji.

struktura (n) - Zestaw wskazówek dotyczących podejmowania decyzji. Dobry sposób, by wyglądać na rozważnego i wyważonego, jednocześnie opóźniając faktyczne podejmowanie decyzji.

uogólniać (adj) - Znak dobrego modelu AI. Taki, który nadal pracuje w zmieniających się warunkach. Widzieć prawdziwy świat .

zarządzanie (n) - Biurokracja.

projektowanie skoncentrowane na człowieku (ph) — proces, który polega na wykorzystaniu person do wyobrażenia sobie, czego przeciętny użytkownik może chcieć od systemu sztucznej inteligencji. Może wiązać się z uzyskaniem informacji zwrotnych od rzeczywistych użytkowników. Tylko jeśli jest czas. Widzieć interesariusze .

człowiek w pętli (ph) - Każda osoba, która jest częścią systemu AI. Zakres odpowiedzialności od fałszowanie możliwości systemu do odparcia oskarżeń o automatyzację.

ocena wpływu (ph) — Przegląd firmy lub systemu sztucznej inteligencji, który wykonujesz sam, aby pokazać chęć rozważenia jej wad bez zmiany czegokolwiek. Widzieć rewizja .

interpretowalny (adj) – Opis systemu AI, którego obliczenia Ty, programista, możesz śledzić krok po kroku, aby zrozumieć, w jaki sposób doszedł do odpowiedzi. Właściwie to prawdopodobnie po prostu regresja liniowa. AI brzmi lepiej.

uczciwość (n) — Problemy, które osłabiają wydajność techniczną modelu lub zdolność firmy do skalowania. Nie mylić z problemami, które są złe dla społeczeństwa. Nie mylić z uczciwością.

interdyscyplinarny (adj) – Termin używany w odniesieniu do dowolnego zespołu lub projektu z udziałem osób, które nie kodują: badaczy użytkowników, menedżerów produktów, filozofów moralności. Zwłaszcza filozofowie moralności.

ryzyko długoterminowe (n) - Złe rzeczy, które mogą mieć katastrofalne skutki w odległej przyszłości. Prawdopodobnie nigdy się nie wydarzy, ale ważniejsze jest zbadanie i uniknięcie bezpośrednich szkód istniejących systemów sztucznej inteligencji.

wzmacniacz (n) - Inne elitarne grupy, które podzielają twój światopogląd i mogą współpracować z tobą, aby utrzymać status quo. Widzieć interesariusze .

kompromis dotyczący prywatności (ph) – Szlachetne poświęcenie indywidualnej kontroli nad danymi osobowymi dla korzyści grupowych, takich jak postępy w opiece zdrowotnej oparte na sztucznej inteligencji, które również są bardzo opłacalne.

postęp (n) - Postęp naukowy i technologiczny. Dobro wrodzone.

prawdziwy świat (ph) - Przeciwieństwo symulowanego świata. Dynamiczne środowisko fizyczne wypełnione nieoczekiwanymi niespodziankami, które modele AI są trenowane, aby przetrwać. Nie mylić z ludźmi i społeczeństwem.

rozporządzenie (n) - Czego wzywasz przeniesienie odpowiedzialności za łagodzenie szkodliwej sztucznej inteligencji na decydentów. Nie mylić z politykami, które mogą hamować Twój rozwój.

odpowiedzialna AI (n)- Przydomek każdej pracy w Twojej firmie, która: można by było zinterpretować przez opinię publiczną jako szczery wysiłek w celu złagodzenia szkód wyrządzonych przez systemy sztucznej inteligencji.

krzepkość (n) – Zdolność modelu AI do spójnego i dokładnego działania w przypadku nikczemnych prób: karmić go uszkodzonymi danymi .

bezpieczeństwo (n)- Wyzwanie polegające na budowaniu systemów AI, które nie są sprzeczne z intencjami projektanta. Nie mylić z budowaniem systemów AI, które nie zawodzą. Widzieć wyrównanie .

skala (n)- de facto końcowym stwierdzeniem jest, że każdy dobry system SI powinien dążyć do osiągnięcia.

bezpieczeństwo (n) - Czynność polegająca na ochronie cennych lub wrażliwych danych i modeli sztucznej inteligencji przed naruszeniem przez złe podmioty. Widzieć przeciwnik .

interesariusze (n) - Akcjonariusze, regulatorzy, użytkownicy. Ludzi u władzy, których chcesz być szczęśliwy.

przezroczystość (n) - Ujawnianie danych i kodu. Zła dla informacji zastrzeżonych i wrażliwych. Tak naprawdę ciężko; szczerze mówiąc, nawet niemożliwe. Nie mylić z jasną informacją o tym, jak faktycznie działa Twój system.

godne zaufania (adj) - Ocena systemu SI, który można wyprodukować przy wystarczająco skoordynowanej reklamie.

powszechny dochód podstawowy (ph) – Pomysł, że płacenie wszystkim stałej pensji rozwiąże masowy wstrząs gospodarczy spowodowany automatyzacją, która prowadzi do powszechnej utraty pracy. Spopularyzowany przez kandydata na prezydenta 2020 Andrew Yanga. Widzieć redystrybucja bogactwa .

walidacja (n) – Proces testowania modelu AI na danych innych niż dane, na których był szkolony, w celu sprawdzenia, czy nadal jest dokładny.

wartość (n) — Niematerialna korzyść dla użytkowników, która przyniesie Ci dużo pieniędzy.

wartości (n) - Masz je. Przypomnij ludziom.

redystrybucja bogactwa (ph) - Przydatny pomysł, aby kręcić się dookoła kiedy ludzie przyglądają się Ci, że używasz zbyt wielu zasobów i zarabiasz zbyt dużo pieniędzy. Jak miałaby działać redystrybucja bogactwa? Oczywiście uniwersalny dochód podstawowy. Również nie jest to coś, co sam mógłbyś wymyślić. Wymagałoby regulacji. Widzieć rozporządzenie .

wstrzymać publikację (ph) — życzliwy akt wybrania nieotwierania kodu, ponieważ może on wpaść w ręce złego aktora. Lepiej ograniczyć dostęp do partnerów kogo na to stać.

ukryć