211service.com
Prawdziwe zagrożenia związane ze sztuczną inteligencją są bliższe niż myślimy
Zapomnij o superinteligentnej sztucznej inteligencji: algorytmy już wyrządzają prawdziwą szkodę. Dobra wiadomość: walka już się rozpoczęła.
21 października 2020 r.
William Isaac zaczął badać stronniczość algorytmów predykcyjnych działań policyjnych w 2016 roku. David Vintiner
Dopóki ludzie budowali maszyny, obawialiśmy się, że mogą nas zniszczyć. Stephen Hawking ostrzegł, że sztuczna inteligencja może oznaczać koniec cywilizacji. Jednak dla wielu badaczy sztucznej inteligencji te rozmowy wydają się być nieprzywiązane. Nie chodzi o to, że nie boją się AI wpadającej w amok — chodzi o to, że widzą, że to już się dzieje, ale nie w taki sposób, w jaki oczekiwałaby większość ludzi.
Sztuczna inteligencja bada teraz kandydatów do pracy, diagnozuje choroby i identyfikuje podejrzanych o przestępstwa. Ale zamiast czynić te decyzje bardziej skutecznymi lub sprawiedliwymi, często utrwala uprzedzenia ludzi, na których decyzjach został wyszkolony.
Ta historia była częścią naszego wydania z listopada 2020 r.
- Zobacz resztę numeru
- Subskrybuj
William Isaac jest starszym naukowcem w zespole ds. etyki i społeczeństwa w DeepMind, startupie AI, który Google nabył w 2014 roku. Jest także współprzewodniczącym konferencji Fairness, Accountability and Transparency — najważniejszego dorocznego spotkania ekspertów AI, socjologów, oraz prawnicy pracujący w tym obszarze. Zapytałem go o obecne i potencjalne wyzwania stojące przed rozwojem AI – a także o rozwiązania.
P: Czy powinniśmy się martwić superinteligentną sztuczną inteligencją?
O: Chcę zmienić pytanie. Zagrożenia nakładają się na siebie, niezależnie od tego, czy jest to predykcyjna polityka i ocena ryzyka w bliskiej perspektywie, czy bardziej skalowane i zaawansowane systemy w dłuższej perspektywie. Wiele z tych kwestii ma również podłoże historyczne. Zatem potencjalne zagrożenia i sposoby podejścia do nich nie są tak abstrakcyjne, jak nam się wydaje.
Są trzy obszary, które chcę oznaczyć. Prawdopodobnie najbardziej palącym problemem jest pytanie o wyrównanie wartości: jak właściwie zaprojektować system, który może zrozumieć i wdrożyć różne formy preferencji i wartości populacji? W ciągu ostatnich kilku lat widzieliśmy próby osadzenia wartości w systemach technicznych na dużą skalę przez decydentów, przemysł i inne osoby — w obszarach takich jak predykcyjna polityka, ocena ryzyka, zatrudnianie itp. Oczywiste jest, że wykazują one pewną formę uprzedzeń odzwierciedla społeczeństwo. Idealny system zrównoważyłby wszystkie potrzeby wielu interesariuszy i wielu ludzi w populacji. Ale jak społeczeństwo pogodzi własną historię z aspiracjami? Nadal zmagamy się z odpowiedziami, a to pytanie stanie się wykładniczo bardziej skomplikowane. Poprawne rozwiązanie tego problemu to nie tylko coś na przyszłość, ale na teraźniejszość.
Drugim byłoby osiągnięcie wymiernych korzyści społecznych. Do tego momentu wciąż istnieje niewiele dowodów empirycznych potwierdzających, że technologie AI przyniosą szeroko zakrojone korzyści społeczne, do których dążymy.
Wreszcie, myślę, że największym problemem, który dotyczy każdego, kto pracuje w tej przestrzeni, jest: jakie są solidne mechanizmy nadzoru i odpowiedzialności.
P: Jak radzimy sobie z tymi zagrożeniami i wyzwaniami?
O: Trzy obszary zajmą długą drogę. Pierwszym z nich jest budowanie zbiorowej siły odpowiedzialnej za innowacje i nadzór. Upewnij się, że myślisz o tym, gdzie istnieją formy niewspółosiowości, stronniczości lub szkody. Upewnij się, że opracowałeś dobre procesy, dzięki którym wszystkie grupy są zaangażowane w proces projektowania technologicznego. Grupy, które zostały historycznie zmarginalizowane, często nie spełniają swoich potrzeb. Dlatego ważne jest, w jaki sposób projektujemy procesy, aby rzeczywiście to zrobić.
Drugim jest przyspieszenie rozwoju narzędzi socjotechnicznych do faktycznego wykonywania tej pracy. Nie mamy wielu narzędzi.
Ostatni z nich zapewnia więcej funduszy i szkoleń dla naukowców i praktyków – w szczególności badaczy i praktyków koloru – w celu prowadzenia tej pracy. Nie tylko w uczeniu maszynowym, ale także w STS [nauka, technologia i społeczeństwo] oraz naukach społecznych. Chcemy mieć nie tylko kilka osób, ale społeczność badaczy, aby naprawdę zrozumieć zakres potencjalnych szkód, jakie stwarzają systemy sztucznej inteligencji i jak skutecznie je łagodzić.
P: Jak daleko doszli badacze AI w myśleniu o tych wyzwaniach i jak daleko jeszcze muszą się posunąć?
Odp.: Pamiętam, że w 2016 r. Biały Dom właśnie opublikował raport dotyczący dużych zbiorów danych i był silny optymizm, że możemy wykorzystać dane i uczenie maszynowe do rozwiązania niektórych nierozwiązywalnych problemów społecznych. Jednocześnie w środowisku akademickim byli badacze, którzy sygnalizowali w bardzo abstrakcyjnym sensie: Hej, są pewne potencjalne szkody, które można wyrządzić za pośrednictwem tych systemów. Ale w dużej mierze w ogóle nie wchodzili w interakcję. Istniały w unikalnych silosach.
Od tego czasu przeprowadziliśmy o wiele więcej badań dotyczących tego przecięcia znanych wad systemów uczenia maszynowego i ich zastosowania w społeczeństwie. A kiedy ludzie zaczęli dostrzegać tę zależność, zdali sobie sprawę: OK, to nie jest tylko hipotetyczne ryzyko. To realne zagrożenie. Więc jeśli patrzysz na pole w fazach, pierwsza faza bardzo podkreślała i ujawniała, że te obawy są prawdziwe. Druga faza zaczyna się teraz zmagać z szerszymi pytaniami systemowymi.
P: Czy jesteś więc optymistą, jeśli chodzi o osiągnięcie korzystnej sztucznej inteligencji na szeroką skalę?
Ja jestem. Ostatnie lata dały mi dużo nadziei. Spójrz na rozpoznawanie twarzy jako przykład. Joy Buolamwini, Timnit Gebru i Deb Raji wykonali wspaniałą pracę, polegającą na wydobyciu przecinających się różnic w dokładności w systemach rozpoznawania twarzy [tj. pokazanie, że systemy te były znacznie mniej dokładne na twarzach czarnych kobiet niż białych mężczyzn]. Społeczeństwo obywatelskie opowiada się za rygorystyczną obroną praw człowieka przed niewłaściwym stosowaniem rozpoznawania twarzy. A także wspaniała praca, jaką wykonali oddolni decydenci, regulatorzy i grupy społeczne, aby dokładnie komunikować, czym są systemy rozpoznawania twarzy i jakie potencjalne zagrożenia niosą ze sobą, oraz żądać jasności, jakie korzyści przyniosą społeczeństwu. To model tego, jak moglibyśmy sobie wyobrazić angażowanie się w inne postępy w sztucznej inteligencji.
Jednak wyzwaniem związanym z rozpoznawaniem twarzy jest to, że musieliśmy rozstrzygnąć te pytania dotyczące etyki i wartości podczas publicznego wdrażania technologii. Mam nadzieję, że w przyszłości niektóre z tych rozmów odbędą się, zanim pojawią się potencjalne szkody.
P: O czym marzysz, kiedy śnisz o przyszłości AI?
O: To może być świetny korektor. Na przykład, gdybyś miał nauczycieli lub korepetytorów AI, którzy mogliby być dostępni dla uczniów i społeczności, w których dostęp do edukacji i zasobów jest bardzo ograniczony, byłoby to bardzo wzmacniające. A to nietrywialna rzecz, której można chcieć od tej technologii. Skąd wiesz, że to wzmacniające? Skąd wiesz, że jest to korzystne społecznie?
Poszedłem do szkoły podyplomowej w Michigan podczas kryzysu wodnego we Flint. Kiedy pojawiły się pierwsze przypadki występowania rur ołowianych, posiadane przez nich zapisy dotyczące lokalizacji systemów rur znajdowały się na kartach indeksowych na dole budynku administracyjnego. Brak dostępu do technologii postawił ich w bardzo niekorzystnej sytuacji. Oznacza to, że ludzie, którzy dorastali w tych społecznościach, z których ponad 50% to Afroamerykanie, dorastali w środowisku, w którym nie otrzymują podstawowych usług i zasobów.
Tak więc pytanie brzmi: jeśli zostanie to zrobione właściwie, czy te technologie mogą poprawić ich standard życia? Uczenie maszynowe było w stanie zidentyfikować i przewidzieć, gdzie znajdują się rury ołowiane, co zmniejszyło rzeczywiste koszty naprawy dla miasta. Ale to było ogromne przedsięwzięcie i było to rzadkie. A jak wiemy, Flint wciąż nie usunął wszystkich rur, więc istnieją również wyzwania polityczne i społeczne – uczenie maszynowe nie rozwiąże ich wszystkich. Ale mamy nadzieję, że opracujemy narzędzia, które wzmocnią te społeczności i zapewnią znaczącą zmianę w ich życiu. Właśnie o tym myślę, kiedy rozmawiamy o tym, co budujemy. To właśnie chcę zobaczyć.