Sztuczna inteligencja może być prawnie odpowiedzialna za swoje decyzje

Sztuczna inteligencja będzie odgrywać znacznie większą rolę w społeczeństwie. A to rodzi kwestię odpowiedzialności. Jeśli polegamy na maszynach do podejmowania coraz ważniejszych decyzji, będziemy potrzebować mechanizmów zadośćuczynienia, jeśli wyniki okażą się nie do przyjęcia lub trudne do zrozumienia.

Jednak wyjaśnianie przez systemy sztucznej inteligencji ich decyzji nie jest całkiem proste. Jeden problem polega na tym, że wyjaśnienia nie są darmowe; wymagają znacznych nakładów zarówno na rozwój systemu AI, jak i na sposób jego praktycznego odpytywania.

Innym problemem jest to, że wyjaśnienia mogą ujawnić tajemnice handlowe, zmuszając programistów do publikowania wewnętrznych mechanizmów systemu AI. Co więcej, jedną z zalet tych systemów jest to, że potrafią zrozumieć złożone dane w sposób niedostępny dla ludzi. Tak więc, aby ich wyjaśnienia były zrozumiałe dla ludzi, może wymagać zmniejszenia wydajności.

Systemy wyjaśniające muszą być oddzielone od systemów AI, mówi zespół z Harvardu

Jak zatem mamy sprawić, by sztuczna inteligencja była odpowiedzialna za swoje decyzje bez tłumienia innowacji?

Dzisiaj otrzymujemy swego rodzaju odpowiedź dzięki pracy Finale Doshi-Veleza, Masona Kortza i innych z Uniwersytetu Harvarda w Cambridge w stanie Massachusetts. Ci ludzie to informatycy, kognitywiści i prawnicy, którzy wspólnie zbadali problemy prawne, które podnoszą systemy sztucznej inteligencji, zidentyfikowali kluczowe problemy i zasugerowali potencjalne rozwiązania. Razem jesteśmy ekspertami od wyjaśniania w prawie, tworzenia systemów AI oraz możliwości i ograniczeń ludzkiego rozumowania, mówią.

Zaczynają od zdefiniowania wyjaśnienia. Mówiąc o wyjaśnieniu decyzji, zwykle mamy na myśli przyczyny lub uzasadnienia tego konkretnego wyniku, a nie ogólny opis procesu podejmowania decyzji.

To rozróżnienie jest ważne. Doshi-Velez i spółka wskazują, że można wyjaśnić, w jaki sposób system AI podejmuje decyzje w tym samym sensie, w jakim można wyjaśnić, jak działa grawitacja lub jak upiec ciasto. Odbywa się to poprzez określenie zasad, którymi kieruje się system, bez odwoływania się do żadnego konkretnego spadającego przedmiotu lub ciasta.

Jest to strach przed przemysłowcami, którzy chcą utrzymać działanie swoich systemów AI w tajemnicy, aby chronić swoją przewagę handlową.

Jednak w wielu przypadkach taka przejrzystość nie jest konieczna. Wyjaśnienie, na przykład, dlaczego obiekt spadł w wypadku przemysłowym, zwykle nie wymaga wyjaśnienia grawitacji. Zamiast tego zwykle wymagane są wyjaśnienia, aby odpowiedzieć na następujące pytania: Jakie były główne czynniki podjęte w decyzji? Czy zmiana pewnego czynnika zmieniłaby decyzję? Dlaczego dwie podobnie wyglądające sprawy doprowadziły do ​​różnych decyzji?

Odpowiedź na te pytania niekoniecznie wymaga szczegółowego wyjaśnienia działania systemu AI.

Kiedy więc należy udzielać wyjaśnień? Zasadniczo, gdy korzyści przewyższają koszty. Uważamy, że istnieją trzy warunki charakteryzujące sytuacje, w których społeczeństwo uważa, że ​​decydent jest zobowiązany – moralnie, społecznie lub prawnie – do przedstawienia wyjaśnienia, powiedzmy Doshi-Velez i spółka.

Zespół twierdzi, że decyzja musi mieć wpływ na osobę inną niż osoba podejmująca decyzję. Wiedza, czy decyzja została podjęta błędnie, musi mieć wartość. I musi istnieć jakiś powód, by sądzić, że wystąpił (lub wystąpi) błąd w procesie podejmowania decyzji.

Na przykład obserwatorzy mogą podejrzewać, że na decyzję wpłynął jakiś nieistotny czynnik, na przykład chirurg odmawiający wykonania operacji z powodu fazy księżyca. Mogą też nie ufać systemowi, który podjął tę samą decyzję w dwóch zupełnie różnych sytuacjach. W takim przypadku mogą podejrzewać, że nie uwzględniono ważnego czynnika. Kolejne obawy pojawiają się w przypadku decyzji, które wydają się niesłusznie przynosić korzyści jednej grupie, na przykład gdy dyrektorzy korporacji podejmują decyzje, które przynoszą im korzyści kosztem ich akcjonariuszy.

Innymi słowy, musi istnieć dobry powód, by sądzić, że decyzja jest niewłaściwa, zanim zażądasz wyjaśnień. Ale mogą istnieć również inne powody do udzielania wyjaśnień, takie jak próba zwiększenia zaufania konsumentów.

Tak więc Doshi-Velez i spółka przyglądają się konkretnym sytuacjom prawnym, w których wymagane są wyjaśnienia. Wskazują, że rozsądne umysły mogą i różnią się w kwestii tego, czy żądanie wyjaśnienia jest moralnie usprawiedliwione, czy społecznie pożądane. Z drugiej strony prawa są skodyfikowane i chociaż można się spierać, czy prawo jest poprawne, przynajmniej wiemy, czym jest prawo, mówią.

Zgodnie z prawem Stanów Zjednoczonych wyjaśnienia są wymagane w wielu różnych sytuacjach i na różnym poziomie szczegółowości. Na przykład wyjaśnienia są wymagane w przypadku odpowiedzialności na zasadzie ryzyka, rozwodu lub dyskryminacji; do decyzji administracyjnych; oraz dla sędziów i ławy przysięgłych. Ale poziom szczegółowości jest bardzo zróżnicowany.

Wszystko to ma ważne implikacje dla systemów AI. Doshi-Velez i spółka doszli do wniosku, że możliwe są prawnie wykonalne wyjaśnienia dla systemów sztucznej inteligencji. Wynika to z faktu, że wyjaśnienie decyzji można poczynić niezależnie od opisu jej wewnętrznego działania. Co więcej, zespół twierdzi, że system wyjaśnień należy uznać za odrębny od systemu AI.

To znaczący wynik. Nie oznacza to, że satysfakcjonujące wyjaśnienia zawsze będą łatwe do wygenerowania. Na przykład, jak możemy pokazać, że system bezpieczeństwa, który wykorzystuje obrazy twarzy jako dane wejściowe, nie dyskryminuje ze względu na płeć? Zespół twierdzi, że jest to możliwe tylko przy użyciu alternatywnej twarzy, która jest podobna pod każdym względem, z wyjątkiem płci.

Jednak wyjaśnienia decyzji podejmowanych przez systemy sztucznej inteligencji są generalnie możliwe. A to prowadzi zespół do jasnego wniosku. Zalecamy, aby na razie systemy sztucznej inteligencji można i należało stosować do podobnych standardów wyjaśniania, jakimi są obecnie ludzie.

Ale nasze wykorzystanie i zrozumienie sztucznej inteligencji prawdopodobnie zmieni się w sposób, którego jeszcze nie rozumiemy (i być może nigdy nie zmienimy). Z tego powodu to podejście będzie musiało zostać zrewidowane. W przyszłości możemy chcieć utrzymać sztuczną inteligencję na innym poziomie, powiedzmy Doshi-Velez i spółka.

Całkiem!

Nr ref.: arxiv.org/abs/1711.01134 : Odpowiedzialność sztucznej inteligencji w świetle prawa: rola wyjaśniania

ukryć