Ustanowienie kodeksu etyki AI będzie trudniejsze niż ludzie myślą

Varoon Mathur / AI Now Institute

W ciągu ostatnich sześciu lat wydział policji w Nowym Jorku zebrał: ogromna baza danych zawierające nazwiska i dane osobowe co najmniej 17 500 osób, które, jak sądzi, są zamieszane w gangi przestępcze. Wysiłek ten został już skrytykowany przez działaczy na rzecz praw obywatelskich, którzy twierdzą, że jest niedokładny i rasowo dyskryminujący.

„A teraz wyobraź sobie połączenie technologii rozpoznawania twarzy z rozwojem bazy danych, która teoretycznie zakłada, że ​​jesteś w gangu” – powiedziała Sherrilyn Ifill, prezes i dyrektor-doradca funduszu NAACP Legal Defense. Sympozjum AI Now w Nowym Jorku w zeszły wtorek.

Prawnicy, aktywiści i badacze podkreślają potrzebę etyki i odpowiedzialności w projektowaniu i wdrażaniu systemów sztucznej inteligencji. Ale to często pomija kilka trudnych pytań: kto może zdefiniować te etyki i kto powinien je egzekwować?

Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) i Nicole Ozer (ACLU) w rozmowie podczas sympozjum AI Now 2018. Andrew Federman dla AI Now Institute

Nie tylko rozpoznawanie twarzy jest niedoskonałe, studia wykazały, że wiodące oprogramowanie jest mniej dokładne w przypadku osób o ciemnej karnacji i kobiet. Według szacunków Ifill, policyjna baza danych zawiera od 95 do 99 procent Afroamerykanów, Latynosów i Azjatów. „Mówimy o stworzeniu klasy […] ludzi, którzy są naznaczeni swego rodzaju kryminalnym tagiem” – powiedział Ifill.

Tymczasem wydziały policji w USA, Wielkiej Brytanii i Chinach zaczęły przyjmować rozpoznawanie twarzy jako narzędzie do wyszukiwania znanych przestępców. W czerwcu policja Południowej Walii wydany oświadczenie uzasadniające korzystanie przez nich z technologii ze względu na „korzyść publiczną”, jaką zapewnia.

Rzeczywiście, technologia często podkreśla różne standardy etyczne ludzi — czy to jest cenzurowanie mowy nienawiści lub za pomocą narzędzi oceny ryzyka, aby poprawić bezpieczeństwo publiczne .

Próbując podkreślić, jak rozbieżne mogą być ludzkie zasady, naukowcy z MIT stworzyli platformę o nazwie Moralna maszyna zbieranie opinii ludzi na temat decyzji moralnych, którymi powinny się kierować autonomiczne samochody. Poprosili miliony ludzi z całego świata, aby zastanowili się nad odmianami klasycznego „ problem z wózkiem ' wybierając, kto samochód powinien starać się traktować priorytetowo w wypadku. Wyniki pokazują ogromne zróżnicowanie w różnych kulturach.

Ustanowienie standardów etycznych również niekoniecznie zmienia zachowanie. W czerwcu np. po Google Zgoda aby przerwać prace nad Projektem Maven z Pentagonem, ustanowił nowy zestaw zasady etyczne pokierować jej zaangażowaniem w przyszłe projekty AI. Zaledwie kilka miesięcy później wielu pracowników Google uważa, że ​​te zasady zostały pominięte w przetargu na Kontrakt z Departamentem Obrony o wartości 10 miliardów dolarów . DO ostatnie badania z Uniwersytetu Stanowego Karoliny Północnej stwierdził również, że proszenie inżynierów oprogramowania o przeczytanie kodeksu etycznego nie zmienia ich zachowania.

Philip Alston, międzynarodowy prawnik z Wydziału Prawa Uniwersytetu Nowojorskiego, proponuje rozwiązanie niejednoznacznej i niewyjaśnionej natury etyki: przeformułowanie konsekwencji wynikających z AI w kontekście praw człowieka. „[Prawa człowieka są] zapisane w konstytucji” – powiedział Alston na tej samej konferencji. „Są w karcie praw; zostały zinterpretowane przez sądy – powiedział. Powiedział, że jeśli system sztucznej inteligencji odbiera ludziom podstawowe prawa, nie powinien być akceptowany.

Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) i Vincent Southerland (Center on Race, Inequality and the Law na NYU) na scenie podczas sympozjum. Andrew Federman dla AI Now Institute

Alston nie jest jedynym, który wymyślił to rozwiązanie. Na niecały tydzień przed Sympozjum Data & Society Research Institute opublikował wniosek za wykorzystanie międzynarodowych praw człowieka do zarządzania sztuczną inteligencją. Raport zawiera zalecenia dla firm technologicznych, aby nawiązały współpracę z grupami zajmującymi się prawami obywatelskimi i badaczami oraz przeprowadziły oceny wpływu praw człowieka na cykl życia ich systemów SI.

„Dopóki nie zaczniemy włączać [praw człowieka] do dyskusji na temat sztucznej inteligencji”, dodał Alston, „nie ma twardej kotwicy”.

ukryć