Co zrobić, gdy robot jest stroną winną

Czy rząd powinien regulować sztuczną inteligencję? To było główne pytanie pierwsze warsztaty w Białym Domu na temat prawnych i zarządczych implikacji AI, która odbyła się we wtorek w Seattle.

Obserwujemy problemy związane ze sztuczną inteligencją i uczeniem maszynowym, które pojawiają się w całym rządzie, powiedział Ed Felten, zastępca dyrektora ds. technologii w Białym Domu. Nie zbliżamy się do punktu, w którym należy szeroko regulować sztuczną inteligencję… ale wyzwaniem jest zapewnienie, że sztuczna inteligencja pozostaje bezpieczna, kontrolowana i przewidywalna, gdy staje się inteligentniejsza.

Jeden z głównych celów warsztatów, powiedział jeden z ich organizatorów, profesor prawa Uniwersytetu Waszyngtońskiego Ryan Calo , miała pomóc społeczeństwu zrozumieć, dokąd ta technologia jest teraz i dokąd zmierza. Powiedział, że pomysł nie polega na tym, aby rząd wkroczył i uregulował sztuczną inteligencję, ale raczej wykorzystał wiele innych dźwigni, takich jak koordynacja między agencjami i siła przetargowa. Wśród uczestników znaleźli się przedsiębiorcy technologiczni, naukowcy i członkowie społeczeństwa.

W przemówieniu inauguracyjnym Oren Etzioni, dyrektor generalny Allen Institute for Artificial Intelligence, zauważył, że wciąż żyjemy w ciemnych wiekach uczenia maszynowego, z systemami sztucznej inteligencji, które generalnie działają dobrze tylko w przypadku dobrze ustrukturyzowanych problemów, takich jak gry planszowe i jazda autostradą. Opowiadał się za podejściem opartym na współpracy, w którym sztuczna inteligencja może pomóc ludziom stać się bezpieczniejszymi i bardziej wydajnymi. Powiedział, że błędy szpitalne są trzecią najczęstszą przyczyną zgonów w USA. Sztuczna inteligencja może tutaj pomóc. Każdego roku ludzie umierają, ponieważ nie używamy właściwie AI w szpitalach.

Oren Etzioni, dyrektor generalny Allen Institute for Artificial Intelligence, po lewej, rozmawia z uczestnikami warsztatów na temat sztucznej inteligencji w Białym Domu.

Niemniej jednak Etzioni uważa, że ​​jest zbyt wcześnie, aby mówić o regulowaniu sztucznej inteligencji: Głębokie uczenie to nadal w 99 procentach ludzka praca i ludzka pomysłowość. „Mój robot to zrobił” nie jest wymówką. Musimy wziąć odpowiedzialność za to, co robią nasze roboty, sztuczna inteligencja i algorytmy.

Panel poświęcony sztucznej mądrości skoncentrował się na tym, kiedy te interakcje człowiek-AI przebiegają źle, na przykład w przypadku algorytm przeznaczony do przewidywania przyszłych przestępców kryminalnych wydaje się to być rasistowskie. Problem nie dotyczy samych agentów AI, ale ludzi używających narzędzi technologicznych do uciskania innych ludzi w finansach, sądownictwie karnym i edukacji, powiedział Jack Balkin z Yale Law School.

Kilku naukowców poparło ideę powiernika informacji: powierzenie ludziom, którzy gromadzą duże dane i wykorzystują sztuczną inteligencję, prawne obowiązki dobrej wiary i wiarygodności. Na przykład technolodzy mogą zostać pociągnięci do odpowiedzialności, jeśli wykorzystują dane niskiej jakości do trenowania systemów sztucznej inteligencji lub skostniają uprzedzenia związane z rasą, wiekiem lub płcią w projektowanych przez siebie algorytmach.

Ponieważ instytucje rządowe w coraz większym stopniu polegają na systemach sztucznej inteligencji przy podejmowaniu decyzji, instytucje te będą potrzebować personelu, który rozumie ograniczenia i uprzedzenia nieodłącznie związane z danymi i technologią sztucznej inteligencji. Kate Crawford , socjolog w Microsoft Research. Zasugerowała, aby oprócz umiejętności programistycznych uczyć studentów etyki.

Bryant Walker Smith z Uniwersytetu Południowej Karoliny zaproponował elastyczność regulacyjną dla szybko rozwijających się technologii, takich jak samochody bez kierowcy. Powiedział, że poszczególne firmy powinny publicznie opowiedzieć się za bezpieczeństwem swoich autonomicznych pojazdów. Powinni ustanowić środki, a następnie monitorować je przez cały okres eksploatacji swoich systemów. Potrzebujemy różnorodności podejść do informowania debaty publicznej.

Był to pierwszy z czterech warsztatów zaplanowanych na najbliższe miesiące. Dwie z nich będą dotyczyć sztucznej inteligencji dla dobra społecznego oraz kwestii związanych z bezpieczeństwem i kontrolą, podczas gdy ostatnia zagłębi się w społeczne i ekonomiczne konsekwencje technologii. Felten ogłosił również, że Biały Dom wkrótce zwróci się z prośbą o informacje, aby umożliwić społeczeństwu zastanowienie się nad przyszłością sztucznej inteligencji.

Słoniem w pokoju były oczywiście listopadowe wybory prezydenckie. W post na blogu na początku tego miesiąca Felten zaprezentował nowy podkomitet Krajowej Rady Nauki i Technologii ds. uczenia maszynowego i sztucznej inteligencji, skupiający się na wykorzystaniu sztucznej inteligencji do ulepszania usług rządowych od teraz do końca administracji.

ukryć