Departament Obrony wydaje wytyczne dotyczące etyki AI dla wykonawców technologii

Pani Tech | Getty

W 2018 roku, kiedy pracownicy Google dowiedzieli się o zaangażowaniu ich firmy w: Twórca projektu nie byli zadowoleni. Tysiące protestowały. Uważamy, że Google nie powinno prowadzić działalności wojennej, napisali w list do kierownictwa firmy . Około kilkunastu pracowników zrezygnowało. Google nie przedłużył umowy w 2019 roku.

Project Maven nadal istnieje, a inne firmy technologiczne, w tym Amazon i Microsoft, zajęły miejsce Google. Jednak Departament Obrony USA wie, że ma problem z zaufaniem. To coś, z czym musi się zmierzyć, aby utrzymać dostęp do najnowszych technologii, zwłaszcza sztucznej inteligencji — co będzie wymagało współpracy z Big Tech i innymi organizacjami pozamilitarnymi.

Powiązana historia

Amerykańskie agencje rządowe planują zwiększyć wykorzystanie technologii rozpoznawania twarzy

Nowe badanie pokazuje, że kontrowersyjne systemy mogą odegrać jeszcze większą rolę w federalnym biznesie.

W dążeniu do promowania przejrzystości Departament Innowacji Obronnych, który przyznaje kontrakty DoD firmom, opublikował to, co nazywa odpowiedzialne wytyczne dotyczące sztucznej inteligencji że będzie wymagać od programistów zewnętrznych, aby używali ich podczas budowania sztucznej inteligencji dla wojska, niezależnie od tego, czy ta sztuczna inteligencja jest przeznaczona do systemu HR, czy rozpoznawania celów.

Wytyczne zawierają szczegółowy proces, który firmy muszą przestrzegać podczas planowania, opracowywania i wdrażania. Obejmują one procedury określania, kto może korzystać z technologii, komu może ona zaszkodzić, jakie mogą być te szkody i jak można ich uniknąć — zarówno przed zbudowaniem systemu, jak i po jego uruchomieniu.

Nie istnieją żadne inne wytyczne, ani w DoD, ani, szczerze mówiąc, w rządzie Stanów Zjednoczonych, które dotyczą tego poziomu szczegółowości, mówi Bryce Goodman z Departamentu Innowacji Obronnych, który był współautorem wytycznych.

Prace mogą zmienić sposób opracowywania sztucznej inteligencji przez rząd USA, jeśli wytyczne DoD zostaną przyjęte lub zaadaptowane przez inne departamenty. Goodman mówi, że on i jego koledzy przekazali je NOAA i Departamentowi Transportu i rozmawiają z grupami etyki w Departamencie Sprawiedliwości, General Services Administration i IRS.

Celem wytycznych jest upewnienie się, że wykonawcy technologiczni trzymają się istniejącego DoD zasady etyczne dla AI , mówi Goodman. Departament Obrony ogłosił te zasady w zeszłym roku, po dwuletnim badaniu zleconym przez Defense Innovation Board, panel doradczy złożony z czołowych badaczy technologii i biznesmenów, który powstał w 2016 r., aby rozbudzić Dolinę Krzemową w armii USA. Radzie przewodniczył były dyrektor generalny Google, Eric Schmidt, do września 2020 r., a jej obecnymi członkami jest Daniela Rus, dyrektor Laboratorium Informatyki i Sztucznej Inteligencji w MIT.

Jednak niektórzy krytycy kwestionują, czy dzieło obiecuje jakąś sensowną reformę.

Podczas badania rada skonsultowała się z szeregiem ekspertów, w tym głośnymi krytykami wykorzystywania sztucznej inteligencji przez wojsko, takimi jak członkowie Campaign for Killer Robots i Meredith Whittaker, była badaczka Google, która pomagała w organizacji protestów Project Maven.

Whittaker, który jest obecnie dyrektorem wydziału w AI Now Institute na Uniwersytecie Nowojorskim, nie był dostępny do komentowania. Jednak według Courtney Holsworth, rzecznika instytutu, uczestniczyła w jednym spotkaniu, podczas którego kłóciła się z wyższymi członkami zarządu, w tym ze Schmidtem, o kierunek, w jakim zmierza instytut. Nigdy nie konsultowano się z nią w znaczący sposób, mówi Holsworth. Twierdzenie, że była, może być odczytywane jako forma prania etyki, w której obecność głosów sprzeciwu podczas niewielkiej części długiego procesu jest wykorzystywana do twierdzenia, że ​​dany wynik ma szerokie poparcie ze strony odpowiednich interesariuszy.

Jeśli DoD nie ma szerokiego poparcia, czy jego wytyczne nadal mogą pomóc w budowaniu zaufania? Będą ludzie, którzy nigdy nie będą usatysfakcjonowani żadnym zestawem wytycznych etycznych opracowanych przez Departament Obrony, ponieważ uznają ten pomysł za paradoksalny, mówi Goodman. Ważne jest, aby realistycznie podchodzić do tego, co wytyczne mogą, a czego nie mogą zrobić.

Na przykład wytyczne nie mówią nic o użyciu śmiercionośnej broni autonomicznej, technologii, która według niektórych działaczy powinna być zakazana. Ale Goodman zwraca uwagę, że przepisy regulujące takie technologie są ustalane wyżej w łańcuchu. Celem wytycznych jest ułatwienie budowy AI spełniającej te przepisy. Częścią tego procesu jest wyraźne wyrażenie wszelkich obaw, które mają deweloperzy zewnętrzni. Właściwym zastosowaniem tych wytycznych jest decyzja o rezygnacji z konkretnego systemu, mówi Jared Dunnmon z DIU, który jest ich współautorem. Możesz zdecydować, że to nie jest dobry pomysł.

Powiązana historia

Dlaczego badacze AI powinni ponownie rozważyć protesty dotyczące zaangażowania w projekty wojskowe? Jeden z doradców Departamentu Obrony sugeruje, że konstruktywne zaangażowanie będzie bardziej skuteczne niż rezygnacja.

Margaret Mitchell, badaczka AI w Przytulanie twarzy , który współprowadził Zespół Google ds. etycznej sztucznej inteligencji z Timnit Gebru zanim obaj byli wypchnięty z firmy , zgadza się, że wytyczne etyczne mogą pomóc w zwiększeniu przejrzystości projektu dla osób nad nim pracujących, przynajmniej w teorii. Mitchell siedział w pierwszym rzędzie podczas protestów w Google. Mówi, że jednym z głównych zarzutów pracowników było to, że firma przekazała wojsku potężne technologie bez barier ochronnych: W końcu ludzie odeszli właśnie z powodu braku jakichkolwiek jasnych wytycznych lub przejrzystości.

Dla Mitchella problemy nie są jednoznaczne. Myślę, że niektórzy ludzie w Google zdecydowanie uważali, że cała praca z wojskiem jest zła, mówi. Nie jestem jedną z tych osób. Rozmawiała z Departamentem Obrony o tym, jak może współpracować z firmami w sposób zgodny z ich zasadami etycznymi.

Uważa, że ​​jest droga do zrobienia, zanim Departament Obrony uzyska zaufanie, którego potrzebuje. Jednym z problemów jest to, że niektóre sformułowania w wytycznych są otwarte na interpretację. Na przykład stwierdzają: Departament podejmie celowe kroki w celu zminimalizowania niezamierzonej stronniczości w możliwościach sztucznej inteligencji. A co z zamierzonym nastawieniem? Może to wyglądać na szukanie dziury w całym, ale różnice w interpretacji zależą od tego rodzaju szczegółów.

Monitorowanie wykorzystania technologii wojskowej jest trudne, ponieważ zazwyczaj wymaga poświadczenia bezpieczeństwa. Aby rozwiązać ten problem, Mitchell chciałby, aby umowy Departamentu Obrony zapewniały niezależnym audytorom niezbędne uprawnienia, które mogą zapewnić firmy, że wytyczne rzeczywiście są przestrzegane. Pracownicy potrzebują gwarancji, że wytyczne są interpretowane zgodnie z oczekiwaniami – mówi.

ukryć