Dlaczego badacze AI nie powinni odwracać się od wojska?

Armia amerykańska

Ponad 2400 naukowców zajmujących się sztuczną inteligencją podpisało niedawno umowę zastaw obiecując, że nie będą budować tak zwanej broni autonomicznej — systemów, które same decydowałyby, kogo zabić. Wynika to z decyzji Google, aby nie przedłużać umowy na dostawę Pentagonu z AI do analizy materiału z drona po tym, jak firma znalazła się pod presją wielu pracowników sprzeciwiających się jej pracy nad projektem znanym jako Maven.

Paul Scharre, autor nowej książki, Armia niczego: broń autonomiczna i przyszłość wojny , uważa, że ​​naukowcy zajmujący się sztuczną inteligencją muszą zrobić więcej niż zrezygnować, jeśli chcą wprowadzić zmiany.

Paula Scharre'a. Wygraj McNamee/Getty Images

Scharre, żołnierz armii w Iraku i Afganistanie, a teraz starszy pracownik Centrum na rzecz Nowego Amerykańskiego Bezpieczeństwa, twierdzi, że eksperci AI powinni współpracować z decydentami i wojskowymi, aby wyjaśnić, dlaczego badacze są zaniepokojeni i pomóc im zrozumieć ograniczenia systemów AI.

Scharre rozmawiał z Z Przegląd technologii starszy redaktor Will Knight o najlepszym sposobie powstrzymania potencjalnie niebezpiecznego wyścigu zbrojeń AI.

paulscharre.com

Jak bardzo armia amerykańska jest chętna do opracowania broni AI?

Przywódcy obrony USA wielokrotnie stwierdził że ich zamiar jest utrzymanie człowieka w pętli i odpowiedzialności za decyzje dotyczące śmiercionośnej siły. Zastrzeżeniem jest to, że przyznali również, że jeśli inne kraje zbudują autonomiczną broń, mogą zostać zmuszeni do pójścia w ich ślady. I to jest prawdziwe ryzyko – że jeśli jeden kraj przekroczy tę granicę, inne mogą poczuć, że muszą odpowiedzieć w naturze, aby zachować konkurencyjność.

Ale czy naprawdę można ufać tym obietnicom?

Myślę, że wysocy urzędnicy obrony USA są szczerzy, że chcą, aby ludzie pozostali odpowiedzialni za użycie śmiercionośnej siły. Wojskowi z pewnością nie chcą, aby ich broń wpadała w amok. To powiedziawszy, pozostaje otwartym pytaniem, jak przełożyć szeroką koncepcję, taką jak odpowiedzialność człowieka za śmiertelną siłę, na konkretne wskazówki inżynieryjne dotyczące dozwolonych rodzajów broni. Definicja tego, co stanowi broń autonomiczną, jest już kwestionowana, więc mogą istnieć różne poglądy na temat tego, jak zastosować te zasady w praktyce.

Dlaczego trzeba zaangażować technologów?

Badacze sztucznej inteligencji muszą być częścią tych rozmów, ponieważ ich wiedza techniczna ma kluczowe znaczenie dla kształtowania wyborów politycznych. Musimy wziąć pod uwagę stronniczość AI, przejrzystość, wyjaśnialność, bezpieczeństwo i inne kwestie. Technologia AI ma dziś te bliźniacze cechy — jest potężna, ale ma też wiele luk w zabezpieczeniach, podobnie jak komputery i zagrożenia cybernetyczne. Niestety wydaje się, że rządy otrzymały pierwszą część tego przesłania (sztuczna inteligencja jest potężna), ale nie drugą (wiąże się z ryzykiem). Badacze sztucznej inteligencji mogą pomóc rządom i siłom zbrojnym lepiej zrozumieć, dlaczego są tak zaniepokojeni konsekwencjami uzbrojenia tej technologii. Aby ta sprawa była skuteczna, badacze AI muszą być częścią konstruktywnego dialogu.

Co sądzisz o niedawnej deklaracji przeciwko broni autonomicznej, zorganizowanej przez Future of Life Institute?

To nie pierwsze wezwanie do działania ze strony naukowców zajmujących się sztuczną inteligencją; opiera się na wcześniejszych listach otwartych dotyczących broni autonomicznej w 2015 oraz 2017 . Ale te listy są symbolicznym gestem i prawdopodobnie przynoszą malejące korzyści w swojej skuteczności. Kraje dyskutują również o autonomicznej broni w Organizacji Narodów Zjednoczonych od 2014 r., a presja ze strony naukowców zajmujących się sztuczną inteligencją nadaje ważny wymiar rozmowie, ale nie ma jeszcze wpływu na główne potęgi wojskowe, aby poparły kompleksowy zakaz. Bardziej wpływowe byłoby, gdyby więcej naukowców zajmujących się sztuczną inteligencją uczestniczyło w spotkaniach ONZ i pomogłoby decydentom zrozumieć, dlaczego naukowcy zajmujący się sztuczną inteligencją są tak zaniepokojeni.

A co z decyzją Google o nieprzedłużaniu umowy z Pentagonem?

To było trochę zaskakujące, ponieważ Maven tak naprawdę nie obejmował autonomicznej broni ani celowania i wydawał się być zgodny z niedawno wydanym przez Google Zasady sztucznej inteligencji . Ale konkurencja o najlepsze talenty AI jest zacięta i podejrzewam, że Google nie może ryzykować, że niektórzy z najlepszych inżynierów zrezygnują w proteście.

Czy uważasz, że takie gesty pomogą spowolnić rozwój broni autonomicznej?

Jeśli chodzi o Mavena, Google nie był zaangażowany w budowanie nawet broni kontrolowanej przez człowieka, a tym bardziej broni autonomicznej, więc nie ma tam bezpośredniego połączenia. List zastawu jest oczywiście skierowany bezpośrednio do broni autonomicznej. Ale nie sądzę, aby miało to duży wpływ na sposób, w jaki wojskowi włączają sztuczną inteligencję i autonomię do swojej broni, ponieważ broń jest prawdopodobnie budowana przez wykonawców obronnych. Jeśli duże firmy technologiczne, takie jak Google, zrezygnują ze współpracy z wojskiem, może to spowolnić włączanie technologii sztucznej inteligencji do ważnych funkcji pomocniczych, takich jak analiza danych, którą robił Maven. Ale ostatecznie inne firmy wkroczą, aby wypełnić tę lukę. Już widzieliśmy inny firm powiedzieć publicznie, że chcą współpracować z wojskiem.

Czy te wysiłki mogą mieć również niezamierzone konsekwencje?

Malowanie wielu uzasadnionych zastosowań sztucznej inteligencji jako niedopuszczalnych może jeszcze bardziej wbić klin między społecznością techniczną i polityczną i utrudnić rozsądny dyskurs. Inżynierowie absolutnie powinni powstrzymać się od pracy nad projektami, których nie mogą wspierać, ale kiedy te osobiste motywacje przenoszą się na wywieranie nacisku na innych, aby pracowali nad ważnymi i uzasadnionymi aplikacjami bezpieczeństwa narodowego, szkodzą bezpieczeństwu publicznemu i naruszają prawa innych inżynierów do podążania za własnym sumieniem. Kraje demokratyczne będą musiały używać technologii sztucznej inteligencji do różnych ważnych i zgodnych z prawem bezpieczeństwo narodowe celów — wywiad, walka z terroryzmem, bezpieczeństwo granic, cyberbezpieczeństwo i obrona.

Czy Stany Zjednoczone już prowadzą wyścig zbrojeń AI z Chinami?

Chiny publicznie zadeklarowały zamiar zostania Globalny lider w sztucznej inteligencji do 2030 r. i zwiększa swoje badania i rekrutację najlepszych talentów z całego świata. Chiński model fuzji wojskowo-cywilnej oznacza również, że badania nad sztuczną inteligencją będą z łatwością przepływać z firm technologicznych do wojska bez barier, które niektórzy pracownicy Google chcą wznieść w Stanach Zjednoczonych. Chiny mają już się zaczął położyć podwaliny pod państwo oparte na sztucznej inteligencji.

Jeśli taktyki badaczy AI jedynie spowalniają wprowadzanie narzędzi AI w otwartych, demokratycznych społeczeństwach, które cenią etyczne zachowanie, ich praca może przyczynić się do wprowadzenia w przyszłość, w której najpotężniejsza technologia będzie w rękach reżimów, które najmniej dbają o etykę i rządów prawa.

W swojej książce wskazujesz, że zdefiniowanie autonomii może być trudne. Czy to nie skomplikuje dyskusji na temat militarnego wykorzystania sztucznej inteligencji?

Autorzy niedawnej obietnicy przeciw broni autonomicznej sprzeciwiają się broniom autonomicznym, które zabiłyby człowieka, ale przyznają, że niektóre rodzaje systemów autonomicznych byłyby potrzebne do obrony przed innymi tego typu broniami. To szara strefa, w której autonomia może być potrzebna do obrony przed bronią, a człowiek wciąż jest na pokładzie, jak w przypadku myśliwca lub łodzi podwodnej, gdzie leży prawdziwe wyzwanie. Równoważenie konkurencyjnych celów nie jest proste, a decydenci staną przed prawdziwymi wyborami, gdy zastosują tę technologię.

Inżynierowie AI będą mieli największy wpływ na kształtowanie tych wyborów, jeśli zaangażują się w konstruktywny, ciągły dialog z decydentami, zamiast z nich zrezygnować. Naukowcy zajmujący się sztuczną inteligencją, którzy dbają o to, jak ta technologia jest wykorzystywana, będą bardziej skuteczni, jeśli wyjdą poza kampanie nacisku i zaczną pomagać w edukowaniu decydentów na temat dzisiejszej technologii sztucznej inteligencji i jej ograniczeń.

ukryć