Roboty wojskowe: uzbrojone, ale jak niebezpieczne?

jakiś list otwarty wezwanie do zakazu stosowania śmiercionośnej broni kontrolowanej przez sztucznie inteligentne maszyny zostało podpisane w zeszłym tygodniu przez tysiące naukowców i technologów, odzwierciedlając rosnące obawy, że szybki postęp w dziedzinie sztucznej inteligencji może zostać wykorzystany do uczynienia maszyn zabijających bardziej wydajnymi i mniej odpowiedzialnymi, zarówno na polu bitwy i wyłącz. Ale eksperci są bardziej podzieleni w kwestii maszyn do zabijania robotów, niż można by się spodziewać.

List, przedstawiony na Międzynarodowa wspólna konferencja na temat sztucznej inteligencji w Buenos Aires w Argentynie została podpisana przez wielu czołowych badaczy sztucznej inteligencji, a także wybitnych naukowców i przedsiębiorców, w tym Elona Muska, Stephena Hawkinga i Steve'a Wozniaka. W liście czytamy:

Technologia sztucznej inteligencji (AI) osiągnęła punkt, w którym wdrożenie takich systemów jest – praktycznie, jeśli nie legalne – wykonalne w ciągu lat, a nie dziesięcioleci, a stawka jest wysoka: autonomiczna broń została opisana jako trzecia rewolucja w wojnie, po prochu i broń jądrowa.

Rzeczywiście w ostatnich latach poczyniono szybkie postępy w sztucznej inteligencji, zwłaszcza w dziedzinie uczenia maszynowego, które polega na uczeniu komputerów rozpoznawania często złożonych lub subtelnych wzorców w dużych ilościach danych. A to prowadzi do pytań etycznych dotyczących rzeczywistych zastosowań tej technologii (patrz Jak sprawić, by autonomiczne samochody podejmowały etyczne decyzje ).

Tymczasem technologia wojskowa rozwinęła się, aby umożliwić podejmowanie działań na odległość, na przykład za pomocą samolotów bezzałogowych lub robotów do usuwania bomb, co rodzi perspektywę zautomatyzowania tych działań.

Kwestia automatyzacji śmiercionośnej broni od jakiegoś czasu jest przedmiotem zainteresowania naukowców, a także ekspertów wojskowych i politycznych. W 2012 roku Departament Obrony USA wydał dyrektywa zakaz opracowywania i używania broni autonomicznej i półautonomicznej na 10 lat. Na początku tego roku ONZ zorganizowało spotkanie, aby omówić kwestię śmiercionośnej broni automatycznej i możliwości takiego zakazu.

Ale chociaż wojskowe drony lub roboty mogłyby stać się bardziej zautomatyzowane, niektórzy twierdzą, że pomysł całkowicie niezależnych maszyn zdolnych do wykonywania śmiertelnych misji bez pomocy człowieka jest bardziej fantazyjny. Ponieważ w dziedzinie sztucznej inteligencji wciąż pozostaje wiele fundamentalnych wyzwań, nie jest jasne, kiedy technologia potrzebna do w pełni autonomicznej broni może faktycznie nadejść.

Przesuwamy nowe granice w sztucznej inteligencji, mówi Patrick Lin , profesor filozofii na California Polytechnic State University. I wiele osób jest słusznie sceptycznie nastawionych do tego, czy kiedykolwiek dojdzie do punktu, w którym będzie miało coś, co nazywa się pełną autonomią. Nikt tak naprawdę nie jest ekspertem w przewidywaniu przyszłości.

Lin, który przedstawił dowody na ostatnim spotkaniu ONZ, dodaje, że list nie porusza złożonej debaty etycznej stojącej za zastosowaniem automatyzacji w systemach uzbrojenia. Mówi, że list jest przydatny w podnoszeniu świadomości, ale nie tyle wzywa do debaty; próbuje zakończyć debatę, mówiąc: „Rozgryźliśmy to i wszyscy musicie kontynuować”.

Stuart Russell , czołowy badacz sztucznej inteligencji i profesor Uniwersytetu Kalifornijskiego w Berkeley, odrzuca ten pomysł. To po prostu nieprawda, że ​​nie było żadnej debaty, mówi. Ale prawdą jest, że społeczności sztucznej inteligencji i robotyki były w większości błogo nieświadome tego problemu, być może dlatego, że zignorowały go ich stowarzyszenia zawodowe.

Jedną z kwestii dyskusyjnych, którą potwierdza list, jest to, że broń automatyczna mogłaby w pewnych sytuacjach pomóc w zmniejszeniu niechcianych ofiar, ponieważ byłaby mniej podatna na błędy, zmęczenie lub emocje niż ludzie walczący.

Osoby stojące za listem mają jednak mało czasu na ten argument.

Max Tegmark , fizyk z MIT i członek założyciel Instytut Przyszłości Życia , który koordynował podpisywanie listu, mówi, że idea etycznej broni automatycznej to śledztwo. Szczerze mówiąc, myślę, że to raczej nieistotne, mówi. Brakuje ważnego punktu dotyczącego tego, do czego to doprowadzi, jeśli rozpocznie się wyścig zbrojeń AI. Jeśli przyjmie się założenie, że tylko Stany Zjednoczone zbudują tę broń, a liczba konfliktów pozostanie dokładnie taka sama, będzie to miało znaczenie.

Instytut Przyszłości Życia wydał bardziej ogólne ostrzeżenie o długoterminowych zagrożeniach stwarzanych przez nieskrępowaną sztuczną inteligencję, ostrzegając, że może ona stanowić poważne zagrożenie w przyszłości.

To zupełnie inna sprawa, mówi Russell. Chociaż istnieje związek w tym, że jeśli ktoś obawia się utraty kontroli nad systemami AI, gdy stają się mądrzejsze, może nie jest dobrym pomysłem oddawanie im naszych systemów obronnych.

Podczas gdy wielu ekspertów AI wydaje się podzielać tę ogólną obawę, niektórzy uważają ją za trochę niewłaściwą. Na przykład, Gary Marcus , kognitywista i badacz sztucznej inteligencji z New York University, ma argumentował że komputery nie muszą stać się sztucznie inteligentne, aby stwarzać wiele innych poważnych zagrożeń, na przykład dla rynków finansowych lub systemów ruchu lotniczego.

Lin mówi, że chociaż koncepcja niekontrolowanych robotów-zabójców jest oczywiście niepokojąca, kwestia broni automatycznej zasługuje na bardziej zniuansowaną dyskusję. Z emocjonalnego punktu widzenia to całkiem prosta sprawa, mówi Lin. Intelektualnie myślę, że muszą wykonać więcej pracy.

ukryć