211service.com
Dlaczego badacze AI powinni ponownie rozważyć protesty dotyczące zaangażowania w projekty wojskowe?
Jeremy port
Według jednego z doradców Departamentu Obrony pracownicy przemysłu technologicznego, którzy protestowali przeciwko kontraktom z wojskiem, powinni ponownie przemyśleć swoje stanowisko.
Brendan McCord – ekspert ds. AI, który był zaangażowany w Project Maven, program DoD mający na celu przyspieszenie sztucznej inteligencji i uczenia maszynowego do zastosowań wojskowych – powiedział, że konstruktywne zaangażowanie z siłami zbrojnymi jest konieczne, aby uniknąć złych decyzji.
W czerwcu Google powiedział nie będzie już działać z Project Maven po ponad 4000 pracowników podpisał list który oskarżył firmę o prowadzenie działalności wojennej.
Ale przemawiając na konferencji AI EmTech Digital, MIT Technology Review, McCord powiedział, że dla całego społeczeństwa byłoby lepiej, gdyby taka współpraca była kontynuowana, a dla tych, którzy nie zgadzają się na to, aby pracownicy zaangażowani w projekty AI ponownie przeanalizowali swoje stanowisko.
Większość obecnych tu dzisiaj zgodziłaby się, że siły zbrojne i ich rola w odstraszaniu, ofensywie i obronie są częścią świata i będą miały miejsce w dającej się przewidzieć przyszłości, powiedział. O wiele bardziej optymalna jest strategia konstruktywnego zaangażowania w przeciwieństwie do rezygnacji.
Dodał, że praca nad sztuczną inteligencją w obronie nie czyni cię mniej pryncypialnym.
Sekretny charakter Projektu Maven, który miał skupiać się na poprawie analizy materiału filmowego uchwyconego przez wojskowe drony, wzbudził zaniepokojenie szerokiej grupy badaczy sztucznej inteligencji. Ale siły zbrojne USA pozostają potężną siłą promującą pokój i stabilność na świecie, powiedział McCord, odzwierciedlając argumenty, że badacze AI, którzy z zasady odrzucają wojsko, w rzeczywistości dają przewagę tym, którzy mają mniej rygorystyczne standardy etyczne, w tym innym narodom.
Chociaż McCord powiedział, że nie spodziewałby się, że antywojenni pacyfiści zmienią zdanie, poprosił badaczy, aby zastanowili się, co by się stało, gdyby inne kraje poczyniły własne postępy w dziedzinach wschodzących. Dodał, że szczególnie ważne jest bardziej pozytywne nastawienie do wojska, ponieważ rządy odgrywają teraz mniejszą rolę w rozwoju nowych odkryć technologicznych niż kiedyś.
Powiedział, że pod koniec zimnej wojny centrum innowacji przeniosło się do sektora prywatnego. Świat się zmienił. Potencjał rządu i jego rola zostały ograniczone do punktu, w którym moim zdaniem nigdy nie były tak niskie. Efektem końcowym jest to, że wielkie firmy technologiczne przyjęły płaszcz – czy tego chciały, czy nie – bycia arbitrami. Często są samoregulujące.
Wiele ważnych osiągnięć technologicznych, w tym internet, GPS i wirtualni asystenci, powstało w wyniku inwestycji Departamentu Obrony. Ale od końca zimnej wojny wydatki Departamentu Obrony na badania i rozwój zmniejszyły się. W połowie lat 80. budżety rządowe i prywatne na badania i rozwój były mniej więcej równe – około 55 miliardów dolarów rocznie. Od tego czasu rząd podwoił swoje inwestycje, podczas gdy prywatne firmy, w tym takie jak Google, Microsoft, Facebook i Amazon, drastycznie zwiększyły budżety prywatne do ponad 350 miliardów dolarów każdego roku.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (seria roczna)
Jednak chociaż duże firmy technologiczne mogą nie być przejrzyste w kwestii swojej pracy, rząd sam został skrytykowany. Zostało to zgłoszone na początku tego tygodnia przez Intercept że Pentagon odrzucił żądania Wolności Informacji o dane dotyczące Projektu Maven , twierdząc, że jego dokumenty są wyłączone spod kontroli publicznej.
McCord nadal pełni funkcję doradczą w Departamencie Obrony, ale niedawno porzucił tam pracę na pełen etat, aby dołączyć do sektora prywatnego. Obecnie zajmuje wysokie stanowisko w Tulco Labs, nowej firmie skupiającej się na innowacjach w pracy, założonej przez miliardera z branży rozrywkowej Thomasa Tulla.
Zakończył mówiąc, że konieczne jest, aby pracownicy branży pomagali utrzymać pracodawców w ryzach, cytując biologa i teoretyka E.O. Wilsona.
Powiedział, że prawdziwym problemem ludzkości jest to, że mamy paleolityczne emocje, średniowieczne instytucje i boską technologię.