Kontrola zbrojeń AI może nie być możliwa, ostrzega Henry Kissinger

Kategoria: Sztuczna inteligencja Opublikowany mar 01

Henry Kissinger, były sekretarz stanu USA i kontrowersyjny gigant amerykańskiej polityki zagranicznej, uważa, że ​​kontrolowanie rozwoju broni AI może być znacznie trudniejsze niż broni jądrowej.

Strzały ostrzegawcze: Przemawiając wczoraj na imprezie w MIT, Kissinger ostrzegł, że nowe osiągnięcia w sztucznej inteligencji niosą ze sobą różnego rodzaju niebezpieczeństwa. W szczególności martwi się, że broń AI może być trudniejsza do kontrolowania niż broń nuklearna, ponieważ rozwój technologii będzie odbywał się w tajemnicy: w przypadku sztucznej inteligencji ignorancja drugiej strony jest jedną z twoich najlepszych broni – udostępnianie będzie znacznie trudniejsze.

Ruch pokojowy: Nie jest jedyną osobą, która martwi się wyścigiem zbrojeń AI. Znaczna liczba naukowców, badaczy branżowych i luminarzy technologicznych poparła a kampania na rzecz zakazu używania broni autonomicznej .

Handel bronią: Sprawa jest jednak trudna. Jak pisze badacz bezpieczeństwa Paul Scharre w niedawnej książce: Armia None , autonomia wkradła się do systemów uzbrojenia od dziesięcioleci. Nie zawsze łatwo jest wytyczyć linię wokół systemów autonomicznych, a technologia jest kusząca, ponieważ może być wykorzystana do zwiększenia niezawodności broni.

Usuwanie w dół: Kissinger był ostatnio trochę pesymistą AI. Po zapoznaniu się z AlphaGo napisał artykuł w Atlantic, ostrzegając, że technologia może zmienić naturę ludzkiej wiedzy i odkryć w sposób, który ostatecznie zaszkodzi ludzkości ( Jak kończy się oświecenie ).

Poprzez opanowanie pewnych kompetencji szybciej i zdecydowanie niż ludzie, [AI] może z czasem zmniejszyć ludzkie kompetencje i samą kondycję ludzką, gdy przekształca je w dane, napisał Kissinger. Filozoficznie, intelektualnie – pod każdym względem – społeczeństwo ludzkie jest nieprzygotowane na powstanie sztucznej inteligencji.