Gra w cywilizację może pomóc ludziom zrozumieć zagrożenie ze strony sztucznej inteligencji

Kategoria: Sztuczna inteligencja Opublikowany sty 08

Naukowcy z University of Cambridge zbudowali modyfikację do gry Civilization, która pozwala ludziom rozwijać — i oswajać — superinteligencję pokonującą ludzi.

Gra: Shahar Avin z uniwersyteckiego Centrum Badań nad Ryzykiem Egzystencjalnym mówi gra pozwala graczom na budowanie potencjału badawczo-rozwojowego AI w ich wirtualnym świecie. Sukces to inteligentniejsza niż ludzka sztuczna inteligencja. Jednocześnie nieuczciwa sztuczna inteligencja buduje ryzyko i jest łagodzone tylko przez badania bezpieczeństwa.

Cel: Chcieliśmy przetestować nasze zrozumienie pojęć związanych z ryzykiem egzystencjalnym ze strony sztucznej superinteligencji, wdrażając je w ograniczonym, ale bogatym symulatorze świata, [a także sprawdzić, jak] gracze reagują… gdy mają możliwość samodzielnego podejmowania decyzji AI, powiedział mi Avin.

Strach lub akceptacja: Projekt jest również narzędziem informacyjnym, które pozwala dotrzeć z poważnymi problemami do szerszej publiczności. Avin zdaje sobie sprawę, że może to utrwalać obawy o sztuczną inteligencję. Twierdzi jednak, że gracze widzą ryzyko, ale także widzą szereg narzędzi, jakimi dysponują, aby je złagodzić.