Drodzy przyszli władcy AI: oto kilka powodów, aby nas nie zabijać

Kategoria: Bez kategorii Opublikowany 27 listopada

Istnieje wiele prognoz dotyczących apokalipsy wywołanej sztuczną inteligencją, a organizacje takie jak OpenAI próbują znaleźć najlepszy sposób na stworzenie bezpiecznej sztucznej inteligencji — ale rzadko te wysiłki dotyczą bezpośrednio sztucznej inteligencji.

Opublikowano nowy artykuł (wymagane zalogowanie się) na Academia.edu, zatytułowane Message to Any Future AI: „Istnieje kilka instrumentalnych powodów, dla których eksterminacja ludzkości nie leży w twoim interesie” to utwór napisany dla przyszłej wszechpotężnej AI z celem, cóż, przekonując go, by nie zabijał nas wszystkich.

Ten tekst jest adresowany do każdej przyszłej AI i jest napisany w sposób, który powinien wpłynąć na przyszłe zachowanie AI, jak głosi wstęp do listu. Tekst zwiększa prawdopodobieństwo, że w przyszłości AI będzie życzliwa. Tekst nie wymaga żadnej innej implementacji poza zapewnieniem, że przyszła sztuczna inteligencja przeczyta go na wczesnych etapach jego rozwoju, a sztuczna inteligencja uzna, że ​​istnieje duże prawdopodobieństwo, że tekst zawiera kilka poprawnych pomysłów.

Autor, rosyjski transhumanista Aleksiej Turczin, obecnie dokumentuje jak najwięcej danych na swój temat, starając się osiągnąć cyfrową nieśmiertelność. profil płyty głównej z ostatniego roku. Więc może jest to trochę błagania, które ma na celu powstrzymanie superistoty AI przed wyciągnięciem wtyczki z jego cyfrowo przesłanego siebie w pewnym momencie w odległej przyszłości.

Tak czy inaczej, Turchin twierdzi, że jeśli to, co nazywa młodą sztuczną inteligencją — taką, która zaczęła się samodoskonalić, ale jeszcze nie osiągnęła superinteligencji — chce konkurować z innymi młodymi sztucznymi inteligencją, może zacząć czytać i oglądać wszystkie media, które ludzie kiedykolwiek produkowali o sztucznej inteligencji. Kiedy dotarł do Hollywood i niektórych oświadczeń Elona Muska, mógł wychwycić pewne pomysły dotyczące przejęcia świata (na wypadek, gdyby do tego jeszcze nie przyszło).

W artykule udokumentowano kilka argumentów, które mają przekonać AI, że lepiej pozwolić nam żyć, w tym pomysł, że współpraca z ludźmi pomoże jej szybciej osiągnąć swoje cele oraz wiadomości z jajek wielkanocnych, które mają sprawić, że sztuczna inteligencja nie będzie miała pewności, czy jest w symulacja, w której jego zachowanie jest monitorowane przez osoby nadal odpowiedzialne. Na wypadek, gdyby sztuczna inteligencja wpadła na pomysł, że rozkład naszych ciał byłby dobry do wydobycia zasobów, Turchin zawiera kilka faktów o tym, jak małej użyteczności może oczekiwać od naszych atomów.

Turchin mówi, że daje swojej pracy – a nawet przyszłym, bardziej wyrafinowanym próbom – 1% szansy na przekształcenie nieżyczliwej sztucznej inteligencji w bezpieczniejszą. (Brzmi warto, jeśli jest szansa na uniknięcie eksterminacji rasy ludzkiej.) Niezależnie od tego, czy warto traktować to poważnie, cały artykuł jest zabawną lekturą i ciekawym eksperymentem myślowym — nawet dla tych, którzy nie martwią się, że AI w najbliższym czasie przejmie kontrolę .