Jak stworzyć złowrogą sztuczną inteligencję?

Możliwość, że złowroga sztuczna inteligencja może stanowić poważne zagrożenie dla ludzkości, stała się przedmiotem gorących dyskusji. Różne znane osoby, od fizyka Stephena Hawkinga po przedsiębiorcę technologicznego Elona Muska, ostrzegały przed niebezpieczeństwem.

Dlatego dziedzina bezpieczeństwa sztucznej inteligencji staje się ważną dyscypliną. Informatycy zaczęli analizować niezamierzone konsekwencje źle zaprojektowanych systemów sztucznej inteligencji, systemów sztucznej inteligencji stworzonych z wadliwymi ramami etycznymi lub systemów, które nie podzielają ludzkich wartości.

Ale w tej dziedzinie jest ważne zaniedbanie, twierdzą niezależni badacze Federico Pistono i Roman Yampolskiy z University of Louisville w Kentucky. Według naszej wiedzy, nic nie zostało opublikowane na temat tego, jak zaprojektować złowrogą maszynę, mówią.

To poważny problem, ponieważ specjaliści od bezpieczeństwa komputerowego muszą zrozumieć bestię, z którą mają do czynienia, zanim będą mogli mieć nadzieję na jej pokonanie.

Dziś Pistono i Yampolskiy próbują to naprawić, przynajmniej w części, i kluczową kwestią, którą wskazują, jest to, że złowroga sztuczna inteligencja najprawdopodobniej pojawi się tylko w określonych środowiskach. Dlatego określili warunki, w których może pojawić się złowrogi system sztucznej inteligencji. A ich wnioski sprawią, że lektura będzie nieprzyjemna dla jednej lub dwóch firm.

Więc jakie znaki ostrzegawcze wskazują, że praca nad złowrogim systemem AI może być możliwa? Pistono i Yampolskiy twierdzą, że prawdopodobnie pojawią się pewne wyraźne znaki.

Jednym z najbardziej oczywistych byłby brak rad nadzorczych w rozwoju systemów sztucznej inteligencji. Jeśli jakaś grupa zdecydowała się stworzyć złowrogą sztuczną inteligencję, wynikałoby z tego, że uniemożliwienie powstania komisji globalnej rady nadzorczej zwiększyłoby jej prawdopodobieństwo odniesienia sukcesu.

Taka grupa robi to, bagatelizując znaczenie swojej pracy i niebezpieczeństwa, jakie stwarza, a nawet rozpowszechniając mylące informacje. Mówią, że strategia polega na rozpowszechnianiu sprzecznych informacji, które mogłyby wywołać wątpliwości w publicznej wyobraźni co do niebezpieczeństw i szans związanych z badaniami sztucznej inteligencji ogólnej.

Innym ważnym znakiem byłoby istnienie kodu o zamkniętym kodzie źródłowym za systemem sztucznej inteligencji. Jak twierdzą Pistono i Yampolskiy, wśród ekspertów ds. kryptografii i bezpieczeństwa komputerowego dobrze wiadomo, że oprogramowanie i algorytmy o zamkniętym kodzie źródłowym są mniej bezpieczne niż ich odpowiedniki darmowe i otwarte. Samo istnienie niewolnego oprogramowania i sprzętu naraża ludzkość na większe ryzyko.

Zamiast tego twierdzą, że sztuczną inteligencję można opracować przy użyciu oprogramowania typu open source, chociaż nie jest jasne, czy byłoby to bezpieczniejsze. Proces open source pozwala większej liczbie osób szukać i naprawiać błędy. Ale daje również dostęp do przestępców, terrorystów i tym podobnych, którzy mogą używać oprogramowania do nikczemnych celów.

Sztuczna inteligencja jest obecnie rozwijana na oba te sposoby.

Systemy zamkniętego źródła odniosły dobrze nagłośnione sukcesy. Na przykład system AI firmy Google zatriumfował ostatnio nad ludzkością w starożytnej grze Go. Facebook ma również głośną grupę badawczą AI, aczkolwiek taką, która odniosła mniejszy sukces publiczny.

Żadna z firm nie wyjaśniła, w jaki sposób prowadzone są badania. Na przykład spółka zależna Google DeepMind twierdzi, że ma radę etyczną AI, ale konsekwentnie odmawia ujawnienia, kto w niej zasiada. Facebook po prostu mówi, że obawy przed sztuczną inteligencją zostały przesadzone.

Rozwój sztucznej inteligencji typu open source jest mniej zaawansowany. Ale ostatnio zaczęła nabierać rozpędu, przynajmniej częściowo napędzana obawami przed komercyjnymi rywalami.

Najwyższym profilem tych wysiłków jest OpenAI, organizacja non-profit zajmująca się sztuczną inteligencją założona w 2015 roku, której celem jest rozwój cyfrowej inteligencji w sposób, który najprawdopodobniej przyniesie korzyści całej ludzkości, nieograniczony potrzebą generowania zwrotu finansowego.

Jest on wspierany przez zobowiązania finansowe w wysokości do 1 miliarda USD, złożone m.in. przez przedsiębiorcę technologicznego Elona Muska, który wielokrotnie ostrzegał przed niebezpieczeństwami sztucznej inteligencji. (Musk częściowo sfinansował także pracę jednego z autorów tego opracowania, Romana Yampolskiego.)

Nie jest jasne, czy OpenAI zwiększy, czy zmniejszy szanse na pojawienie się wrogiego systemu AI. Ale przynajmniej celem jest zapewnienie, że cokolwiek się wydarzy, stanie się na widoku publicznym.

Jednym z niedociągnięć w tym wszystkim jest to, że praktyka cyberbezpieczeństwa dla systemów AI jest znacznie mniej rozwinięta niż w przypadku zwykłego oprogramowania.

Eksperci od bezpieczeństwa komputerowego już dawno zauważyli, że złośliwe oprogramowanie stanowi poważne zagrożenie dla współczesnego społeczeństwa. Wiele zastosowań o krytycznym znaczeniu dla bezpieczeństwa — elektrownie jądrowe, kontrola ruchu lotniczego, systemy podtrzymywania życia itd. — to niewiele więcej niż poważna wada projektowa z dala od katastrofy. Sytuację pogarszają twórcy celowo złośliwego oprogramowania — wirusy, trojany i tym podobne — które tropią i wykorzystują te luki.

Aby temu zaradzić, eksperci ds. bezpieczeństwa opracowali potężny ekosystem, który identyfikuje błędy i naprawia je, zanim zostaną wykorzystane. Badają złośliwe oprogramowanie i szukają sposobów na jego zneutralizowanie.

Mają także system komunikacji do rozpowszechniania tych informacji w swojej społeczności, ale nie poza nią. Dzięki temu wszelkie wady można szybko naprawić, zanim wiedza o nich się rozprzestrzeni.

Ale podobny system nie działa jeszcze skutecznie w świecie badań nad sztuczną inteligencją.

To może nie mieć znaczenia, podczas gdy systemy sztucznej inteligencji są stosunkowo łagodne. Większość dzisiejszej sztucznej inteligencji koncentruje się na takich tematach, jak przetwarzanie języka naturalnego, rozpoznawanie obiektów i zadania, takie jak prowadzenie pojazdu.

Jednak biorąc pod uwagę tempo rozwoju w ostatnich latach, prawdopodobnie szybko się to zmieni. Ważnym pytaniem jest, jak ludzie mogą walczyć ze złowrogą sztuczną inteligencją, która może mieć tragiczne konsekwencje dla ludzkości. To pytanie, które warto teraz szczegółowo rozważyć.

Nr ref.: arxiv.org/abs/1605.02817 : Nieetyczne badania: jak stworzyć złowrogą sztuczną inteligencję

ukryć