Czy potrzebujemy praw Asimova?

W 1942 roku pisarz science fiction Isaac Asimov opublikował opowiadanie o nazwie Runaround, w którym wprowadził trzy prawa rządzące zachowaniem robotów. Te trzy prawa są następujące:

1. Robot nie może zranić człowieka ani przez bezczynność dopuścić do zranienia człowieka.

2. Robot musi przestrzegać poleceń wydawanych mu przez ludzi, z wyjątkiem sytuacji, w których takie polecenia byłyby sprzeczne z Pierwszym Prawem.

3. Robot musi chronić swoją egzystencję, o ile taka ochrona nie jest sprzeczna z Pierwszym lub Drugim Prawem.

Później wprowadził czwarte lub zerowe prawo, które przewyższało inne:

0. Robot nie może skrzywdzić ludzkości lub przez bezczynność pozwolić ludzkości na krzywdę.

Od tego czasu prawa robotyki Asimova stały się kluczową częścią kultury science fiction, która stopniowo stała się głównym nurtem.

W ostatnich latach robotycy dokonali szybkich postępów w technologiach, które przybliżają rodzaj zaawansowanych robotów, jakie przewidywał Asimov. Coraz częściej roboty i ludzie współpracują ze sobą na halach fabrycznych, prowadząc samochody, latające samoloty, a nawet pomagając w domu.

Rodzi to interesujące pytanie: czy potrzebujemy zestawu praw podobnych do Asimova, aby rządzić zachowaniem robotów, gdy stają się bardziej zaawansowane?

Dzisiaj otrzymujemy odpowiedź od Ulrike Barthelmess i Ulricha Furbacha z Uniwersytetu w Koblencji w Niemczech. Ci faceci przeglądają historię robotów w społeczeństwie i twierdzą, że nasze obawy dotyczące ich możliwości zniszczenia nas są bezpodstawne. Z tego powodu, mówią, prawa Asimova nie są potrzebne.

Słowo robot pochodzi od czeskiego słowa robota oznaczającego pracę przymusową, które po raz pierwszy pojawiło się w sztuce czeskiego pisarza Karela Capka z 1924 roku. Zanglicyzowana wersja szybko się rozprzestrzeniła wraz z ideą, że te maszyny mogą zbyt łatwo zniszczyć swoich twórców, co od tego czasu stało się powszechne w science fiction.

Ale Barthelmess i Furbach twierdzą, że ten strach przed maszynami jest znacznie głębiej zakorzeniony w naszej kulturze. Podczas gdy historie science fiction często wykorzystują fabuły, w których roboty niszczą swoich twórców, jest to temat, który ma długą historię w literaturze.

Na przykład we Frankensteinie Mary Shelley potwór zrobiony z ludzkich części ciała zwraca się przeciwko Frankensteinowi, jego twórcy, ponieważ nie chce zrobić dla potwora partnera.

Jest też szesnastowieczna opowieść o żydowskim Golemie, w której jednej wersji rabin buduje z gliny istotę, aby chronić społeczność, jednocześnie obiecując dezaktywować ją po szabacie. Ale rabin zapomina, a golem zamienia się w potwora, którego trzeba zniszczyć.

Barthelmess i Furbach twierdzą, że religijny wydźwięk obu tych historii polega na tym, że zabrania się ludziom zachowywać się jak Bóg. I że każda taka próba będzie zawsze karana przez stwórcę.

Podobne epizody pojawiają się w mitologii greckiej, gdzie karani są również ludzie, którzy wykazują arogancję wobec Bogów, tacy jak Prometeusz i Niobe. Dlatego historie tego rodzaju są częścią naszej kultury sięgającej tysiące lat wstecz. To ten głęboko zakorzeniony strach, który autorzy science fiction wykorzystują w opowieściach o robotach.

Oczywiście istnieją prawdziwe konflikty między ludźmi a maszynami. Na przykład podczas rewolucji przemysłowej w Europie panował wielki strach przed maszynami i ich wyraźną zdolnością do zmieniania świata w sposób, który miał głęboki wpływ na wielu ludzi.

Barthelmess i Furbach zwracają uwagę, że w XVIII-wiecznej Anglii ludzie rozpoczęli ruch na rzecz niszczenia maszyn tkackich, który stał się tak poważny, że Parlament uznał niszczenie maszyn za wielką zbrodnię. Grupa znana jako Luddici walczyła nawet z armią brytyjską w tych kwestiach. Mówią, że był rodzaj technofobii, który skutkował walkami z maszynami.

Oczywiście nie jest poza sferą możliwości, że podobny rodzaj antagonizmu może rozwinąć się w stosunku do nowej generacji robotów, które mają przejąć bardzo powtarzalne zadania, które pracownicy wykonują obecnie w fabrykach na całym świecie, a zwłaszcza w Azji. .

Jednak w Azji stosunek do robotów jest zupełnie inny. Kraje takie jak Japonia przodują na świecie w rozwoju robotów dla zautomatyzowanych fabryk i jako pomocników ludzkich, częściowo ze względu na starzenie się populacji Japonii i dobrze znane problemy zdrowotne, które spowoduje to w niedalekiej przyszłości.

Być może uosabia tę postawę Astro Boy, fikcyjny robot, który w 2007 roku został mianowany przez japońskie Ministerstwo Spraw Zagranicznych wysłannikiem Japonii ds. bezpiecznej podróży zagranicznej.

Z tych powodów Barthelmess i Furbach twierdzą, że to, czego obawiamy się w przypadku robotów, to nie możliwość, że przejmą kontrolę nad nami i zniszczą nas, ale możliwość, że inni ludzie użyją ich do zniszczenia naszego stylu życia w sposób, którego nie możemy kontrolować.

W szczególności zwracają uwagę, że wiele robotów będzie nas chroniło z założenia. Na przykład zautomatyzowane pojazdy i samoloty są projektowane tak, aby jeździć i latać bezpieczniej niż ludzie. Więc będziemy bezpieczniej z nich korzystać niż z nich nie korzystać.

Ważnym wyjątkiem jest rosnąca liczba robotów zaprojektowanych specjalnie do zabijania ludzi. W szczególności Stany Zjednoczone używają dronów do celowych zabójstw w innych krajach. Legalność, nie wspominając o moralności, tych działań jest wciąż przedmiotem zaciekłych dyskusji.

Ale Barthelmess i Furbach sugerują, że ludzie nadal są ostatecznie odpowiedzialni za te zabójstwa i że prawo międzynarodowe, a nie prawo Asimova, powinno być w stanie poradzić sobie z pojawiającymi się problemami lub być do tego przystosowane.

Swoją dyskusję kończą rozważaniem potencjalnej konwergencji ludzi i robotów w najbliższej przyszłości. Pomysł polega na tym, że ludzie będą włączać do swoich ciał różne technologie, takie jak dodatkowa pamięć lub moc obliczeniowa, i ostatecznie połączą się z robotami. W tym momencie prawo codzienne będzie musiało radzić sobie z zachowaniami i działaniami zwykłych ludzi, a prawa Asimova staną się przestarzałe.

Ciekawa debata, która prawdopodobnie nie zostanie rozstrzygnięta w najbliższym czasie. Dodatkowe widoki w sekcji komentarzy proszę.

Nr ref.: arxiv.org/abs/1405.0961 : Czy potrzebujemy praw Asimova?

ukryć