Jak myślimy o robotach, które się czują?

Ponieważ roboty stają się wystarczająco inteligentne, aby wykrywać nasze uczucia i odpowiednio reagować, mogą mieć własne emocje. Ale to niekoniecznie sprawi, że będą bardziej podobni do ludzi. Za pomocą

• Louisa Hall strona archiwum

24 października 2017 r.

Delcan & Company + Jenue

Octavia, humanoidalny robot zaprojektowany do zwalczania pożarów na okrętach marynarki wojennej, opanował imponujący zakres mimiki twarzy.

Kiedy jest wyłączona, wygląda jak lalka wielkości człowieka. Ma gładką białą twarz i zadarty nos. Jej plastikowe brwi przylegają równo na czole jak dwa wywrócone czółenka.

Ta historia była częścią naszego wydania z listopada 2017 r.

• Zobacz resztę numeru
• Subskrybuj

Jednak kiedy jest włączona, jej powieki otwierają się i zaczyna okazywać emocje. Potrafi kiwać głową w geście zrozumienia; może rozszerzyć oczy i unieść obie brwi z przekonującym pozorem niepokoju; albo może przechylić głowę na bok i zacisnąć usta, naśladując ludzkie zamieszanie. Aby uzyskać efekt komiczny, może nawet unieść jedną brew i zwęzić drugie oko, stukając o siebie metalowymi palcami, jakby planowała akty zemsty robota.

Ale zakres mimiki Octavii nie jest jej najbardziej imponującą cechą. Zdumiewające jest to, że jej emocjonalny wpływ jest dokładną reakcją na jej interakcje z ludźmi. Wygląda na zadowoloną, na przykład, gdy rozpoznaje jednego z jej kolegów z drużyny. Wygląda na zaskoczoną, gdy kolega z drużyny wydaje jej polecenie, którego się nie spodziewała. Wygląda na zdezorientowaną, gdy ktoś mówi coś, czego nie rozumie.

Potrafi wykazywać odpowiedni wpływ emocjonalny, ponieważ przetwarza ogromne ilości informacji o swoim otoczeniu. Widzi, słyszy i dotyka. Za pomocą dwóch kamer wbudowanych w oczy dokonuje wizualnego podsumowania swojego otoczenia i analizuje cechy, takie jak rysy twarzy, cera i ubranie. Potrafi wykrywać głosy ludzi za pomocą czterech mikrofonów i programu do rozpoznawania głosu o nazwie Sphinx. Potrafi zidentyfikować dotykiem 25 różnych obiektów, poznając je za pomocą palców, aby fizycznie manipulować nimi w różnych możliwych pozycjach i kształtach. Łącznie te umiejętności percepcyjne stanowią część jej ucieleśnionej architektury poznawczej, która pozwala jej – według jej twórców z Navy Center for Applied Research in Artificial Intelligence – myśleć i działać w sposób podobny do ludzi.

To ekscytujące stwierdzenie, ale niekoniecznie szokujące. Przyzwyczailiśmy się do tego, że maszyny zachowują się jak ludzie. Automaty stworzone w XVIII-wiecznej Francji potrafiły tańczyć, mierzyć czas i grać na bębnach, cymbałach lub fortepianie. Jako dziecko dorastające w latach 80. z jakiegoś powodu pożądałem lalki reklamowanej ze zdolnością do sikania do spodni.

Octavia jest w stanie przekazywać mimikę, ale okazuje się, że mimika twarzy nie jest wymagana, aby ludzie czuli się emocjonalnie przywiązani do swoich robotów. Laboratorium Badawcze Marynarki Wojennej Stanów Zjednoczonych

Jesteśmy nawet przyzwyczajeni do idei maszyn myślących w sposób, który przypomina nam ludzi. Wiele z naszych od dawna cenionych najwyższych ocen dla ludzkiego poznania — na przykład umiejętność pokonania arcymistrza w szachach lub skomponowania sonetu o dokładności metrycznej — zostało osiągniętych i prześcigniętych przez komputery.

Jednak działania Octavii – przerażające rozszerzenie jej oczu, zdezorientowana bruzda plastikowych brwi – wydają się iść o krok dalej. Sugerują, że oprócz myślenia w sposób, w jaki myślimy, ona również odczuwa ludzkie emocje.

Tak nie jest: emocjonalny wpływ Octavii, według Gregory'ego Traftona, który kieruje sekcją inteligentnych systemów w centrum AI marynarki wojennej, ma jedynie zademonstrować jej sposób myślenia i ułatwić ludziom interakcję z nią. Ale nie zawsze można wytyczyć granicę między myśleniem a czuciem. Jak przyznaje Trafton, jasne jest, że myśli i emocje ludzi są różne, ale wpływają na siebie nawzajem. A jeśli, jak mówi, emocje wpływają na poznanie, a poznanie na emocje, zdolność Octavii do myślenia, rozumowania i postrzegania wskazuje na niektóre z większych pytań, które będą towarzyszyć powstaniu inteligentnych maszyn. W którym momencie maszyny będą wystarczająco inteligentne, aby coś poczuć? A skąd mielibyśmy naprawdę wiedzieć?

Spersonalizowane uczucia

Octavia ma zaprogramowaną teorię umysłu, co oznacza, że ​​może przewidywać stany psychiczne jej ludzkich kolegów z drużyny. Rozumie, że ludzie mają potencjalnie sprzeczne przekonania lub intencje. Kiedy Octavia otrzymuje polecenie, które różni się od jej oczekiwań, przeprowadza symulacje, aby ustalić, co może myśleć kolega z drużyny, który wydał polecenie i dlaczego ta osoba uważa, że ​​ten nieoczekiwany cel jest słuszny. Robi to, przeglądając własne modele świata, ale nieznacznie je zmieniając, mając nadzieję na znalezienie takiego, który prowadzi do wyznaczonego celu. Kiedy przechyla głowę na bok i marszczy brwi, jest to sygnał, że prowadzi te symulacje, próbując lepiej zrozumieć przekonania swojego kolegi z drużyny.

Nadal nie wiemy wszystkiego, co wiąże się z odczuwaniem emocji.

Octavia nie jest zaprogramowana na emocjonalne modele. Jej teoria umysłu to wzorzec poznawczy. Ale działa jak empatia, najbardziej ceniona ze wszystkich ludzkich emocji.

Inni producenci robotów pomijają kwestię inteligencji emocjonalnej swoich maszyn. Na przykład firma SoftBank Robotics, która sprzedaje Pepper – przyjemnego i sympatycznego humanoidalnego robota, stworzonego, by służyć jako ludzki towarzysz – twierdzi, że Pepper potrafi postrzegać ludzkie emocje, dodając, że Pepper uwielbia wchodzić z Tobą w interakcje, Pepper chce dowiedzieć się więcej o Twoich upodobaniach, Twoje nawyki i po prostu kim jesteś. Ale chociaż Pepper może mieć zdolność rozpoznawania ludzkich emocji i chociaż Pepper może być w stanie odpowiedzieć szczęśliwymi uśmiechami lub wyrazami smutku, nikt nie twierdzi, że Pepper faktycznie czuje takie emocje.

Czego potrzeba, by twórca robota tak twierdził? Po pierwsze, wciąż nie wiemy wszystkiego, co wiąże się z odczuwaniem emocji.

Rzeczy zrecenzowane

• Kultura i interakcja człowiek-robot w zmilitaryzowanych przestrzeniach: historia wojenna

  Julie Carpenter
  Routledge, 2016

• Jak powstają emocje: sekretne życie mózgu

  Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• Strategia systemów robotycznych i autonomicznych Armii USA

  Marzec 2017

W ostatnich latach rewolucje w psychologii i neuronauce radykalnie przedefiniowały samo pojęcie emocji, czyniąc jeszcze trudniejszym określenie i opisanie. Według naukowców, takich jak psycholog Lisa Feldman Barrett, profesor z Northeastern University, staje się coraz bardziej jasne, że nasze emocje różnią się znacznie w zależności od kultury, w której się wychowaliśmy. W różnych sytuacjach różnią się one nawet znacznie u poszczególnych osób. W rzeczywistości, chociaż podzielamy ogólne uczucia, które składają się na to, co nazywamy afektem (przyjemność, niezadowolenie, podniecenie i spokój) z większością innych ludzi i wieloma innymi zwierzętami, nasze bardziej ostre i specyficzne emocje różnią się bardziej niż są zgodne z określonymi normami. Na przykład strach jest koncepcją uzgodnioną kulturowo, ale rozgrywa się w naszych ciałach na niezliczone sposoby. Jest inspirowany różnymi bodźcami, inaczej manifestuje się w naszych mózgach i na różne sposoby wyraża się na naszych twarzach. W mózgu nie ma jednego ośrodka strachu ani obwodu strachu, tak jak nie ma wyrazu twarzy budzącego strach: wszyscy przetwarzamy i pokazujemy nasz strach na radykalnie różne sposoby, w zależności od sytuacji – w taki sposób, w jaki poprzez interakcje z innymi ludźmi uczymy się zidentyfikować lub nazwać strach.

Kiedy mówimy o strachu, mamy na myśli uogólnioną koncepcję parasola, a nie coś, co pochodzi z określonej części mózgu. Jak ujmuje to Barrett, emocje budujemy od ręki poprzez grę układów cielesnych. Jak więc możemy oczekiwać od programistów dokładnego modelowania ludzkich emocji w robotach?

Dobrzy żołnierze

Istnieją również moralne rozterki związane z programowaniem robotów tak, aby miały emocje. Te problemy są szczególnie dobrze ilustrowane przez roboty wojskowe, które, podobnie jak Octavia, są przeznaczone do wysyłania w przerażających, bolesnych lub potencjalnie śmiertelnych sytuacjach zamiast mniej zbędnych ludzkich członków drużyny.

Na konferencji w 2017 roku sponsorowanej przez armię, dość niepokojąco zatytułowaną Inicjatywę Szalonego Naukowca, generał porucznik Kevin Mangum, zastępca dowódcy Army Training and Doctrine Command, stwierdził, że takie roboty powinny i będą autonomiczne. Kiedy patrzymy na nasz coraz bardziej złożony świat, nie ma wątpliwości, że robotyka, systemy autonomiczne i sztuczna inteligencja będą odgrywać pewną rolę, powiedział Mangum. Strategia Army Robotic and Autonomous Systems z 2017 r. przewiduje pełną integrację systemów autonomicznych do 2040 r., zastępując dzisiejsze roboty do usuwania bomb i inne maszyny zdalnie obsługiwane przez ludzi.

Trener cywilny pokazuje spadochroniarzom, jak ustawić wyświetlacz dla robota bojowego PackBot. Choć te roboty mogą wydawać się niewyraźne, żołnierze w terenie nawiązują z nimi więź, postrzegając ich jako część zespołu. Michael J. McLeod

Skoro te roboty mogą działać i myśleć samodzielnie, czy tak jak Octavia powinny być programowane na podobieństwo ludzkich emocji? Czy powinny być zaprogramowane, aby faktycznie? mieć ludzkie emocje? Jeśli wysyłamy ich do bitwy, czy powinni nie tylko myśleć, ale czuć się razem ze swoimi ludzkimi towarzyszami?

Z jednej strony, oczywiście, że nie: jeśli projektujemy roboty, których wyraźnym celem jest narażenie ich na niebezpieczeństwo, sadystycznie byłoby dać im zdolność do znoszenia przerażenia, traumy lub bólu.

Z drugiej jednak strony, jeśli emocje wpływają na inteligencję i odwrotnie, czy możemy być pewni, że robot bez emocji byłby dobrym żołnierzem? A jeśli brak emocji prowadzi do głupich decyzji, niepotrzebnego ryzyka lub nadmiernie okrutnej zemsty? Czy robot pozbawiony emocji może zdecydować, że mądrą decyzją byłoby popełnienie tego, co ludzki żołnierz uważałby za zbrodnię wojenną? A może robot bez dostępu do strachu i gniewu podejmowałby lepsze decyzje niż człowiek w tej samej przerażającej i doprowadzającej do szału sytuacji?

Istnieje też możliwość, że jeśli emocje i inteligencja są ze sobą nierozerwalnie związane, nie ma czegoś takiego jak inteligentny robot bez emocji. W takim przypadku pytanie o to, ile emocji powinien mieć robot autonomiczny, w pewnym sensie wymyka się spod kontroli. programisty zajmującego się inteligencją.

Emocjonalne przywiązania

Pojawia się również pytanie, w jaki sposób te roboty mogą wpłynąć na ich kolegów z drużyny.

Do 2010 roku armia amerykańska zaczęła rozmieszczać flotę około 3000 małych robotów taktycznych, głównie w odpowiedzi na coraz częstsze stosowanie improwizowanych urządzeń wybuchowych w działaniach wojennych. Zamiast ludzkich żołnierzy roboty te toczą się po odsłoniętych drogach, do ciemnych jaskiń i przez wąskie drzwi, aby wykryć i wyłączyć nieprzewidywalne IED.

Żołnierze zgłaszali, że czują się zrozpaczeni, gdy tacy towarzysze bitwy, jak pokazany tutaj Talon, zostają zniszczeni na służbie. Qinetiq

Ta flota składa się głównie z PackBot firmy iRobot i Talon firmy QinetiQ North America, robotów, które nie są szczególnie zaawansowane. Wyglądają trochę jak WALL-E, ich pudełkowate metalowe ciała balansują na gumowych bieżnikach, które pozwalają im wykonać całkiem niezłą robotę pokonywania skalistego terenu, wchodzenia po schodach i schodzenia po ciemnych korytarzach. Mają przegubowe ramiona wyposażone w kamery wideo do badania otoczenia i pazury, aby majstrować przy urządzeniach wybuchowych.

Są użytecznymi narzędziami, ale nie są do końca autonomiczne. Są obsługiwane zdalnie, podobnie jak samochodziki, przez żołnierzy trzymających urządzenia, które czasami są wyposażone w joysticki. Jako przykład sztucznej inteligencji PackBot nie jest o wiele bardziej zaawansowany niż bardziej znany produkt iRobot, Roomba, który odkurza pod Twoim fotelem.

A jednak nawet teraz, pomimo niewyrazistej natury tych robotów, ludzie-żołnierze nawiązują z nimi więź. Julie Carpenter demonstruje w Kultura i interakcja człowiek-robot w zmilitaryzowanych przestrzeniach że te relacje są skomplikowane, zarówno satysfakcjonujące, jak i bolesne.

Kiedy Carpenter poprosił jednego z serwisantów, aby opisał swoje odczucia dotyczące zniszczonego robota, odpowiedział:

To znaczy, to nie było oczywiście… ani trochę bliskie bycia na tym samym poziomie, jak, no wiesz, twój kumpel zostaje zraniony lub widzi, jak członek zostaje usunięty lub coś w tym rodzaju. Ale nadal była pewna strata, poczucie straty spowodowanej czymś, co stało się z jednym z twoich robotów.

Inny serwisant porównał swojego robota do psa:

To znaczy, zadbałeś o to tak samo, jak o członków swojego zespołu. I upewniłeś się, że został posprzątany i upewniłeś się, że baterie są zawsze naładowane. A jeśli go nie używałeś, był on schowany najlepiej, jak to możliwe, ponieważ wiedziałeś, że jeśli coś się stanie z robotem, no cóż, nadeszła twoja kolej i nikt nie lubi tak myśleć.

Jeszcze inny mężczyzna wyjaśnił, dlaczego jego kolega z drużyny nadał swojemu robotowi ludzkie imię:

Pod koniec naszej wycieczki spędzaliśmy więcej czasu na zewnątrz, śpiąc w naszych ciężarówkach, niż w środku. Spaliśmy w naszych ciężarówkach poza ogrodzeniem przez dobre pięć do sześciu dni w tygodniu, a w ciężarówce siedziało trzech mężczyzn, jeden leżał na przednich siedzeniach; drugi leży w poprzek wieży. I nie możemy pobierać wrażliwych przedmiotów i zostawiać ich poza ciężarówką. Wszystko musi być zamknięte, więc nasz TALON znajdował się w środkowym przejściu naszej ciężarówki, a nasz młodszy facet nazwał go Danielle, żeby mieć kobietę do przytulania się w nocy.

„Mój piękny robot został zabity…” było tak naprawdę stwierdzeniem, które skierowałem do lidera mojego zespołu.

Wszyscy ci mężczyźni podkreślają, że roboty są narzędziami, a nie żywymi stworzeniami z uczuciami. Mimo to nadal nadają swoim robotom ludzkie imiona i bezpiecznie chowają je w nocy. Żartują z tego impulsu, ale w żartach jest nieco niepokojący dysonans. Żołnierze, z którymi rozmawiał Carpenter, zdają się czuć nieco uwięzieni między dwoma uczuciami: rozumieją absurdalność opieki nad pozbawionym emocji robotem, który ma być zbędny, ale mimo to odczuwają pokusę, by troszczyć się, przynajmniej trochę.

Kiedy Carpenter opublikowała swoje pierwsze wywiady, otrzymała więcej informacji od mężczyzn i kobiet w wojsku, którzy nawiązali prawdziwe więzi ze swoimi robotami. Jeden z byłych techników usuwania materiałów wybuchowych napisał:

Ponieważ jestem technikiem EOD od ośmiu lat i trzech wdrożeń, mogę ci powiedzieć, że twoje badania były dla mnie niezwykle interesujące. Mogę całkowicie zgodzić się z innymi technikami, z którymi rozmawiałeś, mówiąc, że roboty są narzędziami i jako takie wyślę je w każdej sytuacji, niezależnie od możliwego niebezpieczeństwa.

Jednak podczas misji w Iraku w 2006 roku straciłem robota, którego nazwałem Stacy 4 (po mojej żonie, która również jest technikiem EOD). Była doskonałym robotem, który nigdy nie sprawiał mi żadnych problemów, zawsze działał bez zarzutu. Stacy 4 została całkowicie zniszczona i udało mi się odzyskać tylko bardzo małe fragmenty podwozia. Natychmiast po wybuchu, który zniszczył Stacy 4, wciąż pamiętam uczucie gniewu, i to dużo. Mój piękny robot został zabity… tak naprawdę powiedziałem liderowi mojego zespołu. Po zakończeniu misji i odzyskaniu jak największej części robota płakałem z powodu jej utraty. Czułem się, jakbym stracił bliskiego członka rodziny. Tego wieczoru zadzwoniłem do żony i jej też o tym powiedziałem. Wiem, że to brzmi głupio, ale nadal nienawidzę o tym myśleć. Wiem, że roboty, których używamy, to tylko maszyny i ponownie podjąłbym te same decyzje, nawet znając wynik.

Cenię ludzkie życie. Cenię relacje, które mam z prawdziwymi ludźmi. Ale mogę ci powiedzieć, że z pewnością tęsknię za Stacy 4, była dobrym robotem.

Jeśli są to rodzaje świadectw, które można zebrać od żołnierzy wchodzących w interakcje z maszynami bez twarzy, takimi jak PackBots i Szpony, co można usłyszeć od żołnierzy rozmieszczonych z robotami, takimi jak Octavia, którzy widzą, słyszą i dotykają oraz mogą przewidywać stany umysłu swoich ludzkich kolegów z drużyny ?

W popularnych rozmowach na temat etyki dawania uczuć robotom mamy tendencję do skupiania się na wpływie takiej innowacji technologicznej na same roboty. Filmy i programy telewizyjne z Łowca ostrzy do Świat Zachodu zajmij się traumą, która byłaby spowodowana uczuciem robotów przez ludzi używających ich do rozrywki. Ale jest też odwrotność do rozważenia: trauma wyrządzona ludziom, którzy łączą się z robotami, a następnie wysyłają ich na pewną śmierć.

Powiązana historia

Powiązana historia Pojawiający się trend w sztucznej inteligencji polega na tym, aby komputery wykrywały, jak się czujemy i odpowiednio reagują. Mogą nawet pomóc nam rozwinąć dla siebie więcej współczucia.

To wszystko jeszcze bardziej komplikuje to, że jeśli robot taki jak Octavia w końcu poczuje ludzkie emocje, uczucia te nie będą tylko wynikiem architektury poznawczej, którą otrzymała na początku. Jeśli przypominają nasze emocje, ewoluują w kontekście jej relacji z kolegami z drużyny, jej miejsca w świecie, który zamieszkuje.

Jeśli, na przykład, jej wyjątkowe życie robota spędzi na wpadaniu w ogień przez jej ludzkich towarzyszy lub samotnej wędrówce po pustynnych drogach wypełnionych wybuchowymi urządzeniami, jej emocje będą inne niż te, których doświadcza bardziej chroniony robot lub lepiej chroniony robot. człowiek. Niezależnie od rozpoznawalnej ekspresji emocjonalnej, jaką wykonuje, jeśli spędza życie w nieludzkich sytuacjach, jej emocje mogą nie być rozpoznawalnie ludzkie.

Louisa Hall, pisarka z Nowego Jorku, jest autorką Mówić , powieść z 2015 roku o sztucznej inteligencji.

ukryć