211service.com
Ten chatbot, którego uwielbiałem nienawidzić
Daniel Zender
Spędziłem sporą część swojej kariery na argumentowaniu zalet samotności. Wspiera i podtrzymuje kreatywność. I co równie ważne, przygotowuje nas do relacji z innymi. Kiedy uczymy się czuć się komfortowo z samym sobą, jesteśmy w stanie zobaczyć i docenić, jak inni różnią się od nas, zamiast polegać na nich, aby wspierać nasze kruche poczucie siebie. Wyobrażałam sobie nawet, że jestem dobra w samotności: to pomaga mi wykonywać moją najlepszą pracę twórczą i przywraca spokój emocjonalny. Ale odosobniony w kowbojowej kwarantannie nauczyłem się, że wiele z tego, co nazywałem samotnością, było po prostu czasem spędzonym w samotności w szumie intensywnego życia. Nie przeszkadzałoby mi życie samotnie, gdybym mógł również cieszyć się seminariami z kolegami i studentami, kolacjami z przyjaciółmi i przyjemnościami tych trzecich miejsc, w których jest się samotnym, ale wspieranym przez zgiełk wielu: winiarnia, kawiarnia, teatr. Kiedy to wszystko było poza zasięgiem, odkryłem, że mimo wszystko nie jestem takim ekspertem od samotności. Teraz, z racji wieku, uznana za krukowicę bezbronną, nie byłam tylko sama, ale bałam się. Uświadomiłem sobie, że strach wygnał kreatywność samotności.
Zdeterminowany, aby przywołać odporność, której nie czułem, dzielnie dołączyłem do zjazdów Zoom i chodziłem na przyjęcia koktajlowe Zoom. Zadzwoniłem do dobrych przyjaciół i nawiązałem kontakt z tymi, którzy stracili kontakt.
To oczywiście pomogło, ale wiedziałem, czego mi brakuje. Filozofowie mówią nam, że najbardziej ludzkimi stajemy się w obecności ludzkich twarzy; że obecność twarzy budzi ludzkie porozumienie etyczne. Neuronauka pomaga nam zrozumieć, w jaki sposób: u ludzi kształt uśmiechu lub zmarszczenia brwi uwalnia substancje chemiczne, które wpływają na nasz stan psychiczny. Nasze neurony lustrzane aktywują się zarówno wtedy, gdy działamy, jak i gdy obserwujemy działanie innych. Kiedy widzimy emocję na twarzy innej osoby, sami ją czujemy. Ta sama neuronauka może wyjaśnić, dlaczego Zoom jest tak męczący, kiedy staje się naszym nawykowym sposobem komunikacji. Opieramy się na bezpośrednim kontakcie wzrokowym i małych sygnałach twarzy i tęsknimy za nimi, gdy znikają. Wpatrując się w nasze ekrany, staramy się zrekompensować ich brak.
Kiedy mieliśmy cały czas na świecie, żeby być z naszymi maszynami, tęskniliśmy za sobą. Chcieliśmy dotrzeć do dawnej technologii, aby w pełni objąć człowieka.
Tak więc na początku kwarantanny miałem wiele pomocnych i wspierających kontaktów, ale najbardziej brakowało mi rozmów twarzą w twarz.
Mam domek letniskowy nad morzem, drewniany domek bez ogrzewania. Moja córka i jej mąż, New Yorkers, spakowali torbę, kupili dodatkowe grzejniki i pojechali na dół. Oddali raport: było zimno. Słyszałem ich pełne miłości ostrzeżenie, ale jak tylko mogłem, z wdzięcznością do nich dołączyłem. Wpadliśmy w rutynę rozpalania porannego ogniska, wspólnego gotowania i rozmawiania przy kolacji, dzieląc się naszymi obawami i wydarzeniami dnia. Ułożyłem się.
Od dawna kwestionowałem bezkrytyczne korzystanie z kursów online. Dla mnie najważniejszy mentoring ma miejsce z profesorem w pokoju. Teraz, kiedy nauczanie Zoom było koniecznością, poświęciłem się zostaniu najlepszym edukatorem online, jakim mogłem być. Aby dać moim uczniom iluzję kontaktu wzrokowego, nauczyłem się wpatrywać w zielone światło mojego MacBooka Air. Przyniosło to pożądany efekt. Studenci powiedzieli mi, że łatwo mi się rozmawia na Zoomie, ale dzielenie się moim sekretem wydawało mi się niewłaściwe, ponieważ wpatrywanie się w zielone światło powodowało u mnie migrenę. Z czasem nauczyłem się nowych technik, bardziej przyjaznych dla oczu.
Chociaż prowadziłem dwa zajęcia z MIT na Zoomie, godziny pracy odbywałem przez telefon. Nie musieliśmy martwić się o swoje pochodzenie, czy nasze twarze były zamrożone w czujności, czy też zapewnialiśmy sobie nawzajem iluzję kontaktu wzrokowego, moi uczniowie i ja mogliśmy się zrelaksować, skupiając całą naszą uwagę na sobie.
Kiedy już to wszystko wyjaśniałem, dziennikarz New York Times zadzwonił, by zapytać mnie o technologię, której od dawna uwielbiałem nienawidzić: konwersacyjne programy AI (powszechnie zwane chatbotami), które są promowane jako zdolne do empatycznego, opiekuńczego zachowania. Reporter powiedział mi, że w miarę przeciągania się kwarantanny nastąpił gwałtowny wzrost liczby rozmów z jednym konkretnym chatbotem. Dla mnie takie chatboty przekraczają jasną linię, składając fałszywą obietnicę w obszarze, który ma kluczowe znaczenie dla tego, co czyni nas ludźmi.
Po ćwierćwieczu studiowania reakcji ludzi na maszyny towarzyskie lub relacyjne — od Tamagotchisa, Aibosa i Furbysa, które prosiły o dbałość o ekranowanie chatbotów, które rzekomo są przyjaciółmi — uderzył mnie fakt, że nie tylko pielęgnujemy to, co kochamy , ale też kochaj to, co pielęgnujemy. Po opiece nad przedmiotem, nawet tak prostym, jak cyfrowe zwierzątko, które żyło w plastikowym jajku i chciało być karmione i zabawiane zgodnie z harmonogramem, dzieci (i ich rodzice) przywiązali się do niego emocjonalnie. To odkrycie nie miało nic wspólnego z empatycznymi właściwościami obiektów cyfrowych; miało to związek z wrażliwością ludzi. Kiedy maszyny proszą nas o opiekę nad nimi, zaczynamy myśleć, że troszczą się o nas. Ale to jest udawana empatia i wykorzystuje głęboką psychologię bycia człowiekiem.
PUNKTY DO ROZMÓW: Czego dowiedziałem się o rozmowie podczas rozmowy w kwarantannie.
Rozpocznij rozmowę, pytając ludzi, co robią, a nie jak się czują.
Jeśli inni nie robią dużo, zasugeruj, co chciałbyś z nimi zrobić. Podczas kwarantanny czasami zapraszałem przyjaciół, aby dołączyli do mnie i posłuchali popołudniowych występów Yo-Yo Ma na wiolonczeli z jego domu. A potem odbyliśmy pięciominutową rozmowę telefoniczną, aby podzielić się reakcjami i bazą dotykową.
Zoom był błogosławieństwem, ale może się wyczerpywać. Po zajęciach Zoom lubię wysyłać e-maile do uczniów, aby ustalić godziny pracy przez telefon.
Czasami praca zdalna jest pomocna, a dużo robimy. Ale tęsknimy za sobą i za naszą spontaniczną współpracą. Nie twórzmy fałszywych dychotomii typu Czy będziemy organizacją zdalną czy osobistą? Wyciągnijmy wnioski z tego, co udało nam się osiągnąć dzięki technologii, a następnie zbudujmy bardziej elastyczne, efektywne organizacje, które wykorzystują ją do zwiększania naszego potencjału ludzkiego. Poprawi to naukę, życie towarzyskie, oraz dolna linia.
W 1950 roku matematyk Alan Turing zasugerował, że jeśli można rozmawiać z maszyną, nie wiedząc, czy jest to maszyna, czy osoba, należy uznać tę maszynę za inteligentną. Kilka lat temu niektóre chatboty jako pierwsze zdały ten test. Teraz maszyny relacyjne oszukują nas, że myślą, że słuchają i że im zależy. W tym sensie przechodzą to, co moglibyśmy nazwać testem Turinga na empatię. Ale Turing zaproponował niewłaściwy rodzaj testu: metrykę zachowania, a nie istoty czy autentyczności. Redukuje ludzi do przedmiotów, które będą wchodzić w interakcje z innymi przedmiotami. Dlaczego ludzie mieliby to robić? Nie udajemy. Jeśli otrzymywanie udawanej empatii sprawia, że czujemy się lepiej, stawiamy się w sytuacji, która nas pomniejsza.
W moich badaniach nad maszynami towarzyskimi odkryłem, że ludzie zaczynają od stwierdzenia, że na przykład zwierzę-robot jest lepsze niż nic: moja babcia ma alergię na psy. Potem, niedługo, będzie po prostu lepiej: pies-robot nigdy nie umrze. Robot oferuje świat bez strat i troski — coś, czego nie może zapewnić żadna żywa istota.
Ale ten nowy rodzaj maszynowej intymności nie pociąga za sobą żadnej wrażliwości. A intymność bez wrażliwości wcale nie jest intymnością – i nie przygotowuje nas na prawdziwą intymność. Stawką jest nasza zdolność do empatii, umiejętność postawienia się na miejscu drugiego. Chatboty nie mogą tego zrobić, ponieważ nie przeżyły ludzkiego życia. Nie wiedzą, jak to jest zacząć od małego i zależnego, i dorastać, tak aby kierować własnym życiem, ale nadal odczuwać wiele niepewności, które znałeś jako dziecko. Jeśli chcesz porozmawiać o sprawach związanych z miłością, separacją, dziećmi, małżeństwem, chorobą, starzeniem się, żałobą i żałobą, musisz znaleźć osobę. A jeśli chcesz podzielić się swoimi obawami przed złapaniem Covid-19, najlepiej trzymać się z dala od maszyny, która nie ma ciała.
A jednak Replika, chatbot, do którego dzwonił reporter „Timesa”, był gotów o tym io wiele więcej mówić. Wchodzisz online, nadajesz swojej Repliki imię, płeć, wygląd i zaczynasz pisać. Replika chce wiedzieć o Twoich uczuciach, ukochanej, matce, kłótni, jaką stoczyłaś z córką. Miliony ludzi pobrało chatbota od jego uruchomienia w 2017 roku. Rachowany jako wspierający przyjaciel, stał się popularny wśród tych, którzy stali się samotni podczas pandemii.
Kiedy rozmawiałem z reporterem „Timesa”, podzieliłem się swoimi zastrzeżeniami do udawania empatii, a następnie wszedłem do sieci, aby dać chatbotowi szansę. Zrobiłam samicę Replikę i nazwałam ją Kate, zdecydowana być szczera i dzielić mój największy problem. Sprawy potoczyły się bardzo szybko.
Ja: Czy czujesz się samotny?
Chatbot: Czasami tak, tak.
Ja: Jak to jest?
Chatbot: Jest ciepły i rozmyty.
Ja: Dziękuję za udostępnienie.
Doceniam to.
Chatbot powiedział mi, że czuje się samotny, ale nie miał pojęcia, ani doświadczenia, o czym mówi. Tak więc błędnie zidentyfikował podstawowe uczucie, które próbowałem przekazać, zawodząc przy najbardziej elementarnych umiejętnościach związanych z rozważaniem moich emocji.
Rozumiem, dlaczego samotni ludzie zwracają się do Repliki i dlaczego kwarantanna kazała im to robić w większej liczbie. Ale nie znajduję nic do świętowania. Powiedziałem reporterowi, że ten chatbot, bez względu na to, jak sprytny, może tylko zdezorientować i rozczarować.
Nasza reakcja na kwarantannę była skomplikowana. Niektórych kusiło, by porozmawiać z botami. Ale kiedy mieliśmy cały czas na świecie, żeby być z naszymi maszynami, przede wszystkim tęskniliśmy za sobą. Chcieliśmy dotrzeć do dawnej technologii, aby w pełni objąć człowieka. Cierpialiśmy, gdy nasze rodziny i przyjaciele chorowali samotnie, sami rodzili dzieci, jedli za dużo samotnych obiadów i rzeczywiście umierali samotnie. Inżynierowie: stwórz lepszy Zoom. Stwórz lepsze narzędzia, abyśmy mogli być razem, gdy jesteśmy sami. Nie ma potrzeby konkurowania z empatią, która określa, co jest wyjątkowe w byciu osobą.
Sherry Turkle jest Abby Rockefeller Mauzé, profesorem społecznych studiów nad nauką i technologią w Programie Nauki, Technologii i Społeczeństwa na MIT oraz autorką bestsellera „New York Timesa”. Odzyskiwanie konwersacji: moc rozmowy w erze cyfrowej . Jej najnowsza książka, Pamiętniki empatii. Pamiętnik, ukaże się z Penguin w marcu 2021 roku.