Dlaczego ludzie mogą nigdy nie korzystać z samochodów autonomicznych

Zautomatyzowana jazda cały czas się rozwija, ale wciąż brakuje kluczowego brakującego składnika: zaufania. Gospodarz Jennifer Strong spotyka się z inżynierami budującymi nowy język komunikacji między zautomatyzowanymi pojazdami a ich pasażerami, co jest kluczowym brakującym elementem w dążeniu do przyszłości bez kierowców.

Spotykamy się:

• Dr Richard Corey i dr Nicholas Giudice, założyciele laboratorium VEMI na Uniwersytecie Maine
• Ryan Powell, UX Design & Research w Waymo.
• Rashed Haq, wiceprezes ds. robotyki w firmie Cruise

Kredyty:

Ten odcinek został zrelacjonowany i wyprodukowany przez Jennifer Strong, Tanyę Basu, Emmę Cillekens i Tate Ryan-Mosley. Pomogli nam Karen Hao i Benji Rosen. Redagują nas Michael Reilly i Gideon Lichfield.

Pełna transkrypcja odcinka:

Jennifer Silna: Samochody bez kierowcy wyczarowywano w filmach i mówiono o nich od dziesięcioleci. Pierwsze próby ich wykonania miały miejsce około sto lat temu. I na pewno nie są już tak niewiarygodne, jak w Herbie The Love Bug z lat 60., gdzie ten samojezdny samochód ma własny rozum:

[Herbie clip]: Nie przyprowadziłem cię tutaj. To ten paskudny mały samochód.

Jennifer Silna: Ale podczas gdy sztuczna inteligencja napędzająca tę technologię skoczyła w zawrotnym tempie — a teraz mamy kilka samojezdnych taksówek w Stanach Zjednoczonych i Chinach — faktem jest, że komunikacja między samochodem a człowiekiem w środku nie zaszła tak daleko od czasów Herbiego odjeżdżającego bez zgody kierowcy.

Co więcej, sygnały dźwiękowe i dźwięki, które miały nam powiedzieć coś o tym, co robi samochód, nie informują nas intuicyjnie, co się dzieje.

Szczerze mówiąc, nie jest to tylko problem z pojazdami zautomatyzowanymi — pojawia się on w większości samochodów z elementami skomputeryzowanymi. Mój samochód prosi pasażera o zapięcie pasa, kiedy jest tylko torebka.

Pomimo najlepszych starań programistów nadal istnieje podstawowy problem: samochody i ludzie nie mówią tym samym językiem.

To wszystko ma znaczenie, ponieważ nie jest to gra wideo ani telefon próbujący zinterpretować swój matematyczny język jedynek i zer w sposób, który ma sens w ludzkim języku. To poruszająca się rzecz przenosząca nasze ciała z miejsca a do miejsca b. Kiedy coś pójdzie nie tak, mogą pójść naprawdę nie tak.

Nazywam się Jennifer Strong i w tym odcinku zagłębiamy się w kilka trudnych pytań dotyczących użyteczności i zaufania.

Wyobraź sobie, że masz zamiar wyjść z domu — starasz się dostać na spotkanie z kilkoma klientami. Chcesz wcześniej porozmawiać z szefem, ale musisz też zabrać dzieci do szkoły. Ty i dzieciaki wydostajesz się przez drzwi i idziesz do samochodu z kawą i tostem w ręku, plecakami i butelkami z wodą w ręku. Przydałoby się ustawić autopilota. Ale czy zaufałbyś mu? Czy naprawdę możesz sobie wyobrazić puszczenie kierownicy?

A skąd wiesz, który scenariusz jest mniej bezpieczny? Nieunikniona wielozadaniowość i zarządzanie dziećmi podczas jazdy? Albo oddanie części kontroli maszynie?

Technologia, którą mamy teraz, taka jak autopilot Tesli, nie jest wystarczająco zaawansowana, aby być naprawdę autonomiczną. Ludzie w terenie nazywają to jazdą zautomatyzowaną – wymaga to od człowieka monitorowania tego, co robi samochód – wiemy, że co najmniej pięć osób zginęło w wypadkach z jazdą zautomatyzowaną, gdy ktoś za kierownicą nie zwracał szczególnej uwagi.

Jednak rozproszeni kierowcy są niebezpieczni w każdym rodzaju samochodu, a w Stanach Zjednoczonych każdego roku w wypadkach ginie od 30 do 40 tysięcy ludzi.

Jennifer Silna: Idąc na spacer po mojej dzielnicy, często widuję moją najlepszą przyjaciółkę na ganku z jej trzynastoletnim dzieckiem. To typowa scena miejska… z wyjątkiem tej następnej części.

Hanna : Wchodzisz do kontroli… to się nie ładuje…

Jennifer Silna: Hannah używa aplikacji na iPhonie swojej mamy, by wjechać swoim elektrycznym samochodem na miejsce parkingowe, gdzie mogą go podłączyć.

Hanna : Cóż, to jest kwestia użyteczności… nie ładuje się.

Camelle : To zdarza się wiele razy, kiedy po raz pierwszy zaczynamy wdrażać funkcję przywołania…

Jennifer Silna: Dzieci dorastają z aplikacjami i często są bardziej intuicyjne dla nich, jak te rzeczy działają, niż dla ich rodziców. Nie są też tak łatwo sfrustrowani nową technologią.

Hannah: Zaczynamy. Dobra. To pokazuje zdjęcie samochodu. Po prostu pchasz w którąkolwiek stronę chcesz iść i trzymasz ją, a powinna się poruszać. Ale to nie… [chichot] ...

Jennifer Silna: Producent samochodów Tesla ma między innymi funkcję autopilota, która pozwala kierowcom przyzywać samochody na parkingach, aby je odebrać.

Oh! To idzie.

Hanna : A więc zapalają się światła i widać, że kierownica porusza się wewnątrz samochodu… a także myśli, że nasz bagażnik na rowery to inny samochód, więc nie możemy go tym odwrócić.

Jennifer Strong: Autopilot oferuje również bardziej zaawansowaną wersję tempomatu… choć też nie jest idealna.

Camelle : Ale doceniłem to, że zatrzyma się lub zwolni w zależności od osoby przed tobą. Jeśli nie możesz wjechać na pas mijania. Jednak nadal musisz być czujny, ponieważ zatrzyma się martwy na szybko poruszającej się autostradzie. Z powodów… bez powodu. Nie mogę powiedzieć. Więc jestem bardzo nieufny. Nie pozwala mi się zbytnio zrelaksować. Po prostu pozwól mojej stopie odpocząć.

Camelle : A kiedy chce ze mną porozmawiać o swoich środkach bezpieczeństwa, chciałbym, żeby mówił po prostu. Zamiast beep beep… próbując przewijać… co do [pisk] czy to znaczy? Nie wiem [śmiać się]

Hanna : Kiedy robimy aktualizacje oprogramowania, daje nam to zarys tego, co zostało zrobione. Ale tak jak powiedziała moja mama, to nie jest po angielsku. Bardzo trudno to zrozumieć. Więc naprawdę musisz po prostu dowiedzieć się, co się zmieniło, co może być niebezpieczne. Jeśli to coś poważnego, nie wiesz, jak włączyć ogrzewanie lub autopilota. Poza tym wiem, że kiedy zacząłem jeździć na przednim siedzeniu, stałem się kimś w rodzaju pilota i nie ma oczywistego sposobu na dostosowanie rozmiaru czcionki. Moja mama nie potrafi odczytać czasu ani nawigacji. Ma bardzo dobry wzrok, ale nadal jest jej ciężko. I muszę oderwać wzrok od drogi. Gdybym prowadził, prawdopodobnie też bym nie był w stanie tego zrobić. Nie jest więc zbyt przyjazny dla użytkownika.

Jennifer Silna: Nie można zaprzeczyć, że mamy w tym związku prawdziwe problemy – to tylko kwestia… w jaki sposób są adresowani, ponieważ badacze, którzy koncentrują się na tym na Uniwersytecie Maine, są zbyt świadomi.

Richard Corey : Od strony ludzkiej jest bardzo mało dyskusji. I będę pierwszy, który to powie... Dobrze! Po pierwsze, chcę mieć pewność, że samochód pozostanie na drodze. To jest nasz numer jeden. Upewnij się, że inżynieria jest odpowiednia i pozostaną na drodze… ale wkrótce dojdziemy do punktu, w którym będziemy musieli się nimi zająć, i musimy dowiedzieć się, co to oznacza po ludzkiej stronie, czego potrzebujemy?

Jennifer Silna: Richard Corey jest dyrektorem laboratorium VEMI na Uniwersytecie Maine, które koncentruje się na interakcjach człowiek-maszyna.

Richard Corey : Zaczęliśmy się temu bliżej przyjrzeć, zdaliśmy sobie sprawę, że powiadomienie na Tesli, którą wszyscy uważają teraz za wiodącą w pojazdach autonomicznych, powiadomienie o tym, że Tesla nie ma już kontroli, to cztery sygnały dźwiękowe. I pomyśleliśmy, że to za mało informacji [śmiech], biorąc pod uwagę przetwarzanie neuro i inne rzeczy, przez które przechodzimy, kiedy prowadzimy samochód i jesteśmy świadomi rzeczy wokół nas i…

Mikołaj Giudice : Nawiązując do tego, zdaliśmy sobie sprawę, że…

Jennifer Silna: A to współzałożyciel laboratorium, Nicholas Giudice .

Mikołaj Giudice : Chociaż ludzie tak naprawdę nie myślą o ludzkiej stronie rzeczy i nie patrzą na wszystkie ludzkie czynniki, przeprowadzono pewne badania, głównie badania ankietowe, które dość konsekwentnie pokazują, że ludziom podoba się pomysł autonomicznych pojazdów. A potem, kiedy powiesz, czy chciałbyś wyjść i wejść do jednego? Mamy jeden tuż poza laboratorium. Mówią: O nie, absolutnie nie. Chodzi mi o to, że pokazują ten rodzaj strachu przed technologią, strachu przed tym, jak ona działa. Strach przed niewiedzą, rodzaj utraty kontroli. Ponieważ prowadzenie pojazdu daje ci poczucie, wiesz, masz wpływ na ten proces, masz kontrolę nad tym, co się dzieje. A kiedy wsiadasz do pojazdu autonomicznego, ludzie wydają się być zaniepokojeni nie tylko tym, nie mają kontroli, ale nie wiedzą, dlaczego pojazd robi to, co robi.

Jennifer Silna: Aby pomóc zrozumieć, jak może funkcjonować ta relacja zaufania, badają, jak ludzie to robią.

Mikołaj Giudice: Kiedy ludzie ufają sobie nawzajem, to dlatego, że nauczyli się współpracować. Nauczyli się rozumieć, czego od siebie potrzebują. A więc ta idea współpracy człowieka z pojazdem jest rodzajem podstawowej struktury dla naszych badań. Częściowo zdobywamy zaufanie, mówiąc, czy możemy zbudować proces współpracy, w którym człowiek może zrozumieć, jak wchodzić w interakcje i czego potrzebuje pojazd, a pojazd lepiej rozumie, co człowiek robi i czego potrzebuje. Ten proces, ten proces współpracy, buduje zaufanie. I tak zasadniczo budujemy zaufanie poprzez lepszą komunikację.

Jennifer Silna: Zaufanie nie jest namacalne. Jak więc naukowcy, skupieni na doświadczeniu użytkownika, mierzą to?

Mikołaj Giudice : Czy są zrelaksowani? Możemy na to spojrzeć na podstawie miar fizjologicznych. Więc możesz spojrzeć na tętno lub przewodnictwo skórne. Zobacz, jak zmienia się ich uwaga, a więc zdobywanie zaufania za pomocą różnych rodzajów narzędzi, które naszym zdaniem jest innowacyjnym sposobem na zrobienie tego. Ponieważ do tej pory sprawdzano to w ankietach, prawda? Więc ludzie biorą udział w tych ankietach i jest to dobry sposób na przyjrzenie się aspektom zaufania, ale tak naprawdę nie jest to aż tak bezpośrednie. A więc kiedy połączymy miary jakościowe i ilościowe oraz behawioralne i fizjologiczne, otrzymamy znacznie większy, bardziej solidny sposób patrzenia na zaufanie z różnych poziomów.

Jennifer Silna: Ich osobiste testy zostały wstrzymane przez koronawirusa. Ale zasadniczo to, co mieli nadzieję zrobić, to:

Richard Corey : Przez rok zamierzaliśmy korzystać z pojazdu autonomicznego w miejscu publicznym. I zamierzaliśmy zacząć zastanawiać się, co możemy tam umieścić. Czy możemy tam umieścić kamery? Czy możemy mieć tam ludzi do prowadzenia badań obserwacyjnych? Czy możemy umieścić czujniki w siedzeniu, żeby dowiedzieć się, nie wiem, jak bardzo ludzie się kręcą, jeśli są zdenerwowani, czy coś. Wszelkie dane, które moglibyśmy zebrać, aby rozpocząć proces ustalania, kto jest wygodny, a kto nie.

Jennifer Silna: Naukowcy chcą śledzić, czy ludzie czują się bardziej komfortowo i bardziej ufni wraz z ewolucją samochodów, a ostatecznie uzyskują możliwość wyjaśnienia, co robią i dlaczego.

Ale nawet jeśli możesz zmierzyć zaufanie, nie jest ono równe. I nie wszyscy go podają w ten sam sposób.

Mikołaj Giudice : Ludzie są pod pewnymi względami bardziej chętni, zwłaszcza ktoś taki jak ja, który jest wrodzony niewidomy, jestem bardziej skłonny do podejmowania niektórych nieznanych zagrożeń, które dotyczą pojazdów autonomicznych. Bo jestem jak, tak! To pozwoli mi dotrzeć tam, gdzie chcę i kiedy chcę. Wiesz, możesz mieć trasy autobusowe, możesz mieć paratransit, ale wtedy jesteś przywiązany do bardzo określonych rozkładów jazdy. Jest to opłacalny ekonomicznie i po prostu naprawdę uwalniający sposób poruszania się. Tak więc ten związek z niezależnością, ten związek z jakością życia jest powiązany z zaufaniem, część zaufania jest również po prostu wiedzą, że jest równomierne, ufają, że to coś, co może działać, ponieważ w tej chwili tak wielu systemy, które tam są, nie działają.

Jennifer Silna: To samo dotyczy osób, które się starzeją lub mają problemy, które mogą uniemożliwić im prowadzenie pojazdu.

Czego więc możemy się nauczyć, obserwując, jak ludzie ufają komuś za kierownicą — i jak odtworzyć tę relację, jeśli chodzi o ludzi i samochody bez kierowcy?

Richard Corey : My jako ludzie możemy fizycznie stwierdzić, czy ktoś jest zdenerwowany.

Jennifer Strong: Richard Corey.

Richard Corey : Chwytają deskę rozdzielczą, wbijają w nią gwoździe, tego typu rzeczy i są zdenerwowani, a potem możesz dostosować sposób jazdy. Możesz nawet powiedzieć, Hej, w porządku. To znaczy, kiedyś jechałem w naprawdę strasznej burzy śnieżnej i wszyscy w samochodzie wariowali. A ja pomyślałem, słuchaj, wiesz, wszystko w porządku. Nadal mam nad tym kontrolę. I to właśnie te małe ludzkie rzeczy, które robisz, łączą. Co może samochód lub komputer, cokolwiek ci mówi, że mówi: Hej, w porządku. Dlatego to robię. Zamierzamy zjechać na prawy pas, ponieważ jest to naprawdę trudne i musimy trochę zwolnić, ale tak naprawdę nie widzimy, jak działa obecnie żadna z istniejących technologii. I tego jako ludzie potrzebujemy.

Jennifer Silna: A jego kolega Nicholas Giudice mówi, że tak może działać komunikacja...

Mikołaj Giudice : Może istnieć awatar, po prostu rzeczy, o których możesz zacząć myśleć w kategoriach pojazdu w kategoriach ludzkich właściwości, że nie jest to tylko automatyzacja czarnej skrzynki, którą jesteś po prostu... w .

Jennifer Silna: Długoletnim liderem w wyścigu do budowy pojazdów autonomicznych jest firma Waymo, znana wcześniej jako projekt Google autonomicznego samochodu.

Stała się pierwszą na świecie robo-taksówką w 2018 roku, po wprowadzeniu floty samojezdnych taksówek na drogi w Phoenix w Arizonie. I pomimo konieczności zawieszania osobistych przejażdżek podczas globalnej pandemii, ich samochody nadal pokonują 20 milionów wirtualnych mil dziennie w symulatorach.

Jest to również jedna z niewielu firm, które obecnie testują samojezdne ciężarówki w Teksasie.

W Waymo komunikacja wygląda jak ekrany telewizorów, efekty dźwiękowe… i ludzkie głosy…

Ryan Powell : A więc wiemy dzisiaj, że kiedy jesteś pasażerem w samochodzie prowadzonym przez człowieka, istnieje wiele sposobów komunikacji między tobą a kierowcą, które pomagają zbudować zaufanie.

Jennifer Silna: Ryan Powell kieruje zespołem ds. badań i projektowania doświadczeń użytkowników.

Ryan Powell : ...więc może to być bezpośrednia komunikacja. Tak jak możesz zapytać kierowcę, którą trasą jedziemy lub dlaczego nie ruszasz, światło jest zielone, ale może też być pośrednie. Jakby można było zauważyć, że ten ludzki kierowca może zmienić położenie rąk na kierownicy, zanim będzie gotowy do skrętu w lewo. Ale od samego początku wiedzieliśmy, że potrzebujemy jakiejś metody komunikacji w naszych pojazdach, aby zbudować zaufanie, aby kierowcy czuli się bezpiecznie i pewnie i byli poinformowani… w tym celu spędzamy dużo czasu myśląc o interfejsie wizualnym w naszym samochodzie. staramy się zwizualizować to, co samochód widzi, wiesz, w jaki sposób przekazujemy intencje samochodu w jakich sytuacjach kierowcy potrzebują dodatkowych informacji, jaki jest właściwy poziom informacji.

Jennifer Silna: Ponieważ z drugiej strony starają się również nie przeciążać motocyklistów zbyt dużą ilością informacji.

Ryan Powell : Tak więc to, co słyszysz, gdy wchodzisz w interakcję z produktem lub usługą, powinno być tak samo brane pod uwagę przy projektowaniu, jak to, co widzisz. Więc kiedy myślimy o naszym doświadczeniu użytkownika, postanowiliśmy projektować nie tylko to, co widać, ale także to, co można usłyszeć.

I to jest to, co nazywamy czymś w rodzaju naszego powitalnego utworu, który można usłyszeć, gdy drzwi się otworzą i gdy w jakiś sposób wejdziesz do pojazdu, ale informacje głosowe pozwalają nam przekazać bardziej złożone informacje, a także do personalizacji wiadomości. To jest przykład tego, co usłyszałby jeździec, gdy samochód zacznie się ruszać. Więc pustynny park bryzy jest oczywiście celem, który umieścił tam jeździec. I znowu jesteśmy w stanie spersonalizować ten głos poprzez, hm, biorąc miejsce docelowe, które wprowadzili do aplikacji i po prostu uświadamiając kierowcy, że wiemy, gdzie jest miejsce docelowe, dokąd zmierzamy tak, jak my, jako samochód rzeczywiście się ruszał.

Jennifer Silna: Zastanawiałem się, co się stanie, jeśli zaśniesz w taksówce bez kierowcy? Jak samochód – lub pomocnik, jak nazywa go Waymo – budzi cię?

Ryan Powell : Informujemy Cię, kiedy, hm, jesteś o minutę drogi od swojego, swojego celu i pomysłu na to w pewnym sensie, jeśli w pewnym sensie przysadziłeś lub przysnąłeś, to jest to, gdzie my używać głosu. Odzywa się więc głos i informuje, że przyjeżdżasz za około minutę. I druga rzecz, która służy jako przypomnienie, żeby zebrać swoje rzeczy, jeśli coś położyłeś na innych siedzeniach i żeby tego nie zostawić, że za sobą, bo znowu, nie nie mam tego ludzkiego kierowcy, który by się rozglądał i mówił: Hej, zapomniałeś kurtki. Albo, wiesz, zapomniałeś swojego, swojego, hm, swojego telefonu lub torby. W takim przypadku używamy głosu. I myślimy też, hm, wiesz, że to pomogłoby komuś się obudzić, gdyby trochę zdrzemnął się podczas jazdy.

Jennifer: Wiele badań poświęcono wyborowi głosu dla pojazdu autonomicznego, któremu kierowcy mogliby zaufać.

Ryan Powell : Często jesteśmy pytani o to, dlaczego głos żeński kontra męski, ale tak naprawdę decyzja nie dotyczyła dla nas płci. Chodziło bardziej o znalezienie najlepiej brzmiącego głosu, który pasowałby do tych zasad. I tak w końcu to był kobiecy głos dla nas, wiesz, głos, który brzmi kompetentnie, troskliwie i przyjaźnie, wiesz, znowu w pewnym sensie pomaga ludziom mieć pozytywne doświadczenia. I właśnie o to nam chodziło, gdy myśleliśmy o głosie, który słyszysz w samochodzie.

Jennifer Silna: Co więcej, Waymo wytwarza wszystkie dźwięki w określonym kluczu, mając nadzieję, że wpłynie na to, jak czujemy się w samochodzie.

[Dźwięk]

Ryan Powell : Jest taki pomysł, że klucz E jest czymś w rodzaju genialnego lub optymistycznego klucza. A więc zauważycie, że cały nasz pejzaż dźwiękowy jest znowu grany wokół tego, tego klawisza E. I tak, zagram dźwięk tutaj w tonacji E.

[Dźwięk]

Jako badacze spędzamy dużo czasu z naszymi kierowcami, staramy się odkryć te momenty, w których ludzie potrzebują dodatkowych informacji, aby zrozumieć, co dzieje się w pojeździe. I znowu, w pewnym sensie wraca do idei budowania zaufania. Więc może to być prosty przykład, w którym samochód, po prostu jedziesz, nagle zwalnia i widzimy to cały czas. Ty tak jakby, wiesz, nie jesteś, oczywiście, to nie jest chwila niepokoju ani alarmująca chwila, ale ty, jakby patrzysz znad telefonu i zastanawiasz się, jak: Och, co się dzieje, wiesz, nie ma nikogo przed nami, a jednak jedziemy znacznie wolniej niż przed chwilą. To jest przykład tego, gdzie w takim przypadku weszliśmy do strefy szkolnej, ale znowu, ponieważ nie prowadzisz samochodu, prawdopodobnie nie będziesz tego wiedział od ręki. I tak właśnie tutaj polegamy na tym interfejsie wizualnym lub w niektórych przypadkach używamy dźwięku lub głosu, aby poinformować Cię, co się stało.

Jennifer Silna: Jednym z głównych konkurentów Waymo jest Cruise. Po przerwie spotykamy jej szefa robotyki.

[w trakcie]

Jennifer Silna: Samojezdna firma samochodowa Cruise jest częścią General Motors. Start-up z San Francisco buduje samochody elektryczne i koncentruje się na wspólnych przejazdach i dostawach w gęstych środowiskach miejskich.

Rashed Haq jest jej wiceprezesem ds. robotyki.

Rashad Huck : Samojezdne samochody muszą uczyć się zachowań społecznych innych kierowców lub innych uczestników ruchu, takich jak piesi. A jednocześnie muszą dostosować się do ludzkich oczekiwań społecznych innych kierowców i pasażerów. I muszą to zrobić, osiągając jednocześnie nadludzki poziom bezpieczeństwa.

Jennifer Silna: Częścią jego pracy jest uczenie autonomicznych pojazdów, aby były bardziej ludzkie, ponieważ podczas jazdy robimy wiele rzeczy dla własnej wygody. Preferujemy płynniejsze zakręty i nie jedziemy dokładnie środkiem pasa obok zaparkowanych samochodów.

On i jego zespół badają nasze nawyki nie tylko po to, aby naśladować je w określonych sytuacjach, ale także aby się do nich dostosować. Mówi na przykład, że używają algorytmów komputerowego widzenia do analizy intencji pieszych na podstawie ich zachowań.

Rashad Huck : Na przykład, jeśli ktoś stoi na przejściu dla pieszych, ale patrzy w dół na swój telefon, to AV może wywnioskować, że albo jest mało prawdopodobne, aby przejść od razu, albo jest rozkojarzony i faktycznie może zacząć chodzić i nie patrzeć w górę .

Mamy czujniki, które widzą 360 stopni dość daleko, zwykle więcej niż ludzie. I każdego dnia robimy więcej jazdy niż człowiek zrobiłby przez całe życie. Daje to więc pewne granice tego, jak i jak szybko algorytmy mogą się podnieść. Oczywiście nie musi jeszcze mieć osądu ludzi.

Jennifer Silna: A zanim tam dotrzemy, musimy wiedzieć, w jaki sposób chcemy zautomatyzować jazdę przez człowieka.

Czy możemy realistycznie oczekiwać, że ludzie przejmą kontrolę w dowolnym momencie, gdy oddadzą tę kontrolę przez większość jazdy? Inżynierowie zajmujący się samolotami już dawno zdali sobie sprawę, że piloci nie mogą robić tego bezpiecznie, więc systemy nawigacyjne zawsze zmuszają ich do wykonywania jakiegoś zadania, aby pozostać zaangażowanym w latanie.

Może to oznacza, że ​​samochody powinny powstrzymywać się od tego, jak bardzo zabierają kierownicę, dopóki nie będą naprawdę autonomiczne.

Ten rodzaj technologii wymaga nowego rodzaju ludzkiego zaufania. Chociaż nie możemy tego określić ilościowo, wiemy, że poziom zaufania, jaki ludzie odczuwają, wzrasta wraz z przejrzystością, osobistym doświadczeniem i zabezpieczeniami. Tak więc, kiedy prowadzimy własne samochody, nigdy tak naprawdę nie wątpimy, że zatrzymają się, gdy naciśniemy hamulce. Ponieważ zlecamy podejmowanie decyzji maszynom, należy na to zaufanie zapracować. Bez tego minie kolejne dziesięciolecia, a niektóre z tych technologii mogą nigdy nie ujrzeć światła dziennego.

Następny odcinek: technologia rozpoznawania emocji wskazuje na przyszłość, w której nasze samochody, telefony i inne urządzenia będą reagować na nasze uczucia.

Rana al-Kaliouby : Dlatego budujemy algorytmy, które mogą zrozumieć Twoją mimikę, na przykład uśmiech, zmarszczenie brwi lub uniesienie brwi, i odwzorują to na zrozumienie Twojego stanu emocjonalnego i psychicznego.

Jennifer Silna: Czy możemy nawet kodyfikować emocje? A czy powinniśmy? Dołącz do nas w miniserialu poświęconym sztucznej inteligencji emocji, w którym będziemy badać, jak przekształcić inteligentne narzędzia w narzędzia empatyczne.

Ten odcinek został zrelacjonowany i wyprodukowany przeze mnie i Tanyę Basu, z Emmą Cillekens i Tate Ryan-Mosely. Pomogli nam Karen Hao i Benji Rosen. Redagują nas Michael Reilly i Gideon Lichfield.

Dzięki za wysłuchanie, jestem Jennifer Strong.

ukryć