AI czyta ludzkie emocje. Czy powinno?

AI może odczytać Twoją emocjonalną reakcję na reklamę i Twoją mimikę podczas rozmowy o pracę. Ale jeśli już może to wszystko zrobić, co dzieje się dalej? W drugiej części serii poświęconej sztucznej inteligencji emocji Jennifer Strong i zespół z MIT Technology Review badają konsekwencje tego, jak jest ona używana i dokąd zmierza w przyszłości.

Spotykamy się:

• Shruti Sharma, VSCO
• Gabi Zijderveld, Affectiva
• Tim VanGoethem, Harman
• Rohit Prasad, Amazonka
• Meredith Whittaker, NYU AI Now Institute

Kredyty:

Ten odcinek został zgłoszony i wyprodukowany przez Jennifer Strong, Karen Hao, Tate Ryan-Mosley i Emmę Cillekens. Pomógł nam Benji Rosen. Redagują nas Michael Reilly i Gideon Lichfield.

Pełna transkrypcja odcinka:

Jennifer Silna : W erze Covd-19 tak wiele relacji i doświadczeń, którymi kiedyś cieszyliśmy się osobiście, jest teraz zapośredniczonych przez technologię. Niezależnie od tego, czy pracujesz w domu, pomagasz edukować dzieci w swoich murach, czy jak wielu z nas robisz jedno i drugie, nową stałą, która prawdopodobnie nie zniknie, jest rozmowa wideo. Niezależnie od tego, czy jesteś w pokoju Zoom, Google Meet, czy w innym miejscu, rzeczywistość jest taka, że ​​prawdopodobnie zostanie on tutaj nawet po przejściu bieżącej chwili. W tym doświadczeniu jest coś, co sprawia wrażenie zdystansowanego i odłączonego. Jakbyś komunikował się przez filtr. Proste rozmowy przerywane awariami internetu lub zagubione w tłumaczeniu. Co by było, gdyby tę technologię można było wykorzystać do wzmocnienia interakcji zamiast ich wyciszania? Co by było, gdyby mógł reagować na twoją mowę ciała, twoje głosowe intonacje, aby pomóc ci przekazać coś więcej niż tylko słowa? To coś, o czym wspomniała założycielka Affectiva, Rana el Kaliouby, kiedy rozmawialiśmy o naszym ostatnim odcinku.

Rana el Kaliouby : Kiedy przedstawiam setkę zdalnych osób, gdyby to było prawdziwe wydarzenie na żywo, odrzuciłbym energię ludzi na sali, a nie mogę tego zrobić online. I to jest naprawdę bolesne i nienawidzę tego. [śmiech] Ciągle wyobrażam sobie wykres poziomu zaangażowania w czasie rzeczywistym, poziom śmiechu, może jak jakiś strumień emoji lub coś, co po prostu daje ludziom poczucie tego wspólnego doświadczenia.

Jennifer Silna : Jej firma i wielu innych spieszy się, aby pracować nad tego rodzaju możliwościami, ale wiele technologii, które mogłyby zasilać takie rzeczy, jest już często używane w nieoczekiwany sposób. Na przykład do pomiaru mimiki twarzy u osób po udarze.

Gabi Zijderveld : Wiąże się z tym wiele społecznego napiętnowania, ponieważ ludzie myślą, że ci ludzie wyglądają na wściekłych lub grymasy, ale mieli wylew i nie mogą się uśmiechnąć. Zazwyczaj chirurdzy mierzą, czy odbudowa ich uśmiechów się powiodła, łaskocząc pacjentów, a następnie zaczynają się śmiać, używając linijki i mierząc milimetrowe ruchy.

Jennifer Silna : A jeden chirurg uznał, że ta metoda jest śmieszna.

Gabi Zijderveld : Tak więc, korzystając z naszej sztucznej inteligencji emocji, zbudował system oprogramowania do testowania i mierzenia jego sukcesu, odbudowując uśmiechy pacjentów.

Jennifer Strong: Nazywam się Jennifer Strong i w drugiej części naszej serii eksplorującej emocyjną sztuczną inteligencję przyglądamy się, jak jest już stosowana i dokąd może nas to zaprowadzić w przyszłości.

[POKAŻ ID]

Shruti Sharma : Ok, więc udostępnię tutaj swój ekran. Daj mi znać, jeśli możesz to zobaczyć.

Jennifer Silna : Shruti Sharma jest starszym menedżerem ds. inżynierii uczenia maszynowego w aplikacji fotograficznej o nazwie VSCO.

Shruti Sharma : A więc po prostu widzisz te pomarańczowe żaluzje w ciemnym, czarnym pokoju. A obrazy, które się ukazują, są czymś w rodzaju tajemniczego poczucia gry światła i ciemności, światła i cienia.

Jennifer Silna : Te zdjęcia zostały wybrane przez Ava, która jest sztuczną inteligencją, która ocenia obrazy i kategoryzuje je według nastroju i emocji. Rodzaj sortowania, który kiedyś robili ludzie. I nie mówimy o krajobrazach plaż wpadających w ten sam stos, ani o całej masie zdjęć kotów zgrupowanych razem. To jest znacznie bardziej zniuansowane. Nie spodziewałem się tego. To nie tylko ten sam odcień koloru, ale naprawdę wywołuje to samo uczucie ze zdjęcia na zdjęcie.

Shruti Sharma : Tak więc dla nas celem rozpoznania nastroju i uczucia lub emocji na zdjęciu jest zasadniczo uchwycenie tej esencji, którą inaczej mógłby zobaczyć tylko człowiek. Nasza technologia uczenia maszynowego, Ava, w pewnym sensie zwraca uwagę nie tylko na treść zdjęcia, ale także na cechy, które są bardzo specyficzne dla fotografii, które przyczyniają się do tych uczuć i emocji, które zdjęcie wywołuje u ludzi… takie rzeczy jak kompozycja, styl ujęcia , estetyka.

Jennifer Silna : Ta aplikacja to kreatywna platforma dla fotografów.

Shruti Sharma : Fakt, że wszystkie te obrazy mają wrażenie, że dzieje się tu więcej niż to, co widzimy na zdjęciu. Trudno w pełni powiedzieć, co się dzieje, i jest tu jakby poczucie tajemnicy, które się tu budzi. To bardzo osobiste uczucie, które wywołują zdjęcia, a możliwość dopasowywania przez maszynę obrazów na podstawie tego niemal sprawia radość mojemu sercu. [śmiać się]

Jennifer Silna : W przeciwieństwie do innych zastosowań tej technologii, jeśli sztuczna inteligencja nie trafi w kategorię lub klasyfikację, stawki są tutaj dość niskie.

Shruti Sharma : Myślę, że jest to również piękno tego. Prawidłowy? Czy maszyna rzeczywiście popełnia błąd, czy po prostu daje inną perspektywę? I myślę, że czasami jest to trochę jedno i drugie.

Jennifer Silna : Ale sortowanie zdjęć to tylko wierzchołek góry lodowej.

Gabi Zijderveld : A więc, gdybyś mógł to kliknąć…

Karen Hao : Dobrze.

Gabi Zijderveld : A najlepiej, jeśli jeździsz, bo wtedy możesz wypróbować demo.

Jennifer Silna : Gabi Zijderveld jest dyrektorem ds. marketingu w Affectiva. Prowadzi moją koleżankę, starszą reporterkę AI z Tech Review, Karen Hao, przez demonstrację jednego z ich produktów, które potrafią odczytywać emocje.

Gabi Zijderveld : Tak więc zasadniczo jest to uproszczona wersja tego, jak nasza technologia byłaby wdrażana w analityce mediów, a konkretnie w testowaniu reklam. To mniej więcej daje przedsmak tego, jak to robimy i jakie rzeczy możemy zmierzyć. Jak widać, mamy kilka wstępnie załadowanych reklam lub filmów, a następnie możesz wybrać ten, który Ci się spodoba.

Karen Hao : Naciśnięcie odtwarzania…

Gabi Zijderveld : Jak widzisz, gdy oglądasz tę reklamę, mierzymy Twoje reakcje na nią.

Karen Hao : [Słyszalny śmiech]

Jennifer Silna : Ogląda zabawny klip na YouTube, w którym dwoje dzieci i zadania związane z pracą matki, między innymi, przerywają program informacyjny. To parodia wirusowego wywiadu BBC – znasz ten – w którym urocza dziewczynka wkracza do domowego biura swojego taty.

Gabi Zijderveld : Więc w zasadzie w tym demo poprosiliśmy Cię o pozwolenie na włączenie kamery internetowej. Kiedy zacząłeś odtwarzać wideo, w zasadzie klatka po klatce, nasza sztuczna inteligencja mierzyła twoje reakcje i reakcje na to, co widzisz w tej reklamie. Po lewej stronie wersji demonstracyjnej zobaczysz wszystkie te różne wskaźniki, takie jak ekspresja, uwaga, wstręt, uśmiech… pokazuje lub podkreśla, gdzie wystąpiły przypadki bruzdy brwiowej, co może być rodzajem kwestionowania przez ludzi lub podnosząc, unosząc brwi, jeśli chcesz, dosłownie. Jeśli klikniesz na krzywą uśmiechu, to może być interesujące... uśmiech niekoniecznie oznacza, że ​​zawsze coś Ci się podoba, ale tutaj znamy kontekst, znamy to humorystyczna reklama i widzimy po Twojej krzywa, że ​​często się uśmiechałeś. Wyraźnie widać, że ten film miał na tobie zamierzony efekt. A potem, jeśli klikniesz na podsumowanie wyświetleń, to też jest fajnie. To porównuje Twoje dane z wszystkimi innymi osobami, które obejrzały ten film.

Karen Hao : Wow. Myślę, że byłam bardziej ekspresyjna niż przeciętna osoba.

Gabi Zijderveld : Tak, tak, dokładnie. Również twój uśmiech był znacznie wyższy. Najwyraźniej podobał ci się ten film znacznie lepiej niż średnia.

Jennifer Silna : to, co tutaj demonstrują, odczytuje emocje i rozbija je na dane dla reklamodawców i agencji reklamowych.

Gabi Zijderveld : Te dane są bardzo ważnymi informacjami, ponieważ w zasadzie pomagają im określić, jak skuteczne są ich reklamy i gdzie przeznaczać wydatki na media.

Jennifer Silna : Mówi, że potrzebują około stu testów, aby uzyskać wystarczającą ilość danych do skutecznego porównania. Affectiva wdrożyła tę technologię sztucznej inteligencji emocji na całym świecie z klientami takimi jak Disney, Coca Cola, Kelloggs, Samsung i Google.

Gabi Zijderveld : Około 28% fortuny 500 światowych firm korzysta z naszej technologii. Wiek reklam zawiera listę największych reklamodawców na świecie, z których 70% korzysta z naszej technologii. Przez lata przetestowaliśmy ponad 52 000 reklam w 90 krajach. Tak więc przeprowadza się wiele badań. Załóżmy, że ktoś testuje reklamę piwa w Wielkiej Brytanii i chciałby porównać skuteczność swojej reklamy piwa z innymi reklamami piwa w Wielkiej Brytanii, a może reklama piwa w USA może to zrobić, ponieważ mamy tak dużo danych tego rodzaju zapewnia te normy.

Jennifer Silna : A po 10 latach udoskonalania emocji AI w analityce mediów… Affectiva wkracza teraz do branży rozrywkowej.

Gabi Zijderveld : Na przykład przeprowadziliśmy już szereg badań, w których tak naprawdę chodzi o zrozumienie, w jaki sposób widzowie angażują się i prawie łączą, jeśli chcesz, z pewnymi postaciami w programach telewizyjnych. Wprowadzają nowe postacie. Czasami te postacie się trzymają, a publiczność je uwielbia. Czasami nie. Więc robią dużo badań na ten temat. I oczywiście starają się przewidzieć, jaka będzie skuteczna formuła, a zrobienie tego na wczesnym etapie może im zaoszczędzić dużo pieniędzy, a pomyłka jest w takich przypadkach droga. Przeprowadziliśmy również testy zwiastunów filmowych, które same w sobie są rodzajem treści reklamowych.

Jennifer Silna : Ale to branża motoryzacyjna jest szczególnie skoncentrowana na Affectiva i wielu innych firmach.

Gabi Zijderveld : Więc oprócz zastosowania bezpieczeństwa poprzez zrozumienie upośledzenia kierowcy, które jest w zasadzie systemem monitorowania kierowcy, istnieje również inne zastosowanie, ponieważ w momencie, gdy możesz zrozumieć, co się dzieje z pasażerami na tylnych siedzeniach, możesz zrobić wiele innych interesujących rzeczy. Możesz w zasadzie dostosować otoczenie do stanu osoby w danej chwili. Więc ktoś może być w drodze na spotkanie służbowe w przyszłości. Twój pojazd może to zrozumieć, ponieważ wszystkie różne systemy są ze sobą powiązane. Może zajrzysz do twojego kalendarza, jeśli wyrazisz na to zgodę. A jeśli jesteś w drodze na spotkanie, może nie chcesz muzyki. Może nie chcesz oglądać wideo z tyłu. Może potrzebujesz odpowiedniego oświetlenia w swoim regionie samochodu. Może potrzebujesz swojego siedzenia ustawionego w określony sposób. Może to również dotyczyć zasadniczo poprawy doświadczenia, prawda? Sprawia, że ​​jest bardziej zabawny i przyjemny lub bardziej regenerujący.

Jennifer Silna : Nie ma go jeszcze na rynku, ale mówi, że przetestowali elementy sztucznej inteligencji emocji w samochodach, w tym:

Gabi Zijderveld : Istniał nawet kilka lat temu projekt badawczy, który przeprowadziliśmy z Porsche, gdzie w zasadzie nasza technologia oceniała, jak ludzie reagują na muzykę odtwarzaną w pojeździe. A jeśli muzyka im się spodobała, to w zasadzie dostosuje rekomendacje w oparciu o reakcje ludzi i spersonalizuje je w ten sposób.

Jennifer Silna : Szacuje, że minie od 2 do 4 lat, zanim tego typu technologia pojawi się w drodze.

Kolejną grupą pracującą nad tego rodzaju sztuczną inteligencją emocji w pojazdach jest Harman, firma należąca do Samsunga.

Tim VanGoethem : Budujemy te algorytmy, które mogą wykorzystywać obraz z kamery z kamery zamontowanej na desce rozdzielczej i tworzymy oprogramowanie, które może patrzeć na twoje oczy lub inne rysy twarzy i być w stanie wywnioskować stan kierowcy.

Jennifer Silna : To Tim VanGoethem, szef firmy ds. zaawansowanej mobilności.

Tim VanGoethem : Moglibyśmy więc robić takie rzeczy, jak zrozumienie twojego tętna, po prostu patrząc, jak pigmentacja twojej skóry zmienia się za każdym razem, gdy twoje serce bije. Możemy przyjrzeć się cechom tego, jak poruszają się twoje oczy i na tej podstawie możemy skorelować to z tym, czy jesteś rozproszony, czy jesteś senny, czy jesteś zestresowany lub twój umysł nie wydaje się być skupiony… A więc zrozumienie jak nadać temu sens. Jeśli jesteś zmęczony, czy możemy w prosty sposób zmienić temperaturę w kabinie? Czy możemy subtelnie zmienić pozycję siedzenia? Wybierz mieszankę muzyki, która może być nieco bardziej dynamiczna niż ta, której obecnie słuchasz. Może to być połączenie kilku bardzo prostych zmian w kilku bardzo dużych krokach, w zależności od tego, co możemy wywnioskować, że twój stan jest

Jennifer Silna : Więc jak bardzo firmy takie jak ta mogłyby posunąć się z technologią?

Tim VanGoethem : Gdzie to może pójść w przyszłości, to połączenie z urządzeniami do noszenia, które wnosisz do samochodu. Wiele osób uwielbia swoje smartwatche i dość często te inteligentne zegarki mają również funkcję fitness lub wellness. Więc samochód w przyszłości będzie w stanie przenosić informacje z tych urządzeń do noszenia. Więc zamiast próbować używać aparatu do wnioskowania lub wydedukowania tętna, moglibyśmy użyć czujnika z samego smartwatcha. A potem smartwatch za zgodą użytkownika może udostępnić te informacje samochodowi. I wtedy oczywiście jest, to może być bardziej precyzyjny sygnał. Krokiem dalej jest to, że możemy również wejść w jeszcze większe ekosystemy. Na przykład, jeśli samochód i algorytmy w samochodzie wiedziały, że źle się wyspałaś przed wejściem do samochodu, moglibyśmy podjąć kilka wcześniejszych decyzji, wiedząc, że już wsiadasz do samochodu potencjalnie zmęczony.

Jennifer Silna : W ciągu najbliższych 2-5 lat będzie próbował odpowiedzieć na to pytanie.

Tim VanGoethem : W jaki sposób samochód nie tylko rozwiązuje problemy ludzi, którzy są w samochodzie, ale jak mogą podłączyć się do tych większych ekosystemów? I myślę, że to będzie ewoluować z biegiem czasu, gdy ludzie zrozumieją, w jaki sposób moje życie poza samochodem i moje życie w samochodzie naturalnie się ze sobą łączą.

Jennifer Silna : Co do tego, jak komfortowo kierowcy będą pozwalać swojemu samochodowi na odczytywanie ich emocji i reagowanie, a nawet łączenie się z ich życiem poza pojazdem? Cóż, już pozwalamy maszynom robić to w naszych najbardziej intymnych przestrzeniach… w naszym domu.

Rohit Prasad : Tak jak my jako ludzie – cenimy interakcje z ludźmi, którzy są pokorni, pomocni, bliscy i godni zaufania. I oczywiście chcesz też trochę zabawy w osobowości, abyś mógł być bardzo wciągający.

Jennifer Silna : Rohit Prasad jest głównym naukowcem stojącym za Alexą Amazona. Gdy sześć lat temu pojawił się asystent głosowy, był to początek nowego rodzaju relacji z technologią osobistą. Wiedział, że aby to zadziałało, będą musieli stworzyć osobowość, która będzie działać dla różnych ludzi w różnych przestrzeniach.

Rohit Prasad : Wierzymy, że zaufanie nie jest zdobywane tylko przez to, jak brzmisz, ale przez to, co mówisz i co robisz. Chcieliśmy, aby ludzie tacy jak my czuli się komfortowo rozmawiając ze sztuczną inteligencją w swoich domach… A nasze domy są środowiskiem wspólnotowym. To nie tylko osobiste urządzenie, takie jak smartfon. I w tym otoczeniu Alexa będzie miała kontakt ze mną, moją żoną, moimi dziećmi. Prawidłowy? Więc teraz musisz sprawić, by głos działał we wszystkich tych środowiskach.

Jennifer Silna : Wiedzieli, że pielęgnowanie zaufania wśród użytkowników będzie również polegać na zdolności Alexy do rozpoznawania ludzkich emocji i reagowania na nie.

Rohit Prasad : Kiedy klienci są zadowoleni lub podekscytowani, Alexa powinna naśladować to zachowanie. A kiedy klient jest rozczarowany, Alexa powinna przyjąć bardziej empatyczny ton.

Jennifer Silna : W dzisiejszych czasach Alexa może zrobić kilka podstaw.

Rohit Prasad : Więc niektóre z emocjonalnych reakcji, które możesz zobaczyć, pojawiają się, gdy pytasz o swoją ulubioną drużynę sportową i jeśli wygrają, Alexa będzie bardziej jowialna w odpowiedzi.

Jennifer Silna : Dodatkowo Amazon nadal pracuje nad swoimi umiejętnościami słuchania.

Rohit Prasad : Czy Alexa może wyczuć twoją frustrację wokalną i zmienić swoje reakcje na ciebie? Aby Alexa wychwyciła Twoją głosową frustrację i dostosowała swoje odpowiedzi we właściwy sposób, aby dać ci to, czego potrzebujesz jako klient, zamiast po prostu frustrować cię bardziej, udzielając tej samej odpowiedzi.

Jennifer Silna : A Alexa może już wykonać kopię lustrzaną swojego użytkownika:

Nagrywanie Alexy : Pozwól, że zdradzę Ci sekret. Umiem szeptać.

Rohit Prasad : To właśnie nazywamy trybem szeptu. Stało się to, gdy jeden z moich wcześniejszych szefów w Alexie wrócił do domu. Szepnął do Alexy, a Alexa odpowiedziała i obudziła swoją żonę.

Jennifer Silna : Mówi, że zainspirowało ich to do nauczenia Alexy szeptania, ponieważ jeśli szepniesz do człowieka, ta osoba zwykle odpowiada szeptem. Uczą go również odpowiadać jako ekspert, a kiedy wiedzieć, że tak nie jest. Mówi, że to zależy od rodzaju pytań.

Rohit Prasad : W niektórych ustawieniach, gdy są to bardzo delikatne tematy, którymi możesz podzielić się z towarzyszem, ale Alexa może nie być w tym ekspertem, na przykład zdrowie psychiczne. Lub jakiekolwiek inne problemy zdrowotne. Myślę, że naszą zasadą przewodnią jest zawsze uzyskanie pomocy eksperta w tych ustawieniach i myślę, że nawet jeśli dzielisz się tym jako towarzysz, w tym momencie ponosisz ogromną odpowiedzialność za sztuczną inteligencję.

Jennifer Silna : Ponieważ Alexa poznaje swoich użytkowników, może odgrywać coraz większą rolę w ich życiu.

Rohit Prasad : Myślę, że ta relacja rozwija się od asystenta do doradcy, a nawet towarzysza dla ludzi. I widzimy, że dzieje się to w dzisiejszych czasach. I myślę, że wraz z rozwojem Alexy związek ewoluuje.

Jennifer Silna : Ale ostrzega:

Rohit Prasad : To wciąż wczesne dni i będziemy kontynuować badania, aby dowiedzieć się, jaka jest najlepsza reakcja emocjonalna lub stylistyczna na podstawie opinii klientów. Ale chcę tylko upewnić się, że jesteśmy na tej samej stronie, że jest to dość trudny problem, ponieważ nie chcesz, aby jakiekolwiek błędy się nasilały i powodowały, że klienci stracą zaufanie do Alexy. W rzeczywistości potrzebujesz bardziej godnych zaufania działań, co oznacza, że ​​w niektórych sytuacjach prawdopodobnie w porządku jest mieć bardziej neutralne reakcje. I nad tym również teraz pracujemy.

Jennifer Silna : Sztuczna inteligencja emocji może poprawić nasze interakcje z technologią, ale w zależności od tego, jak jest używana, może również wyrządzić prawdziwą szkodę. Przyjrzymy się kilku przykładom zaraz po przerwie.

[reklama w trakcie filmu]

Jennifer Silna : Pandemia odnotowała gwałtowny wzrost wykorzystania programów cyfrowych, które nadzorują egzaminy szkolne. Produkty te wykorzystują śledzenie behawioralne i rozpoznawanie, aby obserwować uczniów przez ich laptopy i szukać oznak oszustwa. New York Times rozmawiał z młodą studentką, która cierpi na tiki na twarzy, i niedawną absolwentką prawa afro-latynoskiego, która walczyła przez cztery godziny tylko o to, aby oprogramowanie zarejestrowało jej twarz. Problemy te pojawiły się również w oprogramowaniu do przeprowadzania rozmów kwalifikacyjnych, które wykorzystuje podobne śledzenie twarzy i zachowań, aby pomóc zdecydować, czy warto Cię zatrudnić.

Meredith Whittaker : Pomysł, że dostęp ludzi do pracy i możliwości jest kształtowany przez coś, co można uznać za rodzaj stereotypów i założeń dotyczących tego, jak wyglądają, jak się zachowują, czy mówią w sposób współmierny do takiego czy innego modelu sukcesu, jest niewiarygodny kłopotliwe.

Jennifer Silna : Meredith Whittaker jest współzałożycielką AI Now Institute na NYU.

Meredith Whittaker : I badamy społeczne implikacje sztucznej inteligencji.

Jennifer Silna : Mówi, że oprócz etykietowania emocji, chodzi o interpretację wartości tych emocji i automatyzację decyzji za pomocą tych informacji.

Meredith Whittaker : Chodzi o siłę korporacji i sposób, w jaki te firmy produkują technologie, które wysuwają fantastyczne twierdzenia, prawie zawsze ukryte za zasłoną tajemnicy handlowej. Są niezbadane. Są niezbadane. Widzimy technologię, która twierdzi, że jest w stanie wykryć wewnętrzny charakter ludzi, ich kompetencje, uczucia i jest wykorzystywana do informowania o podejmowaniu decyzji w klasie, kogo zatrudniać i kogo promować. Widzimy, jak jest wdrażany w systemie sądownictwa karnego – w miejscach, które naprawdę kształtują ludzkie życie i dostęp do możliwości. A biorąc pod uwagę, że nie ma naukowego konsensusu co do skuteczności automatyzacji tego rodzaju twierdzeń, pomyśleliśmy, że nadszedł czas, aby wezwać do zakazu używania tych technologii w tych dziedzinach.

Jennifer Silna : I mówi, że być może najbardziej niepokojące jest to, jak często te technologie są używane, a ludzie im poddawani nie mają żadnego pomysłu ani możliwości ucieczki.

Meredith Whittaker : Bardzo trudno jest stwierdzić, czy gdybym nie został zatrudniony do pracy i zostałem przesłuchany przez HireVu, czy to dlatego, że oprogramowanie jest stronnicze, czy też i tak nie dostałbym tej pracy. Prawidłowy? Na przykład z jednej próbki trudno wyciągnąć wnioski. A dane, które pozwoliłyby nam wykryć wzór dyskryminacji, krzywdy, błędu lub tego, co masz, nie znajdują się w domenie publicznej. Osoby, które mają dostęp do tych danych, to HireVu, a następnie dowolna firma, która udziela HireVu licencji na używanie jej podczas rozmów kwalifikacyjnych, prawda? I żadna z tych firm nie jest naprawdę zainteresowana umożliwieniem społeczeństwu, prawodawcom i adwokatom przeczesywania tych danych.

Jennifer Silna : I dlatego jej grupa wzywa do zakazu sztucznej inteligencji emocji w wrażliwych przypadkach użycia, które obejmowałyby aplikacje, które mogą nie wydawać się tak wrażliwe – jak sygnał dźwiękowy z deski rozdzielczej samochodu, gdy wydaje się, że kierowca może być senny.

Meredith Whittaker : Poniekąd musimy się tutaj cofnąć i spojrzeć na dynamikę mocy tutaj, prawda? Być może samochód, który mruga lekko, gdy myśli, że jesteś senny, w oparciu o wygląd twojej twarzy, może nie być tak szkodliwy. Ale czy te informacje są wysyłane do twojej firmy ubezpieczeniowej? Czy te informacje są wykorzystywane do ustalenia stawek ubezpieczeniowych lub do osądzenia Twojej winy, jeśli ulegniesz wypadkowi? Czy uniemożliwia to kierowcom Lyft lub Uber zalogowanie się do ich aplikacji? Jakie są zastosowania tych danych?

Jennifer Silna : To, co mówi, może brzmieć zbyt ostrożnie, ale w zeszłym roku czołowy regulator finansowy Nowego Jorku orzekł, że firmy ubezpieczeniowe na życie mogą ustalać składki w tym stanie na podstawie informacji z mediów społecznościowych. Więc co może powstrzymać dane z samochodów – lub czegokolwiek innego – używanego do ustalania stawek ubezpieczeniowych w przyszłości? Obecnie w większości miejsc nic.

Jennifer Silna : Ten odcinek został zrelacjonowany i wyprodukowany przeze mnie i Karen Hao, Tate Ryan-Mosley i Emmę Cillekens. Pomógł nam Benji Rosen. Redagują nas Michael Reilly i Gideon Lichfield. Dzięki za wysłuchanie, jestem Jennifer Strong.

ukryć