211service.com
Kiedy nasze urządzenia potrafią odczytać nasze emocje: Gabi Zijderveld z Affectiva
Sztuczna inteligencja śledząca emocje zaczyna pomagać maszynom w rozpoznawaniu naszych nastrojów. Czy jesteśmy gotowi?
28 lutego 2019
Osobiści asystenci, tacy jak Siri, Alexa, Cortana lub Google Home, mogą analizować nasze wypowiadane słowa i (czasami) odpowiednio reagować, ale nie mogą ocenić, jak się czujemy — po części dlatego, że nie widzą naszych twarzy. Jednak w rozwijającej się dziedzinie AI do śledzenia emocji firmy badają mimikę twarzy rejestrowaną przez kamery naszych urządzeń, aby umożliwić wszelkiego rodzaju oprogramowaniu lepsze reagowanie na nasze nastroje i stany poznawcze.
W Affectiva, bostońskim startupie założonym przez badaczy z MIT Media Lab, Rosalind Picard i Ranę El Kaliouby, programiści wyszkolili algorytmy uczenia maszynowego, aby rozpoznawać nasze sygnały mimiczne i określać, czy oglądamy film, czy czujemy się senni za kierownicą. Gabi Zijderveld, dyrektor ds. marketingu i szef strategii produktowej Affectiva, mówi Business Lab, że takie oprogramowanie może usprawnić marketing, chronić kierowców, a ostatecznie sprawić, że wszystkie nasze interakcje z technologią będą głębsze i bardziej satysfakcjonujące. Ale aby ustrzec się przed potencjalnym nadużyciem, Affectiva lobbuje również za ogólnobranżowymi standardami, aby systemy śledzenia emocji były dobrowolne i oparte na konsensusie.
Słuchacze Business Lab mogą zgłaszać się do Global Panelu MIT Technology Review, naszego ekskluzywnego forum liderów myśli, innowatorów i kadry kierowniczej. Jako członek globalnego panelu możesz zbadać dzisiejsze trendy technologiczne, zobaczyć wyniki ankiet i badań, wypowiedzieć się i dołączyć do rówieśników na spotkaniach biznesowych na całym świecie.
POKAŻ UWAGI I LINKI:
MIT Media Lab Grupa Affective Computing
PEŁNY TRANSKRYPCJA:
Elizabeth Bramson-Boudreau: Z MIT Technology Review, nazywam się Elizabeth Bramson-Boudreau, a to jest Business Lab, program, który pomaga liderom biznesowym zrozumieć nowe technologie wychodzące z laboratorium i wprowadzane na rynek.
Elżbieta: Zanim zaczniemy, chciałbym zaprosić słuchaczy do przyłączenia się do Global Panelu MIT Technology Review, naszego ekskluzywnego forum liderów myśli, innowatorów i kadry kierowniczej. A jako członek globalnego panelu możesz zbadać dzisiejsze trendy technologiczne, zobaczyć wyniki ankiet i badań, wypowiedzieć się i dołączyć do rówieśników na spotkaniach biznesowych na całym świecie. Zgłoś się do panelu na TechnologyReview.com/globalpanel. To jest TechnologyReview.com/globalpanel.
Elżbieta: Czy nie byłoby fajnie, gdyby Twój telefon mógł powiedzieć, że jesteś w zrzędliwym nastroju po wszystkich przerwach dnia i wstrzymać połączenia, aby wykonać trochę pracy? A może nie byłoby wspaniale, gdyby tablet Twojej córki potrafił stwierdzić, kiedy znudziła się jej gra edukacyjna i zwiększyć poziom wyzwania, aby była zaangażowana?
Elżbieta: Cóż, zanim nasze urządzenia będą mogły nam lepiej służyć w taki sposób, będą musieli zrozumieć, co tak naprawdę czujemy. I o tym dzisiaj rozmawiam z moim gościem Gabi Zijderveld. Jest dyrektorem ds. marketingu i szefem strategii produktowej w Affectiva, startupie z Bostonu, który jest liderem w nowej dziedzinie AI do śledzenia emocji. Jest to spinoff z grupy Affective Computing z MIT Media Lab. To jest afektywne z A. Afektywna buduje algorytmy, które czytają twarze ludzi, aby wykryć ich emocje i inne stany poznawcze.
Elżbieta: Technologia już teraz pomaga dużym firmom testować, jak odbiorcy reagują emocjonalnie na ich reklamy. A teraz Gabi prowadzi projekt wyposażenia samochodów w oprogramowanie, które będzie monitorować stany poznawcze i emocjonalne kierowców oraz pomagać im w zachowaniu bezpieczeństwa i czuwania. To wszystko może oznaczać duży krok naprzód w sposobie interakcji z urządzeniami komputerowymi. Ale oczywiście rodzi to również trudne pytania dotyczące tego, jak powstrzymać algorytmy, które potrafią odczytywać nasze stany emocjonalne, przed wykorzystywaniem naszej uwagi lub naruszaniem naszej prywatności.
Elżbieta: Gabi, witaj i bardzo dziękuję za odwiedzenie nas.
Noc: Dziękuję bardzo za przyjęcie mnie.
Elżbieta: Nazwa Twojej firmy, Affectiva, jest grą słów i jest grą z terminem afektywne przetwarzanie. Czy możesz określić, czym jest przetwarzanie afektywne?
Noc: Przetwarzanie afektywne jest zasadniczo zaprojektowane w celu zniwelowania przepaści między ludzkimi emocjami a technologią. A afektywna informatyka umożliwia technologii rozumienie ludzkich emocji, a następnie dostosowywanie się do nich i reagowanie na nie.
Elżbieta: Więc Affectiva, jak rozumiem, wydzieliła się z Media Lab w roku 2009?
Noc: Tak, poprawnie. Prawie 10 lat temu.
Elżbieta: OK. A współzałożycielami są Rosalind Picard, szefowa Media Lab’ Affective Computing Group, oraz Rana El Kaliouby – nie jestem pewien, czy mówię to dobrze.
Noc: Rana El Kaliouby.
Elżbieta: Więc w tym momencie była postdocem w grupie, prawda?
Noc: Prawidłowy.
Elżbieta: Jakie były wielkie pomysły, które obaj przedstawili w 2009 roku, i ich zdaniem, czego brakowało komputerom i co mieli nadzieję zmienić?
Noc: Dr Rosalind Picard faktycznie zapoczątkowała dziedzinę komputerów afektywnych. Napisała przełomową książkę około dwie dekady temu, zatytułowaną Affective Computing. Więc to pole naprawdę jest jej pomysłem. A do dziś prowadzi grupę w MIT Media Lab. Tak więc Rana, dr Rana El Kaliouby, dołączyła do grupy Ros Picard jako postdoktor i razem budowali ideę, że technologia może mieć zdolność rozumienia ludzkich emocji i reagowania na nie, zasadniczo poprawiając ludzkie interakcje z technologią, aby uczynić je bardziej trafne, bardziej odpowiednie, ale może także pomóc ludziom w lepszym zrozumieniu lub lepszej kontroli nad emocjami. Szczególnie na początku kładziono duży nacisk na zastosowania w zakresie zdrowia psychicznego, zwłaszcza pomaganie dzieciom ze spektrum autyzmu w wykorzystaniu technologii do uczenia ich rozpoznawania lub rozumienia emocji, a następnie trenowanie ich w zakresie właściwego wyrażania własnych emocji . Tak więc, tak naprawdę, ten pomysł zaczął się na początku.
Noc: A potem Rana i Ros zaczęli się interesować przemysłem. Tak więc na MIT Oczywiście jest wiele wydarzeń i konferencji, na których członkowie branży przyjeżdżają, aby zorientować się, co nowego w technologii i co się rozwija, a w tych dniach demonstracyjnych zaczęli się interesować komercyjnie swoją technologią. Spośród wielu różnych branż, w tym motoryzacyjnej, w której, co ciekawe, jesteśmy dzisiaj bardzo aktywni. W tym czasie poszli do dyrektora Media Lab i powiedzieli: „Hej, potrzebujemy większego budżetu, aby zatrudnić więcej badaczy, i trafnie im doradził: Cóż, czas się wydzielić i założyć własną firmę. I tak w 2009 roku współzałożyli Affectiva. Ros Picard kieruje teraz grupą w MIT Media Lab, więc na co dzień nie jest już związana z firmą. Ale dr Rana El Kaliouby jest dzisiaj naszym dyrektorem generalnym.
Elżbieta: Jak rozumiem, masz dwa główne produkty. Masz jeden produkt, który koncentruje się na badaniach rynku, a drugi — wspomniałeś o motoryzacji — dotyczy bezpieczeństwa kierowcy. Czy możesz powiedzieć więcej o tych dwóch produktach? Może zacznij od tego, który koncentruje się na badaniach rynku. Czy to się nazywa Affdex?
Noc: Tak więc tak naprawdę istnieje coś więcej niż tylko te dwa produkty, które mamy. Istnieją więc różne sposoby, w jakie spakowaliśmy naszą technologię. Ale te dwa rynki, które opisałeś, są tak naprawdę kluczowymi rynkami, po które dzisiaj chodzimy. Tak więc pierwszym, w którym mamy naszą technologię, Affdex, do badań rynku, jest produkt. Jest to rozwiązanie oparte na chmurze, które zasadniczo umożliwia mediom i reklamodawcom, w tym dużym światowym markom, testowanie swoich treści, takich jak reklamy wideo i programy telewizyjne, z docelowymi odbiorcami. I na tym rynku jesteśmy liderem od wielu lat, w tym momencie mamy ten komercyjny produkt od prawie ośmiu lat. A dzisiaj około jedna czwarta listy Fortune Global 500 wykorzystuje naszą technologię do testowania wszystkich swoich reklam na całym świecie. Myślę, że w tym miesiącu prawdopodobnie przetestowaliśmy ponad 40 000 reklam w 87 krajach i przeanalizowaliśmy ponad siedem i pół miliona twarzy. Mamy tak ogromne ilości danych. Umożliwiło nam to stworzenie produktu, który może również pomóc tym reklamodawcom w przewidywaniu kluczowych wskaźników wydajności w reklamie. Zatem dane o emocjach lub analizy emocji mogą w rzeczywistości pomóc im przewidzieć prawdopodobieństwo, że treść stanie się wirusowa, zamiar zakupu lub wzrost sprzedaży.
Elżbieta: Dobrze. Teraz pomóż mi zrozumieć, jak to właściwie działa. Czy to na przykład robienie filmu wideo z kimś, kto obserwuje reklamę? A potem analizuje reakcje twarzy na oczy?
Noc: Tak, zasadniczo, tak to się robi. Jeśli chodzi o sposób, w jaki zwykle pracujemy, współpracujemy z dużymi firmami badawczymi lub firmami zajmującymi się badaniem rynku, takimi jak Kantar Millward Brown. Mają ogromne procesy badawcze, w których angażują się z klientami swojej marki, aby zrozumieć, w jaki sposób muszą odbywać się ich reklamy i wejścia na rynek. Teraz jesteśmy częścią ich metodologii badawczych, co oznacza, że nasza technologia jest zintegrowana z ich nadrzędnymi platformami. I zazwyczaj wygląda to tak, że opłacili panelistom, którzy są rekrutowani do udziału w tych badaniach opinii konsumenckich. Częścią tych badań może być składnik ankiety, ale jest też składnik, który mówi: OK, chcielibyśmy, abyś online obejrzał fragment treści, który może być programem telewizyjnym lub reklamą wideo, i prosimy Cię aby wyrazić zgodę i wyrazić zgodę na nagrywanie i analizowanie Twojej twarzy podczas oglądania tych treści. I tu właśnie wkracza nasza technologia.
Noc: To rozwiązanie oparte na chmurze. Wszystko, czego potrzebujemy, to w zasadzie za pozwoleniem uzyskać dostęp do czyjegoś aparatu, a gdy oglądają te treści, siedząc w domu lub gdziekolwiek się znajdują, na swoim urządzeniu, nagrywamy niejako dyskretnie w tle, ich chwila po chwili reakcje na te treści. Więc klatka po klatce analizujemy te odpowiedzi. I co ciekawe, z naszych badań wynika, że ludzie dość szybko zapominają, że jest tam kamera. Po prostu naturalnie reagują na to, co oglądają. I to jest rodzaj bezstronnej i niefiltrowanej reakcji, której chcesz. Ponieważ dzięki temu spostrzeżeniu, jeśli zbierzesz je na dużą skalę, możesz podejmować naprawdę ważne decyzje dotyczące treści, a nawet ich rozmieszczenia lub sposobu wydawania pieniędzy na reklamę.
Noc: Tak więc zasadniczo są to pierwsze rynki, na których zaczęło się Affective. Dziś nadal jesteśmy bardzo aktywni na tym rynku. Innym rynkiem, na którym można teraz iść naprawdę z pełną mocą, jest w rzeczywistości motoryzacja. A w ubiegłym roku, prawie rok temu, wprowadziliśmy na ten rynek nowe rozwiązanie o nazwie AffectivA Automotive AI. Zasadniczo jest to nasza podstawowa technologia przygotowana i dostosowana do przemysłu motoryzacyjnego, ponieważ przypadki użycia są tam bardzo różne. Są dwojakie. Z jednej strony w motoryzacji, jak wszyscy wiemy, bezpieczeństwo na drogach jest kwestią kluczową. Każdego dnia na drogach dochodzi do wielu ofiar śmiertelnych i tragicznych wypadków z powodu rozproszenia i sennej jazdy. A co by było, gdybyś mógł wykryć, że kierowca był rozproszony lub był senny, a samochód interweniował w odpowiedni i odpowiedni sposób? To jest jedna rzecz, za którą wszyscy ci producenci samochodów dążą. I tu właśnie wkracza nasza technologia, ponieważ znowu używając kamer, które są już w samochodach, możemy w prosty i dyskretny sposób zrozumieć ludzkie stany emocjonalne i złożone stany poznawcze, takie jak senność i rozkojarzenie, analizując ich twarz. To jest jeden przypadek użycia w motoryzacji. Zasadniczo monitorowanie kierowcy w celu poprawy bezpieczeństwa na drodze.
Elżbieta: Musisz mieć dość dużo danych, których potrzebujesz do trenowania swoich systemów, aby móc czytać twarze dużej liczby ludzi. Czy możesz opowiedzieć, skąd pochodzą Twoje dane treningowe i jaki impuls uzyskałeś dzięki rewolucji w uczeniu maszynowym i uczeniu głębokim w ciągu ostatnich 5, 10 lat? Czy możesz nam trochę opowiedzieć o procesach przetwarzania danych?
Noc: Tak oczywiście. Więc może powinienem zacząć od uczenia maszynowego i głębokiego uczenia się i dlaczego tak naprawdę tego używamy. Więc kiedy myślisz o ludzkich emocjach i o tym, jak te rodzaje ewoluują i manifestują się, ludzkie emocje są w rzeczywistości bardzo złożone, często niezwykle subtelne i zniuansowane. A kiedy myślisz o złożonych stanach poznawczych, które technicznie nie są emocjami, o takich rzeczach, jak senność i rozproszenie, są to również rzeczy, które ewoluują w czasie. I rzadko jest prototypem. Rzadko w prawdziwym świecie widzisz ten przesadny uśmiech lub kogoś od razu zasypiającego. To jest tymczasowe. A będąc w stanie modelować dla tych złożoności, nie możesz tego zrobić za pomocą podejścia heurystycznego opartego na regułach. Naprawdę musisz użyć uczenia maszynowego, aby móc wykryć tego rodzaju złożoności.
Noc: Właśnie dlatego wiele lat temu nasze badania i rozwój naprawdę zmieniły się, aby cała nasza technologia była budowana z wykorzystaniem metod uczenia maszynowego. Obecnie architektury uczenia maszynowego i uczenia głębokiego muszą być zasilane ogromnymi ilościami danych. Poza tym dla nas, znowu, kiedy myślisz o modelowaniu ludzkich stanów, oczywiście ludzie nie wyglądają tak samo w zależności od wieku, płci i pochodzenia etnicznego. Do tego dochodzą wpływy kulturowe i normy kulturowe, które zmieniają czasami wyrażanie emocji w stanach ludzkich. Tak więc, oprócz możliwości napędzania głębokiego uczenia się, potrzebujemy również dużych ilości danych, aby uwzględnić tylko różnorodność istniejącą w rodzaju ludzkim, różnorodność istniejącą na całym świecie. Dlatego dla Affectiva dane są niezbędne do wszystkiego, co robimy. Przeanalizowaliśmy ogromne ilości danych i zebraliśmy ogromne ilości danych. W rzeczywistości przeanalizowaliśmy ponad 7,6 miliona twarzy w 87 krajach.
Elżbieta: A skąd czerpiesz te dane?
Noc: Na wiele różnych sposobów. Przede wszystkim więc chciałbym powiedzieć, ponieważ jest to dla nas tak ważne, wszystkie te dane są gromadzone za zgodą i zgodą. Zawsze albo rekrutujemy ludzi do gromadzenia ich danych, albo za pośrednictwem mechanizmów online, w których wyraźnie informujemy ludzi, że zbieramy dane i prosimy ich o zgodę na to. Również te dane są w większości anonimowe. Więc, Elżbieto, jeśli brałaś udział w jednym z naszych badań, nie ma mowy, żebym mogła odzyskać twoją twarz. Ponieważ zasadniczo jesteś twarzą. Nie jesteś osobą z imienia i nazwiska. Więc czujemy się z tym mocno.
Noc: Zbieramy te dane na wiele różnych sposobów. Jak wspomniałem wcześniej, jesteśmy bardzo aktywni w mediach i reklamie, a dzięki naszym partnerstwom w tej branży przeprowadziliśmy ogromną liczbę testów mediów i dzięki temu zebraliśmy ogromne ilości danych. Istnieją inne relacje z klientami, w których zasadniczo mamy umowy dotyczące udostępniania danych. Nie wszyscy nasi klienci chcą udostępniać swoje dane, ale niektórzy z nich to robią. To kolejna ścieżka, przez którą otrzymujemy dane. A kiedy pomyślisz na przykład o przemyśle motoryzacyjnym i użyjmy przykładu sennej jazdy, mamy ogromny zestaw podstawowych danych, który pozwala nam budować te algorytmy. Ale niekoniecznie odczuwamy ogromną senność. Teraz, aby modelować i budować algorytmy do tego, nie potrzebujesz tylko danych sennych, ale z pewnością potrzebujesz pewnej warstwy tych danych na wierzchu tego, co już masz, więc możesz dostroić swoje algorytmy do tego.
Elżbieta: Możesz więc odróżnić senność od, nie wiem, znudzonego spojrzenia.
Noc: Dokładnie, dokładnie lub w porządku, ponieważ te manifestują się inaczej.
Elżbieta: I mają różne konsekwencje jako kierowca.
Noc: Och absolutnie. Absolutnie. A także jeśli chodzi o sposób zbierania tych danych w pojeździe, istnieją również pewne wyzwania operacyjne, w zależności od umiejscowienia kamery i kątów kamery. A teraz oczywiście musimy obsługiwać kamery bliskiej podczerwieni, które są używane, ponieważ podczas jazdy nocą lub w tunelu warunki oświetleniowe nie są dobre. To są wszystkie warunki środowiskowe, dla których musielibyśmy ćwiczyć nasze algorytmy. Ale kiedy się nad tym zastanowić, przechwytywanie sennych danych z jazdy, nie jest to takie proste. Bo to nie tak, że możemy trzymać ludzi przez 48 godzin w jednym z naszych fantastycznych laboratoriów snu w Bostonie, a potem wysłać ich samochodem do Memorial Drive i sprawdzić, czy zasną. To jest coś, czego niekoniecznie chcemy robić.
Noc: Jest to więc również kwestia zbierania ogromnych ilości danych, wydobywania naszych danych pod kątem naturalnych wystąpień tych stanów, a następnie przeprowadzania bardzo szczegółowych badań ukierunkowanych na osoby demograficzne, które podczas jazdy mają skłonność do senności. Na przykład przeprowadziliśmy szereg badań z pracownikami zmianowymi — osobami, które mogą pracować na długie zmiany, na przykład w fabryce, a potem muszą wracać do domu w środku nocy. Masz większe prawdopodobieństwo przechwycenia sennych danych w ten sposób. Istnieje więc wiele różnych sposobów gromadzenia naszych danych. To daje nam ogromne repozytorium danych, a następnie podzbiór tych danych jest używany do modelowania klasyfikatorów uczenia maszynowego. A potem wyznaczasz kolejny podzbiór, którego używasz do szkolenia i walidacji. Więc trzymasz je osobno. A my stale zbieramy dane, nieustannie opatrując je adnotacjami. To tylko ciągły aspekt naszych wysiłków badawczo-rozwojowych i powiększania w ten sposób repozytorium.
Noc: Prawidłowy. Więc to, o czym właśnie mówiłeś, to sposoby, w jakie konstruowałeś odczytywanie emocji. A co z koniecznością zaprogramowania komputerów, aby interpretowały i wykorzystywały te informacje. Czy nie jest to o wiele trudniejsze?
Noc: To zależy. To, czy jest to trudniejsze, zależy trochę od tego, jakie są interakcje. I zwykle jest to ostateczna decyzja projektowa naszego klienta, ale w dużej mierze jest to również proces współpracy. Abyśmy mogli opracować te algorytmy, które mogą wykrywać i analizować ludzkie emocje, niezwykle ważne jest również zrozumienie, jakie są przypadki użycia? Jak chcą korzystać z tej technologii? Ponieważ nie możesz po prostu budować tych algorytmów w próżni. Jest to więc w dużym stopniu proces współpracy.
Noc: Mówiłem więc wcześniej, że w tej chwili jesteśmy dość aktywni w branży motoryzacyjnej. Jest to więc ciągły dialog z producentami samochodów na temat tego, w jaki sposób wykorzystują nasze dane do projektowania adaptacji lub interwencji w pojeździe. A niektóre z nich to bardzo ewoluujący proces. Jeśli widzisz, że ktoś rozprasza się w pojeździe, niekoniecznie chcesz, aby wszystkie te alerty i alarmy były włączone, jeśli to tylko drobna rozrywka, prawda? Może to rozwścieczyć ludzi lub jeszcze bardziej ich rozzłościć i spowodować jeszcze bardziej niebezpieczne zachowanie podczas jazdy. Chcesz być w stanie zrozumieć poziomy, intensywność i częstotliwość rozpraszania, a następnie zaprojektować bardzo subtelne, istotne i odpowiednie interwencje.
Noc: Jest też wizja przyszłego stanu, a na pewno nie jesteśmy tam z perspektywy technologicznej, ale myślę, że zmierzamy tam w przyszłości. Co by było, gdybyś mógł dostosować to do osoby? Więc może kiedy poczujesz się senny, chciałbyś posłuchać muzyki hard rockowej. Może nawet jestem senna, po prostu absolutnie chcę wyjść z samochodu, rozprostować nogi i chodzić. A sposób, w jaki mój samochód lub przyszły robot taksówkowy obsługuje moje potrzeby...
Elżbieta: Jest przystosowany.
Noc: Jest dostosowany do moich osobistych potrzeb w tej chwili, racja. Więc obietnica potencjalnego zbudowania tego w sposób spersonalizowany, myślę, że zmierzamy tam w przyszłości, ale jeszcze nie tam dzisiaj i nie sądzę, że zobaczymy to w najbliższym czasie w samochodach na drogach .
Elżbieta: Interesuje mnie stopień, w jakim wszyscy myślicie o potencjale tego zjawiska. Więc teraz oczywiście dużo mówimy o Facebooku. Dużo mówimy o wyborach w 2016 roku. Mówimy o manipulacji, co do której jesteśmy całkiem pewni, że nastąpiła za pośrednictwem platform mediów społecznościowych, takich jak Facebook. I zastanawiam się, do jakiego stopnia martwisz się tym, co można zrobić z technologią Affectiva i czytając sposób, w jaki ludzie reagują na pewne rzeczy, a tym samym dostosowywanie tych komunikatów, aby były bardziej skuteczne. Czy martwisz się, jakie mogą być nieprzewidziane konsekwencje tej technologii, jeśli nie jest odpowiednio zarządzana.
Noc: Oczywiście się o to martwimy. Ale myślę, że każda firma technologiczna musi się martwić o potencjalne niekorzystne zastosowania produktów, które projektuje. Ponieważ, szczerze mówiąc, każdy element technologii, z której korzystamy na co dzień, może zostać wykorzystany w złych intencjach lub w nikczemnych celach. Pomyśl o ciężarówce. To środek transportu wybierany przez terrorystów. Albo mapy Google. Prawidłowy. Więc te technologie i te systemy nie zostały zaprojektowane dla tych przypadków użycia. Dlatego uważam, że przede wszystkim jako firmy technologiczne zawsze trzeba o tym pamiętać, zwłaszcza teraz, gdy technologia stała się tak dostępna, a moc obliczeniowa jest tak potężna i jest na wyciągnięcie ręki każdego konsumenta. Musisz o tym pamiętać.
Elżbieta: Ale kiedy masz zestaw narzędzi, czy martwisz się, co się stanie, jeśli ten zestaw narzędzi można wykorzystać w sposób, przed którym wszyscy niekoniecznie bylibyście w stanie się ustrzec?
Noc: Tak oczywiście. Są więc rzeczy, które firmy mogą robić i rzeczy, które zrobiliśmy my. Tak więc mówiłem właśnie teraz ogólnikami na temat tego, o czym chciałbym, aby firmy technologiczne nieustannie myślały. Ale jeśli chodzi o twoje wcześniejsze pytanie, wracając do pierwotnego pytania, czy martwimy się tym? Zdecydowanie tak. I co z tym robimy? Wiele różnych rzeczy. A więc przede wszystkim, naszą technologię, bardzo uważamy na to, komu ją licencjonujemy. I stajemy się coraz bardziej rygorystyczni w kwestii tego, gdzie byliśmy może nawet kilka lat temu. Nie jest więc tak, że ktokolwiek może po prostu złapać naszą technologię i zbudować z niej coś.
Noc: Istnieją również umowy licencyjne lub dokumenty prawne, które przed tym zabezpieczamy. Stwierdziliśmy również jako firma, że istnieją pewne rodzaje przypadków użycia, którym po prostu nie będziemy sprzedawać naszej technologii. Wierzymy w wyrażanie zgody i wyrażanie zgody, ponieważ kiedy analizujesz takie rzeczy, jak ludzkie emocje, emocje są niezwykle prywatne i nie chcemy angażować się w bezpieczeństwo lub nadzór, w których ludzie nie mają możliwości wyrażenia zgody lub zgody na ich analizowane twarze. I faktycznie odrzuciliśmy biznes, który sprowadziłby nas na tę ścieżkę.
Elżbieta: Nie bylibyśmy nawet tam, gdzie jesteśmy teraz, gdybyśmy nie byli, wszyscy nie czulibyśmy pewnego rodzaju cynizmu lub sceptycyzmu w odniesieniu do zdolności technologii do wykorzystania lub uchronienia przed nieprzewidzianymi negatywnymi konsekwencjami. Prawidłowy? Więc w pewnym sensie daje to wszystkim, wszyscy podlegacie bliższej analizie, ponieważ czujemy się nieśmiali w stosunku do technologii. A wiemy, że organy regulacyjne w Waszyngtonie są pod tym względem nieskuteczne.
Noc: Są, ponieważ nie rozumieją tego właściwie. Jeśli senatorzy pytają kierownictwo Facebooka, jak zarabiają pieniądze, ponieważ nie rozumieją podstawowych koncepcji spersonalizowanego kierowania reklam, to mamy problem. To także kwestia edukacji. Ale do tego dochodzi interesujące tarcie, prawda? Ponieważ myślę, że oprócz ogromnych obowiązków, jakie mają firmy technologiczne, i gdzie być może niektórzy byli w tyle lub zaniedbali, co z konsumentem, prawda? Ponieważ istnieje ta postrzegana wartość, którą można mieć. Lubimy korzystać z platform mediów społecznościowych i nie przeszkadza nam dzielenie się tam naszym życiem, ponieważ postrzegamy, jak czerpać z tego wartość. A my jako konsumenci nie zadajemy wielu pytań i to też mnie martwi. Zwłaszcza, gdy wiesz, że mam córkę, która niedługo skończy 13 lat i podejrzewam, że będę spędzać dużo więcej czasu na urządzeniach i w mediach społecznościowych. Jak się do tego kształcisz? Nawet jako konsument, właśnie te systemy stały się bardzo złożone. Po prostu przejdź do ustawień swojego iPhone'a i spróbuj dowiedzieć się, dokąd zmierzają dane i jak przepływają, i co chcesz wyłączyć, kiedy, jak i jak to robisz?
Elżbieta: Bardzo trudno to rozszyfrować.
Noc: Nie jest to bardzo intuicyjne, prawda? Celowo tak. I musisz zwrócić uwagę na to, by tam wychodzić i znajdować informacje, robić to i cofać, a nie na odwrót, gdzie być może dane są cały czas prywatne, a ty wchodzisz i pozwalasz na dostęp. Myślę więc, że istnieje ogromne tarcie między wartością, którą konsumenci postrzegają, a wartością, którą firmy technologiczne faktycznie uzyskują dzięki danym. Przejrzystość w tym. Dlatego dla nas jako firmy z pewnością się tym martwimy.
Elżbieta: Masz te rozmowy.
Noc: O tak. Bez przerwy. A także na forach publicznych. Dołączyliśmy do Partnership on AI, które jest konsorcjum branżowym, którego celem jest zasadniczo realizacja uczciwej, odpowiedzialnej, przejrzystej i etycznej sztucznej inteligencji. I byliśmy jednym z nielicznych start-upów, które zostały zaproszone do wzięcia w tym udziału. Ale to jeden ze sposobów, w jaki mamy nadzieję dążyć do zmian. Mamy też szczęście, że Rana, nasz dyrektor generalny, jest w dużej mierze liderem myśli w sztucznej inteligencji, w dużej mierze osobą publiczną. Ma możliwość bycia tam i przemawiania w miejscach publicznych. I chce być bardzo głośna w tych sprawach, ponieważ mamy na ten temat zdecydowane zdanie. Czujemy również, że ponosimy odpowiedzialność społeczną, aby być w tym przejrzystym i opowiadać się za zmianą. O ile może to zrobić 50-osobowy startup. Ale wszyscy musimy wnieść swój wkład.
Elżbieta: Więc kiedy myślę o tym, jaki wpływ może mieć emocjonalna sztuczna inteligencja lub emocjonalna sztuczna inteligencja, czy to oznacza, że Siri dostanie, Alexa będzie lepiej rozumieć moje emocje i reagować na mnie zgodnie z moimi emocjami? A jeśli tak, co to oznacza na przyszłość? Co to znaczy, że nasze urządzenia są w ten sposób inteligentne, jeśli chodzi o nas jako istoty emocjonalne?
Noc: Tak więc dzisiaj, oczywiście, gdzie jesteśmy połączeni przez bardzo zaawansowane systemy i technologie. Zaawansowana sztuczna inteligencja. Wiele możliwości poznawczych. Ale tak naprawdę brakuje tej świadomości emocji. Systemy te w większości nie rozumieją naszych stanów, naszych reakcji, naszego dobrego samopoczucia. A my w Affectiva z pewnością wierzymy, że to prowadzi do bardzo nieefektywnych i powierzchownych interakcji z technologią. A co by było, gdyby te systemy mogły zrozumieć nasze emocje i stany poznawcze, a także nasze reakcje i zachowania? O ile bardziej efektywne byłyby nasze interakcje z tymi technologiami?
Noc: Tak więc w przyszłości z pewnością wyobrażam sobie świat, w którym nasz rodzaj technologii, emotion AI, jest zakorzeniony w tkaninie technologii, które są na wyciągnięcie ręki każdego dnia. Jest dyskretnie w tle, rozumiejąc i reagując na nasze samopoczucie emocjonalne. Zawsze miałem też taką wizję, że być może my jako ludzie będziemy nosili ze sobą, nazwijmy to naszym paszportem emocji. To nasz emocjonalny cyfrowy ślad, który kontrolujemy. Jesteśmy właścicielem tych danych. Zarządzamy tym. I pozwalamy, za naszymi pozwoleniami i pragnieniami, zabrać to ze sobą od urządzenia do cyfrowego doświadczenia, gdziekolwiek używamy technologii. Niezależnie od tego, czy siedzimy w naszym biurze, pracując na laptopie, aby wsiąść do samochodu, skorzystać z przejazdu, czy też w naszych domowych systemach, takich jak dom Google lub Alexa, możesz to nazwać. Każdy rodzaj technologii, z którą wchodzimy w interakcję. Byłoby to spójne zrozumienie naszego dobrego samopoczucia, które prowadziłoby nas, doradzało i pomagało. I myślę, że to jest najważniejsza część. I dlatego uważam, że tak ważne jest również, aby wszystko odbywało się za naszą własną zgodą, zgodą i kontrolą.
Elżbieta: To takie fascynujące, ponieważ można pomyśleć, że ta technologia jest używana do tworzenia empatii w urządzeniach, których używamy, i doświadczeniach, które mamy, prawda? I reaguj na sposób, w jaki czytamy lub reagujemy na przykład na reklamę i dostosuj ją. Możesz także pomyśleć o wykorzystaniu tej technologii jako sposobu zarządzania emocjami, które odczuwamy. Więc kiedy mówiłeś o paszporcie emocji, możesz powiedzieć, że czuję się zrzędliwy, czuję się pod wpływem pogody i chcę, aby moje urządzenia i moja technologia na to zareagowały. Możesz też spojrzeć na to, jak moje z tych urządzeń jakoś musi mnie wyrwać z tych emocji. I warto o tym pomyśleć. To mogło pójść w obie strony. I wiesz, przypuszczam, że mam własny głos, w którą stronę byłbym najbardziej komfortowy.
Noc: I najlepiej byłoby, gdyby systemy zrozumiały Cię wystarczająco dobrze, co byłoby właściwe w danym momencie. Ponieważ tutaj pozwalamy na śledzenie tych danych w sposób podłużny i być może rano jakieś urządzenie domowe, którego używam, może powiedzieć, że Hej Gabi, wydaje się, że nie jesteś tak szczęśliwa, jak wczoraj rano. Mogę też powiedzieć, że tak naprawdę nie przespałeś tych 7 godzin, które są dla Ciebie optymalne. Czy chcesz, żebym kiedykolwiek włączyła tę playlistę muzyczną? A może nie chcesz, aby napęd dzisiaj działał. Dlaczego nie zamówię Ci przejazdu dla Ciebie? Albo ekspres do kawy właśnie uruchomił się w kuchni. Lub odwrotnie. Więc wracasz do domu z pracy i to tak: Hej, miałeś naprawdę ciężki dzień w pracy. Zrobiłam dla ciebie rezerwację w restauracji i opiekunka przyjdzie po twoje dziecko. Tak. Chodzi o to, że te, które, nazwijmy to paszportem emocji, który dają naszym systemom i technologiom, których używamy, dają im wgląd w nasz stan osobisty i samopoczucie, mogą pomóc nam prowadzić i doradzać i zasadniczo staramy się uczynić nasze życie lepszym lub bardziej efektywnym. Oczywiście osobiście chciałbym, aby zawsze była pod moją kontrolą i moją zgodą i zgodą. Może nie chcę, aby moje dane o samopoczuciu były przesyłane do mojego lekarza lub, nie daj Boże, do mojej firmy ubezpieczeniowej. Ale może w niektórych sytuacjach jest to pomocne. A możliwość umożliwienia naszym technologiom głębszego zrozumienia naszego dobrego samopoczucia i naszego stanu może być niezwykle cenna.
Elżbieta: Wspaniały. Dziękuję Gabi, to było bardzo interesujące. To ekscytujący obszar rozwoju i życzymy wszelkich sukcesów.
Noc: Dziękuję bardzo i dziękuję za rozmowę ze mną. To były takie świetne pytania. Naprawdę podobała mi się rozmowa z tobą. Dziękuję Ci.
Elżbieta: To tyle w tym odcinku Business Lab. Jestem twoim gospodarzem Elizabeth Bramson-Boudreau. Jestem CEO i wydawcą MIT Technology Review. Powstaliśmy w 1899 roku w Massachusetts Institute of Technology. Możesz nas znaleźć w formie drukowanej, w Internecie, na dziesiątkach wydarzeń na żywo każdego roku, a teraz w formie audio. Na naszej stronie internetowej TechnologyReview.com możesz dowiedzieć się więcej o nas. I nie zapomnij zgłosić się do Global Panelu MIT Technology Review, grupy liderów, innowatorów i kadry kierowniczej, gdzie możesz uczyć się od swoich kolegów i dzielić się swoją wiedzą na temat dzisiejszych trendów technologicznych i biznesowych. Złóż wniosek na TechnologyReview.com/globalpanel. Ten program jest dostępny wszędzie tam, gdzie otrzymujesz podcasty. Jeśli podobał Ci się ten odcinek, mamy nadzieję, że poświęcisz chwilę, aby ocenić i zrecenzować nas w Apple Podcasts. Business Lab to produkcja MIT Technology Review. Producentem jest Wade Roush z pomocą redakcyjną Mindy Blodgett. Specjalne podziękowania dla naszego gościa Gabi Zijderveld. Dziękuję za wysłuchanie. Wrócimy wkrótce z nowym odcinkiem.