Badacze Emocji AI twierdzą, że przesadzone twierdzenia nadają ich pracy złą sławę

Ilustracja. Po lewej rozrzucone wycięcia części twarzy, takie jak oczy i usta zawarte w pudełku. Środek: pełna twarz, oczy zamknięte. Po prawej: sieć w kształcie głowy. Franziska Barczyk

Być może słyszałeś o wywiadach przeprowadzanych przez sztuczną inteligencję. A może sam udzielił Ci wywiadu. Firmy takie jak HireVue twierdzą, że ich oprogramowanie może analizować rozmowy wideo, aby dowiedzieć się, co kandydata wskaźnik zatrudnialności . Algorytmy nie tylko oceniają postawę twarzy i ciała pod kątem wyglądu; informują również pracodawcę, czy rozmówca jest: wytrwały, czyli dobry w pracy w zespole . Oceny te mogą mieć duży wpływ na przyszłość kandydata. w nas oraz Korea Południowa , gdzie zatrudnianie wspomagane sztuczną inteligencją stało się coraz bardziej popularne, konsultanci zawodowi szkolą teraz nowych absolwentów i osoby poszukujące pracy, jak przeprowadzać rozmowę kwalifikacyjną za pomocą algorytmu. Ta technologia jest również wdrażana u dzieci w klasach i został wykorzystany w badaniach w celu wykrycia oszustwa w filmach sądowych .

Jednak wiele z tych obietnic nie jest popartych naukowym konsensusem. Nie ma mocnych, recenzowanych badań naukowych dowodzących, że analiza postawy ciała lub mimiki może pomóc w wyborze najlepszych pracowników lub uczniów (po części dlatego, że firmy ukrywają swoje metody). W rezultacie szum wokół rozpoznawania emocji, który jest P ma być rynkiem o wartości 25 miliardów dolarów do 2023 r. , wywołał reakcję etyków i aktywistów technologicznych, którzy obawiają się, że technologia może wywołać te same rodzaje problemów związanych z dyskryminacją, co predykcyjny wyrok lub algorytmy mieszkaniowe dla właścicieli decydujących komu wynająć.

Ten szum niepokoi również badaczy. Wielu zgadza się, że ich praca – która wykorzystuje różne metody (takie jak analiza mikroekspresji lub głosu) do rozpoznawania i interpretowania ludzkich wypowiedzi – jest dokooptowana i wykorzystywana w zastosowaniach komercyjnych, które mają chwiejne podstawy naukowe. Mówią, że brak regulacji rządowych jest nie tylko zły dla konsumentów. Dla nich też jest to złe.

Dobry i zły

Rozpoznawanie emocji, podzbiór komputerów afektywnych, jest wciąż rodzącą się technologią. Ponieważ badacze sztucznej inteligencji testowali granice tego, co możemy, a czego nie możemy określić ilościowo w ludzkim zachowaniu, nauka leżąca u podstaw emocji nadal się rozwijała. Wciąż istnieje wiele teorii, na przykład na temat tego, czy emocje można rozróżniać dyskretnie, czy też można je rozłożyć na kontinuum. Tymczasem te same wyrażenia mogą oznaczać różne rzeczy w różnych kulturach. W lipcu a metabadanie doszedł do wniosku, że nie można ocenić emocji po prostu patrząc na twarz osoby. Badanie było szeroko omawiane (w tym w tej publikacji), często z nagłówkami sugerującymi, że Rozpoznawaniu emocji nie można ufać .

Badacze rozpoznawania emocji są już świadomi tego ograniczenia. Ci, z którymi rozmawialiśmy, ostrożnie podchodzili do twierdzeń o tym, co ich praca może, a czego nie. Wielu podkreślało, że rozpoznawanie emocji nie może w rzeczywistości ocenić wewnętrznych emocji i doświadczeń jednostki. Może jedynie oszacować, w jaki sposób emocje tej osoby mogą być postrzegane przez innych, lub zasugerować szerokie trendy populacyjne (takie jak jeden film wywołujący średnio bardziej pozytywną reakcję niż inny). Żaden poważny badacz nie twierdziłby, że można analizować jednostki działania w twarz i wtedy faktycznie wiesz, co ludzie myślą, mówi Elisabeth André, ekspert w dziedzinie afektywnych obliczeń na Uniwersytecie w Augsburgu.

Naukowcy zauważają również, że rozpoznawanie emocji to znacznie więcej niż tylko patrzenie na czyjąś twarz. Może również obejmować obserwowanie postawy ciała, chodu i innych cech, a także wykorzystanie czujników biometrycznych i dźwięku do zbierania bardziej całościowych danych.

Takie rozróżnienia są dobre, ale ważne: dyskwalifikują aplikacje takie jak HireVue, które twierdzą, że oceniają wrodzone kompetencje danej osoby, ale wspierają inne, takie jak technologie mające na celu uczynienie maszyn bardziej inteligentnymi współpracownikami i towarzyszami dla ludzi. (HireVue nie odpowiedział na prośbę o komentarz.) Humanoidalny robot może się uśmiechać, gdy się uśmiechasz — jest to lustrzane odbicie, którego ludzie często używają, aby interakcje były bardziej naturalne. Urządzenie do noszenia może przypominać o odpoczynku, jeśli wykryje wyższy niż podstawowy poziom kortyzolu, hormonu stresu organizmu. Żadna z tych aplikacji nie wymaga algorytmu do oceny twoich prywatnych myśli i uczuć; wymagają jedynie oszacowania odpowiedniej reakcji na poziom kortyzolu lub mowę ciała. Nie podejmują również decyzji o wysokiej stawce dotyczących życia danej osoby — w przeciwieństwie do niesprawdzonych algorytmów zatrudniania. Jeśli chcemy, aby komputery i systemy komputerowe nam pomogły, byłoby dobrze, gdyby miały wyczucie tego, jak się czujemy, mówi Nuria Oliver, główny analityk danych w organizacji non-profit DataPop Alliance.

Jednak wiele z tych niuansów ginie, gdy badania nad rozpoznawaniem emocji są wykorzystywane do tworzenia lukratywnych zastosowań komercyjnych. Te same algorytmy monitorowania stresu w urządzeniu do noszenia mogą być używane przez firmę, która stara się upewnić, że pracujesz wystarczająco ciężko. Nawet dla firm takich jak Affectiva, założonej przez naukowców, którzy mówią o znaczeniu prywatności i etyki, granice są trudne do zdefiniowania. To ma sprzedał swoją technologię firmie HireVue . (Affectiva odmówiła komentarza na temat konkretnych firm.)

Wezwanie do regulacji

W grudniu instytut badawczy AI Now wezwał do zakazu technologii rozpoznawania emocji w ważnych decyzjach, które wpływają na życie ludzi . Jest to jeden z pierwszych wezwań do zakazu technologii, która otrzymała mniej uwagi regulacyjnej niż inne formy sztucznej inteligencji, mimo że jej zastosowanie w badaniach przesiewowych pracy i w salach lekcyjnych może mieć poważne skutki.

W przeciwieństwie do tego Kongres właśnie zorganizował swoją… trzecie przesłuchanie w sprawie rozpoznawania twarzy za niecały rok i ma stać się problemem w wyborach 2020 . Aktywiści pracują nad bojkotem technologii rozpoznawania twarzy, a kilku przedstawicieli potwierdza potrzebę regulacji zarówno w sektorze prywatnym, jak i publicznym. W przypadku komputerów afektywnych nie było tylu dedykowanych kampanii i grup roboczych, a próby regulacji były ograniczone. Prawo stanu Illinois regulowanie analizy AI filmów z rozmów kwalifikacyjnych, weszła w życie w styczniu, a Federalna Komisja Handlu została poproszona o zbadanie HireVue (choć nie ma informacji, czy zamierza to zrobić).

Chociaż wielu badaczy uważa, że ​​zakaz jest zbyt szeroki, zgadzają się, że próżnia regulacyjna jest również szkodliwa. Mamy jasno określone procesy, aby poświadczyć, że niektóre produkty, które spożywamy – czy to żywność, którą jemy, czy to leki, które przyjmujemy – są dla nas bezpieczne i faktycznie robią to, co twierdzą, że robią, mówi Oliver . Nie mamy takich samych procesów dla technologii. Uważa, że ​​firmy, których technologie mogą znacząco wpłynąć na życie ludzi, powinny udowadniać, że spełniają określony standard bezpieczeństwa.

Rosalind Picard, profesor w MIT Media Lab, współzałożycielka Affectiva i innego startupu zajmującego się komputerami afektywnymi, Empatica, podziela ten pogląd. W przypadku istniejącego modelu regulacji wskazuje na: Ustawa o ochronie poligrafów pracowników ograniczenie stosowania wykrywaczy kłamstw, które, jak twierdzi, są zasadniczo technologią przetwarzania afektywnego. Na przykład prawo zabrania większości prywatnych pracodawców używania wariografów i nie pozwala pracodawcom pytać o wyniki testów wykrywacza kłamstw.

Sugeruje, że wszelkie korzystanie z takich technologii powinno być dobrowolne, a firmy powinny być zobowiązane do ujawnienia, w jaki sposób ich technologie zostały przetestowane i jakie są ich ograniczenia. To, co mamy dzisiaj, to to, że [firmy] mogą wysuwać te skandaliczne twierdzenia, które są po prostu fałszywe, ponieważ w tej chwili kupujący nie jest tak dobrze wykształcony, mówi. I nie powinniśmy wymagać od kupujących dobrej edukacji. (Picard, która twierdzi, że opuściła Affectiva w 2013 roku, nie popiera twierdzeń, które wysuwa HireVue.)

Ze swojej strony Meredith Whittaker, naukowiec z NYU i współdyrektor AI Now, podkreśla różnicę między badaniami a komercjalizacją. Nie kwestionujemy całej dziedziny afektywnej informatyki, mówi. W szczególności wzywamy do nieuregulowanego, niepotwierdzonego, naukowo nieuzasadnionego wdrażania komercyjnych technologii rozpoznawania wpływu. Komercjalizacja szkodzi ludziom teraz, potencjalnie, ponieważ wysuwa roszczenia, które determinują dostęp ludzi do zasobów.

Zakaz wykorzystywania rozpoznawania emocji w aplikacjach takich jak weryfikacja pracy pomogłby powstrzymać komercjalizację przed wyprzedzaniem nauki. Najpierw zatrzymaj wdrażanie technologii, mówi, a potem zainwestuj w badania. Jeśli badania potwierdzą, że technologie działają tak, jak twierdzą firmy, rozważ złagodzenie zakazu.

Wciąż jednak potrzebne byłyby inne regulacje, aby zapewnić ludziom bezpieczeństwo: ostatecznie, zdaniem Whittakera, trzeba wziąć pod uwagę coś więcej niż tylko wiarygodność naukową. Gdy systemy te są używane we wrażliwych kontekstach, musimy zapewnić, że można je kwestionować, że są używane uczciwie, mówi, i że nie prowadzą do zwiększonej asymetrii władzy między osobami, które ich używają, a osobami, na których są używane. są używane.

ukryć