211service.com
Wykrywacze kłamstw zawsze były podejrzane. Sztuczna inteligencja pogorszyła problem.
Mikołaj Ortega
Zanim poligraf uznał go za winnego, Emmanuel Mervilus pracował dla firmy zajmującej się olejem spożywczym w porcie Newark w stanie New Jersey. Zarabiał 12 dolarów za godzinę przenosząc pudła, ale to nie wystarczało. Jego brat i siostra byli zbyt młodzi, by pracować, a matka toczyła kosztowną walkę z rakiem. Jego szef w porcie powiedział mu jednak, że jest następny w kolejce do awansu na stanowisko technika, z podwyżką do 25 dolarów za godzinę.
Mervilus wciąż czekał na tę promocję 19 października 2006 roku, kiedy wraz z przyjacielem zatrzymali się w Dunkin' Donuts w pobliskiej Elizabeth w stanie New Jersey. Kilka minut później, gdy szli ulicą, podeszło do nich dwóch policjantów i oskarżyło ich o obrabowanie mężczyzny z nożem kilka minut wcześniej, przed pobliską stacją kolejową.
Ofiara zidentyfikowała Mervilusa i jego przyjaciela z daleka. Zdesperowany, by udowodnić swoją niewinność, Mervilus zaproponował, że zrobi test wariografem. Policja zgodziła się, ale tuż przed badaniem zmarła matka Mervilusa. Był zrozpaczony i zaniepokojony, gdy policja przywiązała go do urządzenia. Nie zdał testu, poprosił o ponowne wykonanie i odmówiono mu.
Po tym, jak Mervilus podtrzymał swój zarzut niewinności, jego sprawa trafiła na rozprawę. Porucznik, który wykonał wariograf, zeznał w sądzie, że urządzenie było wiarygodnym wskaźnikiem prawdy. Powiedział, że nigdy w swojej karierze nie widział przypadku, w którym ktoś wykazywał oznaki oszustwa, i [później] okazało się, że byli prawdomówni. Ława przysięgłych skazała Mervilusa — zachwiała się, jak stwierdził później sąd apelacyjny, przez niewłaściwą wiarę w wariograf. Sędzia skazał go na 11 lat więzienia.
We współczesnym życiu zakorzeniło się przekonanie, że oszustwo można wykryć analizując ludzkie ciało. Pomimo licznych badań kwestionujących wiarygodność wariografu, każdego roku przeprowadza się za jego pomocą ponad 2,5 miliona badań przesiewowych, a testy wariograficzne to branża o wartości 2 miliardów dolarów. Agencje rządu federalnego USA, w tym Departament Sprawiedliwości, Departament Obrony i CIA, używają tego urządzenia podczas sprawdzania potencjalnych pracowników. Według danych Departamentu Sprawiedliwości z 2007 r. ponad trzy czwarte wszystkich wydziałów policji miejskiej i szeryfa używało również wykrywaczy kłamstw do sprawdzania najemników.
Ale maszyny wariograficzne są nadal zbyt wolne i nieporęczne, aby można je było używać na przejściach granicznych, na lotniskach lub w dużych grupach ludzi. W rezultacie w ciągu ostatniej dekady pojawiła się nowa generacja wykrywaczy kłamstw opartych na sztucznej inteligencji. Ich zwolennicy twierdzą, że są zarówno szybsze, jak i dokładniejsze niż wariografy.
W rzeczywistości praca psychologiczna, na której opierają się te nowe systemy sztucznej inteligencji, jest jeszcze słabsza niż badania leżące u podstaw wariografu. Niewiele jest dowodów na to, że można ufać wynikom, które przynoszą. Niemniej jednak pozorem nowoczesności, jaką daje im sztuczna inteligencja, jest wprowadzenie tych systemów do ustawień, do których wariograf nie był w stanie przeniknąć: przejść granicznych, prywatnych rozmów o pracę, kontroli kredytów i roszczeń związanych z oszustwami ubezpieczeniowymi. Korporacje i rządy zaczynają na nich polegać przy podejmowaniu decyzji o wiarygodności klientów, pracowników, obywateli, imigrantów i gości z zagranicy. Ale co, jeśli kłamstwo jest zbyt skomplikowane, aby jakakolwiek maszyna mogła wiarygodnie zidentyfikować, bez względu na to, jak zaawansowany jest jej algorytm?
Inkwizytorzy w starożytnych Chinach prosili podejrzanych kłamców o wkładanie ryżu do ust, aby sprawdzić, czy ślinią się. ten Wyczyny Rzymian , średniowieczna antologia bajek moralnych, opowiada historię żołnierza, który kazał swojemu urzędnikowi zmierzyć puls żony, aby dowiedzieć się, czy jest niewierna.
Angielskie tłumaczenie Wyczyny Rzymian , czyli Czyny Rzymian, zbiór opowiadań pierwotnie opublikowanych po łacinie pod koniec XIII lub na początku XIV wieku. Wikimedia Commons
Gdy Stany Zjednoczone przystąpiły do I wojny światowej, William Marston, naukowiec z Harvardu, był pionierem w użyciu urządzeń mierzących ciśnienie krwi do próby ustalenia oszustwa. Kilka lat później, zainspirowany pracą Marstona, John Augustus Larson, policjant, który właśnie ukończył doktorat z fizjologii na Uniwersytecie Kalifornijskim w Berkeley, opracował maszynę, którą nazwał psychogramem kardiopneumograficznym, która zapewniała ciągłe odczyty ciśnienie krwi, tętno i częstość oddechów pacjenta. Larson twierdził, że te odczyty były jeszcze lepszym wskaźnikiem oszustwa niż samo ciśnienie krwi.
Larson po raz pierwszy użył maszyny do zbadania kradzieży w kobiecym akademiku w Berkeley, a w ciągu roku została użyta do skazania mężczyzny w San Francisco, który został oskarżony o zamordowanie księdza. W latach trzydziestych jeden z podopiecznych Larsona sprzedawał przenośną wersję oddziałom policji w całym kraju, dodając czujnik, który mierzył zmiany reakcji skóry galwanicznej – im bardziej osoba się pociła, tym bardziej przewodząca byłaby skóra. W latach 70. miliony pracowników sektora prywatnego poddawało się regularnym badaniom wariografem na polecenie pracodawców.
Większość dzisiejszych testów wariograficznych ma tę samą podstawową strukturę, co test Larsona: egzaminator zadaje serię pytań, aby zmierzyć normalny stan fizjologiczny badanego, obserwując, jak maszyna zapisuje te pomiary jako linie fal na stronie lub ekranie. Egzaminator następnie szuka nagłych skoków lub spadków tych poziomów, gdy badany odpowiada na pytania dotyczące podejrzewanych przestępstw lub uczuć.
Ale psychologowie i neuronaukowcy krytykowali wariograf niemal od momentu, gdy Larson ujawnił swój wynalazek opinii publicznej. Chociaż niektórzy kłamcy mogą odczuwać zmiany częstości akcji serca lub ciśnienia krwi, niewiele jest dowodów na to, że takie zmiany konsekwentnie korelują z oszustwem. Wielu niewinnych ludzi denerwuje się podczas przesłuchania, a praktykujący kłamcy potrafią stłumić lub… wywołać zmiany w ich ciele, aby oszukać test. Poligrafy mogą również być pokonanym za pomocą gryzienie się w język , nadepnięcie na hals lub myślenie o swoim najgorszym strachu . Urządzenia zawsze ryzykują wychwycenie mylących zmiennych, nawet w kontrolowanych eksperymentach laboratoryjnych, aw prawdziwym życiu są jeszcze mniej niezawodne: ponieważ przestępcy, którzy zdali test, prawie nigdy nie mówią policji, że są winni, a niewinni podejrzani często składają fałszywe zeznania po nieudanej próbie testów, nie ma sposobu, aby stwierdzić, jak dobrze faktycznie działały.
Leonarde Keeler, protegowany wynalazcy poligrafu Johna Larsona, poddał testowi Bruno Hauptmannowi, który został aresztowany, skazany i stracony za porwanie Charlesa Augustusa Lindbergha Jr. Hauptmann utrzymywał swoją niewinność aż do śmierci. Domena publiczna
Z powodu tych ograniczeń testy wariograficzne od dawna są niedopuszczalne w większości amerykańskich sądów, chyba że obie strony wyrażą zgodę na ich włączenie. Prawo federalne od 1988 roku zabrania prywatnym pracodawcom wykonywania wariografią swoich pracowników (z wyjątkiem osób wykonujących wrażliwe stanowiska, takich jak uzbrojeni strażnicy lub dystrybutorzy farmaceutyków, oraz niektórych pracowników podejrzanych o kradzież lub oszustwo). Amerykańskie Towarzystwo Psychologiczne ostrzega: Większość psychologów zgadza się, że istnieje niewiele dowodów na to, że testy wariograficzne mogą dokładnie wykrywać kłamstwa, a raport Narodowej Akademii Nauk z 2003 r., będący echem wcześniejszych badań rządowych, słynie z tego, że urządzenie wykrywa kłamców w tempie znacznie wyższym niż losowy. , choć znacznie poniżej doskonałości; Główny autor raportu powiedział wówczas, że bezpieczeństwo narodowe jest zbyt ważne, aby pozostawić je tak tępym instrumentom.
Ale może instrument nie musi być tak tępy. Taką obietnicę składa coraz większa liczba firm, które chcą sprzedawać technologię wykrywania kłamstw zarówno rządom, jak i przemysłom komercyjnym. Być może, mówią, pewne złożone wzorce tików behawioralnych mogą sygnalizować kłamstwo bardziej niezawodnie niż tylko podwyższone tętno lub ciśnienie krwi. I być może wyrafinowany algorytm mógłby wykryć te wzorce.
Od 1969 do 1981 seryjny morderca o pseudonimie Rozpruwacz z Yorkshire żerował na młodych kobietach na północy Anglii, zabijając co najmniej 13 i próbując zabić co najmniej siedem innych. Policja przeprowadziła z nim wywiady i wypuściła go dziewięć razy, podczas gdy jego szał zabijania trwał. Jego ostatnią ofiarą była Jacqueline Hill, 20-letnia studentka Uniwersytetu w Leeds, która zginęła w listopadzie 1980 roku. Kilka miesięcy później policja w końcu złapała go, gdy przygotowywał się do zabicia prostytutki w pobliskim Sheffield.
Kiedy Janet Rothwell przybyła na Uniwersytet w Leeds jesienią 1980 roku, mieszkała w akademiku obok Hill's. Została nawiedzana przez morderstwo Hilla.
Złapała autobus z biblioteki uniwersyteckiej mniej więcej w tym samym czasie co ja, powiedział Rothwell, i została zamordowana po tym, jak wysiadła z autobusu. Rothwell dowiedział się później, ile czasu zajęło złapanie mordercy. Zastanawiałam się, przypomniała sobie, czy komputer może zasygnalizować jakąś niezgodność w zachowaniu, aby zaalarmować policję?
Pod koniec lat 90. Rothwell ukończył szkołę podyplomową na Manchester Metropolitan University (MMU). Poznała Zuhaira Bandara, iracko-brytyjskiego wykładowcę pracującego na wydziale informatyki. Bandar miał ostatnio niesamowity moment, gdy firma marketingowa poprosiła go o stworzenie podstawowego urządzenia do pomiaru zainteresowania konsumentów produktami, które widzieli na ekranie.
Zdjęcie FBI kobiety wykonującej badanie wariograficzne. Federalne Biuro Śledcze
Dają klientowi urządzenie przenośne, powiedział Bandar, a jeśli zaakceptują, naciskają 1; jeśli im się to nie podoba, naciskają 2. Pomyślałem, po co nam podręczne urządzenia, skoro na ich twarzach są już wyrazy? Bandar poprosiła Rothwell, aby po studiach pozostała w MMU, aby zrobić doktorat i pomóc mu zaprojektować oprogramowanie, które może analizować twarze w celu wydobywania informacji. Uznali, że oszustwo jest nie mniej wykrywalne niż radość czy gniew. Wszystko to tworzyłoby jakąś formę niezgodności — wzorce zachowań, werbalne lub niewerbalne, które komputer mógłby rozpoznać.
Na początku XXI wieku Rothwell wytrenował sieć neuronową, aby śledzić ruchy twarzy, takie jak mruganie i rumienienie, a następnie nakarmił komputer kilkudziesięcioma klipami ludzi, którzy uczciwie i nieuczciwie odpowiedzieli na ten sam zestaw pytań. Aby określić, co łączy kłamców, komputer zbadał ruchy twarzy danej osoby, relacje między tymi ruchami oraz relacje między tymi relacjami, tworząc teorię zbyt złożoną, aby można ją było wyrazić w normalnym języku. Po przeszkoleniu w ten sposób system mógłby wykorzystać swoją wiedzę do klasyfikowania nowych tematów jako zwodniczych lub prawdziwych, analizując poklatkowe zmiany w ich wyrażeniach.
W badaniu z 2006 roku system o nazwie Silent Talker miał odgadywać, czy badany kłamie, czy mówi prawdę. Nigdy nie osiągnął więcej niż 80% dokładności, gdy Rothwell nad tym pracował – ani nie osiągnął znacznie lepszej wydajności w niczym, co grupa badawcza opublikowała od tego czasu. Rothwell powiedziała mi również, że całkowicie się psuje, jeśli uczestnik nosi okulary, i zwróciła uwagę: Musisz pamiętać, że warunki oświetleniowe były takie same, a wywiady opierały się na zainscenizowanej kradzieży. Ale nawet na wczesnych etapach, wspomina Rothwell, Bandarowi zależało na komercyjnym produkcie; Razem z kolegą zaprezentowali jej kiedyś nagranie wideo kobiety podejrzanej o zdradę męża i poprosili ją o przeanalizowanie go przez Silent Talkera, tak jak w Wyczyny Rzymian .
Rothwell miał swoje zastrzeżenia. Widziałam, że oprogramowanie, jeśli zadziała, może potencjalnie być inwazyjne, powiedziała. Nie sądzę, aby jakikolwiek system mógł kiedykolwiek być w 100%, a jeśli [system] się pomyli, ryzyko dla związków i życia może być katastrofalne. Opuściła uczelnię w 2006 roku; po przeszkoleniu na audiologa znalazła pracę w szpitalu na wyspie Jersey, gdzie nadal mieszka.
MMU opublikowało komunikat prasowy w 2003 roku, reklamując tę technologię jako nowy wynalazek, który sprawi, że wariograf stanie się przestarzały. Byłem trochę zszokowany, powiedział Rothwell, ponieważ czułem, że to za wcześnie.
W pierwszych latach po 11 września rząd Stanów Zjednoczonych dokonywał licznych ataków na technologię wykrywania oszustw, a Departament Bezpieczeństwa Wewnętrznego (DHS), Departament Obrony (DoD) i Narodowa Fundacja Nauki wydały miliony dolarów na takie badania. . Agencje te sfinansowały stworzenie kiosku o nazwie AVATAR na Uniwersytecie Arizony. AVATAR, który analizował mimikę twarzy, język ciała i głosy ludzi w celu przypisania badanym „wyniku wiarygodności, został przetestowany na lotniskach w USA. Tymczasem w Izraelu DHS pomogło sfinansować startup o nazwie WeCU („widzimy cię), który sprzedał kiosk przesiewowy, który wywoła reakcje fizjologiczne wśród tych, którzy coś ukrywają, zgodnie z Artykuł 2010 w Fast Company . (Firma od tego czasu została zamknięta.)
Bandar rozpoczął próby komercjalizacji technologii. Wraz z dwoma swoimi studentami, Jimem O’Shea i Keeley Crockettem, założył firmę Silent Talker i zaczął szukać klientów, w tym zarówno wydziałów policji, jak i prywatnych korporacji, dla swojej technologii profilowania psychologicznego. Silent Talker był jednym z pierwszych wykrywaczy kłamstw AI, które trafiły na rynek. Według firmy, w zeszłym roku technologia wywodząca się z Silent Talkera została wykorzystana w ramach iBorderCtrl, inicjatywy badawczej finansowanej przez Unię Europejską, w ramach której testowano system na ochotnikach na granicach w Grecji, na Węgrzech i Łotwie. Bandar mówi, że firma prowadzi teraz rozmowy na temat sprzedaży technologii firmom prawniczym, bankom i towarzystwom ubezpieczeniowym, wprowadzając testy do rozmów kwalifikacyjnych w miejscu pracy i kontroli oszustw.
Bandar i O’Shea spędzili lata na dostosowywaniu podstawowego algorytmu do użytku w różnych warunkach. Próbowali sprzedać go wydziałom policji w aglomeracjach Manchesteru i Liverpoolu. Nieformalnie rozmawiamy z bardzo starszymi osobami, firma powiedziała brytyjskiej publikacji Inżynier w 2003 roku, zauważając, że ich celem było wypróbowanie tego w prawdziwych wywiadach. Biała księga O’Shea z 2013 r opublikowany na swojej stronie internetowej zasugerował, że Silent Talker może być używany do ochrony naszych sił podczas rozmieszczenia za granicą przed atakami Green-on-Blue („Insider”). (Termin „zielony na niebieskim” jest powszechnie używany w odniesieniu do ataków afgańskich żołnierzy w mundurach przeciwko ich niegdysiejszym sojusznikom).
Zespół opublikował również wyniki eksperymentalne pokazujące, w jaki sposób Silent Talker można wykorzystać do wykrywania zarówno rozumienia, jak i wykrywania. W badaniu z 2012 r., pierwszym, w którym zaprezentowano system Silent Talker używany w terenie, zespół współpracował z organizacją pozarządową zajmującą się opieką zdrowotną w Tanzanii, aby zarejestrować mimikę 80 kobiet, które brały udział w internetowych kursach leczenia HIV i używania prezerwatyw. Pomysł polegał na ustaleniu, czy pacjenci rozumieją leczenie, które otrzymają – jak zauważa we wstępie do badania, ocena zrozumienia uczestników podczas procesu świadomej zgody nadal pozostaje krytycznym obszarem obaw. Kiedy zespół porównał domysły sztucznej inteligencji dotyczące tego, czy kobiety rozumiały wykłady z ich wynikami z krótkich egzaminów powykładowych, okazało się, że przewidywanie, kto zda, a kto obleje, było w 80% trafne.
Algorytm przeszkolony w Manchesterze zapewniłby, jak głosi komunikat prasowy, wydajniejsze i bezpieczniejsze lądowe przejścia graniczne oraz przyczyniłby się do zapobiegania przestępczości i terroryzmowi.
Eksperyment w Tanzanii doprowadził do włączenia Silent Talkera do iBorderCtrl. W 2015 roku Athos Antoniades, jeden z organizatorów powstającego konsorcjum, wysłał do O’Shea e-mail z pytaniem, czy zespół Silent Talker chce dołączyć do grupy firm i sił policyjnych ubiegających się o dotację UE. W poprzednich latach rosnący ruch pojazdów do UE przytłoczył agentów w krajach granicznych Unii, w wyniku czego UE zaoferowała 4,5 miliona euro (5 milionów dolarów) każdej instytucji, która mogłaby zapewnić wydajniejsze i bezpieczniejsze lądowe przejścia graniczne... przyczyniając się w ten sposób do zapobiegania przestępczości i terroryzmowi. Antoniades uważał, że Cichy Mówca może odegrać kluczową rolę.
Kiedy w październiku 2018 r. projekt ostatecznie ogłosił publiczny program pilotażowy, Komisja Europejska szybko ogłosiła historię sukcesu unikalnego podejścia systemu do wykrywania oszustw w komunikacie prasowym , wyjaśniając, że technologia analizuje mikrogesty podróżnych, aby dowiedzieć się, czy rozmówca kłamie. Algorytm przeszkolony w Manchesterze zapewniłby, jak pisano dalej, wydajniejsze i bezpieczniejsze lądowe przejścia graniczne oraz przyczyniłby się do zapobiegania przestępczości i terroryzmowi.
O’Shea powiedział mi, że algorytm leżący u podstaw programu może być używany w wielu innych sytuacjach – reklamie, analizie roszczeń ubezpieczeniowych, sprawdzaniu kandydatów do pracy i ocenie pracowników. Trudno było mi się podzielić jego przemożną wiarą w jego mądrość, ale nawet kiedy on i ja rozmawialiśmy przez telefon, Silent Talker już sprawdzał wolontariuszy na przejściach granicznych UE; firma niedawno rozpoczęła działalność jako firma w styczniu 2019 r. Postanowiłem więc pojechać do Manchesteru, aby zobaczyć na własne oczy.
Biura Silent Talkera znajdują się około mili od Manchester Metropolitan University, gdzie O’Shea jest obecnie starszym wykładowcą. Przejął od firmy Bandar codzienny rozwój technologii. Firma ma siedzibę w ceglanym parku biurowym, którego nie przegapisz, w dzielnicy mieszkalnej, w dół ulicy od restauracji z kebabem i naprzeciwko boiska do piłki nożnej. Wewnątrz biuro Silent Talkera to jednoosobowe pomieszczenie z kilkoma komputerami, biurkami z teczkami i plakatami objaśniającymi technologię z początku XXI wieku.
Kiedy we wrześniu odwiedziłem biuro firmy, usiadłem z O’Sheą i Bandarem w sali konferencyjnej na końcu korytarza. O'Shea był surowy, ale lekko wymięty, łysy, z wyjątkiem kilku kępek włosów i brody Van Dyke. Rozpoczął rozmowę od nalegania, abyśmy nie rozmawiali o projekcie iBorderCtrl, później nazywając jego krytyków błędnie poinformowanymi. Mówił o sile systemu AI w długich, dygresyjnych stycznych, od czasu do czasu cytując pioniera informatyki Alana Turinga lub filozofa języka Johna Searle'a.
Zarówno maszyny, jak i ludzie mają intencjonalność – przekonania, pragnienia i intencje dotyczące przedmiotów i stanów rzeczy na świecie, powiedział, broniąc zależności systemu od algorytmu. Dlatego skomplikowane aplikacje wymagają od Ciebie nadania wzajemnej wagi pomysłom i intencjom obu.
O’Shea zademonstrował system, analizując nagranie wideo mężczyzny, który odpowiada na pytania, czy ukradł 50 dolarów z pudełka. Program nałożył żółty kwadrat wokół twarzy mężczyzny i dwa mniejsze kwadraty wokół jego oczu. Kiedy mówił, igła w rogu ekranu zmieniała kolor z zielonego na czerwony, gdy udzielał fałszywych odpowiedzi, i z powrotem do umiarkowanego pomarańczowego, gdy nie mówił. Po zakończeniu wywiadu oprogramowanie wygenerowało wykres przedstawiający prawdopodobieństwo oszustwa w funkcji czasu. Teoretycznie pokazało to, kiedy zaczął i przestał kłamać.
Kiedy mówił, igła w rogu ekranu zmieniała kolor z zielonego na czerwony, gdy udzielał fałszywych odpowiedzi, i z powrotem do umiarkowanego pomarańczowego, gdy nie mówił.
System może działać na tradycyjnym laptopie, mówi O’Shea, a użytkownicy płacą około 10 USD za minutę analizowanego wideo. O'Shea powiedział mi, że oprogramowanie wykonuje wstępne lokalne przetwarzanie wideo, wysyła zaszyfrowane dane na serwer, gdzie są dalej analizowane, a następnie odsyła wyniki: użytkownik widzi wykres prawdopodobieństwa oszustwa nałożony na dole filmu.
Według O’Shea system monitoruje około 40 fizycznych kanałów na ciele uczestnika – wszystko od szybkości mrugania do kąta nachylenia głowy. Wnosi do każdej nowej twarzy teorię o oszustwie, którą rozwinęła, przeglądając zestaw danych treningowych kłamców i prawdomówców. Mierząc ruchy twarzy i zmiany postawy osoby badanej wiele razy na sekundę, system szuka wzorców ruchowych, które pasują do wzorców udostępnianych przez kłamców w danych treningowych. Te wzory nie są tak proste, jak oczy rzucające się w stronę sufitu lub głowa przechylająca się w lewo. Przypominają bardziej wzorce wzorów, wieloaspektowe relacje między różnymi ruchami, zbyt skomplikowane, aby człowiek mógł je śledzić – typowa cecha systemów uczenia maszynowego.
Zadaniem sztucznej inteligencji jest określenie, jakie rodzaje wzorców ruchów mogą wiązać się z oszustwem. Psychologowie często mówią, że powinieneś mieć jakiś model działania systemu, powiedział mi O’Shea, ale nie mamy funkcjonującego modelu i nie potrzebujemy go. Pozwalamy sztucznej inteligencji to rozgryźć. Jednak mówi również, że uzasadnienie kanałów na twarzy pochodzi z literatury naukowej na temat psychologii oszustwa. W Artykuł 2018 na temat Cichego Mówcy , jego twórcy twierdzą, że ich oprogramowanie zakłada, że pewne stany psychiczne związane z oszukańczym zachowaniem będą kierować [zachowaniem niewerbalnym] rozmówcy podczas oszukiwania. Wśród tych zachowań znajduje się obciążenie poznawcze lub dodatkowa energia mentalna, której rzekomo potrzeba, by kłamać, oraz oszukana radość lub przyjemność, jaką jednostka rzekomo czerpie z powiedzenia udanego kłamstwa.
Paul Ekman, psycholog, którego teoria „mikroekspresji” jest mocno kwestionowana, konsultował się z niezliczonymi agencjami rządowymi USA. Wikimedia / Momopuppycat
Ale Ewout Meijer, profesor psychologii na Uniwersytecie w Maastricht w Holandii, mówi, że podstawy, by wierzyć, że takie zachowania są uniwersalne, są w najlepszym razie niestabilne. Pomysł, że można znaleźć charakterystyczne przecieki behawioralne na twarzy, ma swoje korzenie w pracy Paula Ekmana, amerykańskiego psychologa, który w latach 80. był zwolennikiem słynnej obecnie teorii mikroekspresji, czyli mimowolnych ruchów twarzy, których nie da się kontrolować. Badania Ekmana uczyniły go autorem bestsellerów i zainspirowały telewizyjny dramat kryminalny Okłamywać mnie . Konsultował się z niezliczonymi agencjami rządowymi USA, w tym DHS i DARPA. Powołując się na bezpieczeństwo narodowe, zachował dane badawcze w tajemnicy. Doprowadziło to do kontrowersyjnej debaty na temat tego, czy mikrowyrażenia mają w ogóle jakiekolwiek znaczenie.
Sztuczna inteligencja Silent Talkera śledzi wszystkie rodzaje ruchów twarzy, a nie mikroekspresje charakterystyczne dla Ekmana. Rozłożyliśmy te wysokopoziomowe wskazówki na nasz własny zestaw mikrogestów i wyszkoliliśmy komponenty sztucznej inteligencji, aby ponownie połączyć je w znaczące wzorce, napisał rzecznik firmy w e-mailu. O'Shea mówi, że umożliwia to systemowi wykrycie zwodniczego zachowania, nawet gdy podmiot tylko rozgląda się lub przesuwa się na krześle.
Wiele zależy od tego, czy masz pytanie technologiczne, czy psychologiczne, mówi Meijer, ostrzegając, że O’Shea i jego zespół mogą szukać w technologii odpowiedzi na psychologiczne pytania dotyczące natury oszustwa. System sztucznej inteligencji może przewyższać ludzi w wykrywaniu [wyrazów twarzy], ale nawet gdyby tak było, to nadal nie mówi ci, czy możesz z nich wywnioskować, czy ktoś jest zwodniczy… oszustwo jest konstruktem psychologicznym. Nie tylko nie ma konsensusu w sprawie który wyrażenia korelują z oszustwem, dodaje Meijer; nie ma nawet konsensusu w sprawie czy robią. W e-mailu firma stwierdziła, że takie krytyki nie mają związku z Silent Talker i że użyte statystyki nie są odpowiednie.
Dramat telewizyjny Okłamywać mnie opierał się częściowo na teorii mikroekspresji Ekmana. Studia Fox
Co więcej, Meijer zwraca uwagę, że algorytm nadal będzie bezużyteczny na przejściach granicznych lub podczas rozmów kwalifikacyjnych, chyba że został przeszkolony na zestawie danych tak zróżnicowanym, jak ten, który będzie oceniał w prawdziwym życiu. Badania pokazują, że algorytmy rozpoznawania twarzy gorzej rozpoznają mniejszości, gdy zostały wyszkolone na zestawach składających się głównie z białych twarzy, co przyznaje sam O’Shea. Rzecznik Silent Talkera napisał w e-mailu: Przeprowadziliśmy wiele eksperymentów na mniejszych próbkach o różnej wielkości. Te sumują się do setek. Niektóre z nich mają charakter akademicki i zostały opublikowane [sic], inne mają charakter komercyjny i są poufne.
Jednak wszystkie opublikowane badania potwierdzające trafność Silent Talkera pochodzą z małych i częściowych zbiorów danych: na przykład w artykule z 2018 r. populacja szkoląca składająca się z 32 osób zawierała dwa razy więcej mężczyzn niż kobiet i tylko 10 uczestników pochodzenia azjatyckiego/arabskiego, z żadnych czarnych lub latynoskich tematów. Chociaż oprogramowanie ma obecnie różne ustawienia do analizy mężczyzn i kobiet, O’Shea powiedział, że nie jest pewien, czy wymaga ustawień pochodzenia etnicznego lub wieku.
Po ogłoszeniu pilotażu iBorderCtrl w 2018 roku aktywiści i politycy potępili program jako bezprecedensową, orwellowską ekspansję państwa inwigilacji. Sophie in 't Veld, holenderska posłanka do Parlamentu Europejskiego i lider centrolewicowej partii Demokratów 66, powiedziała w liście do Komisji Europejskiej, że system Cichych Mówców może naruszać podstawowe prawa wielu podróżnych przekraczających granice i że organizacje takie jak Privacy International potępiły to jako część szerszej tendencji do używania nieprzejrzystych i często niedoskonałych automatycznych systemów do osądzania, oceniania i klasyfikowania ludzi. Wydawało się, że opozycja zaskoczyła konsorcjum iBorderCtrl: chociaż początkowo Komisja Europejska twierdziła, że iBorderCtrl opracuje system przyspieszający przekraczanie granic, obecnie rzecznik mówi, że program był czysto teoretycznym projektem badawczym. Antoniades powiedział holenderskiej gazecie pod koniec 2018 roku, że system wykrywania oszustw może ostatecznie nie trafić do projektu, ale w chwili pisania tego tekstu Silent Talker wciąż reklamuje swój udział w iBorderCtrl na swojej stronie internetowej .
Jednak często krytycy, tacy jak Wilde, obalają to, marzenie o idealnym wykrywaczu kłamstw po prostu nie umrze, zwłaszcza gdy zostanie przesłonięte blaskiem sztucznej inteligencji.
Silent Talker to nowa wersja starego oszusta, uważa Vera Wilde, amerykańska aktywistka akademicka i prywatna mieszkająca w Berlinie, która pomogła rozpocząć kampanię przeciwko iBorderCtrl. W pewnym sensie to to samo oszustwo, ale z gorszą nauką. W teście wariograficznym badacz szuka zdarzeń fizjologicznych, które uważa się za skorelowane z oszustwem; w systemie sztucznej inteligencji, egzaminatorzy pozwalają komputerowi samemu określić korelacje. Kiedy O’Shea mówi, że nie ma teorii, myli się, kontynuuje. Ma teorię. To tylko zła teoria.
Jednak często krytycy, tacy jak Wilde, obalają to, marzenie o idealnym wykrywaczu kłamstw po prostu nie umrze, zwłaszcza gdy zostanie przesłonięte blaskiem sztucznej inteligencji. Po tym, jak DHS wydał miliony dolarów na finansowanie badań nad oszustwami na uniwersytetach w 2000 roku, próbował stworzyć własną wersję technologii analizy behawioralnej. System ten, nazwany Future Attribute Screening Technology (FAST), miał na celu wykorzystanie sztucznej inteligencji do wyszukiwania kryminalnych tendencji w ruchach oczu i ciała obiektu. (Wczesna wersja wymagała od ankietowanych stania na tablicy balansowej Wii Fit, aby zmierzyć zmiany postawy.) Trzech badaczy, którzy nieoficjalnie rozmawiali o tajnych projektach, powiedziało, że program nigdy nie wystartował — w dziale było zbyt wiele nieporozumień. nad tym, czy używać mikrowyrażeń Ekmana jako wytycznych do analizy behawioralnej. Departament zlikwidował program w 2011 roku.
Pomimo niepowodzenia FAST, DHS nadal wykazuje zainteresowanie technikami wykrywania kłamstw. Na przykład w ubiegłym roku przyznał firmie zajmującej się zasobami ludzkimi kontrakt o wartości 110 000 USD na szkolenie swoich funkcjonariuszy w wykrywaniu oszustw i wywoływaniu reakcji poprzez analizę behawioralną. Tymczasem inne części rządu nadal wspierają rozwiązania AI. Army Research Laboratory (ARL) ma obecnie umowę z Rutgers University na stworzenie programu AI do wykrywania kłamstw w salonowej grze Mafia, w ramach większej próby stworzenia czegoś w rodzaju Google Glass, które ostrzega nas przed kilkoma kieszonkowcami w zatłoczony bazar, według Purusha Iyera, szefa dywizji ARL odpowiedzialnego za projekt. Nemesysco, izraelska firma sprzedająca oprogramowanie do analizy głosu AI, powiedziała mi, że jej technologia jest wykorzystywana przez wydziały policji w Nowym Jorku i szeryfów na Środkowym Zachodzie do przesłuchiwania podejrzanych, a także przez call center windykacyjne do mierzenia emocji dłużników na rozmowy telefoniczne.
Najbliższa i potencjalnie niebezpieczna przyszłość wykrywania kłamstw AI leży nie w rządach, ale na rynku prywatnym. Politycy, którzy wspierają inicjatywy takie jak iBorderCtrl, ostatecznie muszą odpowiedzieć przed wyborcami, a większość wykrywaczy kłamstw AI może zostać wykluczona z sądu na podstawie tego samego precedensu prawnego, który reguluje wariograf. Prywatne korporacje napotykają jednak mniej ograniczeń w korzystaniu z takiej technologii do sprawdzania kandydatów do pracy i potencjalnych klientów. Silent Talker jest jedną z kilku firm, które twierdzą, że oferują bardziej obiektywny sposób wykrywania nietypowych lub zwodniczych zachowań, dając klientom metodę analizy ryzyka wykraczającą poza ocenę kredytową i profile w mediach społecznościowych.
Oprogramowanie generuje dużą liczbę fałszywych alarmów.
Firma Neuro-ID z siedzibą w Montanie przeprowadza analizę ruchów myszy i naciśnięć klawiszy za pomocą sztucznej inteligencji, aby pomóc bankom i towarzystwom ubezpieczeniowym w ocenie ryzyka oszustwa, przypisując osobom ubiegającym się o pożyczkę ocenę zaufania od 1 do 100. Na filmie firma pokazała mi, jak klient składa wniosek o pożyczkę online zajmuje dodatkowy czas, aby wypełnić pole dotyczące dochodu gospodarstwa domowego, poruszając podczas tego myszą, system uwzględnia to w swojej ocenie wiarygodności. Opiera się na badaniach przeprowadzonych przez naukowców założycieli firmy, którzy twierdzą, że wykazują korelację między ruchami myszy a pobudzeniem emocjonalnym: jeden artykuł, który twierdzi, że bycie zwodniczym może zwiększyć znormalizowaną odległość ruchu, zmniejszyć prędkość ruchu, wydłużyć czas reakcji i wynik w większej liczbie lewych kliknięć. Jednak własne testy firmy ujawniają, że oprogramowanie generuje dużą liczbę fałszywych trafień: w jednym studium przypadku, w którym Neuro-ID przetworzyło 20 000 wniosków o witrynę e-commerce, mniej niż połowa kandydatów uzyskała najniższe wyniki (5 do 10) okazał się oszukańczy, a tylko 10% osób, które otrzymały ocenę od 20 do 30, stanowiło ryzyko oszustwa. Jak sama firma przyznaje, oprogramowanie oznacza kandydatów, którzy mogą okazać się niewinni, i pozwala firmie wykorzystać te informacje do śledzenia, jak jej się podoba. Rzecznik powiedział mi, że nie ma czegoś takiego jak analiza oparta na zachowaniu, która byłaby w 100% dokładna. Zalecamy używanie tego w połączeniu z innymi informacjami o kandydatach, aby podejmować lepsze decyzje i skuteczniej łapać [nieuczciwych klientów].
Converus, start-up z Utah, sprzedaje oprogramowanie o nazwie EyeDetect, które mierzy rozszerzenie źrenic badanego podczas wywiadu w celu wykrycia obciążenia poznawczego. Podobnie jak Silent Talker, narzędzie wychodzi z założenia, że kłamstwo jest bardziej wymagające poznawczo niż mówienie prawdy. Według Artykuł 2018 w Wired wydziały policji w Salt Lake City i Columbus w stanie Georgia używały EyeDetect do sprawdzania kandydatów do pracy. Converus powiedział również Wired, że McDonald's, Best Western, Sheraton, IHOP i FedEx używały swojego oprogramowania w Panamie i Gwatemali w sposób, który byłby nielegalny w USA.
W oświadczeniu, które mi dała, cytowana firma do mało studia które pokazują, że EyeDetect osiąga około 85% dokładności w identyfikowaniu kłamców i prawdomównych na próbkach do 150 osób. Prezes firmy Todd Mickelsen mówi, że algorytm jego firmy został przeszkolony na setkach tysięcy wywiadów. Ale Charles Honts, profesor psychologii na Boise State University, który zasiada również w radzie doradczej Converusa, powiedział, że te wyniki nie dowiodły, że można polegać na EyeDetect podczas wywiadów terenowych. Uważam, że system EyeDetect jest naprawdę interesujący, ale z drugiej strony nie używam go – powiedział. Myślę, że baza danych jest wciąż stosunkowo niewielka i pochodzi głównie z jednego laboratorium. Dopóki nie zostanie rozszerzony i inni ludzie go nie powielą, niechętnie używałbym go w terenie.
Naukowcy z University of Arizona, którzy opracowali system AVATAR, założyli również prywatną firmę Discern Science, aby wprowadzić na rynek własną technologię wykrywania oszustw. Rozpoczęty w zeszłym roku, Discern sprzedaje kiosk o wysokości sześciu stóp, podobny do oryginalnego AVATAR; zgodnie z artykułem w Financial Times firma zawarła umowę joint venture z partnerem z branży lotniczej na sprzedaż tego narzędzia na lotniska. System środki zgodnie z materiałami promocyjnymi, ruchy twarzy i stres głosowy, aby w niewidoczny sposób zbierać informacje od podmiotu z odległości konwersacyjnej. Podobnie jak Silent Talker i Converus, Discern twierdzi, że technologia może niezawodnie wykryć około 85% kłamców i prawdomównych, ale znowu jej wyniki nigdy nie zostały niezależnie powtórzone. Co najmniej jedno z wejść, z których korzysta kiosk, zostało wielokrotnie pokazane być niegodny zaufania . (Honts zauważył ponadto, że prawie nie ma wsparcia dla analizy ruchu twarzy, takiej jak AVATAR i Silent Talker – było tak wiele niepowodzeń do replikacji, powiedział.)
Każdy, kto mówi, że ma urządzenie, które jest prostym wykrywaczem kłamstw, jest szarlatanem.
Zapytana o naukowe poparcie dla kiosku firmy, badaczka Discern, Judee Burgoon, podkreśliła, że dokonują oni jedynie ocen, a nie wiążących osądów dotyczących prawdy i fałszu. Powiedziała, że systemy takie jak AVATAR i Silent Talker nie mogą bezpośrednio zmierzyć oszustwa, dodając, że każdy, kto mówi, że ma urządzenie, które jest prostym wykrywaczem kłamstw, jest szarlatanem. W materiałach marketingowych Discern przedstawia jednak narzędzie jako niezawodny wykrywacz kłamstw: stronę internetową firmy roszczenia że może pomóc w odkryciu ukrytych planów, a jego algorytmy zostały naukowo udowodnione, aby wykrywać oszustwa szybciej i bardziej niezawodnie niż jakakolwiek alternatywa.
Sąd apelacyjny uchylił wyrok skazujący Emmanuela Mervilusa w 2011 roku, zwalniając go z więzienia i nakazując ponowne rozpatrzenie sprawy; odsiedział ponad trzy lata wyroku. Na drugim procesie, w 2013 roku, sędziowie naradzali się tylko przez 40 minut, zanim go uniewinnili. Gdyby nie wariograf i nieustająca wiara w jego dokładność, mógłby nigdy nie stanąć na sali sądowej za pierwszym razem. Mervilus pozwał funkcjonariuszy policji, którzy pierwotnie go aresztowali i przesłuchali, twierdząc, że naruszyli jego prawo do należytego procesu, stosując testy wariograficzne, o których wiedzieli, że są wadliwe, aby uzyskać wyrok skazujący. Sprawa trafi na konferencję ugodową 13 marca.
Nawet jeśli powszechne korzystanie z Silent Talkera i podobnych systemów nie prowadzi do większej liczby wyroków skazujących niewinnych ludzi, takich jak Mervilus, nadal może pomóc w stworzeniu nowego rodzaju społecznej gadaniny, zmuszającej ludzi do poddania się ocenie wiarygodności przed wynajmem samochodu lub wykupem. Pożyczka.
W sądzie musisz przekazać dowody materialne, takie jak włosy i krew, mówi Wilde. Ale masz też prawo do milczenia, prawo do nie wypowiadania się przeciwko sobie. Mervilus zdecydował się na badanie wariografem, zakładając, że podobnie jak test DNA wykaże, że był niewinny. I chociaż urządzenie się pomyliło, to nie sama maszyna wysłała go do więzienia. To było przekonanie ławy przysięgłych, że wyniki testu były bardziej wiarygodne niż fakty sprawy.
Podstawowym założeniem wykrywania kłamstw AI jest to, że kłamstwa można zobaczyć za pomocą odpowiednich narzędzi. Psychologowie wciąż nie wiedzą, na ile zasadne jest to twierdzenie, ale w międzyczasie wiara w jego słuszność może wystarczyć, aby zdyskwalifikować zasłużonych kandydatów do pracy i pożyczek oraz uniemożliwić niewinnym ludziom przekraczanie granic państwowych. Obietnica wglądu w wewnętrzne życie innych jest zbyt kusząca, by z niej zrezygnować, nawet jeśli nikt nie może być pewien, jak jasne jest to okno.
To obietnica czytania w myślach, mówi Wilde. Widać, że to fałszywe, ale to właśnie sprzedają.