Podcast: Uwaga, kupujący – jesteś śledzony

W niektórych sklepach wyrafinowane systemy śledzą klientów w niemal każdy możliwy sposób, od rozpoznawania ich twarzy po określanie ich wieku, nastroju i wirtualne nakładanie makijażu. Systemy rzadko pytają o zgodę ludzi i w większości nie muszą. W finale pierwszego sezonu przyglądamy się eksplozji technologii sztucznej inteligencji i rozpoznawania twarzy w przestrzeniach handlowych i temu, co to oznacza dla przyszłości zakupów.

Spotykamy się:

• RetailNext CTO Arun Nair
• Globalny wiceprezes L'Oreal Inkubator Technologiczny Balooch
• Dyrektor generalny Modiface, Parham Arabi
• Pionier biometrii i prezes ID4Africa Joseph Atick

Kredyty

Ten odcinek został zrelacjonowany i wyprodukowany przez Jennifer Strong, Anthony'ego Greena, Tate Ryan-Mosley, Emmę Cillekens i Karen Hao. Redagują nas Michael Reilly i Gideon Lichfield.

Transkrypcja

[ID TR]

Mocny: Sprzedawcy od lat korzystają z technologii rozpoznawania twarzy i śledzenia AI.

[ Dźwięk z funkcji Face First: Co by było, gdybyś mógł powstrzymać przestępczość handlową, zanim do niej dojdzie, znając moment, w którym złodziej sklepowy wchodzi do Twojego sklepu? A co by było, gdybyś mógł wiedzieć o obecności brutalnych przestępców, zanim zaczną działać? Dzięki Face First możesz powstrzymać przestępczość, zanim się zacznie.]

Mocny: To jeden z największych dostawców tej technologii do sklepów detalicznych. Wykrywa twarze, głosy, przedmioty i twierdzi, że może analizować zachowanie. Jednak systemy rozpoznawania twarzy mają dobrze udokumentowaną historię błędnej identyfikacji kobiet i osób kolorowych.

[ Dźwięk z przesłuchania Kongresu 2019 w sprawie rozpoznawania twarzy (Ocasio-Cortez): Mamy technologię stworzoną i zaprojektowaną przez jedną grupę demograficzną, która jest w większości skuteczna tylko w przypadku tej jednej grupy demograficznej. A oni próbują to sprzedać i narzucić całemu krajowi?]

Mocny: To jest przedstawicielka Alexandria Ocasio-Cortez na przesłuchaniu w Kongresie w 2019 r. w sprawie rozpoznawania twarzy. Technologie fotograficzne działają lepiej na jaśniejszej skórze. Zbiory danych wykorzystywane przez firmy do trenowania systemów analizy twarzy są w dużej mierze oparte na twarzach zebranych z Internetu, gdzie treść ma tendencję do przekrzywiania się na biało, męską i zachodnią.

[ Dźwięk z przesłuchania Kongresu 2019 w sprawie rozpoznawania twarzy (Ocasio-Cortez): A czy myślisz, że może to zaostrzyć i tak już rażące nierówności w naszym systemie sądownictwa karnego?

[ Dźwięk z przesłuchania Kongresu 2019 w sprawie rozpoznawania twarzy (Buolamwini): I już jest.]

Mocny: Joy Buolamwini jest aktywistką i informatykiem.

[ Dźwięk z przesłuchania Kongresu 2019 w sprawie rozpoznawania twarzy (Buolamwini): Mamy więc sprawę z panem Bahem, 18-letnim Afroamerykaninem, który został błędnie zidentyfikowany w sklepach Apple jako złodziej. W rzeczywistości był wielokrotnie fałszywie aresztowany z powodu tego rodzaju błędnej identyfikacji.

Mocny: W miarę jak rośnie świadomość tych problemów, coraz więcej miejsc próbuje nałożyć ograniczenia na jego używanie, na przykład w Portland w stanie Oregon, które niedawno przeszło najpoważniejszy zakaz identyfikacji twarzy w USA.

[ Dźwięk ze sklepu w Portland w stanie Oregon: proszę spojrzeć w kamerę, aby wejść]

Mocny: Zakaz wejdzie w życie w styczniu, a kiedy to nastąpi, głos i kamera znikną z miejsc takich jak ten sklep spożywczy, w którym technologia otwiera drzwi dla kupujących późno w nocy. Ale używanie gdzie indziej wykracza daleko poza walkę z przestępczością (i zaczyna odgrywać inne role w handlu detalicznym), na przykład zapamiętywanie wcześniejszych zamówień i szczegółów płatności.

Młynarz: Te technologie oparte na twarzach, uhh sztuczna inteligencja, widzenie maszynowe pozwalają nam widzieć naszego klienta w świecie offline, tak jak Amazon widzi swojego klienta w świecie online. To pozwala nam tworzyć dostosowane do potrzeb klienta doświadczenia, a także pozwala nam bezpośrednio dotrzeć do tego klienta w nowy sposób, gdy wraca do restauracji.

Mocny: To prezes Cali Group, John Miller, jej restauracji fast-food Caliburger wypróbowuje technologie, które później sprzedaje całej branży. Inni sprzedawcy detaliczni używają rozpoznawania twarzy, aby wiedzieć, kiedy klienci VIP lub celebryci są w ich sklepach, podobnie jak ta scena z filmu Raport mniejszości, w której Tom Cruise przechadza się po centrum handlowym, skanuje jego oczy, a reklamy zwracają się do jego postaci po imieniu.

[ Dźwięk z Raportu mniejszości, w którym głosy zwracają się osobiście do Johna Andersona]

Mocny: Pomiary twarzy, które zasilają te aplikacje, mogą być również wykorzystywane do wielu innych rzeczy, poza samą identyfikacją kogoś. Na przykład niektóre centra handlowe używają go do ustalania czynszów w sklepie, licząc, ile osób przechodzi obok, i używając danych twarzy do pomiaru płci, wieku i innych danych demograficznych. Czasami kamery do rozpoznawania twarzy są nawet ukryte w katalogach centrów handlowych. W sklepach sprzedawcy detaliczni używają go, aby lepiej zrozumieć, czym interesują się kupujący. Jest on również wbudowany w aplikacje zakupowe i lustra sklepowe, które pozwalają ludziom przymierzyć wszystko, od okularów po makijaż.

Nazywam się Jennifer Strong i ten odcinek podsumowujemy nasz pierwszy sezon (i najnowszą miniserialę o rozpoznawaniu twarzy) spojrzeniem na to, jak jest on używany do oglądania, rozumienia i wpływania na Twoje nawyki zakupowe.

[POKAŻ ID]

Mocny: Więc jestem przed największym sklepem na świecie. To jest Macy's na 34. ulicy na Manhattanie. Budynek wypełnia całą dzielnicę miasta i pod pewnymi względami jest rodzajem środka ciężkości świątecznego sezonu zakupowego, jako między innymi inspiracja do jednego z najsłynniejszych filmów bożonarodzeniowych w Nowym Jorku, Cud na 34. ulicy.

Ale firma może również mieć historię korzystania z rozpoznawania twarzy i w stanie Illinois wniesiono pozew sądowy, który ma prawo do ochrony danych biometrycznych, które wymaga od firm uzyskania pozwolenia przed użyciem go na klientach. Pozew ten twierdzi, że Macy’s jest klientem ClearviewAI. Założyciel tego programu, Hoan Ton-That, działa, dopasowując obrazy, w tym przypadku kupujących lub złodziei sklepowych, do bazy danych zawierającej być może miliardy zdjęć pobranych z mediów społecznościowych opublikowanych przez ludzi, którzy nie zmienili swoich ustawienia, aby zdjęcia były prywatne tylko dla ich znajomych.

Teraz członkowie rady Nowego Jorku właśnie przyjęli tutaj środek biometryczny, który podpisany przez burmistrza sprawi, że sprzedawcy detaliczni będą tutaj również informować kupujących, że używane jest rozpoznawanie twarzy i być może, co się dzieje z tymi danymi. Ale wiesz, że jest za wcześnie, aby powiedzieć, jak to może wyglądać. Chodzi mi o to, czy przechodzenie jako część dużego tłumu kupujących obok tablicy na ścianie, która mówi, że rozpoznawanie twarzy jest obecne, czy to oznacza bycie poinformowanym, nie mówiąc już o wyrażeniu zgody? Ale wejdę do środka z moim producentem, Anthonym Greenem, i zobaczę, czy możemy znaleźć zupełnie inne zastosowania mapowania twarzy, aby wam to pokazać.

Kilka z tych liczników piękności ma iPady, które pełnią funkcję lustra z rozszerzoną rzeczywistością. Wypróbowaliśmy trzy z nich, tylko jedną, ale poprosiliśmy o zgodę na analizę naszych twarzy. Dwa systemy dobrze nas przejrzały przez nasze maski. Drugi w ogóle nie rozpoznawał naszych twarzy.

Podszedłem do lustra i mówi, że moje oświetlenie jest w porządku. Podejdź bliżej, aż twoja twarz wypełni krąg. Podobno mam cienie pod oczami, nierówną teksturę. podrażnienia i zaczerwienienia oraz powieki. Przynajmniej jesteśmy po mniejszej stronie? Nie wiem. Och. Hej Anthony, powinieneś to zobaczyć. Nie byłem pewien, czy coś robi, a teraz spójrz w lustro.

Zielony: Wow.

Mocny: Prawidłowy?

Zielony: Wow.

Mocny: Tak naprawdę nie mam słów, aby to opisać, ale to takie zabawne, widząc, jak to zmyśliłem.

Zielony: Po prostu trochę jak glammed.

Mocny: Tak. Jestem jak super glammed. I dosłownie wszystko, co robiłem, to patrzenie w to lustro, a potem spojrzałem w dół na iPada i Holy, wow.

Zielony: To działa z twoją maską.

Mocny: To jest z moją maską. A jeśli zdejmę maskę, wszędzie jestem wymyślona.

Zielony: O tak.

Mocny: Jak błyszcząca i tak dalej. Och, spójrz na siebie.

Zielony: Wow.

Mocny: Okej, więc Anthony po prostu zrobił krok w moją stronę i teraz jest odrobiony do dziewiątek. Dobra. Te doświadczenia to jeden z wielu sposobów zastosowania mapowania twarzy.

Ale ponieważ są tak kontrowersyjne, większość marek po prostu nie chce o tym rozmawiać. A przede wszystkim nie muszą. Nie ma krajowego wymogu, aby firmy ujawniały sposób, w jaki gromadzą lub wykorzystują nasze dane biometryczne, chociaż możemy sobie wyobrazić nie tak odległą przyszłość, gdy dane te staną się ważniejsze niż jakikolwiek posiadany przez nas dokument. Te dane osobowe prawdopodobnie zastąpią je wszystkie, potwierdzając kim jesteśmy i co posiadamy.

Większość tego, co wiemy na temat korzystania z rozpoznawania twarzy przez sprzedawców detalicznych, zaczęło się w 2013 r., kiedy upubliczniono, że firma NEC zajmująca się tożsamością ma jako klientów kilkanaście marek i hoteli i używa technologii odczytu twarzy do identyfikowania celebrytów i innych VIP-ów jako ich klientów. przeszli przez ich drzwi.

W następnym roku Facebook ogłosił, że po raz pierwszy zastosował sieci neuronowe w obliczu ID, dzięki czemu działa znacznie lepiej. Sprzedawcy, w tym Walmart, zaczęli testować go jako sposób na identyfikację osób przyłapanych na kradzieży w sklepie.

Do 2016 roku firmy fast food eksperymentowały z innymi przypadkami użycia. Jedno z partnerów, między KFC i chińskim gigantem technologicznym Baidu, polecało pozycje menu klientom na podstawie ich wieku i nastroju, ocenianych przez skanowanie twarzy. W dzisiejszych czasach można również płacić twarzą, choć do tej pory te aplikacje tak naprawdę nie zostały przyjęte. Tak więc, gdziekolwiek robisz zakupy, rozsądnie jest założyć, że możesz napotkać jakiś aspekt tej technologii i można ją połączyć z dowolną liczbą innych trackerów. Ale równie prawdziwe jest to, że większość śledzenia, które odbywa się w sklepach detalicznych za pomocą wizji komputerowej, w ogóle nie obejmuje rozpoznawania twarzy.

Nair: Jeśli dziś budujesz witrynę internetową, dostępnych jest wiele narzędzi, których możesz użyć, aby uzyskać dane, takie jak liczba osób, które odwiedziły Twoją witrynę, kim byli, jak poruszali się po Twojej witrynie itd., a w przypadku witryn e-commerce ewentualna aktywność zakupowa, jak również. Możesz wykorzystać wszystkie te dane, aby zrozumieć zachowanie użytkowników i zoptymalizować swoją witrynę. Robimy dokładnie to samo, ale dla przestrzeni fizycznych. Nazywam się Arun Nair. Jestem CTO i współzałożycielem RetailNext.

Mocny: Ich oprogramowanie śledzące jest stosowane w biurach, muzeach, a nawet w kręgielni, ale ich głównym rynkiem jest sprzedaż detaliczna. Kamery sufitowe wyposażone w wizję komputerową śledzą klientów podczas ich podróży po sklepie. Może odgadnąć podstawowe informacje demograficzne, takie jak płeć, kto jest pracownikiem — na podstawie tego, czy zalega z rejestrem, a nawet interakcji między pracownikami a klientami.

Nair: Mamy nawet algorytm przewidywania, który na podstawie historycznych informacji powie Ci, kiedy Twój sklep będzie zajęty w dalszej części dnia, w dalszej części tygodnia. I jest to niezwykle pomocne przy obsadzie personelu. Więc upewniając się, że kiedy spodziewasz się szczytu, są ludzie, którzy pomagają kupującym i nie stoją w kolejce itd., a także nie zawsze masz personel, gdy nikogo nie musi tam być.

Mocny: Mówi, że firma jest w stanie określić, na co patrzysz, ale nie śledzi spojrzenia, mimiki ani twarzy. I nie identyfikują nikogo indywidualnie.

Nair: Nie wiemy, kim są jako jednostki, a szczególnie staramy się tego nie robić. I w rzeczywistości w wielu przypadkach, gdy otrzymamy te informacje, wyrzucamy wideo lub rozmywamy wideo.

Mocny: Jeśli chodzi o prywatność, uważa, że ​​systemy wykorzystujące rozpoznawanie twarzy do identyfikacji tożsamości powinny być włączone

Nair: Zgoda nie polega tylko na tym, że udostępniam swoje dane, abyś mógł robić, co chcesz. Myślę, że zgoda dotyczy również Ciebie, wiesz, chcemy, abyś to zrobił, abyśmy mogli to zrobić w zamian za Ciebie. dobrze się z tym czujesz?

Mocny: Ale przyznaje, że łatwiej to powiedzieć niż zrobić.

Nair: Nie jest łatwo zrezygnować z tych rzeczy. I nawet jeśli zrezygnujesz, wyzwanie polega na tym, że powiedzmy, że mówisz, Hej, chcę zrezygnować z mojej twarzy. Jako firma technologiczna nadal muszę przechowywać cyfrową wersję twojej twarzy, aby upewnić się, że nie będę cię ponownie śledzić w przyszłości, ponieważ następnym razem, gdy zobaczę twoją twarz, potrzebuję czegoś do odwzorowania, aby powiedzieć, że powinien upuszczać twarz tej osoby. Ale z drugiej strony, w dziwny sposób, przechowuję teraz cyfrową wersję twojej twarzy, która. Ponownie, to nie jest tak naprawdę twoja twarz, ale jest jej reprezentacją.

Mocny: A te wyzwania nie znikną. Większość technologii śledzenia nie jest regulowana, a my po prostu nie wiemy, jak często przechwytywane są dane dotyczące twarzy. Jasne jest, że branża detaliczna przenosi się do świata, który koncentruje się na analizie doświadczeń klientów w czasie rzeczywistym.

Nair: Myślę, że będą widzieć coraz więcej tego postępu, gdzie w tych lokalizacjach faktycznie dzieje się mniej zakupów, ale w ten sposób uczysz się o marce. [00:12:15] Prawie jak reklama, a także rodzaj budowania lojalności wobec marki.

Mocny: Śledzenie klientów i ich interakcji ze sklepem nie tylko pomaga sprzedawcom wiedzieć, co się sprzedaje, ale także daje im wgląd w to, czego chcą klienci.

Nair: Wprowadzasz nowy produkt. I chcesz mieć pewność, że ludzie widzą ten produkt. Nasze algorytmy poinformują Cię, czy ludzie rzeczywiście wchodzą do danego obszaru sklepu i wchodzą w interakcję z produktem, a następnie faktycznie dokonują zakupu.

Balooch: Myślę, że to połączenie sztucznej inteligencji z obiektami fizycznymi, które tworzy naprawdę ekscytujący moment w czasie. Wiesz, nigdy nie mógłbyś naprawdę wypróbować trendu, a potem go wydać. To nigdy nie było możliwe. Ale teraz dzięki sztucznej inteligencji jesteśmy w stanie naprawdę szybko przechodzić przez trendy. Potrafimy kreować trendy, jesteśmy w stanie dać ludziom to, czego pragną. Nazywam się Guive Balooch i prowadzę globalny inkubator technologii w L'Oreal. W firmie pracuję od 15 lat i moim zadaniem jest znalezienie przecięcia piękna i technologii.

Mocny: L’Oreal to największa na świecie firma kosmetyczna, której patronem korporacyjnym jest Estee Lauder, Maybelline, Garnier i niezliczone inne marki konsumenckie.

Balooch: Zaczęliśmy około osiem lat temu od aplikacji do rzeczywistości rozszerzonej o nazwie geniusz makijażu. To była pierwsza na świecie wirtualna przymiarka. Od tego czasu uruchomiliśmy projekty dotyczące spersonalizowanego piękna, takie jak personalizacja pielęgnacji skóry, personalizacja podkładu. W sklepie Apple wprowadziliśmy czujnik UV, który jest urządzeniem do noszenia, które nie ma baterii i może mierzyć ekspozycję na promieniowanie UV. A teraz jesteśmy, coraz bardziej zmierzamy w kierunku masowej personalizacji i znajdowania sposobów łączenia technologii, takich jak AR i AI, aby tworzyć nowe obiekty fizyczne, które mogą być magiczne dla konsumentów kosmetyków i, miejmy nadzieję, zachwycić naszych użytkowników.

Mocny: A to jest trudniejsze, niż mogłoby się wydawać. Projektowanie doświadczeń, które pozwalają klientom przymierzyć makijaż w rzeczywistości rozszerzonej, stanowi ogromne wyzwanie techniczne w zakresie wykrywania twarzy.

Balooch: Musisz wykryć, gdzie jest oko i gdzie jest brew. I musi być na takim poziomie dokładności, że kiedy produkt jest tam, nie wygląda na to, że nie jest dokładnie na twojej wardze. I to jest zabawne, bo pochodzę ze środowiska akademickiego z doktoratem. Więc nie zdawałem sobie sprawy, jak skomplikowana jest ta konkretna część tej technologii. Pomyślałem: Och, w porządku. Po prostu dostaniemy oprogramowanie. To będzie łatwe. Po prostu sprawimy, że to zadziała. Ale okazuje się, że nie, to naprawdę skomplikowane, ponieważ usta ludzi mogą mieć różny kształt, a kolor skóry i warg może być bardzo różny. Potrzebujesz więc algorytmu, który może to wykryć i upewnić się, że działa na ludziach o bardzo jasnej do bardzo ciemnej karnacji.

Mocny: I mówi, że jednym z największych skutków sztucznej inteligencji na rynku kosmetycznym może być większa inkluzywność — coś, z czym branża od dawna boryka się.

Balooch: Jestem pod tym, wiesz, silne przekonanie, że inkluzywność jest przyszłością piękna, a inkluzywność oznacza, że ​​każdy człowiek ma prawo do posiadania produktu, którego potrzebuje dla siebie i do pokazania światu, jakim chce być zaprezentowane. I myślę, że tylko dzięki takim rzeczom jak sztuczna inteligencja i technologia będziemy w stanie osiągnąć ten poziom osobistej relacji z pragnieniami ludzi dotyczącymi ich nawyków kosmetycznych.

Mocny: Te nawyki kształtują się wokół naszej skóry. A odcień skóry był historycznie jednym z najtrudniejszych wyzwań technicznych i kulturowych.

Balooch: Uruchomiliśmy ten projekt o nazwie, który jest tym podkładem blender. I kiedy po raz pierwszy zacząłem ten projekt, myślałem, że to będzie bardzo proste, ponieważ kiedy poszedłem do Home Depot umm nie jestem tak naprawdę złota rączka, ale chodziłem z moim tatą dużo do Home Depot i kupował farba. Dopasowywałby farbę, a oni po prostu robili farbę właśnie tam. A ja powiedziałem, ok, to takie proste? Więc kiedy po raz pierwszy zaczęliśmy projekt, zdaliśmy sobie sprawę, że po prostu bierzesz odcień skóry z kawałka, wiesz, papieru i możesz po prostu dopasować podkład. Później zdałem sobie sprawę, że nasza skóra nie jest jak ściana, to biologiczna tkanka, która zmienia się w zależności od odcienia skóry.

Mocny: Krótko mówiąc, algorytm nie działał.

Balooch: Musieliśmy więc się zatrzymać i poświęcić kolejne sześć miesięcy na poprawę. Najpierw zrobiliśmy to za pomocą małego urządzenia, które mierzy odcień skóry za pomocą fizycznego obiektu, ponieważ odcień skóry jest trudny do zmierzenia, jeśli nie dotykasz skóry, ponieważ światło może zmienić kolor skóry. I tak, w zależności od tego, czy jesteś na zewnątrz, czy w środku, możesz mieć dużą różnicę w pomiarze. Ale już nie. Myślę, że dzięki sztucznej inteligencji coraz częściej będziemy mogli uzyskiwać dokładne pomiary. Musimy je przetestować i upewnić się, że działają równie dobrze jak przedmioty. Ale kiedy dochodzimy do punktu, kiedy wydaje nam się, że zbliżamy się do tego, możesz rozwiązać naprawdę, naprawdę duże wyzwania. A w przypadku podkładu 50% kobiet nie potrafi znaleźć odpowiedniego odcienia podkładu. I nie ma mowy, aby liczba produktów na półce kiedykolwiek rozwiązała ten problem, ponieważ zawsze będziesz mieć więcej odcieni skóry na świecie niż produktów, które możesz umieścić na półce.

Mocny: A przyszłość może otworzyć zupełnie nową klasę spersonalizowanych narzędzi kosmetycznych.

Balooch: Możemy tworzyć przedmioty, które, no wiesz, nie są duże – trzymane w dłoni – i potrafią robić niesamowite rzeczy. Podobnie jak w przyszłości, możesz sobie wyobrazić, że możesz automatycznie dozować cień do powiek na powiece, po prostu poprzez wykrycie twarzy i posiadanie przedmiotu, który mógłby go dozować.

Mocny: Aby zbudować tę przyszłość, L'Oreal nabył firmę o nazwie Modiface, która produkuje narzędzia rzeczywistości rozszerzonej dla ponad 70 najlepszych światowych marek kosmetycznych.

Arabski: Jednym wielkim krokiem, który wydarzył się kilka lat temu, było przejście od zdjęć do symulacji wideo na żywo. Naprawdę trudny technologicznie wyczyn, ale naprawdę wpływa na wrażenia konsumentów. Zamiast robić zdjęcie i przesyłać je, mogli obejrzeć wideo na żywo.

Mocny: Parham Aarabi jest założycielem i dyrektorem generalnym Modiface.

Arabski: Kolejnym dużym krokiem, który, jak widzę, jest naprawdę podekscytowany, jest połączenie zrozumienia twarzy przez sztuczną inteligencję z naszą symulacją. Więc nie tylko mówię ci, dobrze, więc wybierasz szminkę i tak to wygląda, ale mówię, że wybrałeś tę szminkę i ponieważ twoje, wiesz, masz niebieskie oczy, wierzymy, że ten cień może do niego pasować. Najlepsza.

Mocny: Jego przeszłość to śledzenie twarzy i ust.

Arabski: Dlatego stworzyliśmy to przykładowe demo, w którym można było śledzić czyjeś usta i na przykład zamieniać usta z celebrytą. Mój współzałożyciel wpadł na pomysł, że zanim to zrobimy, powinniśmy faktycznie wprowadzić pewne zmiany na skórze. I tak naprawdę połączenie tych dwóch pomysłów stało się podstawą Modiface.

Mocny: Branża kosmetyczna rozwija się dzięki osobistym doświadczeniom zakupowym. I chociaż sprzedaż e-commerce od dawna rośnie, ten sektor jest znacznie wolniejszy niż inne. Dla kontekstu, najlepszym sprzedawcą e-commerce w branży beauty w 2018 roku był szampon. Ale pandemia przyspiesza. W tym roku sprzedaż online giganta kosmetycznego Sephora wzrosła w USA o 30 procent. Współpracuje również z firmą Modiface, aby opracować aplikację, która działa jak wirtualny sklep, wraz z samouczkami dotyczącymi produktów i licznikiem urody w rzeczywistości rozszerzonej.

Arabski: Widzisz przycisk przymierzania, naciskasz go i otwiera się okno. Widzisz swój własny film w tym oknie, ale z wyświetlanymi różnymi wirtualnymi produktami.

Mocny: A budowanie zaufania konsumentów do tych symulowanych produktów oznacza projektowanie doświadczenia tak płynnego, jak patrzenie w lustro.

Arabski: Jeśli ktoś faktycznie spróbuje pomadki i koloru włosów, a następnie nagra się na taśmę wideo zamiast korzystać z naszej technologii, a następnie mieć wirtualną symulację tych produktów, te dwie rzeczy powinny być nie do odróżnienia. Opóźnienie w stosowanej symulacji w porównaniu do sytuacji, gdy patrzysz na twarz i widzisz ruchy, nie może być widoczne dla użytkownika. A więc są to ogromne wyzwania. Jeden to realizm. Nie chcesz, aby eyeliner migotał komuś w oczy, a po drugie zrobić to tak szybko, że na stronie internetowej w filmie na żywo nie zauważysz żadnego opóźnienia. Więc to są wielkie, wielkie wyzwania.

Mocny: I to nie tylko kosmetyki. Elementy wykrywania twarzy są coraz częściej wykorzystywane w medycynie do diagnozowania chorób. Wierzy, że w przyszłości ich produkty będą wykrywać wszelkiego rodzaju schorzenia skóry.

Arabski: Więc naciskaliśmy na tę ocenę skóry, hm, kierunek, patrząc na czyjś wizerunek. I na tej podstawie, wiedząc, jakie produkty do pielęgnacji skóry są dla nich najlepsze, a co więcej, im częściej to robimy i im lepiej szkolimy nasze systemy sztucznej inteligencji, stwierdzamy, że ich poziom dokładności rośnie dorównując dermatologom. . I myślę, że jeśli pójdziesz tą linią, ta sztuczna inteligencja, która właściwie nie może zastąpić dermatologów, ale naprawdę im pomogła jako… obiektywne narzędzie, które może patrzeć na czyjąś twarz i wydawać zalecenia.

Mocny: Wydaje się, że istnieje większa świadomość rozpoznania ryzyka, niedojrzałości i uprzedzeń, ale także zwiększonej obecności w naszym życiu i po prostu surowego potencjału. Wydaje mi się, że właśnie zarysowaliśmy powierzchnię - w tym niechlujnym cyfrowym wyścigu do czegoś innego i dużego. I zacząłem się zastanawiać, jak mógłby się z tym wszystkim czuć jeden z jego wynalazców?

Atyk: Zacząłem pracować nad ludzkim mózgiem około rok po ukończeniu studiów i wraz z moimi współpracownikami dokonałem kilku fundamentalnych przełomów, które doprowadziły do ​​powstania dziedziny zwanej przemysłem biometrycznym i pierwszego komercyjnie opłacalnego rozpoznawania twarzy. Dlatego ludzie nazywają mnie ojcem założycielem rozpoznawania twarzy i przemysłu biometrycznego.

Mocny: To jest dr Joseph Atick. Opracował jeden z pierwszych algorytmów rozpoznawania twarzy w 1994 roku.

Atyk: Algorytm rozpoznawania znajomych twarzy przez ludzki mózg stał się jasny, gdy prowadzimy badania matematyczne w Instytucie zaawansowanych badań w Princeton.

Mocny: Ale technologia potrzebna do uchwycenia tych twarzy nie była jeszcze w kieszeniach wszystkich.

Atyk: W tamtych czasach komputery nie miały kamer. Telefony z aparatami nie istniały. Musieliśmy zbudować oczy dla mózgu. Mieliśmy mózg, myśleliśmy, że wiemy, jak mózg analizuje sygnały, ale nie mieliśmy oczu, które przekazywałyby informacje i sygnał wizualny do mózgu.

Mocny: Kamery internetowe pojawiły się w latach 90., a komputery z funkcjami wideo pojawiły się na rynku kilka lat później.

Atyk: I to był ekscytujący czas, ponieważ nagle mózg, który zbudowaliśmy, miał wreszcie parę oczu, które trzeba będzie widzieć.

Mocny: To był przełom, którego on i jego zespół potrzebowali, aby wprowadzić w życie swoją koncepcję. Więc zaczęli kodować.

Atyk: to był długi okres miesięcy programowania i porażki i programowania i porażki

Mocny: Ale ewentualnie…

Atyk: I pewnej nocy, wcześnie rano, właśnie sfinalizowaliśmy, hm, wersję algorytmu. Przesłaliśmy kod źródłowy do kompilacji w celu uzyskania kodu uruchomieniowego. I wyszliśmy, ja wyszedłem do łazienki. A potem, kiedy wróciłem do pokoju, zauważył moją twarz, wydobył ją z tła i powiedział, że widzę Josepha. I to był moment, w którym włosy na plecach – czułem się, jakby coś się stało. Byliśmy świadkami. I zacząłem, hm, dzwonić do innych ludzi, którzy wciąż byli w laboratorium i każdy z nich wchodził do pokoju. I powiedziałbym, powiedziałbym, widzę Normana. Zobaczyłbym Pawła, zobaczyłbym Józefa. I trochę na zmianę biegaliśmy po pokoju, żeby zobaczyć, ile może go dostrzec w pokoju.

Mocny: Zbudowali coś, czego nigdy wcześniej nie zbudowano. Miesiące matematyki, kodowania i długie noce wydawały się opłacać. Ale w ciągu kilku lat to podekscytowanie przerodziło się w niepokój.

Atyk: Moja troska o technologię, którą pomogłem stworzyć i wynaleźć, zaczęła się bardzo szybko po tym, jak ją wymyśliłem. Widziałem przyszłość, w której nasza prywatność byłaby zagrożona, gdybyśmy nie wprowadzili środków ochronnych, aby zapobiec nadużyciom tej potężnej technologii.

Mocny: I chciał coś z tym zrobić.

Atyk: Tak więc w 1998 roku lobbowałem w branży i powiedziałem, że musimy ustalić zasady odpowiedzialnego użytkowania. I tutaj w 1998 roku narodziła się organizacja o nazwie IBIA jako stowarzyszenie branżowe promujące odpowiedzialne użytkowanie. Um, więc byłem założycielem tej organizacji. I przez chwilę czułem się dobrze, ponieważ czułem, że dobrze to zrobiliśmy. Czułem, że wymyśliliśmy tę technologię, ale potem wprowadziliśmy kod odpowiedzialnego użytkowania, za którym podąża implementacja. Jednak ten kod nie przetrwał próby czasu. A powodem jest to, że nie przewidzieliśmy pojawienia się mediów społecznościowych.

Mocny: Rozpoznawanie twarzy opiera się na bazie danych obrazów. Rozmiar, jakość i warunki prywatności tej bazy danych w dużej mierze decydują o tym, jak bezpieczna lub inwazyjna jest ta technologia. W 1998 roku Atick zbudował swoje bazy danych, ręcznie skanując tysiące zdjęć i oznaczając je nazwiskami. To było żmudne i ograniczało rozmiar.

Atyk: Wypuściliśmy bestię z worka, karmiąc ją miliardami twarzy i pomagając jej oznaczając się. Żyjemy w świecie, w którym uczenie maszynowe pozwala na pojawienie się ponad 400 różnych algorytmów rozpoznawania twarzy na świecie. Dlatego każda nadzieja na kontrolowanie i wymaganie od wszystkich bycia odpowiedzialnym za korzystanie z rozpoznawania twarzy jest trudna.

Mocny: A to jeszcze pogarsza scraping, gdzie baza danych jest tworzona przez skanowanie całego Internetu w poszukiwaniu publicznych zdjęć.

Atyk: I tak zacząłem panikować w 2011 roku i napisałem artykuł, w którym napisałem, że nadszedł czas, aby nacisnąć przycisk paniki, ponieważ świat zmierza w kierunku, w którym rozpoznawanie twarzy będzie wszechobecne, a twarze będą wszędzie dostępne w, w, w bazach danych. Moc obliczeniowa staje się bardzo, bardzo potężna do tego stopnia, że ​​możemy potencjalnie rozpoznać miliardy ludzi. A wtedy ludzie mówili, że jestem panikarzem, ale zdają sobie sprawę, że dokładnie to dzieje się dzisiaj.

Mocny: W pewnym sensie więc lobbuje przeciwko własnemu wynalazkowi, mimo że nadal korzysta z biometrii, aby budować rzeczy, które jego zdaniem mogą przynieść większe dobro, takie jak cyfrowy identyfikator dla ludzi w krajach rozwijających się.

Atyk: Efekt mrożący jest niewybaczalny. Jeśli nie mogę wyjść na ulicę, ponieważ wierzę, że ktoś używa iPhone'a, mógłby zrobić mi zdjęcie i podłączyć mnie do mojego profilu online, a to połączenie online i offline jest niebezpieczne. I to się dzieje właśnie teraz.

Mocny: Uważa też, że pilnie potrzebujemy pewnych podstawowych zasad prawnych.

Atyk: A więc nie jest to już kwestia technologiczna. Nie możemy powstrzymać tej potężnej technologii poprzez technologię. Muszą istnieć jakieś ramy prawne.

Mocny: Z jego punktu widzenia przewaga technologiczna będzie dalej posuwać się naprzód — z AI na czele. Ale ludzie, którzy go budują i używają? Są w centrum.

Atyk: Wierzę, że musi istnieć pewna harmonia między tym, co technologia może dla nas zrobić i pomaga nam żyć z godnością, mieć łatwiejsze życie i łączyć się z ludźmi, których kochamy, ale jednocześnie musi to mieścić się w zakresie naszej moralności i naszych oczekiwań tak, jak pozwalają na to istoty ludzkie.

Mocny: Innymi słowy, po raz kolejny… wydaje się nam. Ten odcinek został zrelacjonowany i wyprodukowany przeze mnie, Anthony'ego Greena, Emmę Cillekens, Tate Ryan-Mosley i Karen Hao. Redagują nas Michael Reilly i Gideon Lichfield. Dziękuję również Kate Kaye z podcastu Banned w PDX. To tyle w pierwszym sezonie. Bardzo dziękujemy za spędzenie z nami czasu. Spotkamy się tutaj w nowym roku, do tego czasu wesołych świąt i… Dzięki za wysłuchanie, jestem Jennifer Strong.

[ID TR]

ukryć