211service.com
Fałszywa Ameryka znowu świetna
Wewnątrz wyścigu, aby złapać niepokojąco prawdziwe podróbki, które można zrobić za pomocą sztucznej inteligencji. 17 sierpnia 2018 r.
Bruce Peterson
Zgadnij co? Właśnie zdobyłem zawstydzające nagranie wideo senatora Teksasu Teda Cruza śpiewającego i wirującego przed Tiną Turner. Jego polityczni wrogowie będą się świetnie bawić, pokazując to w połowie semestru. Donald Trump nazwie go „Tańczącym Tedem”.
Dobra, przyznam się – sam stworzyłem film. Ale jest to niepokojące: zrobienie tego wymagało bardzo niewielkich umiejętności edycji wideo. Pobrałem i skonfigurowałem oprogramowanie, które wykorzystuje uczenie maszynowe do przeprowadzenia przekonującej cyfrowej zamiany twarzy. Powstały film, znany jako deepfake, pokazuje wyraźnie opadające oczy Cruza przyszyte do rysów aktora Paula Rudda wykonującego karaoke z synchronizacją ust. Nie jest idealny — coś jest trochę nie tak — ale może niektórych zmylić.
Ta historia była częścią naszego wydania z września 2018 r.
- Zobacz resztę numeru
- Subskrybuj
Fałszowanie zdjęć nie jest niczym nowym, ale sztuczna inteligencja całkowicie zmieni grę. Do niedawna tylko wysokobudżetowe studio filmowe mogło przeprowadzić zamianę twarzy wideo i prawdopodobnie kosztowałoby to miliony dolarów. Sztuczna inteligencja umożliwia teraz każdemu, kto ma przyzwoity komputer i kilka godzin wolnego, na zrobienie tego samego. Dalsze postępy w uczeniu maszynowym umożliwią jeszcze bardziej złożone oszustwa i sprawią, że fałszerstwo będzie trudniejsze do wykrycia.
Postępy te grożą dalszym zatarciem granicy między prawdą a fikcją w polityce. Internet już teraz przyspiesza i wzmacnia rozpowszechnianie dezinformacji za pośrednictwem fałszywych kont w mediach społecznościowych. Alternatywne fakty i teorie spiskowe są powszechne i powszechnie wierzą. Fałszywe wiadomości, poza ich możliwym wpływem na ostatnie wybory prezydenckie w USA, w ciągu ostatniego roku wywołały przemoc etniczną w Birmie i Sri Lance. A teraz wyobraź sobie dodawanie do mieszanki nowych rodzajów autentycznie wyglądających fałszywych filmów: polityków wypowiadających bzdury lub obelgi etniczne, lub przyłapanych na nieodpowiednim zachowaniu na filmie – z wyjątkiem tego, że tak naprawdę nigdy się to nie wydarzyło.
Według Charlesa Seife, profesora Uniwersytetu Nowojorskiego i autora książki, Deepfake mogą wykoleić dyskurs polityczny. Wirtualna nierzeczywistość: tylko dlatego, że Internet powiedział ci, skąd masz wiedzieć, że to prawda? Seife przyznaje, że jest zdumiony, jak szybko sprawy potoczyły się od czasu opublikowania jego książki w 2014 roku. Technologia zmienia nasze postrzeganie rzeczywistości w zastraszającym tempie, mówi.
Czy niedługo wejdziemy w erę, w której nie możemy ufać niczemu, nawet autentycznie wyglądającym filmom, które wydają się uchwycić prawdziwe wiadomości? Jak decydujemy, co jest wiarygodne? Komu ufamy?
Te nieruchome obrazy Teda Cruza i Paula Rudda zostały zaczerpnięte z materiału, który został przekazany do programu wymiany twarzy.
Prawdziwe sztuczne
Kilka technologii połączyło się, aby ułatwić fałszerstwo i są one łatwo dostępne: smartfony umożliwiają każdemu rejestrowanie materiału wideo, a potężne narzędzia do grafiki komputerowej stały się znacznie tańsze. Dodaj oprogramowanie do sztucznej inteligencji, które pozwala na zniekształcanie, remiksowanie i syntezę rzeczy na nowe, zaskakujące sposoby. AI to nie tylko lepsza wersja Photoshopa czy iMovie. Pozwala komputerowi uczyć się, jak wygląda i brzmi świat, dzięki czemu może wyczarować przekonujące symulakry.
Stworzyłem klip Cruza za pomocą OpenFaceSwap, jednego z kilku programów zmieniających twarze, które można pobrać za darmo. Potrzebujesz komputera z zaawansowanym układem graficznym, a to może dać ci kilka tysięcy dolarów. Ale możesz także wynająć dostęp do maszyny wirtualnej za kilka centów za minutę, korzystając z platformy uczenia maszynowego w chmurze, takiej jak Paperspace. Następnie po prostu przesyłasz dwa klipy wideo i siadasz przez kilka godzin, podczas gdy algorytm ustala, jak wygląda każda twarz i jak się porusza, aby móc odwzorować jedną na drugiej. Sprawienie, by wszystko działało, to trochę sztuka: jeśli wybierzesz zbyt różne klipy, rezultatem może być koszmarny miszmasz nosów, uszu i podbródków.
Ale proces jest dość łatwy.
Sprawienie, by wszystko działało, to trochę sztuka: jeśli wybierzesz zbyt różne klipsy, rezultatem może być miszmasz nosa, uszu i podbródka.
Jak można było przewidzieć, zamiana twarzy została po raz pierwszy zaadaptowana do robienia porno. W 2017 roku anonimowy użytkownik Reddita, znany jako Deepfakes, wykorzystał uczenie maszynowe, aby zamienić twarze znanych aktorek na sceny z gwiazdami filmów dla dorosłych, a następnie opublikował wyniki na subreddicie poświęconym wyciekowi pornografii celebrytów. Następnie inny użytkownik Reddita udostępnił łatwy w użyciu interfejs, który doprowadził do rozpowszechnienia pornografii deepfake, a także, z jakiegoś dziwnego powodu, niekończących się klipów aktora Nicolasa Cage'a w filmach, w których tak naprawdę nie był. Nawet Reddit, notorycznie wyluzowany hangout, zakaz takiej nieprzychylnej pornografii. Jednak zjawisko to utrzymuje się w ciemniejszych zakamarkach internetu.
OpenFaceSwap korzysta ze sztucznej sieci neuronowej, obecnie popularnego narzędzia w sztucznej inteligencji. Bardzo duże lub głębokie sieci neuronowe zasilane ogromnymi ilościami danych treningowych mogą wykonywać wiele przydatnych rzeczy, w tym znajdować twarz osoby wśród milionów obrazów. Mogą być również używane do manipulowania i syntezy obrazów.
OpenFaceSwap trenuje głęboką sieć do kodowania twarzy (proces podobny do kompresji danych), tworząc w ten sposób reprezentację, którą można zdekodować w celu zrekonstruowania całej twarzy. Sztuczka polega na wprowadzeniu zakodowanych danych jednej twarzy do dekodera drugiej. Sieć neuronowa wyczaruje wówczas, często z zaskakującą dokładnością, jedną twarz naśladującą mimikę i ruchy drugiej. Wynikowy film może wydawać się niepewny, ale OpenFaceSwap automatycznie rozmyje krawędzie i dostosuje kolorystykę nowo przeszczepionej twarzy, aby wszystko wyglądało bardziej autentycznie.
Po lewej: OpenFaceSwap wyświetla podgląd prób zamiany twarzy podczas treningu. Wczesne próby często mogą być nieco dziwne i groteskowe.
Dobrze: Oprogramowanie zajmuje kilka godzin, aby stworzyć dobrą zamianę twarzy. Im więcej danych treningowych, tym lepszy wynik końcowy.
Podobną technologię można również wykorzystać do odtworzenia czyjegoś głosu. Startup o nazwie Lyrebird opublikował przekonujące dema Baracka Obamy i Donalda Trumpa, mówiących całkowicie zmyślone rzeczy. Lyrebird mówi, że w przyszłości ograniczy powielanie głosu do osób, które wyraziły na to zgodę – ale z pewnością nie wszyscy będą tak skrupulatni.
Startup opublikował przekonujące dema Baracka Obamy i Donalda Trumpa, mówiących całkowicie zmyślone rzeczy.
Istnieją dobrze ugruntowane metody identyfikacji sfałszowanych obrazów i wideo. Jedną z opcji jest przeszukanie sieci w poszukiwaniu obrazów, które mogły zostać ze sobą połączone. Bardziej technicznym rozwiązaniem jest szukanie charakterystycznych zmian w pliku cyfrowym lub w pikselach obrazu lub klatki wideo. Ekspert może szukać niespójności wizualnych — cienia, którego nie powinno tam być, lub przedmiotu o niewłaściwym rozmiarze.
Hany Farid z Uniwersytetu Dartmouth, jeden z czołowych światowych ekspertów, pokazał, jak można zrekonstruować scenę w 3D, aby odkryć fizyczne osobliwości. Udowodnił również, że subtelne zmiany w intensywności pikseli w filmie, wskazujące na tętno danej osoby, mogą być wykorzystane do wykrycia różnicy między prawdziwą osobą a wygenerowaną komputerowo. Niedawno jeden z byłych studentów Farida, obecnie profesor na State University of New York w Albany, wykazał, że nieregularne mruganie oczami może zdradzić twarz zmanipulowaną przez sztuczną inteligencję.
Mimo to większość ludzi nie może wykonywać tego rodzaju pracy detektywistycznej i nie ma czasu na studiowanie każdego obrazu lub klipu, który pojawia się na Facebooku. W związku z tym, że fałszerstwa wizualne stały się coraz bardziej powszechne, pojawił się nacisk na automatyzację analizy. Okazuje się, że uczenie głębokie nie tylko doskonale sprawdza się w wymyślaniu, ale jest idealne do sprawdzania obrazów i filmów pod kątem oznak fałszerstwa. Wysiłek ten dopiero się jednak rozpoczął i ostatecznie może być utrudniony przez to, jak realistyczne mogą stać się automatyczne podróbki.
Sieci oszustwa
Jeden z najnowszych pomysłów w badaniach nad sztuczną inteligencją polega na obracaniu sieci neuronowych przeciwko sobie w celu tworzenia jeszcze bardziej realistycznych podróbek. Sieć generatywnych przeciwników (GAN) wykorzystuje dwie głębokie sieci neuronowe: jedną, która została wytrenowana, aby identyfikować rzeczywiste obrazy lub wideo, oraz drugą, która z czasem uczy się, jak przechytrzyć swojego odpowiednika. GAN można wytrenować w celu tworzenia zaskakująco realistycznych fałszywych obrazów.
Poza kopiowaniem i zamianą twarzy, GAN mogą umożliwiać syntezę całych scen i ludzi, które wyglądają całkiem realistycznie, zamieniając scenę dzienną w nocną i wymyślając wymyślone celebrytki. Sieci GAN nie działają idealnie, ale cały czas są coraz lepsze, a to jest gorący obszar badań ( Przegląd technologii MIT nazwał GAN jednym ze swoich 10 przełomowych technologii na rok 2018).
GAN mogą zamieniać sceny dzienne w nocne i wymyślać wyimaginowane twarze celebrytów.
Najbardziej niepokojące jest to, że technika ta może być również wykorzystywana do unikania kryminalistyki cyfrowej. Amerykańska Agencja Zaawansowanych Projektów Badawczych Obrony zaprosiła badaczy do wzięcia udziału w konkursie tego lata, w którym niektórzy opracowali fałszywe filmy wykorzystujące GAN, a inni próbowali je wykryć. GAN są szczególnym wyzwaniem dla nas w społeczności kryminalistycznej, ponieważ można je obrócić przeciwko naszym technikom kryminalistycznym, mówi Farid. Zobaczymy, która strona zwycięży.
To jest koniec
Jeśli nie będziemy ostrożni, może to doprowadzić do końca świata – a przynajmniej do tego, co na to wygląda.
W kwietniu rzekomy reportaż BBC ogłosił salwę otwarcia konfliktu nuklearnego między Rosją a NATO. Klip, który zaczął krążyć na platformie komunikacyjnej WhatsApp, pokazywał nagranie wystrzeliwanych pocisków, gdy prezenter powiedział widzom, że niemieckie miasto Moguncja zostało zniszczone wraz z częściami Frankfurtu.
Było to oczywiście całkowicie fałszywe i BBC pospiesznie je potępiło. Film nie został wygenerowany przy użyciu sztucznej inteligencji, ale pokazał moc fałszywego wideo i to, jak może rozsiewać plotki z prędkością warp. Rozprzestrzenianie się programów AI sprawi, że takie filmy będą znacznie łatwiejsze do zrobienia i jeszcze bardziej przekonujące.
Nawet jeśli nie damy się zwieść fałszywym wiadomościom, może to mieć tragiczne konsekwencje dla debaty politycznej. Tak jak przyzwyczailiśmy się teraz kwestionować, czy zdjęcie mogło zostać przerobione w Photoshopie, podróbki generowane przez sztuczną inteligencję mogą sprawić, że będziemy bardziej podejrzliwi w stosunku do wydarzeń, które widzimy udostępniane online. A to mogłoby przyczynić się do dalszej erozji racjonalnej debaty politycznej.
w Śmierć prawdy , opublikowany w tym roku krytyk literacki Michiko Kakutani twierdzi, że alternatywne fakty, fałszywe wiadomości i ogólne szaleństwo współczesnej polityki stanowią kulminację prądów kulturowych, które sięgają dziesięcioleci. Kakutani postrzega hiperrealne podróbki sztucznej inteligencji jako ostatni ciężki cios w koncepcję obiektywnej rzeczywistości.
Renee DiResta, badaczka z Data for Democracy i jedna z pierwszych osób, które zidentyfikowały zjawisko motywowanego politycznie Twittera, mówi, że zanim technologia stanie się jeszcze dobra, fakt, że istnieje i jest sposobem na podważenie zaufania do legalnych materiałów, jest bardzo problematyczny. kampanie dezinformacyjne.
Być może więc największym ryzykiem związanym z tą nową technologią nie jest to, że zostanie ona niewłaściwie wykorzystana przez hakerów państwowych, sabotażystów politycznych lub Anonimowych, ale że będzie to dalej podważać samą prawdę i obiektywizm. Jeśli nie możesz odróżnić podróbki od rzeczywistości, łatwo jest kwestionować autentyczność czegokolwiek. To już służy politykom jako sposób na uniknięcie odpowiedzialności.
Być może największym ryzykiem jest to, że technologia jeszcze bardziej podważy prawdę i obiektywizm.
Prezydent Trump wywrócił ideę fałszywych wiadomości do góry nogami, używając tego terminu do atakowania wszelkich doniesień medialnych krytykujących jego administrację. Zasugerował również, że obciążający film, w którym oczernia kobiety, wydany podczas kampanii w 2016 r., mógł zostać sfałszowany cyfrowo. W kwietniu tego roku rząd rosyjski oskarżył Wielką Brytanię o sfałszowanie dowodów wideo ataku chemicznego w Syrii w celu uzasadnienia proponowanej akcji wojskowej. Żadne z zarzutów nie było prawdziwe, ale możliwość wyrafinowanego fałszerstwa coraz bardziej zmniejsza wiarygodność prawdziwych informacji. W Birmie i Rosji nowe przepisy mają na celu zakazanie fałszywych wiadomości, ale w obu przypadkach mogą po prostu służyć jako sposób na rozprawienie się z krytyką rządu.
W miarę jak najpotężniejsi stają się coraz bardziej świadomi fałszerstw sztucznej inteligencji, łatwo będzie odrzucić nawet wyraźne dowody wideo popełnienia wykroczenia jako nic więcej niż cyfrowe oszustwo stworzone przez GAN.
Prawda nadal tam będzie. Ale czy poznasz to, kiedy to zobaczysz?
Will Knight jest starszym redaktorem w Przegląd technologii MIT zajmujący się sztuczną inteligencją.