Memery robią deepfake i robi się dziwnie

Na dole po prawej: to ja. Pani Tech | NeurIPS (zestaw treningowy); Hao (dzięki uprzejmości)

Grace Windheim słyszała już o deepfake'ach. Ale nigdy nie zastanawiała się, jak to zrobić. To był wirusowy mem wykorzystujący technologię, która skłoniła ją do zbadania możliwości – i odkrycia, że ​​jest to bardzo łatwe i całkowicie bezpłatne.

W ciągu jednego dnia stworzyła samouczek YouTube krok po kroku aby przeprowadzić innych przez ten proces. Tworzenie jednego z tych deepfake'ów i nakładanie dźwięku nie jest tak skomplikowane, jak mogłoby się wydawać, mówi w filmie opublikowanym 4 sierpnia. Od tego czasu obejrzano go ponad 360 000 razy.

Windheim jest częścią nowej grupy twórców internetowych, którzy bawią się deepfake, gdy technologia staje się coraz bardziej dostępna i przenika do kultury internetowej. Zjawisko nie jest zaskakujące; narzędzia do manipulacji mediami często zyskiwały na popularności grać i parodiować . Ale budzi również nowe obawy dotyczące możliwości nadużyć.

Deepfake były już wykorzystywane do nękania kobiet poprzez bezsensowne zamienianie ich twarzy w filmy porno. Uczeni martwią się również o swoją zdolność do zakłócania wyborów. Chociaż deepfake stworzone dla memów są nadal oczywiście fałszywe i stosunkowo nieszkodliwe, mogą nie pozostać tak długo.

Istnieje cienka granica między używaniem deepfake'ów do rozrywki i memów, a wykorzystywaniem ich do krzywdzenia, mówi Windheim. W tym samouczku mówię: „W ten sposób tworzysz tego konkretnego deepfake'a”. Ale przerażające w skrypcie jest to, że można go po prostu zastosować do stworzenia dowolnego typu deepfake'a.

Byłem głupcem

Windheim, świeżo upieczony absolwent college'u, pracuje jako twórca treści w startupie Kapwing z siedzibą w San Francisco. Firma, która zaczynała jako producent memów, oferuje bezpłatny pakiet narzędzi do edycji wideo opartych na przeglądarce. W ramach swojej pracy Windheim prowadzi kanał YouTube i tworzy filmy marketingowe, aby pokazać możliwości produktów.

Na początku sierpnia natknęła się na wyjątkowo wirusowe hasło wyszukiwane w Trendach Google. Trzy z pięciu najpopularniejszych zapytań dotyczyły głębokiego mema Baka Mitai. Prawie nigdy nie widzę tak często pojawiających się pytań, mówi.

Mem, jak się okazuje, został oparty na wideo z synchronizacją ust YouTubera do japońskiej piosenki z gry wideo zatytułowanej Baka Mitai (tłumaczenie: I’ve Been a Fool). Różni internauci wykorzystali ten film do stworzenia gównianych deepfaksów wszystkich z Barack Obama do Thanosa śpiewając piosenkę. Jednak pomimo swojej popularności Windheim odkrył, że niewiele napisano o tym, jak to zrobić. Zobaczyła okazję.

Konkretny algorytm deepfake, z którego korzystali ludzie, pochodzi z: Artykuł naukowy 2019 zaprezentowane na NeurIPS, największej dorocznej konferencji badawczej poświęconej AI. W przeciwieństwie do innych, bardziej złożonych algorytmów, pozwala użytkownikowi nagrać dowolny film z twarzą osoby i użyć go do animowania zdjęcia twarzy innej osoby za pomocą zaledwie kilku linijek kodu.

Windheim znalazł algorytm open source w samouczku YouTube i przeniósł go do notatnika Google Colab, bezpłatnej usługi do uruchamiania kodu w chmurze. Po kilku próbach, wspomagana umiejętnościami, które nabyła na okazjonalnych zajęciach z kodowania na studiach, dostała scenariusz, by wypluć wideo z deepfake. Następnie zsynchronizowała piosenkę z teledyskiem za pomocą narzędzi Kapwinga, tworząc nową wersję memu.

Odkąd opublikowała jej samouczek na kanale YouTube Kapwinga wielu innych YouTuberów również stworzyło samouczki przy użyciu tego samego algorytmu kopiowania i wklejania. Różnica: wielu z nich uczy swoich odbiorców, jak robić każdy rodzaj głębokiego mema. Uczy się nawet ludzi jak zrobić je na telefonie komórkowym .

Te memy pojawiają się teraz wszędzie w mediach społecznościowych: na Twitterze, Instagramie, a zwłaszcza TikTok. Krótkie filmy platformy, które często zawierają zgryźliwą choreografię do chwytliwej muzyki, szczególnie sprzyjają głębokiemu fałszowaniu, które daje hipnotyzujący efekt. Hashtag #deepfake w aplikacji zebrał już ponad 120 milionów wyświetleń.

@lemonjezus

@szarlotka

Twarze w filmach zrobionych za pomocą tego algorytmu są charakterystyczne, co sprawia, że ​​jego dzieło jest łatwe do rozpoznania; to część humoru deepfake'ów. Te niedoskonałości — i surrealistyczna jakość memów — zapobiegnie pomyleniu ich z rzeczywistością. W tej chwili tworzenie bardziej hiperrealistycznych podróbek jest znacznie trudniejsze technicznie i kosztowne obliczeniowo.

Ale w miarę postępu technologii, łatwe do wykonania deepfake, które są prawie nie do odróżnienia od rzeczywistości, są prawdopodobnie tuż za rogiem. Niektóre firmy, takie jak chiński gigant technologiczny Tencent, właściciel WeChat, publicznie ogłosiły zamiar zainwestowania większych zasobów w rozwój najnowocześniejszy sprzęt do zastosowań komercyjnych .

Deepfake nie są z natury złe. Technologia została już wykorzystana przez artystów, pedagogów i innych jako potężne nowe narzędzie do twórczej ekspresji. Na przykład w lutym magazyn Time wykorzystał deepfake, aby odtworzyć doświadczenie Martina Luthera Kinga Jr. wygłasza przemówienie I Have a Dream w wirtualnej rzeczywistości. Ostatecznie, organy regulacyjne muszą określić, co jest odpowiednim zastosowaniem, a co może prowadzić do szkód.

Na razie Windheim polega na własnym osądzie, aby wykonać tę rozmowę. Przed opublikowaniem swojego filmu przeczytała o konsekwencjach deepfake i przeprowadziła rozmowę z kolegami. Mówi, że nigdy nie zamierzamy, aby nasze produkty pomagały użytkownikom w rozpowszechnianiu dezinformacji, więc chcieliśmy tylko sami sprawdzić zdrowie psychiczne.

W końcu zdecydowali się na pewne podstawowe zasady: skupiliby swoje tutoriale na tworzeniu konkretnych memów, nigdy na tworzeniu deepfake poza tym kontekstem. Mówi, że dopóki jest to rozrywka i kultura memów, jesteśmy w strefie czystej.

ukryć