Nowe narzędzie do wykrywania deepfake powinno zapewnić bezpieczeństwo światowym liderom — na razie

Obraz deepfake'u i podszywania się pod Baraka Obamę Uniwersytet Kalifornijski w Berkeley

Film wyprodukowany przez sztuczną inteligencję może pokazywać Donalda Trumpa mówiącego lub robiącego coś wyjątkowo oburzającego i podburzającego. Byłoby to aż nazbyt wiarygodne, aw najgorszym przypadku mogłoby zachwiać wyborami, wywołać przemoc na ulicach lub wywołać międzynarodowy konflikt zbrojny.

Na szczęście nowy technika kryminalistyki cyfrowej obiecuje chronić prezydenta Trumpa, innych światowych przywódców i celebrytów przed takimi podróbkami — przynajmniej na razie. Nowa metoda wykorzystuje uczenie maszynowe do analizy stylu mowy i ruchu konkretnej osoby, co naukowcy nazywają podpisem softbiometrycznym.

Naukowcy z UC Berkeley i Uniwersytetu Południowej Kalifornii wykorzystali istniejące narzędzie do wyodrębniania ruchów twarzy i głowy poszczególnych osób. Stworzyli również własne deepfake dla Donalda Trumpa, Baracka Obamy, Berniego Sandersa, Elizabeth Warren i Hillary Clinton, używając generatywnych sieci adwersarzy.

Następnie zespół wykorzystał uczenie maszynowe do rozróżniania ruchów głowy i twarzy, które charakteryzują prawdziwą osobę. Te subtelne sygnały — być może sposób, w jaki Bernie Sanders kiwa głową, wypowiadając określone słowo, czy uśmiech Trumpa po powrocie — nie są obecnie modelowane przez algorytmy deepfake.

W eksperymentach technika ta była co najmniej w 92% dokładna w wykrywaniu kilku odmian deepfake, w tym zamiany twarzy i takich, w których osoba podszywająca się posługuje się cyfrową marionetką. Był również w stanie poradzić sobie z artefaktami w plikach, które pochodzą z rekompresji wideo, co może mylić inne techniki wykrywania. Naukowcy planują ulepszyć technikę, uwzględniając również cechy mowy danej osoby. Badania, które zostały zaprezentowane na konferencja wizji komputerowej w Kalifornii w tym tygodniu został sfinansowany przez Google i DARPA, skrzydło badawcze Pentagonu. DARPA finansuje program mający na celu opracowanie lepszych technik wykrywania.

Problem, z jakim borykają się światowi liderzy (i wszyscy inni) polega na tym, że generowanie podróbek wideo za pomocą sztucznej inteligencji stało się śmiesznie proste. Fałszywe doniesienia prasowe, fałszywe konta w mediach społecznościowych i sfałszowane filmy już podważyły ​​zasięg i dyskurs polityczny. Politycy są szczególnie zaniepokojeni tym, że fałszywe media mogą zostać wykorzystane do zasiania dezinformacji podczas wyborów prezydenckich w 2020 roku.

Niektóre narzędzia do przechwytywania filmów typu deepfake zostały już wyprodukowane, ale fałszerze szybko się dostosowali. Na przykład przez pewien czas można było wykryć deepfake'a, śledząc ruchy oczu mówiącego, co w przypadku deepfake było nienaturalne. Jednak wkrótce po zidentyfikowaniu tej metody algorytmy deepfake zostały ulepszone, aby uwzględnić lepsze miganie.

Jesteśmy świadkami wyścigu zbrojeń między manipulacjami cyfrowymi a zdolnością do ich wykrywania, a postęp algorytmów opartych na sztucznej inteligencji katalizuje obie strony, mówi Hao Li, profesor Uniwersytetu Południowej Kalifornii i dyrektor generalny Pinscreen który pomógł opracować nową technikę. Z tego powodu jego zespół nie opublikował jeszcze kodu tej metody.

Li mówi, że twórcom deepfake'ów będzie szczególnie trudno przystosować się do nowej techniki, ale przyznaje, że prawdopodobnie w końcu to zrobią. Następnym krokiem do obejścia tej formy wykrywania byłoby zsyntetyzowanie ruchów i zachowań w oparciu o wcześniejsze obserwacje tej konkretnej osoby, mówi.

Li mówi również, że ponieważ deepfake stają się łatwiejsze w użyciu i potężniejsze, każdy może zastanowić się nad ochroną siebie. Jak mówi, celebryci i osobistości polityczne były jak dotąd głównymi celami. Ale nie zdziwiłbym się, gdyby za rok lub dwa sztuczne istoty ludzkie, które wyglądają nie do odróżnienia od prawdziwych, mogły zostać zsyntetyzowane przez dowolnego użytkownika końcowego.

ukryć