Departament Obrony stworzył pierwsze narzędzia do łapania deepfake

SUNY SUNY

Pierwsze narzędzia kryminalistyki do przechwytywania pornografii zemsty i fałszywych wiadomości stworzone za pomocą sztucznej inteligencji zostały opracowane w ramach programu prowadzonego przez Departament Obrony USA.

Eksperci medycyny sądowej pospieszyli, aby znaleźć sposoby wykrywania filmów zsyntetyzowanych i zmanipulowanych za pomocą uczenia maszynowego, ponieważ technologia ta znacznie ułatwia tworzenie przekonujących fałszywych filmów, które można wykorzystać do siania dezinformacji lub nękania ludzi.

Najpopularniejsza technika generowania fałszywych filmów polega na wykorzystaniu uczenia maszynowego do zamiany twarzy jednej osoby na drugą. Powstałe filmy, znane jako deepfake, są łatwe do zrobienia i mogą być zaskakująco realistyczne . Dalsze poprawki, wprowadzone przez doświadczonego edytora wideo, mogą sprawić, że będą się wydawać jeszcze bardziej realne .

Oszustwa wideo polegają na wykorzystaniu techniki uczenia maszynowego znanej jako modelowanie generatywne, która umożliwia komputerowi uczenie się na podstawie rzeczywistych danych przed wygenerowaniem fałszywych przykładów, które są statystycznie podobne. Niedawny zwrot w tym zakresie polega na tym, że dwie sieci neuronowe, znane jako generatywne sieci przeciwników, współpracują ze sobą, aby tworzyć coraz bardziej przekonujące podróbki (patrz The GANfather: Człowiek, który dał maszynom dar wyobraźni).

Narzędzia do przechwytywania deepfake zostały opracowane w ramach programu prowadzonego przez amerykańską Agencję Zaawansowanych Projektów Badawczych Obrony (DARPA) o nazwie Medycyna śledcza . Program został stworzony w celu zautomatyzowania istniejących narzędzi kryminalistycznych, ale ostatnio zwrócił uwagę na fałszerstwa wykonane przez sztuczną inteligencję.

„Odkryliśmy subtelne wskazówki w obecnych obrazach i filmach wideo manipulowanych przez GAN, które pozwalają nam wykryć obecność zmian”, mówi Matthew Turek, który prowadzi program Media Forensics.

Tucker Carlson dostaje własną metamorfozę Nicolasa Cage'a. Uniwersytet w Albany, SUNY

Jedna niezwykle prosta technika została opracowana przez zespół kierowany przez Siwei Lyu , profesor na Uniwersytecie Stanowym Nowego Jorku w Albany i jeden z jego studentów. Wygenerowaliśmy około 50 fałszywych filmów i wypróbowaliśmy kilka tradycyjnych metod kryminalistyki. Pracowali z przerwami, ale niezbyt dobrze, mówi Lyu.

Pewnego popołudnia, studiując kilka podróbek, Lyu zdał sobie sprawę, że twarze wykonane przy użyciu podróbek rzadko, jeśli w ogóle, mrugają. A kiedy mrugają, ruch gałek ocznych jest nienaturalny. Dzieje się tak, ponieważ deepfake są szkolone na nieruchomych obrazach, które zwykle pokazują osobę z otwartymi oczami.

Inni zaangażowani w wyzwanie DARPA badają podobne sztuczki do automatycznego łapania deepfake: dziwne ruchy głowy, dziwny kolor oczu i tak dalej. Pracujemy nad wykorzystaniem tego rodzaju sygnałów fizjologicznych, które przynajmniej na razie są trudne do naśladowania przez deepfake, mówi Hany Farid , wiodący ekspert w dziedzinie kryminalistyki cyfrowej w Dartmouth College.

Turek z DARPA mówi, że agencja przeprowadzi więcej konkursów, aby zapewnić, że opracowywane technologie będą w stanie wykrywać najnowsze techniki”.

Pojawienie się tych narzędzi kryminalistycznych może po prostu zasygnalizować początek napędzanego przez sztuczną inteligencję wyścigu zbrojeń między fałszerzami wideo a cyfrowymi detektywami. Kluczowym problemem, mówi Farid, jest to, że systemy uczenia maszynowego można wyszkolić, aby przechytrzyć narzędzia kryminalistyczne.

Lyu mówi, że wykwalifikowany fałszerz mógłby obejść swoje narzędzie do mrugania oczami, po prostu zbierając obrazy, na których widać mrugającą osobę. Dodaje jednak, że jego zespół opracował jeszcze skuteczniejszą technikę, ale twierdzi, że na razie trzyma ją w tajemnicy. Wolałbym się chociaż trochę wstrzymać, mówi Lyu. Mamy teraz niewielką przewagę nad fałszerzami i chcemy ją zachować.

ukryć