211service.com
Wojsko USA finansuje wysiłki w celu wyłapania deepfake'ów i innych sztuczek AI
Myślisz, że sztuczna inteligencja pomoże położyć kres fałszywym wiadomościom? Wojsko USA nie jest tego takie pewne.
Departament Obrony finansuje projekt, który będzie próbował ustalić, czy coraz bardziej realistycznie wyglądające fałszywe obrazy i dźwięk generowane przez sztuczną inteligencję mogą wkrótce być niemożliwe do odróżnienia od rzeczywistości — nawet w przypadku innego systemu sztucznej inteligencji.
Tego lata w ramach projektu finansowanego przez Agencja Zaawansowanych Projektów Badawczych Obrony (DARPA) , wiodący światowi eksperci w dziedzinie kryminalistyki cyfrowej wezmą udział w konkursie na fałszerstwo sztucznej inteligencji. Będą konkurować, aby wygenerować najbardziej przekonujące fałszywe wideo, obrazy i dźwięk generowane przez sztuczną inteligencję, a także spróbują opracować narzędzia, które mogą automatycznie wykrywać te podróbki.
W konkursie będą się składać tak zwane deepfake, filmy, w których twarz jednej osoby jest przyszyta do ciała innej osoby. Raczej przewidywalnie, technologia ta została już wykorzystana do wygenerowania wielu fałszywych filmów porno z celebrytami. Ale metoda ta może być również wykorzystana do stworzenia klipu polityka, który mówi lub robi coś oburzającego.
Technolodzy DARPA są szczególnie zaniepokojeni stosunkowo nową techniką sztucznej inteligencji, która może sprawić, że fałszerstwo sztucznej inteligencji będzie prawie niemożliwe do automatycznego wykrycia. Korzystając z tak zwanych generatywnych sieci adwersarzy lub GAN, możliwe jest generowanie oszałamiająco realistycznych sztucznych obrazów.
Teoretycznie, jeśli podasz GAN wszystkie znane nam techniki wykrywania go, może on przekazać wszystkie te techniki, mówi David Gunning, kierownik programu DARPA odpowiedzialny za projekt. Nie wiemy, czy istnieje limit. To niejasne.
GAN składa się z dwóch komponentów. Pierwszy, znany jako aktor, próbuje nauczyć się wzorców statystycznych w zbiorze danych, takim jak zbiór obrazów lub filmów, a następnie generuje przekonujące syntetyczne fragmenty danych. Drugi, zwany krytykiem, próbuje odróżnić przykłady rzeczywiste od fałszywych. Informacja zwrotna od krytyka umożliwia aktorowi tworzenie coraz bardziej realistycznych przykładów. A ponieważ GAN są już zaprojektowane tak, aby przechytrzyć system AI, nie jest jasne, czy jakikolwiek zautomatyzowany system może je złapać.
GAN są stosunkowo nowe, ale szturmem podbiły scenę uczenia maszynowego (patrz The GANfather: Człowiek, który dał maszynom dar wyobraźni ). Można ich już używać do wymyślania bardzo realistycznych wyimaginowanych celebrytów lub przekonująco modyfikować obrazy poprzez zamieniając grymas w uśmiech lub zamieniając noc w dzień.
Wykrycie fałszerstwa cyfrowego zwykle obejmuje trzy etapy. Pierwszym z nich jest sprawdzenie pliku cyfrowego pod kątem oznak, że dwa obrazy lub filmy zostały ze sobą połączone. Drugim jest przyjrzenie się oświetleniu i innym właściwościom fizycznym obrazów pod kątem oznak, że coś jest nie tak. Trzecia — najtrudniejsza do zrobienia automatycznie i prawdopodobnie najtrudniejsza do pokonania — polega na rozważeniu logicznych niespójności, takich jak zła pogoda dla domniemanej daty lub niepoprawne tło dla domniemanej lokalizacji.
Walter Scheirer , ekspert ds. kryminalistyki cyfrowej z Uniwersytetu Notre Dame, który jest zaangażowany w projekt DARPA, mówi, że technologia przeszła zaskakująco długą drogę od czasu uruchomienia inicjatywy kilka lat temu. Jesteśmy zdecydowanie w wyścigu zbrojeń, mówi.
Chociaż wykwalifikowani graficy od dawna mogą tworzyć przekonująco wyglądające fałszerstwa, sztuczna inteligencja sprawi, że technologia stanie się znacznie bardziej dostępna. Mówi, że od sponsorowanych przez państwo aktorów i Hollywood do kogoś na Reddicie Hany Farid , profesor w Dartmouth, który specjalizuje się w kryminalistyce cyfrowej. Pilną potrzebą, którą teraz czujemy, jest ochrona demokracji.
Deepfake wykorzystują popularną technikę uczenia maszynowego znaną jako głębokie uczenie, aby automatycznie włączyć nową twarz do istniejącego filmu. Kiedy duże ilości danych są wprowadzane do bardzo dużej lub głębokiej symulowanej sieci neuronowej, komputer może nauczyć się wykonywać wszelkiego rodzaju przydatne zadania, takie jak bardzo dokładne rozpoznawanie twarzy. Ale to samo podejście ułatwia również złośliwą manipulację wideo. Narzędzie udostępnione online pozwala każdemu, kto ma skromną wiedzę techniczną, generować nowe deepfake. I twórca tego narzędzia powiedział Płyta główna że trwają prace nad jeszcze bardziej przyjazną dla użytkownika wersją.
Problem oczywiście wykracza daleko poza zamianę twarzy. Eksperci coraz częściej twierdzą, że niedługo może być znacznie trudniej stwierdzić, czy zdjęcie, wideo lub klip audio został wygenerowany przez maszynę. Google opracowało nawet narzędzie o nazwie Duplex, które wykorzystuje sztuczną inteligencję do sfałszowania rozmowy telefonicznej.
awiw ovadia , główny technolog w Centrum Odpowiedzialności za Media Społecznościowe Uniwersytetu Michigan, obawia się, że obecnie opracowywane technologie sztucznej inteligencji mogą zostać wykorzystane do zaszkodzenia czyjejś reputacji, wpłynięcia na wybory lub gorzej. Te technologie mogą być wykorzystywane w cudowny sposób do rozrywki, a także na wiele bardzo przerażających sposobów, powiedział Ovadya na 15 maja. wydarzenie zorganizowane przez Bloomberg . Powiedział. To realne i aktualne niebezpieczeństwo.
Jeśli technologii nie można wykorzystać do wyłapywania fałszerstw i dezinformacji, może pojawić się nacisk na skorzystanie z prawa. W rzeczywistości Malezja wprowadziła w kwietniu przepisy przeciwko fałszywym wiadomościom. Jednak Farid z Dartmouth mówi, że samo to może okazać się problematyczne, ponieważ sama prawda jest śliskim tematem. Jak definiujesz fałszywe wiadomości? To nie jest takie proste, jak mogłoby się wydawać, mówi. Potrafię przyciąć obraz i zasadniczo zmienić obraz. A co robisz z Cebula ?