Facebook tworzy własne deepfake AI, aby zapobiec katastrofie dezinformacji

Obok siebie obrazy oryginalnego wideo i deepfake. Facebook

Facebook obawia się, że filmy typu deepfake generowane przez sztuczną inteligencję mogą być kolejnym dużym źródłem wirusowej dezinformacji – rozprzestrzeniającej się wśród użytkowników z potencjalnie katastrofalnymi konsekwencjami dla następnych wyborów prezydenckich w USA.

Jego rozwiązanie? Tworzenie wielu własnych deepfake, aby pomóc naukowcom w tworzeniu i udoskonalaniu narzędzi do wykrywania.

Facebook polecił swojemu zespołowi badaczy sztucznej inteligencji stworzenie wielu bardzo realistycznych fałszywych filmów, w których aktorzy robią i mówią rutynowe rzeczy. Klipy te posłużą jako zestaw danych do testowania i testowania narzędzi do wykrywania deepfake. Deepfake Facebooka zostaną opublikowane na dużej konferencji AI pod koniec roku.

Wzrost liczby deepfake'ów był spowodowany ostatnimi postępami w uczeniu maszynowym. Studia filmowe od dawna mogą manipulować obrazami i filmami za pomocą oprogramowania i komputerów, a algorytmy zdolne do przechwytywania i odtwarzania podobizny danej osoby były już wykorzystywane do tworzenia narzędzi typu „wskaż i kliknij” do wklejania twarzy osoby na kogoś innego .

Istnieją metody wykrywania sfałszowanych mediów, ale często wymagają one żmudnej analizy eksperckiej. Narzędzia do automatycznego łapania deepfake dopiero się pojawiają.

CTO Facebooka, Mike Schroepfer, mówi, że deepfake szybko się rozwijają, więc opracowanie znacznie lepszych sposobów oznaczania lub blokowania potencjalnych podróbek ma kluczowe znaczenie.

Nie widzieliśmy jeszcze tego jako dużego problemu na naszych platformach, ale zakładam, że jeśli zwiększysz dostęp – sprawisz, że tworzenie tych rzeczy będzie tańsze, łatwiejsze, szybsze – wyraźnie zwiększa to ryzyko, że ludzie użyją tego w jakiś złośliwy sposób, Schroepfer , który stoi na czele inicjatywy, powiedział wczoraj wieczorem. Nie chcę być w sytuacji, w której jest to ogromny problem i nie inwestujemy ogromnych kwot w badania i rozwój.

Porównując wysiłki do walki ze spamem, Schroepfer powiedział, że Facebook może nie być w stanie wyłapać najbardziej wyrafinowanych podróbek. Złapiemy te oczywiste, powiedział. Powiedział jednak, że Facebook nie stosuje jeszcze żadnych metod, ponieważ fałszerstwa tak szybko się poprawiają.

Sieć społecznościowa przeznaczy 10 milionów dolarów na finansowanie technologii wykrywania poprzez granty i nagrody za wyzwania. Wraz z firmą Microsoft, Partnerstwo w zakresie AI , a także naukowcy z instytucji, w tym MIT, UC Berkeley i Oxford University, firma uruchamia Wyzwanie wykrywania Deepfake , który zaoferuje nieokreślone nagrody pieniężne za najlepsze metody wykrywania.

Wykonanie deepfake'a zazwyczaj wymaga dwóch klipów wideo. Algorytmy poznają wygląd każdej twarzy, aby wkleić jedną na drugą, zachowując każdy uśmiech, mrugnięcie i skinienie głową. Do odtworzenia głosu konkretnej osoby można również wykorzystać różne techniki sztucznej inteligencji. Termin deepfake pochodzi od użytkownika Reddit, który wydał takie narzędzie w 2017 roku. Odnosi się do głębokiego uczenia, stosowanej techniki sztucznej inteligencji.

Jednym z największych zmartwień jest to, że deepfake mogą być wykorzystywane do rozpowszechniania bardzo zaraźliwych dezinformacji podczas przyszłorocznych wyborów w USA, być może nawet wpłynąć na wynik. Kilku amerykańskich senatorów wszczęło alarm w związku z zagrożeniem, a Ben Sasse (R–Nebraska) przedstawił ustawę, która zabrania tworzenia lub rozpowszechniania deepfake w złych zamiarach. Niedawny raport o dezinformacji wyborczej z NYU identyfikuje deepfake jako jedno z kilku kluczowych wyzwań przed wyborami w 2020 roku.

W rzeczywistości manipulowane filmy już rozprzestrzeniają się na platformach społecznościowych. Na początku tego roku na Facebooku szybko rozprzestrzenił się klip, który pokazał Nancy Pelosi bełkoczącą swoją mowę (po prostu spowalniając nagranie). Firma odmówiła usunięcia tego posta lub głębokiego fałszerstwa Marka Zuckerberga, zamiast tego zdecydowała się oznaczyć klipy jako fałszywe w organizacjach sprawdzających fakty.

Facebook ma sens, aby wyprzedzić tę kwestię, zwłaszcza po skutkach ostatnich wyborów prezydenckich. Gdy pojawiły się szczegóły politycznych kampanii dezinformacyjnych, Facebook spotkał się z ostrą krytyką za umożliwienie rozprzestrzeniania się takiej propagandy.

Promowanie deepfake challenge może mieć jednak niezamierzone konsekwencje. Henry Ajder, analityk z Deeptrace, holenderskiej firmy, która pracuje nad narzędziami do wykrywania sfałszowanych klipów, zauważa, że ​​narracja wokół deepfake może zaoferować politykom sposób na uniknięcie odpowiedzialności, twierdząc, że prawdziwe informacje zostały sfałszowane (zobacz ponownie Fake America świetnie ). Sama idea deepfake już stwarza wiele problemów, mówi Ajder. To wirus w sferze politycznej, który zainfekował umysły polityków i obywateli.

Co więcej, pomimo niepokoju, Ajder, który śledzi deepfake na wolności, wątpi, czy technologia będzie przez jakiś czas wykorzystywana do celów politycznych. Uważa, że ​​bardziej natychmiast stanie się potężnym narzędziem cyberprześladowania i zastraszania.

Istnieje już kilka metod wykrywania deepfake. Proste techniki obejmują analizę danych w pliku wideo lub szukanie charakterystycznych ruchów ust i mrugania, co jest trudniejsze do uchwycenia i odtworzenia przez algorytm.

Metoda opracowana niedawno przez grupę czołowych ekspertów polega na wytrenowaniu algorytmu głębokiego uczenia się, aby rozpoznawał specyficzny sposób poruszania się głowy danej osoby, ponieważ nie jest to coś, czego algorytmy zwykle się uczą.

Podejście to pojawiło się dzięki kolejnym wysiłkom zmierzającym do opracowania narzędzi do wykrywania, które są finansowane przez Agencję Zaawansowanych Projektów Badawczych Obrony (DARPA).

Wielu ekspertów było zaskoczonych i zaniepokojonych tempem, z jakim postępują fałszerstwa sztucznej inteligencji. W tym tygodniu chińska aplikacja o nazwie Zao wywołała debatę, publikując filmy typu deepfake, rzekomo utworzone z nieruchomego obrazu. Hao Li , artysta zajmujący się efektami wizualnymi i profesor nadzwyczajny na Uniwersytecie Południowej Kalifornii, ostrzegł, że niedługo możliwe będzie masowe wytwarzanie niewykrywalnych podróbek (patrz Najlepszy na świecie twórca podróbek zmaga się ze stworzonym przez siebie potworem).

ukryć