211service.com
Facebook właśnie opublikował bazę danych 100 000 deepfake'ów, aby nauczyć sztuczną inteligencję, jak je rozpoznawać
Deepfakes uderzył w opinię publiczną i badaczy. Jest coś wyjątkowo niepokojącego w tych generowanych przez sztuczną inteligencję obrazach ludzi, którzy wydają się mówić lub robić coś, czego nie zrobili.
Z narzędzia do robienia deepfake obecnie powszechnie dostępne i stosunkowo łatwe w użyciu, wielu obawia się również, że zostaną wykorzystane do rozpowszechniania niebezpiecznych dezinformacji. Politycy mogą mieć słowa innych ludzi wkładane do ust lub zmuszane do udziału w sytuacjach, w których nie brali udziału, na przykład.
Przynajmniej taki strach. Dla ludzkiego oka prawda jest taka, że deepfake są nadal stosunkowo łatwe do wykrycia. I zgodnie z raport firmy zajmującej się cyberbezpieczeństwem DeepTrace Labs w październiku 2019 r., wciąż najbardziej wszechstronnym do tej pory, nie zostały wykorzystane w żadnej kampanii dezinformacyjnej. Jednak ten sam raport wykazał również, że liczba deepfake'ów publikowanych online szybko rosła – w ciągu ostatnich siedmiu miesięcy pojawiło się około 15 000. Ta liczba będzie teraz znacznie większa.
Firmy zajmujące się mediami społecznościowymi obawiają się, że deepfake mogą wkrótce zalać ich witryny. Ale wykrycie ich automatycznie jest trudne. Aby rozwiązać ten problem, Facebook chce wykorzystać sztuczną inteligencję do walki z podróbkami generowanymi przez sztuczną inteligencję. Aby wyszkolić sztuczną inteligencję w wykrywaniu manipulowanych filmów, udostępnia największy w historii zestaw danych deepfake — ponad 100 000 klipów wyprodukowanych przy użyciu 3426 aktorów i szereg istniejących technik zamiany twarzy.
Deepfake nie są obecnie dużym problemem, mówi dyrektor ds. technologii Facebooka, Mike Schroepfer. Ale lekcja, której nauczyłem się na własnej skórze w ciągu ostatnich kilku lat, to nie dać się złapać na płaskiej stopie. Chcę być naprawdę przygotowany na wiele złych rzeczy, które nigdy się nie zdarzają, a nie na odwrót.
Facebook ogłosił również zwycięzcę swojego Wyzwanie wykrywania Deepfake , w którym 2114 uczestników przesłało około 35 000 modeli przeszkolonych na jego zbiorze danych. Najlepszy model, opracowany przez Selima Seferbekova, inżyniera zajmującego się uczeniem maszynowym w firmie mapowej Mapbox, był w stanie wykryć, czy film jest fałszerstwem z dokładnością 65%, podczas testowania na zestawie 10 000 wcześniej niewidzianych klipów, w tym mieszanka nowych filmów. generowane przez Facebooka i już istniejące, zaczerpnięte z internetu.
Aby utrudnić sprawę, zestaw szkoleniowy i zestaw testowy zawierają filmy, które mogą zmylić system wykrywania, na przykład osoby prowadzące samouczki dotyczące makijażu, oraz filmy, które zostały poprawione przez wklejenie tekstu i kształtów na twarzach mówiących, zmianę rozdzielczości lub orientację i spowalnianie ich.
Zamiast uczyć się technik kryminalistycznych, takich jak szukanie cyfrowych odcisków palców w pikselach filmu pozostawionego przez proces generowania deepfake, wydaje się, że pięć najlepszych wpisów nauczyło się rozpoznawać, kiedy coś wyglądało, jak może to zrobić człowiek.
W tym celu wszyscy zwycięzcy wykorzystali nowy rodzaj konwolucyjnej sieci neuronowej (CNN) opracowanej przez badaczy Google w zeszłym roku, zwanej EfficientNets. Sieci CNN są powszechnie używane do analizy obrazów i są dobre w wykrywaniu twarzy lub rozpoznawaniu obiektów. Poprawa ich dokładności poza pewien punkt może jednak wymagać dostrajania ad hoc. EfficientNets zapewnia bardziej ustrukturyzowany sposób dostrajania, ułatwiając tworzenie dokładniejszych modeli. Ale dokładnie, co sprawia, że przewyższają inne sieci neuronowe w tym zadaniu, nie jest jasne, mówi Seferbekov.
Facebook nie planuje używać na swojej stronie żadnego ze zwycięskich modeli. Po pierwsze, celność 65% nie jest jeszcze wystarczająco dobra, aby była użyteczna. Niektóre modele osiągnęły dokładność ponad 80% z danymi treningowymi, ale spadła, gdy porównano ją z niewidocznymi klipami. Uogólnianie na nowe filmy, które mogą zawierać różne twarze zamienione przy użyciu różnych technik, jest najtrudniejszą częścią wyzwania, mówi Seferbekov.
Uważa, że jednym ze sposobów poprawy wykrywania byłoby skupienie się na przejściach między klatkami wideo i śledzeniu ich w czasie. Nawet bardzo wysokiej jakości deepfake mają pewne migotanie między klatkami, mówi Seferbekov. Ludzie są dobrzy w wykrywaniu tych niespójności, zwłaszcza w nagraniach twarzy. Jednak automatyczne wyłapanie tych charakterystycznych defektów będzie wymagało większych i bardziej zróżnicowanych danych treningowych oraz znacznie większej mocy obliczeniowej. Seferbekov próbował śledzić te przejścia klatek, ale nie mógł. Procesor był tam prawdziwym wąskim gardłem, mówi.
Facebook sugeruje, że wykrywanie deepfake można również ulepszyć, stosując techniki wykraczające poza analizę samego obrazu lub filmu, takie jak ocena jego kontekstu lub pochodzenia.
Sam Gregory, który kieruje projektem Witness, który wspiera obrońców praw człowieka w korzystaniu z technologii wideo, z zadowoleniem przyjmuje inwestycję platform mediów społecznościowych w wykrywanie deepfake. Witness jest członkiem Partnership on AI, które doradzało Facebookowi w sprawie swojego zbioru danych. Gregory zgadza się ze Schroepferem, że warto przygotować się na najgorsze. Nie mieliśmy głębokich apokalipsy, ale te narzędzia są bardzo paskudnym dodatkiem do przemocy i dezinformacji ze względu na płeć, mówi. Na przykład raport DeepTrace Labs wykazał, że 96% deepfake były pornografią niezgodną z przyzwoleniem, w którym twarze innych ludzi są naklejane na twarze wykonawców w klipach porno.
Kiedy miliony ludzi mogą tworzyć i udostępniać filmy, zaufanie do tego, co widzimy, jest ważniejsze niż kiedykolwiek. Fałszywe wiadomości rozchodzą się po Facebooku jak błyskawica, a sama możliwość deepfake'ów sieje wątpliwości, sprawiając, że… bardziej prawdopodobne, że zakwestionujesz autentyczny materiał filmowy jak również fałszywe.
Co więcej, automatyczne wykrywanie może niedługo być naszą jedyną opcją. W przyszłości zobaczymy deepfake, których ludzie nie mogą odróżnić, mówi Seferbekov.