Firma Google udostępniła gigantyczną bazę danych deepfake, aby pomóc w walce z deepfake

Kategoria: Sztuczna inteligencja Opublikowany 25 września

Obejmuje 3000 filmów wygenerowanych przez sztuczną inteligencję, które zostały wykonane przy użyciu różnych publicznie dostępnych algorytmów.

Kontekst: W ciągu ostatniego roku algorytmy generatywne stały się tak dobre w syntezie mediów, że to, co produkują, może wkrótce stać się nie do odróżnienia od rzeczywistości. Eksperci ścigają się teraz, aby znaleźć lepsze metody wykrywania tak zwanych deepfake, zwłaszcza w obliczu zbliżających się wyborów prezydenckich w USA w 2020 roku.

Spadek Deepfake: We wtorek Google wydany baza danych o otwartym kodzie źródłowym zawierająca 3000 oryginalnych zmanipulowanych filmów w ramach wysiłków na rzecz przyspieszenia rozwoju narzędzi do wykrywania deepfake. Współpracował z 28 aktorami, aby nagrać filmy, na których mówią, wyrażają się i wykonują przyziemne zadania. Następnie wykorzystał publicznie dostępne algorytmy deepfake, aby zmienić ich twarze.

Stan techniki: Na początku tego miesiąca Facebook ogłosił, że pod koniec roku wyda podobną bazę danych. W styczniu zespół akademicki kierowany przez badacza z Politechniki Monachijskiej stworzył jeden o nazwie FaceForensics++ wykonując cztery popularne metody manipulacji twarzą na prawie 1000 skompilowanych filmach z YouTube. W przypadku każdego z tych zestawów danych idea jest taka sama: stworzyć duży zbiór przykładów, które mogą pomóc w szkoleniu i testowaniu automatycznych narzędzi do wykrywania.

Gra w kotka i myszkę: Ale po opracowaniu metody wykrywania w celu wykorzystania luki w algorytmie określonej generacji, algorytm można łatwo zaktualizować, aby go skorygować. W rezultacie niektórzy eksperci próbują obecnie opracować metody wykrywania, które zakładają doskonałość obrazów syntetycznych. Inni kłócić się że powstrzymanie deepfake'ów nie zostanie osiągnięte wyłącznie za pomocą środków technicznych: zamiast tego będzie wymagało również rozwiązań społecznych, politycznych i prawnych, aby zmienić bodźce zachęcające do ich tworzenia.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.