Firma Google wydała narzędzie do wykrywania sfałszowanych i sfałszowanych obrazów

Kategoria: Sztuczna inteligencja Opublikowany lut 05

Jigsaw, inkubator technologii w Google, wypuścił eksperymentalna platforma o nazwie Assembler aby pomóc dziennikarzom i osobom weryfikującym fakty na pierwszej linii w szybkiej weryfikacji obrazów.

Jak to działa: Asembler łączy kilka istniejące techniki w środowisku akademickim do wykrywania typowych technik manipulacji, w tym zmiany jasności obrazu i wklejania skopiowanych pikseli w inne miejsce, aby ukryć coś przy zachowaniu tej samej tekstury wizualnej. Zawiera również detektor, który wykrywa głębokie podróbki typu utworzonego za pomocą StyleGAN, algorytmu, który może generować realistyczne wyimaginowane twarze. Te techniki wykrywania wpływają na model główny, który informuje użytkowników o prawdopodobieństwie manipulacji obrazem.

Dlaczego jest to ważne: Fałszywe obrazy są jedną z trudniejszych rzeczy do zweryfikowania, zwłaszcza w obliczu rosnącej popularności manipulacji przez sztuczną inteligencję. Okno możliwości reakcji dla dziennikarzy i osób weryfikujących fakty również szybko się kurczy, ponieważ dezinformacja rozprzestrzenia się szybko i na dużą skalę.

Nie panaceum: Assembler to dobry krok w walce ze zmanipulowanymi mediami — ale nie obejmuje wielu innych istniejących technik manipulacji, w tym tych używanych do wideo, które zespół będzie musiał dodawać i aktualizować w miarę rozwoju ekosystemu. Nadal istnieje również jako oddzielna platforma od kanałów, w których zwykle dystrybuowane są przerobione obrazy. Eksperci zalecili, aby giganci technologiczni, tacy jak Facebook i Google, włączyli tego typu funkcje wykrywania bezpośrednio na swoich platformach. W ten sposób takie kontrole można przeprowadzać w czasie zbliżonym do rzeczywistego, gdy zdjęcia i filmy są przesyłane i udostępniane.

Istnieją również inne podejścia do rozważenia. Niektóre startupy stosują na przykład technologię weryfikacji, która zapamiętuje położenie pikseli na zdjęciu w momencie ich uchwycenia – ale wiąże się to również z wyzwaniami .

Poza technologią: Ostatecznie poprawki techniczne nie wystarczą. Jednym z najtrudniejszych aspektów fałszerstwa cyfrowego nie są same fałszywe obrazy . Jest to raczej idea, że ​​istnieją, co można łatwo przywołać, by wątpić w prawdziwość prawdziwych mediów. Jest to rodzaj wyzwania, które będzie wymagało również rozwiązań społecznych i politycznych.