Facebook, Google, Twitter nie są przygotowane na prezydenckie deepfake

Kategoria: Sztuczna inteligencja Opublikowany sie 06

Według przewodniczącego Komisji ds. Wywiadu Izby Reprezentantów żaden z trzech największych internetowych rogów przeciwmgielnych – Facebook, Google czy Twitter – nie wydaje się mieć jasnego planu radzenia sobie z fałszywymi filmami generowanymi przez sztuczną inteligencję lub deepfake’ami przed przyszłorocznymi wyborami prezydenckimi.

Aktualizacja statusu: Adam Schiff, demokrata z Kalifornii, powiedział w piątek, że trzy firmy zaczęły poważnie myśleć o wyzwaniach stawianych przez zmanipulowane przez maszyny media lub deepfake, ale trzeba zrobić o wiele więcej pracy, jeśli mają być przygotowane na destrukcyjne efekt tej technologii w następnych wyborach.

Nie panikuj: Nie musisz się panikować. W rzeczywistości istnieją pewne nowe techniki wykrywania filmów, które zostały sfabrykowane przy użyciu sztucznej inteligencji.

Konfrontacja: Filmy Deepfake wykorzystują najnowsze postępy w uczeniu maszynowym, aby automatycznie zamieniać twarze w filmie lub wykonywać inne sztuczki zacierania rzeczywistości. Proste narzędzia do deepfake można pobrać z sieci, a można znaleźć wiele surrealistycznych przykładów wyników w internecie .

Zmartwienie: Manipulacja obrazami istnieje już od dłuższego czasu, ale sztuczna inteligencja sprawia, że ​​wyrafinowane fałszerstwa są bardziej dostępne . Być może podczas wyborów, deepfake mógłby zostać wykorzystany do wywierania wpływu na wyborców w ostatniej chwili. W maju w mediach społecznościowych szybko pojawiło się nagranie wideo Nancy Pelosi, które zostało przerobione tak, aby wyglądało na to, że bełkotała swoją mowę.

Kot i mysz: Obecnie istnieje kilka sposobów na wykrycie deepfake'ów. Nieregularne mruganie to na przykład jeden z charakterystycznych znaków, z którymi nagrano film. Ale wykrywanie jest czymś w rodzaju wyścigu zbrojeń, ponieważ algorytm sztucznej inteligencji można zwykle wytrenować, aby rozwiązać daną wadę.

Rozumiem: W czerwcu tego roku nowy papier kilku ekspertów z dziedziny medycyny sądowej przedstawiło bardziej niezawodne podejście. Polega na wytrenowaniu algorytmu wykrywania, który rozpoznaje ruchy twarzy i głowy konkretnej osoby, pokazując w ten sposób, kiedy twarz tej osoby została naklejona na głowę i ciało innej osoby. Podejście to działa tylko wtedy, gdy system został przeszkolony w rozpoznawaniu kogoś, ale może przynajmniej chronić kandydatów na prezydenta przed atakiem.

Trzymanie w tajemnicy? Google faktycznie zapewniło pewne fundusze na te nowe badania. Więc może te firmy trzymają swoje karty blisko klatki piersiowej, jeśli chodzi o wykrywanie deepfake. Jeśli chcesz być o krok przed oszustami, byłby to z pewnością sprytny ruch.