Największym zagrożeniem ze strony deepfake'ów nie są same deepfake

Wizerunek przemawiającego Hitlera z twarzą zastąpioną znakiem zapytania. Pani Tech

Był koniec 2018 roku, a mieszkańcy Gabonu od miesięcy nie widzieli publicznie swojego prezydenta Ali Bongo. Niektórzy zaczęli podejrzewać, że jest chory, a nawet martwy, a rząd to ukrywał. Aby powstrzymać spekulacje, rząd ogłosił, że Bongo doznał udaru mózgu, ale pozostał w dobrym zdrowiu. Wkrótce potem to opublikował wideo o tym, jak dostarczył swój zwyczajowy adres noworoczny.

Jednak zamiast łagodzić napięcia, wideo zrobiło dokładnie odwrotnie. Jak odkryła organizacja zajmująca się prawami cyfrowymi Internet bez granic, wiele osób myśli Bongo spojrzał na nagranie , od razu podejrzewał, że to deepfake — fragment mediów sfałszowany lub zmieniony przy pomocy sztucznej inteligencji. Przekonanie podsyciło ich podejrzenia, że ​​rząd coś ukrywa. Tydzień później wojsko rozpoczęło nieudany zamach stanu, powołując się na wideo jako część motywacji.

Późniejsze analizy kryminalistyczne nigdy nie wykazały żadnych zmian ani manipulacji w filmie. To nie miało znaczenia. Sam pomysł deepfake'ów wystarczył, by przyspieszyć rozwiązanie i tak już niepewnej sytuacji.

W okresie poprzedzającym wybory prezydenckie w USA w 2020 r. coraz bardziej przekonująca technologia deep-fake wywołała obawy, w jaki sposób takie sfałszowane media mogą wpłynąć na opinię polityczną. Ale… nowy raport z Deeptrace Labs, firmy zajmującej się cyberbezpieczeństwem skoncentrowanej na wykrywaniu tego oszustwa, nie znalazła żadnych znanych przypadków, w których deepfake były faktycznie wykorzystywane w kampaniach dezinformacyjnych. To, co przyniosło silniejszy efekt, to wiedza, że: mógłby być używane w ten sposób.

Deepfake stanowią zagrożenie dla polityki, ponieważ fałszywe media wydają się być prawdziwe, ale w tej chwili bardziej namacalnym zagrożeniem jest to, jak można przywołać ideę deepfake, aby sprawić, by prawdziwe wydawało się fałszywe, mówi Henry Ajder, jeden z autorów raport. Szum i raczej sensacyjne relacje spekulujące na temat politycznego wpływu deepfake'ów przyćmiły rzeczywiste przypadki, w których deepfake miały wpływ.

Dokumentacja nie jest już dowodem

Obrońcy praw człowieka i eksperci od dezinformacji alarmowali o tych odrębnych, ale powiązanych ze sobą zagrożeniach, odkąd na scenie pojawiły się deepfake. W ciągu ostatnich dwóch lat amerykańskie firmy technologiczne i decydenci skupili się prawie wyłącznie na pierwszym problemie, o którym wspomina Ajder: łatwości, z jaką technologia może sprawić, że fałszywe rzeczy będą wyglądać na prawdziwe. Ale to drugi problem bardziej niepokoi ekspertów. Chociaż bariery w tworzeniu deepfake'ów mogą szybko spadać, kwestionowanie prawdziwości czegoś nie wymaga żadnej technologii.

Daje kolejną broń potężnym: powiedzenie „to fałszerstwo” o wszystkim, co ludzie bez władzy próbują wykorzystać, aby pokazać korupcję.

Od samego początku było to moim największym zmartwieniem w tej dziedzinie, mówi Aviv Ovadya, ekspert ds. dezinformacji, który obecnie prowadzi non-profitowy projekt Thoughtful Technology Project.

Podważanie zaufania do mediów może mieć głębokie reperkusje, szczególnie w niestabilnych środowiskach politycznych. Przykład podaje Sam Gregory, dyrektor programowy Witness, organizacji non-profit, która pomaga ludziom dokumentować naruszenia praw człowieka. W Brazylii, która doświadczyła przemocy ze strony policji, obywatele i aktywiści martwią się teraz, że nagrany przez nich film przedstawiający funkcjonariusza zabijającego cywila nie będzie już wystarczającym powodem do wszczęcia śledztwa. Ta obawa, że ​​prawdziwe dowody można prawdopodobnie odrzucić jako fałszywe, mówi Gregory, stała się powracającym tematem na warsztatach, które prowadzi na całym świecie.

To ewolucja twierdzenia, że ​​coś jest „fałszywą wiadomością”, mówi. Daje kolejną broń potężnym: powiedzenie „to fałszerstwo” o wszystkim, co ludzie, którzy nie mają władzy, próbują pokazać korupcję, pokazać łamanie praw człowieka.

Udowodnić, że prawdziwe jest prawdziwe, a fałszerstwo jest fałszywe

Rozwiązanie tych problemów będzie wymagało zrozumienia obu rodzajów zagrożeń. Na wysokim poziomie chcesz maksymalnie ułatwić pokazanie, że prawdziwa rzecz jest prawdziwa oraz że fałszywa rzecz jest fałszywa, mówi Ovadya.

W ostatnich miesiącach wiele grup badawczych i firm technologicznych, takich jak Facebook i Google , skupiło się na narzędziach do ujawniania podróbek, takich jak bazy danych do algorytmów wykrywania szkoleń i znaki wodne które można wbudować w cyfrowe pliki zdjęć, aby ujawnić, czy zostały naruszone. Kilka startupów pracuje również nad sposobami budowania zaufania poprzez aplikacje konsumenckie, które weryfikują zdjęcia i filmy podczas ich robienia, aby stworzyć podstawę do porównania, jeśli wersje treści będą rozpowszechniane później. Gregory mówi, że giganci technologiczni powinni zintegrować oba rodzaje kontroli bezpośrednio na swoich platformach, aby były szeroko dostępne.

Ale firmy technologiczne muszą również zatrudniać moderatorów treści ludzkich, a organizacje medialne muszą szkolić dziennikarzy i weryfikatorów faktów zarówno w zakresie wykrywania, jak i weryfikacji. Raportowanie w terenie może potwierdzić, czy film odzwierciedla rzeczywistość i dodać ważną warstwę niuansów. Modele techniczne nie potrafią interpretować treści sfałszowanych filmów w różnych kontekstach kulturowych ani wyobrażać sobie, jak można je dalej rekontekstualizować, mówi Britt Paris, ekspert ds. badań informacji, który niedawno opublikował raport na temat deepfake.

Tym, czego [aktorzy dezinformacji] naprawdę chcą, nie jest to, abyś kwestionował więcej, ale abyś kwestionował wszystko.

Jako przykład Paris wskazuje na zmienione filmy Nancy Pelosi i Jima Acosty, które stały się popularne w ciągu ostatniego roku. Oba były tak zwanymi tanimi podróbkami, a nie głębokimi podróbkami – ich szybkość została po prostu naruszona, by wprowadzić widzów w błąd. Paris mówi, że nie byłoby możliwości złapania tych podróbek za pomocą technicznych metod łapania deepfake'ów. Zamiast tego dziennikarze musieli je obalić, co oznaczało, że ludzie musieli im ufać.

Wreszcie wszyscy eksperci zgadzają się, że opinia publiczna potrzebuje większej umiejętności korzystania z mediów. Ovadya mówi, że istnieje różnica między udowodnieniem, że rzeczywista rzecz jest prawdziwa, a faktycznym przekonaniem opinii publicznej, że ta rzecz jest prawdziwa. Mówi, że ludzie muszą być świadomi, że fałszowanie treści i poddawanie w wątpliwość prawdziwości treści to taktyki, które można wykorzystać do celowego zasiania zamieszania.

Gregory ostrzega jednak przed nakładaniem zbyt dużych obciążeń na odbiorców wiadomości. Badacze, platformy i dziennikarze powinni wykonać jak najwięcej pracy, aby wyjaśnić, co jest prawdziwe, a co fałszywe, zanim wiadomości dotrą do opinii publicznej.

Ostatecznym celem, jak mówi Ovadya, nie jest zaszczepienie ogólnego sceptycyzmu, ale zbudowanie społecznej, edukacyjnej i zaszczepiającej infrastruktury, która zneutralizuje wpływ deepfake. Czego powinniśmy starać się unikać? On pyta. Warto kwestionować dowody. Ale to, czego naprawdę chcą [aktorzy dezinformacji], to nie to, żebyście kwestionowali więcej, ale żebyście kwestionowali wszystko.

Dodaje: To jest antyteza tego, czego szukamy.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.

ukryć