Nie lekceważ taniego podróbki

Pani Tech | Unsplash

30 listopada rzecznik chińskiego MSZ Lijian Zhao przypiął zdjęcie do swojego profilu na Twitterze. W nim żołnierz stoi na australijskiej fladze i uśmiecha się maniakalnie, gdy przykłada zakrwawiony nóż do gardła chłopca. Chłopiec, którego twarz zakryta jest półprzezroczystym welonem, niesie jagnię. Obok obrazu, Zhao napisał na Twitterze, Zszokowany morderstwem afgańskich cywilów i więźniów przez australijskich żołnierzy. Zdecydowanie potępiamy takie czyny i wzywamy [sic] za pociąganie ich do odpowiedzialności.

Tweet jest powołując się na niedawne ogłoszenie przez Australijskie Siły Obronne, które znalazły wiarygodne informacje, że 25 australijskich żołnierzy brało udział w morderstwach 39 afgańskich cywilów i więźniów w latach 2009–2013. Zdjęcie przedstawia australijskiego żołnierza, który zamierza poderżnąć gardło niewinnemu afgańskiemu dziecku. Materiały wybuchowe.

Tyle że obraz jest fałszywy. Po bliższym przyjrzeniu się, to nawet nie jest zbyt przekonujące. Mógł go złożyć nowicjusz w Photoshopie. Ten obraz jest tak zwanym tanim podróbką, fragmentem mediów, który został brutalnie zmanipulowany, zredagowany, błędnie oznaczony lub niewłaściwie umieszczony w kontekście w celu rozpowszechniania dezinformacji.

Tani podróbka znajduje się teraz w centrum poważnego międzynarodowego incydentu. Premier Australii Scott Morrison powiedział, że Chiny powinny być całkowicie zawstydzone i zażądał przeprosin za odrażający obraz . Pekin odmówił, oskarżając Australię o barbarzyństwo i próbując odwrócić uwagę opinii publicznej z domniemanych zbrodni wojennych popełnionych przez siły zbrojne w Afganistanie.

Z tego incydentu można wyciągnąć dwie ważne wnioski polityczne. Po pierwsze, Pekin usankcjonował wykorzystanie taniego podróbki przez jednego ze swoich czołowych dyplomatów do aktywnego rozpowszechniania dezinformacji na zachodnich platformach internetowych. Chiny tradycyjnie zachowywały ostrożność w takich sprawach, dążąc do zaprezentowania się jako łagodne i odpowiedzialne supermocarstwo. Ten nowe podejście to znaczące odejście.

Tani podróbka znajduje się teraz w centrum poważnego międzynarodowego incydentu.

Jednak szerzej, ta potyczka pokazuje również rosnące znaczenie wizualnej dezinformacji jako narzędzia politycznego. W ciągu ostatniej dekady rozprzestrzenianie się zmanipulowanych mediów zmieniło rzeczywistość polityczną. (Rozważmy na przykład tanie podróbki, które katalizowały ludobójstwo przeciwko muzułmanom Rohingya w Birmie lub pomogła w rozprzestrzenianiu się kręta dezinformacja. ) Teraz, gdy globalne supermocarstwa otwarcie dzielą się tanimi podróbkami w mediach społecznościowych, co powstrzyma ich (lub jakiegokolwiek innego aktora) przed wdrażaniem bardziej wyrafinowanej wizualnej dezinformacji, gdy się ona pojawi?

Od lat dziennikarze i technolodzy ostrzegają przed niebezpieczeństwami deepfake'ów. Rozłożysto, deepfake s to rodzaj syntetycznych mediów”, które zostały zmanipulowane lub stworzone przez sztuczną inteligencję. Można je również rozumieć jako lepszego następcę tanich podróbek.

Postęp technologiczny jednocześnie poprawia jakość wizualnej dezinformacji i ułatwia każdemu generowanie. Ponieważ możliwe staje się tworzenie deepfake za pomocą aplikacji na smartfony, prawie każdy będzie w stanie stworzyć wyrafinowaną dezinformację wizualną bez żadnych kosztów.

Fałszywy alarm

Ostrzeżenia Deepfake osiągnęły gorączkę przed wyborami prezydenckimi w USA w tym roku. Przez wiele miesięcy politycy, dziennikarze i naukowcy debatowali, jak przeciwdziałać postrzeganemu zagrożeniu. W okresie poprzedzającym głosowanie legislatury stanowe w Teksasie i Kalifornii nawet prewencyjnie zabronił używania deepfake'ów do wpływania na wybory .

Powiązana historia

Deepfake bot jest używany do rozbierania nieletnich dziewczyn

Technologia podobna do DeepNude, aplikacji 2019, która została zamknięta wkrótce po uruchomieniu, teraz swobodnie rozprzestrzenia się w Telegramie.

Z perspektywy czasu te obawy były: zawyżone . Oprócz kilku ciekawych opracowań, w tym kreacja z przymrużeniem oka przez rosyjską stację telewizyjną Russia Today (RT), w której pokonany Donald Trump przyznaje się do bycia pionkiem prezydenta Rosji Władimira Putina, niewiele było doniesień na temat głębokiego fałszerstwa związanego z wyborami. Z pewnością nie pojawiło się nic, o czym można by obiektywnie powiedzieć, że wpłynęłoby na wynik. Zamiast sabotować lub wyzyskiwać polityków, deepfake są nadal najczęściej wykorzystywane do tworzenia nonsensowne porno .

Chociaż deepfake nie stały się jeszcze bronią masowej dezinformacji, jak przewidywali niektórzy, nie ma miejsca na samozadowolenie. Potencjalne ryzyko jest na razie w dużej mierze ograniczane przez ograniczenia techniczne. Wraz z rozwojem technologii tworzenia deepfake, wrota się otworzą.

A jeszcze przedtem sam świadomość deepfake już ma szkodliwy wpływ. W niedalekiej przyszłości źli aktorzy będą mogli tworzyć deepfake na temat wszystkiego i po prostu odrzucać wszelkie autentyczne media jako fałszywe. Ta podwójna premia dla złych aktorów jest znana jako dywidenda kłamcy. Chociaż termin był ukuty w przełomowym artykule z 2018 r. na temat deepfake'ów nie dotyczy to samych deepfake'ów. Koncepcja obejmuje wszystkie dezinformacje, w tym tanie podróbki.

Tanie podróbki wszędzie?

Odkąd pojawiło się niesławne, oszukane wideo przewodniczącej domu Nancy Pelosi w 2019 tanie podróbki stały się stałym elementem życia politycznego USA. W tym roku pomogli podtrzymać głośną operację dezinformacyjną prowadzoną przez prezydenta i jego najbliższych współpracowników. Fałszywe twierdzenie, że wybory zostały zepsute przez powszechne oszustwa wyborcze, było konsekwentnie wzmacniane przez tanie podróbki.

Jednym z przykładów jest wirusowe wideo prezydenta elekta Joe Bidena mówiącego: Utworzyliśmy, jak sądzę, najbardziej rozległą i inkluzywną organizację oszukującą wyborców w historii amerykańskiej polityki. Odpowiednio skontekstualizowane komentarze Bidena można rozumieć jako opis programu ochrony wyborców w przypadku bezpodstawnego sporu dotyczącego wyniku wyborów. Niemniej jednak klip został udostępniony przez obaj Trump oraz sekretarz prasowy Kayleigh McEnany i przedstawiany jako przyznanie się do oszustwa.

Nawet gdy głosy wciąż były liczone, autentyczne filmy pracowników wyborczych przepisywanie głosów i zbieranie kart do głosowania w rutynowy sposób były udostępniane przez ludzi, w tym samego Trumpa, jako dowód odrzucania głosów i manipulowania nimi. Tymczasem wirusowy tani podróbka przedstawiający mężczyznę rozdzierającego karty do głosowania okazał się dziełem dowcipniś TikTok .

Zarzuty powszechnego oszustwa wyborczego są bezpodstawne, a sądy w całej Ameryce odrzucają próby zespołu prawnego Trumpa kwestionowania wyniku wyborów. Na początku tego miesiąca prokurator generalny Bill Barr (ustępujący 23 grudnia) w końcu przyznał że Departament Sprawiedliwości USA nie znalazł żadnych dowodów oszustwa.

Wydaje się jednak, że tanie podróbki miały rzeczywiste konsekwencje: na początku grudnia Gabriel Sterling, kierownik ds. wdrażania systemu głosowania w Gruzji , przytoczył przypadki zastraszania i grożenia śmiercią pracowników wyborczych, błagając: To wszystko poszło za daleko! To musi się skończyć! Pracownik wyborczy w Gruzji musiał się ukrywać po 34-sekundowym tanim podróbce, która fałszywie oskarżył go o odrzucenie karty do głosowania nieobecnego stał się wirusowy.

Wiara w narrację o sfałszowanych wyborach wypada wyraźnie po liniach partyzanckich. A Ankieta Politico/Poranny Consult przeprowadzone po wyborach wykazały, że 70% republikańskich wyborców stwierdziło, że nie wierzy, iż były wolne i uczciwe. Liczba wyborców GOP, którzy przed wyborami wyrażali podobną nieufność do procesu, wyniosła 35%. I odwrotnie, tylko połowa wyborców Demokratów (52%) powiedziała, że ​​wierzy, że wybory będą wolne i uczciwe przed 3 listopada. W sondażach przeprowadzonych po zwycięstwie Bidena liczba ta wzrosła do 90%.

W co wierzyć?

Wydaje się, że rosnące rozpowszechnienie wizualnej dezinformacji wpływa na politykę na dwa różne sposoby. Po pierwsze, podsyca rozprzestrzenianie się wszelkiego rodzaju dezinformacji. Źli aktorzy działają bardziej bezkarnie, pewni, że mogą uniknąć kontroli i odpowiedzialności. W momencie pisania tego tekstu, podróbka udostępniona przez Lijiana Zhao była nadal przypięta do jego profilu na Twitterze.

Dzisiejsze tanie podróbki oferują cenne lekcje na temat podróbek przyszłości.

Po drugie, rosnące rozpowszechnienie dezinformacji wizualnej czyni nas bardziej podatnymi na wszelką dezinformację. W miarę jak opinia publiczna stanie się bardziej świadoma wielu sposobów manipulowania mediami, stanie się ona bardziej sceptyczna wobec wszystkich mediów, w tym mediów autentycznych.

Ten sceptycyzm ułatwia złym aktorom odrzucenie prawdziwych wydarzeń jako fałszywych. Może również prowadzić do coraz bardziej subiektywnych i stronniczych interpretacji wydarzeń przez samą opinię publiczną. Rozważmy na przykład szeroko rozpowszechnione wśród republikańskich wyborców przekonanie, że wybory w USA w 2020 roku nie były wolne i uczciwe. Jest to ewidentnie fałszywe, ale jak sugerują dane opinii publicznej, nie tylko wyborcy republikanów nie ufają procesowi wyborczemu. Dopóki nie wygrali, wyborcy Demokratów byli także sceptyczny. Jeśli kandydat Republikanów wygra w 2024 r., czy opinia publiczna znów przejdzie po partyzanckich liniach?

Chociaż najstraszniejsze prognozy dotyczące motywowanych politycznie deepfake nie zostały zrealizowane w 2020 roku, musimy przeanalizować ich ewolucję w kontekście tanich podróbek i innych form politycznej dezinformacji. Dzisiejsze tanie podróbki oferują cenne lekcje na temat podróbek przyszłości. Pytanie zatem nie powinno brzmieć: Kiedy pojawią się polityczne podróbki? ale jak możemy złagodzić wiele sposobów, w jakie dezinformacja wizualna już zmienia kształt naszej politycznej rzeczywistości?

Nina Schick jest autorką Deepfakes: The Coming Infocalypse.

ukryć