Deepfakes wpadły w panikę Kongresu. To właśnie musi zrobić.

Ilustracja przedstawiająca prezydenta Trumpa, jedna połowa jest czarno-biała, a druga połowa bardzo nasycona Pani Tech; Oryginalne zdjęcie: WIN MCNAMEE; GETTY OBRAZY

Niedawne gwałtowne rozprzestrzenienie się sfałszowanego wideo Nancy Pelosi przestraszyło prawodawców w Waszyngtonie. Wideo – zmontowane tak, aby wyglądała na pijaną – jest tylko jednym z wielu przykładów zmanipulowanych mediów, które w ostatnim roku wprowadziły je do głównego nurtu publicznego dyskursu. W styczniu inny wyrafinowane wideo celowanie w prezydenta Donalda Trumpa zakończyło się wyemitowaniem w telewizji Seattle. W tym tygodniu na Instagram został przesłany wygenerowany przez sztuczną inteligencję film Marka Zuckerberga. (Facebook obiecał, że go nie usunie.)

W obliczu zbliżających się wyborów w USA w 2020 r. Kongres USA coraz bardziej obawia się, że szybka i łatwa możliwość fałszowania mediów może narazić kampanie wyborcze na cel ze strony zagranicznych agentów i zagrozić zaufaniu wyborców.

W odpowiedzi Izba Reprezentantów zorganizuje jutro pierwsze dedykowane przesłuchanie na temat deepfake, klasy mediów syntetycznych generowanych przez sztuczną inteligencję. Równolegle przedstawicielka Yvette Clarke przedstawi projekt ustawy w tej samej sprawie. Nowy raport badawczy opublikowany w tym tygodniu przez organizację non-profit podkreśla również strategię radzenia sobie z rozprzestrzenianiem się deepfake i innych oszukanych mediów.

To nie pierwszy raz, kiedy amerykańscy decydenci starają się podjąć działania w tej sprawie. W grudniu 2018 r. senator Ben Sasse przedstawił inny rachunek próbując zabronić złośliwym deepfake'om. Senator Marco Rubio również wielokrotnie zabrzmiał alarm na technologii na przestrzeni lat. Ale po raz pierwszy widzimy tak skoordynowany wysiłek amerykańskich prawodawców.

Rachunek deepfake

Projekt ustawy, będący efektem kilkumiesięcznych dyskusji z informatykami, ekspertami od dezinformacji i obrońcami praw człowieka, będzie zawierał trzy zapisy. Pierwsza z nich wymagałaby od firm i badaczy, którzy tworzą narzędzia, które można wykorzystać do tworzenia deepfake'ów, automatycznego dodawania znaków wodnych do sfałszowanych kreacji.

Drugie wymagałoby, aby firmy zajmujące się mediami społecznościowymi wbudowały lepsze wykrywanie manipulacji bezpośrednio na swoich platformach. Wreszcie trzeci przepis wprowadziłby sankcje, takie jak grzywny lub nawet kary więzienia, w celu ukarania przestępców za tworzenie złośliwych podróbek, które szkodzą jednostkom lub zagrażają bezpieczeństwu narodowemu. W szczególności próbowałby wprowadzić nowy mechanizm regresu prawnego, gdyby reputacja ludzi została zniszczona przez syntetyczne media.

Ten problem dotyczy nie tylko polityków, mówi Mutale Nkonde, pracownik Data & Society Research Institute i doradca przy projekcie ustawy. Filmy Deepfake są znacznie częściej wykorzystywane przeciwko kobietom, mniejszościom, osobom ze społeczności LGBT, ludziom ubogim. A ci ludzie nie będą mieli zasobów, aby walczyć z ryzykiem utraty reputacji.

Celem wprowadzenia ustawy nie jest przekazanie jej przez Kongres w takiej postaci, w jakiej jest, mówi Nkonde. Zamiast tego ma zainicjować bardziej zniuansowaną rozmowę na temat tego, jak radzić sobie z problemem prawnym, proponując konkretne zalecenia, które można poddać krytyce i doprecyzować. To, czego naprawdę chcemy zrobić, to wprowadzić do rejestru Kongresu, że pomysł manipulacji audiowizualnej jest nie do zaakceptowania, mówi.

Obecny stan deepfake

Zbiegiem okoliczności organizacja non-profit zajmująca się prawami człowieka wydała: nowy raport z badań w tym tygodniu dokumentuje obecny stan technologii deepfake. Deepfake nie należą obecnie do głównego nurtu: ich produkcja wciąż wymaga specjalistycznych umiejętności i często pozostawiają w filmie artefakty, takie jak usterki i pikselowanie, które sprawiają, że fałszerstwo jest oczywiste.

Ale technologia rozwija się w szybkim tempie, a ilość danych potrzebnych do sfałszowania filmu dramatycznie spadła. Dwa tygodnie temu Samsung zademonstrowane że można było stworzyć cały film z jednego zdjęcia; w tym tygodniu badacze uniwersyteccy i przemysłowi demo nowego narzędzia który pozwala użytkownikom edytować czyjeś słowa, wpisując to, co chcą powiedzieć tematowi.

Rozprzestrzenianie się deepfake jest więc tylko kwestią czasu, mówi Sam Gregory, dyrektor programowy Witness. Wiele sposobów, w jakie ludzie rozważaliby używanie deepfake – atakowanie dziennikarzy, sugerowanie korupcji przez polityków, manipulowanie dowodami – to wyraźnie ewolucja istniejących problemów, więc powinniśmy oczekiwać, że ludzie będą próbować najnowszych sposobów skutecznego ich wykonywania – mówi. .

Raport nakreśla strategię, jak przygotować się na tak zbliżającą się przyszłość. Wiele zaleceń i wiele dowodów potwierdzających jest również zgodnych z propozycjami, które pojawią się w ustawie Izby.

Raport wykazał, że obecne inwestycje badaczy i firm technologicznych w generowanie deepfake znacznie przewyższają inwestycje w wykrywanie deepfake. Na przykład firma Adobe wyprodukowała wiele narzędzi ułatwiających wprowadzanie zmian w mediach, w tym niedawno wydaną funkcję usuwania obiektów z filmów; nie zapewnił im jednak folii.

Rezultatem jest rozbieżność między rzeczywistym charakterem manipulacji mediami a dostępnymi narzędziami do jej zwalczania. Jeśli tworzysz narzędzie do syntezy lub fałszerstwa, które jest płynne dla ludzkiego oka lub ludzkiego ucha, powinieneś tworzyć narzędzia zaprojektowane specjalnie do wykrywania tego fałszerstwa, mówi Gregory. Pytanie brzmi, jak sprawić, by producenci narzędzi naprawili tę nierównowagę.

Podobnie jak projekt ustawy House, raport zaleca również, aby firmy zajmujące się mediami społecznościowymi i wyszukiwarkami lepiej integrowały możliwości wykrywania manipulacji ze swoimi platformami. Facebook mógłby zainwestować w wykrywanie usuwania obiektów, na przykład, aby przeciwdziałać funkcji Adobe, a także innym nieuczciwym technikom edycji.

Następnie powinien wyraźnie oznaczać filmy i obrazy w kanałach informacyjnych użytkowników, aby zwracać uwagę, kiedy zostały edytowane w sposób niewidoczny dla ludzkiego oka. Innym przykładem jest Google, który powinien zainwestować w odwrotne wyszukiwanie wideo, aby pomóc dziennikarzom i widzom szybko zlokalizować oryginalne źródło klipu.

Poza Kongresem

Pomimo ścisłego dostosowania raportu do projektu ustawy, Gregory ostrzega, że ​​Kongres USA powinien w najbliższym czasie dwa razy zastanowić się nad uchwaleniem przepisów dotyczących deepfake. Mówi, że jest wcześnie, by regulować deepfake i media syntetyczne, chociaż robi wyjątki dla bardzo wąskich zastosowań, takich jak ich wykorzystanie do tworzenia nieprzyjemnych obrazów seksualnych. Nie sądzę, że mamy wystarczająco dobre wyczucie tego, w jaki sposób społeczeństwa i platformy będą radzić sobie z deepfake i mediami syntetycznymi, aby ustanowić przepisy, dodaje.

Gregory obawia się, że obecna dyskusja w Waszyngtonie może prowadzić do decyzji, które później będą miały negatywne reperkusje. Na przykład przepisy amerykańskie mogą w dużym stopniu wpływać na to, co robią inne kraje. I łatwo zobaczyć, jak w krajach o bardziej autorytarnych rządach przepisy chroniące polityków mogą być wykorzystywane do uzasadnienia usuwania wszelkich kontrowersyjnych treści lub krytykujących przywódców politycznych.

Nkonde zgadza się, że Kongres powinien przyjąć wyważone i przemyślane podejście do problemu i rozważyć nie tylko jego wpływ na politykę. Naprawdę mam nadzieję, że porozmawiają [podczas przesłuchania] o tym, na ile osób ta technologia wpływa, mówi, oraz o psychologicznym wpływie niemożności uwierzenia w to, co można zobaczyć i usłyszeć.

ukryć