Trzy zagrożenia stwarzane przez deepfake, których technologia nie rozwiąże

Zrzut ekranu z fałszywego wideo Putina Przegląd technologii MIT

Wyobraź sobie: w końcu istnieje idealnie dokładny wykrywacz deepfake. Natychmiast dodaje dużą czerwoną etykietę DEEPFAKE do każdego filmu, który został zmanipulowany za pomocą sztucznej inteligencji, bez względu na to, jak płynnie realistyczny może wyglądać film.

To może brzmieć jak to, czego potrzebujemy do walki z deepfake, które ludzie mogą się martwić koniec prawdy i śmierć demokracji . Idealnie prawdziwe, zmanipulowane filmy mogą być tutaj już za sześć miesięcy , co sugeruje, że kampania przed wyborami prezydenckimi w USA w 2020 r. może stać się polem bitwy z fałszywymi wideo: Donald Trump przyznający się do skorumpowanych układów z Rosją, Elizabeth Warren opowiadająca się za całkowitym zakazem posiadania broni, Kamala Harris dyskredytująca białych.

Technolodzy odpowiedzieli większą ilością technologii. ten Rząd USA sfinansował projekt na kryminalistyce medialnej. Facebook i Microsoft ogłosiły niedawno wyzwanie wykrywania deepfake, a Google wypuściło gigantyczną bazę danych deepfake do walki z deepfake'ami. Ale chociaż technika tworzenia deepfake'ów jest nowa, znaczna część rzeczywistej krzywdy, jaką stanowią – dezinformacja i nękanie – nie jest, według Britta Parisa, badacza informacji z Rutgers University i współautora najnowszy raport Data & Society na deepfake. Idealnie dokładny wykrywacz deepfake nie poradzi sobie z tymi szkodami. Dlatego.

1) Problem: Detektory Deepfake nie mogą nam powiedzieć, co należy – a czego nie – usunąć

Pamiętasz spowolnione wideo Nancy Pelosi? To nie był podróbka. Nadal rozpowszechnia nieprawdę, a Facebook postanowił jej nie usuwać. Detektor deepfake nie pomógłby w tym wezwaniu do osądzenia. Im bardziej zbliżasz się do zautomatyzowanego użytkowania, tym bardziej prawdopodobne jest, że będziesz mieć nieścisłości lub cenzurę, mówi Kate Klonick, profesor na St. John's University i ekspert w dziedzinie zarządzania platformą. Definiowanie satyry, definiowanie fake newsów, definiowanie fikcji – to wszystko są wielkie pytania filozoficzne.

Pomysł: Lepsza moderacja

Społeczeństwo musi przepracować te problemy. Do tego czasu jednym rozwiązaniem może być zapewnienie większej władzy tym, którzy są w stanie wypowiadać osądy: ludzkim moderatorom treści. W tym celu moderatorzy mogliby otrzymywać wyższe wynagrodzenie, lepiej szkolić się i cenić jako ważny element utrzymywania bezpiecznego Internetu, mówi Sarah T. Roberts, badaczka informacji z UCLA. Wyspecjalizowane zespoły sprawdzonych moderatorów mogą ocenić kontekst filmu, zweryfikować go pod kątem faktów i zdecydować, czy powinien pozostać na platformie. Mogą nie mieć idealnej odpowiedzi na ten film Pelosi, ale nadal mieliby poczucie społecznego i politycznego wpływu różnych podróbek i ich celów. Mogli powiedzieć, że parodia deepfakes Nicolasa Cage'a są w porządku i fałszywe porno nie jest.

Ktoś inny, kto może mieć kwalifikacje do osądzania deepfake'a? Ofiara jednego. Firmy powinny ułatwić zgłaszanie przypadków nękania metodą deepfake, mówi Danielle Citron, ekspert ds. prawa cybernetycznego z Boston University. Wszyscy użytkownicy powinni być pouczeni o swoich prawach, a kroki zgłaszania powinny być oczywiste i dostępne, a nie ukryte w polityce prywatności.

2) Problem: technologia niszcząca Deepfake może nie pomóc osobom, które najbardziej potrzebują ochrony

Historia pokazała, że ​​nowa technologia jest wykorzystywana przeciwko marginalizowanym grupom – takim jak kobiety, osoby kolorowe, osoby LGBT i aktywiści – zanim stanie się głównym zagrożeniem, mówi Paris. Na przykład w latach 90. na ciałach aktorek filmów dla dorosłych pojawiły się już prymitywne obrazy głów kobiecych w Photoshopie. Ludzie u władzy nie dbali o to wystarczająco, by coś z tym zrobić. Gdybyśmy zwrócili uwagę na problem wykorzystywania seksualnego kobiet bez ich zgody, bylibyśmy teraz w znacznie lepszej sytuacji, żeby sobie z tym poradzić społecznie, prawnie i kulturowo – mówi Mary Anne Franks, prawnik z Uniwersytetu. z Miami.

Historia się powtarza. Naukowcy twierdzą, że największym ryzykiem deepfake'ów nie jest to, że prowadzą do wyborów, ale że są przyzwyczajeni do zastraszania osoby prywatne.

Pomysł: Nie buduj niczego bez konsultacji z osobami najbardziej dotkniętymi chorobą

Porozmawiaj z ludźmi, którzy są najbardziej podatni na deepfake, mówi Sam Gregory, dyrektor programowy Witness, organizacji non-profit, która bada media syntetyczne. Nawet jeśli celem jest stworzenie detektora deepfake, pojawia się wiele pytań społecznych. Czy będzie dostępny dla osób w innych krajach? Czy zostanie przeszkolony w wykrywaniu podróbek politycznych lub przemocy seksualnej i seksualnej? Gdy infrastruktura jest już ustawiona, wyklucza się naprawdę zmarginalizowanych ludzi i populacje, ponieważ nie mają agencji, która mogłaby zmienić tę infrastrukturę, mówi Gregory.

3) Problem: Wykrywanie Deepfake jest za późno, aby pomóc ofiarom

W przypadku deepfake po wydaniu wideo lub audio nie ma większego znaczenia, mówi Franks, naukowiec z University of Miami.

Istniejące przepisy są niewystarczające. Przepisy, które karzą udostępnianie uzasadnionych prywatnych informacji, takich jak dokumentacja medyczna, nie mają zastosowania do fałszywych, ale szkodliwych filmów. Franks mówi, że przepisy zakazujące podszywania się są dziwnie ograniczone — koncentrują się na zakazie podszywania się pod lekarza lub urzędnika państwowego. Przepisy dotyczące zniesławienia dotyczą tylko fałszywych reprezentacji, które przedstawiają temat negatywnie, ale Franks twierdzi, że powinniśmy się martwić o deepfake, które fałszywie przedstawiają ludzi również w pozytywnym świetle.

Pomysł: Nowe przepisy

Teksas niedawno uchwalił ustawę zakazującą deepfake . DO California deepfake rachunek przeszedł w obu izbach i teraz czeka na podpis gubernatora Gavina Newsoma. Tymczasem przedstawicielka Yvette Clarke, kongresmenka USA z Nowego Jorku, niedawno wprowadziła federalne ustawodawstwo zwane DEEPFAKES Ustawa o odpowiedzialności . Zmusiłoby to firmy zajmujące się mediami społecznościowymi do wbudowania lepszych narzędzi do wykrywania na swoich platformach i umożliwiłoby karanie lub więzienie osób, które zamieszczają złośliwe deepfake.

Ze swojej strony Franks i Citron pracują nad ustawą federalną mającą na celu kryminalizację złośliwych podróbek, które nazywają fałszerstwami cyfrowymi. Ich zdaniem fałszerstwo cyfrowe to coś, o czym rozsądna osoba mogłaby pomyśleć, że jest prawdziwe. Musi również zaszkodzić konkretnej osobie lub zaszkodzić porządkowi publicznemu — na przykład, jeśli nagranie wideo fałszywie pokazywało muzułmanina popełniającego przestępstwo.

Aby takie prawo obowiązywało w Stanach Zjednoczonych, najlepiej byłoby, gdyby znajdowało się ono na poziomie federalnym, a nie stanowym. Ze względu na prawo o nazwie sekcja 230 firmy zajmujące się platformami nie są prawnie odpowiedzialne za hostowanie szkodliwych treści stron trzecich, chyba że narusza to federalne prawo karne. Gdyby publikowanie szkodliwych filmów wideo stało się przestępstwem, nie tylko zniechęciłoby to ludzi do ich publikowania; platformy takie jak Facebook musiałyby ciężej pracować, aby je powstrzymać. Te firmy nie byłyby w stanie podnieść Sekcji 230 w obronie, mówi Franks. Mieliby dowolną liczbę obrony, ale ta konkretna droga do nich byłaby zablokowana.

ukryć