Tworzenie narzędzi deepfake nie musi być nieodpowiedzialne. Oto jak.

Rozpowszechniony przez Facebooka przykład dwóch kobiet robiących kawę: jedna to deepfake. Facebook

Technologie mediów syntetycznych — powszechnie znane jako deepfake — mają realny potencjał wywierania pozytywnego wpływu. Na przykład synteza głosu pozwoli nam mówić własnym głosem w setkach języków. Synteza wideo może pomóc nam symulować wypadki podczas samodzielnego prowadzenia samochodu, aby uniknąć błędów w przyszłości. A synteza tekstu może przyspieszyć naszą zdolność pisania zarówno programów, jak i prozy.

Ale te postępy mogą mieć gigantyczne koszty, jeśli nie będziemy ostrożni: te same podstawowe technologie mogą również umożliwić oszustwo z globalnymi konsekwencjami.

Na szczęście możemy zarówno spełnić obietnicę technologii, jak i złagodzić jej niebezpieczeństwo. To zajmie tylko trochę ciężkiej pracy.

To, o czym tu mówię, ma być wezwaniem do działania, aby wykonać tę pracę – i przewodnikiem wspierającym tych z nas, którzy tworzą taką technologię, niezależnie od tego, czy prowadzimy przełomowe badania, opracowujemy nowe produkty, czy po prostu otwieramy… systemy źródłowe dla zabawy. Dotyczy to również tych, którzy inwestują lub finansują taką pracę, dziennikarzy, którzy mogą pomóc w zapewnieniu, że twórcy technologii poważnie traktują ich wpływ, oraz przyjaciół lub rodziny tych, którzy ją tworzą.

Możemy dłużej uwolnić się od odpowiedzialności, mówiąc, że nic nie możemy zrobić, jeśli ludzie nadużywają naszych narzędzi. Ponieważ są rzeczy, które możemy zrobić; po prostu często nie zawracamy sobie głowy. Kolejny argument, Ta technologia i tak zostanie wymyślona, ​​nie jest całkowicie fałszywy — ale sposób i czas ma znaczenie i może się zmienić w wyniku naszych wyborów. (Aby uzyskać więcej informacji na ten temat, w tym modelowanie zagrożeń, zapoznaj się z naszym pełny papier , zwłaszcza w sekcji 2 o tym, co prowadzi do szkód.) Wreszcie, nie możemy ukryć się za oklepanym stwierdzeniem, że zawsze istniało oszustwo, ignorując znaczące różnice w stopniu i wpływie.

Koszty technologii deepfake są nie tylko teoretyczne. Syntetyczne filmy z zamianą twarzy zmuszać dziennikarzy do milczenia ; syntetyczne głosy są używane do duże nieuczciwe transakcje , a twarze syntetyczne mają rzekomo wspierał szpiegostwo . Wszystko to pomimo obecnych wyzwań związanych z używaniem zhakowanego oprogramowania w jakości beta. Przeszkody w korzystaniu z mediów syntetycznych są nadal zbyt wysokie, aby technologia była atrakcyjna dla większości złośliwych graczy – ale ponieważ z wadliwych wersji beta przechodzi w ręce miliardów ludzi, mamy obowiązek unikać najgorszy przypadek scenariusze poprzez utrudnienie używania deepfake'ów do zła tak bardzo, jak to tylko możliwe. W jaki sposób?

Podejście 1: Ograniczenie, kto może używać narzędzia… i jak

Jest kilka rzeczy, które możemy zrobić, aby złośliwe użycie było znacznie mniej prawdopodobne. Jednym z oczywistych, prostych i skutecznych podejść jest: dokładnie weterynarz tych, którzy potrafią używać narzędzia. To właśnie lubią firmy Syntezja robią — zasadniczo pracując tylko ze sprawdzonymi klientami korporacyjnymi.

Alternatywą jest ograniczyć użycie : aby ograniczyć to, co użytkownicy mogą syntetyzować lub manipulować. Na przykład, możliwe jest zbudowanie narzędzi zapewniających, że można manipulować tylko wybranymi głosami lub twarzami. Co to jest Humen , na przykład robi — zapewnia ograniczony zestaw ruchów, które może wykonać osoba w wygenerowanym filmie.

Jednak może to nie być opcją dla wielu systemów. Więc co jeszcze można zrobić?

Podejście 2: Zniechęcanie do złośliwego użytkowania

W przypadku narzędzi do multimediów syntetycznych, które są ogólne i mogą być szeroko dostępne, nadal istnieje wiele możliwych sposobów ograniczenia złośliwego wykorzystania. Oto kilka przykładów.

• Jasne ujawnienie: Poproś, aby zsyntetyzowane media były wyraźnie oznaczone jako takie – w szczególności materiały, które mogą być użyte do wprowadzenia w błąd. Narzędzia mogą to wspierać, umieszczając wyraźne wizualne lub dźwiękowe powiadomienia w plikach wyjściowych, takie jak widoczne ostrzeżenia lub wypowiedzi głosowe. Metadane powinny co najmniej wskazywać, w jaki sposób media zostały zsyntetyzowane lub zmanipulowane.
• Ochrona zgody: Wymagaj zgody osób, pod którymi ktoś się podszywa. Narzędzie do klonowania głosu Lirogon wymaga od użytkowników wypowiadania określonych fraz w celu modelowania swojego głosu. Utrudnia to podszywanie się pod kogoś bez zgody, co byłoby bardzo możliwe, gdyby po prostu generował głosy przy użyciu dowolnego dostarczonego zestawu danych. Dotyczy to oczywiście tylko narzędzi umożliwiających podszywanie się.
• Łatwość wykrywania: Upewnij się, że zsyntetyzowane pożywki nie są nadmiernie trudne do wykrycia; aktualizować narzędzia do wykrywania; współpracować z osobami pracującymi nad wykrywaniem, aby być na bieżąco z nowymi rozwiązaniami.
• Ukryte znaki wodne: Osadź kontekst dotyczący syntezy — lub nawet oryginalnego nośnika — za pomocą solidnych znaków wodnych, zarówno przy użyciu metod dostępnych dla każdego z odpowiednimi narzędziami, jak i metod, które są tajne i trudne do usunięcia. (Na przykład, Moduluj.ai znaki wodne, które generuje, podczas gdy produkty takie jak Imatag a ich odpowiedniki typu open source umożliwiają dodawanie znaków wodnych do zdjęć).
• Dzienniki użytkowania: Przechowuj informacje o użytkowaniu i wyjściach medialnych w taki sposób, aby badacze i dziennikarze mogli mieć dostęp, aby określić, czy na przykład film został prawdopodobnie zsyntetyzowany przy użyciu określonego narzędzia. Może to obejmować przechowywanie znaczników czasu syntezy z solidnym hashem lub osadzaniem nośnika.
• Użyj ograniczeń: Zapewnij i egzekwuj umowne warunki użytkowania, które zakazują i karzą niepożądane działania, takie jak próby usunięcia ujawnień lub znaków wodnych lub naruszanie zgody innych osób. Silniejsza wersja tego podejścia polega na wyraźnym opracowaniu dozwolonych zastosowań technologii lub wynikających z niej wyników.

Nie wszystkie te strategie mają zastosowanie do każdego systemu. Niektórzy mogą mieć swoje ryzyko, ale żadne nie jest doskonałe – lub wystarczające samo w sobie. Wszystkie są częścią głębokiej obrony, gdzie więcej znaczy więcej. Nawet jeśli mamy sprawdzanie lub ograniczenia, te podejścia nadal sprawiają, że system jest bardziej odporny na przeciwników. I chociaż przestrzeganie tych zasad może działać najlepiej w przypadku systemów oprogramowania jako usługi, które są dostarczane bez ujawniania żadnego kodu źródłowego, nadal mogą stanowić pewną wartość dla narzędzi i modeli typu open source: wielu złych aktorów nie będzie miało technicznych możliwości, aby uzyskać wokół tych środków ochronnych. ( Cały papier bada, kiedy w pierwszej kolejności opublikować kod źródłowy).

Wspieranie etycznych narzędzi deepfake

Wykonywanie dodatkowej pracy w celu ochrony ludzi przed krzywdą może być trudne do usprawiedliwienia w dzisiejszym konkurencyjnym środowisku biznesowym — dopóki nie nastąpi nieodwracalna katastrofa. Jak więc możemy zapewnić, że te podejścia zostaną wdrożone, zanim będzie za późno? Oto cztery rzeczy, które fundatorzy, rządy, dziennikarze i opinia publiczna mogą teraz zrobić, aby wesprzeć tych, którzy tworzą etyczne syntetyczne narzędzia medialne.

Ułatw sobie robienie właściwych rzeczy

Oznacza to, że musimy inwestować w badania we wszystkich tych obszarach, aby dysponować szeroko dostępnymi, dobrze finansowanymi narzędziami typu open source do wdrażania tych podejść. Historia bezpieczeństwa informacji pokazuje, że gdy do zabezpieczenia rzeczy można użyć łatwych w użyciu narzędzi typu open source, o wiele więcej rzeczy jest bezpiecznych. Tutaj obowiązuje ta sama logika: przynajmniej musimy pilnie ułatwić dostarczanie standardowych metadanych ujawniania, znaków wodnych i rejestrowania. Potrzebujemy również badań, aby zbadać, czy możliwe jest wprowadzenie wykrywalności do wyszkolonych modeli przed dystrybucją. Bez tego rodzaju infrastruktury i badań zobaczymy wiele nowych narzędzi opartych na dobrych intencjach, używanych w przerażający sposób.

Zwiększanie wiedzy w zakresie łagodzenia nadużyć

Podobnie jak w przypadku prywatności i bezpieczeństwa, musimy wspierać społeczności skupione na wzmacnianiu systemów i zwalczaniu złych podmiotów, a firmy muszą płacić ludziom za wykonanie tej pracy, jako konsultanci lub we własnym zakresie.

Unikaj finansowania, budowania i dystrybucji nieodpowiedzialnych narzędzi

Jeśli firma lub narzędzie nie próbuje przynajmniej zmniejszyć ryzyka nadużycia, sponsorzy i programiści nie powinni tego wspierać. Twórcy narzędzi, którzy nie wdrażają najlepszych praktyk wymienionych powyżej, muszą mieć bardzo dobre powody, a sklepy z aplikacjami powinny domyślnie ich wymagać.

Twórz normy, pociągając ludzi do odpowiedzialności

Jeśli są niedbali, powinniśmy ich wzywać — nawet jeśli są naszymi inwestorami, współpracownikami, przyjaciółmi lub rodziną. Możemy tworzyć normy etyczne, chwaląc tych, którzy postępują właściwie, i popychając tych, którzy tego nie robią, by robili lepiej.

Organizacje rozwijające technologię deepfake, takie jak Nvidia, Adobe, Facebook i Google, powinny intensywnie inwestować we wszystkie powyższe. Venture capital i fundacje również powinny mieć swój udział we wspieraniu tej pracy i uważać, kogo wspierają.

To tylko jeden wycinek znacznie szerszego zestawu wysiłków, które są potrzebne, aw wielu przypadkach mogą nam one kupić tylko trochę więcej czasu. Oznacza to, że konieczne jest zapewnienie, aby platformy i decydenci mądrze wykorzystywali ten czas, aby nasz ekosystem informacyjny był bardziej odporny.

Nasza przeszłość jest zaśmiecona tymi, którzy żałowali, że nie przedstawili swoich wynalazków ostrożniej — a przyszłość mamy tylko jedną. Nie schrzańmy tego.

—Aviv Ovadya jest założycielem Przemyślany projekt technologiczny oraz stypendysta nierezydent w organizacji German Marshall Fund’s Alliance for Securing Democracy. Zobacz pełny artykuł na temat łagodzenia negatywnych skutków badań nad mediami syntetycznymi, którego współautorem jest Jess Whittlestone, tutaj .

ukryć