Oto pięć sposobów, w jakie technologia niszcząca głębokie fałszywki może przynieść odwrotny skutek

Kategoria: Wybory 2020 Opublikowany 16 grudnia

Deepfake stały się symbolem końca prawdy, a dla niektórych potencjalnym narzędziem do rozkręcenia wyborów. (Nieważne, że większość deepfake'ów to wciąż fałszywe porno). Ale… nowy raport od Świadka , organizacja non-profit badająca media syntetyczne, wskazuje, w jaki sposób te narzędzia mogą się nie udać.

Techniki: Manipulowane wideo nie jest nowym problemem i istnieje wiele problemów społecznych, których nie rozwiąże nawet najlepszy wykrywacz deepfake. (Na przykład wiedza o tym, że film został edytowany, nie odpowiada automatycznie na pytanie, czy należy go usunąć. A jeśli to satyra?) Nie przeszkodziło to firmom takim jak Amber Video, Truepic i eWitness w opracowywaniu zweryfikowanych technologie at-capture lub kontrolowane-capture. Wykorzystują one różne techniki do podpisywania, geotagowania i oznaczania czasem obrazu lub filmu podczas jego tworzenia. Teoretycznie ułatwia to stwierdzenie, czy media zostały naruszone.

Jaki jest problem? Raport Świadka przedstawia 14 różnych sposobów, w jakie te technologie mogą faktycznie być szkodliwe. Niektóre z kluczowych:

— Powstające narzędzia można wykorzystać do inwigilacji ludzi
—Ograniczenia techniczne mogą uniemożliwić działanie tych narzędzi w miejscach, w których są najbardziej potrzebne (a te, które używają starego sprzętu, mogą pozostać w tyle)
—Urządzenia z jailbreakiem nie będą w stanie przechwycić materiału weryfikowalnego
—Firmy mogą usunąć dane lub nie pozwolić osobom na ich kontrolę
—Wymaganie większej weryfikacji dla mediów w sądzie może wydłużyć i zwiększyć koszty procesu prawnego

Więc co można zrobić? Nie ma łatwego rozwiązania tych problemów, mówi dyrektor programu Witness Sam Gregory. Firmy budujące te technologie muszą odpowiedzieć na te pytania i pomyśleć o osobach, które najbardziej ucierpią – dodaje. Możliwe jest również budowanie samych narzędzi mediów syntetycznych w bardziej etyczny sposób. Na przykład ekspert ds. technologii Aviv Ovadya ma pomysły na tworzenie odpowiedzialnych narzędzi do deepfake. Firmy mogą zrobić wszystko, co w ich mocy, aby sprawdzić, którzy klienci mogą korzystać z ich narzędzi i wyraźnie ukarać tych, którzy naruszają ich normy. Wszelkiego rodzaju media syntetyczne staną się bardziej powszechne. Aby zapewnić nam bezpieczeństwo, trzeba będzie zastosować wiele różnych taktyk.