211service.com
Deepfake można rozwiązać — ale nie zapominaj, że płytkie fałszywe są już wszechobecne
Jeremy Portje
Według Sama Gregory'ego, działacza na rzecz praw człowieka, branża technologiczna ma wyjątkową okazję do rozwiązania problemu deepfake — problemu fałszywego dźwięku i obrazu tworzonego przy użyciu sztucznej inteligencji — zanim staną się one powszechnym problemem.
Ostrzega jednak, że duże firmy wciąż są bardzo daleko od rozwiązania wszechobecnego i bardziej szkodliwego problemu prymitywnych fałszywych informacji.
Gregory jest kierownikiem programu w Świadek , który koncentruje się na wykorzystywaniu filmów wideo w kontekście praw człowieka — przez aktywistów i ofiary w celu ujawnienia nadużyć lub przez reżimy autorytarne w celu stłumienia sprzeciwu. Przemawiając w poniedziałek do publiczności na EmTech Digital, wydarzeniu organizowanym przez MIT Technology Review, powiedział, że deepfake, które obecnie widzimy, to spokój przed burzą.
Złośliwe media syntetyczne nie są jeszcze szeroko stosowane, narzędzia nie są jeszcze mobilne – nie zostały wyprodukowane, powiedział Gregory. Zasugerował, że ta chwila daje twórcom deepfake niezwykłą okazję do ustalenia sposobów ich zwalczania, zanim źli aktorzy będą mogli szeroko wdrożyć technologię.
Możemy być proaktywni i pragmatyczni w reagowaniu na to zagrożenie dla sfery publicznej i naszego ekosystemu informacyjnego – powiedział. Możemy się przygotować, nie panikować.
Chociaż deepfake mogą być nieco przed głównym nurtem, już teraz istnieje problematyczna powódź dezinformacji, która nie została jeszcze rozwiązana. Obecnie fałszywe informacje nie wykorzystują sztucznej inteligencji ani złożonej technologii. Proste sztuczki, takie jak niewłaściwe oznaczanie treści w celu zdyskredytowania aktywistów lub rozpowszechniania fałszywych informacji, mogą być druzgocąco skuteczne, a czasem nawet prowadzić do śmiertelnej przemocy, jak to miało miejsce w Birmie .
Przez te „płytkie podróbki” mam na myśli dziesiątki tysięcy filmów krążących obecnie na całym świecie w złych zamiarach – stworzonych nie przy użyciu zaawansowanej sztucznej inteligencji, ale często po prostu przemianowanych i ponownie przesłanych, twierdzących, że wydarzenie w jednym miejscu właśnie wydarzyło się w innym, powiedział Gregory. .
Na przykład, powiedział, jeden film przedstawiający osobę paloną żywcem został ponownie wykorzystany i przypisywany aktorom z Wybrzeża Kości Słoniowej, Sudanu Południowego, Kenii i Birmy, za każdym razem nawołując do przemocy.
Innym zagrożeniem była rosnąca idea, że nie możemy ufać niczemu, co widzimy, co w większości przypadków jest po prostu nieprawdziwe, powiedział Gregory. Rozprzestrzenianie się tej idei jest dobrodziejstwem dla autorytarnych i totalitarnych na całym świecie.
Dodał, że alarmistyczna narracja tylko potęguje rzeczywiste niebezpieczeństwa, przed którymi stoimy: prawdopodobną możliwość zaprzeczenia i upadek zaufania.
Mark Latonero, kierownik ds. praw człowieka w Dane i społeczeństwo , instytut non-profit zajmujący się zastosowaniami danych, zgodził się, że firmy technologiczne powinny robić więcej, aby rozwiązywać takie problemy. Chociaż Microsoft, Google, Twitter i inni zatrudniają pracowników skupionych na prawach człowieka, powiedział, że powinni zrobić o wiele więcej, zanim wdrożą technologie, a nie później.
„Teraz naprawdę nadszedł czas, aby firmy, badacze i inne osoby zbudowały te bardzo silne powiązania ze społeczeństwem obywatelskim i różnymi biurami krajowymi, w których Twoje produkty mogą być wprowadzane na rynek” – powiedział. Nawiąż kontakt z osobami, które są najbliżej problemów w tych krajach. Zbuduj te sojusze już teraz. Kiedy coś pójdzie nie tak – a tak się stanie – możemy zacząć tworzyć podstawy do współpracy i wymiany wiedzy.