Aplikacja AI, która zamienia Cię w gwiazdę filmową, naraziła prywatność milionów

Kategoria: Sztuczna inteligencja Opublikowany wrz 04

ZAO, wirusowa chińska aplikacja, która wykorzystuje sztuczną inteligencję do zamiany twarzy użytkowników i znanych aktorów, jest obecnie uwikłana w poważną kontrowersję dotyczącą prywatności.

Wiadomości: W piątek nowa aplikacja wydana przez Momo, twórcę mediów społecznościowych, natychmiast stała się wirusowa w chińskich mediach społecznościowych. Pozwala użytkownikom przesłać pojedynczy portret i w ciągu kilku sekund zobaczyć ich twarz nałożoną na siebie na aktorów w kultowych scenach filmowych. Do niedzieli miał stać się najczęściej pobieranym bezpłatna aplikacja rozrywkowa w chińskim sklepie Apple Store.

Fałszerstwo AI: Jest to najnowsza – i być może najbardziej imponująca – aplikacja generatywnych sieci adwersarzy (ang. GAN), algorytmów sztucznej inteligencji stojących za deepfake’ami. Podczas gdy GAN były już wcześniej używane do edycji twarzy i zamiany twarzy (coraz częściej w filmach hollywoodzkich), użycie przez ZAO pojedynczego zdjęcia, w połączeniu z szybkością i bezproblemową zamianą, pokazuje, jak daleko jest najnowocześniejszy w dziedzinie fałszerstw medialnych. rozwinął się.

Kontrowersja: W ciągu kilku godzin od wydania ZAO zaczęło budzić obawy dotyczące prywatności, w szczególności w związku z klauzulą ​​w umowie użytkownika, która dawała programistom prawo do bezpłatnego korzystania ze wszystkich przesłanych zdjęć na zawsze. Umożliwiło im to również przeniesienie tego prawa na dowolną osobę trzecią bez zgody użytkownika. Eksperci prawni w Chinach powiedzieli, że to niezgodne z prawem, a do soboty twórca aplikacji ustąpił pod presją i usunął klauzulę. WeChat, najlepsza chińska aplikacja społecznościowa, również zakazała udostępniania materiałów filmowych lub zdjęć z ZAO.

Już widziałem: Odcinek powtórzył podobne kontrowersje dotyczące FaceApp, aplikacji do edycji zdjęć, która stała się popularna w lipcu. Aplikacja wykorzystywała również GAN do retuszowania portretów ludzi i od czasu jej uruchomienia zgromadziła ponad 150 milionów zdjęć twarzy. ZAO otrzymał znacznie szybszy i ostrzejszy sprzeciw, ale prawdopodobnie był już używany przez miliony użytkowników, zanim zrewidował swoją politykę. Z jednej strony częstotliwość takich incydentów pokazuje, jak łatwo można teraz dokooptować i zmienić przeznaczenie danych osobowych użytkownika poza jego kontrolą. Z drugiej strony pokazuje, że ludzie stali się też bardziej wrażliwi na prywatność i są mniej skłonni do rezygnacji z niej bez walki.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.