Aplikacja AI, która rozbiera kobiety, pokazuje, jak deepfake szkodzą najbardziej wrażliwym

Obraz kobiety z zamazanym ciałem Pani Tech / Oryginalny obraz: Getty

W ostatnich miesiącach wzrosło zainteresowanie deepfake'ami i mediami syntetycznymi. Ale chociaż rozmowa skupiała się przede wszystkim na jej potencjalnym wpływie na politykę, kilku ekspertów w dziedzinie praw człowieka i etyki technologicznej ostrzegło, że przeoczono inną potencjalną szkodę: potencjalnie niszczące konsekwencje dla kobiet i innych wrażliwych populacji, które są celem tej technologii, ale nie mogą chronić się.

Teraz najnowszy eksperyment z deepfake — aplikacja o nazwie DeepNude, która rozbiera zdjęcia kobiet — odgrywa te koszmary. Po raz pierwszy zgłoszony przez Vice , użył generatywnych sieci przeciwników (GAN), aby zamienić ubrania kobiet na bardzo realistyczne nagie ciała. Artykuł szybko wywołał reakcję wirusową, a twórca aplikacji ją zamknął.

Aplikacja DeepNude potwierdza nasze najgorsze obawy dotyczące wyjątkowego sposobu, w jaki narzędzia audiowizualne mogą być wykorzystywane przeciwko kobietom, mówi Mutale Nkonde, pracownik Data & Society Research Institute, który doradzał projekt ustawy przedstawionej w Kongresie przez przedstawicielkę Yvette Clarke, która stworzyłaby mechanizmy dla ofiar takich złośliwych podróbek w celu dochodzenia roszczeń prawnych w związku z naruszeniem reputacji.

Aplikacja skierowana specjalnie do kobiet. Vice odkrył, że oprogramowanie generowało tylko obrazy kobiecego ciała, nawet po podaniu zdjęcia mężczyzny. Anonimowy twórca potwierdził, że wytrenował algorytm GAN tylko na nagich zdjęciach kobiet – w tym przypadku ponad 10 000 z nich – ponieważ łatwiej było je znaleźć w Internecie. Zamierzał jednak ostatecznie stworzyć męską wersję.

Chociaż deepfake nie przedstawiały rzeczywistych ciał kobiet — są one całkowicie zsyntetyzowane przez algorytm — nadal miały potencjał, aby spowodować znaczne szkody emocjonalne i reputacyjne. Obrazy można łatwo pomylić z prawdziwymi i wykorzystać jako pornografię zemsty lub potężne narzędzie do uciszania kobiet. W rzeczywistości stało się to już wcześniej: a dziennikarka w Indiach jej twarz została wszczepiona w film porno po tym, jak zaczęła odkrywać korupcję w rządzie. Natychmiast stał się wirusowy, narażając ją na intensywne nękanie i groźby gwałtu, a ona musiała wyłączyć się na kilka miesięcy.

Deepfake nie są nowym zagrożeniem; zmanipulowane media istniały na długo przed sztuczną inteligencją. Ale technologia przyspieszyła i poszerzyła istniejące trendy, mówi Sam Gregory, dyrektor programowy organizacji non-profit Witness zajmującej się prawami człowieka. Algorytmy znacznie ułatwiły znacznie większej liczbie osób generowanie coraz bardziej przekonujących fałszywych mediów. Tak więc wszystko, do czego ludzie wykorzystywali w przeszłości zmanipulowane media, takie jak atakowanie dziennikarzy, sugerowanie korupcji lub zaciemnianie dowodów, stanie się coraz bardziej powszechne i niebezpiecznie trudne do wykrycia.

Aplikacja nie jest inna, mówi. Wykorzystywanie seksualne kobiet oparte na obrazach już istniało jako problem. Teraz deepfake'i dodają paliwa do płomieni.

Zgodnie z tą samą logiką, Nkonde obawia się, że kobiety nie będą jedynymi wrażliwymi celami deepfake'ów. Mniejszości, osoby LGBTQ i inne grupy często narażone na najpoważniejsze nękanie w Internecie prawdopodobnie również staną się ofiarami – choć być może na różne sposoby. Na przykład podczas kampanii prezydenckiej w USA w 2016 r. rosyjscy agenci użył fałszywych afroamerykańskich person i powiązanych obrazów w ramach kampanii dezinformacyjnej na Facebooku, której celem jest zwiększenie napięć rasowych wśród Amerykanów.

Nkonde mówi, że był to nowy sposób tłumienia wyborców poprzez sprzeniewierzenie tożsamości ludzi w Internecie. Technologia Deepfake byłaby kolejnym naturalnym narzędziem dla złośliwych aktorów udających ludzi, którymi nie są, do zakłócania społeczności i wyrządzania szkód w inny sposób.

Więc dokąd stąd pójdziemy? Zarówno Nkonde, jak i Gregory w przeszłości podzielili się podobnymi zaleceniami z MIT Technology Review: firmy i badacze, którzy tworzą narzędzia do deepfake, muszą również inwestować w środki zaradcze, a firmy zajmujące się mediami społecznościowymi i wyszukiwarkami powinny zintegrować te środki zaradcze bezpośrednio ze swoimi platformami. Nkonde wzywa również organy regulacyjne do szybkiego działania. Dopóki rząd nie znajdzie sposobu na ochronę praw konsumentów, takie aplikacje będą się rozprzestrzeniać, mówi.

Technologia nie jest neutralna, mówi Gregory. Ta aplikacja [DeepNude] nie jest podwójnego zastosowania. Jest jednorazowego użytku do złośliwego celu i jest tworzony amoralnie.

Musimy naprawdę skupić się na etyce tworzenia i udostępniania generatywnych narzędzi medialnych – dodaje. Powinniśmy wielokrotnie to wywoływać.

ukryć