Prawdziwy czy fałszywy? Sztuczna inteligencja sprawia, że ​​bardzo trudno o tym wiedzieć

Nagłówki wiadomości mogą w przyszłości nie być jedynymi fałszywymi rzeczami.

Potężne techniki uczenia maszynowego (patrz Mroczny sekret w sercu sztucznej inteligencji) sprawiają, że coraz łatwiej jest manipulować lub generować realistyczny obraz i dźwięk oraz podszywać się pod kogokolwiek z niesamowitą dokładnością.

Aplikacja na smartfona o nazwie FaceApp , wydany niedawno przez firmę z siedzibą w Rosji, może automatycznie modyfikować czyjąś twarz, aby dodać uśmiech, dodać lub odjąć lata lub zamienić płeć. Aplikacja może również zastosować efekty upiększające, w tym wygładzenie zmarszczek i, co bardziej kontrowersyjne, rozjaśnienie skóry.

A w zeszłym tygodniu firma zadzwoniła Lirogon , który został wydzielony z Uniwersytetu w Montrealu, zademonstrował technologię, która, jak twierdzi, może służyć do podszywania się pod głos innej osoby. Firma opublikowała klipy demonstracyjne przedstawiające Baracka Obamę, Donalda Trumpa i Hillary Clinton, wszyscy popierają tę technologię.

To tylko dwa przykłady tego, jak najpotężniejsze algorytmy sztucznej inteligencji można wykorzystać do generowania treści, a nie tylko do analizy danych.

Potężny sprzęt graficzny i oprogramowanie, a także nowe technologie przechwytywania wideo również napędzają ten trend. W zeszłym roku naukowcy z Uniwersytetu Stanforda zademonstrowali program wymiany twarzy o nazwie Twarz2Twarz . Ten system może manipulować materiałem wideo, tak aby wyraz twarzy osoby pasował do osoby śledzonej za pomocą kamery wykrywającej głębię. Rezultat jest często niesamowicie realistyczny.

Twórcy Lyrebird przyznają, że umiejętność manipulowania głosami i twarzami w tak realistyczny sposób może wywołać wiele problemów.

Nagrania głosowe są obecnie uważane za mocne dowody w naszych społeczeństwach, a zwłaszcza w jurysdykcjach wielu krajów, czytamy w oświadczeniu o etyce zamieszczonym na stronie internetowej firmy. Nasza technologia kwestionuje słuszność takich dowodów, ponieważ pozwala w łatwy sposób manipulować nagraniami audio. Może to potencjalnie mieć niebezpieczne konsekwencje.

Zarówno FaceApp, jak i Lyrebird wykorzystują głębokie generatywne sieci splotowe, aby umożliwić te sztuczki. Oznacza to, że firma stosuje technikę, która pojawiła się w ostatnich latach jako sposób na sprawienie, by algorytmy wykraczały poza samo uczenie się klasyfikowania rzeczy i generowania własnych wiarygodnych danych.

Podobnie jak wiele zadań w dzisiejszej sztucznej inteligencji, wiąże się to z wykorzystaniem bardzo dużych lub głębokich sieci neuronowych. Takie sieci są zwykle zasilane danymi treningowymi i dostosowywane tak, aby reagowały w pożądany sposób na nowe dane wejściowe. Na przykład można ich nauczyć rozpoznawania twarzy lub obiektów na obrazach z niezwykłą dokładnością.

Ale te same sieci można następnie zmusić do generowania własnych danych na podstawie tego, co udało się zinternalizować na temat zestawu danych, na którym zostały przeszkolone.

Możliwe jest wyszkolenie takiej sieci, aby generować obrazy od podstaw, które wyglądają prawie jak prawdziwe. W przyszłości, przy użyciu tych samych technik, manipulowanie wideo może stać się o wiele łatwiejsze. W pewnym momencie jest prawdopodobne, że generowanie całych filmów za pomocą sieci neuronowych stanie się możliwe, mówi Alexandre de Brebisson , współzałożyciel Lyrebird. Jest to trudniejsze, ponieważ istnieje duża zmienność w przestrzeni wielowymiarowej reprezentującej filmy, a obecne modele nadal nie są idealne.

Biorąc pod uwagę pojawiające się obecnie technologie, możliwość wykrywania fałszywego obrazu i dźwięku może być coraz ważniejsza.

Justus Thies , doktorant na Friedrich Alexander University w Niemczech i jeden z badaczy Face2Face, aplikacji do zamiany twarzy w czasie rzeczywistym, mówi, że rozpoczął projekt mający na celu wykrywanie manipulacji wideo. Pośrednie wyniki wyglądają obiecująco, mówi.

ukryć