Aplikacje, które niszczą głębokie fałszywki, potrafią wykryć nawet jeden piksel nie na miejscu

Dzięki uprzejmości Serelay





Fałszowanie zdjęć i filmów zajmowało dużo pracy. Albo użyłeś CGI do generowania fotorealistycznych obrazów od zera (zarówno trudnych, jak i drogich), albo potrzebujesz trochę biegłości w Photoshopie — i dużo czasu — aby przekonująco zmodyfikować istniejące obrazy.

Teraz pojawienie się obrazów generowanych przez sztuczną inteligencję ułatwiło każdemu modyfikowanie obrazu lub wideo z myląco realistycznymi wynikami. Wcześniej w tym roku, Przegląd technologii MIT starszy redaktor ds. sztucznej inteligencji Will Knight użył gotowego oprogramowania do sfałszowania własnego fałszywego filmu amerykańskiego senatora Teda Cruza. Film jest trochę kiepski, ale nie potrwa długo.

Ta sama technologia tworzy rosnącą klasę materiałów filmowych i zdjęć, zwanych deepfake , które mogą podważać prawdę, dezorientować widzów i siać niezgodę na znacznie większą skalę, niż widzieliśmy już w przypadku fałszywych wiadomości tekstowych.



To są możliwości, które niepokoją Hany'ego Farida, profesora informatyki w Dartmouth College, który od 20 lat obala fałszywe obrazy. Nie sądzę, że jesteśmy jeszcze gotowi, ostrzega. Ma jednak nadzieję, że rosnąca świadomość problemu i nowe osiągnięcia technologiczne mogą lepiej przygotować ludzi do odróżniania prawdziwych obrazów od zmanipulowanych kreacji.

Oryginalny obraz Brasenose College Uniwersytetu Oksfordzkiego. Dzięki uprzejmości Serelay

Przykład, jak można edytować oryginalny obraz, aby usunąć tęczową flagę LGBTQ z dachu. Dzięki uprzejmości Serelay



Istnieją dwa główne sposoby radzenia sobie z wyzwaniem weryfikacji obrazów, wyjaśnia Farid. Pierwszym z nich jest szukanie modyfikacji w obrazie. Eksperci kryminalistyki obrazu używają technik obliczeniowych, aby określić, czy jakiekolwiek piksele lub metadane wydają się zmienione. Mogą na przykład szukać cieni lub odbić, które nie są zgodne z prawami fizyki, lub sprawdzić, ile razy plik obrazu został skompresowany, aby określić, czy został zapisany wiele razy.

Drugą i nowszą metodą jest weryfikacja integralności obrazu w momencie jego wykonania. Wiąże się to z wykonaniem dziesiątek kontroli, aby upewnić się, że fotograf nie próbuje sfałszować danych o lokalizacji urządzenia i znacznika czasu. Czy współrzędne, strefa czasowa i wysokość aparatu oraz pobliskie sieci Wi-Fi wzajemnie się potwierdzają? Czy światło na obrazie załamuje się tak, jak w przypadku sceny trójwymiarowej? A może ktoś robi zdjęcie innego dwuwymiarowego zdjęcia?

Farid uważa, że ​​to drugie podejście jest szczególnie obiecujące. Biorąc pod uwagę dwa miliardy zdjęć, które są codziennie przesyłane do sieci, uważa, że ​​może to pomóc w weryfikacji obrazów na dużą skalę.



Serelay umożliwia użytkownikom przesyłanie podejrzanych zdjęć, aby sprawdzić, czy zostały one przebadane. System przeprowadza serię kontroli w celu ustalenia, gdzie dokonano ewentualnych modyfikacji. Dzięki uprzejmości Serelay

Dwa start-upy, amerykański Truepic (dla którego Farid konsultuje się) i brytyjski Serelay, pracują obecnie nad komercjalizacją tego pomysłu. Podjęli podobne podejście: każdy z nich ma bezpłatne aplikacje aparatu na iOS i Androida, które wykorzystują zastrzeżone algorytmy do automatycznej weryfikacji zdjęć po ich zrobieniu. Jeśli obraz staje się wirusowy, można go porównać z oryginałem, aby sprawdzić, czy zachował swoją integralność.

Podczas gdy Truepic przesyła obrazy swoich użytkowników i przechowuje je na swoich serwerach, Serelay przechowuje rodzaj cyfrowego odcisku palca, obliczając około stu wartości matematycznych z każdego obrazu. (Firma twierdzi, że te wartości są wystarczające, aby wykryć nawet jednopikselową edycję i określić w przybliżeniu, która część obrazu została zmieniona.) Truepic mówi, że decyduje się na przechowywanie pełnych obrazów na wypadek, gdyby użytkownicy chcieli usunąć wrażliwe zdjęcia ze względów bezpieczeństwa. (W niektórych przypadkach użytkownicy Truepic działający w sytuacjach wysokiego zagrożenia, takich jak strefa wojenna, muszą usunąć aplikację natychmiast po udokumentowaniu scen). Serelay natomiast uważa, że ​​nie przechowywanie zdjęć zapewnia użytkownikom większą prywatność.



Serelay jest w stanie złapać i podświetlić brakującą flagę na zdjęciu. Dzięki uprzejmości Serelay

Jako dodatkowa warstwa zaufania i ochrony, Truepic przechowuje również wszystkie zdjęcia i metadane przy użyciu łańcucha bloków — technologii stojącej za Bitcoinem, która łączy kryptografię i sieć rozproszoną w celu bezpiecznego przechowywania i śledzenia informacji.

Farid przyznaje, że nie jest kuloodporny i mówi, że ma pewne wady. Na przykład użytkownicy muszą korzystać z oprogramowania weryfikacyjnego zamiast aplikacji aparatu w swoim telefonie. Zauważa również, że firmy, które próbują komercjalizować tego rodzaju technologię, mogą przedkładać monetyzację nad bezpieczeństwo. Mówi, że pokładamy pewne zaufanie w firmach tworzących te aplikacje.

Ale są też strategie łagodzące. Zarówno Truepic, jak i Serelay oferują zestawy programistyczne, dzięki którym ich technologia jest dostępna dla platform innych firm. Ich pomysł polega na tym, aby pewnego dnia ich technologia weryfikacji stała się standardem branżowym dla aparatów cyfrowych, w tym Facebooka, Snapchata, a nawet natywnej aplikacji aparatu Apple. W tym scenariuszu niezmieniony obraz opublikowany w mediach społecznościowych może automatycznie otrzymać znacznik wyboru, taki jak odznaka weryfikacyjna na Twitterze, wskazująca, że ​​pasuje do obrazu w ich bazie danych – znak, który Serelay ma nadzieję, że zapewni wiarygodność.

Zdecydowana większość treści, które oglądamy online, jest pobierana za pomocą urządzeń mobilnych, mówi Farid. W zasadzie istnieje kilka kamer, które mogą włączyć ten rodzaj technologii do swojego systemu i myślę, że masz całkiem dobre rozwiązanie.

Każdy startup prowadzi obecnie rozmowy z firmami z branży mediów społecznościowych w celu zbadania możliwości partnerstwa, a Serelay jest również częścią nowego programu akceleracyjnego Facebooka o nazwie LDN_LAB.

Chociaż technologia ta nie jest jeszcze powszechna, Farid zachęca ludzi do domyślnego korzystania z niej podczas dokumentowania scenariuszy o wysokiej stawce, niezależnie od tego, czy są to przemówienia dotyczące kampanii politycznych, naruszenia praw człowieka, czy dowody na miejscu przestępstwa. Truepic widział już, jak obywatele używali jego aplikacji do dokumentowania kryzysów w Syrii. Al Jazeera wykorzystał następnie zweryfikowany materiał filmowy do produkcji kilka filmy . Obie firmy reklamowały również swoją technologię w branży ubezpieczeniowej jako zweryfikowany sposób dokumentowania szkód.

Farid mówi, że ważne jest, aby firmy wykonujące tę pracę były przejrzyste w zakresie swoich procesów i współpracowały z zaufanymi partnerami. Może to pomóc w utrzymaniu zaufania użytkowników i powstrzymaniu złych aktorów.

Mówi, że wciąż mamy wiele do zrobienia, aby być w pełni przygotowanym na rozprzestrzenianie się deepfake'ów. Ale ma nadzieję. Mówi, że technologia typu Truepic i technologia typu Serelay są w dobrym stanie. Myślę, że się szykujemy.

ukryć