Pracownicy Deepfake Amazon sieją zamieszanie na Twitterze. To nie jest problem.

W magazynie Amazona w Bessemer w stanie Alabama wyświetlany jest transparent zachęcający pracowników do głosowania w wyborach pracowniczych. AP

Wiadomości: Przed przełomowym głosowaniem, które może doprowadzić do powstania pierwszego w historii związku zawodowego w amerykańskim magazynie Amazona, zaczęły pojawiać się nowe konta na Twitterze, które rzekomo są pracownikami Amazona. Profile wykorzystywały zdjęcia deepfake jako zdjęcia profilowe i tweetowały kilka całkiem śmiesznych, przesadnych sposobów obrony praktyk roboczych Amazona. Nie wydawały się prawdziwe, ale nadal prowadziły do ​​zamieszania wśród opinii publicznej. Czy naprawdę za nimi stoi Amazon? Czy to była jakaś straszna nowa antyzwiązkowa strategia w mediach społecznościowych? Odpowiedź prawie na pewno nie, ale użycie deepfake w tym kontekście wskazuje na bardziej niepokojący trend.

Historia: Jest powód, dla którego te nowe profile deepfake wydawały się znajome. W 2018 r. rozpoczął Amazon bardzo prawdziwy program przekonać opinię publiczną, że dobrze traktuje swoich pracowników magazynu. Założyła stacje komputerowe w tych magazynach i stworzyła konta na Twitterze dla niewielkiej grupy pracowników, znanych jako Ambasadorzy Amazon FC, którzy mogli tweetować w płatnych godzinach o tym, jak bardzo kochają swoją pracę. Plan się nie powiódł i doprowadził do powstania licznych parodiowanie kont ambasadorów na Twitterze. Amazon ograniczył program wkrótce po tym, a wiele oryginalnych kont rzeczywistych zostało zawieszonych lub zamkniętych, mówi Aric Toler, szef szkoleń i badań w witrynie dziennikarstwa śledczego Bellingcat.

Najnowszy: W poniedziałek pojawiła się nowa partia kont ambasadorów – a przynajmniej tak się wydawało. Ale kiedy ludzie zaczęli badać, wielu spiczasty na zewnątrz że niektórzy mieli zdjęcia profilowe z charakterystycznymi oznakami fałszywych twarzy, takich jak wypaczone kolczyki i rozmazane tło. Właśnie wtedy sprawy stały się zagmatwane.

Ludzie szybko uczepili się idei, że za nowymi kontami deepfake stoi sam Amazon w ramach antyzwiązkowej kampanii w mediach społecznościowych. Firma później powiedziała Reporterka New York Times Karen Wise że tak nie było. Toler, który śledził oryginalne relacje, uważa, że ​​Amazon mówi prawdę. Wszystkie oryginalne konta ambasadorów zostały zarejestrowane pod adresami e-mail Amazon i opublikowane za pomocą Sprinklr. Nowe konta deepfake, które zostały zawieszone, zostały: zarejestrowany przy użyciu Gmaila i publikowane za pośrednictwem aplikacji internetowej Twitter. Co więcej, treść tweetów wyraźnie miała być humorystyczna. Te konta były prawdopodobnie po prostu kolejnymi parodiami stworzonymi w celu ośmieszenia Amazona.

Czy to ma znaczenie? W tym konkretnym przypadku prawdopodobnie nie. To oczywiście całkiem nieszkodliwe, mówi Toler. To Amazon. Oni są w porządku. Ujawnia jednak bardziej niepokojący problem: konta deepfake mogą być wdrażane w skoordynowany sposób w mediach społecznościowych lub gdzie indziej w znacznie bardziej złowrogich celach. Najbardziej złośliwą wersją byliby aktorzy państwowi, ostrzega Toler.

Powiązana historia

Dwuletnia walka o powstrzymanie Amazona przed sprzedażą rozpoznawania twarzy policji Działania Amazon, Microsoftu i IBM w tym tygodniu stanowią kamień milowy dla naukowców i obrońców praw obywatelskich w długiej i toczącej się walce o rozpoznawanie twarzy w organach ścigania.

W rzeczywistości było już kilka głośnych przypadków, w których fałszywe zdjęcia zostały wykorzystane w szkodliwych kampaniach dezinformacyjnych. W grudniu 2019 r. Facebook zidentyfikował i usunął sieć ponad 900 stron, grup i kont , w tym niektóre z głęboko sfałszowanymi zdjęciami profilowymi, powiązanymi ze skrajnie prawicowym ujściem Epoch Times, o którym wiadomo, że stosuje taktykę dezinformacyjną. W październiku 2020 r. fałszywy dokument wywiadowczy rozpowszechniany w kręgach prezydenta Trumpa, który stał się podstawą wielu teorii spiskowych dotyczących Huntera Bidena, był również autorstwa fałszywego analityka ds. bezpieczeństwa. z głęboko sfałszowanym obrazem profilowym .

Toler mówi, że fałszywe twarze stały się trendem w jego pracy jako śledczego typu open source do podejrzanej aktywności online, zwłaszcza od czasu uruchomienia ThisPersonDoesNotExist.com, strony internetowej, która przy każdym odświeżeniu wyświetla nową twarz generowaną przez sztuczną inteligencję. Zawsze jest mentalna lista kontrolna, przez którą przechodzisz za każdym razem, gdy coś znajdziesz, mówi. Pierwsze pytanie brzmi: „Czy ta osoba jest prawdziwa, czy nie?”. To było pytanie, którego tak naprawdę nie mieliśmy pięć lat temu.

Jak duże jest to zagrożenie? W tej chwili, mówi Toler, użycie głębokich fałszywych twarzy nie miało dużego wpływu na jego pracę. Nadal stosunkowo łatwo jest mu zidentyfikować, kiedy zdjęcie profilowe jest deepfake, tak jak ma to miejsce, gdy zdjęcie jest zdjęciem stockowym. Najtrudniejszym scenariuszem jest sytuacja, gdy obraz przedstawia prawdziwą osobę pobraną z prywatnego konta w mediach społecznościowych, które nie jest indeksowane w wyszukiwarkach graficznych.

Rosnąca świadomość deepfake'ów skłoniła również ludzi do dokładniejszego przyjrzenia się widzom mediów, mówi Toler, o czym świadczy to, jak szybko ludzie przyłapali się na fałszowaniu kont Amazon.

Ale Sam Gregory, dyrektor programowy organizacji non-profit Witness zajmującej się prawami człowieka, mówi, że to nie powinno nas usypiać fałszywym poczuciem bezpieczeństwa. Deepfake są coraz lepsze, mówi: Myślę, że ludzie mają zbyt dużą pewność, że zawsze będzie można je wykryć.

Nadmierna świadomość deepfake’ów może również prowadzić ludzi do: przestań wierzyć w prawdziwe media , co może mieć równie tragiczne konsekwencje, jak podważanie dokumentacji naruszeń praw człowieka.

Co powinniśmy zrobić? Gregory zachęca użytkowników mediów społecznościowych, aby unikali skupiania się na tym, czy obraz jest deepfake, czy nie. Często to tylko niewielka część układanki, mówi. Gratisem nie jest to, że w jakiś sposób przesłuchałeś obraz. Chodzi o to, że patrzysz na konto i zostało utworzone tydzień temu, albo jest to dziennikarz, który twierdzi, że jest dziennikarzem, ale nigdy nie napisał niczego innego, co można znaleźć w wyszukiwarce Google.

Te taktyki śledcze są znacznie bardziej odporne na postęp w technologii deepfake. Porada brzmi również w przypadku Amazona. Toler sprawdził e-maile na kontach i szczegóły tweetów, dzięki czemu ostatecznie ustalił, że są fałszywe, a nie poprzez analizę zdjęć profilowych.

ukryć