Jak WeChat cenzuruje prywatne rozmowy, automatycznie w czasie rzeczywistym

Koncepcyjna ilustracja cenzurowania obrazu WeChat Pani Tech

WeChat to okno na przyszłość internetu na wiele różnych sposobów.

Z siedzibą w Chinach i mająca ponad 1,1 miliarda użytkowników na całym świecie, jest to jedna z najbardziej zaawansowanych i popularnych aplikacji na świecie. Niezwykły jest sposób, w jaki dociera do tak wielu zakątków życia Chińczyka: w ten sposób większość kraju rozmawia, płaci, bawi się, przeprowadza i wiele więcej. Gdy Mark Zuckerberg zastanawia się nad przyszłością Facebooka, coraz częściej próbuje WeChat naśladować .

Ta tak zwana super aplikacja to coś więcej niż wiadomości, jedzenie, samochody i płatności. Wszechstronna ambicja WeChat obejmuje jedne z najnowocześniejszych, szybko działających i dalekosiężnych technologii cenzury na świecie.

Nowe badania z CitizenLab Uniwersytetu w Toronto odsłania, w jaki sposób automatyczna cenzura tekstu i obrazów WeChat w czasie rzeczywistym jest wykorzystywana do sprawowania kontroli nad dyskusją polityczną na różne tematy, od problemów międzynarodowych, takich jak wojna handlowa z USA, po krajowe skandale, takie jak zniknięcie dokumentów sądowych w sporze w 2018 r. między dwoma wielomiliardowymi chińskimi firmami wydobywczymi. Cała dyskusja podlega ostatecznie aprobacie rządu chińskiego.

Cenzorzy WeChat stoją przed dwoma rodzajami wyzwań. Wielkie publiczne posty w WeChat Moments, publicznej funkcji podobnej do osi czasu Facebooka, są analizowane i filtrowane przez algorytmy, których uruchomienie może czasami zająć ponad 10 sekund – w lodowatym tempie w mediach społecznościowych. Ale wiadomości jeden na jednego i wiadomości grupowe to zupełnie inny problem, ponieważ często są to intymne i natychmiastowe rozmowy. To wymaga cenzury w czasie rzeczywistym.

Tekst jest stosunkowo łatwy do wyszukiwania i cenzurowania. Filtrowanie obrazów jest trudniejsze, zwłaszcza gdy próbujesz je zbadać i cenzurować niemal natychmiast. Aby wykonać to zadanie, WeChat przechowuje ogromny i stale rosnący indeks skrótów MD5, małych sygnatur danych kryptograficznych, które są unikalne dla każdego pliku. Po przesłaniu ocenzurowanego obrazu zostanie on przechwycony przez indeks skrótu i ​​usunięty. Ani nadawca, ani odbiorca nigdy nie dowiedzą się, że coś zostało ocenzurowane.

Jeśli obraz nie zostanie od razu ocenzurowany, zostanie wysłany do automatycznej analizy. Za pomocą optycznego rozpoznawania znaków obraz jest sprawdzany pod kątem tekstu (wysyłanie zrzutów ekranu artykułów prasowych było kiedyś łatwym sposobem na ominięcie cenzury). Obraz jest następnie sprawdzany pod kątem wizualnego podobieństwa do innych ocenzurowanych obrazów. Tak zwane szkodliwe treści – w tym wszystko, co dotyczy polityki międzynarodowej lub krajowej uznanej za niepożądane przez Chińską Partię Komunistyczną – zostaną wykryte, usunięte z rozmowy, a następnie dodane do oryginalnego indeksu skrótów, który od tego momentu oznacza je natychmiastową cenzurą . To samowzmacniający się system, który rośnie z każdym wysłanym obrazem. Te ostatnie systemy są również używane w Moments WeChat do sprawdzania i budowania dynamicznej czarnej listy firmy.

Chiński gigant technologiczny Tencent, do którego należy WeChat, znajduje się pod dużą presją Pekinu, aby wdrożyć skuteczną technologię cenzury, mówi Adam Segal, dyrektor programu polityki cyfrowej i cyberprzestrzeni w Radzie ds. Stosunków Zagranicznych. Wszystkie chińskie firmy są odpowiedzialne za treści i chociaż polegały na dziesiątkach tysięcy ludzkich cenzorów, opracowują również nowe podejście [uczenia maszynowego] do usuwania treści. W Chinach jest to część większego trendu za Xi Jinpinga, polegającego na zacieśnianiu kontroli nad chińskim Internetem i szerzej społeczeństwem.

WeChat jest tak wszechobecny w Chinach, że perspektywa zawieszenia lub zbanowania może zakłócić życie. Aplikacja łączy w sobie funkcje Facebooka, Ubera, GrubHuba i nie tylko. Możesz umawiać się na wizyty lekarskie, płacić rachunki za media, rozmawiać z profesjonalnymi kontaktami lub angażować usługi rządowe.

To naprawdę stało się mega-aplikacją, mówi Sarah Cook, starszy analityk ds. Azji Wschodniej w prodemokratycznej grupie badawczej Freedom House. Naprawdę trudno jest funkcjonować we współczesnym chińskim społeczeństwie bez korzystania z WeChat, więc efekt mrożący jest prawdziwy.

Pod kierownictwem Pekinu cenzorzy Tencent zręcznie reagują na bieżące wydarzenia. Oprócz śmiercionośnych wydarzeń historycznych, takich jak protesty na placu Tiananmen i rewolucja kulturalna, szybko dodawane są nowe wydarzenia.

Naukowcy odkryli, że warte opublikowania wydarzenia, takie jak aresztowanie dyrektora Huawei pod zarzutem oszustwa i skandal CRISPR-dziecko, w którym chiński naukowiec ogłosił narodziny dziewczynek z edytowanymi genomami, wywołały fale cenzury. Podobnie jak wiele innych spraw, takich jak konflikt z USA i korupcja w kraju lub inne problemy.

Jedno wydarzenie wywołało jeszcze więcej ocenzurowanych obrazów: w grudniu 2018 r. wybuchł skandal, gdy chiński Sąd Najwyższy przyznał, że dokumenty zniknęły w miliardowym sporze między firmami wydobywczymi. Badacze odkryli, że dziesiątki zdjęć związanych z rzekomą kradzieżą dokumentów zostało ocenzurowanych.

W ciągu ostatnich kilku lat miałeś kombinację zaostrzenia restrykcji cenzury i zaostrzenia kontroli, mówi Cook. Oficjalna tolerancja dla rozmów, wypowiedzi i networkingu jest mniejsza, co było wcześniej tolerowane. Widziałeś, w szczególności, że Tencent i WeChat zostały obłożone grzywnami. Więc teraz próbują zastosować nowe metody, aby wyłapać tak zwane „szkodliwe treści”, z których Komunistyczna Partia Chin chce powstrzymać. Właśnie tam pojawia się automatyczna cenzura w czasie rzeczywistym.

ukryć