Czy chiński system kredytów społecznych jest tak orwellowski, jak się wydaje?

Kategoria: Sztuczna inteligencja Opublikowany 26 lutego

W zachodniej wyobraźni niesławny chiński system kredytu społecznego to oparty na sztucznej inteligencji reżim nadzoru, który narusza prawa człowieka. Często słyszymy o przykładach jego użycia w celu zapewnienia kontroli politycznej, jak na przykład w zeszłym miesiącu, kiedy mężczyźnie odebrano 950 punktów na 1000 – odebrano mu 10 punktów za każdym razem, gdy zwracał się do rządu o pomoc w sporze medycznym jego matki. Ale rzadko słyszymy o innej narracji, w której jest to mechanizm zarządzania mile widziany przez wielu obywateli, którzy mają dość szalejących oszustw, podrabianych produktów i nieprawidłowości w zakresie zdrowia publicznego.

To nie tak prosta rzeczywistość, którą przedstawia historia z Poranna poczta południowochińska . (Chociaż, żeby być uczciwym, są pytania dotyczące po prostu jak niezależny jest SCMP .) W wiosce Jiakuang Majia w mieście Rongcheng, jednym z kilkunastu miejsc chwalonych za sukces w pilotażowym programie, mieszkańcy twierdzą, że program miał w większości pozytywny wpływ – jeśli w ogóle. W rzeczywistości nie jest zaangażowana sztuczna inteligencja ani inna technologia. Punkty są raczej śledzone za pomocą papieru i pracy fizycznej — a wielu uważa ten system za peryferyjną biurokrację, daleką od siły napędowej w ich codziennym życiu.

Chiński system kredytów społecznych ma na celu zachęcanie do legalności i uczciwości. Obywatele mogą zdobywać punkty za dobre uczynki, takie jak wolontariat, oddawanie krwi lub przyciąganie inwestycji do miasta; mogą je stracić za wykroczenia, takie jak łamanie przepisów ruchu drogowego, unikanie podatków lub zaniedbanie opieki nad starszymi rodzicami. Ich wyniki wpływają następnie na ich dostęp do programów opieki społecznej: osoby o wysokich wynikach otrzymują korzyści, takie jak bezpłatne badania lekarskie i zniżki na rachunki za ogrzewanie; osoby o niskich wynikach tracą dotacje rządowe lub zostają wykluczone z pracy w rządzie.

Ale chociaż ten ostatni szczegół jest często określany na Zachodzie jako naruszające wolność przejęcie władzy przez autorytarny rząd, wielu uczonych twierdzi, że ocena kredytu społecznego nie będzie miała zakładanego efektu kontroli na szeroką skalę. Dane zbierane przez program nie są w rzeczywistości zgodne z danymi, które, powiedzmy, bank musi ustalić, czy udzielić Ci kredytu. Przepisy również zostały poprawiony w przypadkach intensywnego sprzeciwu: hrabstwo Suining pozbyło się odliczania punktów za nieautoryzowane petycje, na przykład z powodu powszechnej niepopularności. Dlatego, jak twierdzą ci uczeni, system działa bardziej jako narzędzie propagandy niż narzędzie egzekwowania. Inni zwrocic uwage że jest to po prostu przedłużenie długiej tradycji chińskiej kultury promowania dobrych zachowań moralnych i że chińscy obywatele mają zupełnie inne spojrzenie na prywatność i wolność.

Ta historia pojawiła się pierwotnie w naszym biuletynie AI The Algorithm. Aby otrzymać go bezpośrednio do skrzynki odbiorczej, zarejestruj się tutaj za darmo.