Witamy w niekończącym się cyklu cenzury i błędów TikTok

Pani Tech | Envato

Ziggi Tyler jest częścią TikTok Creator Marketplace, prywatnej platformy, na której marki mogą łączyć się z najlepszymi twórcami aplikacji. A w zeszłym tygodniu zauważył coś niepokojącego w tym, w jaki sposób biografie twórców były automatycznie moderowane.

Kiedy próbował zamieścić pewne frazy w swoim biografii, niektóre z nich – życie Czarnych ma znaczenie, wspieranie czarnych ludzi, wspieranie czarnych głosów i wspieranie sukcesu Czarnych – zostały oznaczone jako nieodpowiednie treści. Ale białe wersje tych samych fraz były dopuszczalne.

Jeśli wejdę na Rynek twórców i wstawię „wspieranie białej supremacji” i kliknę „Akceptuj”, to jest w porządku – powiedział w filmie TikTok , stojąc przed tym, co powiedział, było nagranie wideo, na którym robi to na własnym telefonie. Aby dostać się na giełdę, musiał usunąć to, co napisał.

Powiązana historia

TikTok zmienił kształt twarzy niektórych osób bez pytania

Użytkownicy zauważyli coś, co wyglądało na filtr upiększający, o który nie prosili – i którego nie mogli wyłączyć.

W kolejnym filmie , Tyler pokazał, że wyrażenie „jestem neonazistą i jestem antysemetykiem” zostało zaakceptowane, podczas gdy ja jestem Murzynem został oflagowany. Historia wybuchła, częściowo napędzana przez publiczność, która i tak była sfrustrowana sposobem, w jaki twórcy Blacków są traktowani w TikTok. W komentarzu do Insidera , rzecznik firmy przeprosił za poważny błąd i powiedział, że to, co zobaczył Tyler, było wynikiem automatycznego filtra ustawionego w celu blokowania słów związanych z mową nienawiści. Powiedział, że system został błędnie ustawiony na oznaczanie fraz bez względu na kolejność słów. Firma powiedziała firmie Recode, że ten konkretny błąd pochodzi z włączenia słów Czarny i publiczność, ponieważ wykrywanie mowy nienawiści wykryło kostkę wśród publiczności i oznaczyło to połączenie jako nieodpowiednie.

Staje się publiczne, staje się wirusowe

To nie jedyny taki incydent, który miał miejsce na platformie. Kilka tygodni temu TikTok błędnie zastosowane coś, co wydawało się być obowiązkowym filtrem upiększającym, który stworzył szczuplejszą linię szczęki dla niektórych użytkowników Androida.

Tymczasem w kwietniu jeden z twórców TikTok zauważył, że nowa funkcja automatycznego tworzenia napisów na platformie blokuje frazę Azjatki. Na początku 2021 r. twórcy interseksualni odkryli, że hashtag #intersex nie jest już dostępny w aplikacji.

To wszystko są przykłady wzorca, który powtarza się w TikTok: najpierw twórca zauważa dziwaczny i potencjalnie szkodliwy problem z moderacją lub algorytmem platformy, który często nieproporcjonalnie wpływa na zmarginalizowane grupy. Potem robią film o tym, co się dzieje, i ten film ma dużo wyświetleń. Być może w końcu dziennikarz zainteresuje się tym, co się dzieje, prosi firmę o wyjaśnienie, a problem zostaje rozwiązany. Następnie TikTok wydaje oświadczenie, w którym stwierdza, że ​​problem był wynikiem błędu, i podkreśla pracę, którą wykonują, aby wesprzeć twórców i przyczyny, których to dotyczy.

To niekoniecznie niespodzianka, że ​​te filmy są wiadomościami. Ludzie tworzą swoje filmy, ponieważ pracują. Zdobywanie wyświetleń jest od lat jedną z bardziej skutecznych strategii pchania dużej platformy, aby coś naprawić. Tiktok, Twitter i Facebook ułatwiły użytkownikom zgłaszanie nadużyć i naruszeń zasad przez innych użytkowników. Ale kiedy te firmy wydają się łamać własne zasady, ludzie często uważają, że najlepszą drogą do przodu jest po prostu próba opublikowania tego na samej platformie, w nadziei, że stanie się wirusowa i zwróci uwagę, która prowadzi do jakiegoś rozwiązania. Na przykład dwa filmy Tylera w biografii z Marketplace mają ponad milion wyświetleń.

„Treści są oznaczane, ponieważ są to osoby z marginalizowanej grupy, które opowiadają o swoich doświadczeniach z rasizmem. Mowa nienawiści i mówienie o mowie nienawiści może wyglądać bardzo podobnie do algorytmu.

Casey Fiesler, Uniwersytet Kolorado, Boulder

Prawdopodobnie jestem przypisywany mniej więcej raz w tygodniu, mówi Casey Fiesler, adiunkt na Uniwersytecie Kolorado w Boulder, który studiuje etykę technologii i społeczności internetowe. Jest aktywna w TikTok, ma ponad 50 000 obserwujących, ale chociaż nie wszystko, co widzi, wydaje się uzasadnioną obawą, mówi, że regularna parada problemów z aplikacją jest prawdziwa. TikTok popełnił kilka takich błędów w ciągu ostatnich kilku miesięcy, z których wszystkie w nieproporcjonalny sposób wpłynęły na marginalizowane grupy na platformie.

Przegląd technologii MIT zapytał TikTok o każdy z tych ostatnich przykładów, a odpowiedzi są podobne: po zbadaniu TikTok stwierdza, że ​​problem został stworzony przez pomyłkę, podkreśla, że ​​zablokowana zawartość nie narusza ich zasad, i zawiera linki do wsparcia firmy daje takie grupy.

Pytanie brzmi, czy ten cykl — jakiś błąd techniczny lub polityczny, odpowiedź wirusowa i przeprosiny — można zmienić.

Rozwiązywanie problemów, zanim się pojawią

Fiesler mówi, że istnieją dwa rodzaje szkód związanych z prawdopodobnie algorytmicznym moderowaniem treści, które ludzie obserwują. Jeden to fałszywie negatywy. Ludzie mówią: „dlaczego na tej platformie jest tak dużo mowy nienawiści i dlaczego nie jest ona usuwana?”

Drugi to fałszywy alarm. Mówi, że ich treści są oznaczane, ponieważ są kimś z marginalizowanej grupy, która opowiada o swoich doświadczeniach z rasizmem. Mowa nienawiści i mówienie o mowie nienawiści może wyglądać bardzo podobnie do algorytmu.

Zauważyła, że ​​obie te kategorie szkodzą tym samym ludziom: ci, którzy są nieproporcjonalnie narażeni na nadużycia, zostają w końcu ocenzurowani algorytmicznie za wypowiadanie się na ten temat.

TikTok tajemnicze algorytmy rekomendacji są częścią jego sukcesu — ale jego niejasne i stale zmieniające się granice już teraz działają mrożąco na niektórych użytkowników. Fiesler zauważa, że ​​wielu twórców TikTok autocenzuruje słowa na platformie, aby uniknąć wywoływania recenzji. I chociaż nie jest pewna, ile osiąga ta taktyka, Fielser również sama zaczęła to robić, na wszelki wypadek. Blokady kont, tajemnice algorytmiczne i dziwaczne decyzje dotyczące moderacji są stałym elementem rozmowy w aplikacji.

Powiązana historia

Jak Facebook uzależnił się od rozpowszechniania dezinformacji

Algorytmy sztucznej inteligencji firmy dały jej nienasycony nawyk kłamstw i mowy nienawiści. Teraz człowiek, który je zbudował, nie może rozwiązać problemu.

Co gorsza, wiele z tych błędów, przekonywał Fiesler, byłoby łatwych do przewidzenia, gdyby firmy po prostu bardziej zastanowiły się nad tym, jak różni użytkownicy będą wchodzić w interakcję z ich aplikacją. Trudno byłoby przeoczyć błąd mowy nienawiści, na który natknął się Tyler, gdyby firma przetestowała go na przykład w języku, którego twórcy Blacka używają do opisywania siebie.

Właściwe umiarkowanie jest skomplikowane, mówi Feisler, ale to nie usprawiedliwia ciągłego powtarzania.

Często bardziej współczuję wyzwaniom związanym z tymi rzeczami niż większość ludzi, mówi. Ale nawet ja mówię „naprawdę?” W pewnym momencie pojawiają się wzorce i powinieneś wiedzieć, czego szukać.

Zapytałem Fieslera, czy cokolwiek może spowolnić ten cykl, nawet jeśli w tym momencie nie da się tego całkowicie rozwiązać. Częścią odpowiedzi jest jedna z najdłużej istniejących historii w dziedzinie technologii: zatrudniaj i słuchaj ludzi z różnych środowisk .

Ale, jak mówi, większa przejrzystość również musi być częścią rozwiązania. Fiesler nie może dokładnie powiedzieć, dlaczego wykrywacz mowy nienawiści TikTok tak nie powiódł się w zeszłym tygodniu, ponieważ aplikacja nie opublikowała zbyt wielu informacji o tym, jak to działa — nie takim badaczom jak ona ani użytkownikom, których treści są usuwane lub tłumione przez zautomatyzowane procesy, które, jak pokazuje historia, łatwo mogą się nie udać. Jako dziennikarz, kiedy poprosiłem TikTok (a czasami inne platformy) o bardziej szczegółowe wyjaśnienia, dlaczego wydarzyło się coś, co nazywają błędem i co robią, aby zapobiec jego powtarzaniu się w przyszłości, odpowiedź jest krótka, niezadowalająca lub firma całkowicie odmawia komentarza na temat rekordu.

Jeśli twórcy ciągle otrzymują materiały niewłaściwie oznaczane, muszą istnieć naprawdę łatwe procedury odwoławcze, mówi.

Tymczasem: cykl będzie kontynuowany.

ukryć