Film Logana Paula to przestroga dla platform, które mają nadzieję, że AI uratuje je przed obraźliwymi treściami

Kategoria: Polityka techniczna Opublikowany Sty 03

Gwiazda YouTube Logan Paul (jeśli nie jesteś zaznajomiony, ma 15 milion subskrybentów) przesłał na platformę w weekend film, w którym wydawał się żartować przed ciałem zwisającym z drzewa podczas wizyty w lesie w Japonii, gdzie ludzie popełniali samobójstwa. Nagranie zgromadziło ponad sześć milionów wyświetleń, zanim Paul go usunął.

Dlaczego jest to ważne: Film Paula był nie złapany przez jakiekolwiek oprogramowanie YouTube lub ludzkie filtry , co czyni go doskonałym przykładem treści, które nigdy nie powinny były zostać dopuszczone do szerokiej dystrybucji, ale mimo to wymykają się najnowocześniejszym systemom sztucznej inteligencji. To, co jest nieprzyzwoite, to pokazywanie i brak szacunku w stosunku do ciała ofiary samobójstwa, Tarletona Gillespiego, głównego badacza w Microsoft Research, powiedział Kanał buzzów . Jest to rodzaj kontekstualnej i etycznej subtelności, której zautomatyzowane narzędzia prawdopodobnie nigdy nie będą w stanie przybliżyć.

Iść naprzód: Incydent pokazuje, że pomimo wysiłków Facebooka i YouTube, aby wykorzystać sztuczną inteligencję do zwalczania kontrowersyjnych treści, problem moderacji treści nie zostanie rozwiązany przez zastosowanie odrobiny oprogramowania.