Algorytmy spostrzegawcze walczą, aby dostrzec więcej toksycznych treści w sieci

Kategoria: Bez kategorii Opublikowany 20 grudnia

Nowy konkurs może pomóc w uporządkowaniu Internetu. Kaggle, witryna, która umożliwia organizacjom prowadzenie konkursów w zakresie analizy danych, właśnie ujawniła swój najnowszy projekt, w którym prosi się konkurentów o zbudowanie sztucznej inteligencji, która wykrywa toksyczne komentarze .

Konkurenci są proszeni o zbudowanie systemu, który może poradzić sobie z różnymi rodzajami toksyczności, takimi jak groźby, nieprzyzwoitość, obelgi i nienawiść oparta na tożsamości. Konkurs wspiera Jigsaw, część Alphabet, która prowadzi inicjatywę badawczą o nazwie Conversation AI w celu ulepszenia dyskursu internetowego. Aby wygrać 35 000 $ nagrody na Kaggle, zgłoszenie będzie musiało pokonać wyniki systemu zbudowanego przez Jigsaw, zwanego Perspective API. Od momentu jej uruchomienia we wtorek do rywalizacji dołączyło 199 drużyn.

W Internecie z pewnością przydałoby się więcej i lepszych narzędzi do usuwania zagrożeń i mowy nienawiści. Facebook, YouTube i Twitter zmagały się w przeszłości z kontrolowaniem takich treści, a większość dużych firm technologicznych twierdzi, że sztuczna inteligencja może im pomóc w ich uporządkowaniu w przyszłości. Ale żadnemu z nich jeszcze się to nie udało, a rządy są niezadowolone z niepowodzeń w szybkim usunięciu mowy nienawiści.

Próbują jednak duże firmy technologiczne. Facebook uruchomił w 2016 roku narzędzie o nazwie Deeptext, które wykrywa nastroje w komentarzach w celu wykorzenienia nieodpowiednich treści. Zabiera około 66 000 komentarzy tydzień, ale wciąż tysiące ludzi monitoruje kanały. Tymczasem na Twitterze ogłoszone w tym tygodniu że będzie blokować konta, które wysyłają groźne tweety i wiadomości.

Być może konkurencja Kaggle pomoże wreszcie rozwiązać problem.