211service.com
Yahoo ma narzędzie, które może zaskakująco dobrze łapać nadużycia w Internecie
Trolle wydają się czaić w każdym zakątku Internetu i cieszą się, że psują Ci dzień. Ale jeśli nasze skrzynki e-mail mogą być stosunkowo wolne od spamu, dlaczego maszyny nie mogą automatycznie usuwać obraźliwych wiadomości z tweetów lub komentarzy?
To pytanie wydaje się być istotne dla samej tkanki dzisiejszej kultury internetowej. W zeszłym tygodniu Twitter Zakazany dziennikarz, którego oskarżył o zorganizowanie kampanii nadużyć wymierzonych w jedną z gwiazd wszechkobiecych Pogromcy duchów ponowne uruchomienie. Twitter powiedział, że wprowadzi nowe wytyczne i narzędzia do zgłaszania nadużyć za pośrednictwem swojego serwisu. Z pewnością niezliczone inne incydenty na Twitterze i gdzie indziej pozostają niezauważone każdego dnia.
W rzeczywistości naukowcy dokonują pewnych postępów w kierunku technologii, która może pomóc powstrzymać nadużycia. Niedawno powstał zespół Yahoo algorytm zdolny do wychwytywania obraźliwych wiadomości lepiej niż jakikolwiek inny dotychczas zautomatyzowany system. Badacze stworzyli zestaw danych dotyczących nadużyć, zbierając wiadomości w artykułach Yahoo, które zostały oznaczone jako obraźliwe przez własnych redaktorów komentarzy firmy.
Zespół Yahoo użył wielu konwencjonalnych technik, w tym wyszukiwania obraźliwych słów kluczowych, interpunkcji, która często wydawała się towarzyszyć obraźliwym wiadomościom, oraz wskazówek składniowych dotyczących znaczenia zdania.
Ale naukowcy zastosowali również bardziej zaawansowane podejście do automatycznego rozumienia języka, wykorzystując sposób przedstawiania znaczenia słów jako wektorów o wielu wymiarach. Takie podejście, znane jako osadzanie słów, umożliwia przetwarzanie semantyki w wyrafinowany sposób. Na przykład, nawet jeśli komentarz zawiera ciąg słów, które nie zostały zidentyfikowane jako obraźliwe, reprezentacje tego ciągu w przestrzeni wektorowej mogą wystarczyć do zidentyfikowania go jako takiego.
Kiedy wszystko zostało połączone, zespół był w stanie zidentyfikować obraźliwe wiadomości (na podstawie własnego zestawu danych) z około 90-procentową dokładnością.
Złapanie pozostałych 10 procent może okazać się trudne. Chociaż naukowcy zajmujący się sztuczną inteligencją czynią znaczne postępy w trenowaniu maszyn do analizowania języka, sztuczna inteligencja nie wyposażyła jeszcze komputerów w moc mózgu potrzebną do rozplątywania znaczenia. Jak pokazuje konkurs, który odbył się na niedawnej konferencji AI, komputery nie potrafią rozwikłać najprostszych niejasności w zdaniach.
Wiele firm technologicznych, w tym Twitter, zatrudnia naukowców zajmujących się sztuczną inteligencją, zajmujących się rozwijaniem stanu wiedzy w takich obszarach, jak rozpoznawanie obrazów i rozumienie tekstu. Wydaje się jednak, że do tej pory zaskakująco mało wysiłku włożono w systematyczne wykrywanie nadużyć lub nękania. Twitter odmówił podania, czy jego zespół AI aktywnie pracuje nad problemem (chociaż wydaje się to prawdopodobne). Ale jest mało prawdopodobne, że firma wprowadzi magiczną kulę do filtrowania złośliwych wiadomości. Problem z automatycznym filtrowaniem nienawiści polega na tym, że słowa są pełne znaczeń, które można rozpakować tylko dzięki prawdziwej inteligencji.
Automatyczna identyfikacja nadużyć jest zaskakująco trudna, mówi Alex Krasodomski-Jones, który jako badacz z siedzibą w Wielkiej Brytanii śledzi nadużycia w Internecie Centrum Analizy Mediów Społecznościowych . Język nadużyć jest amorficzny — zmienia się często i często jest używany w sposób, który nie kojarzy się z nadużyciem, na przykład gdy terminy na tle rasowym lub seksualnym są przywłaszczane przez grupy, które kiedyś oczerniały. Biorąc pod uwagę 10 tweetów, grupa ludzi rzadko zgadza się, które z nich należy uznać za obraźliwe, więc możesz sobie wyobrazić, jak trudne byłoby to dla komputera.
Dopóki maszyny nie zdobędą prawdziwej inteligencji, odfiltrowanie nienawistnych wiadomości będzie niemożliwe. Ale Krasodomski-Jones podaje inny, bardziej ludzki powód, dla którego możemy nie chcieć zautomatyzowanego rozwiązania: w świecie, w którym to, co czytamy, jest w coraz większym stopniu dyktowane przez algorytmy i filtry, powinniśmy uważać, aby domagać się większej ingerencji komputerowej.