Tak AI Facebooka szuka złych rzeczy

Kategoria: Sztuczna inteligencja Opublikowany 29 listopada

Kontekst: Zdecydowana większość moderacji Facebooka jest teraz wykonywana automatycznie przez systemy uczenia maszynowego firmy, co zmniejsza ilość wstrząsających treści, które muszą przeglądać moderatorzy. W swoim najnowszym raport o egzekwowaniu standardów społeczności , opublikowanym na początku tego miesiąca, firma twierdziła, że ​​98% filmów i zdjęć terrorystycznych jest usuwanych, zanim ktokolwiek będzie miał szansę je zobaczyć, nie mówiąc już o ich zgłoszeniu.

Więc co tu widzimy? Firma szkoli swoje systemy uczenia maszynowego, aby identyfikować i oznaczać przedmioty w filmach — od przyziemnych, takich jak wazony czy ludzie — po niebezpieczne, takie jak broń czy noże. Sztuczna inteligencja Facebooka wykorzystuje dwa główne podejścia do wyszukiwania niebezpiecznych treści. Jednym z nich jest wykorzystanie sieci neuronowych, które wyszukują cechy i zachowania znanych obiektów i oznaczają je z różnym procentem ufności (jak widać na powyższym filmie).

Szkolenie w toku: Te sieci neuronowe są szkolone w zakresie kombinacji wstępnie oznaczonych filmów wideo od recenzentów, raportów od użytkowników, a wkrótce także filmów nagranych przez londyńską policję metropolitalną. Sieci neuronowe są w stanie wykorzystać te informacje do odgadnięcia, co może przedstawiać cała scena i czy zawiera jakieś zachowanie lub obrazy, które należy oflagować. Więcej szczegółów na temat działania swoich systemów podał na konferencji prasowej w tym tygodniu.

Co wtedy? Jeśli system uzna, że ​​plik wideo zawiera problematyczne obrazy lub zachowanie, może go automatycznie usunąć lub wysłać do osoby sprawdzającej treść. Jeśli złamie zasady, Facebook może następnie utworzyć skrót — unikalny ciąg liczb — w celu oznaczenia go i rozpowszechnienia go w całym systemie, aby inne pasujące treści były automatycznie usuwane, jeśli ktoś spróbuje je ponownie przesłać. Te skróty można udostępniać innym firmom zajmującym się mediami społecznościowymi, aby mogły one również usuwać kopie obraźliwego pliku.

Te filmy [Metropolitan Police] są dla nas niezwykle przydatne. Zdarzenia terrorystyczne są na szczęście rzadkie, ale oznacza to, że ilość danych szkoleniowych jest tak mała, powiedziała w rozmowie telefonicznej kierownik ds. inżynierii Nicola Bortignon.

Jeden słaby punkt: Facebook wciąż stara się zautomatyzować rozumienie znaczenia, niuansów i kontekstu języka. Dlatego firma polega na tym, że ludzie zgłaszają zdecydowaną większość postów dotyczących zastraszania i nękania, które łamią jej zasady: tylko 16% tych postów jest identyfikowanych przez jej automatyczne systemy. Wraz z postępem technologii możemy spodziewać się wzrostu tej liczby. Jednak osiągnięcie przez sztuczną inteligencję prawdziwego zrozumienia języka pozostaje jednym z największych wyzwań w tej dziedzinie.

Większy obraz: W marcu terrorysta zabił 49 osób w dwóch meczetach w Christchurch w Nowej Zelandii. Transmitował tę masakrę na żywo na Facebooku, a filmy z tej masakry krążyły po witrynie przez wiele miesięcy. To była pobudka dla branży. Gdyby to się powtórzyło teraz, istnieje większa szansa, że ​​zostanie złapany i szybciej usunięty.