Jak Facebook wykorzystuje uczenie maszynowe do walki z propagandą ISIS i Al-Kaidy

Kategoria: Dolina Krzemowa Opublikowany 12 listopada

Facebook twierdzi, że w ciągu ostatnich trzech kwartałów proaktywnie znalazł i usunął 99% treści związanych z terroryzmem w witrynie. Ma pewien wgląd w swoje procesy w post na blogu .

Niektóre statystyki: Po pierwsze, należy zauważyć, że kiedy mówi o terroryzmie, Facebook odnosi się tylko do ISIS i Al-Kaidy. Średnio firmy twierdzą, że teraz usuwają treści terrorystyczne mniej niż dwie minuty po ich opublikowaniu, w porównaniu ze średnią 14 godzin, która zajęła na początku tego roku. Facebook podjął działania w sprawie 9,4 miliona treści w drugim kwartale 2018 r., a liczba ta spadła do 3 milionów w trzecim kwartale 2018 r., dzięki staraniom w poprzednim kwartale.

Systemy detekcji: Facebook uruchomił nowe narzędzie do uczenia maszynowego, które ocenia, czy posty sygnalizują wsparcie dla ISIS lub Al-Kaidy. Daje wynik wskazujący, jak prawdopodobne jest, że narusza ich politykę antyterrorystyczną, a te, które otrzymują wyższe wyniki, są przekazywane do oceny przez swoich ludzkich recenzentów. W przypadkach, które uzyskały najwięcej punktów, posty są usuwane automatycznie. W rzadkich przypadkach pracownicy zauważają możliwość nieuchronnej szkody, Facebook natychmiast informuje organy ścigania.

Zwolnij boty: Najwyraźniej Facebook chce twardo patrzeć na terroryzm. I jak zwykle polega to prawie wyłącznie na algorytmach. Ma to sens z jego punktu widzenia, ponieważ ludzie nigdy nie byliby w stanie przeskanować tak dużej ilości informacji tak szybko (a są one drogie). Ale jest to kolejne przypomnienie roli Facebooka jako sędziego, ławy przysięgłych i kata w zakresie informacji, które pozwala nam zobaczyć.