Algorytm „wykrywania flasherów” ma na celu uporządkowanie czatu wideo

Jednym z bardziej niezwykłych trendów w korzystaniu z Internetu jest szybki rozwój usług czatu wideo, takich jak Chatroulette. Usługi te losowo łączą kamery internetowe osób odwiedzających witrynę.

Ale Chatroulette ma problem. Witryna jest zdominowana przez flasherów, którzy obnażają swoje genitalia.

Około 6,3 miliona odwiedzających korzystało z Chatroulette w lipcu 2010 roku, być może ze względu na seksualny charakter jej treści.

Ale to stanowi poważne zagrożenie dla nieletnich. Nie ma łatwego sposobu na kontrolowanie wieku osób, które odwiedzają strony internetowe, a nieletni mogą łatwo uzyskać do nich dostęp. Według Xinyu Xinga z University of Colorado w Boulder i kilku kumpli, znaczna liczba użytkowników Chatroulette wydaje się być nieletnimi.

Nasze obserwacje podczas typowej sobotniej nocy wskazują, że aż 20-30% użytkowników Chatroulette to osoby nieletnie, mówią w artykule opublikowanym dzisiaj na arXiv.

Xing i spółka mają jednak rozwiązanie. Zespół ten opracował algorytm wykrywania flasherów, który wykrywa przestępców, umożliwiając ich wyrzucenie.

Okazuje się, że łapanie migaczy jest trudniejsze niż mogłoby się początkowo wydawać. Jednym ze sposobów jest zastosowanie mechanizmu crowdsourcingu, w którym użytkownicy zgłaszają przestępców, których przekaz wideo może następnie zostać oceniony przez przeszkolone osoby i w razie potrzeby zatrzymany.

Ale to czasochłonne i kosztowne zadanie, które jest podatne na nadużycia. A mając ponad 20 000 użytkowników w dowolnym momencie, jest mało prawdopodobne, aby na dłuższą metę zadziałało dla Chatroulette.

Innym podejściem jest wykorzystanie istniejących algorytmów zaprojektowanych do wykrywania treści pornograficznych. Dokładne działanie tych algorytmów nie jest do końca jasne, ale wydaje się, że szukają one zawartości skóry na obrazach.

Niestety, tego typu oprogramowanie nie działa dobrze z treściami czatu wideo, powiedzmy Xing i spółka. Dzieje się tak dlatego, że obrazy wideo są często słabo oświetlone, co utrudnia na przykład odróżnienie skóry od żółto-białych ścian w tle.

Dlatego Xing i spółka opracowali własny algorytm o nazwie SafevChat, który przetestowali na około 20 000 fotosów pobranych z filmów Chatroulette i dostarczonych przez założyciela serwisu Andreya Ternovskiego. Ich artykuł daje szczegółowy wgląd w to, jak to działa.

Nowe podejście jest interesujące, ponieważ analizuje obrazy przy użyciu kilku różnych kryteriów, a następnie łączy wyniki przed podjęciem decyzji, czy obraz jest akceptowalny, czy nie.

Aby rozwiązać problem ścian i mebli w kolorze skóry, łączą wykrywanie skóry z wykrywaniem ruchu, które porównuje kolejne klatki, aby zobaczyć, czy skóra się porusza. Używają detektorów twarzy, oczu i nosa, aby odróżnić skórę twarzy od skóry innej. Wyniki są łączone, a następnie obraz jest klasyfikowany jako normalny lub obraźliwy, po przeszkoleniu na początkowym zbiorze danych.

Xing i tak mówią, działa dobrze i znacznie lepiej niż komercyjny program do wykrywania obrazów pornograficznych o nazwie PicBlock. Oni mają film pokazujący, jak to działa na ich stronie internetowej .

W rzeczywistości SafeVChat działa tak dobrze, że Chatroulette zaczął używać go na swojej stronie internetowej na początku tego miesiąca.

Niezależnie od tego, czy dzięki temu Chatroulette będzie bardziej czy mniej popularna, będziemy musieli poczekać i zobaczyć. Ale przy odrobinie szczęścia strona będzie bezpieczniejsza dla wszystkich zainteresowanych.

Nr ref.: arxiv.org/abs/1101.3124 : SafeVchat: wykrywanie nieprzyzwoitych treści i niewłaściwie zachowujących się użytkowników w usługach czatu wideo online

ukryć