211service.com
Czy AI może wygrać wojnę z fałszywymi wiadomościami?
Selman projekt
Być może była to pierwsza fałszywa wiadomość w historii Internetu: w 1984 roku ktoś napisał w Usenecie, że Związek Radziecki przystępuje do sieci. To było nieszkodliwe żart z prima aprilis , dalekie od dzisiejszych uzbrojonych kampanii dezinformacyjnych i pozbawionych skrupułów fabrykacji mających na celu szybki zysk. W 2017 r. wprowadzające w błąd i złośliwie fałszywe treści internetowe są tak rozpowszechnione, że my, ludzie, mamy niewielką nadzieję na wydostanie się z tego bagna. Zamiast tego wydaje się coraz bardziej prawdopodobne, że maszyny będą musiały nas uratować.
Jednym z algorytmów, które mają świecić w ciemności, jest: AdVerif.ai , który jest uruchamiany przez startup o tej samej nazwie. Sztucznie inteligentne oprogramowanie jest przeznaczone do wykrywania fałszywych historii, nagości, złośliwego oprogramowania i wielu innych rodzajów problematycznych treści. AdVerif.ai, który uruchomił wersję beta w listopadzie, obecnie współpracuje z platformami treści i sieciami reklamowymi w Stanach Zjednoczonych i Europie, które nie chcą być kojarzone z fałszywymi lub potencjalnie obraźliwymi historiami.
Według Or Levi, założyciela AdVerif.ai, firma dostrzegła możliwość skupienia się na produkcie dla firm, a nie na czymś dla przeciętnego użytkownika. Podczas gdy indywidualni konsumenci mogą nie martwić się prawdziwością każdej klikniętej historii, reklamodawcy i platformy treści mają coś do stracenia, hostując lub reklamując złe treści. A jeśli wprowadzą zmiany w swoich usługach, mogą skutecznie odciąć strumienie przychodów dla osób, które zarabiają na tworzeniu fałszywych wiadomości. Byłby to duży krok w walce z tego typu treściami, mówi Levi.
AdVerif.ai skanuje treść, aby wykryć charakterystyczne oznaki, że coś jest nie tak, na przykład nagłówki niepasujące do treści lub zbyt wiele wielkich liter w nagłówku. Sprawdza również każdą historię za pomocą swojej bazy danych tysięcy prawdziwych i fałszywych historii, która jest aktualizowana co tydzień. Klienci widzą raport dla każdego elementu rozpatrywanego przez system, z wynikami oceniającymi prawdopodobieństwo, że coś jest fałszywymi wiadomościami, zawiera złośliwe oprogramowanie lub zawiera cokolwiek innego, na co poproszono system, np. nagość. Ostatecznie Levi mówi, że planuje dodać możliwość wykrywania manipulowanych obrazów i mieć wtyczkę do przeglądarki.
Testując wersję demonstracyjną AdVerif.ai, sztuczna inteligencja rozpoznała Cebula jako satyra (która ma oszukał wielu ludzi w przeszłości). Historie Breitbarta zostały sklasyfikowane jako niewiarygodne, słuszne, polityczne, stronnicze, podczas gdy Kosmopolityczny został uznany za lewy. Mógł stwierdzić, kiedy konto na Twitterze używało logo, ale linki nie były powiązane z marką, którą przedstawiało. AdVerif.ai nie tylko odkrył, że artykuł w Natural News z nagłówkiem Evidence wskazuje na to, że Bitcoin jest psyoptykiem opracowanym przez NSA, aby wprowadzić jedną światową walutę cyfrową, pochodził z witryny umieszczonej na czarnej liście, ale zidentyfikował go jako fałszywą historię, która pojawiła się na inne witryny z czarnej listy bez żadnych odniesień w legalnych organizacjach prasowych.
Nadal pojawiają się pewne wątpliwe historie. Na stronie o nazwie Action News 3 post zatytułowany Gracz NFL sfotografowany, jak pali amerykańską flagę w szatni! nie został złapany, choć został okazał się wymysłem . Aby pomóc systemowi w nauce na bieżąco, jego czarną listę fałszywych historii można aktualizować ręcznie, w poszczególnych opowieściach.
AdVerif.ai nie jest jedynym startupem, który widzi szansę w dostarczaniu opartego na sztucznej inteligencji serum prawdy dla firm internetowych. Firmy zajmujące się cyberbezpieczeństwem w szczególności szybko dodały do swojego repertuaru operacje wykrywania botów i fałszywych wiadomości, wskazując, jak wiele metod wygląda podobnie do hakowania. Facebook jest ulepszanie swoich algorytmów aby zmniejszyć nacisk na fałszywe wiadomości w swoich kanałach informacyjnych, a Google współpracował z strona sprawdzająca fakty — dotychczas z nierówne wyniki . Fake News Challenge, konkurs prowadzony przez wolontariuszy ze społeczności AI, został uruchomiony pod koniec zeszłego roku w celu zachęcenia do opracowywania narzędzi, które mogą pomóc w zwalczaniu zgłaszania w złej wierze.
Powiązana historia
Powiązana historia Dzięki uczeniu maszynowemu łatwo jest generować realistyczne wideo i podszywać się pod kogoś.Delip Rao, jeden z jej organizatorów i założyciel Joostware, firmy zajmującej się tworzeniem systemów uczenia maszynowego, powiedział, że wykrywanie fałszywych wiadomości ma tak wiele aspektów, że wyzwanie będzie w rzeczywistości realizowane w wielu krokach. Pierwszym krokiem jest wykrycie postawy lub wybranie jednej historii i ustalenie, co inne serwisy informacyjne mają do powiedzenia na ten temat. Umożliwiłoby to osobom sprawdzającym fakty ludzkie poleganie na historiach w celu weryfikacji innych historii i spędzanie mniej czasu na sprawdzaniu poszczególnych elementów.
Fake News Challenge udostępniło zestawy danych do wykorzystania przez zespoły, z 50 zespołami przesyłającymi zgłoszenia. Talos Intelligence, dział ds. bezpieczeństwa cybernetycznego firmy Cisco, wygrał wyzwanie dzięki algorytmowi, który był poprawny w ponad 80 procentach — nie do końca gotowy na czas największej oglądalności, ale wciąż zachęcający wynik. Kolejnym wyzwaniem mogą być obrazy z nałożonym tekstem (pomyśl o memach, ale z fałszywymi wiadomościami), format, który jest często promowany w mediach społecznościowych, ponieważ jego format jest trudniejszy do złamania i zrozumienia przez algorytmy.
Chcemy zasadniczo stworzyć najlepsze narzędzia do sprawdzania faktów, aby mogły działać bardzo szybko, powiedział Rao. Jak kontrolery faktów na sterydach.
Nawet jeśli zostanie opracowany system, który skutecznie odpiera falę fałszywych treści, prawdopodobnie nie będzie to koniec historii. Systemy sztucznej inteligencji są już w stanie tworzyć fałszywy tekst, a także niezwykle przekonujące obrazy i filmy. (patrz Prawdziwe czy fałszywe? AI bardzo utrudnia rozpoznanie ). Być może z tego powodu niedawny Badanie Gartnera przewiduje, że do 2022 r. większość ludzi w gospodarkach rozwiniętych zobaczy więcej fałszywych niż prawdziwych informacji. Ten sam raport wykazał, że jeszcze zanim to nastąpi, sfałszowane treści prześcigną możliwości wykrywania ich przez sztuczną inteligencję, zmieniając sposób, w jaki ufamy informacjom cyfrowym.
To, co reprezentuje AdVerif.ai i inne, nie przypomina zatem ostatniego słowa w wojnie z fałszywą treścią niż pierwsza runda wyścigu zbrojeń, w którym twórcy fałszywych treści otrzymują własną sztuczną inteligencję, która może wymanewrować dobre AI (patrz AI może Cofnij nas o 100 lat, jeśli chodzi o to, jak konsumujemy wiadomości ). Jako społeczeństwo być może będziemy musieli ponownie ocenić, w jaki sposób otrzymujemy nasze informacje.