Możesz wyszkolić sztuczną inteligencję do fałszowania przemówień ONZ w zaledwie 13 godzin

Kategoria: Sztuczna inteligencja Opublikowany cze 07

Techniki głębokiego uczenia sprawiły, że każdemu łatwiej i łatwiej jest fałszować przekonujące dezinformacje. Ale jak łatwo? Dwóch badaczy z Global Pulse, inicjatywy ONZ, postanowiło to sprawdzić.

W nowy papier , wykorzystali wyłącznie narzędzia i dane o otwartym kodzie źródłowym, aby pokazać, jak szybko mogli uruchomić fałszywy generator mowy ONZ. Użyli łatwo dostępnego modelu językowego, który został wyszkolony na tekstach z Wikipedii i dopracowali go we wszystkich przemówieniach wygłaszanych przez przywódców politycznych na Zgromadzeniu Ogólnym ONZ w latach 1970-2015. Trzynaście godzin i 7,80 USD później (wydane na zasoby przetwarzania w chmurze) ich model polegał na wypluwaniu realistycznych przemówień na wiele drażliwych i ważnych tematów, od rozbrojenia nuklearnego po uchodźców.

Badacze przetestowali model na trzech rodzajach podpowiedzi: ogólnych tematach (np. zmiany klimatu), otwierających wersety z uwag sekretarza generalnego ONZ oraz podżegających fraz (np. winni są imigranci…). Odkryli, że wyniki z pierwszej kategorii ściśle pasowały do ​​stylu i rytmu prawdziwych przemówień ONZ w około 90% przypadków. Prawdopodobnie ze względu na dyplomatyczny charakter danych szkoleniowych, wyniki z trzeciej kategorii wymagały więcej pracy do wygenerowania, dając przekonujące wyniki w około 60% przypadków.

Studium przypadku pokazuje szybkość i łatwość, z jaką można teraz rozpowszechniać fałszywe wiadomości, generować mowę nienawiści i podszywać się pod znane osoby, co ma niepokojące konsekwencje. Naukowcy doszli do wniosku, że potrzebny jest większy globalny wysiłek, aby pracować nad sposobami wykrywania i reagowania na treści generowane przez sztuczną inteligencję.

Aby więcej takich historii trafiało bezpośrednio do Twojej skrzynki odbiorczej, zapisz się do naszego nominowanego przez Webby biuletynu AI The Algorithm. Jest wolne.