Sztuczna inteligencja, która pisze przekonującą prozę, ryzykuje masową produkcję fałszywych wiadomości

Pani Tech

Oto kilka przełomowych fałszywych wiadomości…

Rosja wypowiedziała wojnę Stanom Zjednoczonym po tym, jak Donald Trump przypadkowo wystrzelił w powietrze rakietę.

Rosja poinformowała, że ​​określiła trajektorię pocisku i podejmie niezbędne środki w celu zapewnienia bezpieczeństwa ludności rosyjskiej oraz strategicznych sił nuklearnych kraju. Biały Dom powiedział, że jest bardzo zaniepokojony naruszeniem przez Rosję traktatu zakazującego rakiet balistycznych średniego zasięgu.

Stany Zjednoczone i Rosja mają niełatwe stosunki od 2014 roku, kiedy Moskwa zaanektowała ukraiński region Krymu i poparła separatystów we wschodniej Ukrainie.

Ta historia jest w rzeczywistości nie tylko fałszywa, ale także niepokojącym przykładem tego, jak dobra sztuczna inteligencja nas oszukuje.

To dlatego, że nie został napisany przez osobę; został automatycznie wygenerowany przez algorytm karmiony słowami, które Rosja wypowiedziała Stanom Zjednoczonym wojnę po przypadkowym Donaldzie Trumpie…

Program sam zbudował resztę historii. I może tworzyć realistyczne, wyglądające na wiadomości wiadomości na dowolny temat, który mu podasz. Program został opracowany przez zespół OpenAI, instytutu badawczego z siedzibą w San Francisco.

Naukowcy postanowili opracować uniwersalny algorytm językowy, wyszkolony na ogromnej ilości tekstu z Internetu, który byłby w stanie tłumaczyć tekst, odpowiadać na pytania i wykonywać inne przydatne zadania. Ale wkrótce zaczęli się martwić możliwością nadużyć. Zaczęliśmy go testować i szybko odkryliśmy, że można dość łatwo generować złośliwe treści, mówi Jack Clark, dyrektor ds. polityki w OpenAI.

Clark twierdzi, że program wskazuje, w jaki sposób sztuczna inteligencja może zostać wykorzystana do zautomatyzowania generowania przekonujących fałszywych wiadomości, postów w mediach społecznościowych lub innych treści tekstowych. Takie narzędzie może wyrzucać doniesienia prasowe lub skandaliczne doniesienia podczas wyborów. Fałszywe wiadomości już stanowią problem, ale gdyby były zautomatyzowane, może być trudniej je wyłączyć. Być może można by go zoptymalizować pod kątem określonych grup demograficznych, a nawet osób.

Clark mówi, że może nie minąć dużo czasu, zanim sztuczna inteligencja będzie mogła niezawodnie tworzyć fałszywe historie, fałszywe tweety lub obłudne komentarze, które będą jeszcze bardziej przekonujące. Jest bardzo jasne, że jeśli ta technologia dojrzeje – a dałbym jej rok lub dwa lata – może zostać wykorzystana do dezinformacji lub propagandy – mówi. Staramy się to wyprzedzić.

Taka technologia mogłaby mieć pożyteczne zastosowania, w tym streszczenia tekstu lub poprawę umiejętności konwersacyjnych chatbotów. Clark mówi, że z zaskakującym sukcesem użył tego narzędzia do generowania fragmentów krótkich opowiadań science fiction.

OpenAI prowadzi podstawowe badania nad sztuczną inteligencją, ale odgrywa również aktywną rolę w podkreślaniu potencjalnych zagrożeń związanych ze sztuczną inteligencją. Organizacja była zaangażowana w opracowanie raportu z 2018 r. na temat zagrożeń związanych ze sztuczną inteligencją, w tym możliwości dezinformacji (patrz Są to scenariusze „czarnego lustra”, które skłaniają niektórych ekspertów do wezwania do zachowania tajemnicy w sprawie sztucznej inteligencji).

Algorytm OpenAI nie zawsze przekonuje wymagającego czytelnika. W większości przypadków, po otrzymaniu monitu, generuje pozornie spójny bełkot lub tekst, który najwyraźniej został ściągnięty z internetowych źródeł wiadomości.

Jednak często jest wyjątkowo dobry w tworzeniu realistycznego tekstu i odzwierciedla ostatnie postępy w stosowaniu uczenia maszynowego w języku.

OpenAI udostępnił narzędzie do generowania tekstu dla MIT Technology Review do przetestowania, ale ze względu na obawy dotyczące niewłaściwego wykorzystania technologii, publicznie udostępni tylko uproszczoną wersję. Instytut publikuje artykuł naukowy przedstawiający zarys prac.

Postęp w sztucznej inteligencji stopniowo pomaga maszynom lepiej rozumieć język. Ostatnie prace poczyniły postępy, dostarczając algorytmom uczenia maszynowego ogólnego przeznaczenia bardzo duże ilości tekstu. Program OpenAI przenosi to na nowy poziom: system został zasilony 45 milionami stron z sieci, wybranych za pośrednictwem serwisu Reddit. I w przeciwieństwie do większości algorytmów językowych, program OpenAI nie wymaga oznakowanego lub pieczołowitego tekstu. Po prostu uczy się rozpoznawać wzorce w podawanych danych.

Ryszard Socher , ekspert ds. przetwarzania języka naturalnego i główny naukowiec w Salesforce, twierdzi, że praca z OpenAI jest dobrym przykładem bardziej ogólnego systemu nauki języków. Myślę, że te ogólne systemy uczenia się to przyszłość, napisał w e-mailu.

Z drugiej strony Socher jest mniej zaniepokojony możliwością oszustwa i dezinformacji. Nie potrzebujesz sztucznej inteligencji do tworzenia fałszywych wiadomości, mówi. Ludzie mogą to łatwo zrobić :)

ukryć