Na przyszłe wybory mogą wpływać inteligentne, uzbrojone chatboty

Magoz

Walka z robotami propagandowymi to wyścig zbrojeń o naszą demokrację. To jeden, który możemy stracić. Boty — proste skrypty komputerowe — zostały pierwotnie zaprojektowane do automatyzacji powtarzalnych zadań, takich jak organizowanie treści lub konserwacja sieci, oszczędzając w ten sposób ludziom godzin nudy. Firmy i media również używają botów do obsługi kont w mediach społecznościowych, do natychmiastowego powiadamiania użytkowników o najnowszych wiadomościach lub promowania nowo opublikowanych materiałów.

Ale mogą być również wykorzystywane do obsługi dużej liczby fałszywych kont, co czyni je idealnymi do manipulacji ludźmi. Nasze badania w ramach Computational Propaganda Project badają niezliczone sposoby, w jakie boty polityczne wykorzystujące big data i automatyzację były wykorzystywane do rozpowszechniania dezinformacji i zniekształcania dyskursu internetowego.

Ta historia była częścią naszego wydania z września 2018 r.

• Zobacz resztę numeru
• Subskrybuj

Boty okazały się być jednym z najlepszych sposobów przekazywania ekstremistycznych poglądów w mediach społecznościowych, ale także wzmacniania takich poglądów z innych, autentycznych kont poprzez polubienie, udostępnianie, retweetowanie, kierowanie i obserwowanie, tak jak zrobiłby to człowiek. W ten sposób grają w algorytmy i nagradzają posty, z którymi weszli w interakcję, zapewniając im większą widoczność.

W porównaniu z tym, co jest w drodze, będzie się to wydawać oswojone.

Siła w liczbach

Po ingerencji Rosji w amerykańskie wybory w 2016 r. nastąpiła fala dyskusji o tym, jak chronić politykę przed propagandą. Twitter usunął podejrzane konta, w tym boty, w dziesiątkach milionów w tym roku, podczas gdy organy regulacyjne zaproponowały zakaz botów i środki przejrzystości oraz wezwały do ​​lepszej współpracy z platformami internetowymi.

Może się więc wydawać, że zyskujemy przewagę. I to częściowo prawda — taktyki botów straciły na nowości i nigdy nie miały finezji. Kiedyś ich siła tkwiła w liczbach. Propagandyści zmobilizowaliby ich armie, by zalać internet postami i odpowiedziami, próbując przytłoczyć autentyczny demokratyczny dyskurs. Ponieważ stworzyliśmy techniczne środki zaradcze, które są lepsze w wykrywaniu zachowań podobnych do botów, łatwiej jest je wyłączyć. Ludzie również stali się bardziej czujni i skuteczni w ich dostrzeganiu. Przeciętny bot robi niewiele, aby ukryć swój robotyczny charakter, a szybkie spojrzenie na jego wzorce tweetów, a nawet jego zdjęcie profilowe, może go zdradzić.

Jednak następna generacja botów szybko ewoluuje. W dużej mierze dzięki postępom w przetwarzaniu języka naturalnego — tej samej technologii, która umożliwia korzystanie z interfejsów obsługiwanych głosem, takich jak Alexa firmy Amazon, Asystent Google i Cortana firmy Microsoft — te boty będą zachowywać się znacznie bardziej jak prawdziwi ludzie.

Trzeba przyznać, że te interfejsy konwersacyjne są nadal wyboiste, ale stają się coraz lepsze, a korzyści płynące z pomyślnego dekodowania ludzkiego języka są ogromne. Cyfrowi asystenci to tylko jedno z nich — marki obsługują konwersacyjne chatboty do obsługi klienta, a wydawcy, tacy jak CNN, używają ich do dystrybucji spersonalizowanych treści multimedialnych.

Takie chatboty otwarcie deklarują, że są zautomatyzowane, ale boty propagandowe nie. Zaprezentują się jako ludzie biorący udział w rozmowach online w sekcjach komentarzy, czatach grupowych i forach dyskusyjnych.

Wbrew powszechnemu przekonaniu, to się jeszcze nie dzieje. Większość botów reaguje jedynie na słowa kluczowe, które wywołują szablonową odpowiedź, która rzadko pasuje do kontekstu lub składni danej rozmowy. Te odpowiedzi są często łatwe do zauważenia.

Ale jest coraz trudniej. Już teraz niektóre proste, wstępnie zaprogramowane skrypty botów skutecznie wprowadzają użytkowników w błąd. Gdy boty uczą się rozumienia kontekstu i intencji, stają się bardziej biegłe w angażowaniu się w rozmowę bez zdejmowania osłony.

Za kilka lat boty konwersacyjne mogą wyszukiwać podatnych użytkowników i kontaktować się z nimi za pośrednictwem prywatnych kanałów czatu. Będą elokwentnie nawigować rozmowami i analizować dane użytkownika, aby dostarczać spersonalizowaną propagandę. Boty będą kierować ludzi w stronę ekstremistycznych poglądów i kontrować argumenty w sposób konwersacyjny.

Zamiast rozpowszechniać propagandę do wszystkich, boty te skierują swoją działalność na wpływowe osoby lub dysydentów politycznych. Atakują osoby za pomocą skryptowej mowy nienawiści, przytłaczają je spamem lub zamykają ich konta, zgłaszając ich treści jako obraźliwe.

Świetne dla Google, świetne dla botów

Warto przyjrzeć się dokładnie, w jaki sposób techniki sztucznej inteligencji, które napędzają tego rodzaju boty, stają się coraz lepsze, ponieważ metody stosowane przez firmy technologiczne również świetnie nadają się do zwiększania możliwości botów politycznych.

Do pracy przetwarzanie w języku naturalnym wymaga znacznych ilości danych. Firmy technologiczne, takie jak Google i Amazon, uzyskują takie dane, udostępniając publicznie swoje algorytmy przetwarzania języka za pośrednictwem interfejsów programowania aplikacji lub interfejsów API. Strony trzecie — takie jak na przykład bank — które chcą zautomatyzować rozmowy ze swoimi klientami, mogą przesyłać surowe dane, takie jak skrypty dźwiękowe lub tekstowe rozmów telefonicznych, do tych interfejsów API. Algorytmy przetwarzają język i zwracają dane do odczytu maszynowego gotowe do wyzwalania poleceń. W zamian firmy technologiczne, które dostarczają te interfejsy API, uzyskują dostęp do dużej liczby przykładów konwersacyjnych, które mogą wykorzystać do ulepszenia uczenia maszynowego i algorytmów.

Ponadto prawie wszystkie duże firmy technologiczne udostępniają programistom algorytmy typu open source do przetwarzania języka naturalnego. Deweloperzy mogą wykorzystać je do tworzenia nowych, zastrzeżonych aplikacji — na przykład oprogramowania dla robota sterowanego głosem. Gdy programiści rozwijają i udoskonalają oryginalne algorytmy, firmy technologiczne czerpią korzyści z ich opinii.

Problem w tym, że takie usługi są szeroko dostępne dla prawie każdego — w tym osób budujących polityczne boty. Dostarczając zestaw narzędzi do automatyzacji konwersacji, firmy technologiczne nieświadomie uczą propagandy mówić.

Najgorsze dopiero nadejdzie

Boty znające ludzki język pozostają na razie odstającymi. Wyposażenie botów w najnowocześniejsze algorytmy przetwarzania języka nadal wymaga znacznej wiedzy, mocy obliczeniowej i danych treningowych. Ale to nie jest poza zasięgiem. Od 2010 roku partie polityczne i rządy wydały ponad pół miliarda dolarów na manipulacje w mediach społecznościowych, przekształcając je w wysoce profesjonalny i dobrze finansowany sektor.

Jest jeszcze długa droga, zanim bot będzie w stanie oszukać człowieka w rozmowie jeden na jednego. Jednak wraz z ewolucją algorytmów te możliwości się pojawią.

Podobnie jak w przypadku każdej innej innowacji, gdy te techniki sztucznej inteligencji zostaną wyjęte z pudełka, nieuchronnie uwolnią się od ograniczonego zestawu aplikacji, do których działania zostały pierwotnie zaprojektowane.

Lisa-Maria Neudert jest doktorantką w Oxford Internet Institute i badaczką w Computational Propaganda Project.

ukryć