Walczymy z fałszywymi botami AI, używając większej ilości AI. To pomyłka.

Zdjęcie okładki książki

• Samuel Woolley jest adiunktem w Moody School of Communication na Uniwersytecie Teksas-Austin. To jest zaadaptowany fragment jego nadchodzącej książki Gra w Rzeczywistość .

Za każdym razem, gdy logujesz się na Twitterze i przeglądasz popularny post, prawdopodobnie znajdziesz konta botów, które go polubią lub komentują. Klikając, możesz zobaczyć, że tweetowali wiele razy, często w krótkim czasie. Czasami ich posty sprzedają śmieci lub rozpowszechniają cyfrowe wirusy. Inne relacje, zwłaszcza boty, które publikują zniekształcony witriol w odpowiedzi na określone artykuły prasowe lub oficjalne oświadczenia, są całkowicie polityczne.

Łatwo założyć, że całe to zjawisko jest napędzane przez zaawansowaną informatykę. Rzeczywiście, rozmawiałem z wieloma osobami, które uważają, że algorytmy uczenia maszynowego oparte na uczeniu maszynowym lub sztucznej inteligencji dają botom politycznym możliwość uczenia się na podstawie otoczenia i interakcji z ludźmi w wyrafinowany sposób.

Podczas wydarzeń, w których naukowcy uważają, że polityczne boty i dezinformacja odegrały kluczową rolę — referendum w sprawie Brexitu, konkurs Trump-Clinton w 2016 r., kryzys na Krymie — panowało powszechne przekonanie, że inteligentne narzędzia sztucznej inteligencji pozwoliły komputerom udawać ludzi i pomagać manipulować publiczna rozmowa.

Eksperci i dziennikarze podsycali to: niezwykle prowokacyjne historie o powstaniu uzbrojonej maszyny propagandowej AI i opowieści twierdząc że sztuczna inteligencja podbiła demokrację. Nawet moje własne badania nad tym, w jaki sposób media społecznościowe są wykorzystywane do kształtowania opinii publicznej, hakowania prawdy i milczenia protestów – co jest znane jako propaganda obliczeniowa – były cytowane w artykułach, które sugerują, że nasi robo-władcy już tu są.

W rzeczywistości jednak złożone mechanizmy, takie jak sztuczna inteligencja, odgrywały niewielką rolę w dotychczasowych kampaniach propagandy obliczeniowej. Wszystkie dowody, jakie widziałem w Cambridge Analytica, sugerują, że firma nigdy nie uruchomiła psychograficznych narzędzi marketingowych, które rzekomo posiadała podczas wyborów w USA w 2016 r. – chociaż twierdziła, że ​​może kierować do osób konkretne wiadomości oparte na profilach osobowości pochodzących z kontrowersyjnej bazy danych na Facebooku.

W międzyczasie, gdy byłem w Oxford Internet Institute, zastanawialiśmy się, w jaki sposób i czy boty Twittera były wykorzystywane podczas debaty na temat Brexitu. Odkryliśmy, że chociaż wiele z nich było używanych do rozpowszechniania wiadomości o kampanii Leave, zdecydowana większość kont automatycznych była bardzo prosta. Zostały stworzone, aby zmienić rozmowy online z botami, które zostały zbudowane po prostu w celu zwiększenia polubień i obserwowania, rozpowszechniania linków, trendów w grach lub trollowania przeciwników. Grały w nią małe grupy ludzi, którzy rozumieli magię memów i wirusowości, zasiewania spisków online i obserwowania ich rozwoju. Rozmowy były blokowane przez podstawowy spam i szum generowany przez boty, celowo dołączany do poszczególnych hashtagów w celu zdemobilizowania rozmów online. Linki do artykułów prasowych, które ukazywały polityka w określonym świetle, były przepełnione fałszywymi kontami lub kontami pośredniczącymi tworzonymi w celu publikowania i rozsyłania w kółko tych samych śmieci. Te kampanie były prowadzone dość dosadnie: te boty nie zostały zaprojektowane z myślą o funkcjonalnie konwersacji. Nie wykorzystywali sztucznej inteligencji.

Głupi nie więcej

Istnieją jednak sygnały, że zaczęto stosować propagandę obliczeniową i dezinformację wykorzystującą sztuczną inteligencję. Hakerzy i inne grupy już rozpoczęły testowanie skuteczności groźniejszych botów AI w mediach społecznościowych. Kawałek 2017 z Gizmodo poinformowało, że dwóch naukowców zajmujących się danymi nauczyło sztuczną inteligencję zaprojektowania własnej kampanii phishingowej: W testach sztuczny haker był znacznie lepszy od swoich ludzkich konkurentów, pisał i rozpowszechniał więcej tweetów phishingowych niż ludzie i miał znacznie lepszy współczynnik konwersji.

Problematyczne treści nie są rozpowszechniane wyłącznie przez boty polityczne obsługujące uczenie maszynowe. Problematyczne zastosowania lub projekty technologii nie są również generowane wyłącznie przez firmy zajmujące się mediami społecznościowymi. Naukowcy wskazali, że uczenie maszynowe może zostać skażone przez ataki trucizny — złośliwych aktorów wpływających na dane treningowe w celu zmiany wyników danego algorytmu — jeszcze zanim maszyna zostanie upubliczniona.

Kalev Leetaru, starszy pracownik George Washington University, sugeruje, że pierwsze ataki prowadzone przez boty AI mogą nie być wymierzone w media społecznościowe, ale będą dotyczyć tak zwanego rozproszonego ataku typu „odmowa usługi”, który polega na zamykaniu docelowych serwerów internetowych zalewając je ruchem ulicznym.

Wyobraź sobie przez chwilę, że przekazałeś ten botnet pod kontrolę systemu głębokiego uczenia się i dałeś temu algorytmowi AI pełną kontrolę nad każdym pokrętłem i pokrętłem tego botnetu, Leetaru pisze .

Wysiłki te nie mają na celu pomagania organizacjom prasowym w sprawdzaniu stosów treści. Raczej pomagają wielomiliardowej firmie w utrzymaniu czystości we własnym domu.

Przekazujesz mu również na żywo informacje o globalnym stanie Internetu od głównych dostawców cyberbezpieczeństwa i monitoringu na całym świecie, dzięki czemu może obserwować, jak ofiara i reszta internetu w ogóle reaguje na atak. Być może wszystko to nastąpi po tym, jak algorytm spędził kilka tygodni na monitorowaniu celu z najdrobniejszymi szczegółami, aby zrozumieć całość i niuanse jego wzorców ruchu i zachowań oraz przebić się przez zewnętrzne warstwy obrony.

Poza obroną

W kwietniu 2018 r. Mark Zuckerberg pojawił się przed Kongresem: był pod politycznym mikroskopem za niewłaściwe obchodzenie się z informacjami użytkowników podczas wyborów w 2016 r. W swoim dwuczęściowym zeznaniu ponad 30 razy wspomniał o sztucznej inteligencji, sugerując, że sztuczna inteligencja będzie rozwiązaniem problemu cyfrowej dezinformacji poprzez dostarczenie programów, które będą zwalczać natłok propagandy obliczeniowej. Przewidywał, że w następnej dekadzie sztuczna inteligencja będzie zbawicielem ogromnych problemów skali, z którymi boryka się Facebook i inne firmy, mając do czynienia z globalnym rozprzestrzenianiem się śmieciowych treści i manipulacji.

Czy jest więc sposób, w jaki moglibyśmy wykorzystać sztuczną inteligencję lub technologię automatycznych botów do zwalczania manipulacji opinią publiczną w Internecie? Czy możemy wykorzystać sztuczną inteligencję do walki z AI?

Obserwatorium mediów społecznościowych na Uniwersytecie Indiana zbudował narzędzia publiczne które wykorzystują uczenie maszynowe do wykrywania botów, analizując 1200 funkcji, aby określić, czy jest bardziej prawdopodobne, że jest to człowiek, czy bot.

I menedżer produktu Facebook Tessa Lyons powiedział w ogłoszeniu z 2018 r. że uczenie maszynowe pomaga nam identyfikować duplikaty obalonych historii. Na przykład weryfikator faktów we Francji obalił twierdzenie, że można uratować osobę po udarze, używając igły do ​​nakłuwania jej palca i pobierania krwi. To pozwoliło nam zidentyfikować ponad 20 domen i ponad 1400 linków rozpowszechniających to samo twierdzenie.

W takich przypadkach firmy zajmujące się mediami społecznościowymi mogą wykorzystać uczenie maszynowe do przechwytywania, a nawet weryfikowania faktów z całego świata i wykorzystywania tych opartych na dowodach poprawek do oznaczania fałszywych treści.

W środowisku akademickim toczy się jednak wielka debata na temat tego, czy bierne identyfikowanie potencjalnie fałszywych informacji dla użytkowników mediów społecznościowych jest rzeczywiście skuteczne. Niektórzy badacze sugerują, że próby sprawdzania faktów zarówno online, jak i offline nie działają zbyt skutecznie w ich obecnej formie. Na początku 2019 r. portal sprawdzający fakty Snopes, który współpracował z Facebookiem w takich działaniach naprawczych, zerwał związek . W ciągu wywiad z Poynter Institute, wiceprezes ds. operacyjnych Snopesa, Vinny Green, powiedział: „Wygląda na to, że nie dążymy do tego, aby sprawdzanie faktów przez osoby trzecie było bardziej praktyczne dla wydawców — wygląda na to, że staramy się ułatwić Facebookowi.

Organizacje takie jak Facebook nadal polegają na małych, zwykle organizacjach non-profit, w celu sprawdzania treści. Potencjalnie fałszywe artykuły lub filmy są często przekazywane tym grupom bez podstawowych informacji o tym, w jaki sposób i dlaczego zostały zgłoszone w pierwszej kolejności.

Wysiłki te nie mają na celu pomagania organizacjom prasowym w sprawdzaniu mnóstwa treści lub potencjalnych klientów, które otrzymują każdego dnia, aby pomóc niedofinansowanym reporterom w lepszej pracy. Raczej pomagają wielomiliardowej firmie w utrzymaniu czystości własnego domu w sposób post hoc. Nadszedł czas, aby Facebook wziął odpowiedzialność wewnętrznie za weryfikację faktów, zamiast przekazywać zadanie weryfikacji lub obalania wiadomości innym grupom. Facebook i inne firmy zajmujące się mediami społecznościowymi również muszą przestać polegać na sprawdzaniu faktów po fakcie — to znaczy dopiero po tym, jak fałszywy artykuł stał się wirusowy. Firmy te muszą stworzyć jakiś system wczesnego ostrzegania dla propagandy obliczeniowej.

Facebook, Google i im podobne zatrudniają ludzi do wyszukiwania i usuwania treści zawierających przemoc lub informacje pochodzące od grup terrorystycznych. Są jednak znacznie mniej gorliwi w swoich wysiłkach, by pozbyć się dezinformacji. Mnóstwo różnych kontekstów, w których fałszywe informacje przepływają online — od wyborów w Indiach po ważne wydarzenie sportowe w RPA — utrudnia sztucznej inteligencji działanie w oparciu o własną, nieobecną ludzką wiedzę. Ale w nadchodzących miesiącach i latach hordy ludzi na całym świecie będą musiały skutecznie sprawdzać ogromne ilości treści w niezliczonych okolicznościach, które się pojawią.

Po prostu nie ma łatwego rozwiązania problemu propagandy obliczeniowej w mediach społecznościowych. Jednak obowiązkiem firm jest znalezienie sposobu, aby to naprawić. Jak dotąd Facebook wydaje się bardziej skoncentrowany na public relations niż na regulowaniu przepływu propagandy obliczeniowej czy treści graficznych. Według The Verge , firma poświęca więcej czasu na celebrowanie swoich wysiłków w celu pozbycia się poszczególnych fragmentów jadu lub przemocy niż na systematyczne przerabianie procesów moderacji.

Poza sprawdzaniem faktów

Będzie to jakaś kombinacja ludzkiej pracy i sztucznej inteligencji, która ostatecznie odniesie sukces w zwalczaniu propagandy obliczeniowej, ale jak to się stanie, po prostu nie jest jasne. Weryfikacja faktów wspomagana sztuczną inteligencją to tylko jeden krok naprzód. Uczenie maszynowe i głębokie uczenie, we współpracy z pracownikami ludzkimi, może zwalczać propagandę obliczeniową, dezinformację i nękanie polityczne na kilka innych sposobów.

Jigsaw, inkubator technologii oparty na Google, w którym pracowałem przez rok jako pracownik naukowy, zaprojektował i zbudował narzędzie oparte na sztucznej inteligencji o nazwie Perspektywa do zwalczania trollingu internetowego i mowy nienawiści. To narzędzie (nad którym sam nie pracowałem) to API, które pozwala programistom na automatyczne wykrywanie toksycznego języka.

Jest kontrowersyjna, ponieważ nie tylko niesie ze sobą ryzyko fałszywych trafień — oznaczania postów, które w rzeczywistości nie zawierają trollingu ani nadużyć — ale także moderuje mowę. Według Przewodowy , narzędzie zostało przeszkolone przy użyciu uczenia maszynowego, ale każde takie narzędzie jest również trenowane przy użyciu danych wejściowych od ludzi, którzy mają własne uprzedzenia. Czy zatem narzędzie stworzone do wykrywania rasistowskiego lub nienawistnego języka może zawieść z powodu wadliwego szkolenia?

W 2016 roku Facebook uruchomił Deeptext, narzędzie AI podobne do Google Perspective. Firma mówi pomogło usunąć ponad 60 000 nienawistnych postów tygodniowo. Facebook przyznał jednak, że narzędzie nadal korzystało z dużej puli ludzkich moderatorów, aby faktycznie pozbyć się szkodliwych treści. Tymczasem Twitter pod koniec 2017 roku w końcu podjął kroki, aby bardziej ostrożnie zakazać podobnych groźnych lub brutalnych postów. Ale chociaż zaczął ograniczać ten problematyczny materiał – a także usuwa hordy kont botów politycznych – Twitter nie podał żadnych jasnych wskazówek, w jaki sposób wykrywa i usuwa konta. Wraz z moimi współpracownikami badawczymi niemal co miesiąc znajdujemy na Twitterze masowe, manipulacyjne botnety.

Poza horyzont

Nic dziwnego, że technolog taki jak Zuckerberg zaproponowałby technologiczną poprawkę, ale sztuczna inteligencja sama w sobie nie jest idealna. Krótkowzroczna koncentracja liderów technologii na rozwiązaniach komputerowych odzwierciedla naiwność i arogancję, które spowodowały, że Facebook i inni narazili użytkowników na zagrożenia.

Nie ma jeszcze armii inteligentnych botów AI pracujących nad manipulowaniem opinią publiczną podczas spornych wyborów. Czy będzie w przyszłości? Być może. Należy jednak zauważyć, że nawet armie inteligentnych robotów politycznych nie będą działać samodzielnie: nadal będą wymagać ludzkiego nadzoru, aby manipulować i oszukiwać. Nie mamy tutaj do czynienia z internetową wersją Terminatora. Luminarze z dziedziny informatyki i sztucznej inteligencji, w tym zdobywca nagrody Turinga Ed Feigenbaum i Geoff Hinton, ojciec chrzestny głębokiego uczenia się, mocno argumentowali przeciwko obawom, że osobliwość — niepowstrzymany wiek inteligentnych maszyn — nadejdzie w najbliższym czasie. W ankiecie przeprowadzonej przez stypendystów Amerykańskiego Stowarzyszenia Sztucznej Inteligencji ponad 90% stwierdziło, że superinteligencja jest poza przewidywalnym horyzontem. Większość z tych ekspertów zgodziła się również, że kiedy i jeśli pojawią się superinteligentne komputery, nie będą one stanowić zagrożenia dla ludzkości.

Naukowcy ze Stanford pracujący nad śledzeniem stanu wiedzy w zakresie sztucznej inteligencji sugerować że obecnie nasi władcy maszyn nadal nie potrafią wykazać się zdrowym rozsądkiem ani ogólną inteligencją nawet 5-latka. Jak więc te narzędzia obalą ludzkie rządy lub, powiedzmy, rozwiążą niezwykle ludzkie problemy społeczne, takie jak polaryzacja polityczna i brak krytycznego myślenia? Dziennik Wall Street ujmijmy to zwięźle w 2017 roku : Bez ludzi sztuczna inteligencja jest nadal dość głupia.

Grady Booch, wiodący ekspert w dziedzinie systemów sztucznej inteligencji, również sceptycznie podchodzi do rozwoju super-inteligentnych nieuczciwych maszyn, ale z innego powodu. W rozmowie TED w 2016 roku powiedział, że martwienie się teraz o powstanie superinteligencji jest pod wieloma względami niebezpieczną rozrywką, ponieważ samo pojawienie się informatyki wiąże się z wieloma ludzkimi i społecznymi problemami, którymi musimy się teraz zająć.

Co ważniejsze, podkreślił Booch, obecne systemy sztucznej inteligencji mogą robić wiele niesamowitych rzeczy, od rozmawiania z ludźmi w języku naturalnym po rozpoznawanie obiektów – ale o tych rzeczach decydują ludzie i są one zakodowane ludzkimi wartościami. Nie są zaprogramowani, ale uczą się, jak się zachowywać.

Z naukowego punktu widzenia to właśnie nazywamy podstawową prawdą, mówi Booch, i oto ważna kwestia: produkując te maszyny, dlatego uczymy ich poczucia naszych wartości. W tym celu ufam sztucznej inteligencji tak samo, jeśli nie bardziej, jak dobrze wyszkolonemu człowiekowi.

Posunąłbym pomysł Boocha jeszcze dalej. Aby rozwiązać problem propagandy obliczeniowej, musimy skupić się na ludziach stojących za narzędziami.

Tak, stale rozwijająca się technologia może zautomatyzować rozprzestrzenianie się dezinformacji i trollingu. Może pozwolić sprawcom działać anonimowo i bez obawy wykrycia. Ale ten zestaw narzędzi jako sposób komunikacji politycznej jest ostatecznie skoncentrowany na osiągnięciu ludzkiego celu, jakim jest kontrola. Propaganda jest wynalazkiem człowieka i jest tak stara jak społeczeństwo. Jak powiedział mi kiedyś ekspert od robotyki, nie powinniśmy obawiać się maszyn, które są tak inteligentne jak ludzie, tak samo jak ludzi, którzy nie są sprytni w tym, jak budują maszyny.

Zaczerpnięty z książki The Reality Game: How the Next Wave of Technology Break the Truth autorstwa Samuela Woolleya. Copyright 2020. Dostępne od PublicAffairs, wydawnictwa Hachette Book Group, Inc.

ukryć