Projekt uczenia maszynowego ma na celu dezinformację

W związku z Fundacja katarska

Nie ma nic nowego w teoriach spiskowych, dezinformacji i nieprawdzie w polityce. Co jest Nowością jest to, jak szybko złośliwi aktorzy mogą rozpowszechniać dezinformację, gdy świat jest ściśle połączony w sieciach społecznościowych i internetowych serwisach informacyjnych. Możemy zrezygnować z problemu i polegać na samych platformach w celu sprawdzenia faktów lub postów i odfiltrowania dezinformacji — lub możemy stworzyć nowe narzędzia, które pomogą ludziom zidentyfikować dezinformację, gdy tylko przejdą przez ich ekrany.

Preslav Nakov jest informatykiem w Katar Computing Research Institute w Doha, specjalizującym się w przetwarzaniu mowy i języka. Prowadzi projekt wykorzystujący uczenie maszynowe do oceny niezawodności źródeł mediów. Dzięki temu jego zespół może zbierać artykuły z wiadomościami wraz z sygnałami o ich wiarygodności i uprzedzeniach politycznych, a wszystko to w formacie podobnym do Google News.

Nie ma możliwości sprawdzenia każdego roszczenia na świecie, wyjaśnia Nakov. Zamiast tego skup się na źródle. Lubię mówić, że fałszywe wiadomości można sprawdzić, zanim jeszcze zostały napisane. Narzędzie jego zespołu, zwane Tanbih News Aggregator, jest dostępne w języku arabskim i angielskim i gromadzi artykuły z takich dziedzin, jak biznes, polityka, sport, nauka i technologia oraz covid-19.

Business Lab prowadzi Laurel Ruma, dyrektor redakcyjny Insights, działu custom publishing w MIT Technology Review. Spektakl jest produkcją MIT Technology Review, przy wsparciu produkcyjnym Collective Next.

Ten podcast został wyprodukowany we współpracy z Qatar Foundation.

Pokaż notatki i linki

Dodaj agregatora wiadomości

Katarski Instytut Badawczy Informatyki

Nawet najlepsza sztuczna inteligencja do wykrywania fałszywych wiadomości jest wciąż okropna, Przegląd technologii MIT, 3 października 2018 r.

Pełny zapis

Laur Ruma: Z MIT Technology Review, nazywam się Laurel Ruma, a to jest Business Lab, program, który pomaga liderom biznesu zrozumieć nowe technologie wychodzące z laboratorium i wprowadzane na rynek. Naszym dzisiejszym tematem jest dezinformacja. Od fałszywych wiadomości, przez propagandę, po głębokie podróbki, może się wydawać, że nie ma obrony przed uzbrojonymi wiadomościami. Jednak naukowcy badają sposoby szybkiego identyfikowania dezinformacji, aby pomóc nie tylko organom regulacyjnym i firmom technologicznym, ale także obywatelom, ponieważ wszyscy razem poruszamy się po tym wspaniałym nowym świecie.

Dwa słowa dla Ciebie: szerzenie infodemii.

Moim gościem jest dr Preslav Nakov, który jest głównym naukowcem w Katar Computing Research Institute. Prowadzi projekt Tanbih, który powstał we współpracy z MIT. Jest także głównym głównym badaczem projektu współpracy QCRI MIT w zakresie przetwarzania mowy i języka arabskiego w celu wyszukiwania informacji w wielu językach i weryfikacji faktów. Ten odcinek Business Lab jest produkowany we współpracy z Qatar Foundation. Witam, doktorze Nakov.

Presław Nakow: Dzięki za zaproszenie.

Laur Ruma: Dlaczego więc jesteśmy teraz zasypywani tak dużą ilością dezinformacji w Internecie? To nie jest nowy problem, prawda?

Nakow: Oczywiście nie jest to nowy problem. Nie jest tak, że po raz pierwszy w historii wszechświata ludzie kłamią lub media kłamią. Mieliśmy żółtą prasę, przez lata mieliśmy te wszystkie brukowce. Stało się to problemem z powodu rozwoju mediów społecznościowych, kiedy nagle stało się możliwe posiadanie wiadomości, którą można wysłać do milionów ludzi. I nie tylko to, teraz możesz mówić różne rzeczy różnym ludziom. Możesz więc mikroprofilować ludzi i dostarczyć im konkretną spersonalizowaną wiadomość, zaprojektowaną, stworzoną dla konkretnej osoby w określonym celu, aby nacisnąć na nich określony przycisk. Główny problem z fake newsami nie polega na tym, że są fałszywe. Główny problem polega na tym, że wiadomości faktycznie zostały uzbrojone, i na to narzekał sir Tim Berners-Lee, twórca World Wide Web: że jego wynalazek był uzbrojony.

Laur: Tak, Tim Berners-Lee jest oczywiście zrozpaczony, że tak się stało, i to nie tylko w tym czy innym kraju. Tak naprawdę jest na całym świecie. Czy jest więc rzeczywista różnica między fałszywymi wiadomościami, propagandą i dezinformacją?

Nakow: Jasne, jest. Nie podoba mi się określenie fake news. Jest to termin, który się podniósł: został ogłoszony słowem roku przez kilka słowników w różnych latach, wkrótce po poprzednich wyborach prezydenckich w USA. Problem z fałszywymi wiadomościami polega przede wszystkim na tym, że nie ma jasnej definicji. Zaglądałem do słowników, jak definiują ten termin. Jeden z głównych słowników powiedział, że tak naprawdę nie zamierzamy w ogóle definiować tego terminu, ponieważ jest to coś oczywistego — mamy „wiadomości”, mamy „fałszywe” i są to fałszywe wiadomości; jest kompozycyjny; był używany w XIX wieku – nie ma nic do zdefiniowania. Różni ludzie nadają temu różne znaczenie. Dla niektórych fałszywe wiadomości to po prostu wiadomości, których nie lubią, niezależnie od tego, czy są fałszywe. Ale główny problem z fałszywymi wiadomościami polega na tym, że naprawdę wprowadzają w błąd ludzi, a niestety nawet niektóre duże organizacje weryfikujące fakty, do skupienia się tylko na jednej rzeczy, niezależnie od tego, czy jest to prawda, czy nie.

Wolę, a większość badaczy pracujących nad tym preferuje termin dezinformacja. I to jest termin, który został przyjęty przez wielkie organizacje, takie jak ONZ, NATO, Unia Europejska. A dezinformacja to coś, co ma bardzo jasną definicję. Składa się z dwóch elementów. Po pierwsze, jest to coś fałszywego, a po drugie, ma złośliwy zamiar: zamiar wyrządzenia szkody. I znowu, ogromna większość badań, ogromna większość wysiłków, wiele inicjatyw sprawdzających fakty, skupia się na tym, czy coś jest prawdą, czy nie. I to zwykle druga część jest naprawdę ważna. Część dotycząca złośliwego zamiaru. I właśnie o tym mówił sir Tim Berners-Lee, kiedy po raz pierwszy mówił o uzbrojeniu wiadomości. Główny problem z fałszywymi wiadomościami – jeśli porozmawiasz z dziennikarzami, powiedzą ci to – głównym problemem z fałszywymi wiadomościami nie jest to, że są fałszywe. Problem w tym, że jest to broń polityczna.

I propaganda. Czym jest propaganda? Propaganda to termin ortogonalny dla dezinformacji. Ponownie, dezinformacja składa się z dwóch elementów. Jest fałszywy i ma złośliwe zamiary. Propaganda ma również dwa składniki. Po pierwsze, ktoś próbuje nas do czegoś przekonać. Po drugie, istnieje z góry określony cel. Teraz powinniśmy zwrócić uwagę. Propaganda nie jest prawdą; to nie jest fałszywe. To nie jest dobre; nie jest źle. To nie jest część definicji. Tak więc, jeśli rząd prowadzi kampanię mającą na celu przekonanie społeczeństwa do zaszczepienia się, możesz argumentować, że to dobry cel, lub powiedzmy, że Greta Thunberg próbuje nas przestraszyć, że setki gatunków każdego dnia wymierają. To technika propagandowa: odwoływanie się do strachu. Ale możesz argumentować, że to dobry cel. Tak więc propaganda nie jest zła; to nie jest dobre. To nie prawda; to nie jest fałszywe.

Laur: Ale propaganda ma na celu zrobienie czegoś. A zmuszając do tego celu, naprawdę przemawia do tego czynnika strachu. Więc to jest różnica między dezinformacją a propagandą, to strach.

Nakow: Nie, strach to tylko jedna z technik. Badaliśmy to. Dlatego wiele badań koncentruje się na klasyfikacji binarnej. Czy to prawda? Czy to jest fałszywe? Czy to propaganda? Czy to nie jest propaganda? Zajrzeliśmy trochę głębiej. Zastanawialiśmy się, jakie techniki zostały wykorzystane do propagandy. I znowu można mówić o propagandzie, można mówić o perswazji, public relations lub komunikacji masowej. To w zasadzie to samo. Różne terminy na to samo. A jeśli chodzi o techniki propagandowe, są dwa rodzaje. Pierwszy rodzaj to odwoływanie się do emocji: może odwoływać się do strachu, może odwoływać się do silnych emocji, może odwoływać się do uczuć patriotycznych i tak dalej i tak dalej. A druga połowa to błędy logiczne: takie rzeczy jak błąd czarno-biały. Na przykład jesteś z nami lub przeciwko nam. Albo modą. Bandwagon jest jak, och, ostatni sondaż pokazuje, że 57% zagłosuje na Hillary, więc jesteśmy po właściwej stronie historii, musisz do nas dołączyć.

Istnieje kilka innych technik propagandowych. Jest czerwony śledź, jest celowe zaciemnianie. Przyjrzeliśmy się 18 z nich: połowa z nich odwołuje się do emocji, a połowa z nich posługuje się pewnymi rodzajami błędów logicznych lub złamanym logicznym rozumowaniem. Stworzyliśmy narzędzia do wykrywania ich w tekstach, dzięki czemu można je naprawdę pokazać użytkownikowi i wyraźnie to wyjaśnić, aby ludzie mogli zrozumieć, w jaki sposób są manipulowani.

Laur: Tak więc w kontekście pandemii Covid-19 dyrektor generalny Światowej Organizacji Zdrowia powiedział, cytuję, nie tylko walczymy z epidemią; walczymy z infodemią. Jak definiujesz infodemię? Jakie są niektóre z tych technik, których możemy użyć, aby również uniknąć szkodliwych treści?

Nakow: Infodemic, to jest coś nowego. Właściwie MIT Technology Review około rok temu, w lutym ubiegłego roku, miał świetny artykuł, który o tym mówił. Pandemia COVID-19 dała początek pierwszej globalnej infodemii w mediach społecznościowych. I znowu, mniej więcej w tym samym czasie, Światowa Organizacja Zdrowia w lutym miała na swojej stronie internetowej listę pięciu najważniejszych priorytetów w walce z pandemią, a walka z infodemią była numerem dwa, numerem dwa na liście najlepszych pięć priorytetów. Więc to zdecydowanie duży problem. Czym jest infodemia? To połączenie pandemii i wcześniej istniejącej dezinformacji, która była już obecna w mediach społecznościowych. To także połączenie dezinformacji politycznej i zdrowotnej. Wcześniej część polityczna i powiedzmy ruch antyszczepionkarski były odrębne. Teraz wszystko się ze sobą miesza.

Laur: I to jest prawdziwy problem. Chodzi mi o to, że troską Światowej Organizacji Zdrowia powinna być walka z pandemią, ale jej drugorzędną troską jest walka z dezinformacją. Znalezienie nadziei w tego rodzaju strachu jest bardzo trudne. Tak więc jeden z projektów, nad którymi pracujesz, nazywa się Tanbih. A Tanbih jest agregatorem wiadomości, prawda? To ujawnia dezinformację. Sam projekt ma więc kilka celów. Jednym z nich jest ujawnienie stanowiska, uprzedzeń i propagandy w wiadomościach. Drugi to promowanie różnych punktów widzenia i angażowanie użytkowników. Ale trzeci to ograniczenie wpływu fake newsów. Jak działa Tanbih?

Nakow: Tanbih rzeczywiście zaczynał jako agregator wiadomości, a przekształcił się w coś znacznie większego, w projekt, który jest mega-projektem w Katar Computing Research Institute. Obejmuje osoby z kilku grup w instytucie i jest rozwijany we współpracy z MIT. Projekt rozpoczęliśmy z myślą o stworzeniu narzędzi, które faktycznie możemy oddać w ręce użytkowników końcowych. Zdecydowaliśmy się to zrobić w ramach agregatora wiadomości, wymyśl coś takiego jak Google News. A gdy użytkownicy czytają wiadomości, sygnalizujemy im, że coś jest propagandowe, i przekazujemy im podstawowe informacje o źródle. To co robimy, to z wyprzedzeniem analizujemy media i budujemy profile medialne. Więc pokazujemy, mówiąc użytkownikom, w jakim stopniu treść ma charakter propagandowy. Mówimy im, czy wiadomość pochodzi z wiarygodnego źródła, czy nie, czy jest stronnicza: stronniczość lewa, centrum, prawo. Niezależnie od tego, czy jest to skrajność: skrajna lewa, skrajna prawa. Również, czy jest stronniczy w odniesieniu do konkretnych tematów.

I to jest bardzo przydatne. Więc wyobraź sobie, że czytasz artykuł, który jest sceptyczny wobec globalnego ocieplenia. Jeśli powiemy ci, spójrz, ten serwis informacyjny zawsze był bardzo stronniczy w ten sam sposób, to prawdopodobnie przyjmiesz to z przymrużeniem oka. Pokazujemy też perspektywę raportowania, kadrowania. Jeśli się nad tym zastanowić, covid-19, Brexit, każde ważne wydarzenie można relacjonować z różnych perspektyw. Weźmy na przykład covid-19. Na pewno ma aspekt zdrowotny, ale ma też aspekt ekonomiczny, nawet polityczny, ma aspekt jakości życia, ma aspekt praw człowieka, aspekt prawny. W ten sposób profilujemy media i pozwalamy użytkownikom zobaczyć, jaka jest ich perspektywa.

Jeśli chodzi o profile mediów, przedstawiamy je dalej jako wtyczkę do przeglądarki, dzięki czemu podczas odwiedzania różnych witryn internetowych można faktycznie kliknąć wtyczkę i uzyskać bardzo krótkie informacje o witrynie. Możesz także kliknąć link, aby uzyskać dostęp do bardziej szczegółowego profilu. A to jest bardzo ważne: uwaga skupia się na źródle. Ponownie, większość badań skupia się na tym, czy to twierdzenie jest prawdziwe, czy nie? I czy ta wiadomość jest prawdziwa, czy nie? To tylko połowa problemu. Druga połowa dotyczy tego, czy jest to szkodliwe, co zazwyczaj jest ignorowane.

Inną rzeczą jest to, że nie jesteśmy w stanie zweryfikować każdego roszczenia na świecie. Nie ręcznie, nie automatycznie. Ręcznie, to nie wchodzi w rachubę. MIT Media Lab przeprowadziło badanie około dwa lata temu, w którym przeprowadzili obszerne badanie wielu, wielu tweetów. Wykazano, że fałszywe informacje idą sześć razy dalej i rozprzestrzeniają się znacznie szybciej niż informacje prawdziwe. Było inne badanie, które jest znacznie mniej znane, ale uważam je za bardzo ważne, które pokazuje, że 50% czasu rozpowszechniania niektórych bardzo wirusowych fałszywych wiadomości ma miejsce w ciągu pierwszych 10 minut. W ciągu pierwszych 10 minut! Ręczne sprawdzanie faktów zajmuje dzień lub dwa, czasem tydzień.

Automatyczne sprawdzanie faktów? Jak możemy zweryfikować roszczenie? Cóż, jeśli mamy szczęście, jeśli twierdzi się, że gospodarka Stanów Zjednoczonych wzrosła w zeszłym roku o 10%, to twierdzenie możemy łatwo automatycznie sprawdzić, zaglądając do Wikipedii lub jakiejś tabeli statystycznej. Ale jeśli powiedzą, że dwie minuty temu w tym małym miasteczku była bomba? Cóż, tak naprawdę nie możemy tego sprawdzić, ponieważ aby sprawdzić to automatycznie, musimy mieć skądś jakieś informacje. Chcemy zobaczyć, co na ten temat napiszą media lub jak zareagują na to użytkownicy. A kumulacja obu tych elementów wymaga czasu. Tak więc w zasadzie nie mamy informacji, aby to sprawdzić. Co możemy zrobić? To, co proponujemy, to poruszanie się z większą szczegółowością, skupienie się na źródle. I to właśnie robią dziennikarze. Dziennikarze zastanawiają się: czy istnieją dwa niezależne zaufane źródła, które tak twierdzą?

Więc analizujemy media. Nawet jeśli źli ludzie zgłoszą roszczenie w mediach społecznościowych, prawdopodobnie umieszczą link do strony internetowej, na której można znaleźć całą historię. Jednak nie mogą stworzyć nowej strony z fałszywymi wiadomościami dla każdego fałszywego twierdzenia, które wygłaszają. Zamierzają je ponownie wykorzystać. Dzięki temu możemy monitorować najczęściej używane strony internetowe i z wyprzedzeniem je analizować. I chciałbym powiedzieć, że możemy sprawdzić fakty w fałszywych wiadomościach, zanim jeszcze zostały napisane. Ponieważ w momencie, gdy jest napisane, w momencie, gdy pojawia się w mediach społecznościowych i jest link do strony internetowej, jeśli mamy tę stronę w naszej rosnącej bazie stale analizowanych stron, możemy od razu powiedzieć, czy jest to wiarygodna strona, czy nie . Oczywiście wiarygodne strony internetowe mogą również zawierać ubogie informacje, dobre strony internetowe również mogą być błędne. Ale możemy dać ci natychmiastowy pomysł.

Poza agregatorem wiadomości zaczęliśmy zajmować się analizą, ale także opracowujemy narzędzia do umiejętności korzystania z mediów, które pokazują ludziom precyzyjne techniki propagandowe wyróżnione w tekście: konkretne miejsca, w których propaganda się dzieje i jej specyficzny rodzaj. I wreszcie budujemy narzędzia, które mogą wspierać weryfikatorów faktów w ich pracy. I znowu są to problemy, które są zwykle pomijane, ale niezwykle ważne dla osób sprawdzających fakty. Mianowicie, co warto sprawdzić w pierwszej kolejności. Rozważ debatę prezydencką. Zostało wypowiedzianych ponad 1000 zdań. Ty, jako weryfikator faktów, możesz sprawdzić może 10 lub 20 z nich. Które z nich najpierw sprawdzisz? Jakie są najciekawsze? Możemy pomóc w ustaleniu priorytetów. Lub codziennie są miliony i miliony tweetów na temat Covid-19. A które z nich chciałbyś sprawdzić jako weryfikator faktów?

Drugim problemem jest wykrywanie wcześniej zweryfikowanych twierdzeń. Jednym z problemów z technologią sprawdzania faktów w dzisiejszych czasach jest jakość, ale drugą częścią jest brak wiarygodności. Wyobraź sobie wywiad z politykiem. Czy możesz postawić polityka na miejscu? Wyobraź sobie system, który automatycznie wykonuje rozpoznawanie mowy, to proste, a następnie sprawdza fakty. I nagle mówisz: Och, panie X, moja sztuczna inteligencja mówi mi, że teraz w 96% prawdopodobnie kłamiesz. Czy możesz to rozwinąć? Dlaczego kłamiesz? Nie możesz tego zrobić. Ponieważ nie ufasz systemowi. Nie można postawić polityka na miejscu w czasie rzeczywistym ani podczas debaty politycznej. Ale jeśli system wróci i powie: właśnie powiedział coś, co zostało sprawdzone przez tę zaufaną organizację weryfikującą fakty. A oto twierdzenie, które on wygłosił, a oto twierdzenie, które zostało sprawdzone pod kątem faktów i widzicie, wiemy, że jest fałszywe. Wtedy możesz go postawić na miejscu. To jest coś, co może potencjalnie zrewolucjonizować dziennikarstwo.

Laur: Wracając więc do tego punktu o analityce. Aby zagłębić się w szczegóły techniczne, w jaki sposób Tanbih wykorzystuje sztuczną inteligencję i głębokie sieci neuronowe do analizowania tych treści, jeśli trafia na tak wiele danych, tak wiele tweetów?

Nakow: Tanbih początkowo tak naprawdę nie skupiał się na tweetach. Tanbih skupia się przede wszystkim na mediach głównego nurtu. Jak powiedziałem, analizujemy całe serwisy informacyjne, aby być przygotowanym. Ponieważ znowu istnieje bardzo silny związek między mediami społecznościowymi a stronami internetowymi. Nie wystarczy złożyć reklamację w sieci i ją rozpowszechniać. Może się rozprzestrzeniać, ale ludzie będą postrzegać to jako plotkę, ponieważ nie ma źródła, nie ma dalszego potwierdzenia. Więc nadal chcesz zajrzeć na stronę internetową. A potem, jak powiedziałem, zaglądając do źródła, możesz zorientować się, czy chcesz zaufać temu twierdzeniu wśród innych źródeł informacji. I odwrotnie: kiedy profilujemy media, analizujemy tekst tego, co publikują media.

Powiedzielibyśmy więc: OK, przyjrzyjmy się kilkuset lub kilku tysiącom artykułów w tym docelowym serwisie informacyjnym. Następnie przyjrzelibyśmy się również, jak to medium prezentuje się w mediach społecznościowych. Wiele z tych stron ma również konta w mediach społecznościowych: jak ludzie reagują na to, co zostało opublikowane na Twitterze, na Facebooku? A potem, jeśli media mają inne rodzaje kanałów, na przykład, jeśli mają kanał na YouTube, pójdziemy do niego i to również przeanalizujemy. Przyjrzymy się więc nie tylko temu, co mówią, ale także temu, jak to mówią, i to jest coś, co pochodzi z sygnału mowy. Jeśli jest dużo odwoływania się do emocji, część z nich możemy wykryć w tekście, ale część możemy wydobyć z tonu.

Sprawdzamy również, co inni piszą o tym medium, na przykład, co o nich pisze się w Wikipedii. I składamy to wszystko razem. Analizujemy również obrazy, które są umieszczane na tej stronie. Analizujemy powiązania między serwisami. Relacja między witryną internetową a jej czytelnikami, nakładanie się użytkowników między różnymi witrynami. A potem używamy różnych rodzajów grafowych sieci neuronowych. Więc jeśli chodzi o sieci neuronowe, używamy różnych rodzajów modeli. Jest to przede wszystkim głęboka, kontekstowa reprezentacja tekstu oparta na transformatorach; to jest to, co zwykle robisz w dzisiejszych czasach z tekstem. Korzystamy również z grafowych sieci neuronowych i różnych rodzajów splotowych sieci neuronowych do analizy obrazu. Używamy również sieci neuronowych do analizy mowy.

Laur: Czego więc się uczymy, badając ten rodzaj dezinformacji według regionu lub języka? W jaki sposób może to faktycznie pomóc rządom i organizacjom opieki zdrowotnej w walce z dezinformacją?

Nakow: Możemy w zasadzie przekazać im zagregowane informacje o tym, co się dzieje, na podstawie schematu, który opracowaliśmy do analizy tweetów. Zaprojektowaliśmy bardzo rozbudowany schemat. Zastanawialiśmy się nie tylko, czy tweet jest prawdziwy, czy nie, ale także czy sieje panikę, czy promuje złe leczenie, ksenofobię, rasizm. Automatycznie wykrywamy, czy tweet zadaje ważne pytanie, na które może chcieć odpowiedzieć pewien podmiot rządowy. Na przykład jedno z takich pytań w zeszłym roku brzmiało: czy covid-19 zniknie latem? To jest coś, na co być może władze ds. Zdrowia mogą chcieć odpowiedzieć.

Inne rzeczy oferowały porady lub omawiały podjęte działania i możliwe lekarstwa. Więc przyglądaliśmy się nie tylko negatywnym rzeczom, rzeczom, na które możesz działać, próbując ograniczyć, rzeczom takim jak panika lub rasizm, ksenofobia – rzeczom takim jak nie jedz chińskiego jedzenia, nie jedz włoskiego jedzenia. Lub rzeczy takie jak obwinianie władz za ich działanie lub brak działania, na które rządy mogą chcieć zwrócić uwagę i zobaczyć, w jakim stopniu jest to uzasadnione i czy chcą coś z tym zrobić. Ponadto ważną rzeczą, jaką może chcieć decydent, jest monitorowanie mediów społecznościowych i wykrywanie dyskusji na temat możliwego lekarstwa. A jeśli to dobre lekarstwo, warto zwrócić na to uwagę. Jeśli to złe lekarstwo, możesz również powiedzieć ludziom: nie używaj tego złego lekarstwa. I omówienie podjętych działań lub wezwanie do działania. Jeśli jest wiele osób, które mówią, że zamykają zakłady fryzjerskie, możesz chcieć zobaczyć, dlaczego to mówią i czy chcesz ich słuchać.

Laur: Prawidłowy. Ponieważ rząd chce monitorować tę dezinformację w wyraźnym celu, aby pomóc wszystkim nie przyjmować tych złych leków, prawda. Nie podążaj dalej ścieżką myślenia, że ​​ta propaganda lub dezinformacja jest prawdziwa. Czy jest to więc działanie rządu mające na celu uregulowanie dezinformacji w mediach społecznościowych? A może uważasz, że to firmy technologiczne powinny rozwiązać ten problem samodzielnie?

Nakow: Więc to jest dobre pytanie. Dwa lata temu zostałem zaproszony przez Zgromadzenie Międzyparlamentarne Unii. Zaprosili trzech ekspertów i 800 członków parlamentu z krajów całego świata. I przez trzy godziny zadawali nam pytania, w zasadzie krążąc wokół głównego tematu: jakie ustawy mogą uchwalać parlamenty narodowe, aby raz na zawsze uzyskać rozwiązanie problemu dezinformacji. I oczywiście konsensus na końcu był taki, że jest to złożony problem i nie ma łatwego rozwiązania.

Pewien rodzaj ustawodawstwa z pewnością odgrywa pewną rolę. W wielu krajach niektóre rodzaje mowy nienawiści są nielegalne. W wielu krajach istnieją pewne przepisy dotyczące wyborów i reklam w czasie wyborów, które dotyczą zwykłych mediów, a także obejmują przestrzeń internetową. Ostatnio pojawiło się wiele wezwań do wprowadzenia regulacji w Wielkiej Brytanii, w Unii Europejskiej, a nawet w USA. I to jest bardzo gorąca debata, ale jest to złożony problem i nie ma łatwego rozwiązania. I są tam ważni gracze i ci gracze muszą ze sobą współpracować.

Więc pewne ustawodawstwo? Tak. Ale potrzebna jest również współpraca firm zajmujących się mediami społecznościowymi, ponieważ dezinformacja dzieje się na ich platformach. I są na bardzo dobrej pozycji, właściwie najlepszej pozycji, aby ograniczyć spread lub coś zrobić. Albo uczyć swoich użytkowników, edukować ich, że prawdopodobnie nie powinni rozpowszechniać wszystkiego, co czytają. A potem organizacje pozarządowe, dziennikarze, wszystkie próby sprawdzania faktów, to też jest bardzo ważne. I mam nadzieję, że wysiłek, jaki my jako badacze wkładamy w budowanie takich narzędzi, byłby również pomocny w tym zakresie.

Jedną rzeczą, na którą musimy zwrócić uwagę, jest to, że jeśli chodzi o regulacje prawne, nie powinniśmy koniecznie myśleć, co możemy zrobić z tą czy inną konkretną firmą. Powinniśmy więcej myśleć w dłuższej perspektywie. I powinniśmy być ostrożni, aby chronić wolność słowa. Jest to więc rodzaj delikatnej równowagi.

Jeśli chodzi o fałszywe wiadomości, dezinformację. Jedynym przypadkiem, w którym ktoś ogłosił zwycięstwo, i jedynym rozwiązaniem, które faktycznie sprawdziło się, jest przypadek Finlandii. W maju 2019 roku Finlandia oficjalnie ogłosiła, że ​​wygrała wojnę z fałszywymi wiadomościami. Zajęło im to pięć lat. Zaczęli nad tym pracować po wydarzeniach na Krymie; poczuli się zagrożeni i rozpoczęli bardzo ambitną kampanię edukacji medialnej. Skupili się przede wszystkim na szkołach, ale także na uniwersytetach i na wszystkich poziomach społeczeństwa. Ale oczywiście przede wszystkim szkoły. Uczyli uczniów, jak rozpoznać, czy coś jest podejrzane. Jeśli to cię zbytnio denerwuje, może coś jest nie w porządku. Jak zrobić, powiedzmy, odwrotne wyszukiwanie obrazu, aby sprawdzić, czy ten obraz, który jest wyświetlany, faktycznie pochodzi z tego wydarzenia, czy z innego miejsca. I za pięć lat ogłosili zwycięstwo.

Zatem dla mnie umiejętność korzystania z mediów jest najlepszym długoterminowym rozwiązaniem. I dlatego jestem szczególnie dumny z naszego narzędzia do drobnoziarnistej analizy propagandowej, ponieważ naprawdę pokazuje użytkownikom, w jaki sposób są manipulowani. I mogę powiedzieć, że mam nadzieję, że po tym, jak ludzie wejdą w interakcję z taką platformą, nauczą się tych technik. A następnym razem sami je rozpoznają. Platforma nie będzie im potrzebna. I zdarzyło się to mnie i kilku innym badaczom, którzy pracowali nad tym problemem, zdarzyło się to nam i teraz nie mogę już poprawnie czytać wiadomości. Za każdym razem, gdy czytam wiadomości, dostrzegam te techniki, ponieważ je znam i potrafię je rozpoznać. Jeśli więcej osób zdoła osiągnąć ten poziom, to będzie dobrze.

Być może firmy zajmujące się mediami społecznościowymi mogą zrobić coś takiego, gdy użytkownik zarejestruje się na ich platformie, mogą poprosić nowych użytkowników o wzięcie udziału w krótkim kursie umiejętności cyfrowych, a następnie zdanie czegoś w rodzaju egzaminu. A potem, oczywiście, może powinniśmy mieć takie programy rządowe. Przypadek Finlandii pokazuje, że jeśli rząd zainterweniuje i wprowadzi odpowiednie programy, fałszywe wiadomości można rozwiązać. Mam nadzieję, że fałszywe wiadomości pójdą drogą spamu. Nie zostanie wykorzenione. Spam nadal istnieje, ale nie jest to problem, który był 20 lat temu.

Laur: I to jest umiejętność korzystania z mediów. I nawet jeśli wykorzenienie tego rodzaju dezinformacji lub po prostu poprawa zrozumienia przez społeczeństwo umiejętności korzystania z mediów i tego, czym jest dezinformacja, zajmie pięć lat, wybory odbywają się dość często. Byłoby to więc świetne miejsce, aby zacząć myśleć o tym, jak powstrzymać ten problem. Tak jak powiedziałeś, jeśli stanie się to jak spam, stanie się czymś, z czym masz do czynienia na co dzień, ale tak naprawdę nie myślisz już o tym ani się o to nie martwisz. I nie zmieni to całkowicie demokracji. Wydaje mi się, że jest to bardzo osiągalny cel.

Laur: Dr Nakov, dziękuję bardzo za przyłączenie się do nas dzisiaj w fantastycznej rozmowie w Business Lab.

Nakow: Dzięki za zaproszenie.

Laur: Był to dr Preslav Nakov, główny naukowiec z Qatar Computing Research Institute, z którym rozmawiałem z Cambridge w stanie Massachusetts, siedziby MIT i MIT Technology Review, z widokiem na rzekę Charles.

To tyle w tym odcinku Business Lab. Jestem twoim gospodarzem, Laurel Ruma. Jestem dyrektorem Insights, działu custom publishing w MIT Technology Review. Powstaliśmy w 1899 roku w Massachusetts Institute of Technology. Możesz nas znaleźć w druku, w Internecie i na corocznych wydarzeniach na całym świecie. Aby uzyskać informacje o nas i programie, odwiedź naszą stronę internetową technologyreview.com.

Program jest dostępny wszędzie tam, gdzie zdobędziesz swoje podcasty.

Jeśli podobał Ci się ten podcast, mamy nadzieję, że poświęcisz chwilę, aby nas ocenić i zrecenzować. Business Lab to produkcja MIT Technology Review. Ten odcinek został wyprodukowany przez Collective Next.

Ten odcinek podcastu został wyprodukowany przez Insights, dział zajmujący się treściami niestandardowymi MIT Technology Review. Nie został wyprodukowany przez redakcję MIT Technology Review.

ukryć