Jak zaawansowane socialboty zinfiltrowały Twittera

Jeśli masz konto na Twitterze, prawdopodobnie masz mniej niż 50 obserwujących i sam obserwujesz mniej niż 50 osób. Prawdopodobnie dobrze znasz wiele z tych osób, ale na Twojej liście może być również kilka osób, których nigdy nie spotkałeś.

Oto interesujące pytanie: skąd wiesz, że ci użytkownicy Twittera to prawdziwi ludzie, a nie automatyczne konta, znane jako boty, które dostarczają ci linków i wiadomości, które mają wpływać na twoje opinie?

Można powiedzieć, że boty nie są zbyt wyrafinowane i tak łatwe do wykrycia. I że Twitter monitoruje Twittersphere, szukając i usuwając wszystkie zautomatyzowane konta, które znajdzie. W związku z tym jest mało prawdopodobne, że nieświadomie śledzisz jakiekolwiek automatyczne konta, złośliwe lub nie.

Jeśli podzielasz tę opinię, warto ją zrewidować po pracy Carlosa Freitasa z Federalnego Uniwersytetu Minas Gerais w Brazylii i kilku kumpli, którzy badali, jak łatwo jest infiltrować Twitter przez socialboty.

Ich odkrycia zaskoczą. Mówią, że znaczna część stworzonych przez nich socialbotów nie tylko zinfiltrowała grupy społeczne na Twitterze, ale również stała się wśród nich wpływowa. Co więcej, Freitas i spółka zidentyfikowali cechy, które sprawiają, że socialboty mają największe szanse na sukces.

Ci goście zaczęli od stworzenia 120 robotów społecznościowych i wypuszczenia ich na Twitterze. Botom nadano profil, zrobiono mężczyznę lub kobietę i dano na początek kilku obserwujących, z których niektórzy byli innymi botami.

Boty generują tweety albo poprzez ponowne publikowanie wiadomości opublikowanych przez innych, albo poprzez tworzenie własnych syntetycznych tweetów przy użyciu zestawu reguł, aby wybrać popularne słowa na określony temat i połączyć je w zdanie.

Boty otrzymały również poziom aktywności. Wysoka aktywność oznacza publikowanie co najmniej raz na godzinę, a niska aktywność oznacza robienie tego raz na dwie godziny (chociaż obie grupy są dość aktywne w porównaniu z większością ludzi). Boty również spały między 22:00. i 9 rano czasu pacyficznego, aby symulować czas przestoju użytkowników.

W końcu zostały ustawione, aby śledzić jedną z trzech różnych grup ludzi. Pierwsza składała się z 200 osób losowo wybranych ze strumienia Twittera, druga to 200 osób, które regularnie publikują tweety na określony temat, w tym przypadku tworzenia oprogramowania, a ostatnia grupa składała się z 200 programistów, którzy byli ze sobą połączeni społecznie na Świergot.

Po uwolnieniu robotów społecznościowych, pierwszym pytaniem, na które Freitas i spółka chcieli odpowiedzieć, było to, czy ich podopieczni mogliby uniknąć mechanizmów obronnych ustanowionych przez Twittera, aby zapobiec automatycznemu publikowaniu. Mówią, że w ciągu 30 dni, podczas których przeprowadzono eksperyment, 38 ze 120 robotów społecznościowych zostało zawieszonych. Innymi słowy, 69 procent botów społecznościowych uniknęło wykrycia.

Bardziej interesującym pytaniem było jednak, czy boty społecznościowe mogą z powodzeniem infiltrować grupy społeczne, które mają śledzić. I pod tym względem wyniki są zaskakujące. W czasie trwania eksperymentu 120 robotów społecznościowych otrzymało łącznie 4999 obserwacji od 1952 różnych użytkowników. A ponad 20 procent z nich zebrało ponad 100 obserwujących, czyli więcej niż 46 procent ludzi na Twitterze.

Freitas i spółka monitorowali również wynik Klouta każdego ze swoich robotów społecznościowych, aby zobaczyć, jak sobie radzą. (Klout to usługa online, która mierzy wpływ kont na Twitterze, dając im wynik od 0 do 100). Dowiadujemy się, że socialboty osiągnęły wyniki Klouta tego samego rzędu (a czasami nawet wyższe niż) kilku znanych naukowców i badaczy sieci społecznościowych, jak mówią.

Zespół rozdzielił również dane, aby dowiedzieć się, jakie czynniki przyczyniły się do sukcesu botów. Nic dziwnego, że poziom aktywności jest ważny, a bardziej aktywne boty osiągnęły większą popularność w swoich sieciach społecznościowych. Można się tego spodziewać, ponieważ bardziej aktywne boty są częściej widziane przez inne osoby (chociaż są również bardziej prawdopodobne, że zostaną wykryte przez mechanizmy obronne Twittera).

Co bardziej zaskakujące, roboty społecznościowe, które generowały syntetyczne tweety (a nie tylko reposty), również radziły sobie lepiej. Sugeruje to, że użytkownicy Twittera nie są w stanie odróżnić postów generowanych przez ludzi i boty. Jest tak prawdopodobnie dlatego, że duża część tweetów na Twitterze jest napisana w nieformalnym, gramatycznie niespójnym stylu, tak że nawet proste modele statystyczne mogą generować tweety o jakości podobnej do tych publikowanych przez ludzi na Twitterze, sugerują Freitas i spółka.

Duży wpływ miały również grupy, które miały śledzić socialboty. Najmniej obserwujących wytworzyła grupa programistów powiązanych społecznie, a największą ich liczba wygenerowała grupa losowo wybranych programistów.

Płeć również odgrywała pewną rolę. Podczas gdy boty płci męskiej i żeńskiej były równie skuteczne, jeśli wziąć pod uwagę ogólnie, żeńskie boty społecznościowe były znacznie skuteczniejsze w generowaniu obserwujących w grupie programistów powiązanych społecznie. Sugeruje to, że płeć robotów społecznościowych może mieć znaczenie, jeśli docelowi użytkownicy są stronniczy, mówią Freitas i koledzy.

To ciekawa praca. Sugeruje to, że Twittersphere może być bardziej podatny na zautomatyzowane ataki, niż wcześniej sądzono.

To odkrycie, które może mieć znaczące implikacje dla niektórych typów grup na Twitterze. W ostatnich latach powstało wiele usług służących do mierzenia zainteresowania i opinii użytkowników Twittera na różne tematy, takie jak zamiar głosowania, sentyment do produktu, epidemie chorób, klęski żywiołowe i tak dalej.

Obawy polega na tym, że automatyczne boty mogą być zaprojektowane tak, aby znacząco wpływać na opinie w jednym lub kilku z tych obszarów. Na przykład stosunkowo łatwo byłoby stworzyć bota, który rozpowszechnia fałszywe pogłoski na temat kandydata politycznego w sposób, który mógłby wpłynąć na wybory.

Tak więc praca Freitas i spółki jest dzwonkiem alarmowym dla Twittera. Jeśli chce skutecznie zapobiegać tego rodzaju atakom, będzie musiała znacznie poprawić swoje mechanizmy obronne. A ponieważ ta praca pokazuje, co sprawia, że ​​boty odnoszą sukcesy, zespół badawczy Twittera ma przewagę.

Sztuką będzie wykrycie botów społecznościowych i wykluczenie ich bez omyłkowego wykluczenia w tym procesie użytkowników. To nie będzie łatwe zadanie.

Ale przy około 20 milionach fałszywych kont na Twitterze już skonfigurowanych, badacze Twittera mają mnóstwo danych do pracy.

Nr ref.: arxiv.org/abs/1405.4927 : Reverse Engineering Strategie infiltracji Socialbot na Twitterze

ukryć