Ta sztuczna inteligencja stworzy tweety, o których nigdy nie będziesz wiedzieć, że są spamem

W zeszłym miesiącu niektórzy ludzie tweetujący o Pokémon Go stali się nieświadomymi podmiotami w eksperymencie, który może zapowiadać niepokojący nowy rodzaj ataku online.





Badacze branżowi wyszkolili oprogramowanie do uczenia maszynowego, aby pisało tweety jak człowiek, aby odpowiadać niektórym osobom za pomocą hashtagu #Pokemon, demonstrując, jak postępy w oprogramowaniu rozumiejącym język mogą być wykorzystywane do oszukiwania ludzi w Internecie. Mniej więcej jedna trzecia osób, których dotyczy oprogramowanie, kliknęła na łagodny link przesłany przez oprogramowanie, aby sprawdzić, jak przekonujący jest.

To znacznie więcej niż 5-10 procentowy wskaźnik sukcesu typowy dla automatycznych wiadomości phishingowych mających na celu nakłonienie ludzi do kliknięcia linków w celu dostarczenia złośliwego oprogramowania lub kradzieży haseł, mówi John Seymour, starszy analityk danych w firmie zajmującej się bezpieczeństwem. ZeroFOX . Mówi, że system uczenia maszynowego zbliża się do około 40 procent skuteczności wiadomości typu spearphishing tworzonych ręcznie, aby oszukać konkretną osobę.

Spearphishing jest wysoce ręczny i zajmuje kilkadziesiąt minut na cel, mówi Seymour. To podejście jest prawie tak samo dokładne i zautomatyzowane, więc może być stosowane na znacznie większą skalę. Nie wszystkie tweety wyglądają na bardzo dopracowane, ale są skuteczne – mówi. Niektóre osoby odpowiedziały, że link został uszkodzony i proszą o ponowne przesłanie.

Seymour przedstawił wyniki swoich eksperymentów wraz z kolegą Philem Tullym na konferencji poświęconej bezpieczeństwu komputerowemu Black Hat w Las Vegas w czwartek. Para twierdzi, że ich praca pokazuje, że technologia uczenia maszynowego może pozwolić przestępcom na radykalne zwiększenie ich wskaźników sukcesu.

Phishing i spearphishing to już poważne problemy. Cisco poinformowało w zeszłym roku, że wiadomości phishingowe wysyłane za pośrednictwem Facebooka były główną przyczyną nieautoryzowanego dostępu do sieci korporacyjnych.



Oprogramowanie naukowców ZeroFOX, SNAP_R, może działać na dwa sposoby. Jeden wykorzystuje tę samą technikę sztucznej inteligencji, głębokiego uczenia, z której korzystają firmy takie jak Google do tworzenia systemów, które potrafią rozumieć i tłumaczyć język. Został przeszkolony w zakresie dwóch milionów wiadomości na Twitterze, co pozwoliło mu samodzielnie generować realistycznie wyglądające tweety.

Drugi tryb systemu jest bardziej ukierunkowany. Uczy się tweetować, patrząc na najnowsze tweety danej osoby i wprowadza je do starszej techniki zwanej łańcuchem Markowa. Następnie może generować tweety podobne do tych napisanych przez cel, w które osoba może kliknąć, myśląc, że wiadomość została napisana przez osobę o podobnych zainteresowaniach.



SNAP_R może również identyfikować i kierować reklamy do najbardziej wpływowych i aktywnych osób, które rozmawiają na określone tematy lub używają określonego hashtagu. Szuka słów kluczowych, takich jak CEO, w profilu osoby i wskaźników, takich jak liczba obserwujących. ZeroFOX wydaje wersję oprogramowania, aby pomóc naukowcom zastanowić się nad potencjałem tego rodzaju ataków i sposobami obrony przed nimi.

Oprogramowanie ZeroFox wygenerowało te tweety, aby oszukać ludzi na Twitterze.

Mike Murray, wiceprezes ds. badań nad bezpieczeństwem w firmie Lookout zajmującej się bezpieczeństwem mobilnym, uważa, że ​​perspektywa wykorzystania uczenia maszynowego do zautomatyzowania procesu oszukiwania ludzi w Internecie jest przerażająca. Uważa jednak, że minie trochę czasu, zanim tego rodzaju podejście zostanie użyte do przeprowadzenia prawdziwych ataków.



Pomimo ostatnich postępów, najlepsze techniki uczenia maszynowego nadal wymagają specjalistycznej wiedzy i nie są doskonałe w generowaniu języka. Google jest liderem w dziedzinie uczenia maszynowego i języka. Ale jego aplikacja Skrzynka odbiorcza zdolna do generowania odpowiedzi na e-maile może sugerować tylko krótkie, jednozdaniowe odpowiedzi, mówi Murray. Jeśli Google nie może wygenerować więcej niż jedno zdanie, prawdopodobnie nie mogę wygenerować naprawdę dobrego e-maila phishingowego.

Tully z ZeroFOX również nie przewiduje powszechnego wykorzystania przez przestępczość zautomatyzowanego phishingu szpiegowskiego w przyszłości. Twierdzi jednak, że algorytmy uczenia maszynowego stają się coraz łatwiejsze w użyciu i nie muszą doskonale opanowywać języka, aby odnieść sukces w mediach społecznościowych. Mówi, że ludzie korzystający z Twittera oczekują interakcji z nieznajomymi i zobaczenia niedopracowanej składni. Na Twitterze kultura jest tak liberalna i nie musisz znać perfekcyjnego angielskiego ani gramatyki.

ukryć