Przygotowanie do cyberataków z wykorzystaniem sztucznej inteligencji

W związku z Ciemny ślad

Częstość występowania i wyrafinowanie cyberataków wciąż rośnie. Dzięki możliwości zakłócania operacji biznesowych, usuwania krytycznych danych i powodowania uszczerbku na reputacji stanowią one egzystencjalne zagrożenie dla firm, usług o znaczeniu krytycznym i infrastruktury. Dzisiejsza nowa fala ataków przechytrza i wyprzedza ludzi, a nawet zaczyna wykorzystywać sztuczną inteligencję (AI). To, co jest znane jako ofensywna sztuczna inteligencja, umożliwi cyberprzestępcom kierowanie ukierunkowanych ataków z niespotykaną dotąd szybkością i skalą, jednocześnie pozostając pod radarem tradycyjnych, opartych na regułach narzędzi do wykrywania.

Niektóre z największych i najbardziej zaufanych organizacji na świecie padły już ofiarą szkodliwych cyberataków, osłabiając ich zdolność do ochrony krytycznych danych. Gdy na horyzoncie pojawia się ofensywna sztuczna inteligencja, organizacje muszą przyjąć nową obronę, aby walczyć: rozpoczęła się bitwa algorytmów.

Przygotowanie do cyberataków z wykorzystaniem sztucznej inteligencji

• Pobierz pełny raport

MIT Technology Review Insights, we współpracy z firmą Darktrace zajmującą się cyberbezpieczeństwem AI, przeprowadził ankietę wśród ponad 300 dyrektorów, dyrektorów i menedżerów wyższego szczebla na całym świecie, aby zrozumieć, w jaki sposób radzą sobie z cyberzagrożeniami, z którymi się borykają – i jak wykorzystać sztuczną inteligencję do walki przeciwko nim.

Obecnie 60% respondentów twierdzi, że reakcje na cyberataki kierowane przez człowieka nie nadążają za atakami zautomatyzowanymi, a ponieważ organizacje przygotowują się na większe wyzwanie, bardziej zaawansowane technologie mają kluczowe znaczenie. W rzeczywistości przytłaczająca większość respondentów — 96% — twierdzi, że już zaczęła chronić się przed atakami wspomaganymi przez sztuczną inteligencję, a niektórzy z nich umożliwiają obronę sztuczną inteligencją.

Ofensywne cyberataki AI są zniechęcające, a technologia jest szybka i inteligentna. Weź pod uwagę deepfake, jeden rodzaj uzbrojonego narzędzia AI, które są sfabrykowanymi obrazami lub filmami przedstawiającymi sceny lub osoby, które nigdy nie były obecne, a nawet istniały.

W styczniu 2020 r. FBI ostrzegło, że technologia deepfake osiągnęła już punkt, w którym można było stworzyć sztuczne persony, które mogłyby przejść testy biometryczne. W tempie, w jakim rozwijają się sieci neuronowe AI, powiedział wówczas urzędnik FBI, bezpieczeństwo narodowe może zostać podważone przez fałszywe filmy w wysokiej rozdzielczości tworzone w celu naśladowania osób publicznych, tak aby wyglądały na to, że wypowiadają słowa, które twórcy wideo umieścili w swoich manipulowane usta.

To tylko jeden przykład technologii wykorzystywanej do nikczemnych celów. Sztuczna inteligencja może w pewnym momencie samodzielnie przeprowadzać cyberataki, ukrywając swoje działania i łącząc się z regularną aktywnością. Technologia jest dostępna dla każdego, w tym cyberprzestępców.

Ofensywne zagrożenia związane ze sztuczną inteligencją i zmiany w krajobrazie cyberzagrożeń na nowo definiują bezpieczeństwo przedsiębiorstwa, ponieważ ludzie już teraz starają się nadążyć za zaawansowanymi atakami. W szczególności respondenci ankiety stwierdzili, że ataki e-mailowe i phishingowe wywołują u nich największy niepokój, a prawie trzy czwarte zgłosiło, że zagrożenia e-mailowe są najbardziej niepokojące. To rozkłada się na 40% respondentów, którzy uważają, że ataki e-mail i phishing są bardzo niepokojące, podczas gdy 34% uważa je za nieco niepokojące. Nie jest to zaskakujące, ponieważ 94% wykrytego złośliwego oprogramowania nadal jest dostarczane przez e-mail. Tradycyjne metody powstrzymywania zagrożeń dostarczanych przez pocztę e-mail opierają się na wskaźnikach historycznych — mianowicie wcześniej zaobserwowanych atakach — a także na zdolności odbiorcy do wykrycia znaków, które można ominąć za pomocą wyrafinowanych ataków phishingowych.

Gdy dodamy do tego obraźliwą sztuczną inteligencję, fałszywe e-maile będą prawie nie do odróżnienia od prawdziwej komunikacji od zaufanych kontaktów.

Jak atakujący wykorzystują nagłówki

Pandemia koronawirusa była lukratywną szansą dla cyberprzestępców. Atakujący e-mailami w szczególności postępowali według ustalonego od dawna schematu: wykorzystaj nagłówki dnia — wraz ze strachem, niepewnością, chciwością i ciekawością, które wzbudzają — aby zwabić ofiary w coś, co stało się znane jako ataki strachu. Dzięki pracownikom pracującym zdalnie, bez protokołów bezpieczeństwa w biurze, organizacje doświadczyły gwałtownego wzrostu liczby udanych prób phishingu. Max Heinemeyer, dyrektor ds. poszukiwania zagrożeń w Darktrace, zauważa, że ​​gdy wybuchła pandemia, jego zespół natychmiast zaobserwował ewolucję wiadomości phishingowych. Widzieliśmy wiele e-maili mówiących na przykład: „Kliknij tutaj, aby zobaczyć, które osoby w Twojej okolicy są zainfekowane”, mówi. Kiedy w zeszłym roku urzędy i uniwersytety zaczęły ponownie otwierać się, pojawiły się nowe oszustwa, z e-mailami oferującymi tanie lub bezpłatne programy i testy czyszczenia covid-19, mówi Heinemeyer.

Nastąpił również wzrost liczby programów ransomware, co zbiegło się w czasie ze wzrostem liczby zdalnych i hybrydowych środowisk pracy. Źli ludzie wiedzą o tym teraz, kiedy wszyscy polegają na pracy zdalnej. Jeśli teraz zostaniesz trafiony i nie możesz już zapewnić zdalnego dostępu swojemu pracownikowi, to koniec gry, mówi. Podczas gdy może rok temu ludzie nadal mogli przychodzić do pracy, mogli więcej pracować offline, ale teraz boli o wiele bardziej. I widzimy, że przestępcy zaczęli to wykorzystywać.

Jaki jest wspólny motyw? Zmiana, szybka zmiana i – w przypadku globalnego przejścia na pracę w domu – złożoność. Ilustruje to problem z tradycyjnym cyberbezpieczeństwem, które opiera się na tradycyjnym podejściu opartym na sygnaturach: statyczne zabezpieczenia nie są zbyt dobre w dostosowywaniu się do zmian. Podejścia te ekstrapolują z wczorajszych ataków, aby określić, jak będzie wyglądać jutro. Jak możesz przewidzieć jutrzejszą falę phishingu? To po prostu nie działa, mówi Heinemeyer.

Pobierz pełny raport .

Ta treść została stworzona przez Insights, dział zajmujący się treściami niestandardowymi MIT Technology Review. Nie została napisana przez redakcję MIT Technology Review.

ukryć