Sztuczna inteligencja dla bezpieczeństwa cybernetycznego to gorąca nowość — i niebezpieczny hazard

Obraz kodu nałożony na zdjęcie dłoni na klawiaturze laptopa Unsplash

Kiedy spacerowałem po hali wystawienniczej podczas ogromnej konferencji poświęconej cyberbezpieczeństwu Black Hat w Las Vegas w tym tygodniu, uderzyła mnie liczba firm chwalących się tym, jak wykorzystują uczenie maszynowe i sztuczną inteligencję, aby uczynić świat bezpieczniejszym miejscem.

Jednak niektórzy eksperci martwią się, że dostawcy nie zwracają wystarczającej uwagi na ryzyko związane z dużym poleganiem na tych technologiach. To, co się dzieje, jest trochę niepokojące, a w niektórych przypadkach nawet niebezpieczne, ostrzega Raffael Marty z firmy ochroniarskiej Forcepoint.

Głód algorytmów w branży bezpieczeństwa jest zrozumiały. Stoi w obliczu tsunami cyberataków, podobnie jak liczba urządzeń podłączanych do Internetu gwałtownie rośnie. Jednocześnie istnieje ogromny niedobór wykwalifikowanych pracowników cybernetycznych (patrz podstępne nowe zagrożenie cyberbezpieczeństwa: stres siły roboczej).

Korzystanie z uczenia maszynowego i sztucznej inteligencji w celu zautomatyzowania wykrywania zagrożeń i reagowania na nie może zmniejszyć obciążenie pracowników i potencjalnie pomóc w identyfikacji zagrożeń skuteczniej niż inne podejścia oparte na oprogramowaniu.

Zagrożenia danych

Ale Marty i inni przemawiający w Black Hat twierdzą, że wiele firm wprowadza teraz produkty oparte na uczeniu maszynowym, ponieważ czują, że muszą to zrobić, aby zdobyć publiczność wśród klientów, którzy kupili cykl hype AI. I istnieje niebezpieczeństwo, że przeoczą sposoby, w jakie algorytmy uczenia maszynowego mogą tworzyć fałszywe poczucie bezpieczeństwa.

Wiele wdrażanych produktów obejmuje nadzorowane uczenie się, które wymaga od firm wybierania i oznaczania zestawów danych, na których są szkolone algorytmy — na przykład przez oznaczanie kodu, który jest złośliwym oprogramowaniem i kodu, który jest czysty.

Marty mówi, że jednym z zagrożeń jest to, że w pośpiechu, aby wprowadzić swoje produkty na rynek, firmy wykorzystują informacje szkoleniowe, które nie zostały dokładnie usunięte z anomalnych punktów danych. Może to prowadzić do tego, że algorytm może przeoczyć niektóre ataki. Innym jest to, że hakerzy, którzy uzyskują dostęp do systemów firmy zajmującej się bezpieczeństwem, mogą uszkodzić dane, zmieniając etykiety, tak aby niektóre przykłady złośliwego oprogramowania były oznaczane jako czysty kod.

Źli ludzie nie muszą nawet manipulować danymi; zamiast tego mogliby opracować funkcje kodu używanego przez model do oznaczania złośliwego oprogramowania, a następnie usunąć je ze swojego złośliwego kodu, aby algorytm go nie wychwycił.

Jeden kontra wielu

Podczas sesji na konferencji Holly Stewart i Jugal Parikh z Microsoftu wskazali na ryzyko nadmiernego polegania na jednym, nadrzędnym algorytmie do sterowania systemem bezpieczeństwa. Niebezpieczeństwo polega na tym, że jeśli ten algorytm zostanie naruszony, nie ma innego sygnału, który wskazywałby na jego problem.

Aby się przed tym chronić, usługa ochrony przed zagrożeniami Windows Defender firmy Microsoft wykorzystuje zróżnicowany zestaw algorytmów z różnymi zestawami danych treningowych i funkcjami. Jeśli więc jeden algorytm zostanie zhakowany, wyniki pozostałych — zakładając, że ich integralność również nie została naruszona — podkreślą anomalię w pierwszym modelu.

Poza tymi kwestiami. Marty z Forcepoint zauważa, że ​​przy niektórych bardzo złożonych algorytmach może być naprawdę trudno zrozumieć, dlaczego faktycznie wypluwają pewne odpowiedzi. Ten problem z wyjaśnieniem może utrudnić ocenę, co prowadzi do pojawiających się anomalii (patrz Mroczna tajemnica w sercu sztucznej inteligencji).

Nic z tego nie oznacza, że ​​sztuczna inteligencja i uczenie maszynowe nie powinny odgrywać ważnej roli w arsenale obronnym. Przesłanie Marty’ego i innych jest takie, że dla firm ochroniarskich — i ich klientów — bardzo ważne jest monitorowanie i minimalizowanie ryzyka związanego z modelami algorytmicznymi.

To niemałe wyzwanie, biorąc pod uwagę, że ludzie z idealną kombinacją głębokiej wiedzy z zakresu cyberbezpieczeństwa i nauki o danych są wciąż tak rzadcy, jak chłodny dzień lata w Las Vegas.

ukryć