Jak długo zanim systemy sztucznej inteligencji zostaną zhakowane na nowe, kreatywne sposoby?

Najnowsze techniki sztucznej inteligencji są wdrażane przez firmy w błyskawicznym tempie. Wkrótce hakerzy również mogą zacząć się im bliżej przyglądać i mogą powodować różnego rodzaju kłopoty, oszukując te systemy iluzorycznymi danymi.

Przemawiając na niedawnej konferencji AI w Barcelonie w Hiszpanii, Ian Goodfellow, naukowiec z OpenAI, który wykonał pionierską pracę nad oszukiwaniem systemów uczenia maszynowego, powiedział, że atakowanie systemów jest łatwe. Powiedział, że prawie wszystko, co można zrobić z modelem uczenia maszynowego, można zrobić już teraz. A jego obrona jest naprawdę trudna.

W ciągu ostatnich kilku lat naukowcy wykazali różne sposoby manipulowania programami uczenia maszynowego, wykorzystując ich skłonność do wykrywania wzorców w danych. Są podatni po części dlatego, że brakuje im rzeczywistej inteligencji. Na przykład możliwe jest użycie billboardu, aby oszukać systemy wizyjne w samojezdnych samochodach, aby widziały rzeczy, których tam nie ma. Niesłyszalne sygnały mogą nakłonić sterowanych głosem asystentów do podjęcia niepożądanych działań, takich jak odwiedzenie strony internetowej i pobranie złośliwego oprogramowania.

Goodfellow i inni opracowują środki zaradcze. Możliwe jest wytrenowanie systemu uczenia maszynowego w rozpoznawaniu, a następnie ignorowaniu wprowadzających w błąd przykładów. Ale ochrona przed każdym możliwym atakiem jest trudna.

Oszukiwanie systemów uczenia maszynowego może stać się czymś więcej niż ćwiczeniem akademickim. To bardzo realne, mówi Patrick McDaniel, profesor Pennsylvania State University, który zbadał tę kwestię. Systemy uczenia maszynowego sterują wszelkiego rodzaju funkcjami, na których mogą zarabiać przeciwnicy, więc zorganizowani i wyrafinowani napastnicy przyjmą te ataki.

McDaniel zwraca uwagę, że hakerzy od lat przechytrzają systemy uczenia maszynowego. Na przykład spamerzy karmili algorytmy uczące się fałszywymi wiadomościami e-mail, aby umożliwić późniejsze przekazywanie spamu. Mówi, że może nie minąć dużo czasu, zanim pojawią się bardziej wyrafinowane ataki.

McDaniel mówi, że już niedługo nastąpią pierwsze ataki na systemy klasyfikacji online. Może to obejmować nowoczesne filtry antyspamowe, systemy zaprojektowane do wykrywania materiałów nielegalnych lub objętych prawami autorskimi oraz zaawansowane systemy bezpieczeństwa komputerowego oparte na uczeniu maszynowym.

Nowy artykuł sugeruje, że problem może być bardziej rozpowszechniony niż dotychczas. Pokazuje, że pewne oszustwa można ponownie wykorzystać przeciwko różnym systemom uczenia maszynowego, a nawet przeciwko dużemu systemowi czarnej skrzynki, o którym atakujący nie ma wcześniej wiedzy.

Błędy czające się w tych popularnych narzędziach uczenia maszynowego mogą zapewnić inny sposób ich namierzenia. Nowe narzędzia do uczenia maszynowego rozwijają się w szybkim tempie i często są udostępniane bezpłatnie online, zanim zostaną zastosowane w aktywnych usługach, takich jak rozpoznawanie obrazów lub narzędzia do analizy języka naturalnego.

Przemawiając na tej samej konferencji w Hiszpanii, Octavian Suciu, doktorant na Uniwersytecie Maryland, zwrócił uwagę na szereg takich luk w niektórych popularnych narzędziach. Suciu przeanalizował kod źródłowy tych programów i stwierdził, że można nim manipulować. Odkrył problemy ze sposobem, w jaki niektóre narzędzia przechowują informacje w pamięci, co oznacza, że ​​podanie bardzo dużej porcji danych może nadpisać część programu, zmieniając jego zachowanie.

Suciu spekuluje, że takie podejście może zapewnić wygodny sposób manipulowania, na przykład narzędziem, które oferuje prognozy giełdowe, które można następnie wykorzystać do skrócenia rynku. Jeśli [model] mówi ci, że akcje pójdą w górę, możesz zmienić prognozę, aby powiedzieć, że spadną, mówi.

ukryć