AI Fight Club może pomóc ocalić nas przed superinteligentnymi cyberatakami w przyszłości

Jan Malta

Nowy konkurs zapowiada to, co prawdopodobnie stanie się przyszłością cyberbezpieczeństwa i cyberwojny, z ofensywnymi i defensywnymi algorytmami AI w walce.

ten Konkurs , który będzie rozgrywał się przez najbliższe pięć miesięcy, jest prowadzony przez Kaggle , platforma konkursów z zakresu nauki o danych. Spowoduje to, że algorytmy naukowców będą się ze sobą mieszać, próbując zmylić i oszukać się nawzajem, mając nadzieję, że ta walka przyniesie wgląd w to, jak wzmocnić systemy uczenia maszynowego przed przyszłymi atakami.

To świetny pomysł, aby katalizować badania zarówno nad oszukiwaniem głębokich sieci neuronowych, jak i projektowaniem głębokich sieci neuronowych, których nie można oszukać, mówi Jeff Clune , adiunkt na Uniwersytecie Wyoming, który bada ograniczenia uczenia maszynowego.

Konkurs będzie składał się z trzech komponentów. Jednym z wyzwań będzie po prostu próba zmylenia systemu uczenia maszynowego, aby nie działał prawidłowo. Innym będzie próba zmuszenia systemu do nieprawidłowej klasyfikacji. A trzecia będzie polegać na opracowaniu najsolidniejszych mechanizmów obronnych. Wyniki zostaną zaprezentowane na dużej konferencji AI jeszcze w tym roku.

Uczenie maszynowe, a w szczególności uczenie głębokie, szybko staje się niezbędnym narzędziem w wielu branżach. Technologia polega na wprowadzeniu danych do specjalnego programu komputerowego, określeniu konkretnego wyniku i opracowaniu przez maszynę własnego algorytmu, aby osiągnąć ten wynik. Głębokie uczenie robi to poprzez modyfikowanie parametrów ogromnej, połączonej sieci matematycznie symulowanych neuronów.

Od dawna wiadomo, że systemy uczenia maszynowego można oszukać. Spamerzy mogą na przykład ominąć współczesne filtry spamu, dowiadując się, jakie wzorce identyfikują algorytm filtru.

Jednak w ostatnich latach naukowcy wykazali, że nawet najmądrzejsze algorytmy mogą czasami zostać wprowadzone w błąd w zaskakujący sposób. Na przykład algorytmy głębokiego uczenia się z niemal ludzkimi umiejętnościami rozpoznawania obiektów na obrazach można oszukać przez pozornie abstrakcyjne lub losowe obrazy, które wykorzystują wzorce niskiego poziomu, których szukają te algorytmy (patrz Mroczny sekret w sercu sztucznej inteligencji).

Uczenie maszynowe kontradyktoryjności jest trudniejsze do zbadania niż konwencjonalne uczenie maszynowe — trudno powiedzieć, czy twój atak jest silny, czy też obrona jest rzeczywiście słaba, mówi Ian Goodfellow, badacz z Mózg Google , dział Google zajmujący się badaniem i stosowaniem uczenia maszynowego, który zorganizował konkurs.

Ponieważ uczenie maszynowe staje się wszechobecne, istnieje obawa, że ​​takie ataki mogą zostać wykorzystane dla zysku lub czystej psoty. Hakerzy mogą na przykład ominąć środki bezpieczeństwa w celu zainstalowania złośliwego oprogramowania.

Bezpieczeństwo komputerów zdecydowanie zmierza w kierunku uczenia maszynowego, mówi Goodfellow. Źli ludzie będą wykorzystywać uczenie maszynowe do automatyzacji swoich ataków, a my będziemy wykorzystywać uczenie maszynowe do obrony.

Teoretycznie przestępcy mogą również oszukiwać systemy rozpoznawania głosu i twarzy, a nawet umieszczać plakaty, aby oszukać systemy wizyjne w samojezdnych samochodach, powodując ich awarię.

Kaggle stał się nieocenioną pożywką dla rozwoju algorytmów i wylęgarnią utalentowanych naukowców zajmujących się danymi. Firma została przejęta przez Google w marcu i jest teraz częścią platformy Google Cloud. Goodfellow i inny badacz Google Brain, Alexey Kurakin, przedłożyli pomysł na wyzwanie przed przejęciem.

Benjamin Hamner, współzałożyciel i dyrektor techniczny Kaggle, ma nadzieję, że konkurs zwróci uwagę na nadciągający problem. W miarę jak uczenie maszynowe staje się coraz szerzej stosowane, zrozumienie problemów i zagrożeń związanych z uczeniem się przeciwników staje się coraz ważniejsze, mówi.

Korzyści z otwartego konkursu przewyższają wszelkie ryzyko związane z nagłaśnianiem nowych rodzajów ataków, dodaje: Uważamy, że najlepiej jest tworzyć i udostępniać te badania w sposób otwarty, a nie za zamkniętymi drzwiami.

Tymczasem Clune mówi, że chce, aby konkurs przetestował algorytmy, które rzekomo mogą wytrzymać atak. Moje pieniądze są w sieciach, które nadal są oszukiwane w dającej się przewidzieć przyszłości, mówi.

ukryć