Nowy sposób na szkolenie systemów AI może chronić je przed hakerami

Kategoria: Sztuczna inteligencja Opublikowany 10 lipca

Kontekst: Jedną z największych nierozwiązanych wad głębokiego uczenia się jest jego podatność na tzw ataki kontradyktoryjności . Po dodaniu do danych wejściowych systemu sztucznej inteligencji, te perturbacje, pozornie losowe lub niewykrywalne dla ludzkiego oka, mogą sprawić, że wszystko pójdzie nie tak. Na przykład naklejki strategicznie umieszczone na znaku stopu mogą skłonić samochód autonomiczny do zauważenia znaku ograniczenia prędkości z prędkością 45 mil na godzinę, podczas gdy naklejki na drodze mogą pomylić Teslę w skręcanie na zły pas.

Bezpieczeństwo krytyczne: Większość badań kontradyktoryjnych koncentruje się na systemach rozpoznawania obrazów, ale na obrazie opartym na głębokim uczeniu rekonstrukcja systemy również są podatne na ataki. Jest to szczególnie niepokojące w opiece zdrowotnej, gdzie te ostatnie są często przyzwyczajone rekonstruować obrazy medyczne jak skany CT lub MRI z danych rentgenowskich. Ukierunkowany atak przeciwnika może spowodować, że taki system zrekonstruuje guz w skanie, w którym go nie ma.

Badanie: Bo Li (nazwana jednym z tegorocznych MIT Technology Review Innovators Under 35) i jej koledzy z University of Illinois w Urbana-Champaign proponują teraz nowa metoda szkolenie takich systemów głębokiego uczenia się, aby były bardziej odporne na awarie, a tym samym godne zaufania w scenariuszach krytycznych dla bezpieczeństwa. Zestawiają sieć neuronową odpowiedzialną za rekonstrukcję obrazu z inną siecią neuronową odpowiedzialną za generowanie przykładów kontradyktoryjności, w stylu podobnym do Algorytmy GAN . Poprzez iteracyjne rundy sieć przeciwników próbuje oszukać sieć rekonstrukcyjną, aby wytworzyć rzeczy, które nie są częścią oryginalnych danych ani podstawowej prawdy. Sieć rekonstrukcji stale się dostraja, aby nie dać się oszukać, dzięki czemu jej wdrażanie w prawdziwym świecie jest bezpieczniejsze.

Wyniki: Kiedy naukowcy przetestowali swoją sieć neuronową wytrenowaną przez przeciwników na dwóch popularnych zestawach danych obrazowych, byli w stanie zrekonstruować podstawową prawdę lepiej niż inne sieci neuronowe, które były odporne na awarie różnymi metodami. Wyniki nadal nie są jednak doskonałe, co pokazuje, że metoda nadal wymaga dopracowania. Praca zostanie zaprezentowana w przyszłym tygodniu na Międzynarodowa konferencja na temat uczenia maszynowego . (Przeczytaj Algorytm z tego tygodnia, aby uzyskać wskazówki, jak poruszać się po konferencjach AI, takich jak ta.)