Algorytmy komputerowego widzenia są wciąż zbyt łatwe do oszukania

Kategoria: Sztuczna inteligencja Opublikowany 20 grudnia

Rozpoznawanie obrazów AI poczyniło pewne oszałamiające postępy, ale jak pokazują nowe badania, systemy wciąż mogą potykać się o przykłady, które nigdy nie oszukałyby osoby.

Labsix, grupa studentów MIT, którzy niedawno oszukali klasyfikator obrazów opracowany przez Google, aby pomyślał: Żółw wydrukowany w 3D był karabinem , wydany a gazeta w środę zawiera szczegóły innej techniki, która może jeszcze szybciej oszukać systemy. Tym razem jednak udało im się oszukać czarną skrzynkę, w której mieli tylko częściowe informacje o tym, jak system podejmował decyzje.

Nowy algorytm zespołu zaczyna się od obrazu, którego chce użyć, aby oszukać inny system — w przykładzie z ich artykułu jest to pies — a następnie zaczyna zmieniać piksele, aby obraz wyglądał bardziej jak obraz źródłowy; w tym przypadku narciarze. Działając, algorytm kontradyktoryjny rzuca wyzwanie systemowi rozpoznawania obrazu wersjami obrazu, które szybko przemieszczają się na terytorium, które każdy człowiek rozpoznałby jako narciarz (spójrz na gif powyżej). Ale przez cały czas algorytm utrzymuje odpowiednią kombinację sabotowanych pikseli, aby system pomyślał, że patrzy na psa.

Naukowcy przetestowali swoją metodę na Google Cloud Vision API – dobrym przypadku testowym, częściowo dlatego, że Google nie opublikowało nic na temat działania oprogramowania do widzenia komputerowego, ani nawet wszystkich etykiet, których system używa do klasyfikowania obrazów. Zespół twierdzi, że do tej pory próbowali tylko udaremnić system Google, ale ich technika powinna działać również w innych systemach rozpoznawania obrazu.

Pracuje wielu naukowców kontrowanie przykłady kontradyktoryjności w ten sposób, ale do zastosowań krytycznych dla bezpieczeństwa, takich jak pojazdy autonomiczne , sztucznej inteligencji nie można ufać, dopóki ataki przeciwnika nie będą niemożliwe, a przynajmniej znacznie trudniejsze, do przeprowadzenia.