211service.com
Jak złowrogie uczenie maszynowe może wykoleić sztuczną inteligencję?
Jeremy Portje
Sztuczna inteligencja niczego nie zrewolucjonizuje, jeśli hakerzy będą mogli z nią zadzierać.
To jest ostrzeżenie od Pieśń świtu , profesor na UC Berkeley, który specjalizuje się w badaniu zagrożeń bezpieczeństwa związanych ze sztuczną inteligencją i uczeniem maszynowym.
Przemawiając na EmTech Digital, wydarzeniu w San Francisco, zorganizowanym przez MIT Technology Review, Song ostrzegł, że nowe techniki sondowania i manipulowania systemami uczenia maszynowego – znane w terenie jako przeciwstawne metody uczenia maszynowego – mogą spowodować duże problemy każdemu, kto chce wykorzystać moc AI w biznesie.
Song powiedział, że kontradyktoryjne uczenie maszynowe może zostać wykorzystane do ataku na niemal każdy system zbudowany na tej technologii.
To duży problem, powiedziała publiczności. Musimy się zjednoczyć, żeby to naprawić.
Wrogie uczenie maszynowe polega na eksperymentalnym wprowadzaniu danych wejściowych do algorytmu w celu ujawnienia informacji, na których został wyszkolony, lub zniekształcaniu danych wejściowych w sposób, który powoduje nieprawidłowe zachowanie systemu. Wprowadzając wiele obrazów do algorytmu wizji komputerowej, na przykład, można dokonać inżynierii wstecznej jego działania i zapewnić określone rodzaje danych wyjściowych, w tym nieprawidłowe.
Song przedstawiła kilka przykładów sztuczek polegających na uczeniu się przeciwników, które zbadała jej grupa badawcza.
Jeden projekt, realizowany we współpracy z Google, obejmował badanie algorytmów uczenia maszynowego wyszkolonych do generowania automatycznych odpowiedzi z wiadomości e-mail (w tym przypadku Zestaw danych e-mail Enron ). Wysiłek pokazał, że tworząc odpowiednie komunikaty, możliwe jest, aby model maszyny wypluwał poufne dane, takie jak numery kart kredytowych. Odkrycia zostały wykorzystane przez Google, aby zapobiec wykorzystaniu Smart Compose, narzędzia, które automatycznie generuje tekst w Gmailu.
Inny projekt dotyczył modyfikacji znaków drogowych za pomocą kilku nieszkodliwie wyglądających naklejek, aby oszukać komputerowe systemy wizyjne stosowane w wielu pojazdach. W demonstracji wideo Song pokazał, jak samochód można oszukać, myśląc, że znak stopu mówi, że ograniczenie prędkości wynosi 45 mil na godzinę. Może to stanowić ogromny problem dla zautomatyzowanego systemu jazdy, który opiera się na takich informacjach.
Wrogie uczenie maszynowe to obszar rosnącego zainteresowania badaczy zajmujących się uczeniem maszynowym. W ciągu ostatnich kilku lat inne grupy badawcze pokazały, jak internetowe interfejsy API uczenia maszynowego mogą być badane i wykorzystywane do opracowywania sposobów ich oszukiwania lub ujawniania poufnych informacji.
Nic dziwnego, że wrogie uczenie maszynowe jest również bardzo interesujące dla społeczności obronnej. Wraz z rosnącą liczbą systemów wojskowych — w tym systemów wykrywania i systemów uzbrojenia — wykorzystujących uczenie maszynowe, istnieje ogromny potencjał do wykorzystania tych technik zarówno defensywnie, jak i ofensywnie.
W tym roku dział badawczy Pentagonu, DARPA, uruchomił duży projekt o nazwie Guaranteeing AI Robustness against Deception (GARD), którego celem jest badanie wrogiego uczenia maszynowego. Hava Siegelmann , dyrektor programu GARD, powiedział niedawno MIT Technology Review, że celem tego projektu było opracowanie modeli sztucznej inteligencji, które będą odporne na szeroką gamę ataków adwersarzy, a nie po prostu będą w stanie bronić się przed konkretnymi atakami.