Jak zamienić psa w samochód? Zmień pojedynczy piksel.

Kategoria: Bez kategorii Opublikowany 30 paź

Podziękuj za ten żart nowemu podejściu do podszywania się pod sztuczną inteligencję rozpoznawania obrazów, opracowanej przez zespół z Uniwersytetu Kyushu w Japonii.

Próba wyłapania sztucznej inteligencji jest popularną rozrywką wielu badaczy . W przeszłości informowaliśmy o fałszowaniu uczenia maszynowego. Ogólne podejście polega na dodawaniu funkcji do obrazów, które nieprawidłowo uruchamiają sieć neuronową i sprawiają, że identyfikuje to, co postrzega jako coś zupełnie innego.

Nowe badania, opublikowane na arXiv , opisuje algorytm, który może skutecznie identyfikować najlepsze piksele do zmiany, aby zmylić sztuczną inteligencję do błędnego oznaczenia obrazu. Zmieniając tylko jeden piksel w 1024-pikselowym obrazie, oprogramowanie może oszukać sztuczną inteligencję w około 74 procentach czasu. Liczba ta wzrasta do około 87 procent, jeśli poprawiono pięć pikseli.

Możesz zobaczyć kilka przykładów powyżej, które sfałszowały sztuczną inteligencję, między innymi, nazywając samolot psem, żabę ciężarówką, a koń samochodem.

Jak ten Zarejestrować zwraca uwagę , obrazy o rozdzielczości 1024 pikseli są cholernie małe, co oznacza, że ​​większe obrazy wymagałyby dostrojenia setek pikseli. Ale nacisk na to, by sztuczna inteligencja przewróciła się przy użyciu jak najmniejszej liczby możliwych zmian, jest w równym stopniu interesujący i niepokojący. Jak wyjaśniliśmy w przeszłości, znalezienie sposobu na ochronę AI przed tego rodzaju sztuczkami jest dość trudne, ponieważ wciąż nie rozumiemy tak naprawdę wewnętrznego działania głębokich sieci neuronowych.

Dopóki tego nie zrobimy, trudno będzie uniknąć takich włamań.