Jak ukryć się przed stanem nadzoru AI z kolorowym wydrukiem

Kategoria: Sztuczna inteligencja Opublikowany kwi 23

Technologia wideo oparta na sztucznej inteligencji staje się wszechobecna, śledząc nasze twarze i ciała w sklepach, biurach i przestrzeniach publicznych. W niektórych krajach technologia ta stanowi potężną nową warstwę nadzoru policyjnego i rządowego.

Na szczęście, jak niektórzy badacze z belgijskiego uniwersytetu KU Leuven właśnie pokazałem , często można ukryć się przed systemem wideo AI za pomocą prostego kolorowego wydruku.

Kto to powiedział? Naukowcy wykazali, że zaprojektowany przez nich obraz może ukryć całą osobę przed komputerowym systemem wizyjnym opartym na sztucznej inteligencji. Zademonstrowali to w popularnym systemie rozpoznawania obiektów o otwartym kodzie źródłowym o nazwie YoLo(v2) .

Zabawa w chowanego: Sztuczka mogłaby pozwolić oszustom ukryć się przed kamerami bezpieczeństwa lub zaoferować dysydentom sposób na uniknięcie kontroli rządu. Nasza praca udowadnia, że ​​możliwe jest ominięcie systemów monitoringu kamer za pomocą wrogich łatek – mówi Wiebe Van Ranst , jeden z autorów.

Zgubić się: Van Ranst twierdzi, że dostosowanie podejścia do gotowych systemów nadzoru wideo nie powinno być zbyt trudne. W tej chwili musimy również wiedzieć, który detektor jest w użyciu. To, co chcielibyśmy zrobić w przyszłości, to wygenerować łatkę, która działa na wielu detektorach jednocześnie, powiedział MIT Technology Review. Jeśli to zadziała, istnieje duże prawdopodobieństwo, że łatka zadziała również na detektorze używanym w systemie nadzoru.

Głupi sprawa: Oszustwo zademonstrowane przez belgijski zespół wykorzystuje tak zwane uczenie maszynowe kontradyktoryjności. Większość wizji komputerowych polega na trenowaniu (splotowej) sieci neuronowej w rozpoznawaniu różnych rzeczy poprzez podawanie jej przykładów i dostosowywanie jej parametrów, aż do poprawnej klasyfikacji obiektów. Wprowadzając przykłady do wytrenowanej głębokiej sieci neuronowej i monitorując dane wyjściowe, można wywnioskować, jakie typy obrazów mylą lub oszukują system.

Wszędzie oczy: Praca jest znacząca, ponieważ sztuczna inteligencja jest coraz częściej stosowana w kamerach i oprogramowaniu do monitoringu codziennego. Jest nawet używany, aby wyeliminować konieczność korzystania z linii kasowej w niektórych eksperymentalnych sklepach, w tym obsługiwanych przez Amazon . W Chinach technologia staje się potężnym nowym sposobem łapania przestępców, a także, co bardziej niepokojące, śledzenie określonych grup etnicznych .