Hack, który może sprawić, że rozpoznawanie twarzy pomyśli, że ktoś inny to ty

Michael Aleo / Unsplash

Naukowcy wykazali, że potrafią oszukać nowoczesny system rozpoznawania twarzy, aby zobaczyć kogoś, kogo nie ma.

Zespół firmy McAfee zajmującej się cyberbezpieczeństwem przeprowadził atak na system rozpoznawania twarzy podobny do tych, które są obecnie używane na lotniskach do weryfikacji paszportów. Korzystając z uczenia maszynowego, stworzyli obraz, który dla ludzkiego oka wyglądał jak jedna osoba, ale został zidentyfikowany jako ktoś inny przez algorytm rozpoznawania twarzy — co jest odpowiednikiem oszukania maszyny, aby pozwoliła komuś wejść na pokład samolotu, mimo że nie ma lista latania.

Jeśli podejdziemy do kamery na żywo, która wykorzystuje rozpoznawanie twarzy, aby zidentyfikować i zinterpretować, na kogo patrzą, i porównać to ze zdjęciem paszportowym, możemy realistycznie i wielokrotnie powodować tego rodzaju ukierunkowaną błędną klasyfikację, powiedział główny autor badania. Steve Povolny.

Jak to działa

Aby zmylić algorytm, naukowcy wykorzystali algorytm tłumaczenia obrazu znany jako CycleGAN, który doskonale sprawdza się w przekształcaniu zdjęć z jednego stylu w inny. Na przykład może sprawić, że zdjęcie portu będzie wyglądało tak, jakby zostało namalowane przez Moneta, a zdjęcie gór zrobione latem będzie wyglądało tak, jakby zostało zrobione zimą.

JUN-YAN ZHU I TAESUNG PARK ET AL.

Zespół McAfee wykorzystał 1500 zdjęć każdego z dwóch leadów projektu i przekazał obrazy do CycleGAN, aby przekształcić je w siebie. W tym samym czasie użyli algorytmu rozpoznawania twarzy, aby sprawdzić wygenerowane obrazy CycleGAN, aby zobaczyć, kogo rozpoznał. Po wygenerowaniu setek obrazów, CycleGAN w końcu stworzył sfałszowany obraz, który gołym okiem wyglądał jak osoba A, ale oszukał rozpoznawanie twarzy, myśląc, że to osoba B.

MCAFEE

Chociaż badanie budzi wyraźne obawy dotyczące bezpieczeństwa systemów rozpoznawania twarzy, istnieją pewne zastrzeżenia. Po pierwsze, badacze nie mieli dostępu do rzeczywistego systemu używanego przez lotniska do identyfikacji pasażerów, a zamiast tego przybliżyli go za pomocą najnowocześniejszego algorytmu o otwartym kodzie źródłowym. Myślę, że dla atakującego będzie najtrudniejsza część do pokonania, mówi Povolny, gdzie [oni] nie mają dostępu do systemu docelowego. Niemniej jednak, biorąc pod uwagę duże podobieństwa między algorytmami rozpoznawania twarzy, uważa, że ​​jest prawdopodobne, że atak zadziała nawet na rzeczywistym systemie lotniska.

Jak działają GAN

• Sieci generatywnych przeciwników to klasa algorytmów, które sprytnie zestawiają ze sobą sieci neuronowe, aby generować lepsze wyniki.

  W tradycyjnym GAN istnieją tylko dwie sieci: generator, który trenuje na zbiorze danych, powiedzmy, krajobrazie letnim, aby wypluć więcej krajobrazów letnich; oraz dyskryminator, który porównuje wygenerowane krajobrazy z tym samym zestawem danych, aby zdecydować, czy są prawdziwe, czy fałszywe.

  CycleGAN modyfikuje ten proces, mając dwa generatory i dwa dyskryminatory. Istnieją również dwa zestawy obrazów, takie jak letnie pejzaże oraz zimowe pejzaże reprezentujące rodzaje zdjęć, które chcesz przetłumaczyć.

  Tym razem pierwszy generator ćwiczy na obrazach letnich krajobrazów w celu wygenerowania zimowych krajobrazów. Drugi generator tymczasem trenuje na obrazach zimowych krajobrazów, aby wygenerować letnie. Obaj dyskryminatorzy po raz kolejny ciężko pracują, aby złapać fałszerstwo, dopóki sfałszowane krajobrazy nie będą nie do odróżnienia od prawdziwych.

  
  
  

Po drugie, dzisiaj taki atak wymaga dużo czasu i zasobów. CycleGANs potrzebują potężnych komputerów i wiedzy specjalistycznej do szkolenia i wykonywania.

Jednak systemy rozpoznawania twarzy i zautomatyzowana kontrola paszportów są coraz częściej wykorzystywane do zapewnienia bezpieczeństwa na lotniskach na całym świecie przyspieszone przez pandemię Covid-19 oraz pragnienie systemów bezdotykowych. Technologia jest już szeroko wykorzystywana przez rządy i korporacje w takich obszarach jak: egzekwowanie prawa , wynajmowanie , oraz bezpieczeństwo imprez — chociaż wiele grup wezwało do moratorium na takie wydarzenia i niektóre miasta zakazali technologii .

Istnieją inne techniczne próby obalenia rozpoznawania twarzy. Niedawno wydany zespół University of Chicago Fawkes , narzędzie przeznaczone do maskowania twarzy poprzez nieznaczną zmianę zdjęć w mediach społecznościowych, aby oszukać systemy sztucznej inteligencji polegające na zeskrobanych bazach danych miliardów takich zdjęć. Naukowcy z firmy Kneron zajmującej się sztuczną inteligencją również pokazał jak maski mogą oszukać systemy rozpoznawania twarzy, które są już używane na całym świecie.

Naukowcy z McAfee twierdzą, że ich celem jest ostatecznie wykazanie nieodłącznych słabości tych systemów sztucznej inteligencji i wyjaśnienie, że ludzie muszą pozostać w pętli.

Sztuczna inteligencja i rozpoznawanie twarzy to niezwykle potężne narzędzia, które pomagają w identyfikowaniu i autoryzacji osób, mówi Povolny. Ale kiedy po prostu bierzesz je i ślepo zastępujesz istniejący system, który całkowicie opiera się na człowieku, bez jakiejś dodatkowej kontroli, wtedy nagle wprowadziłeś może większą słabość niż miałeś wcześniej.

ukryć