211service.com
Hakerzy są prawdziwą przeszkodą dla autonomicznych pojazdów
Espen Friberg
Zanim autonomiczne ciężarówki i taksówki ruszą na drogi, producenci będą musieli rozwiązać problemy znacznie bardziej złożone niż unikanie kolizji i nawigacja (patrz 10 Breakthrough Technologies 2017: Self-driving Trucks ).
Pojazdy te będą musiały przewidywać i bronić się przed pełnym spektrum złośliwych napastników korzystających zarówno z tradycyjnych cyberataków, jak i nowej generacji ataków opartych na tzw. ). Wraz z rosnącym konsensusem, że za kilka lat pojazdy autonomiczne zostaną wdrożone w miastach jako zrobotyzowane taksówki i na autostradach, aby złagodzić otępiającą nudę długodystansowych ciężarówek, tego ryzyka ataku w dużej mierze nie ma w zapierającym dech w piersiach reportażu.
Przypomina mi to liczne artykuły promujące pocztę e-mail we wczesnych latach 90., zanim nowo odkryty świat komunikacji elektronicznej był zalany niechcianym spamem. W tamtych czasach obietnica uczenia maszynowego była postrzegana jako rozwiązanie światowych problemów ze spamem. I rzeczywiście, dzisiaj problem spamu został w dużej mierze rozwiązany – ale dotarcie tutaj zajęło nam dekady.
Do tej pory nie było doniesień o wrogich hakerach atakujących pojazdy autonomiczne. Jak na ironię, to jest problem. Nie było żadnych szkodliwych napastników, gdy start-upy dot-comów w latach 90. opracowały pierwsze platformy handlu elektronicznego. Po pierwszej dużej rundzie hacków e-commerce Bill Gates napisał notatkę do Microsoftu, żądając, aby firma poważnie podchodziła do kwestii bezpieczeństwa . Rezultat: dziś Windows jest jednym z najbezpieczniejszych systemów operacyjnych i Microsoft wydaje ponad miliard dolarów rocznie na cyberbezpieczeństwo . Niemniej jednak hakerzy wciąż znajdują problemy z systemami operacyjnymi Windows, przeglądarkami internetowymi i aplikacjami.
Firmy samochodowe prawdopodobnie przejdą podobną progresję. Po tym, jak byli szeroko zakłopotani, że w ogóle nie biorą pod uwagę bezpieczeństwa — magistrala CAN, zaprojektowana w latach 80., nie ma koncepcji uwierzytelniania — teraz wydają się zwracać na to uwagę. Kiedy hakerzy wykazali, że pojazdy na drogach są podatne na kilka konkretnych zagrożeń bezpieczeństwa, producenci samochodów zareagowali, przywołując i aktualizując oprogramowanie układowe milionów samochodów. W lipcu ubiegłego roku dyrektor generalna GM Mary Barra powiedziała, że ochrona samochodów przed incydentem związanym z cyberbezpieczeństwem jest kwestią bezpieczeństwa publicznego.
Jednak wysiłki podejmowane do tej pory mogą nie uwzględniać kolejnego trendu w zakresie bezpieczeństwa. Opracowywane komputerowe systemy wizyjne i unikania kolizji dla pojazdów autonomicznych opierają się na złożonych algorytmach uczenia maszynowego, które nie są dobrze rozumiane, nawet przez firmy, które z nich korzystają (patrz Mroczny sekret w sercu sztucznej inteligencji).
Ubiegłoroczni naukowcy z CMU wykazał, że najnowocześniejsze algorytmy rozpoznawania twarzy można pokonać, nosząc przezroczyste okulary z nadrukowanym na ich oprawkach dziwacznym wzorem. Coś we wzorcu przechyliło algorytm we właściwy sposób i pomyślał, że zobaczył to, czego tam nie było. Pokazaliśmy, że napastnicy mogą obejść najnowocześniejsze algorytmy rozpoznawania twarzy oparte na sieciach neuronowych w celu podszywania się pod osobę docelową lub po prostu nieprawidłowej identyfikacji, napisał w e-mailu główny badacz Mahmood Sharif.
Również w zeszłym roku naukowcy z University of South Carolina, chińskiego Uniwersytetu Zhejiang i chińskiej firmy ochroniarskiej Qihoo 360 wykazał, że mogli zablokować różne czujniki na Tesli S, czyniąc obiekty niewidocznymi dla systemu nawigacyjnego.
Wiele niedawnych artykułów o autonomicznej jeździe bagatelizuje, a nawet ignoruje pomysł, że mogą istnieć aktywni, adaptacyjni i złośliwi przeciwnicy próbujący spowodować awarię pojazdów. W rozmowie z Przegląd technologii MIT , przewodniczący Narodowej Rady Bezpieczeństwa Transportu, Christopher Hart, powiedział, że jest bardzo optymistyczny, że autonomiczne samochody zmniejszą liczbę wypadków na drogach krajowych. Omawiając kwestie bezpieczeństwa, Hart skupił się na potrzebie zaprogramowania pojazdów w celu podejmowania etycznych decyzji — na przykład, gdy ciężarówka o wadze 80 000 funtów nagle blokuje drogę samochodowi.
Dlaczego ktoś miałby chcieć włamać się do autonomicznego samochodu, wiedząc, że może to spowodować śmierć? Jednym z powodów jest to, że rozpowszechnienie pojazdów autonomicznych spowoduje, że wiele osób będzie bezrobotnych, a niektórzy z nich będą się denerwować.
W sierpniu 2016 r. dyrektor generalny Forda Mark Fields powiedział to planował mieć w pełni autonomiczne pojazdy działające jako taksówki miejskie do 2021 r. Google, Nissan i inni planowali, że podobne autonomiczne samochody będą pojawiać się na drogach już w 2020 r. Te zautomatyzowane taksówki lub pojazdy dostawcze mogą być podatne na złośliwe oślepienie wysokim -wskaźnik laserowy zasilany przez bezrobotnego Teamstera, byłego kierowcę Ubera, który wciąż musi zapłacić za samochód, lub po prostu grupę znudzonych nastolatków.
Zapytana o plany rozwiązania problemu wrogiego uczenia maszynowego, Sarah Abboud, rzeczniczka Ubera, odpowiedziała: Nasz zespół ekspertów ds. bezpieczeństwa stale bada nowe zabezpieczenia dla przyszłości pojazdów autonomicznych, w tym integralność danych i wykrywanie nadużyć. Jednak wraz z ewolucją technologii autonomicznej, podobnie jak model zagrożeń, co oznacza, że niektóre z dzisiejszych problemów związanych z bezpieczeństwem prawdopodobnie będą się różnić od tych, które są rozwiązywane w prawdziwie autonomicznym środowisku.
Wystarczy kilka wypadków, aby zatrzymać rozmieszczenie pojazdów bez kierowcy. Prawdopodobnie nie przeszkodzi to zaawansowanym systemom autopilota, ale prawdopodobnie będzie to znaczny czynnik zniechęcający do wdrażania pojazdów, które są w pełni autonomiczne.
Simon Garfinkel jest pisarzem naukowym mieszkającym w Arlington w stanie Wirginia. Pracuje nad nową książką o historii informatyki.