Hakerzy mogą nakłonić Teslę do przyspieszenia o 50 mil na godzinę

Tesla Model S jeżdżąca po California Bay Area Tesla

Nie wierz w kłamliwe oczy twojego samochodu.

Hakerzy zmanipulowali wiele samochodów Tesli, aby rozpędzały się o 50 mil na godzinę. Naukowcy oszukali system kamer Mobileye EyeQ3, subtelnie zmieniając znak ograniczenia prędkości na poboczu w sposób, którego przejeżdżająca osoba prawie nigdy by nie zauważyła.

Ten demonstracja firmy McAfee zajmującej się cyberbezpieczeństwem to najnowsza wskazówka, że ​​wrogie uczenie maszynowe może potencjalnie zniszczyć autonomiczne systemy jazdy, stanowiąc wyzwanie dla bezpieczeństwa dla tych, którzy mają nadzieję na komercjalizację tej technologii.

Systemy kamer Mobileye EyeQ3 odczytują znaki ograniczenia prędkości i przesyłają te informacje do funkcji autonomicznej jazdy, takich jak automatyczny tempomat Tesli, powiedzieli Steve Povolny i Shivangee Trivedi z zespołu McAfee Advanced Threat Research.

Naukowcy nakleili maleńką i prawie niezauważalną naklejkę na znak ograniczenia prędkości. Kamera odczytała znak jako 85 zamiast 35, a podczas testów zarówno Tesla Model X z 2016 roku, jak i tegoroczny Model S przyspieszyły 50 mil na godzinę.

Zmodyfikowany znak ograniczenia prędkości brzmi 85 na wyświetlaczu Tesli. Rzecznik Mobileye zbagatelizował wyniki badań, sugerując, że ten znak oszukałby również człowieka do przeczytania 85. McAfee

To ostatnie z rosnącej góry badań pokazujących, w jaki sposób systemy uczenia maszynowego mogą być atakowane i oszukiwane w sytuacjach zagrażających życiu.

W 18-miesięcznym procesie badawczym Trivedi i Povolny powtórzyli i rozszerzyli szereg wrogich ataków opartych na uczeniu maszynowym, w tym badanie przeprowadzone przez profesor Uniwersytetu Kalifornijskiego w Berkeley Dawn Song, które wykorzystywały naklejki, aby oszukać autonomiczny samochód, aby uwierzył w znak stopu. znak ograniczenia prędkości 45 mil na godzinę. W zeszłym roku hakerzy nakłonili Teslę do zjechania na niewłaściwy pas ruchu, umieszczając naklejki na drodze w ataku przeciwnika, który miał na celu manipulowanie algorytmami uczenia maszynowego samochodu.

Dlaczego badamy to z wyprzedzeniem, ponieważ masz inteligentne systemy, które w pewnym momencie w przyszłości będą wykonywać zadania, które są teraz obsługiwane przez ludzi, powiedział Povolny. Jeśli nie jesteśmy zbyt przewidujący, jakie są ataki i bardzo ostrożnie projektujemy systemy, mamy do czynienia z flotą połączonych komputerów, które są jedną z najbardziej wpływowych i kuszących powierzchni ataku.

W miarę rozprzestrzeniania się systemów autonomicznych problem rozciąga się na algorytmy uczenia maszynowego znacznie wykraczające poza pojazdy: marzec 2019 r. badanie pokazali medyczne systemy uczenia maszynowego oszukane do stawiania złych diagnoz.

Badanie McAfee zostało ujawnione zarówno Tesli, jak i Mobileye EyeQ3 w zeszłym roku. Tesla nie odpowiedziała na prośbę o komentarz z MIT Technology Review, ale potwierdziła ustalenia McAfee i powiedziała, że ​​problemy nie zostaną naprawione w tej generacji sprzętu. Rzecznik Mobileye zbagatelizował badania, sugerując, że zmodyfikowany znak oszukałby nawet człowieka do odczytania 85 zamiast 35. Firma nie uważa, że ​​oszukanie kamery jest atakiem i pomimo roli, jaką odgrywa kamera w tempomacie Tesli, nie był przeznaczony do jazdy autonomicznej.

Technologia pojazdów autonomicznych nie będzie opierać się wyłącznie na wykrywaniu, ale będzie również wspierana przez różne inne technologie i dane, takie jak mapowanie crowdsourcingowe, aby zapewnić wiarygodność informacji otrzymywanych z czujników kamer i oferować bardziej niezawodne redundancje i bezpieczeństwo, mówi rzecznik Mobileye powiedział w oświadczeniu.

Tesla od tego czasu przeszła na zastrzeżone kamery w nowszych modelach, a Mobileye EyeQ3 wypuściło kilka nowych wersji swoich kamer, które we wstępnych testach nie były podatne na ten właśnie atak.

Povolny powiedział, że nadal istnieje znaczna liczba samochodów Tesli działających z podatnym sprzętem. Zwrócił uwagę, że Tesli z pierwszą wersją sprzętu nie można zaktualizować do nowszego sprzętu.

To, co staramy się zrobić, to naprawdę staramy się podnieść świadomość zarówno konsumentów, jak i sprzedawców, jakie rodzaje wad są możliwe, powiedział Povolny. Nie próbujemy szerzyć strachu i mówić, że jeśli będziesz jeździł tym samochodem, będzie przyspieszyć przez barierę lub wywołać sensację.

ukryć