Hakerzy nakłaniają Teslę do zjechania na zły pas

Kategoria: Sztuczna inteligencja Opublikowany kwi 01

Hakerzy mają zademonstrowane kilka niepokojących sposobów manipulowania i pomylenia różnych systemów w Tesli Model S. Ich najbardziej dramatyczny wyczyn: wysłanie samochodu pędzącego na nadjeżdżający pas ruchu poprzez umieszczenie serii małych naklejek na drodze.

Wektor ataku: To przykład ataku kontradyktoryjnego, sposobu manipulowania modelem uczenia maszynowego poprzez wprowadzanie specjalnie spreparowanych danych wejściowych. Ataki kontradyktoryjne mogą stać się bardziej powszechne, ponieważ uczenie maszynowe jest stosowane szerzej, zwłaszcza w obszarach takich jak bezpieczeństwo sieci.

Niewyraźne linie: Autopilot Tesli jest podatny na ataki, ponieważ rozpoznaje pasy za pomocą wizji komputerowej. Innymi słowy, system opiera się na danych z kamer, analizowanych przez sieć neuronową, aby informować pojazd, jak utrzymać się na środku pasa.

Korki uliczne: To nie pierwszy wrogi atak na autonomiczny system jazdy. Dawn Song, profesor na Uniwersytecie Kalifornijskim w Berkeley, użyła nieszkodliwie wyglądających naklejek, aby oszukać samoprowadzący się samochód, by pomyślał, że znak stopu jest ograniczeniem prędkości do 45 mil na godzinę. Inne badanie , opublikowany w marcu, pokazał, w jaki sposób medyczne systemy uczenia maszynowego mogą być w podobny sposób nakłaniane do stawiania błędnych diagnoz.

Poprawki błędów: Badacze stojący za włamaniem do rozpoznawania pasów, z Dobre laboratorium bezpieczeństwa chińskiego giganta technologicznego Tencent, zastosował podobny atak, aby zakłócić działanie automatycznych wycieraczek przedniej szyby pojazdu. W inny sposób porwali także kierownicę samochodu. Rzecznik Tesli powiedział Forbes że ta ostatnia luka została naprawiona w najnowszej aktualizacji oprogramowania. Rzecznik powiedział, że atak kontradyktoryjny był nierealistyczny, biorąc pod uwagę, że kierowca może w każdej chwili z łatwością zastąpić Autopilota.