Śmiertelna awaria autopilota Tesli to przypomnienie, że autonomiczne samochody czasem się zepsują

Ponad 30 000 osób zabity przez samochody w Stanach Zjednoczonych każdego roku, a osoby pracujące nad technologią autonomicznej jazdy w firmach takich jak Google i Tesla twierdzą, że każda technologia, która może znacznie zmniejszyć tę liczbę, zasługuje na szczególną uwagę.

Ale nawet jeśli zautomatyzowane samochody mogą być znacznie bezpieczniejsze niż konwencjonalne, nadal będą uczestniczyć w wypadkach. Żadne oprogramowanie nie może być doskonałe. W miarę dojrzewania technologii autonomicznej jazdy organy regulacyjne i całe społeczeństwo będą musiały zdecydować, jak bezpieczne muszą być te pojazdy. Rzeczywiście, argumentowano, że w niektórych sytuacjach pojazdy autonomiczne muszą być zaprogramowane tak, aby aktywnie wybierać ludzi, którym można zaszkodzić.

Te drażliwe kwestie stały się dziś bardziej konkretne dzięki wiadomościom, że Tesla jest badana przez amerykańską Narodową Administrację Bezpieczeństwa Ruchu Drogowego po śmiertelna awaria z udziałem funkcji automatycznej jazdy Autopilot firmy , który może na przykład zmieniać pasy i dostosowywać prędkość podczas jazdy autostradą w przypadku niektórych samochodów firmy.

Tesla Motors Model S sedan.

Na Florydzie w maju sedan Tesla Model S wjechał w ciągnik z przyczepą przecinający drogę przed nami podczas gdy Autopilot kontrolował samochód. Ani funkcja Autopilota Tesli, ani kierowca nie używał hamulców samochodu. W poście na blogu w czwartek Tesla powiedział, że Autopilot nie zarejestrował białej strony przyczepy na tle jasnego nieba .

Autopilot Tesli może sterować samochodem, wykrywać przeszkody i oznaczenia pasów, a także używać hamulców – wszystko to samodzielnie. Ale jest znacznie mniej sprawny niż ludzki kierowca i brakuje mu wyrafinowania i bardzo szczegółowych czujników, które można znaleźć w bardziej dojrzałych projektach autonomicznych samochodów, takich jak Google.

Firma Tesla została skrytykowana za promowanie wygody Autopilota — nazwy, która sugeruje, że nie jest potrzebna żadna interwencja człowieka — przy jednoczesnym utrzymywaniu, że kierowcy muszą być stale gotowi do przejęcia kontroli nad oprogramowaniem. Lider projektu autonomicznych samochodów Google, Chris Urmson, powiedział, że eksperymenty jego firmy dowiodły, że na ludziach nie można polegać, ponieważ szybko zaczynają ufać, że samochód wie, co robi. Mimo wszystko, dyrektor generalny Tesli, Elon Musk, powiedział, że dane jego firmy sugerują Autopilot jest dwa razy bezpieczniejszy od ludzkich kierowców .

Nie wiemy jeszcze dokładnie, co wydarzyło się w tragicznym wypadku w maju. W oświadczeniu Tesli podkreślono, że kierowca wiedział, że zawsze powinien mieć oko na to, co robi Autopilot. Ale jeśli NHTSA uzna projekt Autopilota za winę, Tesla może zostać zmuszony do wycofania produktu lub może poczuć, że musi ogłupić tę funkcję. To może zaszkodzić zarówno Tesli, jak i ogólnie entuzjazmowi dla technologii.

Bez względu na wynik dochodzenia NHTSA, incydent jest okazją do rozważenia standardów, według których utrzymujemy oprogramowanie do autonomicznej jazdy i firm, które je projektują. Jeśli ma być szeroko stosowany, będziemy musieli zaakceptować jego udział w wypadkach — niektórych śmiertelnych, innych spowodowanych jego własnymi wadami.

Kierowcy ustawiają niski poprzeczkę: około 90 procent wypadków jest spowodowanych błędami człowieka, a głupie błędy, takie jak prowadzenie pojazdu podczas pisania SMS-ów lub picie, zabijają zbyt wiele osób. Łatwo zobaczyć, jak maszyny mogą to poprawić. Ale podjęcie decyzji, o ile lepiej mają być, będzie znacznie trudniejsze.

ukryć