Najwyższy urzędnik ds. bezpieczeństwa nie ufa producentom samochodów w nauczaniu etyki samochodów autonomicznych

Szybki postęp w zakresie autonomicznej jazdy doprowadził do obaw, że przyszłe pojazdy będą musiały dokonywać etycznych wyborów, na przykład, czy zboczyć, aby uniknąć wypadku, jeśli spowodowałoby to poważne szkody dla osób znajdujących się poza pojazdem.

Jednym z nich jest Christopher Hart, przewodniczący Krajowej Rady Bezpieczeństwa Transportu. Powiedział Przegląd technologii MIT że przepisy federalne będą musiały określić podstawowe zasady moralne pojazdów autonomicznych, a także standardy bezpieczeństwa określające ich niezawodność.

Hart powiedział, że Narodowa Administracja Bezpieczeństwa Ruchu Drogowego (NHTSA) prawdopodobnie będzie wymagać od projektantów samojezdnych samochodów wbudowania bezpiecznych elementów krytycznych elementów ich pojazdów, podobnie jak robią to producenci samolotów.

Prototyp autonomicznego samochodu Mercedes-Benz.

Rząd będzie musiał wkroczyć do gry i powiedzieć: „Musisz mi pokazać prawdopodobieństwo niepowodzenia mniejsze niż X lub musisz pokazać mi zabezpieczenie przed awarią, które zapewni, że ta porażka nie zabije ludzi”, powiedział Hart. .

Hart powiedział również, że musiałyby istnieć zasady, w jaki sposób prerogatywy etyczne są zakodowane w oprogramowaniu. Podał przykład samojezdnego samochodu, który musiał podjąć decyzję między potencjalnie śmiertelną kolizją z niekontrolowaną ciężarówką lub wjechaniem na chodnik i uderzeniem w przechodniów. To dla mnie będzie wymagało odpowiedzi rządu federalnego, powiedział Hart. Tego rodzaju wybory etyczne będą nieuniknione.

Że NHTSA ocenia, w jaki sposób będzie regulować samochody bez kierowcy przez ostatnie osiem miesięcy i wyda wytyczne w najbliższej przyszłości. Agencja do tej pory nie omawiała kwestii etycznych związanych z jazdą zautomatyzowaną.

Przepisy dotyczące samochodów autonomicznych pochodzą ze stanów takich jak Kalifornia i są ukierunkowane na prototypowe pojazdy testowane przez takie firmy jak Alphabet i Uber. Kalifornia wymaga aby kierowca bezpieczeństwa był zawsze gotowy do przejęcia, a akta firmy zgłaszają szczegółowo zdarzenia, w których człowiek musiał wkroczyć.

Ryan Calo , ekspert prawa robotyki z Uniwersytetu Waszyngtońskiego, jest sceptyczny, czy możliwe jest przełożenie dotychczasowych teoretycznych dyskusji etycznych na praktyczne zasady czy projekty systemów. Uważa, że ​​autonomiczne samochody nie są wystarczająco wyrafinowane, aby zrozumieć różne czynniki, jakie człowiek miałby do czynienia w rzeczywistej sytuacji.

Calo uważa, że ​​prawdziwym dylematem jest to, czy jesteśmy gotowi rozmieścić pojazdy, które zapobiegną wielu wypadkom, ale także popełnią od czasu do czasu śmiertelne błędy, których nie zrobiłby żaden człowiek. Jeśli napotka jednocześnie wózek na zakupy i wózek spacerowy, nie będzie w stanie podjąć moralnej decyzji, że artykuły spożywcze są mniej ważne niż ludzie – mówi Calo. Ale co, jeśli ratuje dziesiątki tysięcy istnień ludzkich, ponieważ jest bezpieczniejszy niż ludzie?

Patrick Lin , profesor filozofii na Cal Poly State University w San Luis Obispo, który studiował etykę i autonomiczną jazdę w ramach organizacji non-profit Daimler-Benz, mówi, że pomysł samochodów podejmujących rozważania etyczne nie powinien być tak szybko odrzucany. Postępy w czujnikach, sztucznej inteligencji i oprogramowaniu do rozpoznawania twarzy prawdopodobnie doprowadzą do powstania samochodów zdolnych do podjęcia decyzji o uratowaniu jednego życia i poświęceniu drugiego, mówi.

„Lepiej, jeśli będziemy aktywnie starać się przewidywać problem i zarządzać nim, zanim faktycznie tam dotrzemy” – mówi Lin. To jest rodzaj sprawy, która doprowadzi do pozwu, który może zniszczyć firmę lub pozostawić ogromny czarny ślad w branży.

Standardy federalne w zakresie etyki lub innych aspektów bezpieczeństwa mogą również zapewnić przejrzystość w sposobie podejmowania decyzji przez samochody autonomiczne. Lin mówi, że producenci samochodów generalnie chcą utrzymać w tajemnicy wewnętrzne działanie oprogramowania swoich pojazdów przed hakerami i konkurentami. Producenci samochodów notorycznie ukrywają swoje programowanie i myślenie o optymalizacji zderzeń, mówi.

ukryć