211service.com
W pełni autonomiczne samochody są mało prawdopodobne, mówi czołowy amerykański urzędnik ds. bezpieczeństwa transportu
Christopher Hart
Wypadki samochodowe zabijają ponad 33 000 Amerykanów każdego roku, więcej niż w przypadku zabójstw lub przedawkowania leków na receptę. Firmy pracujące nad autonomicznymi samochodami, takie jak Alphabet i Ford, twierdzą, że ich technologia może zmniejszyć tę liczbę, usuwając ludzkie zobowiązania, takie jak pisanie SMS-ów, pijaństwo i zmęczenie. Ale Christopher Hart , przewodniczący Narodowej Rady Bezpieczeństwa Transportu, mówi, że doświadczenie jego agencji w badaniu wypadków z udziałem systemów autopilota używanych w pociągach i samolotach sugeruje, że ludzi nie da się całkowicie usunąć spod kontroli. Powiedział Przegląd technologii MIT że przyszłe automaty będą znacznie bezpieczniejsze, ale niektórzy nadal będą potrzebować ludzi jako drugich pilotów. Poniżej znajduje się skrócony zapis.
Czy jesteś optymistą, że autonomiczne samochody zmniejszą liczbę ofiar śmiertelnych wypadków samochodowych?
Jestem bardzo optymistyczny. Od dziesięcioleci szukamy sposobów na złagodzenie obrażeń w razie wypadku. Mamy pasy bezpieczeństwa, mamy poduszki powietrzne, mamy solidniejsze konstrukcje karoserii. W tej chwili mamy możliwość całkowitego zapobieżenia awarii. A to uratuje dziesiątki tysięcy istnień ludzkich. To idealny punkt końcowy: żadnych awarii.
Systemy autopilota mogą również stwarzać nowe zagrożenia. NTSB powiedział, że nadmierne poleganie pilotów na automatyce spowodował awarie . Czy martwisz się, że to zjawisko będzie problemem również dla samochodów?
Idealny scenariusz, o którym mówiłem, ratujący dziesiątki tysięcy istnień ludzkich rocznie, zakłada pełną automatyzację bez jakiegokolwiek zaangażowania człowieka. Nie jestem przekonany, że będziemy zawsze osiągnąć ten punkt. Nie widzę ideału pełnej automatyzacji w najbliższym czasie.
Niektórzy ludzie po prostu lubią prowadzić. Niektórzy ludzie nie ufają automatyzacji, więc będą chcieli jeździć. [I] nie ma na świecie projektanta oprogramowania, który kiedykolwiek byłby na tyle sprytny, aby przewidzieć wszystkie potencjalne okoliczności, jakie napotka to oprogramowanie. Pies, który wybiega na ulicę, osoba, która wybiega na ulicę, rowerzysta, policjant lub pracownik budowlany. Albo most zawali się w powodzi. Nie ma mowy, abyś był w stanie zaprojektować system, który sobie z tym poradzi.
Wyzwanie polega na tym, że masz nie do końca pełną automatyzację, z wciąż znaczącym zaangażowaniem człowieka – wtedy samozadowolenie staje się problemem. Wtedy problemem staje się brak umiejętności. Zatem naszym wyzwaniem jest: jak poradzić sobie z tym, co prawdopodobnie będzie długoterminowym scenariuszem, w którym nadal będzie jakieś ludzkie zaangażowanie w ten w dużej mierze zautomatyzowany system?
Niedawna ofiara śmiertelna kierowcy korzystającego z funkcji Autopilota Tesli może być awarią automatyzacji. Dlaczego NTSB bada tę awarię?
Nie badamy większości wypadków samochodowych. To, co wnosimy do tej tabeli, to doświadczenie [ze] scenariuszami wprowadzania automatyzacji do złożonych, zorientowanych na człowieka systemów, którymi zdecydowanie jest ten system. Badamy tę awarię, ponieważ widzimy, że w samochodach nadchodzi automatyzacja i chcielibyśmy pomóc poinformować ten proces dzięki naszemu doświadczeniu z innymi rodzajami automatyzacji.
Jak co?
Cóż, zbadaliśmy wypadek z przenoszeniem ludzi na lotnisku. Zderzył się z innym poruszającym się ludźmi. A nasze dochodzenie wykazało, że problem dotyczył konserwacji. Nawet jeśli wyeliminujesz operatora, nadal masz ludzki błąd ze strony ludzi, którzy go zaprojektowali, ludzi, którzy go zbudowali, ludzi, którzy go konserwują.
Niektórzy twierdzą, że autonomiczne samochody będą musiały podejmować etyczne decyzje, na przykład decydować, komu zaszkodzić, gdy kolizja jest nieunikniona. Czy to prawdziwy problem?
Mogę podać przykład, o którym wspominałem w kilku miejscach. Mój zautomatyzowany samochód stoi na moim pasie z ciężarówką o wadze 80 000 funtów. Teraz samochód musi zdecydować, czy wjechać na tę ciężarówkę i zabić mnie, kierowcę, czy wjechać na chodnik i zabić 15 przechodniów. To musiałoby zostać wprowadzone do systemu. Chronić mieszkańców czy chronić innych ludzi? Dla mnie to będzie wymagało odpowiedzi rządu federalnego. Tego rodzaju wybory etyczne będą nieuniknione.
Oprócz wyborów etycznych — a co, jeśli system zawiedzie? Czy system ulegnie awarii w sposób minimalizujący [szkody] społeczeństwa, innych samochodów, rowerzystów? Zaangażowany będzie rząd federalny.
Jak może wyglądać ten proces?
Federalna Administracja Lotnictwa (Federal Aviation Administration) ma schemat, zgodnie z którym, jeśli coś jest mniej prawdopodobne niż jedno na miliard, nie trzeba mieć alternatywnej ścieżki obciążenia [konstrukcji awaryjnej, która wytrzyma ciężar samolotu]. Bardziej prawdopodobne niż to i potrzebujesz zabezpieczenia przed awariami. Dopóki nie uda się wykazać, że pęknięcie dźwigara skrzydła — oderwanie się skrzydła — jest mniejsze niż jedno na miliard, prawdopodobnie tak się stanie. Wtedy musisz mieć plan B.
Ten sam proces będzie musiał zajść w przypadku samochodów. Myślę, że rząd będzie musiał wkroczyć do gry i powiedzieć: „Musisz mi pokazać prawdopodobieństwo niepowodzenia mniejsze niż X, albo musisz pokazać mi zabezpieczenie na wypadek awarii, które zapewni, że ta porażka nie zabije ludzi. Sądzę, że ustalenie limitu będzie należało do domeny rządu federalnego, a nie rządu stanowego. Nie chcę 50 limitów.