Jak pomóc autonomicznym samochodom podejmować etyczne decyzje

Filozof jest być może ostatnią osobą, od której można by się spodziewać, że weźmie udział w projektowaniu kolejnego samochodu, ale właśnie to ma na myśli ekspert od autonomicznych pojazdów.

Chris Gerdes , profesor na Uniwersytecie Stanforda, prowadzi laboratorium badawcze, które eksperymentuje z zaawansowanym sprzętem i oprogramowaniem do zautomatyzowanej jazdy. Ale razem z Patrick Lin , profesor filozofii w Cal Poly, bada również dylematy etyczne, które mogą się pojawić, gdy autonomiczne prowadzenie pojazdu zostanie wdrożone w prawdziwym świecie.

Gerdes i Lin zorganizowali na początku tego roku warsztaty w Stanford, które zgromadziły filozofów i inżynierów, aby omówić ten problem. Zaimplementowali różne ustawienia etyczne w oprogramowaniu sterującym zautomatyzowanymi pojazdami, a następnie przetestowali kod w symulacjach, a nawet w prawdziwych pojazdach. Takie ustawienia mogą na przykład nakazać samochodowi, aby priorytetowo traktował unikanie ludzi nad unikaniem zaparkowanych pojazdów lub nie skręcał w kierunku wiewiórek.

Ilustracja autorstwa Victora Kerlowa

Pojazdy w pełni autonomiczne wciąż znajdują się na etapie badań, ale technologia zautomatyzowanej jazdy szybko wkrada się do pojazdów. W ciągu najbliższych kilku lat wielu producentów samochodów planuje wypuszczać pojazdy zdolne do samodzielnego kierowania, przyspieszania i hamowania na autostradach przez dłuższy czas. Niektóre samochody są już wyposażone w czujniki, które mogą wykrywać pieszych lub rowerzystów i ostrzegać kierowców, jeśli wydaje się, że mogą w kogoś uderzyć.

Do tej pory samochody autonomiczne brały udział w bardzo niewielu wypadkach. Zautomatyzowane samochody Google przejechały prawie milion mil drogi z zaledwie kilkoma tylnymi zderzakami, a pojazdy te zazwyczaj radzą sobie w niepewnych sytuacjach po prostu zatrzymując się (zob. Google Self-Driving Car Chief Defends Safety Record ).

Jednak wraz z postępem technologii, a samochody stają się zdolne do interpretowania bardziej złożonych scen, zautomatyzowane systemy jazdy mogą wymagać podejmowania w ułamku sekundy decyzji, które rodzą prawdziwe pytania etyczne.

Podczas niedawnej imprezy branżowej Gerdes podał przykład jednego z takich scenariuszy: dziecko nagle wyskakujące na drogę, zmuszając autonomiczny samochód do wyboru między uderzeniem w dziecko lub wjechaniem w nadjeżdżającą furgonetkę.

Jak widzimy to ludzkimi oczami, jedna z tych przeszkód ma o wiele większą wartość niż druga, powiedział Gerdes. Jaka jest odpowiedzialność samochodu?

Gerdes zwrócił uwagę, że z etycznego punktu widzenia może być nawet lepiej narażać pasażerów autonomicznego samochodu na ryzyko. Gdyby to uchroniło dziecko, gdyby uratowało mu życie, czy moglibyśmy zranić pasażera pojazdu? Powiedział, że są to bardzo trudne decyzje, przed którymi codziennie stają ci, którzy projektują algorytmy sterowania dla zautomatyzowanych pojazdów.

Gerdes wezwał naukowców, inżynierów motoryzacyjnych i kierownictwo branży motoryzacyjnej do przygotowania się do rozważenia etycznych implikacji rozwijanej technologii. Nie zamierzasz po prostu wziąć modułu etyki i podłączyć go do swojego autonomicznego samochodu, powiedział.

Inni eksperci zgadzają się, że rozwój technologii zautomatyzowanej jazdy będzie miał ważny wymiar etyczny.

Kiedy prosisz samochód o podjęcie decyzji, stajesz przed dylematem etycznym – mówi Adriano Alessandrini, naukowiec pracujący nad pojazdami zautomatyzowanymi na Uniwersytecie de Roma La Sapienza we Włoszech. Możesz zobaczyć coś na swojej ścieżce i zdecydujesz się zmienić pas, a gdy to zrobisz, coś innego jest na tym pasie. To jest dylemat etyczny.

Alessandrini prowadzi projekt o nazwie CityMobil2 , który testuje zautomatyzowane pojazdy tranzytowe w różnych włoskich miastach. Pojazdy te są znacznie prostsze niż samochody opracowywane przez Google i wielu producentów samochodów; po prostu podążają trasą i hamują, jeśli coś stanie im na drodze. Alessandrini uważa, że ​​może to ułatwić uruchomienie technologii. Nie mamy tego [etycznego] problemu, mówi.

Inni uważają, że sytuacja jest nieco bardziej skomplikowana. Na przykład, Bryant Walker-Smith , adiunkt na Uniwersytecie Południowej Karoliny, który bada prawne i społeczne implikacje autonomicznych pojazdów, mówi, że w inżynierii motoryzacyjnej podejmowanych jest już wiele decyzji etycznych. Etyka, filozofia, prawo: wszystkie te założenia leżą u podstaw tak wielu decyzji, mówi. Jeśli spojrzysz na przykład na poduszki powietrzne, nieodłącznym elementem tej technologii jest założenie, że uratujesz wiele istnień, a zabijesz tylko kilka.

Walker-Smith dodaje, że biorąc pod uwagę liczbę śmiertelnych wypadków drogowych, które wiążą się obecnie z błędami ludzkimi, zbyt powolne wprowadzanie technologii autonomicznej jazdy można uznać za nieetyczne. Największym pytaniem etycznym jest to, jak szybko się poruszamy. Mamy technologię, która potencjalnie mogłaby uratować wielu ludzi, ale będzie niedoskonała i zabije.

ukryć