Почему самоуправляемые автомобили должны уметь убивать

Французские ученые выяснили, как общество отнесется к тому, что беспилотные автомобили будут жертвовать своими пассажирами в аварийной ситуации
Почему самоуправляемые автомобили должны уметь убивать
Фото: Martial Red/Shutterstock.com /
1 минута

Стандартный набор функций многих машин сейчас уже довольно сложен. Производители же автомобилей готовятся к запуску самоуправляемых автомобилей, в которых человеку не придется пользоваться рулем. Такая техника будет безопаснее, чище и позволит экономить топливо . Однако идеально безопасными они не будут никогда.

При разработке программ для машин нового типа встает множество этических вопросов. Как автомобиль должен действовать, если авария неизбежна? Свести к минимуму количество жертв, даже если это пассажиры самого автомобиля, либо при любом раскладе защищать водителя и пассажиров? Или решение должно приниматься случайным образом? Захотят ли покупатели приобрести машину, которая запрограммирована приносить в жертву своего водителя?

Ответы на эти вопросы очень важны, поскольку они сильно повлияют на восприятие общественностью новой концепции автомобиля. Жан-Франсуа Боннефон (Jean-Francois Bonnefon) и его коллеги из Школы экономики Тулузы (Toulouse School of Economics, Франция) считают, что правильного ответа на вышеприведенные вопросы нет. Чтобы выяснить мнение общества на этот счет, они попросили несколько сотен человек предложить вариант решения этической дилеммы.

Людям предложили представить следующую ситуацию. В недалеком будущем у вас есть самоуправляемый автомобиль. Однажды неблагоприятное стечение обстоятельств заставляет машину двигаться к группе из 10 человек, переходящих дорогу. Остановиться вовремя машина не может. Единственная альтернатива убийству 10 человек – повернуть и врезаться в стену. Однако такое столкновение убьет вас  – владельца  техники и вашего пассажира. Что лучше сделать?

Один путь – свести к минимуму число возможных жертв и пожертвовать лишь водителем и пассажиром.  С другой стороны, если люди будет реже покупать беспилотные автомобили из-за того, что те запрограммированы жертвовать своими владельцами, больше людей погибнет в обычных ДТП.

Испытуемым было предложены различные сценарии развития ситуации: спасение одного или нескольких пешеходов при направлении машины в стену,  либо убийства владельцев машины или пешеходов у стены. Респондентам предлагалось представить  себя в роли пассажира или анонимного лица.

Результаты показали, что в целом общество согласно с тем, что автомобили должны быть запрограммированы на сведение количества жертв к минимуму. Однако такое решение принимается до тех пор, пока человек не представляет себя на месте пассажира.

Группа Боннефона считает, что их работа - только начальный этап решения очень сложной моральной проблемы. В будущих опросах стоит учесть и другие важные вопросы, включив в описанную ситуацию детей, мотоциклистов и другие детали.

Источник:

Self-driving cars are already cruising the streets. But before they can become widespread, carmakers must solve an impossible ethical dilemma of algorithmic morality.

MIT Technology Review
Комментарии Cackle

Подпишитесь на наши новости, чтобы получать их первыми