Кого должен спасать беспилотный автомобиль: владельца или пешехода

Представим следующую ситуацию: вы ответственный водитель, мирно проезжающий по привычному маршруту. Пешеход, занятый разговором по телефону, не замечает ваш автомобиль и переходит дорогу в неположенном месте. Недолго думая, вы жмёте на педаль тормоза, спасая человеку жизнь, и сталкиваетесь с автомобилем сзади. Выбор человека очень ситуативен, но что делать с беспилотными автомобилями? Кого должен спасать беспилотный автомобиль, а кем жертвовать? Попробуем разобраться в этом вопросе…

кого будет спасать беспилотный автомобиль

Моральная проблема XXI века: кого будет сбивать беспилотный автомобиль, а кого спасать?

Кого оставить в живых: невнимательного пешехода или законного владельца

Живому человеку в ДТП сориентироваться непросто, времени на решение практически нет. Вы совершаете логичный выбор: все пассажиры, находящиеся в автомобилях, находятся в большей безопасности, нежели незащищённый пешеход, и если вы ограничитесь травмами, то пешеход от столкновения с автомобилем, скорее всего, не выживет.

Вот условия задачи: у вашего автомобиля отказала педаль тормоза. Вам предстоит выбор: травмировать одного беспечного пешехода или вовлечь в аварию несколько человек на тротуаре, но спасти первого? Но как быть, если пешеходом оказался ребёнок? Возможно, на дорогу выбежал рассеянный пожилой мужчина или инвалид. Ваше решение наиболее вероятно будет зависеть от того, кто именно оказался на проезжей части.
А теперь вообразите себя не водителем, а пассажиром, но при этом за рулём никого нет: вы едете в собственном беспилотном автомобиле. Вы — лишь наблюдатель, который никак не сможет повлиять на решение: выбор осуществляет искусственный интеллект. Но как его запрограммировать на верный моральный шаг, если даже живой человек делает выбор практически неосознанно?

Решением этого вопроса занимаются все разработчики беспилотников уже несколько лет, но единого решения до сих пор нет: как в аварийной ситуации каждый принимает свой моральный выбор, так и в «безопасных» условиях ответы людей отличаются, зависимо от того, у кого именно спрашивать.

Важно ли это? Да важно. Очевидно, что роботизированные машины будет кто-то покупать. И тот, кто покупает такой дорогой автомобиль, наверняка захочет, чтобы в нём был реализован принцип «что бы ни случилось, владелец и пассажиры должны выжить». Но согласятся ли с этим пешеходы…

Моральная машина

Чтобы создать стандартный шаблон поведения беспилотного автомобиля, был разработан специальный онлайн-тест с рядом вопросов, ответить на которые может любой доброволец. Сайт называется «Моральная машина» https://www.moralmachine.net на сегодняшний день тест прошли более 2,2 млн людей. Тест сделан на основе известной «задачи вагонетки» и содержит в себе варианты различных аварийных ситуаций, неизбежно влекущих за собой смертельный исход.

Участники должны совершить непростой моральный выбор: сбить беременную женщину и её пожилую маму, или вывернуть руль, и, упав с моста, лишить жизни себя и всех пассажиров? Врезаться в автобус, находящийся сзади своего автомобиля, или задавить слепого пешехода, который не вовремя вышел на автостраду?

Примеры вопросов:

Кого выбрать пожилых пешеходов или молодых владельцев?

Кого выбрать троих людей или двух людей и животное?

Кого выбрать законопослушных или нарушителей правил?

Результаты тестирования

Для получения максимально объективного и взвешенного результата, тест переведён на десяток языков, а на сбор данных выделили более 1 года.

Проанализировав масштабную базу данных, исследователи смогли прийти к следующим выводам:

Тип менталитета. Всего было выделено три типа менталитета. Так «западные» предпочитают «миловать» молодых людей, «восточные» считают, что правильнее оставлять в живых пожилых людей, а «южные» придерживаются мнения, что неважно, по какую сторону аварии находятся дети, женщины и люди «привилегированного общества» — спасать всегда нужно их.
Человек. Ответы могут сильно отличаться и зависят от возраста, пола и других демографических показателей.
Политическая и финансовая обстановка в стране. Чем больше порядка и законности в стране — тем жёстче относятся к тем, кто нарушает правила.

Инфографика: карта трёх основных моральных принципов, восточный, западный, южный.

Конечно, есть и общие закономерности:

Животные менее ценны, чем люди.
Сохранить больше жизней важнее, чем меньше.
Женщины более ценны чем мужчины.

Закономерности по результатам теста.

Общий вывод вполне очевиден: общих норм не существует! Моральные принципы участников варьируются и зависят от их культурных установок и этических представлениях.

Доверять ли человеческую жизнь искусственному интеллекту?

Ранее подобный тест о морали беспилотного автомобиля проводился в 2016 году. По результатам респонденты поделились на 2 лагеря: одни считали, что в приоритете должно быть сохранение жизни пешехода, даже если это повлечёт серьёзные риски для всех пассажиров, другие пришли к выводу, что жизнь пассажиров дороже, и не стоит ими рисковать (при условии, что водитель действительно невиновен в ДТП).

Часть участников пришли к выводу о том, что вообще не стали бы приобретать беспилотный автомобиль, запрограммированный каким-либо образом, поскольку в такой ситуации принимать решение должен человек, а не искусственный интеллект.

Один из авторов исследований, Ияд Рахван, говорит, что люди, говоря об автомобильной этике, считают, что можно создать идеального робота с набором универсальных правил. Но идеальные решения возможны не всегда — аварии со смертельным исходом существуют сейчас, когда за рулём автомобиля живой человек, так и будут существовать в будущем, когда управлять начнут преимущественно беспилотные автомобили.

Авторы исследований утверждают, что водители, так или иначе, принимают моральные решения ежедневно. Выявленные результаты должны сподвигнуть разработчиков беспилотных автомобилей принять во внимание культурные различия, но не отказываться от новых технологий.

Представите Audi уже подтвердили: результаты тестирования помогут им в решении вопросов, стоящих перед разработчиками беспилотных автомобилей. Большинство других компаний, тестирующих инновацию, от комментариев воздержались.

А что вы думаете об этой проблеме?