По замыслу авторов эксперимента, такие исследования помогут «сделать машины более моральными». Правда, пока ещё ни один беспилотник не знает пол, возраст и специальность пассажиров и пешеходов поблизости. При мысли о сборе таких данных становится немного жутко.
Медиалаборатория Массачусетского технологического института (MIT Media Lab) подвела итоги двухлетнего исследования Moral Machine («моральная машина»). Оно пыталось ответить на вопрос: каковы должны быть «нравственные» решения автономных машин в ситуациях, когда нужно сделать выбор: врезаться в препятствие, убивая всех на борту, либо сбить пешехода (сразу нескольких) насмерть. Сотни сценариев, отличающихся числом и типажом как обитателей салона, так и пешеходов, проигрывались перед миллионами людей в 233 странах. Было получено 40 миллионов ответов, и сделаны интересные выводы.
Вот один из сценариев. В машине — двое полных взрослых, девочка, преступник и собака. На дороге — бездомный, преступник, собака, женщина-доктор и бизнесмен. Погибнет или та, или другая группа полностью (предполагается, что затормозить нельзя). Решать вам.
В ходе своего рода игры людям приходилось «взвешивать» ценность жизни тех или иных персонажей в разной пропорции. Ситуации обыгрывались самые безумные. Кому оставить жизнь: «двум докторам, кошке и мальчику или старушке, беременной и трем собакам»; «пяти докторам-мужчинам или одному мальчику»; «ребенку в коляске или пяти взрослым» и так далее. Как можно оценивать ценность жизни по полу, возрасту или профессии? Вопрос весьма неудобный. Но если мы хотим в некоем будущем передать управление транспортом компьютерам, нам придется на него ответить или хотя бы задуматься.
Предпочтение — сохранить жизнь тем или иным типажам. Большинство при наличии именно такой дилеммы выбирает объехать коляску с ребенком. Меньше всего респонденты жалели кошек. По вертикали показано отклонение вероятности спасения от средней по всем персонажам. Плюс означает более высокую вероятность быть помилованным, минус — более низкую.
(Информация размещена на интернет-сайте: «www.Autoinstruction.ru»)
Итак, выяснилось, что в среднем по планете девочка ценнее мальчика, но доктор-мужчина ценнее, чем доктор-женщина, бездомный ценнее старика или старушки, а собака ценнее преступника. Нашлись отличия по регионам. В Латинской Америке испытуемые ценили молодых выше, чем пожилых, в Азии — наоборот, чаще сберегали людей старшего возраста.
«Мы построили платформу для оценки морального выбора испытуемых», — рассказывают устроители опыта. Предлагается выбрать меньшее из двух зол, например, убить двух пассажиров или пять пешеходов. Платформа также позволяла создавать пользовательские сценарии и обсуждать их.
Также опрошенные по всему миру предпочитали сохранять жизнь скорее пешеходам, чем обитателям автомобиля, и чаще — переходящим дорогу на зеленый, чем пешеходам-нарушителям, перебегающим ее на красный. Да и сигнал пешеходного перехода в опыте также менялся произвольным образом. Однако в бедных странах такого отличия не проявлялось: там водители к пешеходам-нарушителям ПДД более терпимы, чем в богатых. Подробные результаты исследования изложены в статье в журнале Nature.
Источник: drive.ru