Правообладатель иллюстрации
Getty Images
Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем — не замечая его и смотря в другую сторону — дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода — и в вас врезается машина сзади.
Что произошло? Давайте разберемся.
Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода — на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.
Усложним задачу. Допустим, у вас отказали тормоза — и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?
Выбор кажется очевидным — но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг — или даже ваш ребенок?
А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет — это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект — как его нужно запрограммировать?
- Кто виноват в смертях под колесами беспилотных автомобилей?
- Заменят ли нас машины, и в чем мы незаменимы
- Готовы ли вы летать на беспилотных самолетах?
Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей — от Audi и Toyota до Tesla и «Яндекс». Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.
Кого спасти — старика или ребенка?
Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.
Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций — вроде тех, что приведены выше, — в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде — или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.
Правообладатель иллюстрации
Reuters
Image caption
В мае 38-летний Уолтер Хуан погиб, чересчур понадеявшись на автопилот машины Tesla
Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью — молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?
Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.
Первый — и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали «западными», «восточными» и «южными». Условно — потому что Франция, например, попала в «южный тип», а вот Египет — в «восточный».
«Западники» чаще предпочитали спасать более молодых людей, а «восточники» — более пожилых. Представители «южных» стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.
На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей «западных» стран — по сравнению с «восточными».
Зато «восточные» жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.
Image caption
Так выглядит уличное движение для искусственного интеллекта
Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее — но уже далеко не так сильно.
И третий — возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.
Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.
Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.
«Универсальных правил нет»
Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой — люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.
Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.
Правообладатель иллюстрации
Getty Images
Image caption
Испытания беспилотных автомобилей активно проводит «Яндекс-такси»
«Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет», — утверждает один из авторов исследования Ияд Рахван.
Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в «западный» кластер.
Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти — и полагаться на его выбор?
- Почему роботам трудно увидеть то, что видим мы
- 10 главных проблем, которые встанут перед человечеством к 2050 году
Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день — пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.
Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.
Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.
Источник: bbc.com
