TheRunet публикует перевод статьи Уилла Найта (Will Knight) «How to Help Self-Driving Cars Make Ethical Decisions», опубликованной в журнале MIT Technology Review.
Философ – это, пожалуй, последний человек, от которого вы ожидаете участия в разработке вашего следующего автомобиля, но именно к нему хочется обратиться при разработке самоуправляемых авто.
Крис Гердес , профессор Стэнфордского университета, возглавляет научно-исследовательскую лабораторию, которая экспериментирует со сложным аппаратным и программным обеспечением автоматизированного вождения. Кроме того, он вместе с Патриком Лином, профессором философии Калифорнийского Политехнического университета, изучает этические дилеммы, которые могут возникнуть при вождении самоуправляемых автомобилей в реальном мире.
Гердес и Лин организовали семинар в Стэнфорде в начале этого года, собравший философов и инженеров для обсуждения этого вопроса. Они настроили программное обеспечение, которое управляет автоматизированными транспортными средствами, согласно с этическими нормами, а затем протестировали код на симуляторе и даже на реальных автомобилях. Такие параметры помогут, например, сказать машине избегать в первую очередь людей, а затем уже припаркованные автомобили, или не подъезжать к лихачам.
Полностью самоуправляемые автомобили все еще находятся на стадии разработки, но автоматизирование технологий вождения стремительно возрастает. В ближайшие пару лет ряд автопроизводителей планируют выпустить машины, способные самостоятельно управлять ускорением и торможением на трассах во время длительных поездок. Некоторые автомобили уже оборудованы датчиками, которые могут обнаружить пешеходов или велосипедистов и предупредить водителя о возможном столкновении.
До сих пор беспилотные автомобили в очень редких случаях были вовлечены в аварии. Автоматизированные машины Google проехали почти миллион миль и попали в минимальное количество автомобильных аварий [их было 14 — прим. Ред.] и было еще несколько случаев, когда в непонятной ситуации авто просто останавливалось.
Но по мере развития технологий автомобилям приходится толковать более сложные ситуации, и системе автоматизированного вождения может потребоваться мгновенно принимать решения, которые затрагивают реальные этические вопросы.
На прошедшем недавно отраслевом мероприятии Гердес привел пример одного из таких случаев: ребенок вдруг выбежал на проезжую часть, заставляя самоуправляемый автомобиль выбрать между наездом на ребенка и лобовым столкновением со встречным фургоном.
«С точки зрения человека, одно из препятствий значительно важнее, чем другое, — сказал Гердес. Как должен поступить в таком случае автомобиль?»
Гердес отметил, что даже с этической точки зрения может быть предпочтительнее подвергнуть пассажиров самоуправляемого автомобиля в опасность. «Если можно свернуть от ребенка и спасти его жизнь, можем ли мы травмировать пассажира транспортного средства? С такими трудными решениями разработчики алгоритмов управления автоматизированными транспортными средствами сталкиваются каждый день», — сказал он.
На мероприятии Гердес сказал, что исследователи, инженеры и руководители компаний автомобильной отрасли должны быть готовыми рассматривать этические последствия технологий, которые они разрабатывают. «Вы не можете просто пойти и взять модуль этики, а затем, запихнуть его в свой самоуправляемый автомобиль», — сказал он.
Другие эксперты согласились со значимостью этического аспекта развития технологии автоматического управления.
«Когда вы заставляете автомобиль принимать решения, у вас возникает этическая дилемма, — говорит Адриано Алессандрини – исследователь, работающий над автоматическими транспортными средствами в университете Сапиенца в Риме, Италия. — Вы можете бы увидеть что-то на своем пути и решить сменить полосу движения, и как вы поступите, если кто-то еще есть на этой полосе? Это и сесть этическая дилемма».
Алессандрини ведет проект под названием CityMobil2, который осуществляет тестирование автоматизированных транзитных транспортных средств в различных итальянских городах. Эти машины гораздо проще, чем автомобили, которые разрабатываются компанией Google и другими производителями автомобилей. Они просто следуют по маршруту и тормозят если что-то мешает. Алессандрини считает, что это может сделать технологию удобной для старта. «У нас нет этих [этических] проблем», — говорит он.
Другие считают, что ситуация немного сложнее. Например, Брайант Уокер-Смит, помощник профессора в университете Южной Каролины, который изучает правовые и социальные последствия автоматического управления транспортными средствами, говорит, что много этических решений уже сделано в автомобилестроении. «Этика, философия, право — все эти понятия лежат в основе многих решений, — говорит он. — Посмотрите, например, на подушки безопасности — в основе этой технологии лежит ответственность за то, что множество жизней будет спасено — и только несколько человек будет убито».
Уолкер-Смит добавляет, что если учесть сегодняшнее количество дорожно-транспортных происшествий со смертельным исходом из-за человеческих ошибок, может показаться неэтичным слишком медленное внедрение технологий самоуправляемых автомобилей. «Самый большой этический вопрос заключается в том, как быстро мы движемся. У нас есть технология, потенциально способная спасти множество человеческих жизней, но если она окажется несовершенной, то может и убить».