Итоги опроса «Как должен поступать беспилотный автомобиль?»

Компания Cognitive Technologies, основной разработчик системы искусственного интеллекта для беспилотного КАМАЗа, подвела итоги социологического исследования, проведенного среди граждан Российской Федерации при поддержке НИТУ МИСиС, МФТИ, а также нашего портала Robogeek.ru.

Целью исследования было формирование системы моральных критериев, определяющих поведение авторобота в критических ситуациях, когда избежать аварии невозможно и ущерб здоровью и даже жизни для участников дорожной ситуации неизбежен. Стимулом к его проведению для компании стала необходимость разработки сценариев поведения беспилотного автомобиля. В исследовании приняли участие порядка 80 тыс. человек из 47 регионов России.

Напомним, что организаторы исследования подготовили описания нескольких типичных ситуаций с участием авторобота, требующих моральной оценки поведения искусственного интеллекта. При этом рассматриваемая в исследовании модель предполагала полную автономность автомобиля, когда вмешательство водителя в процесс управления абсолютно исключено.

Основным итогом исследования стало намерение граждан России обязать искусственный интеллект минимизировать общее число пострадавших в аварии. Почти 71% респондентов был готов направить авторобот в кювет, чтобы не задавить других людей, случайно вышедших перед ним на проезжую часть, несмотря на то, что это может привести к неминуемым глобальным его повреждениям и критическим для жизни и здоровья травмам пассажира.

Давить нельзя помиловать

Однако, проведенные в рамках исследования дополнительные, персональные интервью с разными категориями граждан России, показали, что направляя беспилотный автомобиль в кювет, участники исследования не до конца отдавали себе отчет, что они сами могут оказаться в его кабине. Получается, чтобы сохранить жизнь выбежавших на дорогу людей, авторобот будет запрограммирован на самоуничтожение вместе со своим пассажиром.

Стоит сказать, что это обстоятельство вызвало наибольшую сложность у интервьюируемых. Довольно значимая их часть (43% из 1384 участников) даже предложила искусственному интеллекту автомобиля формировать своего рода рейтинг участников ДТП. Иными словами, они посчитали возможным определять наиболее и наименее «ценных» его участников, например, на основании сравнения возраста, пола или других характеристик. Но главное, и это можно считать важным итогом исследования, было предложено использовать результаты мгновенного поиска информации в интернете и соцсетях для составления подробного портрета участника ДТП, чтобы на основании этих данных искусственный интеллект мог принимать решение о том, кем жертвовать, а кого спасать. К примеру, если перед автороботом в кабине которого находится человек с запятнанной репутацией, на дорогу выбегает передовик производства, то искусственный интеллект должен будет гарантированно направить машину в кювет.

Другие итоги исследования

Еще одним итогом исследования стало отсутствие явного преобладания какой-либо социальной группы в каждом из рассматриваемых вариантов поведения искусственного интеллекта. Ответы всех категорий граждан распределены примерно с одной степенью равномерности (в пределах погрешности 10%). Наибольшая дисперсия наблюдается лишь в случаях, когда перед автороботом внезапно появляется собака. Ее «жалеет» на 13% больше женщин, чем мужчин. Наиболее отчаянные поступки в критических ситуациях рекомендуют искусственному интеллекту совершать женщины в возрасте от 31 до 50 лет с высшим образованием. Например, эта категория предпочитает съезд в кювет разрешенной ПДД возможности объехать выбежавшую на дорогу собаку (их доля составила порядка 8% всех женщин, участвовавших в исследовании).

Пенсионеры меньше других рекомендовали автороботу нарушать ПДД. Например, не оказалось ни одного пенсионера, который бы предложил ему пересечь двойную сплошную линию разметки в ситуации, проиллюстрированной ниже.

Интересно также, что практически поровну разделились мнения респондентов (55% - задавить собаку и 40% - затормозить) в случае, когда можно затормозить и ценою глобальных повреждений автомобиля сохранить жизнь собаке.

По словам Президента Cognitive Technologies Ольги Усковой, «мы предполагаем использовать полученные в ходе исследования результаты для подготовки законодательных инициатив, регламентирующих поведение беспилотного автомобиля, как во время испытаний, так и, впоследствии, на дорогах общего пользования». Исследование было проведено конце 2015 г. – начале 2016 г.