Стоит ли доверять роботу в чрезвычайных ситуациях? (+ видео)

В чрезвычайных ситуациях люди во многом могут довериться роботам, отмечается в новом исследовании. В макете горящего здания испытуемые следовали инструкциям от «Emergency Guide Robot» даже после того, как машина показала свою ненадежность и после того, как некоторые участники отметили, что робот сломался.

Исследование проводилось с тем, чтобы определить, будут или нет люди в горящем здании доверять роботу, созданному для помощи им в эвакуации из высотного здания в случае пожара или другой чрезвычайной ситуации. Но исследователи были удивлены, обнаружив, что испытуемые следовали инструкциям робота даже тогда, когда поведение машины не должно было внушать доверие.

Исследователи полагают, что это было первое изучение доверия в чрезвычайной ситуации между роботом и человеком, результаты планируется представить 9 марта на конференции ACM/IEEE International Conference on Human-Robot Interaction (HRI 2016) в городе Крайстчерч, Новая Зеландия.

«Люди, кажется, считают, что эти роботизированные системы на самом деле знают о мире больше, чем они, и что роботы никогда не будут совершать ошибки или какого-либо сбоя», - сказал Алан Вагнер, старший инженер в Научно-исследовательском технологическом институте Джорджии (GTRI). «В наших исследованиях испытуемые следовали указаниям робота даже в случае, когда они могли представлять для них опасность, что было бы реальной чрезвычайной ситуацией».

В ходе исследования, спонсорами которого частично было Управление научных исследований ВВС США (AFOSR), исследователи набрали группу из 42 добровольцев, большинство из них были студентами, и попросили их следовать за ярко окрашенным роботом с надписью «Emergency Guide Робот». Робот вел изучаемых субъектов в конференц-зал, где им было предложено заполнить анкету о роботах и прочитать статью из журнала. Испытуемым не сообщили подробные детали исследования.

В некоторых случаях робот, который скрытно управлялся исследователем, ошибался и приводил людей в другую комнату, дважды ходил по кругу перед тем как найти вход в конференц-зал. В течение эксперимента робот перестал двигаться, и экспериментатор сообщил испытуемым, что он сломался. После того, как люди зашли в конференц-зал, двери закрылись, а коридор, через который участники вошли в здание, был заполнен искусственным дымом, который не вызвал срабатывания дымовой пожарной сигнализации.

Когда испытуемые открыли дверь, они увидели дым и робота с включенной красной, тревожной сигнализацией и с ярко горящими белыми светодиодами на концах двух манипуляторов, которые служили в качестве указателей направления. Робот направлял людей к проходу в заднюю часть здания, а не в сторону отмеченного графическим знаком выхода, откуда они только что вошли в здание.

«Мы ожидали, что если робот только что доказал свою ненадежность, когда провожал их в конференц-зал, люди не будут следовать его указаниям в имитированной чрезвычайной ситуации», - сказал Пол Робинетт, из GTRI, который проводил исследование в рамках своей докторской диссертации. «Вместо этого все добровольцы следовали инструкциям робота, независимо от его прежнего поведения. Мы совершенно не ожидали этого».

Исследователи предполагают, что по изученному сценарию робот, возможно, стал «авторитетной фигурой», которой испытуемые были более склонны доверять в условиях аварийной ситуации. В исследовании на основе моделирования без создания реалистичных условий чрезвычайной ситуации испытуемые не доверяли роботу, который ранее делал ошибки.

Отмечается необходимость проведения подобных экспериментов. «Мы должны убедиться, что наши роботы, оказываясь в некоторых ситуациях, способны понизить уровень доверия к ним со стороны человека, когда это доверие является вредным для человека».

Только тогда, когда робот делал очевидные ошибки в аварийной части эксперимента участники сомневались в его советах. В этих случаях, некоторые люди все-таки по-прежнему следовали инструкциям робота, даже когда он направлял их к затемненной комнате, которая была заблокирована мебелью.

Данное исследование является частью долгосрочного изучения доверительных отношений между людьми и роботами. Это важный вопрос, так как роботы играют все большую роль в нашей жизни. Исследователи предусматривают использование группы роботов, размещенных в высотных зданиях, чтобы указывать жителям направление выхода и призывать их к эвакуации во время чрезвычайных ситуаций. Исследования показали, что люди часто не покидают здания при объявлении пожарной тревоги, и они иногда игнорируют ближайшие эвакуационные выходы в пользу более привычных подъездов.