Инструкция для роботов: как стать человеком

В Технологическом институте Джорджии, при поддержке со стороны Управления военно-морских исследований, создали программу искусственного интеллекта (ИИ) под названием Кихот (Quixote), чтобы научить роботов читать рассказы, привить им приятные манеры и показать способы поведения в различных социальных ситуациях.

«На протяжении многих лет исследователи обсуждали, как научить роботов действовать ненавязчиво и вызывая доверие, - сказал Марк Штейнберг, куратор исследования, - Одна из проблем в том, как объяснить роботам такие сложные понятия, как политика, ценности или этика. Используя сюжетные истории, люди способны понять смысл и общаться с другими людьми. Но этот подход может однажды стать эффективным средством для взаимодействия с роботами».

Темпы развития ИИ породили ряд опасений, что роботы могут действовать неэтично или вредить людям. Д-р Марк Ридл, доцент и директор лаборатории в Технологическом институте Джорджии, надеется ослабить эту озабоченность с появлением программы Quixote, которая будет служить для роботов в качестве руководства, обучая их человеческим ценностям с помощью простых историй. В конце концов, рассказы информируют, просвещают и развлекают, отражая общее знание культуры, социальные нормы и протоколы.

Например, если перед роботом поставлена задача доставить из аптеки лекарство как можно быстрее, он может: а) украсть лекарство и уйти, б) взаимодействовать вежливо с фармацевтами или с) ждать в очереди. Без оценки значения действий и усиления положительной мотивации робот может логически вывести, что ограбление это самый быстрый, самый дешевый способ для выполнения поставленной задачи. Тем не менее, с оценкой значения от Кихота, он будет вознагражден за терпеливое ожидание в очереди и оплату лекарства.

Для этого исследования Ридл и его команда собирают истории из Интернета. Каждый рассказ необходим, чтобы выделить ежедневные социальные взаимодействия, например, поход в аптеку или ресторан, а также соответствующее социальное поведение, например, оплата за питание или лекарства.

Данные передаются Кихоту, чтобы создать виртуальный агент, в этом случае характер видеоигры помещен в различные сценарии, отражающие истории. По мере того как виртуальный агент закончил игру, он заработал очки и положительное подкрепление для эмуляции действий главных героев в истории. Команда Ридл выполнила 500 000 моделирований, которые показали правильные социальные взаимодействия более чем для 90 % случаев.

«Эти игры все еще довольно простые, - сказал Ридл, - Они больше похожи на Pac-Man вместо Halo». Тем не менее, Кихот позволяет этим агентам ИИ погрузиться в историю, узнать правильную последовательность событий и быть закодированными приемлемыми моделями поведения. Этот тип ИИ может быть адаптирован к роботам в виде различных приложений.

В течение следующих шести месяцев команда Ридл надеется обновить игры Кихота от «старого стиля» до более современных и сложных стилей, таких как в игре Minecraft, в которой игроки используют блоки для создания сложных структур и обществ.