Робот сошёл с ума после просмотра ужасных картинок

Ученые Массачусетского технологического института (MIT) обучили алгоритм ИИ под названием Norman поведению психопата. Для этого они подвергли машинный интеллект восприятию жутких сцен смертей и насилия с одного из социальных сайтов.

ИИ Norman назвали в честь главного героя фильма «Психо» — психологического триллера Альфреда Хичкока, вышедшего в 1960 году. Создатели подгружали в искусственный интеллект непрерывный поток жестоких сцен из различных форумов на reddit.com. После этого исследователи протестировали робота с помощью психодиагностического теста Роршаха. Там, где обычный ИИ видел только зонтики и свадебные торты, Norman ассоциировал чернильные пятна с пытками электротоком и автомобильными катастрофами.

Ученые специально обучили ИИ, чтобы он мог анализировать изображения методом глубокого обучения, отбирать образы и делать соответствующие описания в письменном виде. Их исследование призвано доказать, что методы ввода, которые используются для машинного обучения, существенно влияют на его дальнейшее поведение.

В одном из тестов Роршаха обычный ИИ видел трогательную сцену с двумя людьми. Однако Norman интерпретировал изображение как падающую со стройплощадки беременную женщину. У подвергнутого негативным образам и депрессивному мышлению ИИ логика сопереживания просто не включалась.

Скай Макдональд, профессор клинической нейропсихологии в университете нового Южного Уэльса, сказал, что подобные эксперименты станут одним из наиболее подходящих для обучения машин человеческому сочувствию. Эксперты по робототехники надеются, что в один прекрасный день искусственный интеллект будет распознавать эмоции по мимике человека. Однако Макдональд утверждает, что современные ИИ все ещё очень далеки от полного понимания человеческих чувств.