DARPA ищет ИИ, который будет все время учиться

Агентство DARPA стремится изменить способ работы ИИ, реализуя программу L2M или «постоянное компьютерное обучение». Агентство ищет системы, которые постоянно учатся, адаптируются к новым задачам и знают, чему и когда нужно учиться. «Мы хотим соединить надежность систем автоматизации с гибкостью человека», – говорит директор программы Хава T. Сиежелманн.

Программа с бюджетом в $65 млн. уже выбрала 16 групп для 4-летних проектов. Однако, согласно Сиежелманн, по-прежнему имеется возможность предлагать 12-или 18-месячные проекты.

Большая проблема ИИ проистекает из используемой сегодня структуры. Нейронные сети – это адаптируемые системы, способности обучения которых происходят от изменения прочности соединений между искусственными нейронами. Сегодня эти сети проходят обучение по набору таких данных, как изображения автомобилей и людей. Затем прочность соединений сети фиксируется, и система работает в реальном мире.

Проблема возникает в том случае, когда ИИ встречается с ситуацией, не использовавшейся ранее при тренировке распознавания. Без переподготовки система будет повторять одну и ту же ошибку снова и снова. Немедленно на рабочем месте системы ИИ не могут быть переобучены. Попытка сделать это с современными системами приводит к явлению, которое называется «катастрофическим забвением», сообщил Сиежелманн на конференции IEEE «Перезагрузка вычислительной техники». Возникает ситуация, когда изучение нового элемента нарушает все остальные познания и действия системы.

Даже у людей падает производительность труда, когда они сталкиваются с чем-то новым, но мы можем восстановиться в процессе работы. Если вы поднимете баскетбольную корзину на 30 сантиметров выше, игроки будут часто промахиваться, но по мере продолжения игры они научатся поражать мишень на новой высоте. Тренеру не нужно останавливать игру и заново обучать команду всем приемам.

16 основных грантов были предоставлены разделенным по двум направлениям группам. Одно направление будет иметь четыре года для разработки систем, которые могут постоянно учиться, адаптироваться к новым задачам и обстоятельствам, а также понимать вводимые изменения в соответствии с задачами системы (именуемыми «восприятием, ориентацией на цели»). Другое направление будет иметь четыре года для определения новых механизмов обучения на протяжении всей жизни (биологической или физической) и передачи этого механизма алгоритму, который усовершенствует ИИ. Сиежелманн говорит, что в обеих областях имеются возможности для проведения краткосрочных исследований.