Учёные предложили новый подход к исправлению ошибок искусственного интеллекта

Международная группа учёных успешно разгадывает очередные «загадки» многомерного мозга и предлагает новый подход, позволяющий системам искусственного интеллекта обучать друг друга.

В журнале «Physics of Life Reviews», имеющем один из высших импакт-факторов в категориях «Биология» и «Биофизика», опубликована статья «Симфония многомерного мозга» («Symphony of high-dimensional brain»).

Авторы статьи, всемирно известные учёные российского происхождения, – главный научный сотрудник лаборатории перспективных методов анализа многомерных данных Университета Лобачевского, профессор Университета Лестера (Великобритания) Александр Горбань, ведущий научный сотрудник лаборатории перспективных методов анализа многомерных данных Университета Лобачевского, профессор Университета Лестера (Великобритания) Иван Тюкин, а также старший научный сотрудник лаборатории нейросетевых технологий Университета Лобачевского, профессор Университета Комплутенсе (Мадрид, Испания) Валерий Макаров, – завершают широкую дискуссию в журнале «Physics of Life Reviews».

В центре обсуждения были две проблемы:

1. Как быстро и эффективно исправлять ошибки искусственного интеллекта (ИИ)?
2. Чем объясняется эффективность малых нейронных ансамблей в многомерном мозге?

Единый подход к этим проблемам был предложен в статье этих же авторов, – «Непостижимая эффективность малых нейронных ансамблей в многомерном мозге» («The unreasonable effectiveness of small neural ensembles in high-dimensional brain»), – опубликованной ранее в данном журнале. Эта статья и послужила источником дискуссии. Существо дела авторы видят в геометрии многомерных пространств. Один из участников дискуссии, знаменитый эксперт в нейронауках Р. Куиан Куирога (R. Quian Quiroga) предложил называть предложенный подход по имени авторов – GMT-подходом.

Как отмечает Александр Горбань, в многомерии облака данных приобретают неожиданно простые свойства. Даже в больших случайных наборах данных каждая точка с большой вероятностью отделима от всех других точек плоскостью, которая строится по явным формулам.

«Это явление стохастической отделимости (stochastic separation) одновременно служит основой и коррекции ошибок искусственного интеллекта, и таких нейрофизиологических феноменов как «бабушкины клетки» (grandmother of concept cells). Так называются отдельные нейроны, селективно реагирующие на предъявление какого-либо образа («бабушки»).

Системы искусственного интеллекта ошибаются и будут ошибаться. Человек должен разработать эффективную технологию обработки ошибок искусственного интеллекта или отказаться от использования искусственного интеллекта в важных проектах», – подчеркнул профессор Горбань.

Согласно GMT-подходу, если обнаружена ошибка искусственного интеллекта, то ее можно исправить на будущее, отделив простым правилом (плоскостью) ситуацию с ошибкой от прочих ситуаций, где ошибок не было. Легко строятся каскады таких простых корректоров. Они позволяют исправлять ошибки искусственного интеллекта без переучивания исходной системы, которое требует несравненно больше времени и различных ресурсов.

По мнению учёных, «бабушкины клетки» (grandmother of concept cells) легко могут отделить специфический многомерный сигнал от всех остальных без создания сложных и существенно нелинейных правил. Новые модели нейронной памяти в многомерном мозге также предложены профессорами Горбанем, Макаровым и Тюкиным (GMT-модели).

В обсуждении GMT-подхода участвовали 10 всемирно известных экспертов, результатом этого обсуждения стало доказательство состоятельности GMT-подхода. Модели уже подтверждены реальными приложениями. Новая технология исправления ошибок работает. Она исправляет ошибки искусственного интеллекта «на лету» и позволяет системам искусственного интеллекта обучать друг друга. Новые GMT-модели памяти допускают экспериментальную проверку и уже дают неожиданные предсказания. Обсуждение экспертами открывает новые проблемы и горизонты работы.

Исследования поддержаны Министерством науки и высшего образования Российской Федерации и реализуются в рамках выигранного ННГУ мегагранта.

Ссылки на статьи:

Gorban A.N., Makarov V.A., Tyukin I.Y. Symphony of high-dimensional brain: Reply to comments on “The unreasonable effectiveness of small neural ensembles in high-dimensional brain”. Phys Life Rev, 2019; https://doi.org/10.1016/j.plrev.2019.06.003, а также препринт-версия https://arxiv.org/pdf/1906.12222.pdf.

Gorban A.N., Makarov V.A., Tyukin I.Y. The unreasonable effectiveness of small neural ensembles in high-dimensional brain. Phys Life Rev, 2019; https://doi.org/10.1016/j.plrev.2018.09.005 (open access)