Проект “Человеческий мозг” и Intel работают вместе над развитием нейроморфных технологий

Команда исследователей проекта “Человеческий мозг” (HBP) работает с Intel (INTC ) над развитием нейроморфных технологий и приближением искусственного интеллекта к энергетической эффективности человеческого мозга. Нейроморфные технологии более энергетически эффективны для крупных глубоких сетей обучения по сравнению с другими системами ИИ.

Исследователи HBP и Intel провели серию экспериментов, демонстрирующих эту эффективность. Эксперименты включали новый чип Intel, который полагается на нейроны, подобные тем, что находятся в человеческом мозге. Это был первый раз, когда такие результаты были продемонстрированы.

Исследования были опубликованы в Nature Machine Intelligence.

Чипы Intel Loihi

Группа сосредоточилась на алгоритмах, которые работают с временными процессами, и система должна была отвечать на вопросы о предыдущей истории, понимая отношения между объектами или людьми из контекста. Аппаратная часть состояла из 32 чипов Loihi, которые являются нейронными исследовательскими чипами Intel.

Филипп Планк – аспирант Института теоретической информатики TU Graz и сотрудник Intel.

“Наша система в два-три раза более экономична здесь, чем другие модели ИИ”, – говорит Планк.

Планк считает, что с введением новой генерации Loihi будет больше экономии и улучшения энергозатратной связи между чипами. Измерения показали, что потребление было в 1000 раз более эффективным, поскольку не требовалось отправлять потенциалы действия туда и обратно между чипами.

Группа воспроизвела предполагаемый метод человеческого мозга.

Вольфганг Маасс – научный руководитель Филиппа Планка и профессор-эмерит Института теоретической информатики.

“Экспериментальные исследования показали, что человеческий мозг может хранить информацию в течение короткого периода времени даже без нейронной активности, а именно в так называемых ‘внутренних переменных’ нейронов”, – говорит Маасс. “Симуляции предполагают, что механизм усталости подмножества нейронов необходим для этой краткосрочной памяти”.

Связывание глубоких сетей обучения

Для этого исследователи связывают два типа глубоких сетей обучения. Обратные нейронные сети отвечают за “краткосрочную память”, и рекуррентные модули фильтруют возможную релевантную информацию из входного сигнала и хранят ее. Сеть прямого распространения определяет, какие из найденных отношений важны для решения текущей задачи. Отношения, которые не имеют значения, фильтруются, и нейроны срабатывают только в тех модулях, где найдена релевантная информация. Этот весь процесс приводит к драматической экономии энергии.

Стив Фербер – руководитель отдела нейроморфных вычислений HBP и профессор компьютерной инженерии Университета Манчестера.

“Этот прорыв приближает обещание энергетически эффективного событийного ИИ на нейроморфных платформах к реализации. Новый механизм хорошо подходит для нейроморфных систем вычислений, таких как Intel Loihi и SpiNNaker, которые могут поддерживать модели многокомпартментных нейронов”, – сказал Фербер.