Алгоритм решает сложные задачи обучения с экстремальной энергоэффективностью

Междисциплинарная исследовательская группа добилась значительного прогресса в разработке машины, способной обрабатывать информацию так же эффективно, как и человеческий мозг, что давно было целью в области искусственного интеллекта. Группа в Университете Хайдельберга в Германии и Университете Берна в Швейцарии была возглавлена доктором Михаем Петровичем.

Результаты исследования были опубликованы в журнале Nature Machine Intelligence.

Биологически-вдохновленные искусственные нейронные сети

Группа обратилась к биологически-вдохновленным искусственным нейронным сетям, чтобы решить эту задачу. Спайковые нейронные сети имитируют структуру и функцию естественной нервной системы и считаются перспективными кандидатами благодаря своим характеристикам, которые делают их мощными, быстрыми и энергоэффективными. Одна из ключевых задач заключалась в том, чтобы обучить такие сложные системы, и теперь группа близка к решению этой задачи с помощью внедренного алгоритма.

Нейроны в мозге передают информацию с помощью коротких электрических импульсов, которые называются спайками. Эти спайки срабатывают, когда превышен определенный порог стимула. Обмен информацией сильно зависит как от частоты, с которой один нейрон производит спайки, так и от временной последовательности отдельных спайков.

Джулиан Гёльц – аспирант исследовательской группы.

“Основное различие биологических спайковых сетей и искусственных нейронных сетей заключается в том, что, поскольку они используют спайк-обработку информации, они могут решать сложные задачи, такие как распознавание и классификация изображений, с экстремальной энергоэффективностью”, – заявляет Гёльц.

Достижение полного потенциала

Человеческий мозг и искусственные спайковые нейронные сети требуют, чтобы отдельные нейроны были правильно соединены друг с другом, чтобы достичь своего полного потенциала. Это почему исследователям нужно было открыть, как мозг-вдохновленные, или нейроморфные системы, могут быть отрегулированы для правильной обработки спайк-входа.

Лаура Кринер – еще один член исследовательской группы.

“Этот вопрос является фундаментальным для разработки мощных искусственных сетей на основе биологических моделей”, – говорит Кринер.

Специальные алгоритмы должны быть использованы для гарантии того, что нейроны в спайковой нейронной сети будут срабатывать в нужное время, и эти алгоритмы регулируют соединения между нейронами, чтобы сеть могла выполнять необходимые задачи. Эта задача может быть такой, как классификация изображений с высокой точностью.

Именно такой алгоритм разработала группа.

“Используя этот подход, мы можем обучать спайковые нейронные сети кодировать и передавать информацию исключительно в одиночных спайках. Они тем самым производят желаемые результаты особенно быстро и эффективно”, – объясняет Гёльц.

Исследователи также смогли реализовать нейронную сеть, обученную с помощью этого алгоритма, на физической платформе. Платформа была нейроморфной аппаратной платформой BrainScaleS-2, разработанной в Университете Хайдельберга.

Исследователи говорят, что система BrainScaleS обрабатывает информацию до тысячи раз быстрее, чем человеческий мозг, при этом требуя намного меньше энергии, чем традиционные компьютерные системы.

Система является частью Европейского проекта “Человеческий мозг”. Проект интегрирует технологии, такие как нейроморфные вычисления, в открытую платформу под названием EBRAINS.

“Однако наша работа интересна не только для нейроморфных вычислений и биологически-инспирированного оборудования. Она также признает спрос со стороны научного сообщества на перенос так называемых подходов глубокого обучения в нейробиологию и дальнейшее раскрытие секретов человеческого мозга”, – говорит доктор Петрович.