Алгоритм розв’язує складні завдання навчання з екстремальною енергоефективністю

Інтердисциплінарна команда дослідників зробила великий крок у розробці машини, яка може обробляти інформацію так же ефективно, як і людський мозок, чого давно домагається у сфері штучного інтелекту. Команда під керівництвом доктора Міхаї Петровічі з Університету Гейдельберга в Німеччині та Університету Берна в Швейцарії.

Результати дослідження були опубліковані в журналі Nature Machine Intelligence.

Біологічно-інспіровані штучні нейронні мережі

Команда звернулася до біологічно-інспірованих штучних нейронних мереж для вирішення цієї проблеми. Спайкові нейронні мережі імітують структуру та функцію природної нервової системи, і вони вважаються перспективними кандидатами завдяки своїм властивостям, які роблять їх потужними, швидкими та енергоефективними. Одним з ключових викликів було тренування таких складних систем, і тепер команда близька до цього з допомогою нового алгоритму.

Нейрони в мозку передають інформацію за допомогою коротких електричних імпульсів, які називаються спайками. Вони викликаються, коли певний поріг стимуляції перевищується. Обмін інформацією сильно залежить як від частоти, з якою один нейрон виробляє спайки, так і від часової послідовності окремих спайків.

Юліан Гельц – аспірант дослідницької групи.

“Основна відмінність біологічних спайкових мереж від штучних нейронних мереж полягає в тому, що вони використовують спайковий обробку інформації, завдяки чому можуть розв’язувати складні завдання, такі як розпізнавання та класифікація зображень, з екстремальною енергоефективністю”, – заявляє Гельц.

Досягнення повного потенціалу

Людський мозок та штучні спайкові нейронні мережі вимагають правильного підключення окремих нейронів один до одного, щоб досягнути повного потенціалу. Саме тому дослідникам потрібно було виявити, як мозоко-інспіровані або нейроморфні системи можуть бути налаштовані для правильної обробки спайкових входів.

Лаура Крінер – ще один член дослідницької команди.

“Це питання є фундаментальним для розробки потужних штучних мереж на основі біологічних моделей”, – говорить Крінер.

Спеціальні алгоритми повинні бути використані для гарантії того, що нейрони в спайковій нейронній мережі будуть активуватися в потрібний момент, і ці алгоритми регулюють зв’язки між нейронами так, щоб мережа могла виконувати необхідні завдання. Це завдання може бути щось на зразок класифікації зображень з високою точністю.

Саме такий алгоритм розробила команда.

“За допомогою цього підходу ми можемо тренувати спайкові нейронні мережі для кодування та передачі інформації виключно в окремих спайках. Таким чином, вони дають бажані результати особливо швидко та ефективно”, – пояснює Гельц.

Дослідники також успішно реалізували нейронну мережу, треновану за допомогою цього алгоритму, на фізичній платформі. Платформа була розроблена на основі нейроморфної апаратури BrainScaleS-2 в Університеті Гейдельберга.

Дослідники стверджують, що система BrainScaleS обробляє інформацію в тисячу разів швидше, ніж людський мозок, при цьому потребуючи значно менше енергії, ніж традиційні комп’ютерні системи.

Система є частиною Європейського проекту “Людський мозок”. Проект інтегрує технології, такі як нейроморфне обчислення, в відкриту платформу під назвою EBRAINS.

“Однак, наша робота не тільки цікава для нейроморфного обчислення та біологічно-інспірованих апаратних засобів. Вона також визнає вимогу наукової спільноти щодо перенесення так званих підходів глибокого навчання до нейробіології та подальшого розкриття секретів людського мозку”, – говорить доктор Петровіч.