Енерго-ефективний AI: Нова зоря з нейроморфними комп’ютерами

Швидко зростаюча сфера штучного інтелекту (AI) відома своєю продуктивністю, але має суттєву енергетичну ціну. Новий підхід, запропонований двома провідними вченими в Інституті Макса Планка з науки про світло в Ерлангені, Німеччина, спрямований на більш ефективне навчання AI, потенційно революціонізуючи спосіб обробки даних AI.

Поточні моделі AI споживають величезну кількість енергії під час навчання. Хоча точні цифри відсутні, оцінки Statista свідчать про те, що навчання GPT-3 вимагає приблизно 1000 мегават-годин – що еквівалентно річному споживанню 200 великих німецьких домогосподарств. Хоча це енергозатратне навчання дозволило GPT-3 передбачити послідовності слів, існує консенсус щодо того, що воно не зрозуміло внутрішніх значень таких фраз.

Нейроморфне обчислення: Злиття мозку і машини

Хоча традиційні системи AI спираються на цифрові штучні нейронні мережі, майбутнє може лежати в нейроморфному обчисленні. Флоріан Марквардт, директор Інституту Макса Планка і професор Університету Ерлангена, пояснив недолік традиційних налаштувань AI.

“Самостійний перехід даних між процесором і пам’яттю споживає суттєву кількість енергії”, – підкреслив Марквардт, відзначивши неефективність при навчанні великих нейронних мереж.

Нейроморфне обчислення черпає натхнення з людського мозку, обробляючи дані паралельно, а не послідовно. По суті, синапси в мозку функціонують як процесор і пам’ять. Системи, які імітують ці характеристики, такі як фотонні схеми, які використовують світло для обчислень, зараз досліджуються.

Навчання AI з самонавчальними фізичними машинами

Працюючи разом з аспірантом Віктором Лопес-Пастором, Марквардт представив інноваційний метод навчання для нейроморфних комп’ютерів. Їх “самонавчальна фізична машина” фундаментально оптимізує свої параметри за допомогою внутрішнього фізичного процесу, роблячи зовнішню зворотню зв’язок зайвою. “Не потрібно ця зворотня зв’язок робить навчання значно більш ефективним”, – підкреслив Марквардт, припускаючи, що цей метод буде економити як енергію, так і час обчислень.

Водночас цей революційний техніка має певні вимоги. Процес повинен бути оборотним, забезпечуючи мінімальну втрату енергії, і достатньо складним або нелінійним. “Тільки нелінійні процеси можуть виконувати складні перетворення між вхідними даними і результатами”, – зазначив Марквардт, проводячи розрізнення між лінійними і нелінійними діями.

У бік практичної реалізації

Теоретична робота дуету збігається з практичними застосуваннями. Співпрацюючи з експериментальною командою, вони просунули оптичний нейроморфний комп’ютер, який обробляє інформацію за допомогою накладених хвиль світла. Їхня мета ясна: втілення концепції самонавчальної фізичної машини.

“Ми сподіваємося представити першу самонавчальну фізичну машину за три роки”, – передбачив Марквардт, вказуючи на те, що ці майбутні мережі будуть обробляти більше даних і навчатися на більших наборах даних, ніж сучасні системи. Ураховуючи зростаючі вимоги до AI і внутрішні неефективності поточних налаштувань, перехід до ефективно навчених нейроморфних комп’ютерів здається як неминучим, так і перспективним.

У словах Марквардта, “Ми впевнені, що самонавчальні фізичні машини мають солідний шанс у тривалому розвитку штучного інтелекту”. Наукове співтовариство і шанувальники AI чекають з нетерпінням, чого ждать майбутнє.