Суміт Кумар, співзасновник і генеральний директор Innatera – Серія інтерв’ю

Суміт Кумар є співзасновником і генеральним директором Innatera Nanosystems, де він очолює розробку ультра-ефективних нейроморфних процесорів для аналізу даних сенсорів в IoT, носимих та вбудованих пристроях. Раніше він керував дослідницькими проектами, фінанованими ЄС, в TU Delft, включаючи проект PRYSTINE на суму 50 мільйонів євро щодо технологій автономних транспортних засобів, а також займав посади в Intel (INTC ) і в академічних дослідженнях з питань передових архітектур процесорів.

Innatera є компанією з виробництва напівпровідників, яка зосереджена на впровадженні ультра-низької потужності інтелекту до “крайнього краю сенсорів”. Їхня основна інновація полягає в спайкових нейронних процесорах, побудованих на аналогово-міксованій сигнальній архітектурі, яка імітує подієву обробку мозку. Ці чіпи можуть розпізнавати закономірності в даних сенсорів на рівні потужності менше міліватта і ультра-низької затримки, що робить їх ідеальними для постійно включених, обмежених за потужністю застосунків.

Ви заснували Innatera у 2018 році з баченням привнести нейроморфні процесори з лабораторій у реальні пристрої. Що спонукало вас особисто створити компанію, і як це бачення еволюціонувало за останні сім років?

Innatera була заснована з чіткою місією: привнести інтелект, подібний до мозку, безпосередньо до сенсора. Ознаки були очевидними ще у 2018 році, пристрої інтегрували все більш складні сенсори, і зростала потреба в постійному сенсорному моніторингу. Мініатюрні контролери були позбавлені можливості ефективної обробки даних за допомогою штучного інтелекту, і навіть це не змогло суттєво покращити ситуацію щодо безперервної обробки даних у пристроях, які працюють від малих батарей. Було зрозуміло, що спосіб обробки даних сенсорів у цих пристроях потребував змін, і десятиріччя досліджень, які ми провели в TUDelft щодо нейроморфної обчислювальної техніки та енергоефективної обробки, мали відповідь на цю проблему.

Наше бачення залишилося послідовним – розумніший, чистіший і безпечніший світ, який працює завдяки інтелекту, що оточує нас. Привносячи інтелект до сенсорів, наші чіпи дозволять обробляти дані сенсорів безпосередньо в джерелі, що призведе до радикального зниження енергоспоживання сучасних систем штучного інтелекту. Ми плануємо зробити мільярд сенсорів розумними до 2030 року.

Pulsar є першим кроком на цьому шляху – це перший нейроморфний мікроконтролер, розроблений для широкого вжитку. Він робить інтелект, натхненний мозком, практичним у носимих пристроях, розумних домогосподарствах, промислових системах та інших випадках застосування, одночасно закладає основу для адаптивних, автономних технологій майбутнього.

Pulsar базується на фундаментально новому підході до обробки даних на рівні сенсора, реалізованому протягом 7 років інтенсивних досліджень і інженерних робіт. Що почалося як підприємство з чотирма людьми, виросло у глобальну команду з 100 осіб у 15 країнах, об’єднаних культурою, орієнтованою на людей, побудованою на стійкості, креативності та амбіціях.

Pulsar описується як перший真正ньо масовий нейроморфний мікроконтролер. Що робить його відмінним від попередніх нейроморфних чіпів, які в основному залишилися у сфері досліджень?

Фокус академічних досліджень часто полягає у розробці інноваційних нових підходів до вирішення складних проблем. Як наслідок, переваги рішень часто оцінюються окремо. Однак, коли ці нові технології впроваджуються у виробництво, їм доводиться взаємодіяти з іншими частинами системи, що часто призводить до того, що їхні переваги послаблюються. Це також характерно для багатьох нейроморфних і традиційних технологій прискорення штучного інтелекту – вони інтегруються у системи, які не спроектовані з урахуванням тих самих основ, що призводить до результату, який блідне у своїй ефективності. Pulsar, з іншого боку, є повноцінним, самостійним мікроконтролером, спеціально розробленим для ефективної обробки даних сенсорів на крайньому краї.

Він був розроблений з нуля для інтеграції всього необхідного для обробки даних сенсорів у рамках одного чіпа: аналогових і цифрових спайкових нейронних ядер, прискорювачів CNN і FFT, а також повної 32-бітової підсистеми RISC-V для управління системою і контролю сенсорів. Ця гетерогенна архітектура дозволяє Pulsar перетворювати сирі дані сенсорів на значимі, діючі знання безпосередньо в пристрої, споживаючи до 500 разів менше енергії і працюючи у 100 разів швидше, ніж традиційні процесори штучного інтелекту.

Поза апаратним забезпеченням Pulsar також вирішує довготривалу проблему програмного забезпечення. Його SDK Talamo, з вбудованою інтеграцією PyTorch, робить розробку нейроморфних технологій доступною для інженерів загального профілю і дозволяє компактним моделям розміром менше 5 КБ працювати у межах потужності менше міліватта. Помістивши все це у пакет розміром 2,8 х 2,6 мм, Pulsar усуває необхідність у громіздких багаточіпових конструкціях, роблячи його першим нейроморфним процесором, готовим до справжнього масового впровадження.

Доступність є великою темою для Innatera. Як SDK Talamo, особливо з його інтеграцією PyTorch, знижує бар’єр для розробників, які нові у сфері нейроморфних обчислень? 

На протяжении десятиліть основним бар’єром для впровадження нейроморфних технологій не була апаратура, а відсутність інструментів, дружніх до розробників. Розробники зіштовхувалися зі стрімкими кривими навчання і незнайомими робочими процесами, що, в свою чергу, сповільнювало інновації. Talamo безпосередньо вирішує цю проблему, надаючи SDK на основі PyTorch, яке дозволяє інженерам проектувати, тренувати і розгортати спайкові нейронні мережі через знайомі робочі процеси. Компактні моделі можна легко інтегрувати до існуючих архітектур сенсорів, забезпечуючи постійну інтелектуальність навіть у найменших, найбільш обмежених за потужністю пристроях. Видаляючи складність і прискорюючи розвиток, Talamo робить нейроморфні обчислення доступними для інженерів загального профілю і прискорює шлях від прототипу до продукту.

З технічної точки зору, як ви балансуєте аналогові і цифрові спайкові прискорювачі всередині Pulsar для ефективної обробки різних робочих навантажень? 

Архітектура Pulsar поєднує аналогові і цифрові спайкові ядра для оптимізації енергоспоживання і гнучкості. Аналогові ядра забезпечують ультра-ефективну обробку для безперервних, постійно включених робочих навантажень сенсорів, де кожен мікроват має значення. Цифрові ядра забезпечують програмованість і точність для більш складних або змінних завдань, все ще у межах ефективного енергоспоживання. Робочі навантаження розподіляються між двома залежно від вимог застосунку, забезпечуючи, що енергія споживається лише тоді, коли дані змінюються. Цей подієво-орієнтований підхід дозволяє Pulsar підтримувати роботу на рівні потужності менше міліватта, одночасно зберігаючи гнучкість для підтримки різноманітних реальних застосунків.

Можете роз’яснити типовий робочий процес розробника – від тренування моделі до її розгортання на Pulsar – і де відбуваються найбільші вигоди з точки зору ефективності?

Робочий процес починається у PyTorch, де розробники проектують і тренують свої моделі так само, як і для традиційного штучного інтелекту. Використовуючи SDK Talamo від Innatera, модель перетворюється у спайкову нейронну мережу, оптимізовану для апаратного забезпечення Pulsar. Розробники можуть потім симулювати, уточнювати і розгортати модель безпосередньо на чіпі, часто з розміром моделі всього 5 КБ. Ступінь розробки моделі інтегрована у більший потік розробки програми, який дозволяє розробнику створювати код, який націлений на RISC-V, а також на прискорювач CNN, у єдиному потоці. Це перекладується у покращений досвід розробки і коротший час розробки.

Найбільші вигоди з точки зору ефективності відбуваються, коли модель запущена і працює на подієво-орієнтованих спайкових ядрах Pulsar. На відміну від традиційних мікроконтролерів, які постійно споживають потужність, Pulsar виконує обчислення лише тоді, коли змінюються вхідні дані. Це дозволяє постійно включеним завданням, таким як розпізнавання жестів або виявлення присутності за допомогою радару, працювати безперервно на рівні потужності менше міліватта, забезпечуючи покращення ефективності енергоспоживання на порядок і зберігання високої точності та надзвичайно короткої затримки.

Які сектори демонструють найшвидше впровадження вашої технології, і можете поділитися прикладами ранніх клієнтів або партнерів, які вже розгортають Pulsar у своїх продуктах?

Впровадження Pulsar відбувається найшвидше у сферах, де постійне сенсорне моніторинг і ультра-низька потужність мають найбільше значення, включаючи розумні домогосподарства, носимі пристрої та промислову безпеку. Добрим прикладом цього є Aaroh Labs, яка розробила наступне покоління детекторів диму, що працюють на технології Innatera, недавно представлених на SEMICON India 2025. Ці пристрої роблять більше, ніж просто виявляють дим, поєднуючи виявлення диму з моніторингом присутності людини, створюючи більш повне розуміння ситуації і дозволяючи створити розумніші системи безпеки для житлових, комерційних та промислових середовищ.

Ту саму нейроморфну підхід можна поширити на відстежування активів і моніторинг довкілля, з широкими наслідками для підключених систем охорони здоров’я і розумних міст. На SEMICON India компанія CYRAN AI Solutions також продемонструвала, як технологія Innatera інтегрована у компактні сенсорні системи, такі як носимі пристрої для розпізнавання жестів, підкреслюючи потенціал нейроморфних технологій штучного інтелекту для забезпечення інтуїтивної взаємодії людини з машиною.

Ці перші розгортання – тільки початок, сигналізуючи про те, що нейроморфні обчислення переходять від теорії до практики, і швидко набирають чинності у реальних застосунках.

У демонстраціях ми бачили приклади, такі як розпізнавання жестів з ультра-низьким енергоспоживанням і виявлення присутності за допомогою радару, що споживають менше міліватта. Як ви перевіряєте точність і надійність у таких обмежених умовах?

Перевірка часто залежить від застосунку, і крім точності, показники виявлення хибних позитивів і хибних негативів забезпечують критичний індикатор надійності рішення. Часто клієнти мають конкретні показники hiệuності і умови тестування для перевірки. Гнучкість Pulsar є ключовою у забезпеченні комплексних рішень, які дозволяють клієнтам позначити всі пункти для свого випадку використання. Порівняння проводяться шляхом порівняння з традиційними мікроконтролерами і прискорювачами, які зазвичай споживають у 40-100 разів більше потужності для тих самих завдань.

У реальних демонстраціях, таких як виявлення присутності за допомогою радару і класифікація аудіосцен, Pulsar постійно демонструє точність понад 90%, залишаючись у межах потужності менше міліватта. Це дозволяє забезпечувати безперервну роботу без жертвування надійністю, що традиційно компрометувалося у системах, які постійно працюють, шляхом виходу з режиму спання, обмеження продуктивності або вивантаження у хмару.

Ви позиціонуєте Pulsar як доповнення до традиційних ядер процесорів і центральних процесорів. Як ви бачите майбутнє нейроморфних обчислень у ширшому контексті кремнієвої основи майбутніх розумних пристроїв?

Pulsar розроблений як перший чіп, з яким спілкуються сенсори. Він обробляє дані локально з ультра-низьким енергоспоживанням, перетворюючи сирі сигнали сенсорів на значимі, діючі знання безпосередньо у джерелі. Ядра процесорів і центральні процесори можуть бути задіяні лише тоді, коли потрібна більш важка обробка.

Це робить нейроморфні процесори додатковим шаром у кремнієвій основі; завжди-інформованим, завжди-включеним фундаментом, який розширює термін служби пристроїв, знижує енергоспоживання і покращує реакцію. Pulsar забирає завдання обробки даних сенсорів від традиційно більш потужних компонентів системи, дозволяючи їм бути вимкненими у багатьох пристроях, а в деяких випадках – навіть повністю усунутими. Це призводить до створення розумніших і довговічніших пристроїв.

Яку роль відіграють партнерства з компаніями, такими як Aaroh Labs і CYRAN AI Solutions, у прискоренні реального впровадження нейроморфного штучного інтелекту?

Партнерства діють як міст між проривовими технологіями і широким впровадженням. Співпрацюючи з інноваторами, такими як Aaroh Labs і CYRAN AI Solutions, Innatera забезпечує, щоб Pulsar був перевірений у реальних умовах і адаптований для конкретних вертикальних ринків. Aaroh Labs привносить нейроморфний інтелект у критичну інфраструктуру безпеки, тоді як CYRAN AI Solutions демонструє його потенціал у сфері інтуїтивної взаємодії людини з машиною. Ці партнерства доводять універсальність технології, знижуючи бар’єри для інших приймачів і зміцнюючи довіру до розгортання нейроморфних процесорів у великих масштабах.

Наші партнерства з виробниками сенсорів, такими як Socionext, дозволяють нам тісно інтегрувати інтелект у модуль сенсора, спрощуючи впровадження і розгортання розумного сенсорного моніторингу у пристрої. Крім того, такі партнерства зміцнюють наш уже сильний і зростаючий екосистему, прискорюючи поширення нейроморфних обчислень у галузі.

Оглядаючи майбутнє, ви бачите Pulsar і його наступників, рухаючись у бік навчання і адаптації на пристрої, а не лише інференції на краю?

Абсолютно. З Pulsar ми тільки почали розгрібати поверхню того, що можуть нейроморфні технології. Нейроморфні процесори внутрішньо добре підходять для онлайн-навчання і адаптації, і Pulsar закладає основу для пристроїв, які можуть робити значно більше, ніж просто виявляти і реагувати.

Нейроморфні обчислення мають змогу забезпечити нове покоління адаптивних і автономних пристроїв на краю; систем, які вчаться, самокалібруються і оптимізуються в реальному часі, працюючи на малих батарейках. Ця еволюція розблокує широкий спектр застосунків, від носимих пристроїв, які регулюються під вашу поведінку на льоту, до промислових систем, які передбачають і запобігають відмовам з мінімальним енергоспоживанням. Довгострокова мета – створити пристрої, які є такими ж інтелектуальними, як і постійно адаптивними і стійкими, переозначаючи те, що дійсно можливо на краю.

Дякую за чудовий інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Innatera.