Sumeet Kumar, Innatera’nın Kurucu Ortağı ve CEO’su – Röportaj Serisi

Sumeet Kumar Innatera Nanosystems’ın kurucu ortaklarından ve CEO’sudur. Burada, IoT, giyilebilir ve gömülü cihazlardaki sensör veri analitiği için ultra verimli nöromorfik işlemciler geliştirilmesini yönetmektedir. Daha önce, TU Delft’te 50 milyon Avro’luk PRYSTINE projesi de dahil olmak üzere AB tarafından finanse edilen araştırmaları yönetti ve Intel’ (INTC ) de ve gelişmiş işlemci mimarileri üzerine akademik araştırmalarda görev yaptı.

Innatera “sensör kenarına” ultra düşük güçte zeka getirmeye odaklanan bir yarı iletken şirketidir. Core inovasyonu, beyinlerin olay tabanlı işleme özelliklerini taklit eden analog-karışıklık sinyal işlemciler üzerine inşa edilmiştir. Bu çipler, sub-milivat güç seviyelerinde ve ultra düşük gecikmeyle sensör verisinde desenleri tanıyabilir, bu da onları her zaman açık ve güç kısıtlamalı uygulamalar için ideal kılar.

Siz Innatera’yı 2018 yılında nöromorfik işlemcileri laboratuvarlardan gerçek dünya cihazlarına getirmek amacıyla kurmuştunuz. Siz persönally bu şirketi kurmaya ne sizi itti ve bu vizyon son yedi yılda nasıl evrimleşti?

Innatera, sensöre doğrudan beyin benzeri zeka getirmek amacıyla kuruldu. İşaretler 2018’de bile açıktı, cihazlar giderek daha karmaşık sensörler entegre ediyor ve her zaman açık algılama ihtiyacı artıyordu. Mikrodenetleyiciler güç verimli AI yeteneklerine sahip değildi ve bu, küçük pillerle çalışan cihazlardaki sürekli işleme açısından ancak belirli bir noktaya kadar ilerleme kaydedebilirdi. Cihazlardaki sensör verisinin işlenme şeklinin değişmesi gerektiği açıktı ve TUDelft’te nöromorfik hesaplama ve enerji verimli işleme üzerine yapılan on yıllık araştırmamız bu zorluğa bir cevap sunuyordu.

Vizyonumuz tutarlı kaldı – zeka ile çalışan, temiz ve güvenli bir dünya. Sensörlere zeka getirerek, dünyanın sensör verilerini doğrudan kaynağında işleyeceğiz, modern AI’ın enerji kullanımını radikal olarak azaltacağız. 2030 yılına kadar bir milyar sensörü zeki hale getirmeyi hedefliyoruz.

Pulsar bu yolculuğun ilk adımı – ana akım benimsemeye yönelik tasarlanan dünyanın ilk nöromorfik mikrodenetleyicisidir. Giyilebilir cihazlar, akıllı ev cihazları ve endüstriyel sistemler de dahil olmak üzere çeşitli kullanım durumlarında beyin esinlenen zekayı pratik hale getirir ve geleceğin adaptif ve otonom teknolojileri için temel oluşturur.

Pulsar, 7 yıllık zorlu araştırma ve mühendislik çalışmasıyla gerçekleştirilen esasen yeni bir sensör işlem yaklaşımına dayanır. Dört kişilik bir girişimden başlayarak, 15 ülkede 100 kişilik küresel bir ekibe büyüdü, insanların önceliği, yaratıcılık ve hırs üzerine inşa edilen bir kültür bir araya getirdi.

Pulsar, önceki nöromorfik çiplerden farklı olarak真正 mass-market nöromorfik mikrodenetleyicisi olarak tanımlanıyor. Peki, Pulsar’ı araştırma laboratuvarlarına genellikle mahsur kalan önceki nöromorfik çiplerden neler ayırıyor?

Akademik araştırmaların odağı genellikle zor sorunları çözmek için yenilikçi yeni yaklaşımlar geliştirmektir. Bunun bir sonucu olarak, çözümlerin faydaları genellikle izole olarak ölçülür. Ancak, bu yeni teknolojiler üretime dağıtıldığında, diğer sistem bileşenleriyle etkileşime girmeleri gerekir, bu da faydalarının sulandırılmasına neden olur. Bu, birçok nöromorfik ve geleneksel AI hızlandırma teknolojisi için de geçerlidir – bunlar, aynı ilkeler gözetilerek tasarlanmayan sistemlere entegre edilir, bu da verimliliklerinin azalmasına yol açar. Pulsar ise, aşırı kenarda verimli sensör verisi işleme için tasarlanmış, tamamlanmış, bağımsız bir mikrodenetleyicidir.

Tasarımı, analog ve dijital sinyal nöral çekirdekleri, CNN ve FFT hızlandırıcıları ve sistem yönetimi ile sensör kontrolü için tam 32-bit RISC-V alt sistemi içeren tek bir çip içinde her şeyin entegre edilmesini sağlar. Bu heterojen mimari, Pulsar’ın ham sensör verisini doğrudan cihaza anlamlı, eyleme geçirilebilir bilgiler haline dönüştürmesini sağlar, geleneksel AI işlemcilerine kıyasla 500 kata kadar daha az enerji tüketir ve 100 kata kadar daha hızlı çalışır.

Donanım ötesinde, Pulsar ayrıca uzun süredir devam eden yazılım engelini ele alır. Yerel PyTorch entegrasyonu ile Talamo SDK’si, nöromorfik geliştirmeyi ana akım mühendislerine erişilebilir kılar ve 5KB’den küçük modelleri sub-milivat güç bütçelerinde çalıştırılmasını sağlar. Tüm bunları 2.8 x 2.6 mm’lik bir pakete sığdırarak, Pulsar, kalın çoklu çip kurulumlarına olan ihtiyacı ortadan kaldırır ve gerçek anlamda mass-market dağıtımı için hazırlanmış ilk nöromorfik işlemci olur.

Erişilebilirlik Innatera için büyük bir tema. Talamo SDK’si, özellikle PyTorch entegrasyonu ile, nöromorfik hesaplama konusunda yeni olan geliştiriciler için engelleri nasıl azaltıyor? 

On yıllar boyunca, nöromorfik benimsemeye karşı ana engel donanım değil, geliştirici dostu araçların eksikliğiydi. Geliştiriciler dik öğrenme eğrisi ve alışık olmadıkları iş akışları ile karşı karşıya kalıyorlardı, bu da inovasyonu yavaşlatıyordu. Talamo, geliştiricilere PyTorch tabanlı bir SDK sunarak, sinyal nöral ağlarını tanımlama, eğitim ve dağıtma işlemlerini aşina oldukları iş akışları ile gerçekleştirebilme olanağı sağlar. Kompakt modeller, mevcut sensör mimarilerine kolayca entegre edilebilir, bu da güç kısıtlamalı cihazlarda her zaman açık zekayı sağlar. Karmaşıklığı azaltarak ve geliştirme süresini hızlandırarak, Talamo nöromorfik hesaplama erişilebilirliğini ana akım geliştiriciler için artırır ve ürün yolundaki süreci hızlandırır.

Pulsar’ın içinde analog ve dijital sinyal hızlandırıcıları çeşitli iş yüklerini verimli bir şekilde işleyebilmek için nasıl dengelemişsiniz? 

Pulsar’ın mimarisi, enerji kullanımını optimize etmek ve esneklik sağlamak için analog ve dijital sinyal çekirdeklerini birleştirir. Analog çekirdekler, her mikro wattın önemli olduğu sürekli, her zaman açık sensör iş yükleri için ultra verimli işlem sağlar. Dijital çekirdekler, daha karmaşık veya değişken görevler için programlanabilirlik ve kesinlik sunar, yine de verimli bir güç zarfında kalır. İş yükleri, uygulama gereksinimlerine bağlı olarak iki çekirdek arasında dağıtılır, bu da enerji yalnızca veri değiştiğinde tüketilir. Bu olaya dayalı yaklaşım, Pulsar’ın sub-milivat performansını sürdürürken, çeşitli gerçek dünya uygulamalarını desteklemek için esneklik sağlar.

Bir geliştiricinin tipik iş akışını – modeli eğitmekten Pulsar’a dağıtmaya – bize anlatabilir misiniz ve en büyük verimlilik kazanımları nerede gerçekleşir?

İş akışı PyTorch’ta başlar, burada geliştiriciler modellerini geleneksel AI için olduğu gibi tasarlar ve eğitiyorlar. Innatera’nın Talamo SDK’sini kullanarak, model bir Pulsar donanımı için optimize edilmiş sinyal nöral ağına dönüştürülür. Geliştiriciler daha sonra modeli simüle edebilir, iyileştirebilir ve doğrudan çipe dağıtabilir, genellikle 5KB kadar küçük ayak izleri ile. Model geliştirme adımı, RISC-V ve CNN hızlandırıcılarını hedefleyen kodu oluşturmayı sağlayan daha büyük bir uygulama pipeline geliştirme akışının bir parçasıdır. Bu, geliştirme deneyimi açısından bir iyileşme ve daha kısa geliştirme süresi anlamına gelir.

En büyük verimlilik kazanımları, model Pulsar’ın olaya dayalı sinyal nöral çekirdeklerinde çalışmaya başladığında gerçekleşir. Geleneksel MCU’ların sürekli güç tüketmesine karşılık, Pulsar yalnızca girdi verisi değiştiğinde hesaplar. Bu, her zaman açık görevlerin, seperti jest tanıma veya radar varlığı algılama, sub-milivat seviyelerinde sürekli çalışmasına ve geleneksel AI işlemcilerine kıyasla emirlerle magnitude daha iyi enerji verimliliği ve çok kısa gecikme sunmasına olanak tanır.

Pulsar teknolojinizin en hızlı benimsendiği sektörler hangileri ve erken müşteriler veya ortaklar olarak Aaroh Labs ve CYRAN AI Solutions gibi şirketlerin örneklerini paylaşabilir misiniz?

Pulsar’ın benimsenmesi, her zaman açık algılama ve ultra düşük güç consumo açısından en önemli olan alanlarda gerçekleşiyor, bunlar arasında akıllı evler, giyilebilir cihazlar ve endüstriyel güvenlik bulunmakta. İyi bir örnek, Innatera tarafından güçlendirilen bir sonraki nesil duman dedektörleri geliştiren Aaroh Labs’tir. Bu cihazlar sadece duman algılamakla kalmaz, aynı zamanda insan varlığını izleme yeteneği ile daha zengin durum farkındalığı sağlar ve konut, ticari ve endüstriyel ortamlar için daha akıllı güvenlik sistemleri oluşturur.

Aynı nöromorfik yaklaşım, varlık izleme ve çevresel izleme gibi alanlara genişletilebilir ve bağlantılı sağlık hizmetleri ve akıllı şehirler için geniş kapsamlı etkileri olabilir. SEMICON India’da CYRAN AI Solutions, Innatera’nın teknolojisini kompakt sensör sistemlerine, gibi elektromiyografi (EMG) giyilebilir cihazlarına entegre etme şeklini gösterdi ve bu, nöromorfik AI’nin insan-makine etkileşimini daha sezgisel hale getirmek için potansiyelini vurguladı.

Bu erken dağıtımlar sadece başlangıç noktasıdır ve nöromorfik hesaplamanın teoriden pratiğe geçiş yaptığını, gerçek dünya uygulamalarında hızla kök salmaya başladığını göstermektedir.

Gösterilerde, sub-milivat altında tüketim gösteren ultra düşük güçte jest tanıma ve radar tabanlı varlık algılama gibi örnekler gördük. Bu kısıtlı ortamlarda doğruluk ve güvenilirliği nasıl doğruluyorsunuz?

Doğrulama genellikle uygulamaya bağlıdır ve doğruluk yanı sıra yanlış pozitif ve yanlış negatif algılama oranları, bir çözümün güvenilirliğinin kritik bir göstergesidir. Müşteriler genellikle kendi KPI’leri ve test koşulları vardır. Pulsar’ın esnekliği, müşterilerin kullanım durumları için kapsamlı çözümler sunmasını sağlar. Karşılaştırmalar, genellikle aynı görevler için 40-100 kat daha fazla güç tüketen geleneksel MCU’lar ve hızlandırıcılar ile yapılır.

Gerçek dünya gösterilerinde, radar tabanlı varlık algılama ve ses sahne sınıflandırması gibi, Pulsar tutarlı olarak %90’ın üzerinde doğruluk sağlar ve sub-milivat bütçeleri içinde kalır. Bu, geleneksel her zaman açık sistemlerin genellikle uyum sağlamak zorunda kaldığı bir şeyin aksine, güvenilirliği feda etmeden sürekli çalışmayı sağlar.

Pulsar’ı daha geleneksel NPU’lar ve CPU’lar ile tamamlayıcı olarak konumlandırıyorsunuz. Gelecekteki akıllı cihazların daha geniş silikon yığınında nöromorfik hesaplamanın nasıl bir rolü olacağını öngörüyorsunuz?

Pulsar, sensörlerin ilk iletişim kurduğu çip olarak tasarlandı. Verileri yerel olarak ultra düşük güçte işler, ham sensör sinyallerini doğrudan cihaza anlamlı, eyleme geçirilebilir bilgiler haline dönüştürür. NPU’lar ve CPU’lar daha sonra yalnızca daha ağır işleme gerektiğinde devreye girer.

Bu, nöromorfik işlemcilerin silikon yığınının tamamlayıcı bir katmanını oluşturur; her zaman farkında olan, her zaman açık bir temel, cihaz ömrünü uzatır, enerji kullanımını azaltır ve tepki süresini iyileştirir. Pulsar, geleneksel olarak daha yüksek güç gerektiren sistem bileşenlerinin sensör veri işleme görevini üstlenerek, bu bileşenlerin birçok cihazda kapatılmasını veya bazı durumlarda tamamen ortadan kaldırılmasını sağlar. Bu, daha akıllı ve daha uzun süre dayanan cihazlar anlamına gelir.

Aaroh Labs ve CYRAN AI Solutions gibi ortaklıklar, nöromorfik AI’nin gerçek dünya benimsemesini hızlandırma açısından nasıl bir rol oynuyor?

Ortaklıklar, teknolojik atılımlar ile geniş kapsamlı benimseme arasında köprü oluşturur. İnovatörlerle birlikte çalışarak, Innatera Pulsar’ın gerçek dünya ortamlarında doğrulandığını ve belirli dikeylere uyarlandığını sağlar. Aaroh Labs, nöromorfik zekayı kritik güvenlik altyapısına taşır, CYRAN AI Solutions ise insan-makine etkileşiminde potansiyelini gösterir. Bu ortaklıklar, teknolojinin çok yönlülüğünü kanıtlar, diğer benimseyiciler için engelleri azaltır ve nöromorfik işlemcilerin ölçeklerde dağıtılmasına güveni artırır.

Sensör tedarikçileri gibi Socionext ile ortaklıklarımız, zekayı sensör modülüne yakın paketlememizi sağlar, bu da akıllı algılamanın cihazlara entegrasyonunu ve dağıtılmasını basitleştirir. Ayrıca, zaten güçlü ve büyüyen ekosistemimizi güçlendirir ve endüstride nöromorfik hesaplamanın yayılmasını hızlandırır.

İleride, Pulsar ve haleflerinin kenarında öğrenme ve adaptasyona doğru ilerleyip, sadece kenarda çıkarım yapmaktan öteye geçeceğini öngörüyor musunuz?

Kesinlikle. Pulsar ile sadece nöromorfik olabileceklerin yüzeyini kazıdığımızı düşünüyoruz. Nöromorfik işlemciler, doğaları gereği, çevrimiçi öğrenme ve adaptasyona çok uygunlar ve Pulsar, cihazların sadece algılama ve tepki vermenin ötesine geçerek, gerçek zamanlı olarak öğrenen, kendi kendini ayarlayan ve optimize eden bir nesil adaptif ve otonom kenar cihazlarına zemin hazırlar. Bu, giyilebilir cihazlardan endüstriyel sistemlere kadar geniş bir uygulama yelpazesi açar ve minimal enerji kullanımıyla hataları önleyen sistemlere doğru ilerler. Uzun vadeli hedef, cihazların hem zeki hem de sürekli olarak adaptif ve dayanıklı olması, kenarda gerçekten mümkün olanı yeniden tanımlamaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Innatera’yı ziyaret edebilir.