Sumeet Kumar, Đồng sáng lập và CEO của Innatera – Loạt phỏng vấn

Sumeet Kumar là Đồng sáng lập và CEO của Innatera Nanosystems, nơi ông lãnh đạo việc phát triển các bộ xử lý thần kinh mô phỏng siêu hiệu quả cho phân tích dữ liệu cảm biến trong IoT, thiết bị đeo và thiết bị nhúng. Trước đó, ông đã quản lý nghiên cứu được tài trợ bởi EU tại TU Delft, bao gồm dự án PRYSTINE trị giá 50 triệu euro về công nghệ xe tự hành, và từng giữ vị trí tại Intel (INTC ) và trong nghiên cứu học thuật về kiến trúc bộ xử lý tiên tiến.

Innatera là một công ty bán dẫn tập trung vào việc mang lại trí tuệ siêu thấp công suất đến “cạnh cảm biến”. Đổi mới cốt lõi của họ nằm trong các bộ xử lý thần kinh nhấp nháy được xây dựng trên kiến trúc tín hiệu hỗn hợp tương tự – kỹ thuật số, mô phỏng quá trình xử lý dựa trên sự kiện của não. Những con chip này có thể nhận ra mẫu trong dữ liệu cảm biến ở mức công suất dưới miliwatt và độ trễ siêu thấp, làm cho chúng lý tưởng cho các ứng dụng luôn bật và bị hạn chế về năng lượng.

Bạn đã đồng sáng lập Innatera vào năm 2018 với tầm nhìn mang các bộ xử lý thần kinh mô phỏng từ phòng thí nghiệm vào các thiết bị thực tế. Điều gì đã thúc đẩy bạn cá nhân thành lập công ty, và tầm nhìn đó đã phát triển như thế nào trong bảy năm qua?

Innatera được thành lập với một nhiệm vụ rõ ràng: mang lại trí tuệ giống não trực tiếp đến cảm biến. Các dấu hiệu đã rõ ràng ngay từ năm 2018, các thiết bị đang tích hợp ngày càng nhiều cảm biến phức tạp, và nhu cầu cảm biến luôn bật đang tăng. Bộ điều khiển vi mô thiếu khả năng AI tiết kiệm năng lượng, và ngay cả điều đó cũng chỉ di chuyển kim chỉ nam khi nói đến việc xử lý liên tục trong các thiết bị được cung cấp bởi pin nhỏ. Rõ ràng là cách dữ liệu cảm biến được xử lý trong các thiết bị này cần thay đổi, và thập kỷ nghiên cứu chúng tôi đã thực hiện tại TUDelft về tính toán thần kinh mô phỏng và xử lý tiết kiệm năng lượng dường như đã có câu trả lời cho thách thức này.

Tầm nhìn của chúng tôi vẫn nhất quán – một thế giới thông minh, sạch sẽ và an toàn hơn được cung cấp bởi trí tuệ môi trường. Bằng cách mang lại trí tuệ cho cảm biến, các chip của chúng tôi sẽ cho phép dữ liệu cảm biến của thế giới được xử lý trực tiếp tại nguồn, dẫn đến sự giảm đáng kể trong việc sử dụng năng lượng của AI hiện đại. Chúng tôi nhằm mục đích làm cho một tỷ cảm biến trở nên thông minh vào năm 2030.

Pulsar là bước đầu tiên trong hành trình đó – nó là bộ điều khiển vi mô thần kinh mô phỏng đầu tiên được thiết kế cho việc áp dụng chính thống. Nó làm cho trí tuệ lấy cảm hứng từ não trở nên thực tế trong các thiết bị đeo, thiết bị thông minh tại nhà và hệ thống công nghiệp, trong số các trường hợp sử dụng khác, đồng thời đặt nền tảng cho các công nghệ tự động và tự chủ trong tương lai.

Pulsar dựa trên một cách tiếp cận hoàn toàn mới để xử lý tại cảm biến, được hiện thực hóa sau 7 năm nghiên cứu và kỹ thuật khó khăn. Điều gì bắt đầu như một cuộc phiêu lưu với bốn người, đã phát triển trong thời gian này thành một đội toàn cầu gồm 100 người, trên 15 quốc gia, được đoàn kết bởi một văn hóa lấy con người làm trung tâm được xây dựng trên sự kiên cường, sáng tạo và tham vọng.

Pulsar được mô tả là bộ điều khiển vi mô thần kinh mô phỏng thực sự đầu tiên cho thị trường đại chúng. Điều gì làm cho nó khác biệt so với các bộ xử lý thần kinh mô phỏng trước đó vẫn còn hạn chế trong các phòng thí nghiệm nghiên cứu?

Mục tiêu của nghiên cứu học thuật thường là phát triển các phương pháp tiếp cận mới và sáng tạo để giải quyết các vấn đề khó khăn. Kết quả là, lợi ích của các giải pháp có xu hướng được đo lường trong sự cô lập. Tuy nhiên, khi các công nghệ mới này được triển khai vào sản xuất, chúng phải tương tác với các phần khác của hệ thống, điều này thường dẫn đến lợi ích của chúng bị pha loãng. Điều này cũng đúng với nhiều công nghệ gia tốc AI thần kinh mô phỏng và truyền thống – chúng được tích hợp vào các hệ thống không được thiết kế với cùng các nguyên tắc cơ bản, và điều này dẫn đến một kết quả mà sự hiệu quả của chúng bị giảm sút. Pulsar, mặt khác, là một bộ điều khiển vi mô độc lập hoàn chỉnh, được thiết kế để xử lý hiệu quả dữ liệu cảm biến tại cạnh cực.

Nó được thiết kế từ đầu để tích hợp mọi thứ cần thiết cho việc xử lý dữ liệu cảm biến trong một con chip duy nhất: lõi thần kinh nhấp nháy tương tự và kỹ thuật số, gia tốc CNN và FFT, và một hệ thống con RISC-V 32 bit đầy đủ cho quản lý hệ thống và kiểm soát cảm biến. Kiến trúc dị thể này cho phép Pulsar chuyển đổi dữ liệu cảm biến thô thành thông tin hành động có thể thực hiện được trực tiếp tại thiết bị, trong khi tiêu thụ ít hơn 500 lần năng lượng và chạy nhanh hơn 100 lần so với các bộ xử lý AI truyền thống.

Beyond phần cứng, Pulsar cũng giải quyết rào cản phần mềm lâu dài. Bộ SDK Talamo của nó, với tích hợp PyTorch bản địa, làm cho phát triển thần kinh mô phỏng trở nên dễ tiếp cận với các kỹ sư chính thống và cho phép các mô hình compact dưới 5KB chạy trong ngân sách năng lượng dưới miliwatt. Đặt tất cả những điều này vào một gói 2,8 x 2,6 mm, Pulsar loại bỏ nhu cầu thiết lập nhiều chip cồng kềnh, làm cho nó trở thành bộ xử lý thần kinh mô phỏng đầu tiên sẵn sàng cho việc triển khai thị trường đại chúng.

Khả năng tiếp cận là một chủ đề lớn đối với Innatera. Làm thế nào Bộ SDK Talamo, đặc biệt là với tích hợp PyTorch của nó, làm giảm rào cản cho các nhà phát triển mới làm quen với tính toán thần kinh mô phỏng? 

Trong nhiều thập kỷ, rào cản chính đối với việc áp dụng thần kinh mô phỏng không phải là do phần cứng, mà là do thiếu các công cụ thân thiện với nhà phát triển. Các nhà phát triển phải đối mặt với các đường cong học tập dốc và các quy trình làm việc không quen thuộc, điều này làm chậm lại sự đổi mới. Talamo giải quyết trực tiếp vấn đề này bằng cách cung cấp một Bộ SDK dựa trên PyTorch cho phép các kỹ sư thiết kế, đào tạo và triển khai mạng nơ-ron nhấp nháy thông qua các quy trình làm việc quen thuộc. Các mô hình compact có thể được tích hợp dễ dàng vào các kiến trúc cảm biến hiện có, cho phép trí tuệ luôn bật trong thậm chí các thiết bị nhỏ nhất và bị hạn chế về năng lượng. Bằng cách loại bỏ sự phức tạp và tăng tốc phát triển, Talamo làm cho tính toán thần kinh mô phỏng trở nên dễ tiếp cận với các nhà phát triển chính thống và tăng tốc đường dẫn từ nguyên mẫu đến sản phẩm.

Về mặt kỹ thuật, làm thế nào bạn cân bằng các gia tốc nhấp nháy tương tự và kỹ thuật số bên trong Pulsar để xử lý các khối lượng công việc đa dạng một cách hiệu quả? 

Architectures của Pulsar kết hợp các lõi nhấp nháy tương tự và kỹ thuật số để tối ưu hóa việc sử dụng năng lượng và tính linh hoạt. Các lõi tương tự cung cấp xử lý siêu hiệu quả cho các khối lượng công việc cảm biến luôn bật liên tục, nơi mỗi microwatt đều quan trọng. Các lõi kỹ thuật số cung cấp khả năng lập trình và độ chính xác cho các nhiệm vụ phức tạp hoặc thay đổi hơn, vẫn trong một phong bì năng lượng hiệu quả. Các khối lượng công việc được phân phối trên cả hai tùy thuộc vào nhu cầu ứng dụng, đảm bảo rằng năng lượng chỉ được tiêu thụ khi dữ liệu thay đổi. Cách tiếp cận dựa trên sự kiện này cho phép Pulsar duy trì hiệu suất dưới miliwatt trong khi vẫn duy trì tính linh hoạt để hỗ trợ các ứng dụng thực tế đa dạng.

Bạn có thể hướng dẫn chúng tôi qua một quy trình làm việc của nhà phát triển điển hình – từ việc đào tạo một mô hình đến việc triển khai nó trên Pulsar – và nơi có lợi ích hiệu quả lớn nhất được thực hiện?

Quy trình làm việc bắt đầu trong PyTorch, nơi các nhà phát triển thiết kế và đào tạo các mô hình của họ như họ làm với AI truyền thống. Sử dụng Bộ SDK Talamo của Innatera, mô hình được chuyển đổi thành một mạng nơ-ron nhấp nháy được tối ưu hóa cho phần cứng của Pulsar. Các nhà phát triển sau đó có thể mô phỏng, tinh chỉnh và triển khai mô hình trực tiếp lên con chip, thường với các footprint nhỏ như 5KB. Bước phát triển mô hình là một phần của một quy trình phát triển dòng ứng dụng lớn hơn cho phép nhà phát triển xây dựng mã nhắm vào RISC-V cũng như gia tốc CNN theo cách thống nhất. Điều này dịch thành một trải nghiệm phát triển được cải thiện và thời gian phát triển ngắn hơn.

Lợi ích hiệu quả lớn nhất xảy ra một khi mô hình đã được triển khai và chạy trên các lõi nhấp nháy dựa trên sự kiện của Pulsar. Không giống như các MCU truyền thống đốt cháy năng lượng liên tục, Pulsar chỉ tính toán khi dữ liệu đầu vào thay đổi. Điều này cho phép các nhiệm vụ luôn bật như nhận dạng cử chỉ hoặc phát hiện sự hiện diện của radar chạy liên tục ở mức dưới miliwatt, mang lại lợi ích về hiệu quả năng lượng hàng trăm lần và độ trễ cực ngắn.

Ngành nào đang thể hiện sự áp dụng nhanh nhất công nghệ của bạn, và bạn có thể chia sẻ các ví dụ về khách hàng hoặc đối tác sớm đang triển khai Pulsar trong các sản phẩm?

Sự áp dụng Pulsar đang diễn ra nhanh nhất trong các lĩnh vực nơi cảm biến luôn bật và siêu thấp công suất quan trọng nhất, bao gồm nhà thông minh, thiết bị đeo và an toàn công nghiệp. Một ví dụ tốt về điều này là Aaroh Labs, đã phát triển các thiết bị báo khói thế hệ tiếp theo được cung cấp bởi Innatera, gần đây được ra mắt tại SEMICON India 2025. Các thiết bị này không chỉ cảm nhận khói mà còn kết hợp phát hiện khói với giám sát sự hiện diện của con người, tạo ra nhận thức tình huống phong phú hơn và cho phép các hệ thống an toàn thông minh hơn cho môi trường dân cư, thương mại và công nghiệp.

Cùng cách tiếp cận thần kinh mô phỏng có thể mở rộng đến theo dõi tài sản và giám sát môi trường, với những ý nghĩa rộng lớn đối với chăm sóc sức khỏe kết nối và thành phố thông minh. Tại SEMICON India, CYRAN AI Solutions cũng展示 cách công nghệ của Innatera đang được tích hợp vào các hệ thống cảm biến compact như thiết bị đeo điện cơ (EMG) để nhận dạng cử chỉ, làm nổi bật tiềm năng của AI thần kinh mô phỏng để cho phép tương tác con người – máy trực giác.

Các triển khai sớm này chỉ là bước đầu, cho thấy tính toán thần kinh mô phỏng đang chuyển từ lý thuyết sang thực tế khi chúng ta nói, và đang nhanh chóng扎根 vào các ứng dụng thực tế.

Trong các bản demo chúng ta đã thấy, ví dụ như nhận dạng cử chỉ siêu thấp công suất và phát hiện sự hiện diện của radar tiêu thụ dưới một miliwatt. Làm thế nào bạn xác thực độ chính xác và độ tin cậy trong các môi trường bị hạn chế như vậy?

Xác thực thường phụ thuộc vào ứng dụng, và ngoài độ chính xác, tỷ lệ phát hiện sai và không phát hiện sai cung cấp một dấu hiệu quan trọng về độ tin cậy của một giải pháp. Thường thì khách hàng có các KPI và điều kiện kiểm tra cụ thể cho xác thực. Sự linh hoạt của Pulsar là chìa khóa để cho phép các giải pháp toàn diện mà cho phép khách hàng kiểm tra tất cả các hộp cho trường hợp sử dụng của họ. So sánh được thực hiện bằng cách so sánh với các MCU và gia tốc truyền thống, thường tiêu thụ 40-100 lần nhiều năng lượng hơn cho cùng một nhiệm vụ.

Trong các bản demo thực tế, như phát hiện sự hiện diện của radar và phân loại cảnh âm thanh, Pulsar liên tục cung cấp độ chính xác trên 90% trong khi vẫn nằm trong ngân sách dưới miliwatt. Điều này cho phép hoạt động liên tục mà không phải hy sinh độ tin cậy, điều mà các hệ thống luôn bật truyền thống thường phải thỏa hiệp bằng cách thức dậy từ giấc ngủ, giảm hiệu suất hoặc chuyển sang đám mây.

Bạn đã định vị Pulsar như một bổ sung cho các NPU và CPU truyền thống hơn. Bạn nhìn thấy tính toán thần kinh mô phỏng phù hợp vào ngăn xếp silicon rộng lớn hơn của các thiết bị thông minh trong tương lai như thế nào?

Pulsar được thiết kế như con chip đầu tiên mà cảm biến giao tiếp. Nó xử lý dữ liệu cục bộ ở mức công suất siêu thấp, chuyển đổi tín hiệu cảm biến thô thành thông tin hành động có ý nghĩa, trực tiếp tại nguồn. NPU và CPU có thể được tham gia chỉ khi cần xử lý nặng hơn.

Điều này làm cho các bộ xử lý thần kinh mô phỏng trở thành một lớp bổ sung trong ngăn xếp silicon; một nền tảng luôn biết, luôn bật cho phép kéo dài tuổi thọ thiết bị, giảm sử dụng năng lượng và cải thiện khả năng phản hồi. Pulsar lấy nhiệm vụ xử lý dữ liệu cảm biến khỏi các thành phần truyền thống có công suất cao hơn trong hệ thống, cho phép chúng được tắt trong nhiều thiết bị và trong một số trường hợp, thậm chí loại bỏ hoàn toàn. Điều này dẫn đến các thiết bị thông minh và lâu dài hơn.

Vai trò của các hợp tác với các đối tác như Aaroh Labs và CYRAN AI Solutions trong việc tăng tốc áp dụng thực tế của AI thần kinh mô phỏng là gì?

Các hợp tác đóng vai trò cầu nối giữa công nghệ đột phá và áp dụng rộng rãi. Bằng cách làm việc với các nhà đổi mới như Aaroh Labs và CYRAN AI Solutions, Innatera đảm bảo Pulsar được xác thực trong các môi trường thực tế và được tùy chỉnh cho các lĩnh vực dọc cụ thể. Aaroh Labs mang lại trí tuệ thần kinh mô phỏng vào cơ sở hạ tầng an toàn quan trọng, trong khi CYRAN AI Solutions chứng minh tiềm năng của nó trong tương tác con người – máy trực giác. Các hợp tác này chứng minh sự đa năng của công nghệ, giảm rào cản cho các nhà áp dụng khác và xây dựng niềm tin vào việc triển khai các bộ xử lý thần kinh mô phỏng ở quy mô.

Các hợp tác của chúng tôi với các nhà cung cấp cảm biến như Socionext cho phép chúng tôi đóng gói trí tuệ chặt chẽ vào mô-đun cảm biến, đơn giản hóa việc áp dụng và triển khai cảm biến thông minh vào thiết bị. Hơn nữa, các hợp tác như vậy củng cố hệ sinh thái mạnh mẽ và đang phát triển của chúng tôi, và tăng tốc sự lan rộng của tính toán thần kinh mô phỏng trong ngành.

Nhìn về phía trước, bạn có thấy Pulsar và người kế nhiệm của nó di chuyển hướng đến việc học và thích nghi trên thiết bị, thay vì chỉ suy luận tại cạnh?

Hoàn toàn. Với Pulsar, chúng tôi chỉ mới bắt đầu chạm vào bề mặt của những gì thần kinh mô phỏng có thể làm. Các bộ xử lý thần kinh mô phỏng vốn được thiết kế để học trực tuyến và thích nghi, và Pulsar đặt nền tảng cho các thiết bị có thể làm được nhiều hơn thế. Các thiết bị có thể học, tự hiệu chỉnh và tối ưu hóa trong thời gian thực trong khi chạy trên pin nhỏ. Sự tiến hóa này sẽ mở khóa một loạt các ứng dụng, từ thiết bị đeo điều chỉnh theo hành vi của bạn, đến các hệ thống công nghiệp dự đoán và ngăn chặn sự cố với mức sử dụng năng lượng tối thiểu. Mục tiêu dài hạn là tạo ra các thiết bị thông minh cũng như liên tục thích nghi và linh hoạt,重新 định nghĩa những gì thực sự có thể tại cạnh.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Innatera.