Krishna Rangasayee, Nhà sáng lập & CEO của SiMa.ai – Loạt phỏng vấn

Krishna Rangasayee là Nhà sáng lập và CEO của SiMa.ai. Trước đó, Krishna từng là COO của Groq và tại Xilinx trong 18 năm, nơi ông đã nắm giữ nhiều vị trí lãnh đạo cấp cao bao gồm Phó Chủ tịch và Tổng Giám đốc kinh doanh tổng thể, cũng như Phó Chủ tịch Điều hành về bán hàng toàn cầu. Trong thời gian tại Xilinx, Krishna đã giúp tăng doanh thu lên 2,5 tỷ USD với tỷ suất lợi nhuận gộp 70% đồng thời tạo nền tảng cho 10 quý tăng trưởng liên tiếp và mở rộng thị phần. Trước khi gia nhập Xilinx, ông đã từng nắm giữ các vị trí kỹ thuật và kinh doanh tại Altera Corporation và Cypress Semiconductor. Ông hiện nắm giữ hơn 25 bằng sáng chế quốc tế và đã từng là thành viên trong hội đồng quản trị của các công ty công ty và tư nhân.

Điều gì đã thu hút bạn đến với học máy?

Tôi đã theo dõi thị trường cạnh và đám mây trong 20 năm qua. Tôi đã chứng kiến rất nhiều đổi mới trong đám mây, nhưng rất ít trong việc cho phép học máy tại cạnh. Đây là một thị trường bị phục vụ kém với quy mô hơn 40 tỷ USD, đã tồn tại trong nhiều thập kỷ với công nghệ cũ.

Chúng tôi bắt đầu thực hiện điều mà không ai đã làm trước đây – cho phép Học máy không cần nỗ lực tại cạnh.

Có thể chia sẻ câu chuyện về sự ra đời của SiMa?

Trong sự nghiệp 20 năm của tôi, tôi chưa từng chứng kiến sự đổi mới về kiến trúc trong thị trường cạnh. Tuy nhiên, nhu cầu về học máy tại cạnh đã tăng lên trong đám mây và các yếu tố của IoT. Điều này cho thấy rằng mặc dù các công ty đang yêu cầu học máy tại cạnh, nhưng công nghệ để biến điều này thành hiện thực vẫn còn lỗi thời.

Do đó, trước khi SiMa.ai bắt đầu thiết kế, điều quan trọng là phải hiểu rõ thách thức lớn nhất của khách hàng. Tuy nhiên, việc thuyết phục họ dành thời gian cho một công ty khởi nghiệp giai đoạn đầu để thu thập phản hồi có ý nghĩa và trung thực là một thách thức. May mắn là đội ngũ và tôi đã có thể tận dụng mạng lưới từ các mối quan hệ trước đây để xác định tầm nhìn của SiMa.ai với các công ty mục tiêu.

Chúng tôi đã gặp hơn 30 khách hàng và đặt hai câu hỏi cơ bản: “Thách thức lớn nhất khi mở rộng học máy đến cạnh là gì?” và “Chúng tôi có thể giúp gì?” Sau nhiều cuộc thảo luận về cách họ muốn thay đổi ngành công nghiệp và lắng nghe thách thức của họ để đạt được điều đó, chúng tôi đã có được sự hiểu biết sâu sắc về điểm đau của họ và phát triển ý tưởng về cách giải quyết chúng. Điều này bao gồm:

• Lợi ích của học máy mà không cần một đường cong học tập dốc.
• Giữ lại các ứng dụng di sản cùng với việc tương lai hóa các triển khai học máy.
• Làm việc với một giải pháp hiệu suất cao, tiết kiệm năng lượng trong một môi trường thân thiện với người dùng.

Nhanh chóng, chúng tôi nhận ra rằng chúng tôi cần cung cấp một cách tiếp cận giảm thiểu rủi ro để giúp khách hàng của mình. Là một công ty khởi nghiệp, chúng tôi phải mang lại điều gì đó hấp dẫn và khác biệt so với mọi người. Không có công ty nào khác đang giải quyết nhu cầu rõ ràng này, vì vậy đây là con đường chúng tôi đã chọn.

SiMa.ai đã đạt được kỳ tích hiếm có này bằng cách thiết kế từ đầu nền tảng Hệ thống trên Chip Học máy (MLSoC) phần mềm tập trung đầu tiên trong ngành. Với sự kết hợp giữa silicon và phần mềm, học máy có thể được thêm vào các ứng dụng cạnh bằng một nút bấm.

Có thể chia sẻ tầm nhìn của bạn về cách học máy sẽ thay đổi mọi thứ để ở tại cạnh?

Hầu hết các công ty học máy tập trung vào các thị trường tăng trưởng cao như đám mây và lái xe tự động. Tuy nhiên, đó là robot, máy bay không người lái, bán lẻ không ma sát, thành phố thông minh và tự động hóa công nghiệp đòi hỏi công nghệ học máy mới nhất để cải thiện hiệu quả và giảm chi phí.

Các ngành này kết hợp với sự thất vọng hiện tại khi triển khai học máy tại cạnh là lý do chúng tôi tin rằng thời điểm đã chín muồi với cơ hội. SiMa.ai đang tiếp cận vấn đề này theo một cách hoàn toàn khác; chúng tôi muốn biến việc áp dụng rộng rãi trở thành hiện thực.

Điều gì đã ngăn cản việc mở rộng học máy tại cạnh cho đến nay?

Học máy phải tích hợp dễ dàng với các hệ thống di sản. Các công ty Fortune 500 và các công ty khởi nghiệp đều đã đầu tư nhiều vào các nền tảng công nghệ hiện tại, nhưng hầu hết trong số họ sẽ không viết lại tất cả mã của họ hoặc thay thế hoàn toàn cơ sở hạ tầng cơ bản để tích hợp học máy. Để giảm thiểu rủi ro đồng thời tận dụng lợi ích của học máy, cần có công nghệ cho phép tích hợp mã di sản cùng với học máy vào hệ thống của họ một cách dễ dàng. Điều này tạo ra một con đường dễ dàng để phát triển và triển khai các hệ thống này nhằm đáp ứng nhu cầu ứng dụng đồng thời mang lại lợi ích từ trí tuệ mà học máy mang lại.

Không có ổ cắm lớn, không có khách hàng lớn nào có thể di chuyển kim chỉ nam, vì vậy chúng tôi không có lựa chọn nào khác ngoài việc hỗ trợ hơn 1.000 khách hàng để thực sự mở rộng học máy và mang lại trải nghiệm này đến họ. Chúng tôi đã phát hiện ra rằng những khách hàng này có mong muốn học máy nhưng họ không có khả năng để có được trải nghiệm học tập vì họ thiếu khả năng nội bộ để xây dựng và họ không có cơ sở kiến thức cơ bản. Vì vậy, họ muốn triển khai trải nghiệm học máy nhưng để làm điều đó mà không cần đường cong học tập tại cạnh và điều đó nhanh chóng trở thành chúng tôi phải làm cho trải nghiệm học máy này rất dễ dàng cho khách hàng.

Làm thế nào SiMA có thể giảm tiêu thụ năng lượng một cách đáng kể so với các đối thủ?

MLSoC của chúng tôi là động cơ cơ bản thực sự cho phép mọi thứ, điều quan trọng là phải phân biệt rằng chúng tôi không xây dựng một khối gia tốc học máy. Đối với 2 tỷ đô la được đầu tư vào các công ty khởi nghiệp SoC học máy cạnh, mọi phản ứng của ngành về đổi mới đã là một khối gia tốc học máy làm lõi hoặc chip. Điều mà mọi người không nhận ra là để di chuyển người từ một SoC cổ điển sang một môi trường học máy, bạn cần một môi trường MLSoC để người dùng có thể chạy mã di sản từ ngày đầu tiên và dần dần trong một cách tiếp cận giảm thiểu rủi ro, triển khai khả năng của họ vào một thành phần học máy hoặc một ngày nào đó họ đang thực hiện phân đoạn ngữ nghĩa bằng cách sử dụng một phương pháp học máy cổ điển và ngày mai họ có thể làm điều đó bằng cách sử dụng một phương pháp học máy nhưng một cách nào đó chúng tôi cho phép khách hàng của mình có cơ hội triển khai và phân vùng vấn đề của họ theo cách họ thấy phù hợp bằng cách sử dụng tầm nhìn máy tính cổ điển, xử lý hệ thống ARM cổ điển hoặc tính toán học máy dị thể. Đối với chúng tôi, học máy không phải là một sản phẩm cuối cùng và do đó, một khối gia tốc học máy sẽ không thành công khi đứng một mình, học máy là một khả năng và nó là một công cụ trong bộ công cụ mà chúng tôi cho phép khách hàng của mình sử dụng để họ có thể bằng cách sử dụng phương pháp push button, họ có thể lặp lại thiết kế của mình về tiền xử lý, hậu xử lý, phân tích và gia tốc học máy tất cả trên một nền tảng duy nhất trong khi cung cấp hiệu suất ứng dụng hệ thống cao nhất với mức tiêu thụ năng lượng thấp nhất.

Các ưu tiên thị trường chính của SiMa là gì?

Chúng tôi đã xác định một số thị trường chính, một số trong đó nhanh chóng tạo doanh thu hơn những thị trường khác. Thời gian nhanh nhất để tạo doanh thu là tầm nhìn thông minh, robot, công nghiệp 4.0 và máy bay không người lái. Các thị trường mất nhiều thời gian hơn do các yêu cầu và tiêu chuẩn là ô tô và ứng dụng chăm sóc sức khỏe. Chúng tôi đã bắt đầu làm việc với các công ty hàng đầu trong mỗi danh mục.

Capture hình ảnh thường được thực hiện tại cạnh, với phân tích tại đám mây. Lợi ích của việc thay đổi chiến lược triển khai này là gì?

Các ứng dụng cạnh cần xử lý được thực hiện tại địa phương, đối với nhiều ứng dụng, không có đủ thời gian để dữ liệu đi đến đám mây và trở lại. Khả năng học máy là cơ bản trong các ứng dụng cạnh vì quyết định cần được thực hiện trong thời gian thực, ví dụ trong các ứng dụng ô tô và robot nơi quyết định phải được xử lý nhanh chóng và hiệu quả.

Tại sao các doanh nghiệp nên xem xét các giải pháp của SiMa so với các đối thủ?

Phương pháp của chúng tôi là một phương pháp tập trung vào phần mềm được đóng gói với một giải pháp phần cứng hoàn chỉnh. Chúng tôi đã tập trung vào một giải pháp hoàn chỉnh giải quyết những gì chúng tôi gọi là Bất kỳ, 10x và Nút bấm làm cốt lõi của các vấn đề của khách hàng. Luận điểm ban đầu cho công ty là bạn nhấn một nút và bạn nhận được một trải nghiệm WOW! Trải nghiệm thực sự cần được trừu tượng hóa đến một điểm mà bạn muốn có hàng nghìn nhà phát triển sử dụng nó, nhưng bạn không muốn yêu cầu họ tất cả đều là những chuyên gia học máy, bạn không muốn họ tất cả đều điều chỉnh từng lớp một để có được hiệu suất mong muốn, bạn muốn họ ở mức trừu tượng cao nhất và triển khai học máy không cần nỗ lực một cách có ý nghĩa. Vì vậy, luận điểm đằng sau lý do tại sao chúng tôi gắn bó với điều này là sự tương quan mạnh mẽ với việc mở rộng quy mô trong việc thực sự cần một trải nghiệm học máy không cần nỗ lực và không yêu cầu nhiều hỗ trợ và dịch vụ can thiệp sẽ cản trở việc mở rộng quy mô.

Chúng tôi đã dành năm đầu tiên đến thăm hơn 50 khách hàng trên toàn cầu để hiểu tại sao tất cả các bạn đều muốn học máy nhưng bạn không triển khai nó. Tại sao? Điều gì cản trở bạn triển khai học máy một cách có ý nghĩa và điều gì cần thiết để thực sự đẩy học máy vào một triển khai quy mô? Và điều đó thực sự giảm xuống thành ba trụ cột chính của sự hiểu biết, thứ nhất là Bất kỳ. Là một công ty, chúng tôi phải giải quyết vấn đề cho phạm vi khách hàng rộng lớn, cũng như sự đa dạng của các mô hình sử dụng cùng với sự chênh lệch giữa các mạng học máy, cảm biến, tốc độ khung hình, độ phân giải. Đó là một thế giới rất khác biệt, nơi mỗi thị trường có thiết kế phía trước hoàn toàn khác nhau và nếu chúng tôi chỉ lấy một lát hẹp của nó, chúng tôi không thể xây dựng một công ty một cách kinh tế, chúng tôi thực sự cần tạo một phễu có thể tiếp nhận một phạm vi ứng dụng rộng lớn, gần như nghĩ về phễu như Ellis Island của mọi thứ về tầm nhìn máy tính. Người dùng có thể đang sử dụng TensorFlow, họ có thể đang sử dụng Python, họ có thể đang sử dụng cảm biến máy ảnh với độ phân giải 1080 hoặc nó có thể là cảm biến 4K, điều đó thực sự không quan trọng nếu chúng tôi có thể đồng bộ hóa và mang tất cả lại với nhau và nếu bạn không có phía trước như vậy, thì bạn không có một công ty có thể mở rộng quy mô.

Trụ cột thứ hai là 10x, điều đó có nghĩa là có một vấn đề khác mà khách hàng không thể triển khai và tạo ra các nền tảng phái sinh vì mọi thứ đều quay lại từ đầu để xây dựng một mô hình hoặc đường ống mới. Thử thách thứ hai không nghi ngờ gì là một công ty khởi nghiệp, chúng tôi cần mang lại điều gì đó rất thú vị, rất hấp dẫn mà bất kỳ ai và mọi người đều sẵn sàng chấp nhận rủi ro ngay cả khi bạn là một công ty khởi nghiệp dựa trên một chỉ số hiệu suất 10x. Một kỹ thuật công nghệ mà chúng tôi tập trung giải quyết cho các vấn đề về tầm nhìn máy tính là chỉ số khung hình trên watt. Chúng tôi cần phải tốt hơn bất kỳ ai khác một cách phi lý để chúng tôi có thể ở một hoặc hai thế hệ trước, vì vậy chúng tôi đã thực hiện điều đó như một phần của phương pháp tiếp cận tập trung vào phần mềm. Phương pháp đó đã tạo ra một nền tảng tính toán dị thể để người dùng có thể giải quyết toàn bộ đường ống tầm nhìn máy tính trên một chip duy nhất và cung cấp hiệu suất 10x so với bất kỳ giải pháp nào khác. Trụ cột thứ ba là Nút bấm, được thúc đẩy bởi nhu cầu mở rộng học máy tại cạnh một cách có ý nghĩa. Các công cụ học máy rất non trẻ, thường bị hỏng, không có công ty nào thực sự xây dựng một trải nghiệm phần mềm học máy hàng đầu thế giới. Chúng tôi cũng nhận ra rằng đối với thị trường nhúng, điều quan trọng là phải che giấu sự phức tạp của mã nhúng đồng thời cung cấp cho họ một quá trình lặp lại để nhanh chóng quay lại và tối ưu hóa nền tảng của họ. Khách hàng thực sự cần một trải nghiệm nút bấm mang lại cho họ một phản hồi hoặc giải pháp trong vài phút so với vài tháng để đạt được học máy không cần nỗ lực. Bất kỳ, 10x và Nút bấm là những giá trị cốt lõi mà thực sự trở nên rõ ràng cho chúng tôi rằng nếu chúng tôi làm tốt ba điều này, chúng tôi sẽ tuyệt đối di chuyển kim chỉ nam về học máy không cần nỗ lực và mở rộng học máy tại cạnh.

Có điều gì khác mà bạn muốn chia sẻ về SiMa?

Trong giai đoạn phát triển ban đầu của nền tảng MLSoC, chúng tôi đã đẩy giới hạn của công nghệ và kiến trúc. Chúng tôi đã đi tất cả vào một nền tảng tập trung vào phần mềm, điều này là hoàn toàn mới, đi ngược lại tất cả sự khôn ngoan thông thường. Hành trình trong việc tìm ra và sau đó triển khai nó là khó khăn.

Một chiến thắng mang tính lịch sử gần đây đã xác nhận sức mạnh và sự độc đáo của công nghệ mà chúng tôi đã xây dựng. SiMa.ai đã đạt được một cột mốc quan trọng vào tháng 4 năm 2023 bằng cách vượt qua nhà lãnh đạo đương nhiệm trong lần tham gia đầu tiên của chúng tôi vào MLPerf Benchmark về hiệu suất trong hạng mục Edge Power đóng. Chúng tôi tự hào là công ty khởi nghiệp đầu tiên tham gia và đạt được kết quả thắng trong chuẩn mực MLPerf phổ biến và được công nhận nhất trong ngành về hiệu suất và công suất.

Chúng tôi bắt đầu với những khát vọng cao cả và cho đến ngày nay, tôi tự hào nói rằng tầm nhìn đó vẫn không thay đổi. MLSoC của chúng tôi được thiết kế từ đầu để đi ngược lại các chuẩn mực của ngành về việc cung cấp một giải pháp học máy cách mạng cho thị trường cạnh.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập SiMa.ai.