Krishna Rangasayee, Pendiri & CEO SiMa.ai – Seri Wawancara

Krishna Rangasayee adalah Pendiri dan CEO SiMa.ai. Sebelumnya, Krishna menjabat sebagai COO Groq dan di Xilinx selama 18 tahun, di mana ia memegang beberapa posisi kepemimpinan senior termasuk Senior Vice President dan GM bisnis secara keseluruhan, dan Executive Vice President penjualan global. Saat di Xilinx, Krishna mengembangkan bisnis hingga $2,5 miliar dalam pendapatan dengan margin laba kotor 70% sambil menciptakan landasan untuk 10+ kuartal pertumbuhan berkelanjutan dan ekspansi pangsa pasar. Sebelum Xilinx, ia memegang berbagai peran teknik dan bisnis di Altera Corporation dan Cypress Semiconductor. Ia memegang 25+ paten internasional dan telah menjabat sebagai anggota dewan direksi perusahaan publik dan swasta.

Apa yang awalnya menarik Anda ke pembelajaran mesin?

Saya telah menjadi siswa pasar embedded edge dan cloud selama 20 tahun terakhir. Saya telah melihat banyak inovasi di cloud, tetapi sangat sedikit menuju memungkinkan pembelajaran mesin di edge. Ini adalah pasar yang sangat kurang dilayani senilai $40 miliar+ yang telah bertahan dengan teknologi lama selama beberapa dekade.

Jadi, kami memulai sesuatu yang belum pernah dilakukan sebelumnya–memungkinkan Pembelajaran Mesin Tanpa Usaha untuk embedded edge.

Apakah Anda dapat berbagi cerita asal SiMa?

Dalam karir 20+ tahun saya, saya belum pernah menyaksikan inovasi arsitektur terjadi di pasar embedded edge. Namun, kebutuhan akan ML di embedded edge meningkat di cloud dan elemen IoT. Ini membuktikan bahwa meskipun perusahaan menuntut ML di edge, teknologi untuk membuat ini menjadi kenyataan terlalu kuno untuk benar-benar bekerja.

Oleh karena itu, sebelum SiMa.ai memulai desain kami, penting untuk memahami tantangan terbesar pelanggan kami. Namun, membuat mereka menghabiskan waktu dengan startup awal untuk memberikan umpan balik yang bermakna dan jujur adalah tantangan tersendiri. Beruntung, tim dan saya dapat memanfaatkan jaringan kami dari hubungan sebelumnya di mana kami dapat memperkuat visi SiMa.ai dengan perusahaan yang tepat.

Kami bertemu dengan lebih dari 30 pelanggan dan mengajukan dua pertanyaan dasar: “Apa tantangan terbesar dalam menskalakan ML ke embedded edge?” dan “Bagaimana kami dapat membantu?” Setelah banyak diskusi tentang bagaimana mereka ingin mengubah industri dan mendengarkan tantangan mereka untuk mencapainya, kami memperoleh pemahaman yang mendalam tentang poin-poin kesulitan mereka dan mengembangkan ide tentang bagaimana memecahkan masalah tersebut. Ini termasuk:

• Mendapatkan manfaat ML tanpa kurva belajar yang curam.
• Melestarikan aplikasi legacy bersama dengan implementasi ML yang tahan lama.
• Bekerja dengan solusi berkinerja tinggi, rendah daya dalam lingkungan yang ramah pengguna.

Cepatnya, kami menyadari bahwa kami perlu memberikan pendekatan yang terstruktur dan termitigasi untuk membantu pelanggan kami. Sebagai startup, kami harus membawa sesuatu yang sangat menarik dan berbeda dari yang lain. Tidak ada perusahaan lain yang menangani kebutuhan yang jelas ini, jadi ini adalah jalur yang kami pilih untuk diambil.

SiMa.ai mencapai prestasi langka ini dengan merancang dari awal platform Machine Learning System-on-Chip (MLSoC) yang pertama di industri, yang berbasis perangkat lunak dan dibangun khusus. Dengan kombinasi silikon dan perangkat lunak, pembelajaran mesin sekarang dapat ditambahkan ke aplikasi embedded edge dengan menekan tombol.

Apakah Anda dapat berbagi visi Anda tentang bagaimana pembelajaran mesin akan mengubah segalanya untuk berada di edge?

Sebagian besar perusahaan ML fokus pada pasar pertumbuhan tinggi seperti cloud dan mengemudi otonom. Namun, itu adalah robotika, drone, retail tanpa gesekan, kota pintar, dan otomasi industri yang menuntut teknologi ML terbaru untuk meningkatkan efisiensi dan mengurangi biaya.

Sektor-sektor yang tumbuh ini, bersama dengan frustrasi saat ini dalam mengirimkan ML ke embedded edge, membuat kami percaya bahwa waktu yang tepat untuk kesempatan ini. SiMa.ai mendekati masalah ini dengan cara yang sama sekali berbeda; kami ingin membuat adopsi yang luas menjadi kenyataan.

Apa yang telah menghalangi penskalaan pembelajaran mesin di edge?

Pembelajaran mesin harus dengan mudah terintegrasi dengan sistem legacy. Perusahaan Fortune 500 dan startup sama-sama telah berinvestasi banyak dalam platform teknologi mereka saat ini, tetapi sebagian besar dari mereka tidak akan menulis ulang semua kode atau menggantikan infrastruktur dasar mereka untuk mengintegrasikan ML. Untuk memitigasi risiko sambil memanen manfaat ML, perlu ada teknologi yang memungkinkan integrasi legacy kode bersama dengan ML ke dalam sistem mereka. Ini menciptakan jalur yang mudah untuk mengembangkan dan mengirimkan sistem ini untuk memenuhi kebutuhan aplikasi sambil memberikan manfaat dari kecerdasan yang dibawa oleh pembelajaran mesin.

Tidak ada soket besar, tidak ada satu pelanggan besar yang akan menggerakkan jarum, jadi kami tidak memiliki pilihan lain selain mendukung lebih dari 1.000 pelanggan untuk benar-benar menskalakan pembelajaran mesin dan membawa pengalaman ini kepada mereka. Kami menemukan bahwa pelanggan ini memiliki keinginan untuk ML tetapi mereka tidak memiliki kapasitas untuk mendapatkan pengalaman belajar karena mereka kekurangan kapasitas internal untuk membangun dan mereka tidak memiliki basis pengetahuan fundamental internal. Jadi mereka ingin mengimplementasikan pengalaman ML tetapi untuk melakukannya tanpa kurva belajar embedded edge dan apa yang sebenarnya cepat menjadi adalah bahwa kami harus membuat pengalaman ML ini sangat tanpa usaha bagi pelanggan.

Bagaimana SiMA dapat mengurangi konsumsi daya secara dramatis dibandingkan dengan pesaing?

MLSoC kami adalah mesin yang mendasari yang benar-benar memungkinkan semuanya, penting untuk membedakan bahwa kami tidak membangun akselerator ML. Untuk $2 miliar yang diinvestasikan dalam startup edge ML SoC, setiap respons industri untuk inovasi telah menjadi blok akselerator ML sebagai inti atau chip. Apa yang tidak dikenali orang adalah untuk memigrasi orang dari SoC klasik ke lingkungan ML, Anda memerlukan lingkungan MLSoC sehingga orang dapat menjalankan kode legacy dari hari pertama dan secara bertahap dalam pendekatan yang terstruktur dan termitigasi mengirimkan kemampuan mereka ke dalam komponen ML atau suatu hari mereka melakukan segmentasi semantik menggunakan pendekatan penglihatan komputer klasik dan keesokan harinya mereka bisa melakukannya menggunakan pendekatan ML tetapi dengan cara apa pun kami izinkan pelanggan kami memiliki kesempatan untuk mengirimkan dan mempartisi masalah mereka sesuai dengan yang mereka anggap pantas menggunakan penglihatan komputer klasik, pengolahan sistem ARM klasik, atau komputasi ML heterogen. Bagi kami, ML bukanlah produk akhir dan oleh karena itu akselerator ML tidak akan berhasil dengan sendirinya, ML adalah kemampuan dan itu adalah toolkit tambahan yang kami izinkan pelanggan kami sehingga dengan menggunakan metode tombol-tunggu, mereka dapat mengulangi desain pra-pengolahan, pasca-pengolahan, analitik, dan percepatan ML semua pada platform tunggal sambil memberikan kinerja aplikasi sistem terbaik dan terendah daya.

Apa yang menjadi prioritas utama pasar untuk SiMa?

Kami telah mengidentifikasi beberapa pasar kunci, beberapa di antaranya lebih cepat untuk pendapatan daripada yang lain. Waktu tercepat untuk pendapatan adalah visi pintar, robotika, industri 4.0, dan drone. Pasar yang membutuhkan waktu sedikit lebih lama karena kualifikasi dan persyaratan standar adalah aplikasi otomotif dan kesehatan. Kami telah memulai di semua di atas dengan bekerja sama dengan pemain teratas di setiap kategori.

Penangkapan gambar umumnya telah berada di edge, dengan analitik di cloud. Apa manfaat dari menggeser strategi penerapan ini?

Aplikasi edge memerlukan pengolahan untuk dilakukan secara lokal, untuk banyak aplikasi tidak ada waktu cukup untuk data untuk pergi ke cloud dan kembali. Kemampuan ML fundamental dalam aplikasi edge karena keputusan harus dibuat dalam waktu nyata, misalnya dalam aplikasi otomotif dan robotika di mana keputusan harus diproses dengan cepat dan efisien.

Mengapa perusahaan harus mempertimbangkan solusi SiMa dibandingkan dengan pesaing?

Metodologi unik kami dengan pendekatan berbasis perangkat lunak yang dikemas dengan solusi perangkat keras lengkap. Kami telah fokus pada solusi lengkap yang menangani apa yang kami sebut Any, 10x, dan Pushbutton sebagai inti dari masalah pelanggan. Tesis asli untuk perusahaan adalah Anda menekan tombol dan Anda mendapatkan WOW! Pengalaman ini benar-benar perlu diabstraksikan ke titik di mana Anda ingin mendapatkan ribuan pengembang untuk menggunakannya, tetapi Anda tidak ingin memerlukan mereka semua menjadi jenius ML, Anda tidak ingin mereka semua menyesuaikan lapisan demi lapisan dengan kode tangan untuk mendapatkan kinerja yang diinginkan, Anda ingin mereka tetap pada tingkat abstraksi tertinggi dan mengirimkan ML yang tanpa usaha dengan cepat. Jadi tesis di balik mengapa kami mengunci ini adalah korelasi yang sangat kuat dengan penskalaan bahwa ini benar-benar perlu menjadi pengalaman ML yang tanpa usaha dan tidak memerlukan banyak bantuan dan keterlibatan layanan yang akan menghalangi penskalaan.

Kami menghabiskan tahun pertama mengunjungi lebih dari 50 pelanggan di seluruh dunia untuk memahami jika semua orang ingin ML tetapi mereka tidak mengirimkannya. Mengapa? Apa yang menghalangi Anda untuk mengirimkan ML secara bermakna dan apa yang diperlukan untuk benar-benar mendorong ML ke dalam penerapan skala dan itu benar-benar turun ke tiga pilar utama pemahaman, yang pertama adalah ANY. Sebagai perusahaan, kami harus memecahkan masalah yang diberikan oleh luasnya pelanggan, dan luasnya model penggunaan bersama dengan disparitas antara jaringan ML, sensor, kecepatan frame, resolusi. Ini adalah dunia yang sangat disparat di mana setiap pasar memiliki desain depan yang sama sekali berbeda dan jika kami hanya mengambil irisan sempit dari itu kami tidak dapat membangun perusahaan, kami benar-benar perlu menciptakan corong yang dapat mengambil ruang aplikasi yang sangat luas, hampir seperti corong Ellis Island dari semua penglihatan komputer. Orang bisa menggunakan tensorflow, mereka bisa menggunakan Python, mereka bisa menggunakan kamera sensor dengan resolusi 1080 atau itu bisa menjadi sensor resolusi 4K, itu tidak masalah jika kami dapat menghomogenkan dan membawa mereka semua dan jika Anda tidak memiliki frontend seperti ini maka Anda tidak memiliki perusahaan yang dapat diskalakan.

Kedua, 10x berarti bahwa ada juga masalah mengapa pelanggan tidak dapat mengirimkan dan menciptakan platform turunan karena semuanya adalah kembali ke awal untuk membangun model atau pipeline baru. Tantangan kedua tidak diragukan lagi sebagai startup kami perlu membawa sesuatu yang sangat menarik, sangat kompetitif di mana siapa pun dan semua orang mau mengambil risiko bahkan jika Anda adalah startup berdasarkan metrik kinerja 10x. Satu kelebihan teknis yang kami fokuskan untuk memecahkan masalah komputer visi adalah metrik frame per detik per watt. Kami perlu menjadi jauh lebih baik daripada siapa pun lain sehingga kami dapat tetap satu atau dua generasi di depan, jadi kami mengambil ini sebagai bagian dari pendekatan berbasis perangkat lunak kami. Pendekatan ini menciptakan platform komputasi heterogen sehingga orang dapat memecahkan seluruh pipeline penglihatan komputer dalam satu chip dan mengirimkannya dengan 10x dibandingkan dengan solusi lain. Pilar ketiga Pushbutton didorong oleh kebutuhan untuk menskalakan ML di embedded edge dengan cara yang bermakna. Rantai alat ML sangat muda, sering kali rusak, tidak ada satu perusahaan yang benar-benar membangun pengalaman perangkat lunak ML kelas dunia. Kami lebih lanjut mengakui bahwa untuk pasar embedded, penting untuk menyembunyikan kompleksitas kode embedded sambil juga memberikan proses iteratif untuk dengan cepat kembali dan memperbarui serta mengoptimalkan platform mereka. Pelanggan benar-benar memerlukan pengalaman pushbutton yang memberikan respons atau solusi dalam hitungan menit bukan berbulan-bulan untuk mencapai ML yang tanpa usaha. Any, 10x, dan pushbutton adalah proposisi nilai yang menjadi sangat jelas bagi kami bahwa jika kami melakukan pekerjaan yang luar biasa dalam tiga hal ini kami akan benar-benar menggerakkan jarum pada ML yang tanpa usaha dan menskalakan ML di embedded edge.

Apakah ada yang lain yang ingin Anda bagikan tentang SiMa?

Dalam pengembangan awal platform MLSoC, kami mendorong batas-batas teknologi dan arsitektur. Kami pergi all-in pada platform berbasis perangkat lunak, yang merupakan pendekatan yang sama sekali baru, yang bertentangan dengan kebijaksanaan konvensional. Perjalanan dalam memahami dan kemudian mengimplementasikannya sangat sulit.

Kemenangan monumen baru memvalidasi kekuatan dan keunikan teknologi yang kami bangun. SiMa.ai mencapai tonggak besar pada April 2023 dengan mengungguli pemimpin incumbent dalam debut MLPerf Benchmark kinerja di kategori Edge Power Tertutup. Kami bangga menjadi startup pertama yang berpartisipasi dan mencapai hasil kemenangan dalam benchmark MLPerf paling populer dan diakui di industri untuk kinerja dan daya.

Kami memulai dengan aspirasi yang tinggi dan hingga hari ini, saya bangga mengatakan bahwa visi itu tetap tidak berubah. MLSoC kami dirancang khusus untuk melawan norma-norma industri untuk mengirimkan solusi ML revolusioner ke pasar embedded edge.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi SiMa.ai.