Krishna Rangasayee, Gründer und CEO von SiMa.ai – Interview-Serie

Krishna Rangasayee ist Gründer und CEO von SiMa.ai. Zuvor war Krishna COO von Groq und bei Xilinx für 18 Jahre, wo er mehrere leitende Positionen innehatte, darunter Senior Vice President und GM des gesamten Geschäfts und Executive Vice President für globale Verkäufe. Während seiner Zeit bei Xilinx wuchs das Geschäft auf 2,5 Milliarden US-Dollar Umsatz bei einer Bruttomarge von 70 %, während er die Grundlage für 10 Quartale nachhaltigen sequenziellen Wachstums und Markterweiterung schuf. Vor seiner Zeit bei Xilinx hatte er verschiedene Ingenieur- und Geschäftspositionen bei Altera Corporation und Cypress Semiconductor inne. Er hält über 25 internationale Patente und hat im Vorstand von öffentlichen und privaten Unternehmen gedient.

Was hat Sie ursprünglich zur Maschinenlernen-Technologie hingezogen?

Ich habe mich in den letzten 20 Jahren mit den Märkten für Embedded-Edge- und Cloud-Anwendungen beschäftigt. Ich habe viele Innovationen in der Cloud gesehen, aber sehr wenig, um Maschinenlernen am Embedded-Edge zu ermöglichen. Es handelt sich um einen massiv unterversorgten Markt von über 40 Milliarden US-Dollar, der seit Jahrzehnten auf alte Technologie angewiesen ist.

Wir haben uns also auf etwas konzentriert, was noch niemand zuvor getan hatte – die Ermöglichung von mühelosem Maschinenlernen für den Embedded-Edge.

Können Sie die Entstehungsgeschichte hinter SiMa.ai teilen?

In meiner 20-jährigen Karriere habe ich noch nie eine architektonische Innovation im Embedded-Edge-Markt gesehen. Dennoch ist die Nachfrage nach Maschinenlernen am Embedded-Edge im Cloud- und IoT-Bereich gestiegen. Dies zeigt, dass Unternehmen Maschinenlernen am Edge benötigen, die Technologie jedoch zu starr ist, um dies zu ermöglichen.

Bevor SiMa.ai mit der Entwicklung unserer Plattform begann, war es wichtig, die größten Herausforderungen unserer Kunden zu verstehen. Es war jedoch schwierig, sie dazu zu bringen, Zeit mit einem Start-up zu verbringen, um bedeutungsvolle und offene Rückmeldungen zu erhalten. Glücklicherweise konnten mein Team und ich unser Netzwerk aus früheren Beziehungen nutzen, um SiMa.ai’s Vision mit den richtigen Zielunternehmen zu festigen.

Wir haben über 30 Kunden getroffen und zwei grundlegende Fragen gestellt: “Was sind die größten Herausforderungen beim Skalieren von Maschinenlernen auf den Embedded-Edge?” und “Wie können wir helfen?” Nach vielen Diskussionen darüber, wie sie die Branche umgestalten und ihre Herausforderungen überwinden wollten, haben wir ein tiefes Verständnis für ihre Schmerzpunkte und Ideen entwickelt, um sie zu lösen. Dazu gehören:

• Die Vorteile von Maschinenlernen ohne eine steile Lernkurve zu nutzen.
• Die Erhaltung von Legacy-Anwendungen sowie die zukünftige Sicherung von Maschinenlernen-Implementierungen.
• Die Arbeit mit einer hochleistungsfähigen, energiesparenden Lösung in einer benutzerfreundlichen Umgebung.

Schnell wurde uns klar, dass wir eine risikominimierte, schrittweise Herangehensweise liefern mussten, um unseren Kunden zu helfen. Als Start-up mussten wir etwas so überzeugendes und differenziertes wie alle anderen anbieten. Kein anderes Unternehmen hat diese klare Notwendigkeit angesprochen, also haben wir uns für diesen Weg entschieden.

SiMa.ai hat dies durch die Entwicklung einer softwarezentrierten, speziell entwickelten Machine-Learning-System-on-Chip-(MLSoC)-Plattform erreicht. Durch die Kombination von Silizium und Software kann Maschinenlernen jetzt durch den Knopfdruck in Embedded-Edge-Anwendungen integriert werden.

Können Sie Ihre Vision davon teilen, wie Maschinenlernen alles am Edge verändern wird?

Die meisten Maschinenlernen-Unternehmen konzentrieren sich auf hochwachsende Märkte wie Cloud und autonomes Fahren. Es sind jedoch Bereiche wie Robotik, Drohnen, reibungsloser Einzelhandel, Smart Cities und industrielle Automation, die die neueste Maschinenlernen-Technologie benötigen, um Effizienz zu steigern und Kosten zu senken.

Diese wachsenden Branchen in Kombination mit den aktuellen Frustrationen bei der Implementierung von Maschinenlernen am Embedded-Edge zeigen, dass die Zeit reif ist für eine Chance. SiMa.ai geht dieses Problem auf eine völlig andere Weise an; wir wollen eine weitverbreitete Akzeptanz ermöglichen.

Was hat bisher die Skalierung von Maschinenlernen am Edge verhindert?

Maschinenlernen muss sich leicht in Legacy-Systeme integrieren lassen. Fortune-500-Unternehmen und Start-ups haben schwer in ihre aktuellen Technologieplattformen investiert, aber die meisten von ihnen werden nicht alle ihre Codezeilen neu schreiben oder ihre zugrunde liegende Infrastruktur vollständig überarbeiten, um Maschinenlernen zu integrieren. Um Risiken zu minimieren und gleichzeitig die Vorteile von Maschinenlernen zu nutzen, muss es eine Technologie geben, die eine nahtlose Integration von Legacy-Code und Maschinenlernen in ihre Systeme ermöglicht. Dies schafft einen einfachen Weg, um diese Systeme zu entwickeln und bereitzustellen, um die Anforderungen der Anwendungen zu erfüllen und gleichzeitig die Vorteile von Maschinenlernen zu nutzen.

Es gibt keine großen Sockets, es gibt keinen einzigen großen Kunden, der den Unterschied ausmachen wird, also hatten wir keine andere Wahl, als über 1.000 Kunden zu unterstützen, um Maschinenlernen wirklich zu skalieren und den Erfahrungswert zu bringen. Wir haben festgestellt, dass diese Kunden den Wunsch nach Maschinenlernen haben, aber sie haben nicht die Kapazität, um den Lernprozess zu durchlaufen, da ihnen die interne Kapazität fehlt, um aufzubauen, und sie nicht über die grundlegenden Kenntnisse verfügen. Sie wollen also die Maschinenlernen-Erfahrung umsetzen, aber ohne die Lernkurve am Embedded-Edge und was es wirklich schnell zu einer mühelosen Maschinenlernen-Erfahrung kommen lässt.

Wie kann SiMA den Energieverbrauch im Vergleich zu den Wettbewerbern so dramatisch senken?

Unser MLSoC ist der zugrunde liegende Motor, der alles ermöglicht, es ist wichtig, sich zu differenzieren, dass wir keinen Maschinenlernen-Beschleuniger aufbauen. Von den 2 Milliarden US-Dollar, die in Edge-ML-SoC-Start-ups investiert wurden, hat jeder Branchenbeitrag eine Maschinenlernen-Beschleuniger-Block als Kern oder Chip geliefert. Was die Leute nicht erkennen, ist, dass man, um Menschen von einem klassischen SoC zu einer ML-Umgebung zu bringen, ein MLSoC-Umfeld benötigt, in dem Menschen Legacy-Code von Tag eins ausführen und allmählich in einer risikominimierten Weise ihre Fähigkeiten in eine ML-Komponente einsetzen können. Wir ermöglichen unseren Kunden die Möglichkeit, ihre Probleme so zu partitionieren, wie sie es für richtig halten, unter Verwendung von klassischer Computer-Vision, klassischer ARM-Verarbeitung von Systemen oder heterogener ML-Berechnung. Für uns ist Maschinenlernen kein Endprodukt und daher wird ein Maschinenlernen-Beschleuniger nicht allein erfolgreich sein. Maschinenlernen ist eine Fähigkeit und ein Werkzeug, das wir unseren Kunden ermöglichen, damit sie mit einer Push-Button-Methode ihre Design-Entwicklung von Vorverarbeitung, Nachverarbeitung, Analyse und Maschinenlernen-Beschleunigung auf einer einzigen Plattform durchführen können, während sie das höchste System-weite Anwendungs-Performance bei dem niedrigsten Energieverbrauch liefern.

Was sind einige der wichtigsten Marktprioritäten für SiMa?

Wir haben mehrere Schlüsselmärkte identifiziert, von denen einige schneller zu Umsatz kommen als andere. Der schnellste Weg zu Umsatz ist Smart-Vision, Robotik, Industrie 4.0 und Drohnen. Die Märkte, die aufgrund von Qualifizierungen und Standardanforderungen etwas mehr Zeit benötigen, sind Automotive- und Gesundheitsanwendungen. Wir haben in all diesen Bereichen mit den Top-Spielern jeder Kategorie begonnen.

Bildaufnahme war im Allgemeinen am Edge, während die Analyse in der Cloud stattfand. Was sind die Vorteile einer Verschiebung dieser Bereitungsstrategie?

Edge-Anwendungen benötigen eine lokale Verarbeitung, da für viele Anwendungen nicht genügend Zeit ist, um die Daten in die Cloud und zurück zu übertragen. Maschinenlernen-Fähigkeiten sind grundlegend für Edge-Anwendungen, da Entscheidungen in Echtzeit getroffen werden müssen, beispielsweise in Automotive-Anwendungen und Robotik, wo Entscheidungen schnell und effizient verarbeitet werden müssen.

Warum sollten Unternehmen SiMa-Lösungen gegenüber Ihren Wettbewerbern in Betracht ziehen?

Unsere einzigartige Methode einer softwarezentrierten Herangehensweise, kombiniert mit einer kompletten Hardware-Lösung. Wir haben uns auf eine komplette Lösung konzentriert, die das beinhaltet, was wir die drei Kernherausforderungen der Kunden nennen: Any, 10x und Pushbutton. Die ursprüngliche These für das Unternehmen war, dass man durch den Knopfdruck ein “Wow!”-Erlebnis erhält. Das Erlebnis muss wirklich abstrahiert werden, um Tausende von Entwicklern zu ermöglichen, es zu nutzen, ohne dass sie alle Maschinenlernen-Experten sein müssen, ohne dass sie alle manuell Schicht für Schicht coden müssen, um die gewünschte Leistung zu erzielen. Sie sollten auf höchstem Abstraktionsniveau bleiben und Maschinenlernen mühelos bereitstellen. Die These, warum wir uns auf diese drei Dinge konzentriert haben, war eine sehr starke Korrelation mit Skalierung, da es wirklich eine mühelose Maschinenlernen-Erfahrung sein muss und nicht viel Handholding und Dienstleistungsengagement erfordern, das den Skalierungsprozess behindern würde.

Wir haben das erste Jahr damit verbracht, über 50 Kunden weltweit zu besuchen, um zu verstehen, warum sie Maschinenlernen nicht bereitstellen. Was kommt dazwischen? Was ist erforderlich, um Maschinenlernen wirklich zu skalieren? Es kommt auf drei Schlüsselsäulen an: Any. Als Unternehmen müssen wir Probleme lösen, die durch die Breite der Kunden, die Breite der Nutzungsmuster und die Disparität zwischen den Maschinenlernen-Netzwerken, den Sensoren, der Bildfrequenz und der Auflösung entstehen. Es ist eine sehr disparate Welt, in der jeder Markt völlig unterschiedliche Frontend-Designs hat, und wenn wir nur einen schmalen Ausschnitt davon betrachten, können wir wirtschaftlich kein Unternehmen aufbauen. Wir müssen eine Lösung schaffen, die in der Lage ist, eine breite Palette von Anwendungsbereichen zu bewältigen, fast wie die Ellis-Insel für alles, was mit Computer-Vision zu tun hat. Menschen könnten TensorFlow verwenden, sie könnten Python verwenden, sie könnten eine Kamera-Sensor mit 1080-Auflösung oder eine 4K-Auflösung-Sensor verwenden, es spielt wirklich keine Rolle, wenn wir sie alle homogenisieren und zusammenbringen können, und wenn Sie dies nicht haben, haben Sie kein skalierbares Unternehmen.

Die zweite Säule ist 10x, was bedeutet, dass es auch das Problem gibt, warum Kunden nicht in der Lage sind, Plattformen zu erstellen und zu bereitstellen, weil alles von vorne beginnt, um ein neues Modell oder eine neue Pipeline zu bauen. Die zweite Herausforderung ist zweifellos, dass wir als Start-up etwas sehr Aufregendes, sehr Überzeugendes liefern müssen, damit jeder und alle bereit sind, das Risiko einzugehen, auch wenn wir ein Start-up sind, basierend auf einem 10x-Leistungsmerkmal. Der eine wichtige technische Vorteil, auf den wir uns konzentrieren, um Computer-Vision-Probleme zu lösen, ist das Frames-pro-Sekunde-pro-Watt-Metrik. Wir müssen illogisch besser sein als alle anderen, um eine oder zwei Generationen vorne zu bleiben, also haben wir dies als Teil unserer softwarezentrierten Herangehensweise umgesetzt. Diese Herangehensweise hat eine heterogene Rechenplattform geschaffen, mit der Menschen die gesamte Computer-Vision-Pipeline auf einem einzigen Chip lösen und 10x im Vergleich zu anderen Lösungen liefern können. Die dritte Säule von Pushbutton wird durch die Notwendigkeit angetrieben, Maschinenlernen am Embedded-Edge in einer bedeutungsvollen Weise zu skalieren. Maschinenlernen-Toolketten sind sehr unterentwickelt, häufig gebrochen, und kein einziges Unternehmen hat wirklich eine Weltklasse-Maschinenlernen-Software-Erfahrung aufgebaut. Wir haben weiterhin erkannt, dass es für den Embedded-Markt wichtig ist, die Komplexität des Embedded-Codes zu maskieren, während man ihnen gleichzeitig einen iterativen Prozess bietet, um schnell zurückzukehren und ihre Plattformen zu optimieren. Kunden benötigen wirklich eine Push-Button-Erfahrung, die ihnen eine Antwort oder Lösung in Minuten und nicht in Monaten bietet, um müheloses Maschinenlernen zu erreichen. Any, 10x und Pushbutton sind die Kernwertpropositionen, die für uns klar wurden, dass wenn wir eine großartige Arbeit auf diesen drei Dingen leisten, wir den Nagel auf den Kopf treffen und Maschinenlernen am Embedded-Edge skalieren werden.

Gibt es noch etwas, das Sie über SiMa.ai teilen möchten?

In der frühen Entwicklung unserer MLSoC-Plattform haben wir die Grenzen der Technologie und Architektur ausgereizt. Wir haben uns auf eine softwarezentrierte Plattform konzentriert, die völlig neu war und gegen den Strich aller herkömmlichen Weisheiten ging. Die Reise, um dies zu verstehen und umzusetzen, war schwierig.

Ein kürzlich errungener, monumentaler Sieg bestätigt die Stärke und Einzigartigkeit der Technologie, die wir aufgebaut haben. SiMa.ai hat im April 2023 einen Meilenstein erreicht, indem wir den etablierten Marktführer in unserem Debüt-MLPerf-Benchmark-Leistung in der Closed-Edge-Power-Kategorie ausgestochen haben. Wir sind stolz darauf, das erste Start-up zu sein, das an diesem Benchmark teilgenommen und gewonnene Ergebnisse erzielt hat.

Wir begannen mit hohen Erwartungen und ich bin stolz zu sagen, dass diese Vision bis heute unverändert geblieben ist. Unser MLSoC wurde speziell entwickelt, um gegen die Branchennormen zu verstoßen und eine revolutionäre Maschinenlernen-Lösung für den Embedded-Edge-Markt zu liefern.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten SiMa.ai besuchen.