Elad Raz, CEO von NextSilicon – Interview-Serie

Elad Raz, CEO von NextSilicon, ist ein erfahrener Unternehmer und Technologieführer, der für seine tiefen Kenntnisse in den Bereichen Low-Level-Systeme, Sicherheit, Netzwerk und Dateisystementwicklung weitgehend anerkannt ist. Im Laufe seiner Karriere, die Elite-Militäringenieur-Rollen, Senior-Software-Führungspositionen, Unternehmensgründungen und langfristige Investitionen umfasst, hat Raz komplexe, mission-kritische Projekte in den Bereichen Betriebssystem-Interne und Hardware-Software-Integration geleitet. Bevor er NextSilicon gründete, baute er mehrere Technologieunternehmen auf und verkaufte sie, nahm Senior-Führungspositionen bei einem führenden Halbleiterunternehmen ein und investierte in ein diversifiziertes Portfolio von Start-ups, wobei er praktische Ingenieurskenntnisse mit starker Ausführung und langfristiger strategischer Vision kombinierte.

NextSilicon ist ein israelisches Unternehmen für Hochleistungsrechnen und Halbleiter, das 2017 gegründet wurde und die Rechenarchitektur für anspruchsvolle Workloads wie künstliche Intelligenz und wissenschaftliches Rechnen neu definiert. Das Unternehmen hat eine softwaredefinierte, intelligente Rechenplattform entwickelt, die hohe Leistung und Effizienz ohne die Notwendigkeit von Code-Neuschreibungen durch Entwickler bieten soll. Durch die Konzentration auf Anpassungsfähigkeit auf Hardware-Ebene zielt NextSilicon darauf ab, grundlegende Engpässe in modernen Rechenzentren und Supercomputer-Umgebungen zu beseitigen und sich als nächste Generation traditioneller Beschleuniger zu positionieren.

Können Sie uns von Ihrer Reise erzählen, die zur Gründung von NextSilicon führte? Was hat die ursprüngliche Idee ausgelöst, und wie haben Ihre frühen Erfahrungen mit dem Rechnen Ihre Vision geprägt?

Ich bin seit meiner Kindheit von Computern fasziniert. Diese Faszination führte mich von der Arbeit mit alten Commodore 64s und Ataris (die ich noch heute sammle) zur Gründung von Start-ups und schließlich zum Verkauf meines vorherigen Unternehmens an Mellanox. Aber auch mit diesen frühen Erfolgen sah ich immer wieder dieselbe Herausforderung in dieser Branche. Da die Rechenworkloads komplexer wurden, erreichten traditionelle CPU- und GPU-Architekturen Leistungs-, Energieeffizienz- und Skalierbarkeitsgrenzen. Obwohl ich Algorithmen optimierte oder große Simulationsläufe durchführte, wurde mir klar, dass die aktuellen Architekturen die Workloads zwangen, sich an die Hardware anzupassen – und nicht umgekehrt.

Der Funke für NextSilicon entstand aus dieser wiederkehrenden Herausforderung und stellte die Frage: Was, wenn wir die Geschichte umdrehen und Rechenarchitekturen bauen könnten, die sich an die Workloads anpassen, anstatt die Workloads an die Hardware anzupassen? Meine frühen Erfahrungen mit der Algorithmus-Entwicklung und Hardware lehrten mich, dass der wahre Durchbruch durch die Kombination von beidem in Echtzeit kommen würde. Das ist die Grundlage unserer Intelligenten Rechenarchitektur (ICA) und NextSilicons Leitvision seit Beginn.

Maverick-2 wird als intelligenter Rechenbeschleuniger beschrieben, der sich an Echtzeit-Workloads anpasst. Wie unterscheidet sich seine Architektur von traditionellen GPUs oder FPGAs, und was ermöglicht diese Anpassungsfähigkeit?

CPUs und GPUs haben unsere Welt verändert und haben uns gut gedient. Aber sie wurden nie dafür entwickelt, die Anforderungen moderner künstlicher Intelligenz- und Hochleistungsrechen-Workloads in Bereichen wie Wissenschaft, Wetter, Energie und Verteidigung zu erfüllen. Diese Workloads haben komplexe Datenabhängigkeiten, Speicherzugriffsmuster und Rechenmuster, die heutige Prozessoren nicht bewältigen können. Das Ergebnis sind Engpässe, die die Innovation verlangsamen.

Maverick-2s wichtigster Unterschied liegt in seinem neuartigen Ansatz, der einen umkonfigurierbaren Datenfluss-Engine mit Echtzeit-Software-Optimierung kombiniert. Der wichtigste architektonische Unterschied besteht darin, dass die Hardware auf der Grundlage der Workload konfiguriert wird und nicht umgekehrt. Bei Maverick-2 wird die Berechnung durch die Verfügbarkeit von Daten gesteuert und nicht durch einen Programmzähler, der die Ausführung von Anweisungen steuert, wie bei traditionellen Prozessoren. Dies ermöglicht es uns, softwaredefinierte virtuelle Verarbeitungseinheiten zu erstellen, die in Echtzeit konfiguriert und rekonfiguriert werden können, um bestimmte Workload-Muster zu entsprechen.

Die Ergebnisse sprechen für sich: Maverick-2 liefert über 4-mal die Leistung pro Watt von GPUs und mehr als 20-mal die Leistung von CPUs, während die Betriebskosten um mehr als die Hälfte reduziert werden. Als Ergebnis können Forscher und Ingenieure große, unregelmäßige Simulationsläufe schneller und effizienter durchführen und Erkenntnisse und Durchbrüche in einem Bruchteil der Zeit freisetzen.

Sie haben über 4-mal die Leistung pro Watt im Vergleich zu GPUs und mehr als 20-mal die Leistung von CPUs berichtet. Was sind die wichtigsten Innovationen, die diese Leistungssteigerungen in realen Workloads ermöglichen?

Die Leistungssteigerungen resultieren aus mehreren wichtigen Innovationen, die zusammenarbeiten.

Erstens haben wir uns vom Von-Neumann-Modell abgewandt, das die Rechnertechnik für 80 Jahre dominiert hat. Anstatt sequenzieller Anweisungsausführung verwendet Maverick-2 eine Datenfluss-Architektur, bei der die Berechnung der Verfügbarkeit von Daten folgt. Dies ist grundlegend besser geeignet für unregelmäßige, speicherintensive Workloads.

Zweitens generiert unsere selbstoptimierende Architektur softwaredefinierte Prozessorkerne in Echtzeit. Die Hardware passt sich an die Anforderungen jeder Anwendung an, ohne dass Code-Neuschreibungen erforderlich sind – Sie erhalten Optimierung ohne Overhead.

Drittens und dies ist entscheidend: Wir konzentrieren uns auf nachhaltige Echtzeit-Leistung, nicht auf theoretische Spitzenwerte. Viele Architekturen sehen auf dem Papier gut aus, aber versagen bei realen Workloads. Maverick-2 hält die Effizienz über AI, HPC und Vektor-Datenbanken hinweg, indem es sich kontinuierlich an die Anforderungen der Workload anpasst.

Maverick-2 unterstützt C/C++, Fortran, OpenMP und Kokkos ohne Code-Änderungen. Wie haben Entwickler auf diese Kompatibilität reagiert, und welche Pläne haben Sie, um CUDA, ROCm oder beliebte AI-Frameworks zu unterstützen?

Entwickler lieben es, dass Maverick-2 ein echter “Drop-in-Ersatz” ist. Sie können ihre bestehenden Anwendungen sofort ohne Portierungsbarrieren ausführen. Wir unterstützen derzeit C/C++, Fortran, OpenMP und Kokkos, mit CUDA, ROCm und wichtigen AI-Frameworks wie TensorFlow, JAX, PyTorch und ONNX in aktiver Entwicklung. Dies eliminiert Herstellerbindung und teure Code-Neuschreibungen und ermöglicht es Kunden, neue Architekturen ohne Unterbrechung ihrer Workflows zu bewerten und zu adoptieren.

Wie funktioniert die telemetrie-gesteuerte Systemoptimierung von Maverick-2 im Hintergrund? Was ist an der Profilierung und Rekonfiguration des Chips in Echtzeit beteiligt?

Denken Sie an unsere Systemoptimierung als einen kontinuierlichen Kreislauf: Während der Ausführung misst unser Telemetriesystem Hunderte von Leistungsindikatoren (z. B. Speicherbandbreite, Auslastung, Warteschlangentiefe). Alle diese Daten werden in einen Laufzeit-Optimizer eingegeben, der bestimmt, ob die aktuelle Hardware-Konfiguration für die Workload und ihre prognostizierten Anforderungen optimal bleibt. Wenn nicht, kann es Ressourcen umverteilen, Datenpfade neu ordnen und Rechenpipelines kontinuierlich anpassen, sodass die Anwendung nicht stoppt. Dies geschieht innerhalb von Millisekunden, sodass die Anwendung konsistente Spitzenleistung beibehält, während ihr Rechenprofil sich ändert.

Gibt es bestimmte Arten von Workloads oder Randfälle, bei denen die adaptive Laufzeit-Leistungsanpassung weniger effektiv ist oder Kompromisse bei Latenz oder Leistung mit sich bringt?

Jede Architektur hat Kompromisse. Maverick-2 excelt bei komplexen, unregelmäßigen Workloads mit sich ändernden Rechen- und Datenzugriffsmustern. Für sehr vorhersehbare, feste Workloads kann ein gut abgestimmter GPU sehr effizient sein, ohne den Overhead der Anpassung. In diesen Fällen liefert unsere Anpassungsfähigkeit immer noch solide Leistung, aber der relative Vorteil kann kleiner sein.

NextSilicons Design ist alles über Vielseitigkeit und Wettbewerbsfähigkeit in einfachen Fällen, aber transformierend in herausfordernden Fällen.

Warum haben Sie sich entschieden, den HPC-Markt frühzeitig zu priorisieren, als die meisten Start-ups in die künstliche Intelligenz stürmten? Wie hat dies Ihre Produkt- und Geschäftsstrategie geprägt?

HPC stellt die Grenze der Rechenkomplexität und der Problemlösung für massive Datensätze, unregelmäßigen Speicherzugriff und unvorhersehbare Rechenmuster dar. Wenn man eine Architektur bauen kann, die dort gedeiht – wie z. B. die Ausführung von Exabyte-Simulationsläufen in Klimamodellierung oder Teilchenphysik -, wird sie auch in der künstlichen Intelligenz glänzen.

Indem wir uns auf HPC konzentrierten, haben wir Maverick-2 auf den anspruchsvollsten Workloads in Klimamodellierung, Physik und Lebenswissenschaften bewiesen. Das gab uns Glaubwürdigkeit, Echtzeit-Leistungsdaten und ein ausgereiftes Produkt, bevor wir tiefer in die künstliche Intelligenz-Märkte eindrangen. Jetzt sind wir in der Lage, beide Märkte zu bedienen, ohne unsere Architektur für kurzfristige Trends oder Bedürfnisse kompromittiert zu haben.

Jetzt, da Maverick-2 in Produktion ist und bei Dutzenden von Kunden eingesetzt wird, können Sie Beispiele dafür nennen, wie es eingesetzt wird? Gibt es spezifische Ergebnisse oder Benchmarks von Flaggschiff-Deployments?

Ein Flaggschiff-Beispiel ist unsere Bereitstellung bei Sandia National Labs, wo Maverick-2 den Spectra-Supercomputer im Rahmen des Vanguard-II-Programms antreibt. Wir sehen beeindruckende Out-of-the-Box-Leistungsresultate ohne Code-Änderungen. Wir arbeiten auch mit ODISSEE (Online Data Intensive Solutions for Science in the Exabytes Era), das führende Forschungseinrichtungen zusammenbringt, um Exabyte-Skalen-Daten von CERNs High-Luminosity Large Hadron Collider und dem Square Kilometre Array Observatory zu bewältigen. Die Rolle, die Maverick-2 spielen wird, besteht darin, die Herausforderung der Verarbeitung von Petabytes an Roh-Daten in einem Bruchteil der Zeit und Energie zu lösen, die zuvor erforderlich war. Das Endziel ist es, schnellere physikalische Analysen und astronomische Entdeckungen zu ermöglichen.

Sie haben über 300 Millionen Dollar aufgebracht, mit großen Runden, die 2021 und kürzlich angekündigt wurden. Können Sie mitteilen, wie diese Finanzierung die Produktentwicklung und Marktreichweite beschleunigt hat?

Die Finanzierung ermöglichte es uns, drei Dinge zu tun. Erstens konnten wir die Architektur weiter vorantreiben, nicht nur inkrementelle Verbesserungen, sondern grundlegende Fortschritte, die Maverick-2 produktionssicher machten. Zweitens konnten wir unsere Fertigung und Lieferkette für wachsende Nachfrage skalieren, eine nicht triviale Herausforderung für neuartiges Silizium. Drittens konnten wir unser Software-Ökosystem erweitern, um es Kunden zu ermöglichen, schneller zu integrieren und zu bereitstellen.

Es ermöglichte auch strategische Partnerschaften mit Supercomputer-Zentren und Cloud-Anbietern, die es uns ermöglichten, unseren Konzept-zur-Bereitstellungs-Prozess zu straffen und viel schneller als traditionelle Hardware-Start-ups zu expandieren.

In einer Landschaft, die Cerebras (CBRS ), SambaNova und Nvidia (NVDA ) umfasst, wie sehen Sie NextSilicon positioniert? Was ist Ihr Go-to-Market-Ansatz als Herausforderer?

Wir sehen NextSilicon als Technologie-Unternehmen und nicht nur als ein weiteres Chip-Unternehmen. Wir optimieren jede Workload, bieten Anpassungsfähigkeit und binden Kunden nicht an proprietäre Programmierung oder Hardware. Unsere Kunden können ihren bestehenden Code mitbringen und sofortige Beschleunigung ohne lange Portierungszyklen oder Herstellerbindung zu einem bestimmten Ökosystem, wie CUDA, erzielen. Dies ist besonders wichtig, da künstliche Intelligenz-Workloads über reines Training hinausgehen. Reasoning-Modelle, erweiterte Inferenz und große Kontextfenster erfordern grundlegend andere Rechenmuster: dynamatischen Speicherzugriff, variable Längen von Berechnungen und adaptive Ressourcenzuweisung. Dies sind keine Probleme, die mit mehr von derselben festen Architektur gelöst werden können.

Unsere Go-to-Market-Strategie konzentriert sich darauf, die schwierigsten Probleme zuerst zu lösen: Zusammenarbeit mit Forschungseinrichtungen, nationalen Labors und Unternehmen, bei denen Leistung, Energieeffizienz und Flexibilität entscheidend sind. Von dort aus skalieren wir in breitere künstliche Intelligenz- und datenintensive Märkte. Die Branche wird von festen Architekturen dominiert. Wir bieten etwas anderes an: Anpassungsfähigkeit, die von Anfang an gebaut wurde. Künstliche Intelligenz verschiebt sich von reinem Maßstab zu Intelligenz. Größere Modelle ermöglichen intelligentere Argumentation, von kurzen Prompts zu langem Kontextverständnis. In diesem Übergang werden anpassungsfähige Architekturen nicht nur neuartig sein, sondern auch unerlässlich.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten NextSilicon besuchen.