Phillip Burr, Leiter des Produktmanagements bei Lumai – Interviewreihe

Phillip Burr ist der Leiter des Produktmanagements bei Lumai, mit über 25 Jahren Erfahrung in der globalen Produktmanagement-, Go-to-Market- und Führungsrolle innerhalb führender Halbleiter- und Technologieunternehmen und einer nachgewiesenen Erfolgsbilanz bei der Entwicklung und Skalierung von Produkten und Dienstleistungen.

Lumai ist ein britisches Deep-Tech-Unternehmen, das 3D-Optik-Prozessoren für die Beschleunigung von künstlicher Intelligenz entwickelt. Durch die Durchführung von Matrix-Vektor-Multiplikationen mithilfe von Lichtstrahlen in drei Dimensionen bietet ihre Technologie bis zu 50-mal die Leistung und 90 % weniger Energieverbrauch im Vergleich zu herkömmlichen siliziumbasierten Beschleunigern. Dies macht es besonders geeignet für AI-Inferenzaufgaben, einschließlich großer Sprachmodelle, während es gleichzeitig Energiekosten und Umweltauswirkungen erheblich reduziert.

Was inspirierte die Gründung von Lumai, und wie entwickelte sich die Idee aus der Forschung an der University of Oxford zu einem kommerziellen Unternehmen?

Der erste Funke wurde entfacht, als einer der Gründer von Lumai, Dr. Xianxin Guo, ein 1851-Forschungsstipendium an der University of Oxford erhielt. Die Interviewer erkannten das Potenzial für optische Computer und fragten, ob Xianxin in Betracht ziehen würde, Patente anzumelden und ein Unternehmen zu gründen, wenn seine Forschung erfolgreich wäre. Dies ließ Xianxins kreatives Denken in Gang setzen, und als er zusammen mit einem anderen Mitgründer von Lumai, Dr. James Spall, bewiesen hatte, dass die Verwendung von Licht für die Berechnungen im Herzen der künstlichen Intelligenz sowohl die Leistung der künstlichen Intelligenz dramatisch steigern als auch die Energie reduzieren konnte, war der Weg geebnet. Sie wussten, dass bestehende siliziumbasierte AI-Hardware (und noch immer) Schwierigkeiten hatte, die Leistung zu steigern, ohne gleichzeitig die Leistung und die Kosten erheblich zu erhöhen, und daher, wenn sie dieses Problem mithilfe der optischen Computer lösen konnten, sie ein Produkt schaffen konnten, das Kunden wollten. Sie nahmen diese Idee zu einigen Risikokapitalgebern, die sie unterstützten, um Lumai zu gründen. Lumai hat kürzlich seine zweite Finanzierungsrunde abgeschlossen und über 10 Millionen Dollar aufgebracht, und es hat zusätzliche Investoren hinzugefügt, die auch glauben, dass optische Computer weiter skaliert und die zunehmende Nachfrage nach künstlicher Intelligenzleistung erfüllen können, ohne die Leistung zu erhöhen.

Sie haben eine beeindruckende Karriere bei Arm, indie Semiconductor (INDI ) und anderen Unternehmen – was hat Sie dazu bewogen, Lumai in dieser Phase beizutreten?

Die kurze Antwort ist Team und Technologie. Lumai hat ein beeindruckendes Team von Optik-, Maschinenlernen- und Rechenzentrums-Experten, das Erfahrungen von Unternehmen wie Meta, Intel (INTC ), Altera, Maxeler, Seagate und IBM (zusammen mit meiner eigenen Erfahrung bei Arm, indie, Mentor Graphics und Motorola) mitbringt. Ich wusste, dass ein Team von außergewöhnlichen Menschen, die so sehr darauf fokussiert sind, die Herausforderung der Reduzierung der Kosten für künstliche Intelligenz zu meistern, Großes leisten können.

Ich bin fest davon überzeugt, dass die Zukunft der künstlichen Intelligenz neue, innovative Durchbrüche in der Computerentwicklung erfordert. Die Aussicht, 50-mal die künstliche Intelligenzleistung bieten zu können, sowie die Kosten für künstliche Intelligenz auf ein Zehntel im Vergleich zu den heutigen Lösungen zu reduzieren, war einfach zu gut, um sie zu verpassen.

Welche waren einige der frühen technischen oder geschäftlichen Herausforderungen, denen sich Ihr Gründungsteam bei der Skalierung von einem Forschungsdurchbruch zu einem produktreifen Unternehmen gegenübersah?

Der Forschungsdurchbruch bewies, dass Optik für schnelle und sehr effiziente Matrix-Vektor-Multiplikation verwendet werden kann. Trotz der technischen Durchbrüche war die größte Herausforderung, Menschen davon zu überzeugen, dass Lumai erfolgreich sein konnte, wo andere optische Computer-Startups gescheitert waren. Wir mussten Zeit aufwenden, um zu erklären, dass Lumais Ansatz sehr unterschiedlich war und dass wir anstelle eines einzelnen 2D-Chips 3D-Optik verwendeten, um die Skalierbarkeit und Effizienz zu erreichen. Es gibt natürlich viele Schritte, um von der Laborforschung zu einer Technologie zu gelangen, die in großen Mengen in einem Rechenzentrum eingesetzt werden kann. Wir erkannten sehr früh, dass der Schlüssel zum Erfolg darin bestand, Ingenieure einzustellen, die Erfahrung in der Entwicklung von Produkten in großen Mengen und in Rechenzentren hatten. Ein weiterer Bereich ist die Software – es ist unerlässlich, dass die Standard-AI-Frameworks und -Modelle von Lumais Prozessor profitieren können und dass wir die Tools und Frameworks bereitstellen, um dies so reibungslos wie möglich für AI-Software-Entwickler zu machen.

Lumais Technologie nutzt 3D-Optik-Matrix-Vektor-Multiplikation. Können Sie dies in einfachen Worten für ein allgemeines Publikum erklären?

AI-Systeme müssen viele mathematische Berechnungen durchführen, die als Matrix-Vektor-Multiplikation bezeichnet werden. Diese Berechnungen sind der Motor, der die Antworten der künstlichen Intelligenz antreibt. Bei Lumai tun wir dies mithilfe von Licht anstelle von Elektrizität. Hier ist, wie es funktioniert:

1. Wir kodieren Informationen in Lichtstrahlen
2. Diese Lichtstrahlen bewegen sich durch den 3D-Raum
3. Das Licht interagiert mit Linsen und speziellen Materialien
4. Diese Interaktionen vervollständigen die mathematische Operation

Indem wir alle drei Dimensionen des Raumes nutzen, können wir mit jedem Lichtstrahl mehr Informationen verarbeiten. Dies macht unseren Ansatz sehr effizient – er reduziert die Energie, die Zeit und die Kosten, die für die Ausführung von AI-Systemen benötigt werden.

Was sind die Hauptvorteile der optischen Computer gegenüber herkömmlichen siliziumbasierten GPUs und sogar integrierten Photonik?

Da die Rate der Fortschritte in der Siliziumtechnologie erheblich verlangsamt hat, resultiert jeder Leistungsanstieg eines siliziumbasierten AI-Prozessors (wie einer GPU) in einer erheblichen Erhöhung der Leistung. Siliziumbasierte Lösungen verbrauchen eine enorme Menge an Energie und sind auf dem Weg zu immer geringeren Renditen, was sie unglaublich komplex und teuer macht. Der Vorteil der Verwendung von Optik ist, dass praktisch keine Energie verbraucht wird, sobald man im optischen Bereich ist. Energie wird verwendet, um in den optischen Bereich zu gelangen, aber beispielsweise kann unser Prozessor bei Lumai über 1.000 Rechenoperationen pro Lichtstrahl und Zyklus durchführen, was sehr effizient ist. Diese Skalierbarkeit kann nicht mit integrierter Photonik erreicht werden, da diese aufgrund von physikalischen Größenbeschränkungen und Signalrauschen nur ein Achtel der Rechenoperationen erreichen kann, die Lumai heute erreichen kann.

Wie erreicht Lumais Prozessor eine nahezu verzögerungsfreie Inferenz, und warum ist dies ein so kritischer Faktor für moderne AI-Arbeitslasten?

Obwohl wir nicht behaupten, dass der Lumai-Prozessor eine verzögerungsfreie Inferenz bietet, führt er eine sehr große (1024 x 1024) Matrix-Vektor-Operation in einem einzigen Zyklus aus. Siliziumbasierte Lösungen teilen normalerweise eine Matrix in kleinere Matrizen auf, die einzeln verarbeitet und dann kombiniert werden. Dies benötigt Zeit und resultiert in mehr Speicher und Energieverbrauch. Die Reduzierung der Zeit, Energie und Kosten für die AI-Verarbeitung ist entscheidend, um mehr Unternehmen von der künstlichen Intelligenz zu profitieren und um fortschrittliche künstliche Intelligenz auf nachhaltige Weise zu ermöglichen.

Können Sie uns durch die Integration von Lumais PCIe-kompatibler Form in bestehende Rechenzentrums-Infrastruktur führen?

Der Lumai-Prozessor verwendet PCIe-Formfaktor-Karten zusammen mit einem Standard-CPU, alles innerhalb eines Standard-4U-Schrankes. Wir arbeiten mit einer Reihe von Rechenzentrums-Rack-Ausrüstungslieferanten zusammen, damit der Lumai-Prozessor mit ihrer eigenen Ausrüstung integriert werden kann. Wir verwenden Standard-Netzwerkschnittstellen, Standard-Software usw., so dass der Lumai-Prozessor von außen wie jeder andere Rechenzentrumsprozessor aussehen wird.
Die Energieverbrauch von Rechenzentren ist ein wachsendes globales Problem. Wie positioniert sich Lumai als nachhaltige Lösung für die AI-Verarbeitung?

Der Energieverbrauch von Rechenzentren steigt mit alarmierender Geschwindigkeit. Laut einem Bericht des Lawrence Berkeley National Laboratory wird der Energieverbrauch von Rechenzentren in den USA bis 2028 verdreifacht und bis zu 12 % der Stromversorgung des Landes verbrauchen. Einige Rechenzentrumsbetreiber erwägen, Kernkraft zu installieren, um die benötigte Energie bereitzustellen. Die Branche muss nach anderen Ansätzen für die künstliche Intelligenz suchen, und wir glauben, dass Optik die Antwort auf diese Energiekrise ist.

Können Sie erklären, wie Lumais Architektur die Skalierbarkeitsengpässe der aktuellen Silizium- und photonischen Ansätze vermeidet?

Die Leistung des ersten Lumai-Prozessors ist nur der Anfang von dem, was erreichbar ist. Wir erwarten, dass unsere Lösung weiterhin enorme Leistungssprünge bieten wird: Durch die Erhöhung der optischen Taktraten und Vektorbreiten, alles ohne eine entsprechende Erhöhung des Energieverbrauchs. Keine andere Lösung kann dies erreichen. Standardmäßige siliziumbasierte Ansätze werden weiterhin immer mehr Energie und Kosten für jeden Leistungsanstieg verbrauchen. Siliziumphotonik kann die notwendige Vektorbreite nicht erreichen und daher haben Unternehmen, die sich mit integrierter Photonik für Rechenzentrums-Computer beschäftigt haben, sich anderen Bereichen des Rechenzentrums zugewandt – beispielsweise optischen Interconnects oder optischem Switching.

Welche Rolle sehen Sie für die optische Computerentwicklung in der Zukunft der künstlichen Intelligenz – und im weiteren Sinne in der Computerentwicklung?

Optik als Ganzes wird in Rechenzentren in Zukunft eine große Rolle spielen – von optischen Interconnects, optischen Netzen, optischem Switching und natürlich optischer AI-Verarbeitung. Die Anforderungen, die die künstliche Intelligenz an Rechenzentren stellt, sind der Schlüsselfaktor für diese Umstellung auf Optik. Optische Interconnects ermöglichen schnellere Verbindungen zwischen AI-Prozessoren, was für große AI-Modelle unerlässlich ist. Optisches Switching ermöglicht effizienteres Networking, und optische Verarbeitung ermöglicht schnellere, energiesparendere und kostengünstigere AI-Verarbeitung. Kollektiv werden sie dazu beitragen, fortschrittlichere künstliche Intelligenz zu ermöglichen, die Herausforderungen der Verlangsamung der Siliziumskalierung auf der Computerseite und der Geschwindigkeitsbegrenzungen von Kupfer auf der Interconnect-Seite zu überwinden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Lumai besuchen: Lumai.