Jenseits der GPU: Die KI-Fabrik als System optimieren

Eine KI-Fabrik ist kein größeres Rechenzentrum. Sie ist eigens dafür konzipiert, intelligente Tokens zu erzeugen, statt Webseiten und E-Mails bereitzustellen. Wenn ein Hyperscaler oder Neocloud-Anbieter Milliarden Dollar und mehrere Jahre in den Bau einer KI-Fabrik investiert, haben die GPUs, die den Großteil der Rechenarbeit leisten, naturgemäß Priorität. Doch allein die GPU zu optimieren, bedeutet nicht, auch die sie umgebende Fabrik zu optimieren. Stromversorgungs- und Wärmesysteme müssen diese Rechenleistung unterstützen, und Entscheidungen in einem System können erhebliche Folgen für die anderen haben. KI dient dazu, komplexe Systeme zu optimieren, doch die Fabriken, in denen sie entsteht, wurden häufig Komponente für Komponente optimiert. Mit virtueller Zwillingstechnologie können Ingenieure das gesamte System aufbauen und optimieren, noch bevor die Bauarbeiten überhaupt beginnen.

Warum konservative Planung zur sichersten Option wurde

Angesichts der gravierenden Folgen eines Systemausfalls oder eines Leistungsengpasses wurden die ersten Anlagen mit übermäßigen Sicherheitsreserven und zusätzlicher Hardware gebaut. Ohne einen Fahrplan für diese neue Generation von Rechenzentren konnte ein vorsichtiger Bau als sicherster Ansatz erscheinen. Diese Reserven halfen, Probleme wie Temperaturspitzen in der Nähe der Chips abzufangen. In solchen Fällen bleibt den Betreibern unter Umständen nur eine Minute, um zu reagieren, bevor die Hardware ausfällt. In einigen frühen Anlagen blieben bis zu 10 Prozent der verfügbaren Leistung als ungenutzte Reserve gebunden.

KI-Fabriken sind Risiken durch Temperatur, Wetter, Geräteausfälle, unzureichende Kapazität, Planungsmängel und Wartungsprobleme ausgesetzt. Angesichts der hohen Einsätze kann bei einer Größenordnung im Gigawattbereich jeder Tag, an dem sich die Bereitstellung von Kapazität verzögert, entgangene Umsätze aus der Token-Generierung in Höhe von rund 100 Millionen US-Dollar bedeuten. Vorsicht schien geboten, solange sich die Folgen dieser Probleme nicht vorhersagen ließen.

Die Herausforderung wird noch größer, wenn sich diese Risiken über mehrere unabhängige Systeme erstrecken. Eine KI-Fabrik ist auf drei eng miteinander gekoppelte Systeme angewiesen: Rechenleistung, Stromversorgung und Wärmemanagement. Die GPU benötigt eine komplexe Stromversorgungskette und ein ebenso anspruchsvolles Wärmesystem, um die entstehende Wärme abzuführen. Werden Rechenleistung, Stromversorgung und Wärmemanagement als getrennte Schritte behandelt und jeweils innerhalb ihres eigenen Bereichs optimiert, können Teams übersehen, wie sich eine Entscheidung in einem System auf die anderen auswirkt. Dadurch entstehen blinde Flecken und Ungleichgewichte – insbesondere dann, wenn Stromversorgung und Kühlung als Infrastrukturfragen betrachtet werden, die erst nach den Entscheidungen zur Rechenleistung zu klären sind.

Stromversorgung und Kühlung lassen sich nicht von der Rechenleistung trennen. Sie sind Teil des Systems, das bestimmt, wie effektiv die Rechenleistung genutzt werden kann. Der Wandel besteht daher darin, nicht mehr einzelne Systeme, sondern die gesamte Fabrik zu optimieren.

Warum eine gemeinsame Optimierung entscheidend ist

Um das zu ändern, muss die unabhängige Optimierung einzelner Systeme durch die gemeinsame Optimierung der gesamten Fabrik ersetzt werden. Der Bau vor Ort zwingt dazu, Entscheidungen nacheinander zu treffen: Ein System wird entworfen, dann wird ein weiteres darum herum gebaut und ein drittes zur Unterstützung hinzugefügt. Dadurch lässt sich die Fabrik als Ganzes nur schwer optimieren, denn jede Entscheidung schränkt die Möglichkeiten für die nachfolgenden Systeme ein. Für eine gemeinsame Optimierung muss dieser Prozess in eine virtuelle Umgebung verlagert werden. Dort kann das gesamte System modelliert, verändert und bewertet werden, bevor irgendetwas baulich festgelegt ist. So entsteht ein dynamischer Bauplan.

Die Fabrik modellieren, bevor es sie gibt

Hier kommt die virtuelle Zwillingstechnologie auf Systemebene entscheidend ins Spiel.

Ein virtueller Zwilling nutzt die formale Systemmodellierung, um Rechenleistung, Stromversorgung und Wärmeinfrastruktur gemeinsam abzubilden. So lässt sich die KI-Fabrik modellieren, bevor sie physisch existiert. Anders als ein herkömmlicher digitaler Zwilling, der sich auf ein bestehendes physisches Objekt konzentriert, kann ein virtueller Zwilling ein System modellieren, bevor es physisch existiert. Ingenieure können damit verschiedene Konfigurationen testen und nachvollziehen, wie sich Änderungen an einem Teil des Systems auf die anderen auswirken, bevor daraus verbindliche bauliche Entscheidungen werden.

Eine höhere GPU-Dichte bedeutet beispielsweise nicht einfach, dass mehr Rechenleistung hinzugefügt wird. Sie kann die elektrische Last erhöhen, die Anforderungen an die Wärmeabfuhr verändern, die Platzierung der Geräte beeinflussen und neue Aspekte bei der Inbetriebnahme mit sich bringen. Werden diese Zusammenhänge gemeinsam modelliert, können Ingenieure die Zielkonflikte bewerten, bevor der Bau beginnt, statt erst im Projektverlauf auf sie zu stoßen.

Mit virtueller Zwillingstechnologie können Ingenieure einen kostspieligen Fehler virtuell machen, bevor er in der physischen Welt teuer wird. Sie bietet die Möglichkeit, potenzielle Probleme und Chancen in der virtuellen Umgebung zu erkennen, sodass Teams Probleme lösen können, bevor sie in der physischen Welt auftreten. Werden Konfigurationen vor der physischen Inbetriebnahme getestet, lassen sich auch unnötige Planungsreserven, ungenutzte Stromkapazitäten und Verschwendung durch überhöhte Sicherheitsreserven bereits in der Entwurfsphase erkennen und beseitigen. In großem Maßstab können selbst kleine Verringerungen zu Kapitaleinsparungen in Millionenhöhe und einem früheren Zugang zu Umsätzen führen.

 Das Modell prädiktiv machen

Das Modell kann außerdem physikbasierte Simulationen nutzen, um das Systemverhalten vorherzusagen. Sind die zugrunde liegenden physikalischen oder chemischen Vorgänge gut verstanden, können Simulationswerkzeuge das Systemverhalten vorhersagen. Wenn umfangreiche Betriebsdaten einen besseren Ansatz ermöglichen, können KI- und Machine-Learning-Modelle diese Simulationen ergänzen.

Das Ergebnis ist eine Umgebung, in der sich untersuchen lässt, wie sich das gekoppelte System verhält und wie Entscheidungen über verschiedene Ingenieurdisziplinen hinweg koordiniert werden können. Das Modell kann sich außerdem weiterentwickeln, sobald Betriebsdaten verfügbar sind. So können Erkenntnisse aus einer Anlage oder einem Betriebszyklus in künftige Entwürfe und Entscheidungen einfließen.

Ein Bauplan für die KI-Fabrik

Die Branche schafft bereits die Grundlage für diesen Ansatz. Mit dem DSX-Bauplan wird ein Referenzdesign festgelegt für KI-Fabriken im Gigawattmaßstab. NVIDIA hat damit begonnen, den Rechenbereich dieses Bauplans mithilfe von Systemmodellierung und einem Simulationsansatz mit virtuellen Zwillingen auszuarbeiten. Zugleich lädt das Unternehmen Partner aus dem Ökosystem aus den Bereichen Energieversorgung, Kühlung und Bau ein, darunter Eaton, Vertiv und Jacobs, ihre jeweiligen Teile des Entwurfs beizusteuern. Die Interoperabilität von Referenzdesigns wird durch SysML ermöglicht, das die Definition auf Systemebene unterstützt, während OpenUSD eine Grundlage für 3D-zentrierte Daten bietet.

Ziel ist nicht, dass jedes Unternehmen seine eigene Komponente optimiert und anschließend erwartet, dass sich alle Teile nahtlos zusammenfügen. Fachwissen in den Bereichen Rechenleistung, Energieversorgung, Kühlung und Anlagenbetrieb muss zusammengeführt werden, damit jede erstklassige Technologie zur Leistungsfähigkeit des Gesamtsystems beiträgt.

Jede Branche kann ihren eigenen Bereich optimieren, doch ein leistungsstarkes Endprodukt entsteht nur, wenn diese Systeme gemeinsam optimiert werden. Mit der Weiterentwicklung dieses Ansatzes kann sich die KI-Infrastruktur von isolierten Einzelpilotprojekten hin zu Systemen im Unternehmensmaßstab entwickeln, die hochkomplexe Betriebsumgebungen bewältigen können.

Die Fabrik optimieren, nicht nur die GPU

Die GPU wird auch künftig eine zentrale Rolle für die Leistungsfähigkeit von KI-Fabriken spielen. Doch allein durch den Kauf der besten GPUs wird die Fabrik, in der sie eingesetzt werden, nicht optimiert. Die nächste Generation der KI-Infrastruktur wird davon abhängen, Rechenleistung, Energieversorgung und Kühlsysteme als ein integriertes Gesamtsystem zu planen, ihre Wechselwirkungen zu modellieren, bevor weitreichende bauliche Entscheidungen getroffen werden, und die gewonnenen Erkenntnisse kontinuierlich zu nutzen, um die nächsten Schritte zu verbessern. Wir können die Zukunft nicht vorhersagen und auch nicht jeden Fehler verhindern. Technologien mit virtuellen Zwillingen können Teams jedoch dabei helfen, Unsicherheiten einzuplanen und KI-Fabriken als Gesamtsystem zu optimieren.