Der nächste Engpass bei KI-Leistung wird in Städten liegen

In den letzten Jahren, und das geht weiter, hat der Markt für KI-Infrastruktur viel Zeit und Geld (nahezu $7 Billionen an Rechenzentrum-Investitionen bis 2030, laut Schätzung von McKinsey) darauf verwendet, zu lernen, wie große Rechenzentren dort gebaut werden können, wo Strom verfügbar ist. „Überall“ ist das Schlüsselwort, weil der Standort nicht besonders wichtig war. Ein Trainingscluster benötigt lediglich Zugang zu ausreichender Energie. Doch der Standort wird heutzutage immer relevanter, da die Nutzung von KI über Chat‑Interfaces hinaus auf Maschinen, Sprachsysteme, Video und Anwendungen, die mit der physischen Welt interagieren, ausgedehnt wird. Solche Vorgänge erfordern Rechenleistung, die näher an den städtischen Zentren, in denen diese Interaktionen stattfinden liegt, um die Latenz zu reduzieren. Während Werkzeuge wie Chatbots eine halbe Sekunde Verzögerung tolerieren können, müssen automatisierte Service‑Anwendungen wie ferngesteuerte Lieferroboter, Live‑Sprachassistenten oder automatisierte Fulfillment‑Systeme innerhalb von Millisekunden reagieren.

Das ist die neue Herausforderung für KI‑Unternehmen. Wie lässt sich kleinere, zuverlässige Stromblöcke in und um große Ballungsräume finden? Und selbst nachdem Standorte ausgemacht wurden, wie geht man mit dem Gegenwind um, dem selbst entlegene Rechenzentren ausgesetzt sind?

Die Nachfrage nach KI in städtischen Zentren steigt

Im urbanen Raum wächst die Nachfrage nach KI, die über die private Nutzung von Chatbots oder eine Besessenheit von Robotern hinausgeht. Ein IMF‑Arbeitspapier schätzt, dass der Stromverbrauch von Rechenzentren und KI im Jahr 2023 bereits 400–500 TWh weltweit erreicht hatte und der KI‑getriebene Verbrauch bis 2030 potenziell 1.500 TWh erreichen könnte. Die Automatisierung, die nötig ist, um einfache Vorgänge effizienter zu gestalten – sei es bei der Dokumentenbearbeitung oder der Videoarchivierung – erfordert in großem Maßstab viel Energie.

Städte stehen dabei an vorderster Front, wie eine OECD‑Studie von 250 Städten in 78 Ländern zeigt. Sie ergab, dass 56 % bereits aktiv KI nutzten, während weitere 35 % Pilotprojekte durchführten oder Einsätze planten. Um ein einfaches Anwendungsbeispiel zu veranschaulichen, betrachten wir Überwachungskameras in der Stadt. IHS Markit schätzte vor einigen Jahren, dass die Zahl der Überwachungskameras weltweit die Marke von einer Milliarde überschreiten würde. Während sie hauptsächlich Aufzeichnungszwecken dienen, werden sie inzwischen auch für andere, rechenintensivere Aufgaben eingesetzt, z. B. zur Verfolgung von Objekten über ein Netzwerk oder zur Durchsuchung großer Videoarchive mittels natürlicher Sprache. Solche Prozesse können nicht in jeder Kamera mit der derzeitigen KI‑Verarbeitung stattfinden. Sollten sie dann aus der Stadt in ein weit entferntes Rechenzentrum zur Verarbeitung geschickt werden? Das ist aufgrund von Datenschutzbestimmungen und den Kosten für den Transport solch großer Datenmengen unpraktisch.

Eine aktuelle Gallup‑Umfrage zeigt, dass etwa 30 % der Beschäftigten im privaten und öffentlichen Sektor KI in ihrer Tätigkeit einsetzen und die Zahlen steigen. Diese Sektoren – sei es Banken, Krankenhäuser oder öffentliche Organisationen – stoßen auf dieselben Probleme. Sie benötigen KI‑Infrastruktur innerhalb ihrer eigenen Jurisdiktion und physisch nah genug, um sie zu steuern. Ihre interaktiven Sprachsysteme und Videoanwendungen verschlechtern sich, wenn die Netzwerklatenz steigt. Selbst wenn das Problem zunächst umgangen werden kann, indem ein menschlicher Bediener für die erste Generation autonomer Systeme erhalten bleibt, ist diese Aufsicht gegenüber Latenz nicht sehr nachsichtig. Zum Beispiel benötigen Liefer‑ und Haushaltsroboter, die über eine Videoverbindung überwacht werden, einen vollständigen Kommunikationskreislauf, der ungefähr 80 Millisekunden nicht überschreiten darf, wie eine Studie zur Fern‑Teleoperation von Robotern zeigte. Autonome Fahrzeuge sind paradoxerweise die Ausnahme: Das Fahren bleibt an Bord aus Sicherheitsgründen, und Waymos Fernbediener arbeiten bei einer Latenz von einem Viertel Sekunde, einige sogar von einem anderen Kontinent. Was die Stadt von autonomen Flotten erbt, sind deren Daten, nicht das Lenkrad.

Der Rechenzentrum‑Markt unterschätzt diesen Nachfragesprung. Die Weltbank veröffentlichte ein Papier, das zeigt, wie Kommunen in Ländern wie Argentinien, Indien und Äthiopien sowie anderen AI in Bereichen wie Justiz, Korruptionsbekämpfung, Zoll, öffentliche Verwaltung und Serviceverbesserung eingeführt haben. Dies ist kein lokales Phänomen. Es ist ein globaler Wandel. Bei Teravolt schätzen wir, dass ein Ballungsraum mit 10 bis 15 Millionen Einwohnern bis 2030 etwa 6 bis 13 MW kontinuierlicher, latenzsensitiver KI‑Last tragen könnte, bevor allgemein einsetzbare Roboter massenhaft eingesetzt werden. Nach Maßstäben des Hyperscale‑Marktes ist das zwar keine riesige Zahl, doch den richtigen Standort zu finden, ist deutlich schwieriger als es scheint. Bis 2036 steigt die gleiche Metropolregion auf 22 bis 50 MW latenzsensible Last – und auf 60 bis 100 MW, wenn die Automobilindustrie Roboter im Automobilmaßstab produziert. Die Nachfrage‑Ökonomie ist im besten Sinne unnachgiebig: ein paar hundert Dollar Jahres‑Serverkosten für eine Maschine, die 30.000 $ bis 60.000 $ Arbeitskosten ersetzt, ist eine Nachfrage, die nicht über den Preis verhandelt.

Ein viertes Level zur Datenverarbeitung hinzufügen

Derzeit existiert die Rechenleistung für KI auf drei Ebenen. Die oberste Schicht besteht aus Gigafabriken, die zum Trainieren von Modellen genutzt werden. Ihr Standort ist für Entwickler nur insofern relevant, als er große Energiemengen zu einem akzeptablen Preis sichert. Dann folgen regionale KI‑Einrichtungen, typischerweise mit 20 bis 200 MW, in denen ein Großteil des wiederkehrenden Inferenzbedarfs in großen Cloud‑ und Unternehmensoperationen auftritt. Schließlich gibt es die Rechenleistung, die direkt im Gerät oder im Roboter eingebettet ist.

Es scheint eine Lücke zwischen den letzten beiden Schichten zu geben, die ich als städtische Schicht bezeichne – die Lücke, die für Latenzprobleme verantwortlich ist. Diese müssten innerhalb oder sehr nahe großer Städte platziert werden. Sie sollten im einstelligen bis niedrigen zweistelligen Megawatt‑Bereich liegen, dabei in Metropolregionen positioniert und an hochwertige Glasfaser angebunden sein. Der Ausgangspunkt könnte bei etwa 2 MW liegen, wenn der Standort garantierte Stromversorgung hat. Um die Praktikabilität zu verdeutlichen, betrachten wir einen Lieferroboter. Er bearbeitet verschiedene Anfragen, und nicht alle können auf dem Gerät selbst verarbeitet werden. Während er im Gigafactory trainiert wird, wäre für fortgeschrittene Echtzeit‑Unterstützung eine nahegelegene städtische Einrichtung nötig, anstatt jedes Mal zu einer regionalen Anlage zu senden.

Das Zwei‑Wege‑Verkehrsproblem

Städtische Rechenzentren werden nicht nur Zwischenstationen sein, die Daten von Trainingszentren empfangen, sondern sie werden auch große Datenmengen erzeugen, die wieder zurück in die Pipeline geschickt werden.

Jede autonome Maschine und jedes sensorreiche System wird Informationen ansammeln, die verarbeitet und zurückgesendet werden müssen, um in das Training einfließen zu können. Flotten von Robotern, die nach einer Schicht zu ihren Ladestationen zurückkehren, senden enorme, nützliche Daten über Randfälle und den täglichen Betrieb, die Rechenzentren benötigen, um Funktionen zu verbessern. Stellen Sie sich vor, all dieser Datenverkehr würde gleichzeitig in dieselbe Richtung gesendet. Das würde zu einem Engpass führen. Genau hier kommt das städtische Rechenzentrum ins Spiel, da es einen Teil der Last verarbeiten kann, bevor sie das regionale Rechenzentrum überlastet. Es kann fehlerhafte Daten erkennen und verwerfen, während es nützliche Teile komprimiert und weiterleitet.

Im Wesentlichen bietet das städtische Rechenzentrum eine weitere Filterebene zu den beiden vorhergehenden Schichten, wodurch der Datenfluss noch stärker strukturiert wird.

Ist die Zukunft ein Server auf jedem Block?

Obwohl ich städtische Server als Lösung präsentiere, ist es zudem schlichtweg zu teuer, Latenzprobleme durch ungebremste Verbreitung zu lösen. Unabhängig von der Größe benötigt ein Rechenzentrum immer einen Netzanschluss, Transformatoren, Kühlung, Sicherheit, Netzwerk und Personal. Diese Kosten verkleinern sich nicht proportional zur IT-Last. Um das ins rechte Licht zu rücken: Eine 0,5‑MW‑Anlage trägt immer noch viele der gleichen Fixkosten wie ein viel größerer Standort.

In unseren Projekten haben wir gesehen, dass ein eigenständiges städtisches Rechenzentrum bei etwa 5 bis 8 MW wirtschaftlich wird. Selbst wenn mehrere Standorte ein gemeinsames Netzwerk‑Operations‑Center teilen, sinkt die Schwelle nur auf 1,5 bis 3 MW. Daher bleibt das Fazit dasselbe. Das Aufteilen von 20 MW über zwanzig Standorte statt über zwei bis drei zu verteilen spart fast keine Latenz innerhalb einer Metropolregion – der städtische Glasfaserring ist nur wenige Millisekunden lang – und vervielfacht gleichzeitig die Kapital‑ und Betriebskosten.

Deshalb bin ich der Ansicht, dass die Branche kleiner werden und das bauen muss, was ich „Umspannwerke für Intelligenz“ nenne. Derzeit lernen Entwickler, regionale Anlagen im 20‑ bis 100‑MW‑Bereich zu errichten. Das zukünftige Ziel ist, das auf noch kleinere, städtische Standorte anzuwenden, um das für Großstädte geeignete Niveau von 2 MW zu erreichen.

Das politische Hindernis

Abgesehen von der wirtschaftlichen Rentabilität bleibt die politische Herausforderung bestehen. Rechenzentren sind in den Medien zunehmend verteufelt wegen ihrer negativen Umweltauswirkungen. Laut einer Pew‑Umfrage glauben mehr als die Hälfte der Amerikaner, dass Rechenzentren der Umwelt schaden, und haben eine negative Haltung dazu. Das Argument der Arbeitsplatzschaffung verblasst im Vergleich zu dem Wasser-, Land‑ und Stromverbrauch sowie Lärm und Emissionen. Genehmigungen selbst für kleinere städtische Anlagen zu erhalten, wird schwierig sein.

Wir sehen bereits Beispiele von Konflikten zwischen Rechenzentrumsentwicklern und Stadtbehörden. In den USA hat xAIs Einsatz von Gasturbinen zur Beschleunigung des Ausbaus in Memphis zu Genehmigungsstreitigkeiten, Widerstand aus der Bevölkerung und Rechtsstreitigkeiten geführt. Europa ist weiter gegangen: Amsterdam hat ein Moratorium für Anlagen über 70 MW verhängt, Dublin lässt neue Rechenzentren nur zu, wenn sie eigene Erzeugung oder Speicher mitbringen, und die zentrale Umspannstelle des West‑London‑Korridors wird erst Anfang der 2030er‑Jahre verstärkt. Auch außerhalb solch hochkarätiger Fälle, da dies ein neues Streitfeld ist, haben viele Stadtverwaltungen keinen klaren Genehmigungsprozess für zusätzliche 10 MW KI‑Infrastruktur im Stadtgebiet. Wie ein National League of Cities‑Bericht feststellt, ist eine der häufigsten Herausforderungen für Städte, dass ältere lokale Bebauungspläne Rechenzentren nicht explizit adressieren, was zu fall‑zu‑Fall‑Prüfungen führt. Solche rechtlichen Unsicherheiten können selbst technisch machbare Projekte verzögern.

Infrastrukturentscheidungen von heute bestimmen unsere Kapazität für die Zukunft

All dies bedeutet, dass wir die Infrastruktur, die für zukünftige Fortschritte im Bereich KI erforderlich ist, vorausschauend planen und aufbauen müssen. Denn während sich Modelle rasant weiterentwickeln, hängt der dafür benötigte Strom von einer Art Infrastruktur ab, deren Aufbau Zeit erfordert. Netzanschlüsse können Jahre dauern, und in einigen großen Rechenzentrums‑Märkten erstrecken sich die Warteschlangen jetzt dehnt sich auf sieben bis zehn Jahre aus. Wenn also Städte bis 2030 die KI‑Rechenleistung erhöhen, muss die dafür notwendige Strominfrastruktur bereits jetzt geschaffen werden. Bei Teravolt schätzt unser Arbeitsmodell die weltweite städtische KI‑Nachfrage bis 2036 auf 9 bis 18 GW. Das impliziert etwa 1 000 bis 1 500 bedeutende städtische und metropolitäre Standorte weltweit, je nach durchschnittlicher Anlagengröße, und könnte zusammen einen Markt von ungefähr 500 Milliarden bis 1 Billion US‑Dollar darstellen.

Wird die notwendige Planung nicht durchgeführt, bleiben wir mit fortgeschrittener KI‑Kapazität stecken, die wir nicht nutzen können. Die mobile Ära erforderte die Infrastruktur von Sendemasten für die Funkabdeckung, damit die Mobiltelefone überhaupt sinnvoll waren. Ebenso müssen wir die Diskrepanz zwischen der Entwicklung der KI und dem Ausbau der elektrischen Infrastruktur erkennen. Während die mobile Ära die Abdeckung in Signalbalken maß, wird die KI‑Ära sie in Millisekunden und Watt pro Einwohner messen – und sie wird nicht Millionen von Masten benötigen, sondern etwa tausend Anlagen in Größe einer Umspannstation. Glasfaser, Millisekunden und Megawatt sind die Währung in diesem Feld, und diejenigen, die diese Knappheit frühzeitig erkennen, sind besser positioniert, die Zukunft zu gestalten.