Vom Mooreschen Gesetz zum „OpenAI-Gesetz“: Die exponentielle Entwicklung der KI

Künstliche Intelligenz entwickelt sich mit einer Geschwindigkeit, die schwer zu begreifen ist. Um dieses Phänomen zu beschreiben, beziehen sich Insider auf das, was manche als „OpenAIs Gesetz“– eine moderne Parallele zum Mooreschen Gesetz, aber weitaus steiler. Dieser Begriff wurde in dem Buch Imperium der KI, das den Aufstieg von OpenAI und den sich entfaltenden Wettlauf um künstliche allgemeine Intelligenz (AGI) dokumentiert. In dem Buch wird das „OpenAI-Gesetz“ verwendet, um das rasante Tempo zu beschreiben, mit dem die Rechenleistungsanforderungen – und damit die KI-Fähigkeiten – im letzten Jahrzehnt gestiegen sind.

Obwohl es sich bei OpenAIs Gesetz nicht um ein formales wissenschaftliches Gesetz handelt, bezieht es sich auf einen realen und messbaren Trend: die rapide Verdoppelung der Rechenleistung, die für das Training bahnbrechender KI-Modelle eingesetzt wird. Diese Entwicklung erfolgt deutlich schneller als Moores Gesetz. In der Praxis verdoppelt sich die KI-Rechenleistung etwa alle drei bis vier Monate, während Moores Gesetz 18 bis 24 Monate benötigt. Diese exponentielle Kurve untermauert den modernen KI-Boom und bereitet den Weg für eine Zukunft, die schneller eintritt, als die meisten erwarten.

Moores Gesetz: Der Motor des digitalen Zeitalters

Mooresche Gesetze war die treibende Kraft hinter dem Aufstieg von Personalcomputern, Smartphones und Cloud ComputingEs wurde vorhergesagt, dass sich die Anzahl der Transistoren auf einem Chip etwa alle zwei Jahre verdoppeln würde, was zu exponentiellen Steigerungen der Rechenleistung, der Energieeffizienz und der Kostensenkung führen würde.

Jahrzehntelang galt dieses einfache Muster: Jede Hardwaregeneration war exponentiell leistungsfähiger als die vorherige. Doch als in den 2010er Jahren physikalische und wirtschaftliche Grenzen erreicht wurden, begann Moores Gesetz zu schwächeln. Ingenieure reagierten mit mehr Kernen, 3D-Chip-Stacking und spezialisierten Prozessoren, um die Leistung zu steigern – doch die einfachen Gewinne waren dahin.

Etwa zu dieser Zeit begann die KI-Forschung, angetrieben von tiefe Lernen Durchbrüche, begannen, von der traditionellen Richtung des Mooreschen Gesetzes abzuweichen.

Die Geburt des OpenAI-Gesetzes: Die explosive Rechenkurve der KI

Anfang der 2010er Jahre entdeckten Forscher, dass die KI-Leistung durch die Einspeisung höherer Rechenleistung in große neuronale Netzwerke zu immer leistungsfähigeren Funktionen führte. Ab etwa 2012 verdoppelte sich die Rechenleistung der größten KI-Trainingsläufe etwa alle drei bis vier Monate.

Dies war eine erstaunliche Beschleunigung – viel schneller als Moores Gesetz. Über sechs Jahre hinweg wurde der in hochmoderne KI-Modelle um mehr als das 300,000-Fache gesteigert. Während das Mooresche Gesetz in dieser Zeit nur eine 7-fache Steigerung gebracht hätte, stieg die KI-Rechenleistung aufgrund der aggressiven Skalierung sprunghaft an.

Dieses Phänomen wurde informell bekannt als OpenAIs Gesetz– eine selbst auferlegte Flugbahn von Organisationen wie OpenAI, die glaubten, dass die Skalierung von Modellgröße und Rechenleistung der schnellste Weg sei, Künstliche allgemeine Intelligenz (AGI). Das Buch Imperium der KI beschreibt diesen Wandel im Detail und veranschaulicht, wie sich OpenAI und seine Führung trotz der steigenden Kosten dieser Strategie verschrieben haben, weil sie davon überzeugt waren, dass dies der direkteste Weg zur Erschließung transformativer Fähigkeiten sei.

Entscheidend ist, dass das OpenAI-Gesetz keine physikalische Zwangsläufigkeit ist, sondern eine strategische Entscheidung. Der Glaube „mehr Rechenleistung bedeutet bessere KI“ wurde zum Leitprinzip, das durch massive Investitionen, Infrastrukturausbauten und Partnerschaften mit Cloud-Anbietern untermauert wurde.

Die Skalierungshypothese und das neue Wettrüsten

Grundlage des OpenAI-Gesetzes ist die Skalierungshypothese: Die Idee, dass qualitativ bessere Ergebnisse erzielt werden, wenn man die Modelle einfach größer macht und sie mit mehr Daten und mehr Rechenleistung trainiert. Diese Hypothese gewann an Zugkraft, da jedes nachfolgende Modell – GPT-2, GPT-3, GPT-4 – Fortschritte in Bezug auf Flüssigkeit, Argumentation und multimodales Verständnis zeigte.

Im Zentrum dieses Trends steht ein intensiver Wettbewerb zwischen Technologieunternehmen um die Vorherrschaft im Bereich der KI. Das Ergebnis ist eine Art Wettrüsten, wobei jeder neue Meilenstein exponentiell mehr Rechenressourcen erfordert als der letzte.

Das Training großer Modelle erfordert heute Zehntausende parallel arbeitende High-End-GPUs. Prognosen für zukünftige Modelle gehen von Rechenbudgets von bis zu 100 Milliarden US-Dollar aus, die mit einem enormen Strom- und Infrastrukturbedarf einhergehen.

Dieser Trend hat zu einer neuen Art von Exponentialkurve geführt, die nicht mehr durch die Anzahl der Transistoren definiert wird, sondern durch die Bereitschaft und Fähigkeit, die Rechenleistung um jeden Preis zu skalieren.

Vergleich: Huangs Gesetz und Kurzweils Gesetz der beschleunigten Rendite

Um die Bedeutung des OpenAI-Gesetzes vollständig zu erfassen, ist es hilfreich, andere grundlegende Rahmenbedingungen zu erkunden, die unser Verständnis des technologischen Fortschritts über das Mooresche Gesetz hinaus geprägt haben.

Huangs Gesetz, Benannt nach NVIDIA-CEO Jensen Huang, beschreibt die Beobachtung, dass sich die GPU-Leistung für KI-Workloads deutlich schneller verbessert hat als Moores Gesetz. Über einen Zeitraum von fünf Jahren haben GPUs Leistungssteigerungen von mehr als 25-mal erzielt und damit die etwa 10-fachen Verbesserungen, die bei herkömmlicher Transistorskalierung zu erwarten wären, bei weitem übertroffen.

Diese Beschleunigung ist nicht allein auf die Chipdichte zurückzuführen, sondern das Ergebnis von Innovationen auf Systemebene. Verbesserungen in der GPU-Architektur, erhöhte Speicherbandbreite, Hochgeschwindigkeitsverbindungen und Fortschritte in Software-Ökosystemen wie CUDA und Deep-Learning-Bibliotheken haben zu diesen Fortschritten beigetragen. Auch technische Optimierungen in den Bereichen Scheduling, Tensoroperationen und Parallelität spielten eine entscheidende Rolle.

Die Leistungssteigerungen bei Inferenz- und Trainingsaufgaben mit einzelnen GPUs haben sich im letzten Jahrzehnt dank dieser stetig wachsenden Hardware- und Softwareinnovation um das bis zu 1,000-Fache erhöht. Tatsächlich verdoppelt sich die GPU-Leistung für KI-Aufgaben alle sechs bis zwölf Monate – drei- bis viermal schneller als Moores ursprüngliche Kurve. Dieses rasante Tempo hat GPUs zu unverzichtbaren Motoren moderner KI gemacht und ermöglicht die massiven parallelisierten Trainingsläufe, die dem OpenAI-Gesetz zugrunde liegen.

Kurzweils Gesetz der beschleunigten Rendite geht mit der Idee des exponentiellen Wachstums noch einen Schritt weiter und geht davon aus, dass sich die Geschwindigkeit des exponentiellen Wachstums mit der Zeit beschleunigt. Diesem Prinzip zufolge steht jeder technologische Durchbruch nicht für sich allein; er schafft die Werkzeuge, Plattformen und das Wissen, die den nächsten Durchbruch schneller und effizienter machen. Dies führt zu einem kumulativen Effekt, bei dem sich der technologische Wandel selbst verstärkt und sowohl in Umfang als auch Häufigkeit zunimmt.

Kurzweil argumentiert, dass diese Dynamik den Fortschritt, der Jahrhunderte hätte dauern können, auf wenige Jahrzehnte reduzieren wird. Verdoppelt sich die Geschwindigkeit des Fortschritts jedes Jahrzehnt, könnte das 21. Jahrhundert einen erstaunlichen Sprung erleben – der historisch gesehen Zehntausenden von Jahren Fortschritt entspricht.

Dieses Gesetz ist insbesondere für die KI relevant. Moderne KI ist nicht mehr nur Gegenstand des Fortschritts – sie ist zu einem dessen Beschleuniger geworden. KI-Systeme unterstützen bereits die Entwicklung neuer Chips, die Optimierung neuronaler Netzwerke, die wissenschaftliche Forschung und sogar die Entwicklung des Codes für ihre Nachfolger. Dadurch entsteht eine rekursive Verbesserungsschleife, in der jede KI-Generation die nächste verbessert, Entwicklungszeiten verkürzt und die Fähigkeiten vervielfacht.

Dieser Rückkopplungszyklus ähnelt allmählich dem, was manche als Geheimdienstexplosion: Ein Szenario, in dem KI-Systeme in der Lage sind, sich ohne menschliches Zutun schnell zu verbessern. Das Ergebnis ist eine Kurve, die nicht nur steil ansteigt, sondern dramatisch nach oben zeigt, da Iterationszyklen zusammenbrechen und Durchbrüche kaskadenartig erfolgen. Setzt sich dieses Muster fort, könnten wir eine Phase des technologischen Fortschritts erleben, die sich fast augenblicklich anfühlt – in der sich ganze Branchen, Wissenschaftsbereiche und Denkweisen innerhalb von Monaten statt Jahrzehnten entwickeln.

Das OpenAI-Gesetz fügt sich in diese Tradition ein und ist Ausdruck exponentiellen Wachstums auf der Nachfrageseite. Anders als Moores oder Huangs Gesetze, die das Tempo von Hardware-Verbesserungen beschreiben, spiegelt das OpenAI-Gesetz wider, wie viel Rechenleistung Forscher tatsächlich verbrauchen, um bessere Ergebnisse zu erzielen. Es zeigt, dass der KI-Fortschritt nicht mehr strikt an die Leistungsfähigkeit von Chips gebunden ist, sondern vielmehr daran, was Forscher skalieren wollen und können. Angetrieben von einer riesigen Cloud-Infrastruktur und Milliardeninvestitionen steht das OpenAI-Gesetz beispielhaft für eine neue Ära, in der Leistungsfähigkeit nicht nur durch Innovation, sondern durch gezielte, konzentrierte Kraft wächst.

Zusammen skizzieren diese Gesetze eine mehrdimensionale Sicht des exponentiellen Wachstums. Moore und Huang definieren das Rechenleistungsangebot. Kurzweil bildet den Metatrend des kumulativen Fortschritts ab. Und das OpenAI-Gesetz hebt eine neue Art technologischen Ehrgeizes hervor – bei dem das Ausreizen von Grenzen nicht länger optional, sondern die zentrale Strategie ist.

Das Versprechen: Warum exponentielle KI wichtig ist

Die Auswirkungen des OpenAI-Gesetzes sind tiefgreifend.

Auf der optimistischen Seite hat die exponentielle Skalierung erstaunliche Ergebnisse hervorgebracht. KI-Systeme können jetzt Aufsätze schreiben, Code generieren, unterstützen wissenschaftliche Forschung und führen überraschend flüssige Gespräche. Jede zehnfache Vergrößerung scheint neue Fähigkeiten freizusetzen, was darauf hindeutet, dass wir der künstlichen Intelligenz (AGI) näher kommen.

KI könnte schon bald Branchen von Bildung und Gesundheitswesen bis hin zu Finanzen und MaterialwissenschaftenWenn das OpenAI-Gesetz weiterhin gilt, könnten wir Durchbrüche erleben, die Jahrzehnte der Innovation auf wenige Jahre komprimieren.

Dies ist die Essenz eines neuen Begriffs, den wir geprägt haben: „KI-Fluchtgeschwindigkeit„– der Moment, in dem die KI beginnt, sich selbst zu verbessern und den Fortschritt zu einem sich selbst verstärkenden, exponentiellen Anstieg treibt.

Der Preis: ökologische, wirtschaftliche und ethische Kosten

Aber exponentielles Wachstum ist nicht umsonst.

Das Training innovativer Modelle verbraucht heute enorme Mengen an Strom und Wasser. Der wochenlange Betrieb Tausender GPUs verursacht ernsthafte Umweltprobleme, darunter CO2-Emissionen und thermische Abfälle. Auch die Lieferketten für KI-Chips stehen unter Druck, was geopolitische und Nachhaltigkeitsprobleme aufwirft.

Finanziell gesehen können es sich nur die größten Technologieunternehmen oder gut finanzierte Start-ups leisten, am Puls der Zeit zu bleiben. Dies führt zu einer Machtkonzentration, bei der eine kleine Gruppe von Organisationen die Spitze der Intelligenz kontrolliert.

Aus ethischer Sicht fördert das OpenAI-Gesetz eine wettbewerbsorientierte Denkweise – größer, schneller, früher –, die zu vorzeitiger Einführung, ungetesteten Systemen und Sicherheitslücken führen kann. Es besteht wachsende Besorgnis darüber, dass einige bahnbrechende Modelle veröffentlicht werden könnten, bevor die Gesellschaft ihre Auswirkungen vollständig versteht.

Um dies zu mildern, haben Forscher vorgeschlagen Governance-Frameworks Diese messen die KI-Entwicklung nicht anhand der Leistung der Modelle, sondern anhand des für ihr Training aufgewendeten Rechenaufwands. Da Rechenleistung einer der besten Indikatoren für die Leistungsfähigkeit eines Modells ist, könnte sie als Indikator für Risikobewertung und Regulierung dienen.

Grenzen der Skalierung: Was passiert, wenn die Kurve abknickt?

Trotz der beeindruckenden Fortschritte ist umstritten, wie lange der Skalierungstrend anhalten kann. Manche glauben, dass wir bereits jetzt abnehmende Erträge erleben: Größere Modelle verbrauchen zwar mehr Rechenleistung, bringen aber nur marginale Verbesserungen.

Andere argumentieren, dass Durchbrüche in der Effizienz, im Algorithmus-Design oder in der Modellarchitektur die Kurve abflachen könnten, ohne den Fortschritt zu verlangsamen. Kleinere, intelligentere Modelle könnten attraktiver werden als Brute-Force-Giganten.

Darüber hinaus könnten öffentlicher Druck, Regulierung und Infrastrukturbeschränkungen die Branche dazu zwingen, ihre „Skalierung um jeden Preis“-Mentalität zu überdenken. Wenn Stromnetze, Budgets oder gesellschaftlicher Konsens nicht mithalten können, könnte die exponentielle KI an ihre Grenzen stoßen – oder zumindest an einen Wendepunkt.

Der Weg in die Zukunft: Die Zukunft der exponentiellen KI planen

Das OpenAI-Gesetz bietet derzeit eine der klarsten Perspektiven auf die Zukunft der künstlichen Intelligenz. Es erklärt, wie wir in weniger als einem Jahrzehnt von rudimentären Chatbots zu multimodalen Generalistensystemen gelangt sind – und warum die nächste Welle des Fortschritts möglicherweise noch dramatischer ausfällt.

Das Gesetz bringt jedoch auch Nachteile mit sich: Ungleichheit beim Zugang, steigende Kosten, Umweltbelastungen und Sicherheitsprobleme. Mit dem Aufbruch in diese neue Ära muss sich die Gesellschaft mit grundlegenden Fragen auseinandersetzen:

• Wer darf die Zukunft der KI gestalten?
• Wie bringen wir Fortschritt und Vorsicht in Einklang?
• Welche Systeme werden benötigt, um die exponentielle Leistungsfähigkeit zu bewältigen, bevor sie der menschlichen Kontrolle entgleitet?

Das OpenAI-Gesetz ist nicht unveränderlich. Wie zuvor Moores Gesetz könnte es sich irgendwann verlangsamen, stagnieren oder durch ein neues Paradigma ersetzt werden. Doch vorerst dient es als Warnung und Wegweiser zugleich – es erinnert uns daran, dass die Zukunft der KI nicht nur voranschreitet, sondern sich auch verschärft.

Wir sind nicht nur Zeugen der Geschichte – wir gestalten sie mit exponentieller Geschwindigkeit. Doch mit dieser Macht geht auch eine Verantwortung einher: Wir müssen dafür sorgen, dass die Menschheit nicht gleichzeitig mit dem exponentiellen Fortschritt auch exponentiellen Schaden erleidet.