Rekursive Superintelligenz erhält 650 Millionen Dollar für die Entwicklung von selbstverbessernder KI

Ein neues Frontier-AI-Unternehmen namens Rekursive Superintelligenz ist mit 650 Millionen Dollar an Finanzierungsmitteln aus der Stealth-Phase herausgetreten und hat ein ungewöhnlich ambitioniertes Ziel: die Entwicklung von KI-Systemen, die sich ohne direkte menschliche Intervention selbst verbessern können.

Das Unternehmen wird von dem KI-Forscher und Unternehmer Richard Socher geleitet, zusammen mit einem Gründungsteam, das prominente Forscher von Google DeepMind, OpenAI, Meta und der akademischen Welt umfasst.

Das Startup tritt auf den Markt, in einem Moment, in dem die KI-Industrie schnell von der Entwicklung größerer Sprachmodelle zur Entwicklung von Systemen wechselt, die autonom reasonieren, adaptieren und möglicherweise eigene Forschung durchführen können. Während die meisten KI-Unternehmen sich noch auf die Verbesserung der Modellleistung durch menschliche Schulung und Verstärkendes Lernen konzentrieren, verfolgt Rekursive Superintelligenz etwas viel Experimentelleres: rekursive Selbstverbesserung.

Das Konzept wurde bereits in KI-Kreisen als möglicher Weg zur Superintelligenz diskutiert. In einfachen Worten bedeutet die Idee, dass ein KI-System Schwächen in seiner eigenen Architektur identifizieren, neue Ansätze entwickeln, um diese Schwächen zu überwinden, die Ergebnisse testen und sich kontinuierlich selbst verbessern kann in einer fortlaufenden Rückkopplungsschleife.

Laut Socher qualifizieren sich die meisten aktuellen Formen von KI-gestütztem Codieren oder KI-generierter Forschung nicht als wahre rekursive Selbstverbesserung. Stattdessen argumentiert er, dass echte Rekursion den gesamten Zyklus von Ideenfindung, Implementierung, Testen und Verfeinerung autonom durchführen müsste.

Richard Sochers Langfristige Vision für KI

Socher ist nicht neu in ambitionierten KI-Projekten. Bevor er Rekursive Superintelligenz gründete, wurde er als Mitgründer und CEO von You.com bekannt, einem KI-gestützten Such- und Unternehmens-AI-Infrastruktur-Unternehmen, das als früher Herausforderer traditioneller Suchmaschinen auftrat.

You.com erregte zunächst Aufmerksamkeit, indem es konversationale KI mit Web-Suche kombinierte, Jahre bevor generative KI zum Mainstream wurde. Im Laufe der Zeit entwickelte sich das Unternehmen hin zu Unternehmens-AI-Tooling, APIs und produktivitätsorientierten KI-Systemen.

Bevor You.com, war Socher Chief Scientist bei Salesforce und baute einen Ruf als einer der meistzitierten Forscher im Bereich der natürlichen Sprachverarbeitung auf. Seine akademische Arbeit trug zu grundlegenden Techniken bei, wie Wort-Embeddings, kontextuellem Sprachverständnis und neuronalen Netzwerken, die halfen, moderne KI-Systeme zu formen.

Rekursive Superintelligenz scheint eine andere Phase in Sochers Karriere zu repräsentieren: weniger auf kommerzielle KI-Einsetzung fokussiert und mehr auf fundamentale Durchbrüche in der Intelligenz selbst.

Trotzdem hat Socher sich gegen die Beschreibung des Unternehmens als reine Forschungslab gewehrt. Er hat betont, dass das Unternehmen kommerzielle Produkte entwickeln will und glaubt, dass praktische Anwendungen innerhalb von “Quartalen, nicht Jahren” entstehen könnten.

Der Offen-Ende-Ansatz

Ein zentrales Konzept hinter Rekursiver Superintelligenz ist etwas, das Forscher als “Offen-Ende” bezeichnen.

Statt Modelle auf ein einzelnes festes Ziel zu trainieren, generieren offene Systeme kontinuierlich neue Umgebungen, Herausforderungen und Formen der Anpassung. Der Ansatz zieht Inspiration aus der biologischen Evolution, in der Organismen ständig in Reaktion auf veränderte Bedingungen und konkurrierende Anpassungen evolvieren.

Das Mitgründer-Team umfasst auch Tim Rocktäschel, der zuvor an offener KI-Forschung bei Google DeepMind arbeitete, einschließlich Projekten mit generativen Weltmodellen und selbstverbessernden Systemen.

Ein Beispiel, das Socher diskutiert, ist “Regenbogen-Teamarbeit”, ein KI-Sicherheitskonzept, bei dem ein KI-System kontinuierlich ein anderes KI-System angreift und testet, um Schwachstellen aufzudecken. Anstatt auf menschliche Tester zu vertrauen, um schädliche Randfälle zu testen, evolvieren zwei KI-Systeme effektiv über Millionen von Iterationen gegeneinander.

Die Idee spiegelt eine breitere Verschiebung in der Frontier-AI-Forschung wider: die Verwendung von KI-Systemen selbst als Teil der Trainings-, Evaluations- und Sicherheitsinfrastruktur.

Rechenleistung kann zur definierenden Ressource werden

Der Launch von Rekursiver Superintelligenz unterstreicht auch eine weitere wachsende Realität in der KI: die zunehmende Bedeutung von Rechenleistungs-Infrastruktur.

Wenn Modelle leistungsfähiger werden, steigen die Trainingskosten und Inferenzanforderungen exponentiell. Wenn rekursive Selbstverbesserungssysteme schließlich machbar werden, könnte Rechenleistung noch strategischer wichtig werden, da die Geschwindigkeit des KI-Fortschritts direkt mit der verfügbaren Rechenleistung für Selbstverbesserungszyklen verbunden wäre.

Socher schlug vor, dass zukünftige Gesellschaften möglicherweise schwierige Entscheidungen über die Zuweisung von KI-Rechenleistungsressourcen treffen müssen, ähnlich wie bei der Entscheidung, welche Krankheiten oder wissenschaftlichen Probleme die meiste Rechenleistung erhalten sollten.

Diese Formulierung unterstreicht, wie KI-Infrastruktur zunehmend mit Geopolitik, Energiesystemen, Halbleiter-Lieferketten und nationaler Wettbewerbsfähigkeit verflochten wird.

Investoren setzen weiter auf Frontier-AI-Teams

Die Größe der Finanzierungsrunde ist auch bemerkenswert, wenn man bedenkt, wie früh das Unternehmen noch ist. Rekursive Superintelligenz hat angeblich weniger als 30 Mitarbeiter und hat noch kein öffentliches Produkt veröffentlicht, hat jedoch bereits eine multibillionenschwere Bewertung erreicht.

Die Runde spiegelt einen breiteren Trend im Risikokapital wider, bei dem Elite-KI-Forschungstalente selbst zu einem wertvollen Vermögenswert geworden sind. Investoren setzen zunehmend massive Wetten auf Teams mit tiefgreifender technischer Glaubwürdigkeit, insbesondere auf Forscher, die mit Organisationen wie OpenAI, DeepMind und Meta AI verbunden sind.

Auf viele Weise scheint der Markt von der Finanzierung von Software-Produkten zur Finanzierung von potenziellen Durchbrüchen in der Intelligenz-Infrastruktur selbst zu wechseln.

Ob rekursive Selbstverbesserung letztendlich machbar wird, bleibt ungewiss. Viele Forscher glauben, dass das Konzept die KI-Entwicklung vollständig verändern könnte, während andere argumentieren, dass die technischen Barrieren enorm bleiben.

Aber das Auftauchen von Rekursiver Superintelligenz signalisiert, dass einige der einflussreichsten Forscher der Branche nun glauben, dass die nächste Phase der KI nicht einfach darin besteht, dass Menschen intelligentere Modelle bauen. Stattdessen könnte es darin bestehen, dass KI-Systeme direkt an ihrer eigenen Evolution teilnehmen.