Rekursive Superintelligenz erhält 650 Millionen Dollar für die Entwicklung von selbstverbessernder KI

Ein neues Frontier-AI-Unternehmen namens Rekursive Superintelligenz ist mit 650 Millionen Dollar Finanzierung aus der Stealth-Phase ausgetreten und hat ein ungewöhnlich ambitioniertes Ziel: die Entwicklung von KI-Systemen, die sich ohne direkte menschliche Intervention selbst verbessern können.

Das Unternehmen wird von dem KI-Forscher und Unternehmer Richard Socher geleitet, zusammen mit einem Gründungsteam, das bekannte Forscher von Google DeepMind, OpenAI, Meta und der akademischen Welt umfasst.

Das Startup kommt auf den Markt, in einem Moment, in dem die KI-Industrie schnell von der Entwicklung größerer Sprachmodelle zu Systemen übergeht, die autonom reasonieren, adaptieren und möglicherweise ihre eigene Forschung durchführen können. Während die meisten KI-Unternehmen sich noch auf die Verbesserung der Modellleistung durch menschliche Schulung und Verstärkendes Lernen konzentrieren, verfolgt Rekursive Superintelligenz etwas viel Experimentelleres: rekursive Selbstverbesserung.

Das Konzept wurde bereits in KI-Kreisen als möglicher Weg zur Superintelligenz diskutiert. In einfachen Worten bedeutet die Idee, dass ein KI-System Schwächen in seiner eigenen Architektur identifizieren, neue Ansätze entwickeln, um diese Schwächen zu überwinden, die Ergebnisse testen und sich kontinuierlich selbst verbessern kann in einer fortlaufenden Rückkopplungsschleife.

Laut Socher qualifizieren sich die meisten aktuellen Formen von KI-gestütztem Coding oder KI-generierter Forschung nicht als wahre rekursive Selbstverbesserung. Stattdessen argumentiert er, dass echte Rekursion den gesamten Zyklus von Ideenfindung, Implementierung, Testen und Verfeinerung autonom ablaufen lassen müsste.

Richard Sochers Langfristvision für KI

Socher ist nicht neu in ambitionierten KI-Projekten. Bevor er Rekursive Superintelligenz gründete, wurde er als Mitgründer und CEO von You.com bekannt, einem KI-basierten Such- und Unternehmens-AI-Infrastruktur-Unternehmen, das als früher Herausforderer traditioneller Suchmaschinen auftrat.

You.com erregte zunächst Aufmerksamkeit, indem es konversationale KI mit Web-Suche kombinierte, Jahre bevor generative KI zum Mainstream wurde. Im Laufe der Zeit entwickelte sich das Unternehmen hin zu Unternehmens-AI-Tooling, APIs und produktivitätsorientierten KI-Systemen.

Bevor er You.com gründete, war Socher als Chief Scientist bei Salesforce (CRM ) tätig und baute einen Ruf als einer der meistzitierten Forscher im Bereich der natürlichen Sprachverarbeitung auf. Seine akademische Arbeit trug zu grundlegenden Techniken bei, wie Wort-Einbettungen, kontextuelles Sprachverständnis und neuronale Netzwerke, die moderne KI-Systeme prägten.

Rekursive Superintelligenz scheint eine andere Phase in Sochers Karriere zu repräsentieren: weniger auf kommerzielle KI-Einsetzung fokussiert und mehr auf fundamentale Durchbrüche in der Intelligenz selbst.

Trotzdem hat Socher sich gegen die Beschreibung des Unternehmens als reine Forschungseinrichtung gewehrt. Er hat betont, dass das Unternehmen kommerzielle Produkte entwickeln will und glaubt, dass praktische Anwendungen innerhalb von “Quartalen, nicht Jahren” entstehen könnten.

Der offene Ansatz

Ein zentrales Konzept hinter Rekursiver Superintelligenz ist etwas, das Forscher als “Offenheit” bezeichnen.

Statt Modelle auf ein einzelnes festes Ziel zu trainieren, generieren offene Systeme kontinuierlich neue Umgebungen, Herausforderungen und Formen der Anpassung. Der Ansatz zieht Inspiration aus der biologischen Evolution, bei der Organismen ständig in Reaktion auf veränderte Bedingungen und konkurrierende Anpassungen evolvieren.

Das Mitgründer-Team umfasst auch Tim Rocktäschel, der zuvor an offener KI-Forschung bei Google DeepMind arbeitete, einschließlich Projekten zu generativen Weltmodellen und selbstverbessernden Systemen.

Ein Beispiel, das Socher diskutiert, ist “Regenbogen-Teaming”, ein KI-Sicherheitskonzept, bei dem ein KI-System kontinuierlich ein anderes KI-System angreift und testet, um Schwachstellen aufzudecken. Anstatt auf menschliche Tester zu vertrauen, um schädliche Randfälle zu testen, evolvieren zwei KI-Systeme effektiv über Millionen von Iterationen gegeneinander.

Die Idee spiegelt eine breitere Verschiebung in der Frontier-KI-Forschung wider: die Verwendung von KI-Systemen selbst als Teil der Trainings-, Evaluations- und Sicherheitsinfrastruktur.

Rechenleistung kann zur definierenden Ressource werden

Der Start von Rekursiver Superintelligenz unterstreicht auch eine weitere wachsende Realität in der KI: die zunehmende Bedeutung von Recheninfrastruktur.

Wenn Modelle leistungsfähiger werden, steigen die Trainingskosten und die Anforderungen an die Inferenz exponentiell. Wenn rekursive Selbstverbesserungssysteme schließlich machbar werden, könnte Rechenleistung noch strategischer wichtig werden, da die Geschwindigkeit des KI-Fortschritts direkt mit der verfügbaren Rechenleistung für Selbstverbesserungszyklen verbunden wäre.

Socher deutete an, dass zukünftige Gesellschaften möglicherweise schwierige Entscheidungen über die Allokation von KI-Rechenressourcen treffen müssen, vergleichbar mit der Entscheidung, welche Krankheiten oder wissenschaftlichen Probleme die meiste Rechenleistung erhalten sollten.

Diese Formulierung unterstreicht, wie KI-Infrastruktur zunehmend mit Geopolitik, Energiesystemen, Halbleiter-Lieferketten und nationaler Wettbewerbsfähigkeit verflochten wird.

Investoren setzen weiter auf Frontier-KI-Teams

Die Größe der Finanzierungsrunde ist auch bemerkenswert, wenn man bedenkt, wie früh das Unternehmen noch ist. Rekursive Superintelligenz hat angeblich weniger als 30 Mitarbeiter und hat noch kein öffentliches Produkt veröffentlicht, hat aber bereits eine multibillionenschwere Bewertung erreicht.

Die Runde spiegelt einen breiteren Trend im Venture-Capital wider, bei dem Elite-KI-Forschungstalente selbst zu einem wertvollen Vermögenswert geworden sind. Investoren setzen zunehmend massive Wetten auf Teams mit tiefgreifender technischer Glaubwürdigkeit, insbesondere auf Forscher, die mit Organisationen wie OpenAI, DeepMind und Meta AI verbunden sind.

Auf viele Weise scheint der Markt sich von der Finanzierung von Software-Produkten hin zur Finanzierung von potenziellen Durchbrüchen in der Intelligenz-Infrastruktur selbst zu verschieben.

Ob rekursive Selbstverbesserung letztendlich machbar wird, bleibt ungewiss. Viele Forscher glauben, dass das Konzept die KI-Entwicklung vollständig verändern könnte, während andere argumentieren, dass die technischen Barrieren enorm bleiben.

Aber das Auftauchen von Rekursiver Superintelligenz signalisiert, dass einige der einflussreichsten Forscher der Branche nun glauben, dass die nächste Phase der KI nicht einfach darin besteht, dass Menschen intelligentere Modelle bauen. Stattdessen könnte es darin bestehen, dass KI-Systeme direkt an ihrer eigenen Evolution teilnehmen.