Die KI, die sich selbst lehrt, ist keine Science-Fiction mehr

Neue KI-Frameworks bewegen sich in Richtung eines radikalen Sprungs: Maschinen, die sich selbst verbessern, ohne menschliche Einsicht.

Jahrelang blieben sogar die fortschrittlichsten KI-Modelle passive Motoren, die Antworten auf Grundlage von Trainingsdaten vorhersagten, die sie nicht ändern konnten. Aber heute ist es nicht die Größe des Modells, die das nächste Kapitel der künstlichen Intelligenz definiert, sondern ob das Modell sich selbst ändern kann.

Kürzlich stellten Forscher am MIT ein neues KI-Framework namens Self-Adapting LLMs (SEAL) vor. Der Ansatz ermöglicht es großen Sprachmodellen (LLMs), sich autonom zu verbessern, sodass die KI ihre eigenen Einschränkungen diagnostizieren und ihre eigenen neuronalen Gewichte durch eine interne Feedback-Schleife, die durch Verstärkungslernen angetrieben wird, permanent aktualisieren kann. Anstatt Forscher zu benötigen, um Fehler zu finden, neue Prompts zu schreiben oder zusätzliche Beispiele einzugeben, übernimmt das Modell die volle Verantwortung für seine Evolution.

“Große Sprachmodelle (LLMs) sind leistungsfähig, aber statisch; sie verfügen nicht über Mechanismen, um ihre Gewichte in Reaktion auf neue Aufgaben, Wissen oder Beispiele anzupassen”, schrieben die MIT-Forscher in einem Blog-Beitrag. “Experimente zur Wissensinkorporation und Few-Shot-Verallgemeinerung zeigen, dass SEAL ein vielversprechender Schritt in Richtung Sprachmodelle ist, die sich selbst in Reaktion auf neue Daten anpassen können.”

In frühen Tests ermöglichte diese Selbstbearbeitungsschleife es Modellen, von einem kompletten Versagen zu Erfolgen bei komplexen abstrakten Denkaufgaben zu gelangen, wobei sie sogar viel größere Modelle wie GPT-4.1 mit einer Erfolgsrate von 72,5 Prozent übertrafen, bei denen herkömmliche Methoden versagten. Darüber hinaus reduziert SEAL angeblich die menschliche Aufsicht um 85 Prozent, während die Genauigkeit und Anpassungsfähigkeit erhöht werden.

Der Aufstieg der selbstunterrichteten KI-Modelle

SEAL ist Teil eines breiteren Trends hin zu autonomer Maschinenintelligenz. Forscher bei Sakana AI haben beispielsweise die Darwin-Gödel-Maschine vorgestellt – ein KI-Agent, der seinen eigenen Code mithilfe offener evolutionärer Strategien ändert.

“Es erstellt verschiedene Selbstverbesserungen, wie eine Patch-Validierung, bessere Dateiansicht, erweiterte Bearbeitungstools, die Generierung und Bewertung mehrerer Lösungen, um die beste auszuwählen, und die Hinzufügung einer Historie dessen, was bereits versucht wurde (und warum es fehlgeschlagen ist), wenn neue Änderungen vorgenommen werden”, schrieb Sakana AI in einem Blog-Beitrag.

Ebenso können die KI-Agenten von Anthropic, angetrieben von Claude 4, nun autonom Workflows über Codebasen und Geschäftstools orchestrieren.

“Ein System, das sich basierend auf der Art des Assets, seiner Umgebung und seiner Geschichte selbst konfiguriert, ermöglicht es, von einer reaktiven Reaktion zu einer kontinuierlichen Präventionsstrategie überzugehen”, sagte Christian Struve, CEO und Mitgründer von Fracttal, mir. “Es geht nicht darum, mehr Schichten oder mehr Parameter hinzuzufügen, sondern um autonomere und nützlichere Systeme.”

Was diese Bemühungen vereint, ist ein Kernglaube: KI muss nicht größer werden, um intelligenter zu werden. Sie muss anpassungsfähiger werden.

“Skalierung hat große Gewinne gebracht, aber wir erreichen die Grenzen dessen, was allein durch Größe erreicht werden kann. Selbstadaptierende Lernmodelle wie SEAL bieten einen überzeugenden nächsten Schritt, indem sie es Systemen ermöglichen, über die Zeit hinweg zu wachsen und sich zu verbessern”, sagte Jorge Riera, Gründer und CEO der Full-Stack-Datenberatungsplattform Dataco, mir. “Selbstevolvierende Modelle verschieben auch die Fortschrittsmetriken von statischen Benchmarks zu Maßen für Anpassungsfähigkeit, LernEffizienz und sichere langfristige Verbesserung. Anstatt nur zu testen, was ein Modell bei der Bereitstellung weiß, können wir bewerten, wie gut es lernt, behält und sich über die Zeit hinweg entwickelt.”

Auswirkungen auf das KI-Ökosystem und den globalen Wettlauf um Autonomie

Dieses Maß an Autonomie verändert auch die Ökonomie der KI-Bereitstellung. Stellen Sie sich vor, Betrugsbekämpfungssysteme, die sich sofort selbst aktualisieren, um neue Bedrohungen zu bekämpfen, oder KI-Tutoren, die ihren Lehrstil basierend auf dem Verhalten eines Schülers ändern. In der Robotik könnten selbstadaptierende Frameworks zu autonomen Maschinen führen, die neue Bewegungsmuster erlernen, ohne neu programmiert zu werden.

Im gesamten Nahen Osten bauen Länder wie die VAE und Saudi-Arabien rasch grundlegende Modelle, die für Anpassung konzipiert sind. Die VAE-Falcon und G42-Jais sind Open-Source-LLMs, die mit regionaler Relevanz konzipiert wurden, während Saudi-Arabiens ALLaM und Aramco Digitals Metabrain in den Bereich autonomer KI-Agenten für Smart Cities, Gesundheitswesen und Logistik vorstoßen.

Diese Bemühungen sind noch nicht mit dem Selbstbearbeitungsvermögen von MITs SEAL vergleichbar, spiegeln aber eine gemeinsame Traektorie wider: von passiven KI-Systemen zu aktiven, evolvierenden Agenten, die mit begrenzter menschlicher Anleitung komplexe Situationen meistern können. Und genau wie SEAL werden diese Initiativen von robusten Governance-Frameworks unterstützt, die die wachsende Erkenntnis unterstreichen, dass KI-Autonomie mit Verantwortung einhergehen muss.

“Dies ist ein erster Schritt in Richtung selbstverwalteter Systeme, die ihre Logik ohne ständige Eingriffe ändern”, sagt Struve. “Ich glaube, dass künstliche Intelligenz nicht neu definiert, was Intelligenz ist, sondern uns dazu zwingt, unsere Beziehung zu ihr neu zu überdenken. Das Wichtigste ist nicht, dass ein Modell evolviert, sondern dass es dies in Übereinstimmung mit den Zielen tut, die wir als Menschen definieren.”

Jeff Townes, CTO von Gorilla Logic, betont ebenfalls die Bedeutung von Governance, die mit der KI-Evolution Schritt hält: “Die Frage ist nicht, ob KI evolvieren kann – es ist, ob das Unternehmen mit ihr evolvieren kann. Governance muss jede KI-Anpassung an klare Ergebnisse und KPIs verankern, die Führungskräfte messen und vertrauen können, damit Innovation mit Vertrauen anstelle von Risiko skaliert.”

Sind wir bereit für KI, die sich selbst umschreibt?

Die provokativste Frage, die SEAL aufwirft, ist nicht technischer Natur – es ist die Frage, welche Rolle wir spielen, wenn Modelle entscheiden, wie sie sich selbst lehren, was ihre Werte, Prioritäten und Richtung angeht?

Experten warnen, dass, wenn sich selbstadaptierende KI-Systeme autonom werden, der Drang zur Selbstverbesserung nicht die Etablierung ethischer Schutzvorkehrungen überholen darf. “Ich glaube, dass alle KI-Systeme mindestens drei grundlegende ethische Prinzipien umsetzen müssen”, sagt Jacob Evans, CTO bei Kryterion.

“Erstens, und das mag selbstverständlich sein, müssen KI-Systeme sich als KI-Systeme identifizieren. Zweitens müssen KI-Systeme menschenzentriert sein und menschliches Urteilsvermögen ergänzen, anstatt es zu ersetzen. Und schließlich müssen sie ihre Grenzen und Unsicherheiten anerkennen und sich weigern, Informationen bereitzustellen, die zu ernsthaften Schäden führen könnten. Ohne diese Schutzvorkehrungen kann KI zu einem Instrument der Manipulation anstatt einer zuverlässigen Unterstützung werden.”

“Um Modelle zu ermöglichen, sich in der Produktion selbst zu verbessern, benötigen sie eine dynamische Feedback-Schleife, nicht nur eine statische Schulung. Eine leistungsfähige Methode ist die Verwendung eines ‘digitalen Zwillings’ oder einer sophisticateden Sandbox-Umgebung, in der die KI ihre eigenen selbstgenerierten Verbesserungen sicher testen und validieren kann, bevor sie jemals an Benutzer bereitgestellt werden”, teilte Ganesh Vanama, Computer-Vision-Ingenieur bei Automotus, mit.

In Bezug auf Governance fügte Vanama hinzu: “Die unverhandelbare Kontrolle ist die ‘menschliche Überwachung’. Wir wollen, dass Modelle sich anpassen, aber ‘du musst eine kontinuierliche Überwachung haben, um ‘Alignment-Drift’ zu erkennen, wenn das Modell von seinen beabsichtigten Zielen oder Sicherheitsbeschränkungen abweicht. Dieses System muss einem menschlichen Auditor die Macht geben, jede autonome Aktualisierung zu veto oder sofort zurückzusetzen, die einer Sicherheits- oder Leistungsprüfung nicht standhält.”

Aber andere Experten glauben, dass es noch Zeit gibt, um diese Schutzvorkehrungen zu entwickeln, und argumentieren, dass der Bau einer wirklich robusten, allgemein gültigen, selbstverbessernden KI noch eine monumentale Herausforderung darstellt.

“Solche Modelle verfügen noch nicht über die Fähigkeit, sich selbst in Echtzeit zuverlässig umzuprogrammieren. Wesentliche Herausforderungen bleiben, wie die Vermeidung von Fehlerverstärkung, das Vermeiden von katastrophalem Vergessen, die Gewährleistung von Stabilität während der Updates und die Aufrechterhaltung von Transparenz bei internen Änderungen”, sagt Riera. “Bis diese angegangen werden, bleibt die vollständige Selbstadaptation eine Grenze und keine Realität.”

Die MIT-Forscher sehen SEAL als notwendige Evolution. Wie es einer der führenden Wissenschaftler von MIT ausdrückte, spiegelt dieses Framework derzeit die menschliche Lernfähigkeit genauer wider als alles, was zuvor kam.

“Diese Systeme deuten auf einen Wechsel von statischen, einmaligen Modellen zu adaptiven Architekturen hin, die aus Erfahrung lernen, Gedächtnis verwalten und Ziele über die Zeit hinweg verfolgen können. Die Richtung ist klar: modulare, kontextbewusste Intelligenz, die sich kontinuierlich anpassen kann”, sagte Riera mir. “Obwohl dies noch im experimentellen Stadium ist, markiert dieser Ansatz einen bedeutenden Schritt in Richtung autonomerer und widerstandsfähigerer KI-Systeme.”

Ob dies zu personalisierteren Systemen oder ganz neuen Formen der Maschinenagentur führt, bleibt abzuwarten. Das Zeitalter der selbstunterrichteten KI ist angekommen – und es schreibt nicht nur seinen eigenen Code um, sondern schreibt auch die Regeln um, was Maschinen werden können.