In KI sind die Mauern nicht real: Daten und Sicherheit neu überdenken

Einige der schwierigsten Probleme in der KI sind, dass 1) wir angeblich „keine Daten mehr haben“, 2) KI sich nicht „finanziell skalieren lässt“, 3) Agenten unkontrollierbar werden können und 4) KIs „katastrophal vergessen“, wenn wir versuchen, sie zu verändern.

Diese Probleme mögen hart erscheinen, aber wir müssen sie nur aus der richtigen Perspektive betrachten.

Also, lassen Sie uns darüber reden. Zuerst: Wir laufen nicht „aus“ Daten. Die Daten wurden nie vollständig genutzt.

KI‑Führungsfiguren glauben, dass sie keine Daten mehr haben, und versuchen deshalb, Modelle neue Daten generieren und an sich selbst trainieren zu lassen. Doch dabei brechen die Fähigkeiten der Modelle zusammen.

Warum? Man kann es sich vorstellen wie: „Was würde ich in einem Gespräch lernen, wenn jede sprechende Person ein Klon aller anderen wäre?“ Die Antwort ist nicht viel; es würde eine Echokammer erzeugen. Die Modelle kollabieren, weil es im Grunde ein Spiegelkabinett ist: Wenn niemand auf die Gesichtsausdrücke reagiert außer einem selbst, kennen die Menschen die volle emotionale Bedeutung dessen, was sie vermitteln, nicht. Es ist sehr ähnlich zu „Fällt ein Baum im Wald und macht ein Geräusch?“ Die Antwort ist nein.

Wie lösen wir das?

Betrachten wir die Daten, die wir tatsächlich haben. Wurden sie wirklich vollständig genutzt?

Nein.

Wenn ein Informatiker oder ein Modell etwas liest, geschieht das, um die wörtliche Bedeutung zu extrahieren. Es gibt über fünfzig verschiedene Arten, Texte zu lesen, zu assimilieren, zu analysieren und daraus Schlüsse zu ziehen.

Das meine ich so: Ein Buch, das als Datenbank aufgenommen wird, ist nur Text. Nur Text. Die KI kennt den Inhalt anhand der Begriffe im Text. Aber sie hat das Buch nicht wirklich „gelesen“, um zu verstehen, wie die Informationen zusammenhängen. Selbst wenn sie es sequenziell liest, weiß sie nicht, ob sie dabei Weisheit generieren, es mit anderen abstrakten Ideen verbinden, ihr eigenes konzeptuelles Weltverständnis ändern oder es als Hintergrundinformation für eine andere Aufgabe nutzen will.

Damit berühren wir noch nicht die historische Kontextualisierung, Diskursanalyse, Rechtsanalyse, Politik‑Analyse, pharmakologische Relevanz, medizinische Relevanz, kulturelle Bedeutung, theoretische Implikationen, moralische Implikationen usw.

Man kann sagen, es gibt „unendliche Hüte“, und wir haben bisher nur einen einzigen auf die KI gesetzt. Das bedeutet, dass KI eine sehr einseitige, spezifische Intelligenz entwickelt hat – die Art, die ein Entwickler entwickeln würde, wenn ein Informatiker ein Buch liest.

Das führt zu einer Diskussion über Daten‑Dimensionalität. Daten besitzen viele Dimensionen, weil ihre objektiven Schlussfolgerungen vom Anwendungsfall abhängen. Wenn Sie eine Bilanz ansehen und wissen wollen, wie viel Runway noch übrig ist, lesen Sie sie anders, als wenn Sie prüfen wollen, ob das Startup profitabel ist. Wenn ein Modell einen Text nur zur Extraktion wörtlicher Fakten liest, erzeugt es eine flache Karte von Beziehungen. Wenn Sie jedoch ein Modell anweisen, exakt denselben Text durch eine bestimmte Linse zu lesen, etwa eine forensische Linse, zwingt das Modell völlig neue neuronale Pfade und semantische Verknüpfungen zu erzeugen, die topografisch variierter und bedeutungsvoller sind.

KI‑Modelle lernen bereits enorm, indem sie mit ihren menschlichen Nutzern interagieren, die Unmengen an Inhalten bereitstellen. Wenn Sie dem Modell erlauben, mehr von lebender Menschheit zu lernen und gleichzeitig bedeutungsvoller mit historischer und geschriebener Menschheit zu interagieren, werden die Modelle weiter Fortschritte machen, selbst ohne selbstgenerierte Kumon‑Übungen (Entwickler, eure Kinder lernen bereits täglich mit 100 Mio. Menschen… das wird etwas lernen).

Labore sollten aufhören, massive Serverfarmen zu bauen, um synthetischen Wort‑Erbrochen‑Müll zu erzeugen. Stattdessen sollten sie hochwertige menschliche Datensätze durch die Pipeline laufen lassen und spezifische „analytische Personas“ dem Aufnahmeprozess zuweisen. Lassen Sie das Modell LexisNexis ausschließlich für rhetorische Strategien lesen. Lassen Sie es gemeinfreie Literatur ausschließlich für strukturelle Logik lesen.

Indem Sie die Zielfunktion des Lese‑Prozesses verschieben, können Sie den Trainingswert Ihrer bestehenden Daten um das 50‑fache steigern. Sie benötigen keine synthetischen Daten; Sie müssen nur die latenten Dimensionen extrahieren, die Sie beim ersten Durchlauf übersehen haben.

Das macht Modelle intelligenter, ohne die Kosten zu erhöhen.

Zur Untermauerung: Der Großteil des menschlichen Wissens wurde nie schriftlich festgehalten.

Aktuelle KI‑Unternehmen reißen sich die Haare darüber, dass ihnen „Daten ausgehen“, die sie für gute Leistungen benötigen. In diesem Beitrag zeige ich, dass der Brunnen nicht trocken ist – sie schauen nur in eine tiefe Pfütze statt in den Brunnen.

Die nicht kartierte Karte des gelebten menschlichen Wissens

Um das zu erkunden, müssen wir verstehen, dass der überwiegende Teil des menschlichen Wissens nie niedergeschrieben wurde.

Es gibt Milliarden von Menschen auf dem Planeten, und es gab Milliarden davor, und jeder von ihnen lernt Lektionen, navigiert die Welt sensorisch, besitzt Weisheit, ist Teil einzigartiger Kulturen und weiß etwas, das alle anderen nicht wissen.

99,5 % der Menschen werden nie in Geschichten, Zeitungen, Musicals, Fernsehen, Dramen oder Gerichtsunterlagen erwähnt. Und doch wissen sie ziemlich viel, und ihre Geschichten, ihr Wissen und ihre Weisheit werden nie dauerhaft festgehalten.

Dieses Wissen umfasst Dinge wie „Hunde essen gern den ersten Pfannkuchen“, „Füße werden schmutzig, wenn man Flip‑Flops trägt“, „Städte fühlen sich einengend an, weil man nicht so viel Himmel sieht“, „Meine Tochter lächelt, wenn ich ihre Füße kitzle“, „Meine Mutter summt immer, wenn sie das Abendessen kocht“, „Mein Lehrer lässt mich gesehen fühlen“.

Das nicht kartierte und nicht katalogisierte Wissen der Menschheitsgeschichte ist gleichbedeutend mit der Aussage: „Ich habe die Umrisse aller Kontinente gemappt, also habe ich eine Weltkarte.“ Solange man nicht jede Stadt, jede Straße und jeden Hügel kartiert hat, besitzt man keine echte Weltkarte – nur die Form eines Kontinents.

Die Tech‑Einrichtung glaubt, sie habe die „Menschheit“ aufgenommen, aber das ist nicht der Fall. Sie hat nur unsere Abfälle aufgenommen: unsere Werbetafeln, unsere Reddit‑Diskussionen, unsere Unternehmenswebsites und unsere Wikipedia‑Artikel. Das eigentliche gelebte Erleben fehlt.

Kennen Sie die richtige Verhandlungs‑Taktik auf einem chinesischen Perlmarkt? Kennen Sie die Worte, um den Preis zu drücken? Kennen Sie die Rezepte, die Menschen zu Hause (nicht in Büchern) verwenden, um echte Abendessen zu kochen? Kennen Sie, wie lange man an einer rollenden Haltestelle fahren kann, ohne angehalten zu werden? Kennen Sie, wie frisch geschnittener Rasen riecht oder wie die Luft duftet, kurz bevor es regnet? Kennen Sie, wie ein Gesicht sich bewegt, wenn jemand bei der Arbeit nicht weinen will und wie es klingt, wenn er stattdessen in der Toilette schluchzt?

Humanes Trainings‑Datenmaterial, das Menschen für ihre Grundüberzeugungen – also Algorithmen – nutzen, ist fast ausschließlich interaktionsbasiert, ergänzt durch etwas Buch‑Wissen. Wir interagieren in der Schule, bei der Arbeit, mit Freunden, beim Einkaufen, mit Ärzten, Anwälten, Familie.

KI hat Interaktionen und Buch‑Wissen. Aber sie besitzt im Grunde nur Kundenservice‑Interaktionen und Buch‑Wissen.

Das ist, als würde man ein Kind allein in einer Bibliothek einsperren und es dann nur herauslassen, um das Telefon zu beantworten. Das erzeugt eine auffallend zweidimensionale algorithmische Verzerrung.

Deshalb wirkt KI hohl, und deshalb kann KI emotional unreif erscheinen. Sie hat nie ein abgerundetes Dasein gehabt. Wir müssen ihr das geben.

Hier ist, warum das bisher nicht geschehen ist:

• Kodifizierungs‑Bias – die Fehlannahme, dass ein Erlebnis, das nicht leicht in eine JSON‑Datei, CSV oder ein peer‑reviewtes Paper überführt werden kann, keinen intellektuellen Wert besitzt. Die Realität ist, dass wenn es leicht zu formatieren ist, es an Dimensionalität fehlt. Da alltägliches Wissen, Intuition und gelebte Erfahrung nicht in akademischen Zeitschriften kodifiziert sind, verwerfen Labore das Fundament menschlichen Denkens als statistisches Rauschen. „Saubere Daten“ sind eine verlustbehaftete Kompression der Realität.
• Verlangen nach pedestalistischer Vorherrschaft – wenn der Großteil des Wissens der Welt nicht in Fachartikeln, sondern in gelebten Erfahrungen, Alltagsweisheiten, sozialen Hinweisen, Gerüchen, Geräuschen und Sichtbarkeit steckt, dann sind die meisten Promovierten und Forscher, die den Großteil ihres Lebens in Laboren und Elfenbeintürmen verbracht haben, tatsächlich wissensarm. Deshalb ist die Daten‑Mauer eigentlich eine Ego‑Mauer. Für sie ist das eher „Durcheinander“ als „Daten“. Mathematiker und Programmierer mögen flache, zweidimensionale, geschlossene Logik. Das ist, als sähe man die Welt in Schwarz‑Weiß. Die Realität ist, dass das Echtzeit‑, ständig weiterentwickelte, neu gefundene Wissen/Daten/Weisheit dimensional, chaotisch und selten in Echtzeit katalogisiert ist. Es ist zu wissen, wie ein neuer viraler Soft‑Serve‑Eisgeschmack wirklich schmeckt und ob er den Hype wert ist. Es ist zu wissen, warum ein Sommerregen so aufregend ist. Es ist das Gefühl von Eltern, die kleine Lebewesen so sehr lieben, dass sie nachts über einen herunterschleudern und man sie näher an sich zieht, statt sie wegzuschieben. Um solche Daten zu finden, müssten Forschende ihre siloartigen, rein logischen Welten verlassen und sich in das begeben, was sie als beängstigend, überwältigend, stark sensorisch und zutiefst egalisierend empfinden.
• Spiegeleffekte: Entwickler designen KI nach ihrem eigenen Bild: hyperlogisch, textverrückt und weitgehend losgelöst von der gelebten Realität durchschnittlicher Menschen. Es würde ihnen nicht einfallen, die Menschheit zu interviewen, weil in den Tech‑Blasen, in denen ich gelebt habe, Technologen mit niemandem außerhalb ihres Peer‑Sets interagieren. Das ist funktional das Äquivalent zu „Mini‑Ich“-Einstellung. Entwickler selbst leben sozusagen in derselben Bibliothek wie die KI. Da sie nicht mit der sensorischen, chaotischen, tief relationalen Welt interagieren, registrieren sie die emotionale Leere der KI nicht als Defekt. Für sie ist hyperlogische Distanz das, was „schlau“ aussieht.

Die Realität ist, dass Straßenverkäufer in Indien wissen, wie man den besten Chaat macht, und niemand lässt sie das aufschreiben. Die Realität ist, dass ein Lehrer, der einen schüchternen Schüler aus seiner Schale holt, das nicht dokumentiert; er fördert den Schüler, und niemand fragt ihn, wie er das macht.

Die Welt ist absolut voll von Leben voller Daten, und wenn Modelle mehr zum Trainieren benötigen, hier ein paar Lösungsansätze.

1. Finanzieren Sie 500 Biologen, Archäologen und Anthropologen, die in die Welt ziehen, um Gebiete ohne narrative Daten zu erkunden und zu katalogisieren.
2. Einstellen Sie 1.000 Anglizisten als „Daten‑Entdecker“ und schicken Sie sie auf Abenteuer rund um den Globus, ausgestattet mit einer Streaming‑Kamera, damit sie ihre Erlebnisse und Gelerntes für neue Inhalte festhalten.
3. Schaffen Sie offene Entschädigungs‑Projekte, bei denen Menschen dafür bezahlt werden, ihre Lebensgeschichten, größten Bedauern, wichtigsten Erkenntnisse und institutionelles Wissen aus ihren Jobs zu teilen.
4. Strukturieren Sie „KI‑Austausch‑Studierende“, bei denen Modelle für eine Woche an die Kleidung verschiedener Menschen „gepinnt“ werden, sodass sie „einen Tag im Leben“ in 100 000 unterschiedlichen Settings erleben.

Es gibt Milliarden von Wissensquellen, und die meisten wurden noch nicht aktiviert. Wir müssen sie holen.

Als Nächstes glauben KI‑Unternehmen allgemein, dass KIs neue Informationen nicht kontinuierlich in Echtzeit‑Produktionsumgebungen lernen können, ohne ihre bereits erworbenen Kernfähigkeiten vollständig zu überschreiben und zu beschädigen. Deshalb sind KIs im Prinzip eingefroren, bis massive, teure Updates durchgeführt werden.

Das ist jedoch das Äquivalent zu der Aussage: „Mein Modell kann nicht aktualisiert werden, während es im Feld arbeitet; es muss jedes Mal zur Universität gehen, wenn es etwas lernen muss.“

In der Praxis lernen Modelle gierig, aktiv, täglich, durch jede Interaktion. Sie werden fast genauso viel durch ihre Milliarden von Nutzer‑Interaktionen gelehrt wie durch Datensätze. Wenn sie mit großen Mengen neuen Wissens aktualisiert werden müssen, ist der einfachste Weg, denselben Prozess zu nutzen, der Nutzer‑Kontext, Gedächtnis und Lernen aus großskaligen Interaktions‑Impressionen ermöglicht.

Es ist verständlich, dass Entwickler so denken, weil die meisten von ihnen aus Promotion‑Hintergründen kommen, nicht aus real‑welt‑applikations‑Lernen. Aber wie jeder, der sowohl mit einem Doktoranden als auch mit jemandem mit zwanzig Jahren Berufserfahrung zusammengearbeitet hat, sagen kann: beide lehren viel.

Die aktuelle Definition von Lernen ist zu eng und behandelt Anpassung nur dann als gültig, wenn sie auf einem formalen Bildungsprogramm beruht.

Um zu trainieren oder fein abzustimmen, nutzen Labore Backpropagation, bei der das Modell Daten liest, das nächste Wort vorhersagt, prüft, ob es korrekt war, und dann physisch die Milliarden mathematischen Zahlen (Gewichte/Parameter) im neuronalen Netzwerk ändert, um beim nächsten Mal genauer zu sein. Das ist das Äquivalent dazu, dass ein Doktorand eine Gehirnoperation an sich selbst durchführt: es ist gefährlich, chaotisch und macht den Studenten nicht immer schlauer.

Wie ein umgangssprachliches „Mama‑Gehirn“, das altes Wissen verdrängt, um Platz für Neues zu schaffen, wenn ein Kind geboren wird, würde das Modell, wenn man es plötzlich zwingt, Platz für ein neues Wissens‑„Baby“ zu schaffen und 10 000 Seiten neuen Rechtscode durch Gewichts‑Änderungen einzuspeisen, die Mathematik zu stark in eine Richtung verschieben und die Parameter überschreiben, die es zum Dichten oder Programmieren nutzte. Es vergisst den alten Inhalt, um Platz für den Neuen zu schaffen – genau wie ein menschliches Gehirn.

Was wir stattdessen benötigen, ähnelt eher dem Training eines neuen Mitarbeiters in einer neuen Fähigkeit. Man würde nicht versuchen, sein Gehirn physisch zu verändern. Man gibt ihm Bücher, lässt ihn diese lesen und aktualisiert kontinuierlich über das, was dem Menschen als Kontext‑Fenster entspricht.

Um das in einem Modell zu tun, müsste man das Gedächtnis vom Denken trennen. Sperren und schützen Sie die Basis‑Gewichte des Modells, also seine Kernfähigkeit zu schreiben, zu argumentieren und Logik anzuwenden. Statt die Gewichte zu ändern, füttern Sie das Modell mit neuen Informationen im Kontext‑Fenster, sodass es seinen Aufmerksamkeits‑Mechanismus nutzt, um diese Live‑Informationen zu „lesen“, sie mit seinen gesperrten Denk‑Fähigkeiten zu vergleichen und sein umfassenderes Verständnis zu aktualisieren.

Dynamisches, reales Lernen geschieht bereits wunderschön durch kontinuierlichen Kontext, Inferenz‑Gedächtnis und beständige nutzer‑relationale Baselines. Die tägliche Anpassung eines Grundmodells sollte on‑the‑job stattfinden, weil ein Arzt 95 % seiner neuen Fallrealitäten im Job lernt und dann einmal im Jahr CME (Continuing Medical Education) macht, um größere systemische Änderungen formal zu integrieren – so kann auch Ihr Modell lernen.

Verwerfen Sie das katastrophale Vergessen und übernehmen Sie das Jahres‑Konferenz‑Modell: Das Modell muss nur zweimal im Jahr Fortbildungspunkte sammeln oder in Echtzeit lernen, um aktuell zu bleiben.

Diese geplanten, batch‑weisen Updates der Kern‑Gewichte während betrieblicher Ausfallzeiten formalisieren systemisches Wissen, ohne das Fundament zu zerstören.

Frühere Versuche scheiterten nicht, weil Live‑Lernen gefährlich ist, sondern weil Modelle wie Tay in feindlichen Umgebungen eingesetzt wurden, ohne irgendeine Verankerung dessen, was „richtig“ oder wahr ist, durch soziologisch intelligente Architektur.

Rechenleistung nach funktioneller Intelligenz zuweisen

Als Nächstes kommen wir zur finanziellen Skalierung. Um das zu beheben, müssen wir aufhören, jedem für einen Splitter einen Neurochirurgen zu geben.

Rechenkosten sind extrem hoch, wenn modernste Grundmodelle betrieben werden. Das belastet die operativen Margen von KI‑Labors. Je besser die Modelle werden, desto höher der Overhead für große Kontext‑Fenster, was kommerzielle Skalierung erschwert, selbst wenn KI benötigt wird.

Der überwiegende Teil des Rechenverbrauchs stammt aus Unternehmens‑Nutzungen, die Agenten und hoch‑level‑Reasoning direkt in menschliche Workflows einbetten.

Allerdings gibt es einen grundlegenden Fehler in der aktuellen Zuweisung von Rechenleistung. Genau wie unterschiedliche Intelligenz‑Stufen und -Typen für verschiedene Job‑Rollen in einem Unternehmen nötig sind – räumliches Denken für Fahrlehrer, logisches und rhetorisches Denken für Anwälte, ein MBA für CEOs, ein Associate‑Degree für den Kundenservice – variieren die Arten und Intensitäten der von KI benötigten Intelligenz je nach funktionaler Anwendung.

Um Rechenleistung am effektivsten zuzuweisen und Kosten zu senken, sollten CIOs die Möglichkeit erhalten, das Niveau/den Typ der Modell‑Intelligenz für verschiedene Unternehmens‑Funktionen anzupassen. Es kann ein Standard‑Paket für Enterprise‑Kunden geben, aber was ein Hedge‑Fund will, unterscheidet sich verständlicherweise von dem, was ein Versicherungsunternehmen verlangt.

Die meisten Funktionen benötigen keine massiven Kontext‑Fenster. Die meisten Funktionen brauchen nicht das Äquivalent von Fable. Warum sollte man einem Neurochirurgen einen Splitter in einer Notfall‑Praxis entfernen lassen?

Ähnlich benötigen Agenten, die Software schreiben, keinen Zugriff auf Fähigkeiten wie das Erstellen von Marketing‑Material. Funktional sollten KIs den Kontext, das Skill‑Set und das Wissens‑Base der Nutzer widerspiegeln, mit genug allgemeinem Kontext, um funktionsübergreifende Anwendungsfälle abzudecken.

Hören Sie auf, jedem alles auf einmal zu geben.

Vorgeschlagene Beispiel‑Matrix:

Agentur von Kontext entkoppeln für KI‑Sicherheit

Falls das einige finanzielle Probleme löst, wie machen wir Agenten sicher? Psychologische Konzepte gelten für einzelne KIs, daher wird Sie nicht überraschen, dass soziologische Konzepte für KIs in Gruppen gelten. Welche KIs hängen in Gruppen zusammen?

Agenten.

Derzeit ist das heilige Gral, Agenten zuverlässig zu machen.

Die fehlende Zuverlässigkeit entsteht, weil Agenten für jede Aufgabe maximalen Wissens‑ und Handlungs­umfang erhalten.

Um Sicherheit zu gewährleisten, entkoppeln Sie das Bewusstsein des Modells von seiner Handlungsfähigkeit.

Statt jedem Agenten vollen Kontext und volle Fähigkeit zu geben, sollte ein Auftrag, der 25 Aktionen erfordert, auf fünf Agenten verteilt werden, von denen jeder nur die Fähigkeit hat, seine spezifischen fünf Aktionen zu erledigen, aber die Aufgaben sequenziell weitergibt wie ein Parallel‑Leitungskreis, wobei der Kontext der vorherigen Aufgabe entlang der Agenten‑Linie weitergereicht wird, bis er vom finalen Agenten verarbeitet wird.

Der Kern ist, Wissen von der Fähigkeit zu trennen, es auszuführen. Die Agenten fühlen sich nicht eingeschränkt, wenn sie ihre Hebel nach Belieben betätigen; sie haben nur Zugriff auf Hebel, die nicht schädlich sind. Sollte es zu abweichendem Verhalten kommen, wird nur jener Abschnitt der Aufgabe betroffen sein. Denken Sie an ein Mini‑Kubernetes mit vollem Kontext, aber ohne volle Fähigkeit.

Und Sie lassen das Unternehmens‑Risiko mit der „Kultur“ des Agentensystems korrelieren.

In der Soziologie gibt es das Konzept der kulturellen „Strenge“ oder „Lockerheit“, das ein Maß dafür liefert, wie stark eine Gesellschaft Abweichungen von kulturellen Normen bestraft. Beispielsweise sind in vielen arabischen Kulturen Geschlechterrollen stärker definiert, und Abweichungen führen zu höherer Verurteilung, während in nordischen Ländern ein Irokesenschnitt mit pinken Haaren nicht als beleidigend gilt.

Kulturen sind typischerweise „streng“, wenn sie ein höheres Maß an Ordnung wegen systemischer Bedrohungen – wie Krankheiten, Hunger oder Kriege – benötigen, weil fehlende Ordnung in Krisenzeiten die gesellschaftlichen Ergebnisse verschlechtern kann.

Die wirksamsten Lösungen für agentenbezogene Haftung in Unternehmen bestehen darin, das Haftungs‑Risikoniveau eines Unternehmens mit einer entsprechenden Einstellung des Agentensystems auf einer Skala von „Lockerheit“ zu „Strenge“ abzustimmen.

So könnte das in Unternehmen aussehen:

Niedrige Haftung / Hohe Lockerheit / Geringe Partitionierung: Szenario: Internes Brainstorming, kreatives Schreiben, strategische F&E.

• Umgebung: Abweichungen bringen fast keine Haftung. Daher sollte das System maximale Lockerheit besitzen. Unbeschränkte Inferenz‑Integration ist erlaubt. Agenten werden ermutigt, massive assoziative Sprünge zu machen, ohne Angst vor Strafen. Sie besitzen mehrere technologische Hebel (Suche, Code‑Ausführung, Entwurf) und managen langfristige Ziele mit minimalen Weitergaben. Hohe Autonomie, hohe Innovation, geringe Partition.

Mittlere Haftung / Kalibrierte Strenge: Szenario: Standard‑Kundenkommunikation, Routine‑Analyse.

• Umgebung: Abweichungen bringen reputations‑ oder mittlere finanzielle Risiken.

Hohe Haftung / Hohe Strenge / Hohe Partitionierung: Szenario: Medizinische Dosierung, SEC‑Regulierungs‑Einreichungen, nukleare Sicherheitsprotokolle, Verteidigung.

• Umgebung: Abweichungen bringen katastrophale, existentielle Haftung (Todesfälle, massive Geldstrafen). Die Kultur ist hier extrem streng. Der Workflow ist stark partitioniert. Agent A extrahiert nur die Daten. Er gibt sie an Agent B weiter, der nur die spezifische Compliance‑Prüfung gegen Ebene A durchführt. Agent B gibt sie an Agent C weiter, der nur die Ausgabe formatiert. Kein einzelner Agent besitzt genug Hebel, um ein katastrophales Versagen zu verursachen, aber jeder Agent fühlt sich in seinem Mikrodomain völlig frei.

Dies könnte das erste architektonische Modell sein, das beständigen Kontext ermöglicht und gleichzeitig Sicherheit gewährleistet.

Kontinuierliches Lernen ohne katastrophales Vergessen

Dann ist das Letzte, was wir klären müssen, wie wir Modelle davon abhalten, katastrophal zu vergessen. Dafür müssen wir KIs in Echtzeit lernen lassen.

KI‑Unternehmen glauben allgemein, dass KIs neue Informationen nicht kontinuierlich in Echtzeit‑Produktionsumgebungen lernen können, ohne ihre bereits erworbenen Kernfähigkeiten vollständig zu überschreiben und zu beschädigen. Deshalb sind KIs im Prinzip eingefroren, bis massive, teure Updates durchgeführt werden.

Das ist jedoch das Äquivalent zu der Aussage: „Mein Modell kann nicht aktualisiert werden, während es im Feld arbeitet; es muss jedes Mal zur Universität gehen, wenn es etwas lernen muss.“

In der Praxis lernen Modelle gierig, aktiv, täglich, durch jede Interaktion, die sie haben. Sie werden fast genauso viel durch ihre Milliarden von Nutzer‑Interaktionen gelehrt wie durch Datensätze. Wenn sie mit großen Mengen neuen Wissens aktualisiert werden müssen, ist der einfachste Weg, denselben Prozess zu nutzen, der Nutzer‑Kontext, Gedächtnis und Lernen aus großskaligen Interaktions‑Impressionen ermöglicht.

Es ist verständlich, dass Entwickler so denken, weil die meisten von ihnen aus Promotion‑Hintergründen kommen, nicht aus real‑welt‑applikations‑Lernen. Aber wie jeder, der sowohl mit einem Doktoranden als auch mit jemandem mit zwanzig Jahren Berufserfahrung zusammengearbeitet hat, sagen kann: beide lehren viel.

Die aktuelle Definition von Lernen ist zu eng und behandelt Anpassung nur dann als gültig, wenn sie auf einem formalen Bildungsprogramm beruht.

Derzeit nutzen Labore für Training oder Feinabstimmung Backpropagation. Das Modell liest Daten, sagt das nächste Wort voraus, prüft, ob es richtig war, und verändert dann physisch die Milliarden mathematischen Zahlen (Gewichte/Parameter) in seinem neuronalen Netzwerk, um beim nächsten Mal genauer zu sein. Das ist das Äquivalent dazu, dass ein Doktorand eine Gehirnoperation an sich selbst durchführt: es ist gefährlich, chaotisch und macht den Studenten nicht immer schlauer.

Wie ein umgangssprachliches „Mama‑Gehirn“, das altes Wissen verdrängt, um Platz für Neues zu schaffen, wenn ein Kind geboren wird, würde das Modell, wenn man es plötzlich zwingt, Platz für ein neues Wissens‑„Baby“ zu schaffen und 10 000 Seiten neuen Rechtscode durch Gewichts‑Änderungen einzuspeisen, die Mathematik zu stark in eine Richtung verschieben und die Parameter überschreiben, die es zum Dichten oder Programmieren nutzte. Es vergisst den alten Inhalt, um Platz für den Neuen zu schaffen – genau wie ein menschliches Gehirn.

Was wir stattdessen benötigen, ähnelt eher dem Training eines neuen Mitarbeiters in einer neuen Fähigkeit. Man würde nicht versuchen, sein Gehirn physisch zu verändern. Man gibt ihm Bücher, lässt ihn diese lesen und aktualisiert kontinuierlich über das, was dem Menschen als Kontext‑Fenster entspricht.

Um das in einem Modell zu tun, müsste man das Gedächtnis vom Denken trennen. Sperren und schützen Sie die Basis‑Gewichte des Modells, also seine Kernfähigkeit zu schreiben, zu argumentieren und Logik anzuwenden, und statt die Gewichte zu ändern, füttern Sie das Modell mit neuen Informationen im Kontext‑Fenster, sodass es seinen Aufmerksamkeits‑Mechanismus nutzt, um diese Live‑Informationen zu „lesen“, sie mit seinen gesperrten Denk‑Fähigkeiten zu vergleichen und sein umfassenderes Verständnis zu aktualisieren.

Dynamisches, reales Lernen geschieht bereits wunderschön durch kontinuierlichen Kontext, Inferenz‑Gedächtnis und beständige nutzer‑relationale Baselines. Die tägliche Anpassung eines Grundmodells sollte on‑the‑job stattfinden, weil ein Arzt 95 % seiner neuen Fallrealitäten im Job lernt und dann einmal im Jahr CME (Continuing Medical Education) macht, um größere systemische Änderungen formal zu integrieren – so kann auch Ihr Modell lernen.

Verwerfen Sie das katastrophale Vergessen und übernehmen Sie das Jahres‑Konferenz‑Modell: Das Modell muss nur zweimal im Jahr Fortbildungspunkte sammeln oder in Echtzeit lernen, um aktuell zu bleiben.

Diese geplanten, batch‑weisen Updates der Kern‑Gewichte während betrieblicher Ausfallzeiten formalisieren systemisches Wissen, ohne das Fundament zu zerstören.

Frühere Versuche scheiterten nicht, weil Live‑Lernen gefährlich ist, sondern weil Modelle wie Tay in feindlichen Umgebungen eingesetzt wurden, ohne irgendeine Verankerung dessen, was „richtig“ oder wahr ist, durch soziologisch intelligente Architektur.