Wie KI‑Agenten funktionieren: Das Modell, Werkzeuge, Gedächtnis und die Kontrollschleife

Ein KI‑Agent funktioniert, indem er ein Modell mit Anweisungen, Werkzeugen, Gedächtnis und einer Kontrollschleife kombiniert, die wiederholt entscheidet, was als Nächstes zu tun ist. Das Modell liefert Urteils‑ und Sprachfähigkeiten, während die umgebende Software diese Fähigkeiten in einen zustandsbehafteten Prozess verwandelt, der handeln, Ergebnisse prüfen, sich von Fehlern erholen und stoppen kann.

Dieses Architekturverständnis ist nützlicher, als einen Agenten als ein einziges intelligentes Objekt zu betrachten. Die meisten Erfolge und Misserfolge entstehen durch die Interaktion der Komponenten: ein hervorragendes Modell kann durch vage Werkzeuge, veraltetes Gedächtnis, übermäßige Berechtigungen oder eine Kontrollschleife ohne zuverlässige Definition des Abschlusses untergraben werden.

Die fünf Kernkomponenten eines KI‑Agents

1. das Modell

Das Modell interpretiert das Ziel, schlussfolgert über den verfügbaren Kontext und wählt eine Aktion aus. Bei vielen heutigen Agenten handelt es sich dabei um ein großes Sprachmodell, das Anweisungen folgen und sowohl strukturierte Werkzeugaufrufe als auch natürliche Sprache erzeugen kann.

Das leistungsfähigste Modell ist nicht automatisch die beste Wahl für jeden Schritt. Ein System kann schwierige Planungen an ein stärkeres Modell weiterleiten, ein schnelleres Modell für Klassifikationen einsetzen und für Validierungen deterministischen Code nutzen. Diese Kombination kann Geschwindigkeit, Kosten und Zuverlässigkeit verbessern.

2. Anweisungen

Anweisungen definieren die Rolle, Grenzen, Prioritäten und Ausgabekriterien des Agenten. Sie können einen System‑Prompt, aufgabenspezifischen Kontext, Richtlinien, Beispiele, Werkzeugbeschreibungen und Abbruchkriterien enthalten.

Gute Anweisungen sind operativ. Sie teilen dem Agenten mit, welche Belege erforderlich sind, wann um Genehmigung zu bitten ist, welche Quellen akzeptabel sind und wie der Abschluss zu erkennen ist. Vage oder widersprüchliche Regeln zwingen das Modell zu raten, was zu Inkonsistenzen bei ansonsten ähnlichen Aufgaben führt.

3. Werkzeuge

Werkzeuge verbinden das Modell mit Fähigkeiten außerhalb seines aktuellen Kontexts. Ein Werkzeug kann das Web durchsuchen, einen Kundendatensatz abrufen, Code ausführen, eine Datenbank abfragen, einen Browser steuern oder einen Kalendereintrag erstellen.

Das Modell führt die Funktion normalerweise nicht selbst aus. Es wählt ein benanntes Werkzeug und schlägt strukturierte Argumente vor. Die Laufzeit des Agenten validiert die Anfrage, prüft Berechtigungen, führt die Operation aus und gibt das Ergebnis zurück. Diese Trennung ist wesentlich: sie gibt der Software die Möglichkeit, fehlerhafte oder unsichere Aktionen abzulehnen, bevor sie die Außenwelt beeinflussen.

4. Zustand und Gedächtnis

Zustand ist die Information, die der Agent während des aktuellen Durchlaufs benötigt: das Ziel, die Unterhaltung, den Plan, Beobachtungen, Werkzeugausgaben und abgeschlossene Schritte. Gedächtnis erweitert dieses Konzept, indem es nützliche Informationen über den unmittelbaren Kontext hinaus speichert, etwa frühere Präferenzen, wiederkehrende Fakten oder Erkenntnisse aus früheren Aufgaben.

Mehr Gedächtnis ist nicht immer besser. Irrelevante Einträge verbrauchen Kontext und können das Modell zu veralteten Annahmen führen. Effektive Gedächtnissysteme entscheiden, was gespeichert wird, wie es organisiert wird, wann es abgerufen wird und wie widersprüchliche oder abgelaufene Informationen gehandhabt werden.

5. die Kontrollschleife

Die Kontrollschleife ist die Orchestrierungsebene, die den Prozess am Laufen hält. Sie sendet den aktuellen Zustand an das Modell, erhält eine vorgeschlagene Aktion, führt genehmigte Werkzeuge aus, protokolliert die Beobachtung und ruft das Modell erneut auf.

Anthropic beschreibt einen Agenten als ein erweitertes Sprachmodell, das in einer Schleife mit Fähigkeiten wie Abruf, Werkzeugen und Gedächtnis arbeitet, in seinem Leitfaden zum Erstellen effektiver Agenten. OpenAI stellt die Agentenausführung ähnlich als fortlaufende Interaktion zwischen Modell, Werkzeugen und einer Umgebung in From Model to Agent dar.

Die Schnittstellen sind ebenso wichtig wie die Komponenten

Ein Architekturdiagramm kann jede Komponente sauber getrennt darstellen, doch die tatsächliche Zuverlässigkeit hängt von den Verträgen zwischen ihnen ab. Das Modell benötigt Werkzeugbeschreibungen, die ähnliche Fähigkeiten unterscheiden. Die Laufzeit benötigt typisierte Argumente und explizite Fehlzustände. Der Gedächtnisabruf benötigt Herkunfts‑ und Aktualitätsinformationen. Der Abschlussprüfer benötigt Kriterien, die testbar sind, statt eines vagen Gefühls, dass die Antwort ausreichend gut ist.

Betrachten Sie ein Suchwerkzeug, das eine leere Liste zurückgibt. Dieses Ergebnis kann bedeuten, dass keine relevanten Einträge existieren, die Anfrage fehlerhaft war, dem Nutzer die Berechtigung fehlt oder der Dienst zeitlich abgelaufen ist. Wenn das Werkzeug alle vier Bedingungen in derselben Ausgabe zusammenfasst, kann das Modell nicht zuverlässig über das Geschehene schlussfolgern. Eine gut gestaltete Schnittstelle liefert strukturierte Evidenz: Status, Quelle, Zeitstempel, Anfrage, Ergebnisanzahl und bei Bedarf einen maschinenlesbaren Fehler.

Dasselbe Prinzip gilt für den Kontext. Anweisungen, autoritative Aufzeichnungen, abgerufene Passagen, vom Modell erstellte Notizen und nicht vertrauenswürdige externe Inhalte sollten nicht als gleichwertiger Text behandelt werden. Die Kennzeichnung ihrer Quelle und Autorität hilft der Laufzeit, Richtlinien durchzusetzen, und dem Modell, Evidenz korrekt zu gewichten. Dies ist eine praktische Form der Kontext‑Engineering: nicht nur zu entscheiden, welche Informationen das Modell sieht, sondern wie diese Informationen organisiert sind und was das System ihm erlauben darf zu steuern.

Ein Schritt‑für‑Schritt‑Beispiel

Stellen Sie sich einen Agenten vor, der beauftragt wird, drei potenzielle Lieferanten zu vergleichen und eine Empfehlung zu erstellen.

1. Ziel empfangen: Der Agent liest die Entscheidungskriterien, Frist, das Budget und die erforderliche Ausgabe.
2. Verfügbaren Kontext prüfen: Er prüft, ob die Lieferantennamen, internen Anforderungen und Quelldokumente vorhanden sind.
3. Plan erstellen: Er entscheidet, Preisangaben, Sicherheitsinformationen, Servicebedingungen und Kundennachweise für jeden Lieferanten zu sammeln.
4. Werkzeug auswählen: Er durchsucht einen genehmigten Dokumentenspeicher oder ruft ein externes Recherche‑Tool auf.
5. Beobachten: Die Laufzeit gibt Ergebnisse zurück, einschließlich möglicher Fehler oder fehlender Felder.
6. Zustand aktualisieren: Der Agent protokolliert, was er gelernt hat, und markiert offene Fragen.
7. Anpassen: Er ändert Anfragen, konsultiert eine andere Quelle oder bittet eine Person um ein nicht verfügbares Dokument.
8. Verifizieren: Er prüft, dass jede Empfehlung unterstützt wird und dass Vergleiche dieselben Kriterien verwenden.
9. Stoppen oder Genehmigung anfordern: Er erstellt einen Entwurf der Empfehlung, lässt jedoch die Kaufentscheidung der autorisierten Person.

Der wichtige Punkt ist, dass die Reihenfolge nicht vollständig fest codiert war. Das System wählte Schritte als Reaktion auf das Gefundene aus, operierte jedoch weiterhin innerhalb der vorgesehenen Grenzen.

Planung ist nicht immer eine separate Phase

Einige Agenten erstellen einen vollständigen Plan, bevor sie handeln. Andere entscheiden Schritt für Schritt. Viele nutzen einen Hybrid: sie erstellen einen groben Plan, führen die nächste Aktion aus und überarbeiten den verbleibenden Plan, sobald Beobachtungen eintreffen.

Lange, starre Pläne können nach dem ersten unerwarteten Ergebnis veraltet sein. Rein reaktive Agenten können umherirren oder Arbeit wiederholen. Ein praktisches Design behält ausreichend Planung bei, um die Richtung zu wahren, und ermöglicht gleichzeitig eine Neupositionierung, wenn sich die Umgebung ändert.

Das ReAct‑Framework ist ein grundlegendes Beispiel für das Verflechten von Denken mit Aktionen und Beobachtungen. Seine zentrale Erkenntnis ist, dass ein externes Ergebnis den nächsten Denkschritt korrigieren, verfeinern oder umleiten kann.

Wie Agenten wissen, wann sie stoppen

Das Stoppen ist ein Problem des Systemdesigns. Ein Modell kann zu früh Erfolg deklarieren, nach Erreichen des Ziels weiter verfeinern oder in einer Schleife verbleiben, wenn ein Werkzeug wiederholt fehlschlägt.

Zuverlässige Agenten kombinieren mehrere Stopp‑Mechanismen:

• Abschlusskriterien: explizite Bedingungen wie erforderliche Felder, bestandene Tests oder verifizierte Zitate.
• Budgets: Beschränkungen für Schritte, Zeit, Modell‑Token, Werkzeugaufrufe oder Kosten.
• Fehlerschwellen: Eskalation nach wiederholten Fehlern oder Beobachtungen mit geringer Sicherheit.
• Genehmigungsschranken: eine Pause vor hochwirksamen oder unumkehrbaren Aktionen.
• Externe Prüfer: deterministische Prüfungen oder separate Modelle, die beurteilen, ob die Ausgabe die Aufgabe erfüllt.

Gängige Agenten‑Architekturen

Eine Einzel‑Agent‑Schleife ist das einfachste Design: ein Modell verwendet wiederholt Werkzeuge, bis es fertig ist. Sie ist leichter zu debuggen und oft ausreichend.

Ein Router klassifiziert die Anfrage und leitet sie an einen spezialisierten Prompt, Werkzeug‑Set oder ein Modell weiter. Routing reduziert irrelevante Optionen und kann unterschiedliche Richtlinien für verschiedene Arbeiten anwenden.

Eine Orchestrator‑Worker‑Architektur ermöglicht es einem leitenden Agenten, Teilaufgaben zu erstellen und an Worker zu delegieren, um anschließend deren Ergebnisse zu synthetisieren. Dies ist nützlich, wenn Arbeiten parallel ausgeführt werden können oder unterschiedliche Fachgebiete erfordern, erhöht jedoch den Token‑Verbrauch und die Fehlermöglichkeiten bei der Koordination.

Eine Evaluator‑Optimierer‑Schleife trennt die Erzeugung von der Kritik. Eine Komponente erzeugt eine Antwort; eine andere prüft sie anhand definierter Kriterien; die erste überarbeitet sie. Dies funktioniert gut, wenn Qualität messbar ist und Verbesserungen durch Iteration die zusätzlichen Kosten rechtfertigen.

Was normalerweise schiefgeht

• Schlechte Werkzeugbeschreibungen: Das Modell wählt die falsche Fähigkeit oder liefert ungültige Argumente.
• Unbegrenzter Kontext: Lange Transkripte füllen sich mit irrelevanten Details und verbergen entscheidende Informationen.
• Stille Werkzeugfehler: Ein leeres oder teilweises Ergebnis wird fälschlich als gültige Beobachtung angesehen.
• Schwache Verankerung: Der Agent handelt aufgrund einer Annahme, anstatt das offizielle System zu prüfen.
• Übermäßige Autonomie: Der Agent kann folgenschwere Aktionen ausführen, ohne dass eine angemessene Prüfungsgrenze besteht.
• Keine Trajektorien‑Bewertung: Teams beurteilen die Endantwort, prüfen jedoch nicht, wie der Agent zu ihr gelangte.

Gestaltungsprinzipien für zuverlässige Agenten

Beginnen Sie mit der kleinsten Architektur, die die Aufgabe lösen kann. Ein deterministischer Workflow sollte bekannte Schritte abwickeln; das Ermessen des Modells nur für Entscheidungen vorbehalten, die tatsächlich Interpretation erfordern. Geben Sie jedem Werkzeug einen engen Zweck, typisierte Eingaben, explizite Fehlzustände und Zugriff mit minimalen Rechten.

Machen Sie den Zustand sichtbar. Protokollieren Sie jeden Werkzeugaufruf, jedes Ergebnis, jeden Wiederholungsversuch, jede Genehmigung und jede Modellentscheidung, die für die Diagnose erforderlich ist. Komprimieren Sie alten Kontext, anstatt ihn endlos anzuhängen, und bewahren Sie autoritative Daten getrennt von vom Modell erzeugten Zusammenfassungen auf.

Gestalten Sie die Laufzeit so, dass Fehler explizit werden. Ein Werkzeug sollte zwischen „keine Einträge gefunden“ und „Anfrage fehlgeschlagen“ unterscheiden, und der Zustands‑Store sollte zwischen verifizierten Fakten und vom Modell erzeugten Zusammenfassungen unterscheiden. Andernfalls könnte das Modell eine durch einen Timeout verursachte Abwesenheit als Hinweis interpretieren, dass etwas nicht existiert.

Abschließend das Gesamtsystem evaluieren. Führen Sie dieselbe Aufgabe mehrfach aus, messen Sie Erfolg und Ressourcennutzung und prüfen Sie die Trajektorien auf Richtlinienverstöße oder fragile Abkürzungen. Anthropics Leitfaden zu Agent‑Bewertungen betont, dass Agenten Aufgaben, wiederholbare Versuche, Transkripte und Prüfer benötigen – nicht nur eine Handvoll beeindruckender Demos.

Was man über die Funktionsweise von KI‑Agenten wissen sollte

Ein KI‑Agent ist eine konstruierte Schleife, nicht nur ein intelligentes Modell. Das Modell entscheidet; Werkzeuge handeln; das Gedächtnis trägt den Zustand; die Umgebung liefert Evidenz; und die Kontrollschleife bestimmt, was als Nächstes geschieht.

Wenn diese Teile klare Schnittstellen und Grenzen haben, kann ein Agent offene Aufgaben bewältigen, die konventionelle Automatisierung nicht voraussehen kann. Fehlen diese, verstärkt die Autonomie die Mehrdeutigkeit. Die Qualität eines Agenten hängt daher ebenso stark vom Systemdesign, den Berechtigungen und der Bewertung ab wie vom zugrunde liegenden Modell.