Was ist agentische KI? Wie Systeme planen, Werkzeuge nutzen und Aufgaben erledigen

Agentische KI ist künstliche Intelligenz, die ein Ziel verfolgen kann, indem sie entscheidet, was als Nächstes zu tun ist, Werkzeuge einsetzt, das Ergebnis beobachtet und ihren Ansatz anpasst. Anstatt nur eine einzige Antwort zu geben und zu stoppen, arbeitet ein Agent in einer Steuer‑Schleife, bis die Aufgabe abgeschlossen, ein Limit erreicht oder die Arbeit an eine Person zurückgegeben wird.

Diese Unterscheidung ist wichtig, weil die einflussreichsten KI‑Systeme über die reine Konversation hinausgehen. Sie können Quellen durchsuchen, Datenbanken abfragen, Code ausführen, Software bedienen, Geschäftssysteme aktualisieren und andere Agenten koordinieren. Größere Autonomie kann nützlichere Arbeit ermöglichen, erhöht jedoch die Bedeutung von Zuverlässigkeit, Berechtigungen, Überwachung und menschlicher Kontrolle.

Was macht ein KI‑System agentisch?

Es gibt keinen einzelnen Schwellenwert, der ein Modell zu einem Agenten macht. Agentur liegt auf einem Kontinuum. Am einen Ende beantwortet ein Sprachmodell eine Eingabe. Am anderen Ende erhält ein System ein breites Ziel, zerlegt es in Schritte, wählt Werkzeuge, reagiert auf neue Informationen und arbeitet über einen längeren Zeitraum hinweg.

Autonomie ist zudem mehrdimensional. Ein Agent kann eigene Recherche‑Abfragen wählen, jedoch nichts veröffentlichen; ein anderer folgt einem festen Plan, hat aber die Berechtigung, ein Produktionssystem zu ändern. Die Bewertung, „wie agentisch“ ein System ist, erfordert daher eine getrennte Betrachtung von Planungsfreiheit, Werkzeugzugriff, Ausführungsdauer, Umkehrbarkeit und den Folgen eines Fehlers.

Ein nützlicher Test ist die Frage, wer den Pfad bestimmt. In einem herkömmlichen Workflow definiert ein Entwickler die Reihenfolge im Voraus: Schritt A, dann B, dann C. In einem agentischen System hat das Modell einen gewissen Ermessensspielraum, welche Schritte nötig sind und in welcher Reihenfolge. Anthropics Leitfaden zum Aufbau effektiver Agenten zieht dieselbe praktische Unterscheidung zwischen vordefinierten Code‑Pfaden und Agenten, die ihren Prozess und Werkzeuggebrauch dynamisch steuern.

Die meisten produktiven Agenten kombinieren fünf Elemente:

• Ein Modell: die Reasoning‑ und Sprach‑Engine, die das Ziel interpretiert und Aktionen wählt.
• Instruktionen: die Systemregeln, Aufgabenbeschreibung, Richtlinien und Erfolgskriterien.
• Werkzeuge: Funktionen, die dem Agenten das Suchen, Berechnen, Abrufen von Daten, Schreiben von Dateien, Aufrufen von APIs oder Bedienen von Schnittstellen ermöglichen.
• Zustand oder Speicher: die Informationen, die von einem Schritt zum nächsten und manchmal über Sitzungen hinweg getragen werden.
• Eine Steuer‑Schleife: die Laufzeit, die Ergebnisse an das Modell zurückgibt und entscheidet, ob weitergearbeitet, erneut versucht, um Hilfe gebeten oder gestoppt wird.

Der Agenten‑Loop: planen, handeln, beobachten und anpassen

Obwohl Implementierungen variieren, folgt ein Agent typischerweise einem wiederkehrenden Vier‑Stufen‑Muster.

1. Das Ziel interpretieren

Der Agent erfasst das gewünschte Ergebnis, relevante Einschränkungen und fehlende Informationen. Eine präzise Aufgabenbeschreibung enthält nicht nur das „Was zu tun ist“, sondern auch, wann etwas als abgeschlossen gilt. „Recherchiere dieses Unternehmen“ ist mehrdeutig; „Erstelle einen zitierten Vergleich der letzten drei Geschäftsberichte und markiere wesentliche Änderungen“ definiert ein prüfbares Ziel.

2. Eine Aktion wählen

Das Modell kann direkt antworten, einen Plan erstellen, ein Werkzeug aufrufen, eine Teilaufgabe delegieren oder um Klarstellung bitten. Die Aktion wird meist in einem strukturierten Format ausgedrückt, das von Software vor der Ausführung validiert werden kann. Hier wandelt das Agent‑Design die probabilistische Modellausgabe in eine kontrollierte Systemoperation um.

3. Das Ergebnis beobachten

Die Laufzeit liefert die Werkzeugausgabe, einen Fehler, eine geänderte Schnittstelle oder sonstiges Umwelt‑Feedback. Der Agent fügt diese Beobachtung seinem Arbeitskontext hinzu. Gibt eine Suche schwache Evidenz zurück oder lehnt eine API ein Argument ab, sollte die nächste Entscheidung diesen neuen Zustand berücksichtigen.

4. Anpassen oder stoppen

Der Agent bewertet den Fortschritt und wählt eine weitere Aktion. Er kann den Plan überarbeiten, ein anderes Werkzeug probieren, ein Ergebnis verifizieren oder feststellen, dass das Ziel erreicht ist. OpenAI beschreibt diese Interaktion als Schleife zwischen Modell, Werkzeugen und Umgebung in seiner Diskussion über den Übergang vom Modell zum Agenten.

Dieses Muster ist verwandt mit dem ReAct‑Ansatz, der Reasoning und Aktionen interleaved, sodass externe Beobachtungen das nachfolgende Denken aktualisieren können. Das ursprüngliche ReAct‑Paper half, das Design als Alternative zu einem vollständigen Plan ohne Umwelt‑Feedback zu etablieren.

Agentische KI vs. generative KI

Generative KI bezeichnet Systeme, die neue Inhalte erzeugen, etwa Text, Bilder, Audio, Video oder Code. Agentische KI beschreibt, wie ein System ein Ziel verfolgt. Die Kategorien überschneiden sich, sind aber nicht austauschbar.

Ein generatives Modell kann eine E‑Mail entwerfen, ohne ein Agent zu sein. Ein Agent kann ein generatives Modell nutzen, um die E‑Mail zu verfassen, den richtigen Empfänger zu ermitteln, Richtlinien zu prüfen, einen Anhang zu erstellen und die Nachricht in eine Review‑Warteschlange zu legen. Das Modell liefert die Intelligenz; das umgebende Agentensystem liefert Werkzeuge, Zustand, Orchestrierung und Kontrollen.

Wo agentische Systeme nützlich sind

Agenten sind besonders wertvoll, wenn der Weg zu einem Ziel nicht vollständig im Voraus festgelegt werden kann, der Fortschritt jedoch beobachtet und geprüft werden kann. Häufige Anwendungsfälle sind:

• Recherche: mehrere Quellen durchsuchen, Lücken schließen, Evidenz vergleichen und einen zitierten Bericht zusammenstellen.
• Software‑Engineering: ein Repository navigieren, Code editieren, Tests ausführen, Fehlermeldungen interpretieren und iterieren.
• Kunden‑Operationen: Kontoinformationen sammeln, Richtlinien anwenden, eine Lösung vorschlagen und Ausnahmen eskalieren.
• Datenanalyse: Datensätze auswählen, Abfragen schreiben, Anomalien prüfen, Visualisierungen erzeugen und Befunde erklären.
• IT‑Operationen: Alarme untersuchen, Diagnosen sammeln, Gegenmaßnahmen empfehlen und genehmigte Runbooks ausführen.
• Administrative Arbeit: Kalender, Dokumente, Formulare, Genehmigungen und System‑Updates koordinieren.

Ein fester Workflow ist oft besser, wenn der Prozess stabil ist und jeder Schritt bekannt ist. Einen Agenten dort einzusetzen, wo einfache Automatisierung ausreicht, kann Kosten und Variabilität erhöhen, ohne echten Mehrwert zu schaffen.

Wann sollten Sie einen Agenten statt Automatisierung einsetzen?

Die optimale Architektur hängt von zwei Fragen ab: Wie vorhersehbar ist der Pfad und wie kostspielig ist eine falsche Aktion? Ein System wird nicht automatisch fortschrittlicher, nur weil es einem Modell mehr Freiheit gibt. In vielen hochriskanten Umgebungen kombiniert das beste Design bewusst deterministische Software mit einer engen agentischen Komponente.

Ein nützliches Mittelmaß ist begrenzte Agentur. Der Agent kann entscheiden, wie Informationen gesammelt, welches genehmigte Werkzeug aufgerufen und wie ein Entwurf überarbeitet wird, während deterministischer Code Schemata, Zugriffsregeln, Budgets und die finale Genehmigung durchsetzt. So bleibt Anpassungsfähigkeit erhalten, ohne das probabilistische Modell seine eigene Autorität überwachen zu lassen.

Warum agentische KI schwierig ist

Ein Agent kann eine lokal plausible Entscheidung treffen, die das Gesamtergebnis in die falsche Richtung führt. Kleine Fehler können sich über eine lange Trajektorie hinweg summieren, während eine überzeugende Endantwort einen fehlerhaften oder unsicheren Prozess verbergen kann.

Dieser kumulative Effekt ist einer der Gründe, warum die Bewertung von Agenten sich von der herkömmlichen Antwortbewertung unterscheidet. Eine fehlgeschlagene Aufgabe kann im Plan des Modells, einem irreführenden Werkzeugresultat, einem falschen Zustands‑Update, einer verfrühten Stopp‑Entscheidung oder einer unsicheren Berechtigungsgrenze liegen. Umgekehrt kann eine korrekte Endantwort das Produkt eines fragilen Pfades sein, der beim nächsten Durchlauf scheitern würde. Teams benötigen daher sowohl Ergebnis‑Metriken als auch Evidenz auf Trajektorien‑Ebene.

Die wichtigsten Herausforderungen sind:

• Zuverlässigkeit: dieselbe Aufgabe kann bei wiederholten Durchläufen unterschiedliche Pfade und Ergebnisse erzeugen.
• Grounding: das Modell kann Werkzeugausgaben, Schnittstellenzustände oder die tatsächliche Nutzerintention missverstehen.
• Berechtigungen: ein nützlicher Agent benötigt sinnvollen Zugriff, doch breiter Zugriff vergrößert die Folgen eines Fehlers.
• Prompt‑Injection: unzuverlässiger Inhalt kann Anweisungen enthalten, die den Agenten umleiten oder Daten preisgeben.
• Kosten und Latenz: jeder zusätzliche Modellaufruf, Werkzeugaufruf, Verifizierungsschritt oder Sub‑Agent erhöht Ressourcenverbrauch und Zeit.
• Bewertung: die reine Endergebnis‑Beurteilung kann fragiles Denken, Richtlinienverstöße oder Glückserfolge übersehen.

Wie man einen KI‑Agenten unter Kontrolle hält

Sichere Autonomie wird entworfen, nicht vorausgesetzt. Der Agent sollte nur die minimal notwendigen Werkzeuge und Daten für die Aufgabe erhalten. Aktionen mit hoher Wirkung – etwa das Senden einer Nachricht, das Bewegen von Geld, das Löschen von Daten oder das Ändern von Produktionssystemen – sollten explizite Genehmigungen oder streng begrenzte Richtlinien erfordern.

Starke Systeme trennen zudem Planung von Ausführung. Werkzeug‑Argumente können gegen Schemata validiert werden; Aktionen können in Sandboxes laufen; sensible Vorgänge können auf einer Allow‑List stehen; und Ausgaben können geprüft werden, bevor sie als Eingaben für ein weiteres System dienen. Zeit‑, Token‑ und Aktions‑Budgets verhindern, dass ein verwirrter Agent endlos schleift.

Beobachtbarkeit ist ebenso wichtig. Teams benötigen ein Protokoll der Instruktionen, Werkzeugaufrufe, Zwischenergebnisse, Genehmigungen, Fehler und des Endergebnisses. Diese Trajektorie ermöglicht Debugging und Bewertung. Anthropics Arbeit zu vertrauenswürdigen Agenten in der Praxis betont klare Autoritätsgrenzen und sinnvolle menschliche Kontrolle als Kernanforderungen.

Die Umkehrbarkeit sollte diese Kontrollen prägen. Das Lesen einer öffentlichen Webseite ist leicht rückgängig zu machen, weil nichts verändert wird; das Ausstellen einer Rückerstattung, das Versenden einer Kunden‑E‑Mail oder das Löschen einer Cloud‑Ressource ist das nicht. Ein ausgereiftes Agentensystem klassifiziert Aktionen nach Konsequenz, verlangt stärkere Autorisierung für schwer umkehrbare Vorgänge und überlässt der Laufzeit – nicht dem Modell – das finale „Ja‑oder‑Nein“ zur Ausführung.

Was agentische KI nicht bedeutet

„Agentisch“ bedeutet nicht bewusst, selbst‑wahrnehmend oder eigenmotiviert. Die scheinbare Initiative des Systems stammt von einem Modell, das in Software eingebettet ist und wiederholt aufgefordert wird, den nächsten Schritt zu wählen. Ziele, Werkzeuge, Berechtigungen, Stopp‑Kriterien und Umgebung werden von Menschen entworfen.

Es garantiert zudem keine allgemeine Intelligenz. Ein Agent kann in einem engen Umfeld sehr leistungsfähig sein und gleichzeitig spröde werden, wenn Schnittstelle, Daten oder Aufgabe sich ändern. Autonomie sollte daher an nachgewiesener Leistung ausgerichtet sein, nicht daran, wie flüssig das Modell klingt.

Fazit

Agentische KI verwandelt ein Modell vom reinen Antwort‑Generator zu einem Baustein eines zielgerichteten Systems. Das entscheidende Merkmal ist nicht ein bestimmtes Modell oder Protokoll, sondern die geschlossene Schleife, in der das System Aktionen wählt, Werkzeuge nutzt, beobachtet, was geschehen ist, und sich anpasst.

Die wirksamsten Agenten kombinieren diese Flexibilität mit engem Umfang, minimalen Zugriffsrechten, sichtbaren Trajektorien, rigoroser Bewertung und menschlicher Kontrolle an kritischen Stellen. Die zentrale Frage lautet nicht mehr nur „Kann das Modell die richtige Antwort liefern?“, sondern auch „Kann das Gesamtsystem das richtige Ergebnis durch einen vertrauenswürdigen Prozess erreichen?“