Kong ergänzt Konnect um Kontrollen für KI-Kosten, Zugangsdaten und Beobachtbarkeit

Kong führte das KI-Management in Kong Konnect ein. Die am 4. November 2026 vorgestellte Lösung ergänzt Kontrollen für KI-Ausgaben, Zugangsdaten, die geregelte Erkennung von Ressourcen und die Beobachtbarkeit, während Unternehmen ihre Agenten in den Produktivbetrieb überführen.

Die Komponenten für Kostenmanagement, Zugangsdaten, Kontext und grundlegende Beobachtbarkeit sind zusammen mit Kong AI Gateway auf Konnect verfügbar und nicht als separate Zusatzmodule. Teams, die das Gateway bereits einsetzen, können sie daher ohne zusätzlichen Kauf nutzen. Die umfassendere Veröffentlichung führt außerdem eine geregelte Erkennung von Modellen, Model Context Protocol (MCP)-Servern und Agenten ein.

Kong geht vier operative Lücken an: Ausgaben, die sich keinem Team oder keiner Anwendung zuordnen lassen, in Agentencode oder Prompts eingebettete Zugangsdaten, APIs, die wiederholt als Agentenwerkzeuge eingebunden werden, und das Fehlen einer konsolidierten Übersicht über die Aktivitäten eines Agenten. Diese Lücken lassen sich schwerer schließen, wenn eine Aufgabe mehrere Modelle, MCP-Server, APIs, Werkzeuge und andere Agenten einbezieht. Werden die Kontrollen in den Verbindungspfad integriert, können Richtlinien und Nutzungsdaten diesen Interaktionen folgen, statt von jedem Anwendungsteam nachträglich zusammengetragen werden zu müssen.

Kostenzuordnung und Laufzeitoptimierung

KI-Kostenmanagement kombiniert Nutzungsdaten des Gateways mit der Identität und dem Kontext einer Anfrage, um Ausgaben Geschäftsbereichen, Entwicklungsteams, Anwendungen, Agenten, einzelnen Nutzern, Kunden oder Mandanten zuzuordnen. Der Preiskatalog bündelt die Token- und Nutzungspreise der Anbieter und ermöglicht Anpassungen für individuell ausgehandelte Vereinbarungen. Integrationen mit KI-Werkzeugen von Drittanbietern erweitern die Kostenzuordnung auf Programmierumgebungen, Copiloten und Softwareentwicklungsabläufe.

Teams können für diese Zuordnungsgruppen Budgets festlegen und werden benachrichtigt, wenn sich der Verbrauch den Schwellenwerten nähert. Die Konnect-Übersicht bietet zudem Optionen für feste und flexible Budgetgrenzen sowie ein Dashboard, in dem sich Ausgaben nach Team, Entwicklungsumgebung oder Repository mit den jeweiligen Budgetobergrenzen vergleichen lassen.

Die Optimierung erfolgt auf der Infrastrukturebene durch intelligentes Modell-Routing, semantisches Caching, Prompt-Caching, Prompt-Komprimierung und Kontrollen für Schlussfolgerungen. Laut Kong hängt der mögliche Nutzen von der jeweiligen Arbeitslast ab: Semantisches Caching eignet sich besonders für wiederholte oder ähnliche Anfragen, während Routing stärker ins Gewicht fallen kann, wenn teure Modelle Aufgaben übernehmen, die auch kostengünstigere Alternativen bewältigen könnten. „Opportunities“, eine künftig verfügbare Funktion zum Aufspüren weiterer Effizienzpotenziale und zur Messung der Einsparungen durch Optimierungen, ist als demnächst verfügbar gekennzeichnet und nicht in der ersten Veröffentlichung enthalten.

Benutzerbezogene Zugangsdaten für Agentenverkehr

Token-Tresor wurde mit benutzerbezogenem OAuth mit drei Beteiligten in Kong AI Gateway 2.3 eingeführt und ist in allen Kong-Gateway-Abonnements enthalten. Ein Benutzer und ein Agent authentifizieren sich mit den Zugangsdaten des unternehmenseigenen Identitätsanbieters bei einem Proxy für einen MCP-Server. Bevor Zugangsdaten für das nachgelagerte System geladen werden, werden Zugriff, Protokollierung, Ratenbegrenzung und weitere Gateway-Richtlinien geprüft.

Bei der ersten Verwendung kann das Gateway über MCP-URL-Aufforderungen oder ein synthetisches Werkzeug einen kurzlebigen Registrierungslink zurückgeben. Der Benutzer durchläuft den üblichen OAuth-Zustimmungsprozess des nachgelagerten Dienstes. Anschließend verschlüsselt das Gateway die dabei erhaltenen Aktualisierungstoken mit dem Schlüssel des Kunden und übermittelt den verschlüsselten Datencontainer zur Speicherung an Kong Identity.

Bei späteren autorisierten Aufrufen entschlüsselt das Gateway die Zugangsdaten im Arbeitsspeicher mit einem privaten Schlüssel, den es aus dem Geheimnisspeicher des Kunden liest, fügt sie der Anfrage an das nachgelagerte System hinzu und aktualisiert sowie verschlüsselt abgelaufene Token erneut. Laut Kong erhält der Agent die Antwort, ohne das Token zu sehen. Konnect speichert die verschlüsselten Token, verfügt aber nicht über den zum Entschlüsseln erforderlichen Schlüssel. Wird der Richtlinienzugriff eines Benutzers entzogen, tritt dies sofort in Kraft – auch dann, wenn die Zugangsdaten für das nachgelagerte System noch nicht widerrufen wurden.

Geregelte Erkennung und operative Transparenz

Kong-KI-Registry umfasst kommerzielle, selbst gehostete und benutzerdefinierte Modelle, MCP-Server sowie interne Agenten und Agenten von Drittanbietern. Entwickler und Agenten können zugelassene Ressourcen erkennen, statt sich ausschließlich auf Verbindungen zu stützen, die fest in den jeweiligen Agenten programmiert sind. Die Registrierung allein gewährt keinen Zugriff: AI Gateway übernimmt zur Laufzeit Authentifizierung, Autorisierung, Richtliniendurchsetzung, Verkehrssteuerung und Beobachtbarkeit. Zu den Kontrollen gehören Ratenbegrenzungen und Sicherheitsvorkehrungen.

Context Mesh erstellt geregelte MCP-Server aus vorhandenen APIs und MCP-Servern, führt mehrere Quellen zu zusammengesetzten Ressourcen zusammen und kann die daraus entstehenden Server auf AI Gateway bereitstellen. Mit Code Mode durchsucht ein Agent die verfügbaren APIs, ruft das relevante Schema ab und führt den Vorgang aus, anstatt alle Werkzeugdefinitionen zu laden. Außerdem kann er Vorgänge mithilfe von Schleifen, Bedingungen und Fehlerbehandlung kombinieren. Kong hatte die Kontextverwaltung bereits am 30. September 2026 als Teil des KI-Managements allgemein verfügbar gemacht; diese frühere Verfügbarkeit bildet den Hintergrund für die neue Zusammenstellung.

KI-Beobachtbarkeit bietet derzeit eine Gesamtübersicht über die Umgebung, vorgefertigte und benutzerdefinierte Dashboards, einen Explorer für Ad-hoc-Abfragen sowie Verbindungsprotokolle. Die Dashboards schlüsseln Datenverkehr und Ausgaben nach Modell, Agent, MCP-Werkzeug, Team oder Umgebung auf. Für gemeinsam genutzte Ansichten gelten rollenbasierte Zugriffskontrollen. OpenTelemetry und Metrik-Exporteure ermöglichen es, die Telemetriedaten in bestehende Beobachtbarkeitssysteme einzuspeisen.

Erweitertes Tracing von Sitzungen und einzelnen Interaktionsschritten über Agentenschritte, Tool-Aufrufe und Modellaufrufe hinweg ist für Ende November oder Anfang Dezember 2026 geplant. Mit dem geplanten Arbeitsablauf können Teams die Eingaben, Ausgaben, Token, Kosten und Latenzzeiten eines einzelnen Interaktionsschritts zusammen mit den Richtlinienprüfungen und Tool-Aufrufen untersuchen, die zum Ergebnis geführt haben.

Mit dieser Veröffentlichung geht das Gateway über seine bisherige Rolle hinaus, einzelne KI-Anfragen durchzulassen oder zu blockieren: Es wird zu einer gemeinsamen Ebene, über die sich Agentenaktivitäten Identitäten, Budgets und Richtlinien für den Tool-Zugriff zuweisen lassen. Bestehende Kunden des Konnect-Gateways erhalten in diesem Paket die grundlegenden Kontrollfunktionen für Kosten, Zugangsdaten und Erkennung. Der vollständige Sitzungsprüfpfad und Nachweise für durch Optimierungen erzielte Einsparungen sind dagegen für die nächste Phase der Einführung vorgesehen.