Kong voegt beheerfuncties voor AI-kosten, inloggegevens en observability toe aan Konnect

Kong introduceerde AI-beheer in Kong Konnect op 4 november 2026. Daarmee voegde het bedrijf functies toe voor het beheer van AI-uitgaven en inloggegevens, gecontroleerde ontdekking van resources en observability, nu bedrijven agents in productie nemen.

De componenten voor kostenbeheer, referentiebeheer, contextbeheer en basisobservability worden samen met Kong AI Gateway op Konnect geleverd, niet als afzonderlijke uitbreidingen. Teams die deze gateway al gebruiken, kunnen ze daardoor inzetten zonder iets extra’s aan te schaffen. De bredere release introduceert ook beheerde ontdekking van modellen, Model Context Protocol (MCP)-servers en agents.

Kong pakt vier operationele tekortkomingen aan: uitgaven die niet aan een team of applicatie kunnen worden toegewezen, inloggegevens die in agentcode of prompts zijn ingebed, API’s die telkens opnieuw als agenttools worden verpakt, en het ontbreken van een samenhangend overzicht van de activiteiten van een agent. Die tekortkomingen zijn lastiger te beheren wanneer één taak meerdere modellen, MCP-servers, API’s, tools en andere agents omvat. Door de controles in het connectiviteitspad te plaatsen, kunnen beleid en gebruiksgegevens die interacties volgen, in plaats van dat elk applicatieteam ze achteraf moet reconstrueren.

Kosten toewijzen en optimaliseren tijdens uitvoering

AI-kostenbeheer combineert verbruiksgegevens van de gateway met de identiteit en context van verzoeken om uitgaven toe te wijzen aan bedrijfsonderdelen, engineeringteams, applicaties, agents, individuele gebruikers, klanten of tenants. De prijscatalogus bundelt de tarieven van aanbieders voor tokens en verbruik en maakt afwijkende tarieven mogelijk voor contractueel overeengekomen afspraken. Integraties met AI-tools van derden breiden de kostentoewijzing uit naar programmeeromgevingen, copilots en workflows voor softwareontwikkeling.

Teams kunnen budgetten instellen voor die toewijzingsgroepen en waarschuwingen ontvangen wanneer het verbruik de drempelwaarden nadert. Het Konnect-overzicht biedt daarnaast opties voor harde en zachte budgetlimieten en een dashboard waarmee uitgaven kunnen worden vergeleken met budgetplafonds per team, programmeeromgeving of repository.

Optimalisatie vindt plaats op infrastructuurniveau, met intelligente routering van modellen, semantische caching, promptcaching, promptcompressie en instellingen voor redeneren. Volgens Kong verschilt het potentiële voordeel per workload: semantische caching is bijzonder geschikt voor herhaalde of vergelijkbare verzoeken, terwijl routering meer kan opleveren wanneer dure modellen taken uitvoeren die goedkopere alternatieven aankunnen. Opportunities, een functie die eraan komt om extra efficiëntiewinst te vinden en besparingen door optimalisatie te meten, is aangeduid als binnenkort beschikbaar en maakt dus geen deel uit van de eerste release.

Inloggegevens per gebruiker voor agentverkeer

Token Vault werd geïntroduceerd met OAuth met drie partijen per gebruiker in Kong AI Gateway 2.3 en is inbegrepen bij alle Kong Gateway-abonnementen. Een gebruiker en een agent melden zich bij een MCP-serverproxy aan met inloggegevens van de zakelijke identiteitsprovider. Voordat een inloggegeven voor een upstreamdienst wordt geladen, worden toegangsrechten, logging, snelheidslimieten en ander gatewaybeleid gecontroleerd.

Bij het eerste gebruik kan de gateway een tijdelijke registratielink aanbieden via MCP URL-elicitation of een synthetische tool. De gebruiker doorloopt de gebruikelijke OAuth-toestemmingsprocedure van de upstreamdienst. Vervolgens versleutelt de gateway de verkregen vernieuwingstokens met de sleutel van de klant en stuurt de versleutelde gegevensbundel naar Kong Identity om die op te slaan.

Bij latere geautoriseerde aanroepen ontsleutelt de gateway de inloggegevens in het geheugen met een privésleutel die uit de secretsmanager van de klant wordt opgehaald. De gateway voegt de inloggegevens toe aan het upstreamverzoek en vernieuwt en versleutelt verlopen tokens opnieuw. Volgens Kong ontvangt de agent het antwoord zonder het token te zien. Konnect slaat de versleutelde tokens op, maar heeft niet de sleutel om ze te ontsleutelen. Als de beleidsmatige toegang van een gebruiker wordt ingetrokken, gaat dat onmiddellijk in, ook als de upstreaminloggegevens nog niet zijn ingetrokken.

Gecontroleerde ontdekking en operationeel inzicht

Kong AI Registry omvat commerciële, zelfgehoste en aangepaste modellen, MCP-servers en interne en externe agents. Ontwikkelaars en agents kunnen goedgekeurde resources ontdekken, in plaats van uitsluitend te vertrouwen op verbindingen die in elke agent zijn vastgelegd. Registratie alleen verleent geen toegang: AI Gateway verzorgt tijdens de uitvoering de authenticatie, autorisatie, beleidshandhaving, het verkeersbeheer en de observability, met onder meer snelheidslimieten en beveiligingsmaatregelen.

Context Mesh genereert MCP-servers met ingebouwde governance op basis van bestaande API’s en MCP-servers, combineert meerdere bronnen tot samengestelde systemen en kan de resulterende servers implementeren op AI Gateway. Met Code Mode doorzoekt een agent het beschikbare API-aanbod, haalt het relevante schema op en voert de bewerking uit, in plaats van alle tooldefinities te laden. De agent kan bewerkingen ook samenstellen met lussen, voorwaarden en foutafhandeling. Kong had Contextbeheer al op 30 september 2026 algemeen beschikbaar gemaakt als onderdeel van AI Management; die eerdere beschikbaarheid vormt de achtergrond voor de nieuwe bundeling.

AI-observability biedt momenteel een overzicht van de volledige omgeving, kant-en-klare en aangepaste dashboards, een Explorer voor ad-hocquery’s en connectiviteitslogboeken. De dashboards splitsen verkeer en uitgaven uit per model, agent, MCP-tool, team of omgeving. Gedeelde weergaven vallen onder rolgebaseerde toegangscontroles, terwijl exporters voor OpenTelemetry en meetgegevens ervoor zorgen dat de telemetrie kan worden doorgestuurd naar bestaande observabilitysystemen.

Geavanceerde tracing van sessies en beurten, over agentstappen, toolaanroepen en modelaanroepen heen, staat gepland voor eind november of begin december 2026. Met de geplande workflow kunnen teams de invoer, uitvoer, tokens, kosten en latentie van een afzonderlijke beurt bekijken, naast de beleidscontroles en toolaanroepen die tot het resultaat hebben geleid.

Met deze release krijgt de gateway een bredere rol dan alleen afzonderlijke AI-verzoeken doorlaten of blokkeren: de gateway wordt een gedeelde laag waarmee identiteit, budgetten en beleid voor tooltoegang aan agentactiviteiten kunnen worden gekoppeld. Bestaande klanten van de Konnect-gateway krijgen de belangrijkste kosten-, credential- en detectiecontroles binnen dit pakket. Het volledige controlespoor van sessies en bewijs van besparingen door optimalisatie maken deel uit van de volgende uitrolfase.