Kong føjer styring af AI-omkostninger, adgangsoplysninger og observerbarhed til Konnect

Kong lancerede AI-styring i Kong Konnect den 4. november 2026 med nye kontroller til styring af AI-forbrug, adgangsoplysninger, kontrolleret ressourcesøgning og observerbarhed, efterhånden som virksomheder sætter agenter i produktion.

Funktionerne til omkostningsstyring, håndtering af adgangsoplysninger, kontekststyring og grundlæggende observerbarhed følger med Kong AI Gateway på Konnect i stedet for at være separate tilkøb, så teams, der allerede bruger gatewayen, kan benytte dem uden at foretage et ekstra køb. Den bredere lancering introducerer også kontrolleret søgning efter modeller, Model Context Protocol (MCP)-servere og agenter.

Kong adresserer fire driftsmæssige mangler: forbrug, der ikke kan henføres til et team eller en applikation; adgangsoplysninger, der er indlejret i agentkode eller prompter; API’er, der gentagne gange pakkes ind som agentværktøjer; og manglen på et samlet overblik over en agents aktiviteter. Disse mangler bliver sværere at håndtere, når en enkelt opgave involverer flere modeller, MCP-servere, API’er, værktøjer og andre agenter. Ved at placere kontrollerne i forbindelseslaget kan politikker og forbrugsdata følge disse interaktioner, så hvert applikationsteam ikke selv behøver at rekonstruere dem.

Omkostningsfordeling og optimering ved kørsel

Styring af AI-omkostninger kombinerer forbrugsdata fra gatewayen med oplysninger om anmodningens identitet og kontekst for at henføre udgifter til forretningsenheder, udviklingsteams, applikationer, agenter, individuelle brugere, kunder eller lejere. Prisoversigten samler udbydernes tokenpriser og forbrugstakster og gør det muligt at tilsidesætte dem i henhold til forhandlede aftaler. Integrationer med AI-værktøjer fra tredjeparter udvider omkostningsfordelingen til kodningsmiljøer, copiloter og arbejdsgange inden for softwareudvikling.

Teams kan fastsætte budgetter for disse grupper og modtage advarsler, når forbruget nærmer sig grænseværdierne. Oversigten i Konnect tilføjer muligheder for hårde og bløde budgetgrænser samt et dashboard, der gør det muligt at sammenligne forbruget med budgetlofter fordelt på team, kodningsmiljø eller kodearkiv.

Optimeringen sker på infrastrukturniveau gennem intelligent modelrouting, semantisk cachelagring, cachelagring af prompter, komprimering af prompter og styring af ræsonnering. Kong siger, at den potentielle gevinst varierer efter arbejdsbelastning: Semantisk cachelagring er særligt velegnet til gentagne eller lignende anmodninger, mens routing kan gøre større forskel, når dyre modeller udfører opgaver, som billigere alternativer kunne løse. Muligheder, en kommende funktion til at finde yderligere besparelser og måle optimeringsgevinster, er markeret som på vej og er ikke med i den første lancering.

Adgangsoplysninger pr. bruger til agenttrafik

Token Vault blev lanceret med OAuth med trebenet flow pr. bruger i Kong AI Gateway 2.3 og er inkluderet i alle Kong Gateway-abonnementer. En bruger og en agent godkender sig over for en MCP-serverproxy med adgangsoplysninger fra virksomhedens identitetsudbyder. Adgang, logføring, hastighedsbegrænsning og andre gatewaypolitikker kontrolleres, før en adgangsoplysning til den bagvedliggende tjeneste indlæses.

Ved første brug kan gatewayen returnere et tilmeldingslink med kort gyldighed via MCP’s URL-forespørgsel eller et syntetisk værktøj. Brugeren gennemfører den sædvanlige OAuth-samtykkeproces for den bagvedliggende tjeneste, hvorefter gatewayen krypterer de resulterende opdateringstokens med kundens nøgle og sender den krypterede pakke til Kong Identity til opbevaring.

Ved senere godkendte kald dekrypterer gatewayen adgangsoplysningen i hukommelsen med en privat nøgle, der hentes fra kundens hemmelighedshåndtering, indsætter den i anmodningen til den bagvedliggende tjeneste og fornyer udløbne tokens, som derefter krypteres igen. Kong siger, at agenten modtager svaret uden at se tokenet. Konnect opbevarer de krypterede tokens, men har ikke den nøgle, der skal bruges til at åbne dem; hvis en brugers adgang i henhold til politikkerne fjernes, træder det i kraft med det samme, selv om adgangsoplysningen til den bagvedliggende tjeneste endnu ikke er tilbagekaldt.

Kontrolleret ressourcesøgning og driftsmæssigt overblik

Kong AI Registry omfatter kommercielle, selvhostede og tilpassede modeller, MCP-servere samt interne agenter og agenter fra tredjeparter. Udviklere og agenter kan finde godkendte ressourcer i stedet for kun at være afhængige af forbindelser, der er hardkodet i hver enkelt agent. Registrering giver ikke i sig selv adgang: AI Gateway håndterer autentificering, autorisation, håndhævelse af politikker, trafikstyring og observerbarhed under kørsel, og kontrollerne omfatter blandt andet hastighedsgrænser og sikkerhedsforanstaltninger.

Context Mesh genererer kontrollerede MCP-servere ud fra eksisterende API’er og MCP-servere, kombinerer flere kilder til sammensatte løsninger og kan udrulle de resulterende servere til AI Gateway. Med Code Mode søger en agent i de tilgængelige API’er, henter det relevante skema og udfører handlingen i stedet for at indlæse definitionerne af alle værktøjerne. Agenten kan også kombinere handlinger ved hjælp af løkker, betingelser og fejlhåndtering. Kong havde allerede gjort konteksthåndtering generelt tilgængelig som en del af AI-styring den 30. september 2026; denne tidligere tilgængelighed er baggrund for den nye pakke.

AI-observerbarhed giver i øjeblikket et samlet overblik over installationen, færdige og brugerdefinerede dashboards, værktøjet Explorer til ad hoc-forespørgsler samt forbindelseslogfiler. Dashboards opdeler trafik og forbrug efter model, agent, MCP-værktøj, team eller miljø. Delte visninger er underlagt rollebaserede adgangskontroller, mens OpenTelemetry og metrikeksportører gør det muligt at sende telemetridata videre til eksisterende observerbarhedssystemer.

Avanceret sporing af sessioner og ture på tværs af agenttrin, værktøjskald og modelkald er planlagt til slutningen af november eller begyndelsen af december 2026. Den planlagte arbejdsgang giver teams mulighed for at undersøge input, output, tokens, omkostninger og latenstid for en enkelt tur sammen med de politikchecks og værktøjskald, der førte til resultatet.

Udgivelsen udvider gatewayens rolle fra blot at videresende eller blokere individuelle AI-anmodninger: Den bliver et fælles lag, hvor identitet, budgetter og politikker for værktøjsadgang knyttes til agenters aktivitet. Eksisterende kunder af Konnect-gatewayen får de grundlæggende kontroller for omkostninger, legitimationsoplysninger og opdagelse som en del af pakken, mens det fulde sessionsrevisionsspor og dokumentation for optimeringsbesparelser hører til næste fase af udrulningen.