Kong legger til kontroller for AI-kostnader, tilgangsopplysninger og observerbarhet i Konnect

Kong lanserte AI-administrasjon i Kong Konnect 4. november 2026, med kontroller for AI-forbruk, tilgangsopplysninger, styrt oppdagelse av ressurser og observerbarhet etter hvert som virksomheter setter agenter i produksjon.

Komponentene for kostnadsstyring, tilgangsopplysninger, kontekst og grunnleggende observerbarhet følger med Kong AI Gateway på Konnect, i stedet for å tilbys som separate tillegg. Dermed kan team som allerede bruker denne gatewayen, ta dem i bruk uten å kjøpe noe mer. Den bredere lanseringen introduserer også styrt oppdagelse av modeller, Model Context Protocol (MCP)-servere og agenter.

Kong retter seg mot fire driftsmessige mangler: utgifter som ikke kan knyttes til et team eller en applikasjon, tilgangsopplysninger som er innebygd i agentkode eller ledetekster, API-er som stadig pakkes inn som agentverktøy, og mangelen på en samlet oversikt over en agents aktivitet. Disse manglene blir vanskeligere å håndtere når én oppgave involverer flere modeller, MCP-servere, API-er, verktøy og andre agenter. Når kontrollene legges inn i tilkoblingsbanen, kan retningslinjer og bruksdata følge disse samhandlingene, i stedet for at hvert applikasjonsteam må rekonstruere dem.

Kostnadsfordeling og optimalisering ved kjøring

AI-kostnadsstyring kombinerer forbruksdata fra gatewayen med forespørselens identitet og kontekst for å fordele utgiftene på forretningsenheter, utviklingsteam, applikasjoner, agenter, enkeltbrukere, kunder eller leietakere. Priskatalogen samler leverandørenes tokenpriser og forbrukssatser og gjør det mulig å overstyre dem ved fremforhandlede avtaler. Integrasjoner med tredjeparts AI-verktøy utvider kostnadsfordelingen til kodeagentmiljøer, kodeassistenter og arbeidsflyter for programvareutvikling.

Team kan fastsette budsjetter for disse fordelingsgruppene og få varsler når forbruket nærmer seg terskelverdiene. Konnect-oversikten legger til alternativer for harde og myke budsjettrammer samt et dashbord der utgifter kan sammenlignes med budsjettrammer per team, kodeagentmiljø eller kodearkiv.

Optimaliseringen skjer på infrastrukturlaget gjennom intelligent ruting av modeller, semantisk hurtigbufring, hurtigbufring av ledetekster, komprimering av ledetekster og styring av resonnering. Kong sier at den potensielle gevinsten varierer etter arbeidsbelastning: Semantisk hurtigbufring egner seg særlig godt for gjentatte eller lignende forespørsler, mens ruting kan ha større betydning når dyre modeller brukes til oppgaver som rimeligere alternativer kan utføre. Opportunities, en kommende funksjon for å finne ytterligere effektiviseringstiltak og måle besparelser fra optimalisering, er merket som «kommer snart» og er derfor ikke inkludert i den første lanseringen.

Tilgangsopplysninger per bruker for agenttrafikk

Token Vault ble lansert med OAuth med tre parter per bruker i Kong AI Gateway 2.3 og er inkludert i alle Kong Gateway-abonnementer. En bruker og en agent autentiserer seg mot en MCP-serverproxy ved hjelp av tilgangsopplysninger fra virksomhetens identitetsleverandør. Før en tilgangsopplysning for oppstrømssystemet hentes inn, vurderes tilgang, logging, begrensning av forespørselsfrekvens og andre gateway-retningslinjer.

Ved første gangs bruk kan gatewayen sende en tidsbegrenset registreringslenke via MCPs URL-forespørsel eller et syntetisk verktøy. Brukeren fullfører den vanlige OAuth-samtykkeprosessen til oppstrømstjenesten. Deretter krypterer gatewayen de resulterende oppdateringstokenene med kundens nøkkel og sender den krypterte pakken til Kong Identity for lagring.

Ved senere godkjente kall dekrypterer gatewayen tilgangsopplysningen i minnet med en privatnøkkel som hentes fra kundens hemmelighetshvelv, setter den inn i forespørselen til oppstrømssystemet og fornyer utløpte token før de krypteres på nytt. Kong sier at agenten mottar svaret uten å se tokenet. Konnect lagrer de krypterte tokenene, men har ikke nøkkelen som trengs for å dekryptere dem. Hvis en brukers tilgang via retningslinjene fjernes, trer det i kraft umiddelbart, selv om tilgangsopplysningen hos oppstrømstjenesten ennå ikke er tilbakekalt.

Styrt oppdagelse og operasjonell oversikt

Kong AI Registry omfatter kommersielle, selvdriftede og tilpassede modeller, MCP-servere samt interne agenter og agenter fra tredjeparter. Utviklere og agenter kan oppdage godkjente ressurser i stedet for å være avhengige av bare tilkoblinger som er hardkodet i hver agent. Registrering alene gir ikke tilgang: AI Gateway sørger for autentisering, autorisering, håndheving av retningslinjer, trafikkstyring og observerbarhet ved kjøring, med blant annet hastighetsbegrensninger og sikkerhetstiltak.

Context Mesh genererer styrte MCP-servere fra eksisterende API-er og MCP-servere, kombinerer flere kilder til sammensatte løsninger og kan distribuere de resulterende serverne til AI Gateway. Med Code Mode søker en agent gjennom det tilgjengelige API-utvalget, henter det relevante skjemaet og utfører operasjonen i stedet for å laste inn definisjonen av hvert verktøy. Agenten kan også sette sammen operasjoner med løkker, betingelser og feilhåndtering. Kong hadde allerede gjort konteksthåndtering allment tilgjengelig som en del av AI-administrasjon 30. september 2026; denne tidligere tilgjengeligheten er bakgrunn for den nye pakketeringen.

AI-observerbarhet gir for øyeblikket en oversikt over hele miljøet, forhåndsbygde og egendefinerte dashbord, et utforskerverktøy for ad hoc-spørringer og tilkoblingslogger. Dashbordene viser trafikk og utgifter fordelt på modell, agent, MCP-verktøy, team eller miljø. Delte visninger er underlagt rollebaserte tilgangskontroller, mens OpenTelemetry og eksportører for måledata gjør det mulig å sende telemetrien videre til eksisterende systemer for observerbarhet.

Avansert sporing av økter og dialogrunder på tvers av agenttrinn, verktøykall og modellkall er planlagt til slutten av november eller begynnelsen av desember 2026. Den planlagte arbeidsflyten lar team undersøke inndata, utdata, tokenbruk, kostnader og forsinkelse for en enkelt dialogrunde, sammen med policykontrollene og verktøykallene som førte til resultatet.

Denne lanseringen utvider gatewayens rolle fra å slippe gjennom eller blokkere enkeltstående AI-forespørsler: Den blir et felles lag for å knytte identitet, budsjetter og retningslinjer for verktøytilgang til agentaktivitet. Eksisterende kunder av Konnect Gateway får de grunnleggende funksjonene for kostnadsstyring, legitimasjonsopplysninger og oppdagelse som del av pakken, mens et fullstendig revisjonsspor for økter og dokumentasjon på besparelser fra optimalisering hører til neste fase av utrullingen.