Kong lägger till kontroller för AI-kostnader, autentiseringsuppgifter och observabilitet i Konnect

Kong introducerade AI-hantering i Kong Konnect den 4 november 2026, med kontroller för AI-utgifter, autentiseringsuppgifter, styrd resursupptäckt och observabilitet när företag tar sina agenter i produktion.

Komponenterna för kostnadshantering, autentiseringsuppgifter, kontext och grundläggande observabilitet ingår i Kong AI Gateway på Konnect och erbjuds inte som separata tillägg. Team som redan använder gatewayen kan därför ta del av dem utan att göra ett ytterligare köp. Den bredare lanseringen introducerar också styrd upptäckt av modeller, Model Context Protocol (MCP)-servrar och agenter.

Kong åtgärdar fyra operativa brister: utgifter som inte kan hänföras till ett team eller en applikation, autentiseringsuppgifter som bäddats in i agentkod eller promptar, API:er som upprepade gånger paketeras om som agentverktyg samt avsaknaden av en samlad redogörelse för en agents aktivitet. Dessa brister blir svårare att hantera när en och samma uppgift omfattar flera modeller, MCP-servrar, API:er, verktyg och andra agenter. När kontrollerna placeras i anslutningsflödet kan policyer och användningsdata följa med dessa interaktioner, i stället för att varje applikationsteam ska behöva återskapa dem i efterhand.

Kostnadsfördelning och optimering i drift

Hantering av AI-kostnader kombinerar data om gatewayanvändning med information om förfrågningarnas identitet och kontext för att hänföra utgifter till affärsenheter, teknikteam, applikationer, agenter, enskilda användare, kunder eller klienter. Prisförteckningen samlar leverantörernas tokenpriser och utgiftstaxor på ett ställe och tillåter anpassningar för framförhandlade villkor. Integreringar med AI-verktyg från tredje part utökar kostnadsfördelningen till kodningsmiljöer, kodassistenter och arbetsflöden för mjukvaruutveckling.

Team kan sätta budgetar för dessa fördelningsgrupper och få aviseringar när användningen närmar sig fastställda gränsvärden. Översikten i Konnect innehåller även alternativ för hårda och mjuka budgetgränser samt en kontrollpanel där utgifter kan jämföras med budgettak per team, kodningsmiljö eller kodförråd.

Optimeringen sker på infrastrukturlagret genom intelligent modellroutning, semantisk cachelagring, promptcachelagring, promptkomprimering och kontroller för resonemang. Kong uppger att den möjliga nyttan varierar beroende på arbetsbelastning: semantisk cachelagring lämpar sig särskilt väl för upprepade eller likartade förfrågningar, medan routning kan göra större skillnad när dyra modeller hanterar uppgifter som billigare alternativ skulle kunna utföra. Opportunities, en kommande funktion för att hitta ytterligare effektivitetsvinster och mäta besparingar från optimering, är markerad som på väg och ingår alltså inte i den första lanseringen.

Autentiseringsuppgifter per användare för agenttrafik

Token Vault lanserades med OAuth med tre parter per användare i Kong AI Gateway 2.3 och ingår i alla Kong Gateway-prenumerationer. En användare och en agent autentiserar sig mot en MCP-serverproxy med hjälp av företagets autentiseringsuppgifter från identitetsleverantören. Åtkomst, loggning, hastighetsbegränsning och andra gatewaypolicyer utvärderas innan en autentiseringsuppgift för uppströmstjänsten hämtas.

Vid första användningen kan gatewayen returnera en tidsbegränsad registreringslänk via MCP-URL-elicitering eller ett syntetiskt verktyg. Användaren genomför uppströmstjänstens vanliga OAuth-samtyckesflöde. Därefter krypterar gatewayen de uppdateringstoken som genererats med kundens nyckel och skickar det krypterade paketet till Kong Identity för lagring.

Vid senare behöriga anrop dekrypterar gatewayen autentiseringsuppgiften i minnet med en privat nyckel som hämtas från kundens hemlighetshanterare, lägger in den i uppströmsbegäran och uppdaterar samt krypterar om utgångna token. Enligt Kong får agenten svaret utan att se tokenen. Konnect lagrar de krypterade tokenen men saknar nyckeln som behövs för att dekryptera dem. Om en användares åtkomst enligt policy återkallas får det omedelbar verkan, även om autentiseringsuppgiften hos uppströmstjänsten ännu inte har återkallats.

Styrd upptäckt och operativ insyn

Kong AI Registry omfattar kommersiella, självhostade och anpassade modeller, MCP-servrar samt interna agenter och agenter från tredje part. Utvecklare och agenter kan upptäcka godkända resurser i stället för att enbart förlita sig på anslutningar som hårdkodats i varje agent. Registrering ger inte i sig åtkomst: AI Gateway tillhandahåller autentisering, behörighetskontroll, policytillämpning, trafikhantering och observabilitet under körning. Bland kontrollerna finns hastighetsbegränsningar och säkerhetsskydd.

Context Mesh skapar styrda MCP-servrar från befintliga API:er och MCP-servrar, kombinerar flera källor till sammansatta resurser och kan distribuera de resulterande servrarna till AI Gateway. Med Code Mode söker en agent igenom de tillgängliga API:erna, hämtar det relevanta schemat och utför åtgärden i stället för att läsa in definitionerna för alla verktyg. Agenten kan också kombinera åtgärder med loopar, villkor och felhantering. Kong hade redan gjort kontexthantering allmänt tillgänglig som en del av AI Management den 30 september 2026; den tidigare tillgängligheten utgör bakgrund till det nya paketeringserbjudandet.

AI-observabilitet erbjuder för närvarande en översikt över hela miljön, färdiga och anpassade kontrollpaneler, en Explorer för ad hoc-frågor samt anslutningsloggar. Kontrollpanelerna delar upp trafik och utgifter efter modell, agent, MCP-verktyg, team eller miljö. Delade vyer omfattas av rollbaserade åtkomstkontroller, medan OpenTelemetry och måttexportörer gör det möjligt att föra telemetrin vidare till befintliga observabilitetssystem.

Avancerad spårning av sessioner och enskilda turer genom agentsteg, verktygsanrop och modell-anrop planeras till slutet av november eller början av december 2026. Det planerade arbetsflödet gör det möjligt för team att granska indata, utdata, token, kostnad och svarstid för en enskild tur, tillsammans med policykontrollerna och verktygsanropen som ledde fram till resultatet.

Lanseringen utökar gatewayens roll från att enbart vidarebefordra eller blockera enskilda AI-förfrågningar: den blir ett gemensamt lager för att knyta identitet, budgetar och policy för verktygsåtkomst till agentaktivitet. Befintliga kunder som använder Konnect-gatewayen får de grundläggande kontrollerna för kostnader, autentiseringsuppgifter och upptäckt inom det paketet, medan den fullständiga revisionskedjan för sessioner och belägg för optimeringsbesparingar ingår i nästa fas av lanseringen.