Kong přidává do Konnectu nástroje pro řízení nákladů na AI, přihlašovacích údajů a observability

Kong představil AI Management v Kong Konnect 4. listopadu 2026. Podnikům, které přesouvají agenty do produkčního provozu, tak nabízí nástroje pro řízení výdajů na AI, přihlašovacích údajů, spravované vyhledávání zdrojů a observability.

Funkce pro správu nákladů, přihlašovacích údajů, kontextu a základní observability jsou součástí Kong AI Gateway v Konnectu, nikoli samostatnými doplňky. Týmy, které tuto bránu již používají, je proto mohou využívat bez dalšího nákupu. Širší vydání přináší také spravované vyhledávání modelů, serverů Model Context Protocol (MCP) a agentů.

Kong řeší čtyři provozní nedostatky: výdaje, které nelze přiřadit týmu nebo aplikaci; přihlašovací údaje vložené do kódu agentů nebo promptů; API opakovaně obalovaná jako nástroje agentů; a chybějící souhrnný přehled o činnosti agenta. Tyto nedostatky se řeší obtížněji, když jeden úkol zahrnuje více modelů, serverů MCP, API, nástrojů a dalších agentů. Umístění kontrol do komunikační vrstvy umožňuje, aby zásady a údaje o využití sledovaly tyto interakce, místo aby je musel zpětně skládat dohromady každý aplikační tým.

Přiřazování nákladů a optimalizace za běhu

AI Cost Management kombinuje údaje o využití brány s identitou a kontextem požadavku, aby bylo možné přiřazovat výdaje obchodním jednotkám, technickým týmům, aplikacím, agentům, jednotlivým uživatelům, zákazníkům nebo tenantům. Jeho ceník sjednocuje sazby poskytovatelů za tokeny a náklady a umožňuje jejich úpravu podle sjednaných podmínek. Integrace s nástroji třetích stran využívajícími AI rozšiřují přiřazování výdajů také na vývojářské nástroje, asistenty a pracovní postupy vývoje softwaru.

Týmy mohou pro tyto skupiny nastavit rozpočty a dostávat upozornění, když se spotřeba blíží stanoveným limitům. Přehled v Konnectu navíc nabízí pevné a měkké rozpočtové limity a panel, který umožňuje porovnávat výdaje s rozpočtovými stropy podle týmu, vývojářského nástroje nebo repozitáře.

Optimalizace probíhá na infrastrukturní vrstvě prostřednictvím inteligentního směrování modelů, sémantického ukládání do mezipaměti, ukládání promptů do mezipaměti, komprese promptů a řízení uvažování. Kong uvádí, že možný přínos se liší podle typu úlohy: sémantické ukládání do mezipaměti se hodí zejména pro opakované nebo podobné požadavky, zatímco směrování může mít větší význam, když nákladné modely zpracovávají úlohy, které by zvládly i levnější alternativy. Opportunities, připravovaná funkce pro hledání dalších možností úspor a měření úspor dosažených optimalizací, je označena jako připravovaná, nikoli jako součást úvodního vydání.

Přihlašovací údaje pro jednotlivé uživatele v provozu agentů

Token Vault byl uveden s podporou třístranného OAuth pro jednotlivé uživatele v Kong AI Gateway 2.3 a je součástí všech předplatných Kong Gateway. Uživatel a agent se k proxy serveru MCP autentizují pomocí přihlašovacích údajů firemního poskytovatele identity. Ještě před načtením přihlašovacích údajů pro navazující službu se vyhodnotí přístupová oprávnění, protokolování, omezení počtu požadavků a další zásady brány.

Při prvním použití může brána prostřednictvím vyžádání URL v MCP nebo syntetického nástroje vrátit odkaz pro registraci s krátkou platností. Uživatel dokončí běžný proces udělení souhlasu OAuth dané navazující služby. Brána poté zašifruje získané obnovovací tokeny pomocí klíče zákazníka a odešle zašifrovaný balíček do Kong Identity, kde se uloží.

Při dalších autorizovaných voláních brána dešifruje přihlašovací údaje v paměti pomocí soukromého klíče načteného ze správce tajných údajů zákazníka, vloží je do požadavku pro navazující službu a obnoví a znovu zašifruje tokeny, jejichž platnost vypršela. Kong uvádí, že agent obdrží odpověď, aniž by token viděl. Konnect ukládá zašifrované tokeny, ale nemá klíč potřebný k jejich dešifrování; odebrání přístupu uživatele na základě zásad se projeví okamžitě, i když přihlašovací údaje u navazující služby ještě nebyly zneplatněny.

Spravované vyhledávání a provozní přehled

Kong AI Registry zahrnuje komerční, samostatně hostované a vlastní modely, servery MCP a interní agenty i agenty třetích stran. Vývojáři a agenti mohou vyhledávat schválené zdroje, místo aby se spoléhali pouze na připojení pevně zakódovaná v jednotlivých agentech. Samotná registrace přístup neuděluje: AI Gateway za běhu zajišťuje autentizaci, autorizaci, vynucování zásad, správu provozu a observability; mezi dostupné kontroly patří také limity požadavků a bezpečnostní ochranná opatření.

Context Mesh vytváří spravované servery MCP ze stávajících API a serverů MCP, kombinuje více zdrojů do složených celků a výsledné servery může nasadit do AI Gateway. V režimu Code Mode agent prohledá dostupné rozhraní API, načte příslušné schéma a provede operaci, místo aby načítal definice všech nástrojů. Může také kombinovat operace pomocí cyklů, podmíněných příkazů a zpracování chyb. Kong již 30. září 2026 zpřístupnil Context Management jako obecně dostupnou součást AI Management; tato dřívější dostupnost dokresluje kontext nového způsobu zahrnutí do nabídky.

AI Observability v současnosti nabízí přehled celého prostředí, předpřipravené i vlastní panely, nástroj Explorer pro ad hoc dotazy a protokoly připojení. Panely rozdělují provoz a výdaje podle modelu, agenta, nástroje MCP, týmu nebo prostředí. Sdílená zobrazení podléhají řízení přístupu na základě rolí a exportéry OpenTelemetry a metrik umožňují předávat telemetrická data do stávajících systémů observability.

Pokročilé trasování relací a jednotlivých tahů napříč kroky agenta, voláními nástrojů a voláními modelu je naplánováno na konec listopadu nebo začátek prosince 2026. Plánovaný pracovní postup týmům umožní kontrolovat vstupy, výstupy, tokeny, náklady a latenci jednotlivých tahů spolu s kontrolami zásad a voláními nástrojů, které vedly k danému výsledku.

Toto vydání rozšiřuje roli brány nad rámec předávání nebo blokování jednotlivých požadavků AI: brána se stává sdílenou vrstvou, která k aktivitám agentů přiřazuje identitu, rozpočty a zásady přístupu k nástrojům. Stávající zákazníci brány Konnect získají v rámci tohoto balíčku základní funkce pro řízení nákladů, přístupových údajů a vyhledávání, zatímco úplný auditní záznam relací a doklady o úsporách dosažených optimalizací přijdou na řadu až v další fázi zavádění.