Kong додає до Konnect засоби контролю витрат на ШІ, облікових даних і спостережуваності

4 листопада 2026 року Kong представила управління ШІ в Kong Konnect, додавши засоби контролю витрат на ШІ, облікових даних, пошуку ресурсів відповідно до встановлених правил і спостережуваності — саме тоді, коли підприємства переводять агентів у промислову експлуатацію.

Компоненти для управління витратами, обліковими даними й контекстом, а також базові засоби спостережуваності входять до складу Kong AI Gateway на Konnect, а не пропонуються як окремі доповнення. Тож команди, які вже використовують цей шлюз, можуть працювати з ними без додаткової покупки. Ширший реліз також запроваджує керований пошук моделей, серверів Model Context Protocol (MCP) і агентів.

Kong усуває чотири прогалини в операційній роботі: витрати, які неможливо віднести до певної команди чи застосунку; облікові дані, вбудовані в код агентів або підказки; API, які знову й знову обгортають як інструменти для агентів; і відсутність зведеної інформації про дії агента. Керувати цими проблемами стає складніше, коли одне завдання охоплює кілька моделей, серверів MCP, API, інструментів та інших агентів. Розміщення засобів контролю в потоці передавання даних дає змогу політикам і даним про використання супроводжувати ці взаємодії, замість того щоб кожна команда розробників застосунків відновлювала їх окремо.

Віднесення витрат і оптимізація під час виконання

Управління витратами на ШІ поєднує дані про споживання через шлюз з ідентифікаційними даними запиту та його контекстом, щоб відносити витрати до бізнес-підрозділів, інженерних команд, застосунків, агентів, окремих користувачів, клієнтів або орендарів. Каталог цін централізує тарифи постачальників на токени й використання та дає змогу задавати винятки для індивідуально узгоджених умов. Інтеграції зі сторонніми інструментами ШІ дають змогу відносити витрати також до середовищ для роботи з кодом, помічників і робочих процесів розробки програмного забезпечення.

Команди можуть встановлювати бюджети для цих груп і отримувати сповіщення, коли споживання наближається до порогових значень. Оглядова панель Konnect пропонує також жорсткі й гнучкі обмеження бюджету, а також панель керування для порівняння витрат із граничними бюджетами за командами, середовищами для роботи з кодом або репозиторіями.

Оптимізація на рівні інфраструктури охоплює інтелектуальну маршрутизацію моделей, семантичне кешування, кешування підказок, стиснення підказок і засоби контролю міркувань. За словами Kong, потенційна користь залежить від робочого навантаження: семантичне кешування особливо доречне для повторюваних або схожих запитів, а маршрутизація може мати більше значення, коли дорогі моделі виконують завдання, з якими впоралися б дешевші альтернативи. Функція «Можливості», призначена для пошуку додаткових способів підвищити ефективність і вимірювання заощаджень завдяки оптимізації, позначена як така, що з’явиться незабаром, а не входить до початкового релізу.

Облікові дані для трафіку агентів на рівні окремих користувачів

Token Vault запущено з OAuth із трьома сторонами для окремих користувачів у Kong AI Gateway 2.3; цей компонент входить до всіх передплат Kong Gateway. Користувач і агент проходять автентифікацію на проксі-сервері MCP за допомогою облікових даних корпоративного постачальника ідентифікації. Перш ніж завантажити облікові дані для цільової служби, система перевіряє доступ, веде журналювання, застосовує обмеження частоти запитів та інші політики шлюзу.

Під час першого використання шлюз може надати посилання для реєстрації з коротким строком дії через механізм MCP URL elicitation або синтетичний інструмент. Користувач проходить стандартну процедуру надання згоди OAuth для цільової служби, після чого шлюз шифрує отримані токени оновлення ключем клієнта й надсилає зашифрований контейнер до Kong Identity для зберігання.

Під час наступних авторизованих викликів шлюз розшифровує облікові дані в пам’яті за допомогою закритого ключа, отриманого зі сховища секретів клієнта, додає їх до запиту до цільової служби, а також оновлює прострочені токени й шифрує їх повторно. За словами Kong, агент отримує відповідь, не бачачи токена. Konnect зберігає зашифровані токени, але не має ключа, потрібного для їх розшифрування; відкликання доступу користувача відповідно до політики набирає чинності негайно, навіть якщо облікові дані цільової служби ще не відкликано.

Керований пошук ресурсів і операційна прозорість

Kong AI Registry охоплює комерційні, розміщені на власній інфраструктурі й індивідуально створені моделі, сервери MCP, а також внутрішніх і сторонніх агентів. Розробники й агенти можуть знаходити схвалені ресурси, а не покладатися лише на підключення, жорстко задані в коді кожного агента. Сама реєстрація не надає доступу: під час виконання AI Gateway забезпечує автентифікацію, авторизацію, застосування політик, керування трафіком і спостережуваність, зокрема обмеження частоти запитів і запобіжні заходи для захисту.

Context Mesh створює керовані сервери MCP на основі наявних API та серверів MCP, об’єднує кілька джерел у складені ресурси й може розгортати отримані сервери в AI Gateway. У режимі Code Mode агент шукає серед доступних API, отримує відповідну схему й виконує операцію, замість того щоб завантажувати визначення всіх інструментів. Він також може поєднувати операції за допомогою циклів, умовних конструкцій і обробки помилок. 30 вересня 2026 року Kong уже зробила управління контекстом загальнодоступним у межах AI Management; ця попередня доступність є контекстом для нового пакета продуктів.

Спостережуваність за ШІ наразі пропонує огляд усієї інфраструктури, готові й налаштовувані панелі керування, інструмент Explorer для довільних запитів і журнали підключень. На панелях трафік і витрати розбито за моделлю, агентом, інструментом MCP, командою або середовищем. До спільних представлень застосовуються засоби контролю доступу на основі ролей, а експортери OpenTelemetry і метрик дають змогу передавати телеметрію до наявних систем спостережуваності.

Поглиблене трасування сесій і ходів за етапами роботи агента, викликами інструментів і викликами моделей заплановане на кінець листопада або початок грудня 2026 року. Запланований робочий процес дасть командам змогу перевіряти вхідні й вихідні дані, кількість токенів, вартість і затримку для окремого ходу, а також перевірки політик і виклики інструментів, що привели до результату.

Цей випуск розширює роль шлюзу: він уже не лише пропускає або блокує окремі запити до ШІ, а стає спільним рівнем для прив’язування ідентифікаційних даних, бюджетів і політики доступу до інструментів до активності агентів. Наявні клієнти шлюзу Konnect отримують у межах цього пакета основні засоби контролю витрат, облікових даних і виявлення, тоді як повний журнал аудиту сесій і підтвердження заощаджень завдяки оптимізації з’являться на наступному етапі впровадження.