Kong добавляет в Konnect средства контроля затрат на ИИ, учетных данных и наблюдаемости

4 ноября 2026 года Kong представила AI Management в Kong Konnect, добавив средства контроля расходов на ИИ, учетных данных, управляемого поиска ресурсов и наблюдаемости — по мере того как компании переводят агентные системы в промышленную эксплуатацию.

Компоненты для управления затратами, учетными данными, контекстом и базовой наблюдаемостью входят в состав Kong AI Gateway на платформе Konnect, а не предлагаются в виде отдельных дополнений. Поэтому команды, уже использующие этот шлюз, могут работать с ними без дополнительных покупок. В рамках более широкого выпуска также появилась функция управляемого поиска моделей, серверов Model Context Protocol (MCP) и агентов.

Kong устраняет четыре пробела в операционной работе: расходы, которые нельзя отнести к конкретной команде или приложению; учетные данные, встроенные в код или запросы агента; многократное оборачивание API в инструменты для агентов; отсутствие сводной информации о действиях агента. Управлять этими проблемами становится сложнее, когда одна задача задействует несколько моделей, серверов MCP, API, инструментов и других агентов. Размещение средств контроля в контуре взаимодействия позволяет применять политики и собирать данные об использовании по мере выполнения этих операций, а не восстанавливать их каждой команде приложения отдельно.

Распределение затрат и оптимизация во время выполнения

Управление затратами на ИИ объединяет данные об использовании шлюза с информацией о запросе и его контексте, чтобы распределять расходы между бизнес-подразделениями, инженерными командами, приложениями, агентами, отдельными пользователями, клиентами или арендаторами. В каталоге цен собраны тарифы поставщиков на токены и расходы; для условий, согласованных отдельно, можно задать собственные значения. Интеграция со сторонними инструментами ИИ позволяет также распределять затраты на средства для написания кода, помощников и рабочие процессы разработки программного обеспечения.

Команды могут устанавливать бюджеты для этих групп распределения затрат и получать уведомления по мере приближения расходов к установленным порогам. В обзоре Konnect доступны дополнительные настройки жестких и мягких ограничений бюджета, а также панель для сравнения расходов с бюджетными лимитами по командам, средам разработки или репозиториям.

Оптимизация на уровне инфраструктуры включает интеллектуальную маршрутизацию запросов к моделям, семантическое кэширование, кэширование запросов, сжатие запросов и управление рассуждениями моделей. По словам Kong, возможный эффект зависит от рабочей нагрузки: семантическое кэширование особенно подходит для повторяющихся или похожих запросов, тогда как маршрутизация может дать больший результат, если дорогостоящие модели выполняют задачи, с которыми справились бы более дешевые альтернативы. Возможности — будущая функция для поиска дополнительных способов повысить эффективность и оценки экономии от оптимизации — обозначены как готовящиеся к выпуску и не входят в первоначальный релиз.

Учетные данные для каждого пользователя при работе агентов

Token Vault появился вместе с поддержкой трехсторонней OAuth-аутентификации для каждого пользователя в Kong AI Gateway 2.3 и входит во все подписки Kong Gateway. Пользователь и агент проходят аутентификацию на прокси-сервере MCP с помощью учетных данных корпоративного поставщика идентификационных данных. Прежде чем загрузить учетные данные для вышестоящего сервиса, шлюз проверяет доступ, ведет журналы, применяет ограничение частоты запросов и другие политики.

При первом использовании шлюз может предоставить ссылку для регистрации с ограниченным сроком действия через механизм запроса URL в MCP или синтетический инструмент. Пользователь проходит стандартную процедуру согласия OAuth для вышестоящего сервиса, после чего шлюз шифрует полученные токены обновления ключом клиента и отправляет зашифрованный контейнер в Kong Identity на хранение.

При последующих авторизованных вызовах шлюз расшифровывает учетные данные в памяти с помощью закрытого ключа, полученного из менеджера секретов клиента, добавляет их в запрос к вышестоящему сервису, а также обновляет и повторно шифрует просроченные токены. По словам Kong, агент получает ответ, не видя токена. Konnect хранит зашифрованные токены, но не располагает ключом для их расшифровки; отзыв у пользователя доступа, заданного политикой, вступает в силу немедленно, даже если учетные данные вышестоящего сервиса еще не отозваны.

Управляемый поиск ресурсов и видимость операционной деятельности

Kong AI Registry охватывает коммерческие, самостоятельно размещенные и пользовательские модели, серверы MCP, а также внутренние и сторонние агенты. Разработчики и агенты могут находить одобренные ресурсы, не полагаясь исключительно на подключения, жестко заданные в коде каждого агента. Одна лишь регистрация не предоставляет доступ: во время выполнения AI Gateway обеспечивает аутентификацию, авторизацию, применение политик, управление трафиком и наблюдаемость; в число средств контроля входят ограничения частоты запросов и защитные механизмы.

Context Mesh создает управляемые серверы MCP на основе существующих API и серверов MCP, объединяет несколько источников в составные решения и позволяет развертывать полученные серверы в AI Gateway. В режиме Code Mode агент ищет нужные API, получает соответствующую схему и выполняет операцию, не загружая определения всех инструментов. Он также может объединять операции, используя циклы, условные конструкции и обработку ошибок. Еще 30 сентября 2026 года Kong предоставила управление контекстом в составе AI Management на общедоступной основе; эта более ранняя доступность служит контекстом для нового варианта комплектации.

Наблюдаемость ИИ сейчас включает обзор всей инфраструктуры, готовые и настраиваемые панели мониторинга, инструмент Explorer для выполнения разовых запросов и журналы взаимодействий. На панелях трафик и расходы разбиты по моделям, агентам, инструментам MCP, командам или средам. Доступ к общим представлениям регулируется ролевыми политиками, а экспортеры OpenTelemetry и метрик позволяют передавать телеметрию в уже используемые системы наблюдаемости.

Расширенная трассировка сессий и отдельных ходов, охватывающая этапы работы агента, вызовы инструментов и вызовы моделей, запланирована на конец ноября или начало декабря 2026 года. Этот рабочий процесс позволит командам изучать входные и выходные данные отдельного хода, количество токенов, стоимость и задержку, а также проверки политик и вызовы инструментов, которые привели к результату.

Роль шлюза выходит за рамки пропуска или блокировки отдельных запросов к ИИ: он становится общим уровнем, позволяющим связывать действия агента с идентификационными данными, бюджетами и политиками доступа к инструментам. Клиенты, уже использующие шлюз Konnect, получат в рамках этого пакета основные средства контроля затрат, учетных данных и обнаружения. Полный журнал аудита сессий и подтверждение экономии за счет оптимизации предусмотрены следующим этапом развертывания.