Modele i platformy AI

Kong dodaje w Konnect mechanizmy kontroli kosztów AI, danych uwierzytelniających i obserwowalności

mm
Dodaj Unite.AI do preferowanych źródeł w Google

4 listopada 2026 r. Kong wprowadził w Kong Konnect funkcje zarządzania AI, dodając mechanizmy kontroli wydatków na AI, danych uwierzytelniających, nadzorowanego wyszukiwania zasobów i obserwowalności, w miarę jak przedsiębiorstwa wdrażają agentów w środowiskach produkcyjnych.

Funkcje zarządzania kosztami, danymi uwierzytelniającymi i kontekstem oraz podstawowe funkcje obserwowalności są dostępne w ramach Kong AI Gateway w Konnect, a nie jako osobne dodatki. Zespoły, które już korzystają z tej bramy, mogą więc używać tych funkcji bez dodatkowego zakupu. Szersza wersja wprowadza również nadzorowane wyszukiwanie modeli, serwerów Model Context Protocol (MCP) i agentów.

Kong zajmuje się czterema problemami operacyjnymi: wydatkami, których nie można przypisać do zespołu ani aplikacji; danymi uwierzytelniającymi umieszczonymi w kodzie agentów lub promptach; interfejsami API wielokrotnie opakowywanymi jako narzędzia agentów; oraz brakiem całościowego obrazu aktywności agenta. Zarządzanie tymi problemami staje się trudniejsze, gdy jedno zadanie obejmuje wiele modeli, serwerów MCP, interfejsów API, narzędzi i innych agentów. Umieszczenie mechanizmów kontroli w ścieżce komunikacji pozwala, by zasady i dane o wykorzystaniu towarzyszyły tym interakcjom, zamiast być odtwarzane przez każdy zespół aplikacyjny.

Przypisywanie kosztów i optymalizacja w czasie działania

Zarządzanie kosztami AI łączy dane o wykorzystaniu bramy z tożsamością i kontekstem żądania, aby przypisywać wydatki do jednostek biznesowych, zespołów inżynieryjnych, aplikacji, agentów, poszczególnych użytkowników, klientów lub dzierżawców. Katalog cen gromadzi stawki dostawców za tokeny i korzystanie z usług oraz umożliwia ich zmianę w przypadku wynegocjowanych warunków. Integracje z narzędziami AI innych firm rozszerzają przypisywanie kosztów na środowiska narzędziowe do programowania, asystentów AI i procesy tworzenia oprogramowania.

Zespoły mogą ustawiać budżety dla tych grup i otrzymywać alerty, gdy wykorzystanie zbliża się do ustalonych progów. Przegląd w Konnect udostępnia też limity budżetowe twarde i miękkie oraz pulpit do porównywania wydatków z limitami według zespołu, środowiska narzędziowego lub repozytorium.

Optymalizacja odbywa się na poziomie infrastruktury dzięki inteligentnemu kierowaniu żądań do modeli, buforowaniu semantycznemu, buforowaniu promptów, kompresji promptów i mechanizmom kontroli rozumowania. Kong podaje, że potencjalne korzyści zależą od rodzaju obciążenia: buforowanie semantyczne szczególnie dobrze sprawdza się w przypadku powtarzalnych lub podobnych żądań, a kierowanie żądań może przynieść większe korzyści, gdy drogie modele wykonują zadania, z którymi poradziłyby sobie tańsze alternatywy. Opportunities — nadchodząca funkcja wyszukiwania dodatkowych możliwości zwiększenia efektywności i mierzenia oszczędności wynikających z optymalizacji — jest oznaczona jako dostępna wkrótce, a nie jako część początkowej wersji.

Dane uwierzytelniające przypisane do użytkownika dla ruchu agentów

Sejf tokenów został udostępniony wraz z mechanizmem OAuth w modelu trójstronnym, przypisanym do użytkownika, w Kong AI Gateway 2.3 i jest dostępny we wszystkich subskrypcjach Kong Gateway. Użytkownik i agent uwierzytelniają się w serwerze proxy serwera MCP przy użyciu danych uwierzytelniających firmowego dostawcy tożsamości. Zanim zostaną wczytane dane uwierzytelniające do usługi docelowej, weryfikowane są uprawnienia dostępu, rejestrowanie zdarzeń, limity żądań i pozostałe zasady bramy.

Przy pierwszym użyciu brama może zwrócić krótkotrwały link rejestracyjny za pośrednictwem mechanizmu MCP URL elicitation lub syntetycznego narzędzia. Użytkownik przechodzi standardowy proces wyrażania zgody OAuth usługi docelowej, po czym brama szyfruje uzyskane tokeny odświeżania za pomocą klucza klienta i wysyła zaszyfrowany pakiet do Kong Identity, aby go tam przechować.

Podczas kolejnych autoryzowanych wywołań brama odszyfrowuje dane uwierzytelniające w pamięci, używając klucza prywatnego pobranego z menedżera sekretów klienta, umieszcza je w żądaniu do usługi docelowej, a także odświeża wygasłe tokeny i ponownie je szyfruje. Kong informuje, że agent otrzymuje odpowiedź, nie widząc tokenu. Konnect przechowuje zaszyfrowane tokeny, ale nie ma klucza potrzebnego do ich odszyfrowania; odebranie użytkownikowi dostępu na podstawie zasad zaczyna obowiązywać natychmiast, nawet jeśli dane uwierzytelniające w usłudze docelowej nie zostały jeszcze unieważnione.

Nadzorowane wyszukiwanie i widoczność operacyjna

Rejestr AI Kong obejmuje modele komercyjne, hostowane samodzielnie i niestandardowe, serwery MCP oraz agentów wewnętrznych i firm zewnętrznych. Programiści i agenci mogą wyszukiwać zatwierdzone zasoby, zamiast polegać wyłącznie na połączeniach zapisanych na stałe w kodzie każdego agenta. Sama rejestracja nie przyznaje dostępu: podczas działania Kong AI Gateway zapewnia uwierzytelnianie, autoryzację, egzekwowanie zasad, zarządzanie ruchem i obserwowalność, a także między innymi limity żądań i zabezpieczenia.

Context Mesh tworzy nadzorowane serwery MCP na podstawie istniejących interfejsów API i serwerów MCP, łączy wiele źródeł w zestawy złożone i może wdrażać utworzone w ten sposób serwery w Kong AI Gateway. Dzięki funkcji Code Mode agent przeszukuje dostępne interfejsy API, pobiera odpowiedni schemat i wykonuje operację, zamiast wczytywać definicje wszystkich narzędzi. Może też łączyć operacje, używając pętli, instrukcji warunkowych i obsługi błędów. Kong udostępnił już powszechnie zarządzanie kontekstem jako część AI Management 30 września 2026 r.; ta wcześniejsza dostępność stanowi kontekst dla nowego pakietu.

Obserwowalność AI zapewnia obecnie przegląd całego środowiska, gotowe i niestandardowe pulpity, narzędzie Explorer do doraźnych zapytań oraz dzienniki połączeń. Pulpity przedstawiają zestawienia ruchu i wydatków według modelu, agenta, narzędzia MCP, zespołu lub środowiska. Udostępnione widoki podlegają kontroli dostępu opartej na rolach, a eksportery OpenTelemetry i metryk umożliwiają przekazywanie danych telemetrycznych do używanych już systemów obserwowalności.

Zaawansowane śledzenie sesji i poszczególnych tur, obejmujące kroki agenta, wywołania narzędzi i wywołania modeli, zaplanowano na koniec listopada lub początek grudnia 2026 roku. Planowany proces pracy pozwoli zespołom analizować dane wejściowe i wyjściowe, liczbę tokenów, koszt i opóźnienie dla każdej tury, a także kontrole zgodności z zasadami i wywołania narzędzi, które doprowadziły do uzyskania wyniku.

Ta wersja rozszerza rolę bramy poza przepuszczanie lub blokowanie pojedynczych żądań AI: staje się ona wspólną warstwą, która pozwala przypisywać aktywności agentów tożsamość, budżety i zasady dostępu do narzędzi. Obecni klienci bramy Konnect otrzymują w ramach tego pakietu podstawowe mechanizmy kontroli kosztów, poświadczeń i wykrywania, natomiast pełny ślad audytowy sesji oraz dowody oszczędności wynikających z optymalizacji należą do kolejnego etapu wdrożenia.

Aiden Cross jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się strategią produktów AI, wykonaniem oraz praktycznymi wyzwaniami związanymi z przekształcaniem modeli eksperymentalnych w produkty skalowalne i gotowe do wejścia na rynek. Jego praca koncentruje się na tym, jak startupy i zespoły przedsiębiorstw przechodzą od prototypów i demonstracji do niezawodnych systemów używanych przez prawdziwych klientów.
Z pragmatycznym i szczegółowym podejściem Aiden analizuje plany rozwoju produktów, strategie wejścia na rynek, decyzje dotyczące platformy oraz kompromisy organizacyjne, które determinują, czy inicjatywy AI odnoszą sukces, czy utykają w miejscu. Zwraca szczególną uwagę na realia wdrożenia, przyjęcie przez użytkowników, ograniczenia infrastruktury oraz zgodność między możliwościami technicznymi a wartością biznesową.
Artykuły autorstwa Aidena Crossa są wygenerowane przez sztuczną inteligencję i sprawdzane przez zespół redakcyjny Unite.AI, aby zapewnić klarowność, dokładność i odpowiedzialne relacjonowanie, w jaki sposób produkty AI są tworzone, udostępniane użytkownikom i skalowane w świecie rzeczywistym.