Kong adaugă în Konnect controale pentru costurile IA, acreditări și observabilitate

Pe 4 noiembrie 2026, Kong a introdus gestionarea IA în Kong Konnect, adăugând controale pentru cheltuielile legate de IA, acreditări, descoperirea guvernată a resurselor și observabilitate, pe măsură ce companiile trec agenții în mediul de producție.

Componentele pentru gestionarea costurilor, acreditări, context și observabilitate de bază sunt incluse în Kong AI Gateway pe Konnect, nu oferite ca extensii separate, astfel că echipele care folosesc deja acest gateway le pot utiliza fără o achiziție suplimentară. Lansarea mai amplă introduce și descoperirea guvernată a modelelor, serverelor Protocolului Model Context (MCP) și agenților.

Kong abordează patru lacune operaționale: cheltuieli care nu pot fi atribuite unei echipe sau unei aplicații, acreditări încorporate în codul agenților sau în prompturi, API-uri transformate în mod repetat în instrumente pentru agenți și lipsa unei evidențe centralizate a activității unui agent. Aceste lacune devin mai greu de gestionat atunci când o singură sarcină implică mai multe modele, servere MCP, API-uri, instrumente și alți agenți. Integrarea controalelor în fluxul de conectivitate permite ca politicile și datele de utilizare să însoțească aceste interacțiuni, în loc ca fiecare echipă de aplicații să fie nevoită să le reconstituie.

Atribuirea costurilor și optimizarea în timpul execuției

Gestionarea costurilor IA combină datele despre consum colectate de gateway cu identitatea și contextul cererii pentru a atribui cheltuielile unităților de business, echipelor de inginerie, aplicațiilor, agenților, utilizatorilor individuali, clienților sau entităților locatare. Catalogul său de prețuri centralizează tarifele furnizorilor pentru tokenuri și cheltuieli și permite aplicarea unor tarife diferite în cazul acordurilor negociate. Integrările cu instrumente IA terțe extind atribuirea la medii de lucru pentru programare, copiloți și fluxuri de lucru pentru dezvoltarea software.

Echipele pot stabili bugete pentru aceste grupuri de atribuire și pot primi alerte pe măsură ce consumul se apropie de praguri. Prezentarea generală din Konnect adaugă opțiuni de buget stricte și flexibile, precum și un tablou de bord pentru compararea cheltuielilor cu limitele bugetare, în funcție de echipă, mediu de lucru pentru programare sau depozit de cod.

Optimizarea se realizează la nivelul infrastructurii, prin rutarea inteligentă a modelelor, memorarea semantică în cache, memorarea prompturilor în cache, comprimarea prompturilor și controale pentru raționament. Kong afirmă că beneficiile potențiale variază în funcție de volumul de lucru: memorarea semantică în cache este deosebit de potrivită pentru cereri repetitive sau similare, în timp ce rutarea poate conta mai mult atunci când modele costisitoare gestionează sarcini pe care le-ar putea îndeplini alternative mai ieftine. Opportunities, o funcționalitate viitoare pentru identificarea unor eficiențe suplimentare și măsurarea economiilor obținute prin optimizare, este indicată ca disponibilă în curând, nu ca parte a lansării inițiale.

Acreditări per utilizator pentru traficul agenților

Seiful de tokenuri a fost lansat cu OAuth cu trei părți per utilizator în Kong AI Gateway 2.3 și este inclus în toate abonamentele Kong Gateway. Un utilizator și un agent se autentifică la un proxy pentru server MCP folosind acreditările furnizate de furnizorul de identitate al companiei. Înainte de încărcarea unei acreditări pentru serviciul din amonte, sunt evaluate accesul, înregistrarea în jurnal, limitarea ratei și celelalte politici ale gateway-ului.

La prima utilizare, gateway-ul poate furniza un link de înscriere cu durată scurtă de valabilitate prin solicitarea URL-ului MCP sau printr-un instrument sintetic. Utilizatorul parcurge fluxul obișnuit de consimțământ OAuth al serviciului din amonte, după care gateway-ul criptează tokenurile de reîmprospătare rezultate cu cheia clientului și trimite pachetul criptat către Kong Identity, pentru stocare.

În cazul apelurilor ulterioare autorizate, gateway-ul decriptează acreditarea în memorie cu o cheie privată citită din managerul de secrete al clientului, o inserează în cererea către serviciul din amonte, apoi reîmprospătează și criptează din nou tokenurile expirate. Kong afirmă că agentul primește răspunsul fără să vadă tokenul. Konnect stochează tokenurile criptate, dar nu deține cheia necesară pentru a le decripta; revocarea accesului unui utilizator prin politica de acces produce efecte imediat, chiar dacă acreditarea pentru serviciul din amonte nu a fost încă revocată.

Descoperire guvernată și vizibilitate operațională

Registrul IA Kong acoperă modele comerciale, găzduite în regim propriu și personalizate, servere MCP, precum și agenți interni și terți. Dezvoltatorii și agenții pot descoperi resurse aprobate, în loc să depindă doar de conexiunile codificate direct în fiecare agent. Înregistrarea nu acordă, prin ea însăși, acces: în timpul execuției, AI Gateway asigură autentificarea, autorizarea, aplicarea politicilor, gestionarea traficului și observabilitatea, iar controalele includ limite de rată și măsuri de protecție a securității.

Context Mesh generează servere MCP guvernate pornind de la API-uri și servere MCP existente, combină mai multe surse în structuri compozite și poate implementa serverele rezultate în AI Gateway. Cu Code Mode, un agent caută prin suprafața API disponibilă, preia schema relevantă și execută operațiunea, în loc să încarce definițiile tuturor instrumentelor. De asemenea, poate combina operațiuni folosind bucle, condiționale și tratarea erorilor. Kong pusese deja la dispoziție în general gestionarea contextului, ca parte a AI Management, pe 30 septembrie 2026; această disponibilitate anterioară oferă context pentru noul pachet.

Observabilitatea IA oferă în prezent o imagine de ansamblu asupra întregului mediu, tablouri de bord preconfigurate și personalizate, un Explorer pentru interogări ad-hoc și jurnale de conectivitate. Tablourile de bord prezintă defalcări ale traficului și cheltuielilor în funcție de model, agent, instrument MCP, echipă sau mediu. Vizualizările partajate sunt supuse controalelor de acces bazate pe roluri, iar exportatoarele OpenTelemetry și de valori permit integrarea telemetriei în sistemele de observabilitate existente.

Urmărirea avansată a sesiunilor și a tururilor de conversație, de-a lungul etapelor agentului, apelurilor către instrumente și apelurilor către modele, este programată pentru sfârșitul lunii noiembrie sau începutul lunii decembrie 2026. Fluxul de lucru planificat le va permite echipelor să examineze intrările, ieșirile, numărul de tokenuri, costul și latența unui anumit tur, împreună cu verificările politicilor și apelurile către instrumente care au produs rezultatul.

Această versiune extinde rolul gateway-ului dincolo de simpla permitere sau blocare a solicitărilor individuale către AI: gateway-ul devine un nivel comun pentru asocierea identității, a bugetelor și a politicilor de acces la instrumente cu activitatea agenților. Clienții existenți ai gateway-ului Konnect primesc în cadrul acestui pachet controalele esențiale pentru costuri, date de autentificare și descoperire, în timp ce pista completă de audit a sesiunilor și dovezile economiilor obținute prin optimizare fac parte din etapa următoare a lansării.