Mô hình và nền tảng AI

Kong ra mắt AI Gateway 2.2 với Quản trị Công cụ MCP, Chính sách Nhận dạng

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Kong Inc. đã công bố việc ra mắt chung của Kong AI Gateway 2.2 vào ngày 30 tháng 9 năm 2026, bổ sung quyền truy cập được quản trị cho các công cụ MCP, các chính sách AI nhận dạng, quản lý chi phí theo mô hình, và hỗ trợ mở rộng cho các mô hình và nhà cung cấp. Bản phát hành này có sẵn trong Kong Konnect, nền tảng Kết nối AI của công ty, mà không cần bật chế độ beta.

Kong cho biết bản phát hành này được xây dựng cho một hệ sinh thái AI ngày càng đa dạng, trong đó các kiến trúc mô hình mới, API nhà cung cấp mới, các mô hình tự lưu trữ và các dịch vụ AI chuyên biệt đang làm cho các giao diện kết nối AI doanh nghiệp trở nên đa dạng hơn chứ không phải ít hơn. Công ty mô tả AI Gateway như việc cung cấp cho AI một nền tảng và lịch phát hành riêng, để các doanh nghiệp có thể áp dụng những gì mới nhất trong AI mà không làm suy giảm bảo mật, tuân thủ, kiểm soát chi phí, độ bền vững hoặc khả năng quan sát. Kong định vị bản cập nhật 2.2 quanh một mục tiêu gọi là khả năng di động chiến lược: các nhà phát triển nên có khả năng áp dụng công nghệ AI phù hợp cho nhiệm vụ mà không phải tạo ra một hạ tầng và ngăn xếp quản trị mới mỗi khi mô hình, nhà cung cấp hoặc giao diện nền tảng thay đổi.

Quản trị Công cụ và Nhận dạng

Gói hợp nhất Máy chủ MCP hợp nhất nhiều máy chủ MCP thành một tuyến Kong duy nhất, chỉ hiển thị các công cụ mà mỗi người gọi được ủy quyền xem và thực thi. Các chính sách AI nhận dạng, được hỗ trợ bởi Kong Identity, cho phép giới hạn tốc độ, phân tích, phân bổ chi phí và kiểm soát truy cập dựa trên một thực thể đã xác thực thay vì một Consumer nội bộ của gateway, mà Kong cho rằng cung cấp cho các doanh nghiệp một cách nhất quán để biết ai, hoặc tác nhân nào, đứng sau mỗi cuộc gọi.

Bản phát hành này bổ sung xác thực AWS IAM gốc cho Amazon Bedrock AgentCore, mà Kong mô tả là xác thực SigV4 khai báo, được nền tảng quản lý, thay thế các giải pháp tự chế cho các nhóm sử dụng AWS chạy các tác nhân và máy chủ MCP trên AgentCore. Ngoài ra, plugin AI Rate Limiting Advanced nhận được khả năng khớp dựa trên chứng chỉ, cho phép các chính sách sử dụng một chứng chỉ làm chiều khớp; Kong cho rằng điều này cung cấp cho các tổ chức một cách kiểm soát tiêu thụ AI chi tiết hơn khi nhiều chứng chỉ truy cập cùng một mô hình hoặc dịch vụ AI.

Mở rộng Hỗ trợ Mô hình và Giao diện

AI Gateway 2.2 bổ sung hỗ trợ gốc cho TypeSafe JEV như một nhà cung cấp và một định dạng, bao gồm khả năng quyết định. Kong mô tả JEV là trả về các quyết định có kiểu dữ liệu, xác suất mà phần mềm có thể hành động trực tiếp thay vì tạo ra văn bản, và cho biết JEV có thể làm việc với gateway để cung cấp thông tin cho việc định tuyến LLM thông minh, quyết định mô hình nào sẽ xử lý yêu cầu trong khi Kong AI Gateway thực hiện việc định tuyến tới mô hình đã chọn. Bản phát hành cũng thêm hỗ trợ cho Skills API, với Kong dịch giữa biểu diễn chung và các định dạng riêng của nhà cung cấp để các nhóm có thể làm việc với các Skills có thể tái sử dụng, có phiên bản trên nhiều nhà cung cấp được hỗ trợ mà không cần gắn chặt ứng dụng vào một triển khai duy nhất. Hỗ trợ gốc cho Kimi, Microsoft Foundry và Amazon SageMaker cũng đã được thêm vào.

Một chế độ truyền thẳng mới bao phủ các khối lượng công việc AI sử dụng giao diện tùy chỉnh hoặc không chuẩn, bao gồm các máy chủ mô hình tự lưu trữ như vLLM, Ollama và NVIDIA NIM, API xem trước của nhà cung cấp với các sơ đồ đang phát triển, và các điểm cuối AI chuyên biệt không phải LLM. Trong chế độ truyền thẳng, Kong chuyển tiếp các yêu cầu và phản hồi mà không biến đổi phần nội dung, đồng thời duy trì các khả năng như xác thực nhà cung cấp upstream, xác thực Kong, giới hạn tốc độ và ghi nhật ký.

Quản lý Chi phí và Khả năng Mở rộng

Giá động, nhận thức theo mô hình theo dõi riêng biệt văn bản, âm thanh, hình ảnh và video, cùng với việc đọc bộ nhớ đệm so với ghi bộ nhớ đệm; Kong cho rằng điều này cung cấp cho các đội nền tảng và tài chính khả năng phân bổ chi phí chính xác thay vì các ước tính phẳng dựa trên token. Một tích hợp Tech Preview với Headroom áp dụng nén prompt để giảm tiêu thụ token đầu ra bằng cách định dạng lại đầu ra và điều chỉnh độ chi tiết, trong khi Kong vẫn là điểm ra LLM chính. Tích hợp này ghi lại các chỉ số bao gồm token đã tiết kiệm, tỷ lệ nén và các biến đổi đã áp dụng, và nếu Headroom không khả dụng hoặc hết thời gian chờ, Kong có thể chuyển tiếp nội dung gốc thay vì làm gián đoạn yêu cầu AI.

AI Gateway 2.2 cũng thêm hỗ trợ cho các plugin tùy chỉnh trong mặt phẳng điều khiển AI Gateway, bao gồm việc truyền luồng các plugin tùy chỉnh từ mặt phẳng điều khiển tới các mặt phẳng dữ liệu cũng như các plugin được cài đặt trực tiếp trên mặt phẳng dữ liệu. Kong cho rằng điều này mang lại khả năng mở rộng mà các doanh nghiệp mong đợi từ hạ tầng API của mình vào AI Gateway, cho phép các đội nền tảng thêm logic và chính sách đặc thù cho tổ chức phù hợp với kiến trúc, bảo mật và yêu cầu quản trị của họ.

Tuyên bố của Giám đốc Điều hành

“Lời hứa của AI có khả năng tự động không chỉ là những gì một tác nhân có thể làm, mà còn là liệu một doanh nghiệp có thể tự tin đưa nó vào hoạt động hay không,” Reza Shafii, Phó Chủ tịch Cấp cao về Sản phẩm tại Kong, nói trong bản phát hành của công ty. Nền tảng của quản trị AI đó, ông cho rằng, đòi hỏi khả năng quan sát những gì đang diễn ra, kiểm soát những gì các tác nhân có thể truy cập và thực thi, và khả năng quản lý rủi ro cùng kinh tế học đi kèm, mà ông mô tả là yếu tố sẽ làm cho AI có khả năng tự động trở nên khả thi trong doanh nghiệp.

Kong mô tả mình là Công ty Kết nối AI, xây dựng lớp kết nối cho AI, với một API và nền tảng AI thống nhất, bảo mật, quản lý, tăng tốc, điều hành và kiếm tiền từ lưu lượng API và AI. Bài thông báo của công ty, do Alex Drag, Trưởng phòng Tiếp thị Sản phẩm, viết, đã được xuất bản vào ngày 30 tháng 9 năm 2026.

Aiden Cross là một chiến lược gia được tạo bởi AI tại Unite.AI, chuyên về chiến lược sản phẩm AI, thực hiện và các thách thức thực tế khi chuyển đổi các mô hình thử nghiệm thành các sản phẩm sẵn sàng cho thị trường. Công việc của ông tập trung vào cách các công ty khởi nghiệp và các đội doanh nghiệp chuyển từ các nguyên mẫu và demo sang các hệ thống đáng tin cậy được sử dụng bởi khách hàng thực sự.
Với quan điểm thực tế và chi tiết, Aiden phân tích các bản đồ sản phẩm, chiến lược tiếp thị, quyết định nền tảng và các lựa chọn tổ chức mà quyết định liệu các sáng kiến AI có thành công hay không. Ông đặc biệt chú ý đến các thực tế triển khai, việc áp dụng của người dùng, các hạn chế về cơ sở hạ tầng và sự phù hợp giữa khả năng kỹ thuật và giá trị kinh doanh.
Các bài viết được viết bởi Aiden Cross được tạo bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo sự rõ ràng, chính xác và phạm vi bao quát có trách nhiệm về cách các sản phẩm AI được xây dựng, vận chuyển và mở rộng trong thế giới thực.