Hợp tác
Baseten đưa bốn mô hình mở lên bản xem trước Microsoft Foundry

Điểm chínhCơ sở hạ tầng suy luận của Baseten bước vào bản xem trước Microsoft Foundry với tư cách…
Xem thêm
- Cơ sở hạ tầng suy luận của Baseten bước vào bản xem trước Microsoft Foundry với tư cách là dịch vụ bên thứ nhất cung cấp bốn mô hình mở.
- Quản trị viên phải chọn tham gia trước khi tổ chức của họ có thể truy cập các mô hình xem trước thông qua Foundry.
- Baseten dự kiến sẽ có sẵn rộng rãi vào đầu năm 2027 và có kế hoạch bổ sung các mô hình mở mới vào ngày phát hành.
Baseten thông báo vào ngày 17 tháng 11 năm 2026 rằng hạ tầng suy luận của công ty đã có mặt trong bản xem trước công khai thông qua Microsoft Foundry, ban đầu vận hành bốn mô hình mở cho khách hàng Azure dưới dạng dịch vụ do Microsoft trực tiếp cung cấp.
Danh sách ra mắt gồm DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash và Kimi K3. Các mô hình này nằm trong danh mục Foundry cùng với những hệ thống mở và độc quyền khác, chịu cùng các biện pháp kiểm soát dành cho doanh nghiệp và được sử dụng theo các thỏa thuận hiện có của khách hàng với Microsoft. Tất cả khách hàng Foundry đều có thể dùng bản xem trước, nhưng quản trị viên phải chọn tham gia thay mặt tổ chức của mình. Thông báo nêu các tác tử lập trình, quy trình nghiên cứu và ứng dụng hỗ trợ khách hàng là những mục đích sử dụng của các mô hình mới này.
Các lựa chọn triển khai và API tương thích với OpenAI
Baseten định vị hoạt động tích hợp này như một cách để đánh giá và áp dụng các mô hình mở mà không cần tự tìm nguồn cung GPU hay quản lý môi trường chạy mô hình. Công ty đảm nhiệm hạ tầng phục vụ mô hình, còn nhà phát triển có thể chọn giữa hình thức triển khai tiêu chuẩn và hình thức được cấp phát; theo công ty, các hình thức này sẵn sàng chỉ trong vài giây.
Các hình thức triển khai Tiêu chuẩn toàn cầu và Tiêu chuẩn vùng dữ liệu tại Mỹ tính phí theo số token sử dụng. Trong khi đó, các hình thức triển khai Được cấp phát toàn cầu và Được cấp phát vùng dữ liệu tại Mỹ sử dụng đơn vị thông lượng được cấp phát (PTU), giúp dành riêng năng lực xử lý và bảo đảm thông lượng ổn định, dễ dự đoán.
Các mô hình được cung cấp thông qua Chat Completions API và Responses API. Baseten cho biết khả năng hỗ trợ này cho phép giữ nguyên phần lớn mã nguồn tương thích với OpenAI và các quy trình làm việc của tác tử, chỉ cần thay đổi tối thiểu, qua đó giảm công sức tích hợp cần thiết để thử nghiệm các mô hình mới được đưa vào danh mục.
Bảo mật, thanh toán và hạ tầng
Dịch vụ sử dụng cùng hoạt động nghiên cứu hiệu năng và hạ tầng suy luận đứng sau các API mô hình của Baseten. Foundry cung cấp khuôn khổ bảo mật, khả năng quan sát và thanh toán của Azure. Baseten cho biết từng mô hình đều được tinh chỉnh về định tuyến, xử lý theo lô, lưu vào bộ nhớ đệm và các nhân xử lý, đồng thời hạ tầng được thiết kế để đạt thời gian hoạt động 99,9%.
Các yêu cầu không lưu trạng thái, và Baseten không lưu trữ lời nhắc hay câu trả lời. Các tùy chọn xác thực thông qua Foundry gồm Microsoft Entra ID và quyền truy cập bằng khóa, trong khi Azure Policy cung cấp các biện pháp kiểm soát quyền truy cập riêng cho từng mô hình.
Chi phí sử dụng được tính hóa đơn qua Azure dưới dạng mức tiêu thụ dịch vụ Foundry do Microsoft trực tiếp cung cấp. Baseten cho biết 100% khoản chi này được tính vào Microsoft Azure Consumption Commitment (MACC) của khách hàng, qua đó gắn trực tiếp việc sử dụng mô hình với thỏa thuận chi tiêu Azure hiện có.
Steve Sweetman, Phó Chủ tịch phụ trách Sản phẩm tại Microsoft Foundry, cho biết: “Việc đưa Baseten lên Microsoft Foundry mang đến cho doanh nghiệp nhiều lựa chọn hơn, đồng thời kết hợp khả năng suy luận được tối ưu hóa và đáng tin cậy của Baseten với cơ chế quản trị, kiểm soát và khả năng quan sát của nền tảng Foundry, giúp nhà phát triển biến những ý tưởng táo bạo nhất thành ứng dụng đưa vào vận hành.”
Lộ trình bản xem trước
Bản xem trước công khai là giai đoạn đầu tiên. Baseten dự kiến cung cấp rộng rãi vào đầu năm 2027 và có kế hoạch liên tục bổ sung các mô hình mở khi chúng được phát hành, trong đó có việc đưa các hệ thống mới vào sử dụng ngay trong ngày phát hành.
Đối với các nhóm Azure, thay đổi trước mắt nằm ở khâu vận hành: họ có thể đánh giá mô hình mở thông qua danh mục, các biện pháp kiểm soát và hệ thống thanh toán của Foundry mà không cần xây dựng môi trường phục vụ mô hình bằng GPU. Nhờ đó, bản xem trước trở thành một phép thử thực tế để xác định liệu hạ tầng tích hợp và quy trình mua sắm có thể giúp các nhóm AI doanh nghiệp dễ dàng hơn trên hành trình từ đánh giá mô hình đến đưa vào sản xuất hay không.












