Hợp tác
Microsoft ra mắt Sáng kiến Minh bạch AI dành cho tác nhân doanh nghiệp

Điểm chínhCác biện pháp kiểm soát hiện có quan sát hoạt động xung quanh các mô hình nhưng không…
Xem thêm
- Các biện pháp kiểm soát hiện có quan sát hoạt động xung quanh các mô hình nhưng không thể xác minh điều gì xảy ra bên trong chúng.
- Khung này yêu cầu bằng chứng vẫn có thể di chuyển được khi doanh nghiệp chuyển đổi mô hình hoặc nhà cung cấp.
- Microsoft sẽ mở rộng việc tham gia Sáng kiến Tiêu chuẩn Đại lý SI của NIST để phát triển các tiêu chuẩn mở.
Ngày 17 tháng 11 năm 2026, tại Microsoft Ignite, Microsoft công bố Sáng kiến Minh bạch AI, quy tụ hơn 40 tổ chức nhằm xây dựng các tiêu chuẩn mở để bảo mật và quản trị mô hình AI cùng tác nhân trên nhiều nhà cung cấp.
Chủ tịch kiêm CEO Satya Nadella đã giới thiệu sáng kiến này cùng khách hàng và đối tác, trong đó có Accenture, Adobe, KPMG, Mastercard và Volvo Cars. Sự hợp tác này hướng đến việc bảo đảm các hệ thống AI có trách nhiệm giải trình, có thể được xác minh độc lập và an toàn ngay từ khâu thiết kế, bất kể mô hình hay nhà cung cấp nào. Nguyên tắc chi phối sáng kiến là mức độ tự chủ của AI càng cao thì càng cần minh bạch.
Khoảng trống bằng chứng trong doanh nghiệp
Các doanh nghiệp đang kết nối mô hình với dữ liệu, công cụ, thông tin xác thực và hạ tầng, cho phép tác nhân thực hiện hành động mà không cần con người phê duyệt ở từng bước. Microsoft cho biết các biện pháp kiểm soát hiện có có thể theo dõi hoạt động xung quanh mô hình, nhưng không thể quan sát những gì diễn ra bên trong mô hình hoặc xác minh độc lập lời giải trình của mô hình về hành vi của chính nó.
Blog Security của công ty cũng nêu rõ sự khác biệt tương tự khi nói về việc khoanh vùng tác nhân: phát hiện, quản trị và khoanh vùng một tác nhân vẫn không cho biết mô hình nền tảng của nó hoạt động như thế nào. Điều đó để lại ba câu hỏi sau khi xảy ra hoạt động có hệ quả đáng kể: AI được yêu cầu và cho phép làm gì, điều gì đã diễn ra từ lúc nhận yêu cầu đến khi có kết quả, và liệu hoạt động đó có thể được xác minh độc lập hay không.
Microsoft ví các tác nhân được cấp quyền truy cập dữ liệu, công cụ và thông tin xác thực như những người nội bộ có đặc quyền, hoạt động với tốc độ và quy mô của máy móc. Khoảng trống bằng chứng kéo theo rủi ro về bảo mật, tuân thủ, kiểm toán và trách nhiệm giải trình; trong khi đó, tổ chức triển khai vẫn phải chịu trách nhiệm khi lãnh đạo cần trả lời khách hàng, nhân viên, hội đồng quản trị, kiểm toán viên và cơ quan quản lý.
Khung Quan sát, Xác minh và Kiểm soát
Khung của sáng kiến sắp xếp các yêu cầu đó thành ba phần. Quan sát bao quát yêu cầu và quyền cho phép, mô hình và môi trường chạy, dữ liệu cùng công cụ được truy cập, cũng như các hành động đã thực hiện. Khung này cũng yêu cầu giám sát liên tục hoạt động của tác nhân và các tín hiệu rủi ro, đối chiếu với chính sách và ngưỡng quy định.
Xác minh tập trung vào nguồn bằng chứng. Hồ sơ về danh tính tác nhân, ý định được ủy quyền và các hành động sẽ cho biết thông tin đến từ mô hình, môi trường chạy của mô hình hay các hệ thống danh tính và chính sách độc lập. Sau đó, các tín hiệu do mô hình báo cáo có thể được đối chiếu với hồ sơ được ghi nhận độc lập thông qua hệ thống bảo mật và tuân thủ riêng của tổ chức, thay vì chỉ dựa vào lời giải trình của nhà cung cấp.
Kiểm soát sử dụng bằng chứng về mục đích, chủ sở hữu, dữ liệu và thẩm quyền được ủy quyền của từng quy trình làm việc để thực thi chính sách trước khi diễn ra các hành động có hệ quả đáng kể. Những hồ sơ này cũng sẽ hỗ trợ việc tái dựng sự việc trong quá trình điều tra, khoanh vùng, khôi phục và kiểm toán. Các hồ sơ được thiết kế để tiếp tục sử dụng được khi tổ chức thay đổi mô hình hoặc nhà cung cấp, kể cả khi chuyển đổi giữa các mô hình đóng và mô hình có trọng số mở, nhờ đó đội ngũ phát triển có thể cập nhật tác nhân mà không ảnh hưởng đến quản trị bảo mật hay hoạt động kiểm toán tuân thủ.
Xây dựng tiêu chuẩn và triển khai sản phẩm
Microsoft sẽ mở rộng sự tham gia vào Sáng kiến Tiêu chuẩn Tác nhân SI của NIST và vận dụng các nghiên cứu của chính mình để phát triển tiêu chuẩn mở trên toàn ngành về tính minh bạch, bảo mật và quản trị AI. Chương trình của NIST được thiết kế nhằm thúc đẩy các tiêu chuẩn kỹ thuật do ngành dẫn dắt và các giao thức mở, để các tác nhân tự chủ có thể hoạt động an toàn và tương tác với nhau trên nhiều hệ thống số.
Các trụ cột chiến lược kết hợp hướng dẫn tự nguyện và phân tích khoảng trống phục vụ việc xây dựng tiêu chuẩn do ngành dẫn dắt; nỗ lực giảm rào cản đối với các giao thức có khả năng tương tác do cộng đồng xây dựng; và nghiên cứu về xác thực tác nhân, hạ tầng danh tính và đánh giá bảo mật.
Microsoft cũng dự định tích hợp các kết quả của sáng kiến vào Microsoft AI, Microsoft Foundry và Microsoft Copilot. Khách hàng có thể sử dụng bằng chứng thu được cùng các công cụ bảo mật và tuân thủ của Microsoft hoặc các nhà cung cấp khác.
Phép thử thực tiễn của sáng kiến là liệu các bên tham gia có thể biến khung này thành những tiêu chuẩn chung và bằng chứng có thể chuyển đổi hay không: những hồ sơ giúp doanh nghiệp quản trị tác nhân trước khi chúng hành động và tái dựng hành vi của chúng sau đó, ngay cả khi mô hình nền tảng hoặc nhà cung cấp thay đổi.












