Tại Sao Quản Lý AI Luôn Thất Bại

Vấn đề không phải là các tổ chức không có chính sách AI. Mà vấn đề là những chính sách đó không thực sự làm được gì.

Ở đâu đó giữa tài liệu PDF được định dạng gọn gàng và mô hình được triển khai, ý định bị bốc hơi. Các đội phải tự phát. Các ngoại lệ tích lũy. Quản lý devolve từ một hệ thống thành một cuộc đàm phán – và trong các ngành được quản lý như chăm sóc sức khỏe và khoa học đời sống, khoảng cách đó không chỉ đáng xấu hổ. Đó là một trách nhiệm vận hành.

Giải pháp không phải là thêm tài liệu. Đó là đối xử với quản lý như một phần mềm.

Khoảng Cách Quản Lý Đã Có Thể Đo Lường

Sự áp dụng AI đã tăng tốc đáng kể trong khi cơ sở hạ tầng quản lý chưa theo kịp. Một nghiên cứu tháng 9 năm 2025 của Ernst & Young cho thấy chỉ 10% công ty được chuẩn bị đầy đủ để kiểm toán hệ thống AI. Đồng thời, nghiên cứu mới của Ponemon cho thấy 92% tổ chức cho biết AI tạo ra đã thay đổi cách nhân viên truy cập và chia sẻ thông tin, nhưng chỉ 18% đã tích hợp đầy đủ quản lý AI vào chương trình rủi ro nội bộ.

Mẫu này nhất quán: AI đã được nhúng vào công việc hàng ngày. Giám sát vẫn còn đang theo đuổi. Và càng lâu quản lý còn ở dạng tài liệu, khoảng cách đó càng trở nên tồi tệ hơn.

Quản Lý Được Triển Khai

Khái niệm này đơn giản một cách lừa đảo: nếu một yêu cầu quản lý không thể thất bại trong quá trình xây dựng, nó không thể bảo vệ sản xuất.

Quản lý thực sự có đầu vào, đầu ra, điểm thực thi và kết quả có thể quan sát được. Nó chạy liên tục – không phải hàng quý. Và quan trọng, nó tạo ra bằng chứng như một sản phẩm phụ của việc thực hiện công việc, không phải như một nghi lễ tuân thủ riêng biệt được gắn thêm sau.

Mô hình hoạt động như này:

Chính Sách → Kiểm Soát → Bằng Chứng → Chỉ Số

Chính sách định nghĩa ý định. Kiểm soát thực thi hành vi. Bằng chứng chứng minh thực hiện. Chỉ số xác nhận kết quả. Đây không phải là một ý tưởng mới – nó chính xác là cách các hệ thống bảo mật và tuân thủ đã trưởng thành hoạt động. Sự thay đổi là áp dụng cùng một logic cho AI.

Kiểm soát không phải là gợi ý. Bằng chứng không phải là tài liệu. Và nếu một kiểm soát yêu cầu nỗ lực thủ công để tạo bằng chứng, nó không phải là kiểm soát. Đó là hy vọng.

Cấp Độ Rủi Ro, Không Phải Rủi Ro Kịch Bản

Không phải mọi hệ thống AI đều xứng đáng được giám sát như nhau. Việc đối xử với một công cụ nội bộ thấp rủi ro với cùng mức độ nghiêm ngặt như một mô hình hỗ trợ quyết định lâm sàng là cách các tổ chức либо bị đình trệ либо暴露 không cần thiết.

Khung quản lý rủi ro AI của NIST, được phát hành vào năm 2023, cung cấp một cấu trúc cơ bản để suy nghĩ về điều này – ánh xạ rủi ro AI trên bốn chức năng: Quản lý, Bản đồ, Đo lường và Quản lý. Một mô hình quản lý doanh nghiệp chức năng xây dựng trên logic này với các cấp độ rủi ro thực tế:

Điều này cung cấp cho các đội kỹ sư là điều mà họ hiếm khi nhận được từ các quy trình quản lý: sự rõ ràng. Không phải “chúng ta nên làm gì?” mà “cấp độ này là gì, và điều đó kích hoạt gì?”

Quản lý tốt loại bỏ sự模糊. Quản lý tuyệt vời loại bỏ tranh luận.

Chính Sách Là Mã: Từ Tư Vấn Đến Thực Thi

Chính sách được viết trong tài liệu là tư vấn. Chính sách được mã hóa vào đường ống là có thể thực thi.

Cùng cách cơ sở hạ tầng được xác thực trước khi triển khai, hệ thống AI có thể được kiểm soát bởi các kiểm tra tự động xác minh liệu một trường hợp sử dụng đã được đăng ký, liệu tài liệu cần thiết có tồn tại, liệu kết quả đánh giá đáp ứng ngưỡng định nghĩa, và liệu truy cập vào dữ liệu nhạy cảm tuân theo đặc quyền tối thiểu. Các kiểm tra này chạy trong CI/CD. Chúng không chờ một ủy ban. Chúng không phụ thuộc vào ký ức hoặc lòng tốt của ai.

Open Policy Agent — một dự án Cloud Native Computing Foundation đã tốt nghiệp — chứng minh chính xác cách các quy tắc có thể được phiên bản, xem xét và thực thi nhất quán trên các hệ sinh thái kỹ sư. Mẫu này được hiểu. Khoảng cách là các đội AI không áp dụng nó.

Hệ thống AI an toàn nhất không phải là hệ thống có chính sách tốt nhất. Đó là hệ thống không thể vi phạm chúng.

Kiểm Soát Cụ Thể LLM: Nơi Điều Thú Vị Bắt Đầu

AI tạo ra giới thiệu một loại rủi ro mà các khung quản lý truyền thống không được thiết kế cho — tiêm lệnh, thao túng đầu ra, lạm dụng công cụ. Những điều này không phải là trường hợp ngoại lệ. Chúng là thuộc tính cấu trúc của cách LLM hoạt động, và như Unite.AI’s coverage of agentic AI governance đã lưu ý, khoảng cách quản lý trở nên rõ ràng hơn khi các hệ thống AI chuyển từ trả lời câu hỏi sang thực hiện hành động.

Quản lý hiệu quả cho hệ thống GenAI yêu cầu kiểm soát được xây dựng cụ thể cho hành vi LLM: phân tách nghiêm ngặt các lệnh hệ thống và đầu vào người dùng, truy cập công cụ được kiểm soát và danh sách cho phép, xác thực đầu ra trước khi thực hiện, biện pháp bảo vệ chống lại việc lấy cắp dữ liệu, và mặc định an toàn cho thất bại êm ái.

Những điều này ánh xạ trực tiếp đến các lớp dễ bị tấn công được ghi chép trong OWASP Top 10 cho ứng dụng LLM – một khuôn khổ được điều khiển bởi cộng đồng hiện bao gồm hơn 600 chuyên gia đóng góp trên 18 quốc gia. Quản lý LLM ít hơn về những gì mô hình biết và nhiều hơn về những gì hệ thống cho phép nó làm.

Bằng Chứng Là Cơ Sở Hạ Tầng, Không Phải Giấy Tờ

Các kiểm toán viên không tin vào ý định. Họ tin vào hồ sơ.

Trong một hệ thống mà quản lý được triển khai, bằng chứng được tạo tự động: thẻ mô hình mô tả sử dụng dự kiến và giới hạn, tài liệu dữ liệu bao gồm nguồn gốc, báo cáo đánh giá hiển thị hiệu suất và rủi ro đã biết, nhật ký ghi lại quyết định và thay đổi. Những hồ sơ này không tồn tại cho các cuộc kiểm toán. Chúng tồn tại vì hệ thống yêu cầu chúng để hoạt động.

Vị trí kiểm toán mạnh nhất là khi bằng chứng đã tồn tại trước khi ai đó yêu cầu nó. Điều này không phải là lý thuyết – các nhà quản lý đang di chuyển theo hướng này. Như phân tích gần đây về quản lý AI có thể bảo vệ lưu ý, các câu hỏi mà các nhà quản lý sẽ sớm hỏi không chỉ là “bạn đã giữ nó?” mà “bạn có thể chứng minh điều gì đã xảy ra, theo chính sách nào, sử dụng dữ liệu nào và với thẩm quyền của ai?”

Luận Điểm Thật Sự: Quản Lý Là Tăng Trưởng

Huyền thoại dai dẳng là quản lý và tốc độ đối lập. Trong thực tế, quản lý được thiết kế kém làm chậm các đội. Quản lý được thiết kế tốt loại bỏ ma sát.

Khi kiểm soát được tiêu chuẩn hóa, kiểm tra được tự động hóa và kỳ vọng được mã hóa, các đội ngừng đàm phán và bắt đầu xây dựng. Phát hành trở nên dễ dự đoán hơn. Quyết định ngừng yêu cầu sự anh hùng từ một nhóm nhỏ các chuyên gia đã ghi nhớ các tài liệu chính sách.

Quản lý tăng quy mô khi nó là cơ sở hạ tầng. Nó không tăng quy mô khi nó là cảm giác.

Mục tiêu không bao giờ là kiểm soát vì lợi ích của nó. Đó là động lực mà không có sự hỗn loạn – và các tổ chức đang làm đúng điều này không phải là những tổ chức có tài liệu PDF đầy đủ nhất. Họ là những tổ chức đã làm cho hành vi đúng trở thành con đường dễ dàng nhất.