Lãnh đạo tư tưởng
Thay đổi kiến trúc cần thiết để quản trị các tác nhân AI

Điểm chínhXem tác nhân như đồng nghiệp số với thẻ truy cập và ranh giới tiết lộ, không phải các…
Xem thêm
- Xem tác nhân như đồng nghiệp số với thẻ truy cập và ranh giới tiết lộ, không phải các bản sửa lỗi tức thời.
- Quản trị theo thiết kế yêu cầu một mặt phẳng điều khiển thống nhất để thực thi các chính sách một cách nhất quán trên mọi môi trường.
- Nếu không có khả năng quan sát và truy xuất nguồn gốc theo thời gian thực, doanh nghiệp không thể kiểm toán hành động của tác nhân hoặc chứng minh sự tuân thủ trong thời gian chạy.
Trí tuệ nhân tạo không còn chỉ là một chương trình trò chuyện tạo ra văn bản. Trong môi trường doanh nghiệp, các tác nhân AI đang thực hiện các hành động như truy xuất dữ liệu nhạy cảm, kích hoạt quy trình, gọi công cụ và ghi nhật ký hoạt động trên các hệ thống. Sự tự chủ thay đổi hoàn toàn cuộc thảo luận về quản trị; các kiểm soát và thủ tục ban đầu được thiết kế cho người dùng và ứng dụng truyền thống không được xây dựng để quản trị phần mềm có thể thực hiện các hành động đa bước tại thời điểm chạy.
Rủi ro không phải là lý thuyết. Các khoảng trống nhỏ trong khả năng hiển thị, kiểm soát truy cập và khả năng kiểm toán có thể tích tụ nhanh chóng, trở thành lỗi thời gian chạy khó phát hiện và thậm chí khó đảo ngược hơn.
Để theo kịp thời đại mới này, việc quản trị các tác nhân AI không thể được thực hiện bằng cách thêm nhiều tài liệu chính sách. Nó đòi hỏi quản trị ngay từ thiết kế: một cách tiếp cận kiến trúc trong đó các kiểm soát được nhúng vào mặt phẳng điều khiển và được thực thi liên tục tại thời điểm chạy. Nếu các tác nhân muốn hành động như các đồng nghiệp kỹ thuật số, chúng phải kế thừa các cơ chế bảo vệ của doanh nghiệp giống như con người, cộng với sự giám sát thời gian chạy mạnh mẽ hơn.
Vì sao quản trị thất bại trong thời đại hội tụ
Kiến trúc doanh nghiệp đã bước vào thời đại hội tụ. Dữ liệu và khối lượng công việc hiện nay trải rộng trên nhiều đám mây, trung tâm dữ liệu riêng và môi trường biên.
Có những tổ chức chạy nền tảng của họ trong các hệ thống song song vì họ có nhiều quy trình để quản lý đồng thời. Điều này bao gồm các hệ thống nhận dạng riêng biệt, đường ống ghi nhật ký, danh mục và quy trình được phê duyệt. Kết quả là những gì một số người gọi là “nền tảng Frankenstein”, nơi gánh nặng tích hợp tăng lên với mỗi công cụ hoặc môi trường đám mây mới. Trên thực tế, sự phân mảnh này đã thể hiện trong hoạt động hằng ngày.
Theo một khảo sát gần đây, 47% người được hỏi cho biết các yêu cầu và quy trình truy cập phức tạp, và 44% cho biết khả năng nắm rõ vị trí dữ liệu còn hạn chế là các rào cản để sử dụng dữ liệu một cách hiệu quả.
Đây chính là nơi các tác nhân làm lộ rõ các mối nối giữa các hệ thống.
Để trả lời một câu hỏi kinh doanh, một tác nhân có thể phải kéo dữ liệu từ hệ thống hoạch định nguồn lực doanh nghiệp (ERP) tại chỗ, hệ thống CRM trên đám mây, dữ liệu đo lường vận hành trên một đám mây khác và tài liệu trong bộ ứng dụng cộng tác. Nếu tổ chức thực thi chính sách khác nhau ở mỗi nơi, tác nhân sẽ thất bại hoặc, tệ hơn, thành công theo cách bạn không thể giải thích hoặc kiểm soát.
Đây là lúc các nhà lãnh đạo doanh nghiệp phải chú ý. Các tác nhân đang đặt ra một tiêu chuẩn cao hơn, đòi hỏi sự nhất quán trên các môi trường và trách nhiệm tại thời điểm chạy.
Vì thế, các cơ quan quản lý và an ninh đang đưa quản trị vào tâm điểm chú ý. Một ví dụ về điều này là Khung Quản Lý Rủi Ro Trí Tuệ Nhân Tạo của NIST, nhấn mạnh quản lý rủi ro trên toàn bộ vòng đời trí tuệ nhân tạo, không chỉ tại thời điểm xây dựng. Đây là một lời nhắc nhở rằng tuân thủ và tin cậy là các trách nhiệm hoạt động, không phải là các danh sách kiểm tra một lần.
Từ Chính Sách Đến Nền Tảng
Quản trị ngay từ thiết kế có nghĩa là quản trị đi cùng với khối lượng công việc chứ không phải được thực thi lại trong mỗi silo. Trong thực tế, điều này phụ thuộc vào ba thành phần nền tảng:
-
Mặt phẳng điều khiển thống nhất
Một nơi để định nghĩa và thực thi nhận dạng, truy cập, chính sách, danh mục và quyền trên các đám mây và trung tâm dữ liệu.
Mục tiêu là viết chính sách một lần và thực thi chúng ở bất kỳ nơi nào dữ liệu và mô hình chạy, thay vì xây dựng lại hệ thống kiểm soát cho từng hệ thống. Điều này ngăn chặn sự trôi dạt hành vi của tác nhân, nơi cùng một tác nhân hành động an toàn trong một môi trường nhưng nguy hiểm trong môi trường khác.
Một phép kiểm tra thực tế rất đơn giản: nếu một người dùng không thể truy cập một cột, hãy xác minh rằng một tác nhân hành động thay mặt họ không thể truy cập nó. Phép kiểm tra này sẽ cho thấy các chính sách đã được văn bản hóa có được thực thi trên toàn bộ mặt phẳng điều khiển hay không.
-
Lớp kết nối dữ liệu dựa trên các tiêu chuẩn mở
Các tác nhân cần ngữ cảnh để hoạt động. Khi ngữ cảnh đó được phân tán trên các cấu trúc khác nhau thuộc về các nhóm khác nhau, lớp kết nối dữ liệu (data fabric) giúp tiêu chuẩn hóa ngữ nghĩa và mẫu truy cập, vì vậy các tác nhân không cần phải học một tập hợp các quy tắc mới cho mỗi tập dữ liệu.
Các định dạng bảng mở như Apache Iceberg hỗ trợ điều này bằng cách cho phép nhiều bộ máy xử lý chia sẻ cùng một dữ liệu được quản lý mà không cần sao chép nó vào một silo mới. Điều này quan trọng vì sao chép dữ liệu là nơi quản lý thường thất bại. Một khi các nhóm bắt đầu sao chép “chỉ những gì tác nhân cần”, bạn đã tạo ra một môi trường mới, ít được quản lý hơn.
Nếu các tác nhân có thể hoạt động trên các tập dữ liệu mà không tạo thêm lỗ hổng về quyền truy cập, quản lý đang hoạt động như dự định.
-
Khả năng quan sát và truy vết nguồn gốc dữ liệu theo thời gian thực
Các tác nhân chỉ có thể được quản lý nếu bạn có thể xem chúng đang làm gì tại thời điểm chạy.
Khả năng quan sát ở đây không chỉ là “tốt”, mà là nền tảng cho các kiểm soát thời gian chạy và ứng phó sự cố.
Cụ thể, cần có bằng chứng xuyên suốt từ đầu đến cuối về các hành động của tác nhân. Các tác nhân nên có thể chứng minh các hành động, chẳng hạn như dữ liệu nào được truy cập và công cụ nào được gọi, và từ đó, việc truy vết nguồn gốc có thể liên kết đầu ra trở lại đầu vào. Điều này cho phép các nhóm kiểm toán các quyết định, đồng thời điều tra và khắc phục lỗi, nếu cần, do đó chứng minh sự tuân thủ tổng thể.
Đối xử với các tác nhân như “Đồng Nghiệp Kỹ Thuật Số”
Một trong những mô hình tinh thần hữu ích nhất là đối xử với các tác nhân như các đồng nghiệp kỹ thuật số.
Dưới đây là một phép so sánh làm rõ điều này: giống như nhân viên có thẻ truy cập cho phép họ vào một số tòa nhà và phòng, nhưng không phải tất cả, quản lý cho phép các tác nhân có quyền truy cập với các hạn chế. Một bổ sung quan trọng là các tác nhân phải nhận biết trong từng tình huống chúng được phép tiết lộ điều gì.
Hãy xem xét một tác nhân hỗ trợ. Nó có thể cần truy cập các trường hợp hỗ trợ trước để giải quyết một vấn đề, nhưng nó không thể tiết lộ chi tiết riêng tư của khách hàng khác trong khi làm như vậy. Nói cách khác, tác nhân có thể sử dụng kiến thức bị giới hạn quyền truy cập để suy luận, nhưng vẫn cần phải tuân thủ các giới hạn về tiết lộ thông tin. Điều này không phải là một “vấn đề viết lời nhắc” thuộc loại chúng ta từng biết cách xử lý; thay vào đó, nó là một vấn đề về danh tính và việc thực thi các quy tắc trong lúc chạy.
Điều gì thay đổi trong năm 2026: các tác nhân chuyển từ thử nghiệm sang vận hành thực tế
Năm 2026 là năm khi các thử nghiệm kết thúc và các tác nhân đảm nhận vai trò trong môi trường vận hành thực tế.
Sự thay đổi này buộc các doanh nghiệp phải hoạt động ở hai tốc độ. Một là tốc độ đổi mới, nơi các nhóm kiểm tra các mô hình, công cụ và quy trình tác nhân mới để có được lợi thế cạnh tranh. Và cái còn lại là tốc độ an toàn, nơi các hệ thống phải đáp ứng các yêu cầu tuân thủ và hoạt động, có thể bao gồm các kiểm soát truy cập nghiêm ngặt và điểm mù.
Nếu không có cơ chế quản trị được xác lập trong kiến trúc, hai tốc độ này sẽ xung đột.
Nếu các nhóm triển khai các tác nhân này trước khi chúng được quản lý, sẽ có một tập hợp chắp vá các biện pháp kiểm soát riêng lẻ và sự cố vận hành. Và nếu điều ngược lại xảy ra, bạn sẽ có một chế độ thất bại trong đó bảo mật chặn mọi thứ, và đổi mới chuyển sang CNTT ngoài sự quản lý của tổ chức, làm suy yếu quản trị.
Mục tiêu không phải là chọn một tốc độ. Đó là xây dựng một kiến trúc hỗ trợ cả hai.
Danh sách kiểm tra thực tế để quản trị tác nhân trong lúc chạy
- Nếu bạn đang xây dựng hoặc mở rộng các tác nhân, điều quan trọng là phải tự hỏi mình các câu hỏi sau để xác định liệu quản trị có thực sự được tích hợp trong kiến trúc hay không: Bạn có thể giải thích, từ đầu đến cuối, dữ liệu nào một tác nhân đã truy cập để tạo ra một câu trả lời hoặc thực hiện một hành động?
- Các quyết định truy cập có nhất quán trên các môi trường hybrid hay khác nhau theo nền tảng?
- Bạn có dữ liệu đo lường về các hành động của tác nhân, bao gồm các lần gọi công cụ, kiểm tra chính sách và chuyển trường hợp lên con người xử lý?
- Bạn có thể giảm tốc, tạm dừng hoặc cách ly một tác nhân tại thời điểm chạy nếu nó hành động không mong muốn?
- Bạn có kế hoạch giám sát sau khi triển khai phù hợp với các nghĩa vụ theo quy định và khẩu vị rủi ro của bạn?
Nếu bạn không thể trả lời những câu hỏi này, hãy xử lý việc triển khai tác nhân như một sự cố trong môi trường vận hành thực tế đang chờ xảy ra.
Thay đổi về quản trị phải nằm trong kiến trúc, nếu không thì không tồn tại
Các tác nhân sẽ trở thành một phần bổ sung tiêu chuẩn cho các hoạt động doanh nghiệp. Câu hỏi là liệu chúng có trở thành một phần đáng tin cậy của các hoạt động doanh nghiệp hay không.
Nếu các tác nhân không được quản lý với mức độ bảo đảm ít nhất ngang với con người và phần mềm tối quan trọng, hậu quả sẽ là có thật. Chúng ta sẽ thấy những hệ lụy trong việc rò rỉ dữ liệu, thất bại tuân thủ, thời gian ngừng hoạt động và mất niềm tin vào các chương trình trí tuệ nhân tạo.
Các nhà lãnh đạo cần ngừng coi quản trị tác nhân là một bài tập lập tài liệu. Khi các khả năng của nền tảng mở rộng, quản trị tác nhân nên là một trong những khả năng đó đảm nhận việc giám sát các vai trò khác. Điều này có nghĩa là nhúng các kiểm soát vào mặt phẳng điều khiển, làm cho các hành động có thể quan sát được và các quyết định có thể kiểm toán được. Và sau đó là mở rộng.
Đó là cách bạn nhận được các tác nhân hoạt động nhanh mà không phá vỡ doanh nghiệp.











