Lãnh đạo tư tưởng
Từ ý định đến hành động tự chủ: Quản trị tác tử AI trong doanh nghiệp

Điểm chínhQuản trị phải nằm bên trong sản phẩm vì nó xác định những trách nhiệm nào một tổ chức…
Xem thêm
- Quản trị phải nằm bên trong sản phẩm vì nó xác định những trách nhiệm nào một tổ chức có thể ủy thác một cách an toàn.
- Một mặt phẳng điều khiển dạng tác tử liên kết danh tính tác tử và các năng lực được phê duyệt với việc thực thi chính sách và giám sát thực thi.
- Các tổ chức nên bắt đầu với một quy trình công việc hẹp và chỉ mở rộng quyền hạn của tác tử khi bằng chứng vận hành hỗ trợ điều đó.
Một chỉ thị như “khôi phục dịch vụ” nghe có vẻ đơn giản, cho đến khi tác tử AI phải xác định chỉ thị đó cho phép thực hiện những gì. Khởi động lại ứng dụng, thay đổi cấu hình và cấp phát hạ tầng đều có thể phục vụ mục tiêu này, nhưng mỗi việc lại kéo theo những hệ quả khác nhau. Khi tác tử chuyển từ đề xuất hành động sang trực tiếp thực hiện, các tổ chức cần có mối liên hệ rõ ràng giữa ý định kinh doanh và thẩm quyền vận hành.
Quản trị cần được tích hợp ngay trong sản phẩm vì nó quyết định tổ chức có thể tự tin giao phó những trách nhiệm nào. Một tác tử có thể hoàn thành nhiệm vụ một cách đáng tin cậy, trong phạm vi đã thống nhất và có bằng chứng về những gì đã thực hiện, sẽ tạo nền tảng vững chắc hơn cho việc ứng dụng trong doanh nghiệp so với một tác tử có thẩm quyền còn mơ hồ. Thách thức về kiến trúc là đưa những giới hạn đó thành một phần trong cách hệ thống vận hành.
Để áp dụng những giới hạn đó vào thực tế, cần có một phương thức nhất quán nhằm quản trị cách các tác tử hành động. Một mặt phẳng điều khiển tác tử có thể tạo nền tảng này bằng cách kết nối danh tính tác tử, các năng lực được phê duyệt, việc thực thi chính sách, các biện pháp kiểm soát bộ nhớ và hoạt động giám sát thực thi trên những hệ thống doanh nghiệp hiện có. Mặt phẳng này xác định ai đã yêu cầu hành động, thẩm quyền nào làm căn cứ cho hành động đó, hành động có thể tác động đến những tài nguyên nào và kết quả sẽ được xác minh ra sao.
Dưới đây là ba hướng dẫn thực tiễn mà chúng tôi khuyến nghị để quản trị tác tử AI trong doanh nghiệp:
Gắn năng lực với thẩm quyền rõ ràng
Mỗi tác tử cần có chủ sở hữu xác định được, mục đích rõ ràng và quyền hạn phù hợp với nhiệm vụ. Điều này phù hợp với Khung quản lý rủi ro AI của NIST, trong đó xem quản trị là một chức năng liên tục trong suốt vòng đời AI. Đối với các tác tử, nguyên tắc đó cần được duy trì đến tận thời điểm một hành động làm thay đổi hệ thống doanh nghiệp. Khi một tác tử ủy quyền cho tác tử khác, những giới hạn đó vẫn phải được giữ nguyên.
Việc tìm kiếm năng lực cũng cần được quản lý chặt chẽ tương tự: danh mục được phê duyệt cần mô tả mục đích, đầu vào, đầu ra, môi trường được phép sử dụng và các tác động phụ tiềm ẩn của từng công cụ. Việc tìm thấy một công cụ không đồng nghĩa với việc được phép thực thi công cụ đó, vì vậy cần kiểm tra quyền khi có yêu cầu thực hiện hành động. Hướng dẫn của OWASP về hiện tượng trao quyền quá mức nhấn mạnh sự khác biệt này, với các khuyến nghị giới hạn chức năng và quyền hạn, đồng thời thực thi việc kiểm tra quyền ở các hệ thống phía sau.
Hãy xem xét một quy trình khôi phục dịch vụ mang tính minh họa, trong đó một tác tử điều tra tình trạng ứng dụng chạy chậm và đề xuất khởi động lại một thành phần. Chính sách cho phép truy cập dữ liệu đo từ xa đã được phê duyệt, trong khi việc khởi động lại hệ thống sản xuất đòi hỏi phải có bằng chứng cho thấy cơ chế dự phòng đang hoạt động tốt và được chủ sở hữu dịch vụ chấp thuận. Những điều kiện này biến một chỉ thị bao quát thành một quyết định vận hành có giới hạn rõ ràng.
Chuyển ý định vận hành thành công cụ được quản trị
Nếu đã có công cụ khôi phục được phê duyệt, tác tử có thể dùng năng lực đó để chuẩn bị yêu cầu. Nếu chưa có, tác tử có thể hỗ trợ tạo tập lệnh, sổ tay vận hành, lược đồ đầu vào và bản mô tả công cụ, chuyển ý định vận hành thành một năng lực đề xuất để người khác kiểm tra. Đây là giá trị thực tiễn của việc tác tử tự xây dựng công cụ bằng mã: tác tử có thể góp phần tạo nên bộ máy vận hành, chứ không chỉ sử dụng bộ máy đó.
Tuy nhiên, việc tạo ra bộ máy đó không nên tự động khiến nó có thể được thực thi trong môi trường sản xuất. Một năng lực được đề xuất cần trải qua quy trình phát hành độc lập, với chủ sở hữu chịu trách nhiệm, các bước kiểm tra bảo mật, kiểm soát phiên bản và những bài kiểm thử bao quát đầu vào không hợp lệ, phạm vi quá rộng, lỗi một phần và việc thực thi lặp lại. Các bài kiểm thử do tác tử tạo ra có thể cung cấp bằng chứng, nhưng cần có hoạt động thẩm định độc lập để xác định năng lực đó có đáp ứng các yêu cầu vận hành hay không trước khi được đưa vào danh mục đã phê duyệt.
Sau đó, các giới hạn thực thi cần khoanh vùng tài nguyên, quyền truy cập mạng, thời lượng và mức chi tiêu; mọi phê duyệt bắt buộc phải gắn với hành động, mục tiêu và phiên bản cụ thể. Các phương án khôi phục cũng cần được quan tâm tương xứng, bởi một số thay đổi có thể được hoàn tác, trong khi những thay đổi khác đòi hỏi biện pháp khắc phục bù trừ hoặc không thể đảo ngược. Mỗi năng lực cần nêu rõ những giới hạn đó và cung cấp cho người vận hành một phương thức đã được kiểm thử để tạm dừng các lần thực thi tiếp theo.
Bộ nhớ đặt ra thêm một trách nhiệm về quản trị, bởi những quan sát được lưu giữ có thể ảnh hưởng đến các quyết định trong tương lai, rất lâu sau khi bối cảnh ban đầu đã thay đổi. Các tổ chức cần xác định tác tử được phép lưu trữ thông tin gì, thông tin được duy trì trong bao lâu và những giới hạn truy cập nào được áp dụng, đồng thời hỗ trợ các quy định này bằng cơ chế xác minh nguồn gốc và đính chính. Quyền được ghi nhớ không bao giờ được trở thành thẩm quyền thường trực, và kiến thức vận hành đã lỗi thời không được âm thầm dẫn dắt những hành động mới.
Mở rộng quyền tự chủ dựa trên bằng chứng
Hoạt động giám sát hiệu quả phụ thuộc vào bằng chứng liên kết yêu cầu ban đầu, chính sách áp dụng, phê duyệt, phiên bản công cụ, kết quả thực thi và bước xác minh tiếp theo. Người đánh giá cần có đủ ngữ cảnh để xem xét thay đổi được đề xuất, mức độ bất định và các phương án khôi phục, nhưng không bị quá tải bởi những chi tiết không cần thiết. Để hỗ trợ hoạt động giám sát đó, việc chuyển cấp cần tuân theo các điều kiện đã xác định, chẳng hạn như các quan sát mâu thuẫn hoặc trạng thái hệ thống chưa từng gặp, thay vì chỉ dựa vào mức độ tự tin mà tác tử thể hiện.
Lãnh đạo CNTT nên bắt đầu với một quy trình có phạm vi hẹp và mở rộng quyền hạn khi bằng chứng vận hành cho thấy có thể làm như vậy. Họ cần đo lường kết quả thành công cùng với các trường hợp ngoại lệ, thời gian khôi phục, vi phạm chính sách và công sức giám sát. Những chỉ số này giúp xác định liệu một tác nhân đã sẵn sàng đảm nhận nhiều trách nhiệm hơn hay chưa, cũng như cần bổ sung biện pháp bảo vệ hoặc thử nghiệm ở những khâu nào.
Cơ hội ở đây là biến việc ủy quyền thành quy trình có thể lặp lại, trong đó mỗi năng lực được phê duyệt xác định rõ tác nhân có thể làm gì, trong những điều kiện nào và phải chịu trách nhiệm ra sao. Kỷ luật đó có thể tăng cường khả năng phục hồi và hiệu quả, đồng thời tạo cho các tổ chức cơ sở vững chắc để trao quyền tự chủ lớn hơn. Bài học quan trọng nhất là: quản trị xứng đáng có vị trí trong sản phẩm vì giúp quá trình này trở nên khả thi.












