Giảm thiểu có phải là cách tiếp cận tốt nhất đối với quản trị AI?

Khi tích hợp trí tuệ nhân tạo (AI) vào hoạt động kinh doanh, các tổ chức cần có những phương thức rõ ràng để quản lý các rủi ro liên quan đến việc phát triển và sử dụng AI. Quản trị hiệu quả giúp giám sát, nhưng các quy trình phức tạp có thể tiêu tốn nguồn lực và làm chậm quá trình triển khai. Giảm thiểu là một giải pháp tiềm năng giúp việc quản trị trở nên tương xứng hơn bằng cách hạn chế sử dụng dữ liệu không cần thiết, đồng thời duy trì trách nhiệm giải trình và các biện pháp bảo vệ.

Vì sao quản trị AI quan trọng

Quản trị AI thiết lập các chính sách, trách nhiệm và cơ chế giám sát định hướng cách các tổ chức phát triển, triển khai và sử dụng hệ thống AI. Quản trị giúp các tổ chức nhận diện rủi ro, phân định thẩm quyền ra quyết định, đồng thời xây dựng quy trình theo dõi hiệu suất và xử lý vấn đề.

Khi ứng dụng AI, các tổ chức phải cân nhắc một số rủi ro, bao gồm vi phạm quyền riêng tư, lỗ hổng bảo mật, kết quả thiên lệch, đầu ra không chính xác và tính minh bạch hạn chế. Nếu không có biện pháp kiểm soát phù hợp, các quyết định do AI tạo ra có thể ảnh hưởng đến khách hàng, nhân viên và các bên liên quan khác theo những cách khó khắc phục. Quản trị cũng giúp các tổ chức đáp ứng các yêu cầu pháp lý hiện hành và điều chỉnh việc sử dụng AI phù hợp với mục tiêu kinh doanh.

International Association of Privacy Professionals cho biết 77% tổ chức được khảo sát đang xây dựng công tác quản trị AI vào năm 2025. Kết quả này cho thấy các tổ chức dành sự quan tâm đáng kể cho chủ đề này, dù việc đang triển khai công tác quản trị không nhất thiết đồng nghĩa với việc tổ chức đã hoàn thiện hoặc áp dụng đầy đủ khuôn khổ quản trị của mình.

Việc phân định trách nhiệm rõ ràng và giám sát liên tục giúp các tổ chức nhận diện vấn đề mới phát sinh, điều tra những kết quả ngoài dự kiến và điều chỉnh biện pháp kiểm soát khi hệ thống thay đổi. Quản trị hiệu quả cũng có thể củng cố niềm tin của các bên liên quan bằng cách cho thấy tổ chức cân nhắc những tác động của việc sử dụng AI và chịu trách nhiệm về các quyết định của mình.

Những thách thức trong quản trị AI

Mặc dù quản trị giúp các tổ chức quản lý rủi ro AI, việc thiết lập và duy trì cơ chế giám sát hiệu quả có thể gặp nhiều khó khăn. Để xác định phạm vi giám sát, các tổ chức cần xác định những hệ thống AI, hoạt động và mối phụ thuộc nào cần được quản trị. 

Để xác định rõ phạm vi quản trị AI, các tổ chức có thể tham khảo ISO/IEC 42001, tiêu chuẩn đưa ra các yêu cầu về việc thiết lập và duy trì hệ thống quản lý AI. Việc tuân thủ có thể cải thiện hiệu suất mô hình, qua đó giúp AI được triển khai nhanh chóng và an toàn hơn. Việc này cũng giúp các tổ chức xác định những bộ phận nào trong hoạt động của mình thuộc phạm vi hệ thống quản lý AI. Các tiêu chuẩn này tính đến phạm vi địa lý, mối liên kết với các hệ thống khác và phạm vi hoạt động AI của tổ chức. 

Các thách thức chính khác bao gồm:

• Tính phức tạp của hệ thống AI: Các ứng dụng AI có thể dựa vào những mô hình, tập dữ liệu, công cụ của bên thứ ba và quyết định tự động có mối liên kết với nhau. Những mối phụ thuộc này có thể gây khó khăn cho việc truy vết đầu ra, xác định lỗ hổng và xác định nơi cần áp dụng biện pháp kiểm soát.
• Quyền riêng tư và bảo mật dữ liệu: Các tổ chức phải bảo vệ thông tin nhạy cảm trong suốt quá trình thu thập dữ liệu, huấn luyện mô hình, triển khai và sử dụng liên tục. 
• Thiên lệch và tính minh bạch hạn chế: Dữ liệu huấn luyện không mang tính đại diện có thể dẫn đến kết quả thiếu công bằng, trong khi hành vi khó giải thích của mô hình có thể khiến việc giải thích, đánh giá hoặc phản biện các quyết định trở nên khó khăn.
• Quy định và tiêu chuẩn không ngừng thay đổi: Các tổ chức hoạt động tại nhiều khu vực pháp lý có thể phải tuân thủ những yêu cầu pháp lý khác nhau hoặc liên tục thay đổi. Quy trình quản trị cần đáp ứng các nghĩa vụ liên quan mà không tạo ra sự trùng lặp không cần thiết.
• Hạn chế về nguồn lực và vận hành: Các kỹ năng chuyên môn, tài liệu, hoạt động đánh giá và giám sát liên tục đều đòi hỏi thời gian và kinh phí. 
• Cân bằng giữa giám sát và đổi mới: Các yêu cầu phê duyệt quá mức có thể làm chậm dự án, trong khi biện pháp kiểm soát lỏng lẻo có thể khiến những rủi ro đáng kể không được xử lý.

Những thách thức này cho thấy giá trị của việc giảm bớt sự phức tạp không cần thiết. Tuy nhiên, việc tinh giản quản trị cũng phải bao gồm thiết lập các biện pháp kiểm soát để bảo vệ con người và thông tin, đồng thời bảo đảm trách nhiệm giải trình của tổ chức.

Chẳng hạn, Cơ quan Kiểm soát Tài chính Bang New York phát hiện rằng các cơ quan của Thành phố New York áp dụng những cách tiếp cận không nhất quán trong giám sát AI, trong đó một số cơ quan không có chính sách đánh giá thiên lệch và độ chính xác. Những phát hiện này cho thấy việc giảm bớt sự phức tạp đòi hỏi các tiêu chuẩn quản trị rõ ràng, nhất quán để duy trì trách nhiệm giải trình. 

Giảm thiểu trong quản trị AI có nghĩa là gì

Giảm thiểu trong quản trị AI bao gồm việc giảm sử dụng dữ liệu không cần thiết và giảm gánh nặng hành chính, đồng thời duy trì các biện pháp cần thiết để quản lý rủi ro. Cách tiếp cận này có hai khía cạnh chính: giảm thiểu dữ liệu và tinh giản quản trị. Cả hai đều nhằm điều chỉnh các hoạt động AI sao cho tương xứng hơn với mục đích và tác động tiềm tàng của chúng.

Giảm thiểu dữ liệu

Tối thiểu hóa dữ liệu là giới hạn việc thu thập, lưu giữ, xử lý và chia sẻ thông tin ở mức cần thiết cho một mục đích xác định của hệ thống AI. Các tổ chức có thể áp dụng nguyên tắc này bằng cách hạn chế quyền truy cập vào thông tin nhạy cảm và sử dụng dữ liệu đã ẩn danh hoặc dữ liệu tổng hợp khi phù hợp.

Giảm lượng dữ liệu không cần thiết có thể hạn chế nguy cơ xâm phạm quyền riêng tư và giảm lượng thông tin mà các tổ chức cần bảo vệ. Tuy nhiên, việc tối thiểu hóa dữ liệu đòi hỏi phải cân nhắc thận trọng. Loại bỏ thông tin liên quan có thể làm giảm độ chính xác của mô hình, giảm mức độ đại diện của các nhóm khác nhau hoặc khiến việc xác định kết quả sai lệch trở nên khó khăn hơn. Các tổ chức phải xác định dữ liệu nào là cần thiết để đạt được mục đích đã đề ra và hỗ trợ tạo ra kết quả đáng tin cậy, công bằng.

Tinh giản quản trị

Tinh giản quản trị tập trung vào việc hợp lý hóa các quy trình giám sát. Các tổ chức có thể hợp nhất những khâu đánh giá chồng chéo và tái sử dụng các bản đánh giá khi phù hợp. Họ cũng có thể làm rõ thẩm quyền ra quyết định và loại bỏ các cấp phê duyệt không giúp tăng cường đáng kể việc bảo vệ trước rủi ro.

Những thay đổi này giúp giảm chi phí hành chính và tình trạng chậm trễ, đồng thời làm rõ trách nhiệm của các nhóm. Tuy nhiên, việc tinh giản quản trị không nên loại bỏ tài liệu thiết yếu, hoạt động đánh giá độc lập, sự giám sát của con người hoặc các biện pháp kiểm soát bắt buộc. Mục tiêu là nâng cao hiệu quả giám sát mà vẫn duy trì trách nhiệm giải trình.

Chiến lược tối thiểu hóa trong quản trị AI

Cách tiếp cận tối thiểu hóa có thể giúp nâng cao hiệu quả quản trị AI khi các tổ chức điều chỉnh cách thức sử dụng dữ liệu và yêu cầu giám sát sao cho phù hợp với rủi ro của từng trường hợp sử dụng. Một số biện pháp có thể giảm bớt sự phức tạp không cần thiết mà vẫn duy trì trách nhiệm giải trình, hiệu suất đáng tin cậy và các biện pháp bảo vệ phù hợp.

Áp dụng cách tiếp cận dựa trên rủi ro

Các tổ chức có thể phân loại hệ thống AI dựa trên mục đích sử dụng, tác động tiềm tàng và mức độ nhạy cảm của dữ liệu. Khung AI Risk Management Framework của National Institute of Standards and Technology cung cấp một khuôn khổ để quản lý rủi ro AI thông qua bốn chức năng, gồm Quản trị, Lập bản đồ, Đo lường và Quản lý. Các tổ chức có thể sử dụng những chức năng này để xác định rủi ro, đánh giá mức độ nghiêm trọng và quyết định cách ứng phó phù hợp.

Xác định rõ yêu cầu về dữ liệu

Mỗi hệ thống AI cần có mục đích xác định rõ ràng trước khi bắt đầu thu thập dữ liệu. Sau đó, các tổ chức có thể xác định những danh mục dữ liệu cần thiết, loại bỏ các trường không liên quan, hạn chế quyền truy cập và đặt ra thời hạn lưu giữ phù hợp. Việc kiểm thử cần xác nhận rằng các tập dữ liệu đã được tinh giản vẫn hỗ trợ tạo ra kết quả chính xác và công bằng.

Tối ưu hóa mô hình và tài nguyên điện toán

Tối ưu hóa mô hình, sử dụng thuật toán hiệu quả và phần cứng tiết kiệm năng lượng có thể giúp giảm nhu cầu điện toán không cần thiết. Các công ty có thể tìm hiểu về học liên kết, phương pháp giúp giảm nhu cầu truyền lượng lớn thông tin. Những phương pháp này có thể giảm chi phí điện toán và mức tiêu thụ năng lượng, đồng thời hỗ trợ bảo vệ quyền riêng tư dữ liệu. 

Đơn giản hóa quy trình quản trị

Các tổ chức có thể hợp nhất những khâu đánh giá chồng chéo, tái sử dụng các bản đánh giá bao quát cùng một rủi ro, làm rõ trách nhiệm và thiết lập các luồng phê duyệt theo từng mức độ rủi ro. Quy trình được chuẩn hóa giúp các nhóm xử lý hiệu quả những ứng dụng thường lệ, đồng thời chuyển các trường hợp phức tạp hơn đến đúng chuyên gia.

Duy trì các biện pháp bảo vệ thiết yếu

Cách tiếp cận tối thiểu hóa phải duy trì các biện pháp bảo vệ quyền riêng tư và an ninh, đánh giá sai lệch, sự giám sát phù hợp của con người, nhật ký kiểm toán và quy trình ứng phó sự cố. Các tổ chức cũng cần xác nhận rằng những quy trình đã được tinh giản vẫn đáp ứng các nghĩa vụ pháp lý và quy định hiện hành.

Theo dõi hiệu suất và đánh giá lại các biện pháp kiểm soát

Yêu cầu quản trị có thể thay đổi khi hệ thống AI phát triển, tiếp cận người dùng mới hoặc hỗ trợ thêm nhiệm vụ. Sau khi triển khai, các tổ chức cần theo dõi độ chính xác, tính công bằng và rủi ro về quyền riêng tư. Họ cũng cần xem xét lại các yêu cầu về dữ liệu và quy trình giám sát khi điều kiện thay đổi.

Tối thiểu hóa để quản trị AI hiệu quả

Tối thiểu hóa phát huy hiệu quả cao nhất khi là một phần trong chiến lược quản trị dựa trên rủi ro. Tuy nhiên, mức độ tối thiểu hóa phù hợp sẽ khác nhau tùy theo mục đích, độ phức tạp và tác động tiềm tàng của hệ thống AI. Bằng cách cân bằng hiệu quả với các biện pháp bảo vệ phù hợp, trách nhiệm giải trình và hoạt động đánh giá liên tục, các tổ chức có thể đơn giản hóa việc quản trị AI mà vẫn duy trì việc sử dụng AI có trách nhiệm và đáng tin cậy.