Bạn có thể bảo vệ những gì AI của bạn vừa làm?

Các thời hạn quy định cho AI liên tục bị trễ, nhưng nhu cầu về trách nhiệm AI vẫn còn 

Trong hai năm qua, cuộc trò chuyện về quy định AI doanh nghiệp đã được tổ chức quanh các thời hạn. Các quy định rủi ro cao của Đạo luật AI EU dự kiến có hiệu lực vào ngày 2 tháng 8. Luật AI đầu tiên của Hoa Kỳ tại Colorado dự kiến có hiệu lực vào ngày 30 tháng 6. Washington cuối cùng sẽ giải quyết câu hỏi ai có quyền điều chỉnh gì. 

Vậy, chúng ta có thấy tiến triển so với những thời hạn đó không? Hơi có.

Trong khoảng sáu tuần mùa xuân này, the EU đã đồng ý hoãn các nghĩa vụ rủi ro cao của Phụ lục III đến tháng 12 năm 2027, và các hệ thống rủi ro cao được nhúng trong sản phẩm đến ngày 2 tháng 8 năm 2028. Tại Colorado, một lệnh tòa án liên bang đã ngăn chặn tổng chưởng lý bang thực thi đạo luật gốc, thay thế bằng khung pháp lý dựa trên thông báo hẹp hơn có hiệu lực từ ngày 1 tháng 1 năm 2027. Vào ngày 2 tháng 6, Nhà Trắng đã ký một sắc lệnh hành pháp về AI mang lại một quan điểm có chủ đích ủng hộ đổi mới, ưu tiên hợp tác tự nguyện với các nhà phát triển tiên phong hơn bất kỳ yêu cầu cấp phép bắt buộc hay phê duyệt trước nào cho các mô hình AI. 

Các Thời Hạn Trượt và Ảo Lý của Sự Giải Pháp Quy Định

Điểm quan trọng đối với các doanh nghiệp là việc thay đổi thời hạn không làm cho trách nhiệm AI biến mất. Ở châu Âu, ngay cả khi một số yêu cầu rủi ro cao đã được chuyển, các nghĩa vụ về tính minh bạch, hiểu biết AI, nội dung tổng hợp và thực thi vẫn tiếp tục tiến triển. Colorado kể một câu chuyện tương tự: các nhà lập pháp đã loại bỏ một số yêu cầu tuân thủ nặng nề nhất của luật, nhưng vẫn giữ các nguyên tắc cơ bản như công bố khi AI được sử dụng, giải thích các quyết định tiêu cực, sửa dữ liệu sai và cung cấp lộ trình để con người xem xét.

Đó là một tín hiệu hữu ích về nơi mà quy định cuối cùng có thể hội tụ. Các nhà hoạch định chính sách có thể bất đồng về đánh giá tác động, chế độ cấp phép và cấp độ chính phủ nào nên đặt ra quy tắc. Nhưng khả năng giải thích những gì một hệ thống AI đã làm, ghi lại cách nó đạt được kết quả và cung cấp cho người dân các biện pháp kháng cáo có ý nghĩa đang chứng tỏ khó khăn hơn rất nhiều để loại bỏ bằng luật. Một ngân hàng vẫn cần giải thích quyết định cho vay bị ảnh hưởng bởi AI. Một bệnh viện vẫn cần hồ sơ về cách một đề xuất hỗ trợ bởi AI được đưa ra. Một công ty vẫn cần biết điều gì sẽ xảy ra khi một hệ thống tự động tạo ra một kết quả mà họ phải bảo vệ.

Nếu có gì, việc ngày càng có sẵn các mô hình mở làm cho trách nhiệm này trở nên quan trọng hơn. Càng kiểm soát nhiều hơn cách và nơi một mô hình chạy, việc coi trách nhiệm là vấn đề của người khác càng trở nên khó khăn. Nếu một tổ chức không thể tái tạo, giải thích và bảo vệ những gì hệ thống AI của mình đang làm, các trì hoãn quy định chỉ mang lại sự giải thoát tạm thời.

Nếu bạn là Giám đốc AI, Trưởng bộ phận Quản lý Rủi ro Mô hình, hoặc có các trách nhiệm khác liên quan đến việc sử dụng AI trong một ngành được quy định, và đã trải qua bất kỳ thời kỳ đổi mới và quy định nào, bạn sẽ biết rằng yếu tố trước luôn vượt qua yếu tố sau – và trách nhiệm thực sự được quyết định bởi những gì tổ chức của bạn thực hiện khi triển khai, dù có hay không có các yêu cầu quy định.  

Khoảng Cách Xác Thực Niềm Tin AI: Tại Sao Rủi Ro Thị Trường Vượt Qua Tuân Thủ

Trách nhiệm được định nghĩa bởi các quyết định được đưa ra mà không có sự giám sát và nó tăng lên ở cả hai phía. Mặc dù trách nhiệm AI doanh nghiệp thường bị nhầm lẫn với một khái niệm dựa trên hậu quả do các nhà quy định tạo ra, nó được hình thành ngay khi một công ty triển khai, bất kể đã có ai đặt tên cho một hậu quả có thể thực thi hay chưa. Và việc triển khai đang tăng tốc nhanh hơn nhiều so với bất kỳ lịch trình tuân thủ nào – nhanh nhất hiện nay khi các tác nhân tự động đang vào sản xuất, thực hiện hành động, chạm vào dữ liệu và đưa ra quyết định với tốc độ mà không người kiểm tra nào có thể bắt kịp. Gartner dự đoán 40% ứng dụng doanh nghiệp sẽ bao gồm các tác nhân AI chuyên nhiệm vụ đến cuối năm nay, tăng từ dưới 5% vào năm 2025.  

Đó là lý do tại sao tín hiệu đáng chú ý nhất trong AI doanh nghiệp hiện nay không đến từ các nhà quy định – mà xuất phát từ các phòng họp và được hiển thị trên các trang tuyển dụng của doanh nghiệp trên khắp các ngành. Giám sát AI ở cấp hội đồng quản trị đã tăng 84% trong các công bố của công ty đại chúng và Forrester dự đoán rằng 60% Fortune 100 sẽ bổ nhiệm một người đứng đầu chuyên trách quản trị AI trong năm nay. Morgan Stanley và BlackRock đã bắt đầu đưa mức độ trưởng thành quản trị AI vào việc định giá công ty. Không có gì trong số đó là phản hồi cho một đạo luật. Đó là phản hồi với rủi ro mà các công ty đã áp dụng AI đang thừa nhận trong mọi thứ, từ cách doanh nghiệp của họ được quản lý và vận hành đến các tin tuyển dụng của họ.  

Chỉ số AI 2026 của Stanford phát hiện rằng bảo mật và rủi ro – không phải chất lượng mô hình hay chi phí – hiện là rào cản lớn nhất cho việc mở rộng AI có tính năng tự động, được 62% tổ chức nêu ra và vượt qua các hạn chế kỹ thuật và sự không chắc chắn về quy định một cách đáng kể. Khoảng cách đó – giữa những gì một hệ thống thực hiện và những gì chủ sở hữu thực sự có thể chứng minh về nó – là khoảng cách xác thực niềm tin AI, và nó không được thu hẹp theo thời gian của nhà quy định. 

Mô hình đổi mới vượt tốc độ quy định là cùng một mô hình mà chúng ta đã thấy với việc áp dụng điện toán đám mây, sự ra đời của mã hoá, và với ngành an ninh mạng trong ba thập kỷ qua – truyền thông đưa tin, các nhà quy định công nhận, và mỗi ngành đều phải đối mặt với những tác động thực tế và các kịch bản độc đáo khi chuyển từ sự ngần ngại sang thử nghiệm và cuối cùng đến các mức độ áp dụng doanh nghiệp khác nhau. Với điện toán đám mây, AWS ra mắt vào năm 2006, và các doanh nghiệp đã di chuyển dữ liệu nhạy cảm và hệ thống cốt lõi trong phần lớn một thập kỷ trước khi khung tuân thủ bắt kịp. FedRAMP không xuất hiện cho đến năm 2011, ngành phải sáng tạo “mô hình trách nhiệm chia sẻ” để phân bổ trách nhiệm mà các hợp đồng chưa có, và GDPR không thực sự áp dụng quy tắc xử lý dữ liệu cho tới năm 2018. An ninh mạng cũng theo cùng một vòng cung: PCI DSS không được chính thức hoá cho tới năm 2004, sau khi dữ liệu thẻ đã được chuyển lên mạng; luật thông báo vi phạm bắt đầu với một đạo luật California duy nhất vào năm 2003 và vẫn là một tập hợp các quy định theo từng tiểu bang ngày nay; và SEC không yêu cầu các công ty công bố các sự cố mạng quan trọng cho tới năm 2023. Trong cả hai trường hợp, trách nhiệm đã tồn tại thực sự từ lâu trước khi quy tắc được đặt ra, và chính thị trường, khách hàng, kiểm toán viên, nhà bảo hiểm, và những vụ vi phạm công khai hiếm hoi đã thực thi nó lên các công ty giả vờ ngược lại.

Từ Khả Năng Thử Nghiệm Đến Khả Năng Bảo Vệ Kết Quả trong Sản Xuất

Tốc độ và khả năng là những yếu tố đưa AI vào các dự án thí điểm doanh nghiệp và giống như mọi đổi mới công nghệ lớn khác, chúng đã xuất hiện vì nhu cầu. Nhưng chúng không đủ để đưa AI vào sản xuất trong các môi trường được quy định chặt chẽ với bộ dữ liệu và quy trình phức tạp – ngân hàng, công ty bảo hiểm, cơ sở hạ tầng quan trọng, chương trình quốc phòng – những môi trường mà cuối cùng ai đó phải đưa quyết định do AI điều khiển trước mặt nhà quy định, hội đồng quản trị, hoặc luật sư nguyên đơn và bảo vệ nó. Trong những phòng họp đó, “mô hình rất khả năng” không phải là câu trả lời có trách nhiệm.  

Sự khác biệt đó đã trở thành ranh giới thực sự, và ngày càng nhiều doanh nghiệp nhận ra rằng đây là vấn đề kiến trúc hơn là vấn đề chính sách. Bạn không thể kiểm toán một hộp đen để có trách nhiệm sau khi đã xảy ra. Khả năng giải thích, truy xuất nguồn gốc và chuỗi sở hữu rõ ràng hoặc là được tích hợp vào hệ thống hoặc không tồn tại, và những tổ chức học được điều này một cách khó khăn là những người đã triển khai trước và mới hỏi về trách nhiệm sau. Gartner dự đoán rằng đến năm 2027, 40% doanh nghiệp sẽ phải hạ cấp hoặc ngừng hoạt động các tác nhân tự động đặc biệt vì những khoảng trống quản trị mà họ chỉ phát hiện sau khi có sự cố trong sản xuất. 

Sự cố rò rỉ dữ liệu của Klue từ đầu mùa hè này là một ví dụ điển hình mà càng trở nên chỉ dẫn hơn khi diễn ra. Klue là một nền tảng trí tuệ cạnh tranh dựa trên AI, và những kẻ tấn công không phá vỡ các biện pháp phòng thủ tinh vi, họ đã sử dụng một chứng chỉ tích hợp duy nhất, được cấp vào năm 2022 cho một dự án thí điểm sau này bị bỏ rơi và không bao giờ bị thu hồi, để xác thực vào các kết nối CRM của khách hàng và kéo dữ liệu qua các truy vấn tự động. Những gì bắt đầu chỉ là một vài tiết lộ đã mở rộng để liên quan đến nhiều công ty. Ngay cả sau khi kẻ tấn công gốc bắt đầu hợp tác, một nhóm thứ hai đã xuất hiện, tuyên bố cùng dữ liệu bị đánh cắp và tiến hành chiến dịch tống tiền riêng của mình.  

Sự lộ ra không phải là lỗi của mô hình hay một lỗ hổng zero‑day thông minh; nó là một đường truy cập tự động đáng tin cậy mà không ai chịu trách nhiệm chủ động, và nó tiếp tục tạo ra hậu quả lâu sau khi sự cố được cho là “đã giải quyết”. Khi các doanh nghiệp kết nối AI và các tác nhân của nó vào nhiều hệ thống hơn, mỗi kết nối đó trở thành cùng một câu hỏi đang chờ được đặt ra: ai sở hữu nó, ai giám sát nó, và ai chịu trách nhiệm khi nó di chuyển nhanh hơn bất kỳ ai có thể giám sát? 

Các nhà quy định đang dời ngày vì vấn đề nền tảng này. Cách bạn làm cho các hệ thống này trở nên dễ hiểu, có thể kiểm tra và có trách nhiệm thực sự khó, và các tiêu chuẩn cùng công cụ chưa hoàn thiện. Nhưng đó không phải là lý do để chờ đợi, ngược lại nó là tín hiệu rõ ràng nhất về những gì cần được ưu tiên ngay lập tức. Các doanh nghiệp coi thời gian bổ sung như một giấy phép trì hoãn sẽ phải dành năm 2027 để thực hiện dưới áp lực những gì các đối thủ của họ đang làm ngay bây giờ một cách tự nguyện. 

Định nghĩa thành công trong triển khai AI doanh nghiệp cần chuyển từ khả năng thí điểm sang khả năng bảo vệ kết quả. Thực tế, điều đó có nghĩa là phải vượt qua ba thử nghiệm trên mỗi lộ trình quyết định có AI tham gia: một bản ghi bền vững về những gì hệ thống đã làm, một lời giải thích mà người không phải kỹ sư có thể hiểu, và một con đường để người bị ảnh hưởng có thể khiếu nại kết quả. Đó không phải là một khung được ai đó tạo ra trong bản thuyết trình của nhà cung cấp, mà gần như từng dòng đều phản ánh những gì đã tồn tại sau khi Colorado giảm bớt quy định. 

Đặt câu hỏi liệu AI có đáng tin cậy hay không trong khái niệm trừu tượng là một cuộc tranh luận triết học vào năm 2025. Hiện tại và trong tương lai, các doanh nghiệp cần có khả năng trả lời câu hỏi liệu họ có thể bảo vệ các kết quả mà AI mang lại, và chứng minh điều đó mỗi khi có người hỏi. 

Các thời hạn có thể bị kéo dài và nhiều gia hạn có thể tồn tại, nhưng không giống như các nhà quy định, thị trường và khách hàng mà doanh nghiệp của bạn cuối cùng phục vụ, không cho phép gia hạn hay biện minh.