Độ tin cậy là phép thử thực sự của AI tác nhân

Trong hai năm qua, ngành công nghiệp đã đặt ra một câu hỏi: Các tác nhân AI có đủ năng lực để xử lý công việc thực tế hay không? Chúng ta có thể ngừng hỏi câu đó. Chúng ta biết chúng có thể làm được, nhưng cần tập trung cao độ vào việc liệu có thể nhận ra khi một tác nhân sắp mắc sai lầm gây tổn thất và liệu có thể ngăn nó lại trước khi sai lầm xảy ra hay không.

Những sự cố tệ nhất trong môi trường sản xuất thường không giống một lỗi mô hình rõ ràng. Một tác nhân có thể hoàn thành thành công mọi lệnh gọi API nhưng vẫn làm việc dựa trên ngữ cảnh cũ, thử lại một công cụ đang gặp lỗi hoặc tiến tới một hành động vi phạm quy tắc. Độ tin cậy quyết định liệu một chương trình AI tác nhân có vượt qua được giai đoạn thử nghiệm hay không.

Theo “Tình hình AI năm 2025: Tác nhân, đổi mới và chuyển đổi”, một khảo sát của McKinsey, 62% tổ chức đang thử nghiệm các tác nhân AI, nhưng chỉ khoảng 10% không mở rộng quy mô trong bất kỳ chức năng nào trong số này. Việc cho đồng nghiệp thấy một tác nhân hoạt động là điều dễ dàng. Vận hành nó an toàn trên dữ liệu thực và các hệ thống được kết nối thì không dễ.

Vì sao AI tác nhân làm rủi ro tích tụ và tăng lên

Các tác nhân kết hợp suy luận xác suất, việc sử dụng công cụ và một mức độ tự chủ nhất định. Điều này khiến chúng trở nên hữu ích, nhưng cũng khiến doanh nghiệp đối mặt với các lỗi tích tụ nhanh hơn so với một ứng dụng truyền thống.

Ngữ cảnh

Tác nhân chỉ có thể làm việc từ ngữ cảnh được cung cấp. Vì vậy, nếu ngữ cảnh không đầy đủ, lỗi thời hoặc sai, một cách diễn giải sai ngay từ đầu sẽ đi theo mọi bước tiếp theo. Câu trả lời sai của chatbot gây khó chịu. Một cách diễn giải sai làm thay đổi quyền truy cập hoặc tác động đến hạ tầng là một sự cố. Nếu có vấn đề xảy ra, điều quan trọng là phải biết tác nhân có dùng đúng bằng chứng, tuân thủ chính sách và giữ phạm vi ảnh hưởng trong giới hạn chấp nhận được hay không.

Cơ sở tri thức

Tác nhân cũng kết nối với cơ sở tri thức, hệ thống phiếu hỗ trợ và nền tảng thanh toán; mỗi kết nối đều mở rộng bề mặt tấn công. Một tác nhân có thể gọi nhầm công cụ, gọi đúng công cụ nhưng sai thứ tự hoặc hành động theo chỉ dẫn ẩn trong nội dung được truy xuất. Đây là những chế độ lỗi đã được biết đến, bao gồm cả việc bịa đặt thông tin và các lỗ hổng bảo mật nảy sinh từ cách tác nhân xâu chuỗi công cụ với ngữ cảnh.

Một bảng điều khiển màu xanh có thể đánh lừa bạn: Hạ tầng trông vẫn ổn trong khi một tác nhân âm thầm truy vấn cùng một công cụ hết lần này đến lần khác. Đây là dấu hiệu sớm của sự sai lệch chứ không phải một lần ngừng dịch vụ thông thường.

Tính bất định

Tính bất định cũng khiến việc ứng phó sự cố trở nên khó khăn hơn. Lỗi của dịch vụ truyền thống thường có thể được tái hiện bằng một mã yêu cầu và phiên bản phần mềm đã biết. Một lần chạy tác nhân phụ thuộc vào phiên bản mô hình, những tài liệu nó truy xuất, kết quả công cụ nhận được và chuỗi quyết định trung gian. Nếu không có hồ sơ về những gì tác nhân đã nhận và đã thử làm, cả việc phân tích nguyên nhân gốc lẫn quản trị đều trở nên khó khăn hơn nhiều.

Chi phí và độ trễ

Chi phí và độ trễ cũng kể cùng một câu chuyện từ một góc nhìn khác. Mức tăng đột ngột trong lượng token sử dụng hoặc số lần thử lại có thể báo hiệu một kế hoạch tồi hoặc một vòng lặp, ngay cả khi cuối cùng người dùng vẫn nhận được câu trả lời. Chi phí suy luận đã giảm mạnh trong vài năm qua, và suy luận rẻ hơn khiến hành vi kém hiệu quả dễ bị bỏ qua cho đến khi hành vi đó lặp lại trên hàng nghìn quy trình. Hãy coi chi phí, độ trễ và số lần thử lại là các tín hiệu về độ tin cậy, không chỉ là chỉ số tài chính.

AI phi tập trung vẫn cần khả năng quan sát tập trung

Phi tập trung sẽ thất bại nếu không có rào chắn rõ ràng. Hãy giao trách nhiệm về quy trình và việc chuyển cấp cho các đội ngũ tuyến đầu, nhưng giữ quản lý danh tính, quyền truy cập và ứng phó sự cố ở cấp doanh nghiệp. Một đội ngũ tài chính có thể phân biệt giữa ngoại lệ hóa đơn hợp lệ và quyết định thanh toán không phù hợp theo cách mà một chuẩn đánh giá chung không bao giờ làm được. Trong cùng khảo sát, McKinsey nhận thấy các tổ chức báo cáo tác động thực sự từ AI có khả năng đã thiết kế lại quy trình của họ cao gần gấp ba lần so với việc chỉ gắn AI vào những gì đã có.

Dù vậy, sự đánh đổi là có thật: Trách nhiệm nhanh chóng trở nên mơ hồ khi một sự cố đi qua nhiều hệ thống. Giải pháp là một góc nhìn vận hành chung về mọi tác nhân, các công cụ, quyền truy cập dữ liệu và lịch sử sự cố của nó.

Kiến trúc phân tán khiến chúng ta dễ mất đi bức tranh toàn cảnh khi có vấn đề xảy ra. Nhiều đội ngũ có thể thấy khối lượng token và chi phí, nhưng không thể biết liệu tác nhân có thực sự đạt được kết quả mong muốn một cách an toàn hay không. Khi hồ sơ của một quy trình nằm ở nhiều nơi khác nhau, các đội ngũ cuối cùng phải chạy theo triệu chứng thay vì nguyên nhân.

Các tín hiệu đo từ xa được chuẩn hóa, chẳng hạn như danh tính mô hình và lệnh gọi công cụ, có thể giúp ích. Những đường cơ sở hành vi, như số bước thông thường trong một quy trình, cũng cần thiết để phân biệt sự kiên trì hữu ích với một hệ thống bị mắc kẹt. Đánh giá không phải là cánh cổng chỉ đi qua một lần trước khi ra mắt. Đó là một vòng lặp liên tục.

AI đáng tin cậy thực sự trông như thế nào trong môi trường sản xuất

AI đáng tin cậy là việc quản lý sai sót chứ không phải tránh hoàn toàn sai sót. Các đội ngũ cần khả năng quan sát hành vi, cảnh báo khi hiệu suất sai lệch và kế hoạch khoanh vùng khi có vấn đề. Quan trọng nhất, mỗi tác nhân cần những rào chắn rõ ràng quanh quyền truy cập và hành động tự chủ. Chúng cũng cần sự phê duyệt của con người.

Hãy bắt đầu với các hành động rủi ro thấp có thể đảo ngược. Giữ những hành động có hậu quả lớn, như thay đổi môi trường sản xuất và giao dịch tài chính, sau các biện pháp kiểm soát thực sự. Các quy trình có hậu quả lớn phải có thể được tái dựng sau đó, bao gồm ngữ cảnh tác nhân đã truy xuất, các công cụ nó đã gọi, những phê duyệt nó nhận được và kết quả thực sự có đúng hay không.

Các mục tiêu cấp độ dịch vụ truyền thống cũng cần được mở rộng để bao quát chất lượng và độ an toàn của tác nhân. Chúng bao gồm tỷ lệ hoàn thành nhiệm vụ đã được xác thực, tỷ lệ tuân thủ chính sách, tỷ lệ chuyển cấp cho con người, chi phí trên mỗi nhiệm vụ thành công và tần suất xuất hiện kết quả không mong muốn. Ngưỡng phải thay đổi theo từng trường hợp sử dụng. Một trợ lý tri thức nội bộ có thể chấp nhận hồ sơ lỗi khác với một tác nhân làm việc với dữ liệu chịu quản lý.

Các hệ thống độ tin cậy hữu ích nhất học cách phát hiện những điều kiện thường xuất hiện trước một sự cố, chẳng hạn như mức tăng bất thường trong số lần thử lại hoặc một đường đi vốn từng dẫn đến việc con người can thiệp. Một quy trình rủi ro thấp có thể kích hoạt bản sửa tự động. Một quy trình có rủi ro cao hơn nên tạm dừng và chuyển quyết định cho người được ủy quyền. Mục tiêu không phải là hành động tự chủ chỉ vì muốn tự chủ. Mục tiêu là hành động nhanh hơn, an toàn hơn khi bằng chứng ủng hộ điều đó.

AI SRE khép kín vòng lặp

Đây là lúc AI SRE phát huy vai trò. Một tác nhân AI SRE có thể dựng dòng thời gian sự cố, so sánh hành vi hiện tại với các sự cố trước đây và chuẩn bị hành động được đề xuất, trong khi tổ chức vẫn duy trì biện pháp khắc phục có kiểm soát cho các nhiệm vụ có thể đảo ngược và yêu cầu con người phê duyệt đối với mọi việc có hậu quả lớn.

Việc áp dụng AI đang diễn ra nhanh chóng. Nhưng áp dụng không đồng nghĩa với sự trưởng thành trong vận hành. Những doanh nghiệp mở rộng AI tác nhân thành công không nhất thiết là những doanh nghiệp chạy riêng lẻ mô hình có năng lực nhất. Đó sẽ là những doanh nghiệp có thể thấy các tác nhân hành xử ra sao trong toàn bộ hoạt động, phát hiện sớm dấu hiệu sai lệch và can thiệp trước khi một lỗi nhỏ trở thành sự cố liên quan đến khách hàng, bảo mật hoặc tuân thủ.

Đó là vai trò AI SRE đang đảm nhiệm: kết nối đổi mới phi tập trung với khả năng quan sát tập trung và biến AI tác nhân thành một hệ thống mà doanh nghiệp có thể tin cậy.