Vì sao chỉ có dữ liệu tốt hơn vẫn chưa đủ cho các tác nhân AI

Trong nhiều năm, một trong những lời khuyên phổ biến nhất dành cho AI doanh nghiệp là trước hết phải bảo đảm dữ liệu chính xác. Lý do rất đơn giản: nếu một hệ thống cần đưa ra những quyết định hữu ích, hệ thống đó phải có thông tin chính xác, dễ truy cập để xử lý.

Nhận định đó vẫn đúng đến ngày nay, nhưng đang dần trở nên chưa đầy đủ khi các tác nhân AI chuyển từ trả lời câu hỏi và tạo nội dung sang hành động thay mặt nhân viên và tổ chức. Dữ liệu có thể cho tác nhân biết điều gì là đúng về một khách hàng, giao dịch, yêu cầu bồi thường hoặc đề nghị, nhưng không nhất thiết cho biết bước tiếp theo nên là gì — hay hành động đó sẽ dẫn đến những hệ quả nào. Sự khác biệt này rất quan trọng khi tác nhân không còn chỉ đưa ra câu trả lời mà còn phê duyệt yêu cầu, cập nhật hồ sơ, liên hệ khách hàng hoặc thúc đẩy một vụ việc tiến triển.

Nhân viên doanh nghiệp cần học cách làm việc trong một cơ cấu bao gồm các cấp phê duyệt, quy tắc kinh doanh, sự phụ thuộc, ngoại lệ và quy trình chuyển cấp — các tác nhân cũng cần có cách làm tương tự. Khi Gartner dự đoán rằng đến cuối năm 2026, 40% ứng dụng doanh nghiệp sẽ tích hợp các tác nhân AI chuyên biệt theo nhiệm vụ, tăng từ mức dưới 5% vào năm 2025, những lỗ hổng kiến thức của tác nhân sẽ ngày càng khó làm ngơ. 

Gartner cũng dự đoán rằng đến năm 2028, 80% ROI hữu hình từ AI tác nhân sẽ đến từ các tác nhân chuyên biệt theo từng lĩnh vực. Chuyên môn hóa rất quan trọng, nhưng chỉ giải quyết được một phần vấn đề. Việc am hiểu một lĩnh vực cụ thể không tự động giúp tác nhân biết trách nhiệm của mình bắt đầu và kết thúc ở đâu, nhiệm vụ của nó nằm trong quy trình tổng thể như thế nào, hay ai nên tiếp quản khi vấn đề vượt quá phạm vi trách nhiệm của nó. Để trở thành những thành phần đáng tin cậy trong hoạt động của doanh nghiệp, các tác nhân cần cả bối cảnh quy trình công việc lẫn dữ liệu kinh doanh.

Dữ liệu tốt không cho tác nhân biết điều gì sẽ xảy ra tiếp theo

Hãy xem xét một đơn xin vay, trong đó tác nhân có thể truy cập lịch sử tài chính, thông tin việc làm và các hồ sơ liên quan khác của người nộp đơn. Những thông tin đó có thể giúp tác nhân hiểu hồ sơ, nhưng không cho nó biết tổ chức sẽ xử lý hồ sơ như thế nào.

Những bước kiểm tra nào cần được thực hiện trước? Điều gì thay đổi khi người nộp đơn đáp ứng điều kiện này nhưng không đáp ứng điều kiện khác? Cần có những thông tin bắt buộc nào trước khi hồ sơ được xử lý tiếp? Quyết định nào có thể được đưa ra tự động, và quyết định nào cần chuyển cho nhân viên thẩm định tín dụng?

Phần lớn công việc trong doanh nghiệp đều có những nhánh xử lý tùy điều kiện như vậy. Quy trình có thể tự động chuyển tiếp khi đáp ứng một số tiêu chí nhất định, tạm dừng để thu thập thêm thông tin hoặc chuyển sang một hướng hoàn toàn khác khi phát sinh ngoại lệ. Hành động phù hợp tiếp theo không chỉ phụ thuộc vào thông tin hiện có mà còn vào tiến độ hiện tại của công việc và những gì đã diễn ra trước đó.

Điều này làm thay đổi ý nghĩa của độ tin cậy đối với một tác nhân doanh nghiệp. Câu trả lời chính xác là chưa đủ nếu hành động tiếp theo sai. Tác nhân có thể diễn giải đúng thông tin trước mắt nhưng vẫn chuyển vụ việc sang sai giai đoạn, bỏ qua bước phê duyệt bắt buộc hoặc hành động trước khi hoàn tất một bước phụ thuộc.

McKinsey gần đây đã chia sẻ những thông tin chuyên sâu về quá trình hợp tác với một công ty công nghệ y tế. Công ty này phát hiện nền tảng AI đang sử dụng không thể hỗ trợ một số quy tắc cốt lõi trong quy trình làm việc. Thay vì lùi ngày ra mắt để khắc phục những thiếu sót đó, công ty vẫn tiếp tục theo kế hoạch và cuối cùng không hiện thực hóa được ước tính 30% giá trị dự kiến của AI. Ví dụ này cho thấy các doanh nghiệp cần tính đến quy trình bao quanh nhiệm vụ, chứ không chỉ những thông tin cần thiết để hoàn thành nhiệm vụ đó. 

Điều chỉnh các biện pháp bảo vệ cho phù hợp với những quyết định tác nhân có thể đưa ra

Khi các tác nhân có khả năng hành động, hoạt động quản trị cũng cần trở nên cụ thể hơn. Tác nhân truy xuất một tài liệu chính sách không tiềm ẩn mức độ rủi ro như tác nhân thay đổi tài khoản khách hàng, phê duyệt khoản thanh toán hoặc khởi tạo giao dịch. Tuy nhiên, các tổ chức rất dễ rơi vào một trong hai thái cực: để tác nhân hành động quá tự do hoặc yêu cầu con người phê duyệt gần như mọi việc.

Các biện pháp kiểm soát đối với tác nhân cần phản ánh những quyết định mà nó có thể đưa ra và hệ quả tiềm tàng của các quyết định đó. Tác nhân có thể tự thực hiện một hành động lặp đi lặp lại, ít rủi ro. Một hành động khác có thể cần được phê duyệt nếu vượt quá một giá trị nhất định. Một trường hợp bất thường có thể cần được chuyển ngay cho nhân viên xử lý.

Sự giám sát của con người hữu ích nhất khi được áp dụng có chủ đích. Nếu một người phải phê duyệt mọi bước thường lệ, phần lớn lợi ích của việc đưa tác nhân vào sử dụng sẽ không còn. Nhưng loại bỏ các điểm kiểm tra đối với những quyết định thực sự cần đến sự phán đoán hoặc trách nhiệm giải trình lại tạo ra một vấn đề khác.

IBM Research đã đề xuất các quy tắc rõ ràng về những hành động tác tử được phép thực hiện và những thời điểm cần có sự giám sát của con người. Các biện pháp kiểm soát đó cũng cần tính đến quy trình mà tác tử đang tham gia. Quyền hạn của tác tử không nhất thiết giữ nguyên từ đầu đến cuối quá trình xử lý một hồ sơ. Những việc tác tử có thể thực hiện an toàn có thể phụ thuộc vào giai đoạn của quy trình, thông tin đã được xác minh, các quyết định đã được đưa ra và hệ quả của hành động tiếp theo.

Điều đó có nghĩa là các tổ chức cần tích hợp cơ chế quản trị ngay vào quy trình làm việc. Thay vì cấp cho một tác tử một bộ quyền hạn rộng rồi dựa vào nó trong mọi tình huống, họ có thể xác định những việc tác tử được phép tự thực hiện, những trường hợp cần đáp ứng thêm điều kiện và những lúc trách nhiệm phải được chuyển giao cho con người. Khi đó, câu hỏi không còn là liệu một tác tử có khả năng tự chủ hay không, mà là mức độ tự chủ nào phù hợp ở từng khâu trong quy trình.

Tác tử phải phối hợp với hoạt động kinh doanh hiện có

Bối cảnh quy trình càng trở nên quan trọng khi một tác tử cần tương tác với các bộ phận khác trong doanh nghiệp. Các tổ chức không bắt đầu từ con số không. Một yêu cầu của khách hàng có thể đã đi qua hệ thống CRM, kho lưu trữ tài liệu, nền tảng quản lý hồ sơ và hệ thống ERP, đồng thời có sự tham gia của nhân viên thuộc nhiều phòng ban.

Việc đưa một tác tử vào một khâu trong môi trường đó không tự động giúp toàn bộ quy trình hiệu quả hơn. Tác tử có thể hoàn thành xuất sắc nhiệm vụ riêng, nhưng nếu sau đó nhân viên phải sao chép kết quả của nó sang một ứng dụng khác, xác định ai cần nhận kết quả tiếp theo hoặc tự khởi động lại quy trình ở nơi khác, thì điểm nghẽn chỉ đơn giản là đã chuyển sang chỗ khác.

Đó là lý do các doanh nghiệp cần xem tác tử là những bên tham gia vào một quy trình lớn hơn, chứ không phải những công cụ hoạt động riêng lẻ. Điều gì kích hoạt tác tử? Nó nhận được thông tin nào? Nó chịu trách nhiệm về việc gì? Công việc sẽ được chuyển đến đâu sau khi tác tử hoàn thành? Và điều gì sẽ xảy ra khi nó không thể hoàn thành nhiệm vụ?

Những câu hỏi đó càng trở nên quan trọng khi các tổ chức triển khai nhiều tác tử chuyên biệt. Deloitte đã xác định điều phối là một yêu cầu then chốt đối với các doanh nghiệp đang chuyển sang hệ thống đa tác tử, trong đó các tác tử khác nhau có thể đảm nhận những vai trò riêng biệt và phối hợp công việc. Điều phối trong doanh nghiệp cần bao quát cả cách các tác tử giao tiếp và phối hợp với nhau, chứ không chỉ cách chúng hoạt động riêng lẻ. Nếu thiếu sự giám sát đó, các tác tử có nguy cơ hành động dựa trên ngữ cảnh chưa đầy đủ, kích hoạt những hành động mâu thuẫn hoặc bỏ qua các quy tắc kinh doanh và quy trình phê duyệt đã được thiết lập. Tác tử vẫn hoạt động trong các tổ chức có sẵn ứng dụng, nhân viên, quy tắc kinh doanh và quy trình, vốn có thể kéo dài nhiều ngày, nhiều tuần hoặc nhiều tháng.

Hãy bắt đầu từ quy trình cần hoàn thành và xác định vị trí phù hợp của tác tử, con người và các hệ thống hiện có trong quy trình đó. Một tác tử có thể tự xử lý một bước, một tác tử khác có thể thực hiện một bước kiểm tra chuyên biệt, một nhân viên có thể đưa ra quyết định cần cân nhắc, còn một hệ thống hiện có có thể thực hiện giao dịch cuối cùng. Điều quan trọng là công việc có thể luân chuyển giữa các bên tham gia mà không làm mất ngữ cảnh trong quá trình đó.

Tính tự chủ cần có khuôn khổ

Việc tạo khuôn khổ rõ ràng hơn cho các tác tử không có nghĩa là phải bổ sung thêm một lớp hạn chế cho mọi hành động. Trên thực tế, điều ngược lại có thể đúng. Các quy trình rõ ràng giúp tổ chức tự tin hơn khi xác định những việc tác tử có thể tự thực hiện, bởi ranh giới, ngoại lệ và các điểm cần chuyển cấp đã được xác định từ trước. Tác tử không cần quyền tự do vô hạn để tạo ra giá trị thiết thực. Nó cần đủ trách nhiệm để thúc đẩy công việc tiến triển, đủ ngữ cảnh để biết bước tiếp theo là gì và hiểu rõ khi nào trách nhiệm cần được chuyển giao cho nơi khác.

Dữ liệu tốt hơn sẽ tiếp tục giúp các tác tử có năng lực cao hơn. Nhưng chỉ riêng năng lực không đủ để khiến một tác tử trở nên hữu ích trong doanh nghiệp. Phép thử thực sự là liệu nó có thể thực hiện đúng hành động, vào đúng thời điểm trong quy trình và trong phạm vi giới hạn mà doanh nghiệp đã thiết lập hay không.