Khi Mô Hình Không Phải Là Vấn Đề

Hãy tưởng tượng một kịch bản phổ biến trong dịch vụ tài chính. Một đội triển khai AI để xem xét các hợp đồng: hàng trăm trang, các điều khoản lặp đi lặp lại và công việc thường mất nhiều ngày. Mô hình xác định các rủi ro và tham chiếu đến các đoạn văn đúng. Tuy nhiên, đầu ra không cộng lại.

Thật ra vấn đề nằm trong thư mục hợp đồng, nơi các tệp nằm cạnh nhau với tên contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx và contract_finalfinal_THIS_ONE.docx.

AI đã chọn tệp được lưu gần đây nhất. Tuy nhiên, tệp đó là một phiên bản cũ mà ai đó đã mở và lưu tự động vào tuần trước.

Mô hình đã thực hiện chính xác những gì nó được thiết kế để làm. Tuy nhiên, quy trình lại để nó xuống.

Khi Mô Hình Không Phải Là Vấn Đề

Trong bài viết trước, tôi đã lập luận rằng các thất bại của AI thường bắt đầu từ bên ngoài mô hình – trong quản trị, sở hữu và cấu trúc quyết định xung quanh nó. Tuy nhiên, quản trị chỉ là một phần của vấn đề. Ngay cả một hệ thống AI được quản trị tốt cũng sẽ gặp khó khăn nếu quy trình bên dưới nó phụ thuộc vào các tài liệu lỗi thời, các ngoại lệ không chính thức hoặc các đường dẫn phê duyệt được thiết kế cho một tốc độ làm việc chậm hơn.

Khi một hệ thống AI sản xuất một kết quả kém, mô hình thường là nghi phạm đầu tiên. Có thể nó đã “ảo giác”, hiểu lầm nhiệm vụ hoặc nhận được một lời nhắc yếu. Tuy nhiên, đôi khi mô hình đã thực hiện chính xác những gì nó được thiết kế để làm. Sự thất bại xảy ra trong quy trình cung cấp thông tin cho nó hoặc trong tổ chức không thể hành động trên đầu ra của nó.

Triển khai AI tiết lộ các vấn đề về quy trình đã tồn tại nhưng chưa bao giờ được nhìn thấy – như một công cụ chẩn đoán. Nó暴 lộ các điểm yếu mà người dân trước đây đã bù đắp mà không cần suy nghĩ: thiếu ngữ cảnh, quyền sở hữu không rõ ràng và các giải pháp thay thế không chính thức mà không bao giờ được ghi lại.

Tốc Độ Không Có Khả Năng

AI không chỉ tăng tốc đầu ra. Nó cũng tăng tốc các yêu cầu nâng cao, yêu cầu quyết định và việc phát hiện ra các vấn đề. Một mô hình đánh dấu một bất thường trong thời gian thực, không phải vào chiều thứ Sáu khi ai đó cuối cùng tìm thấy thời gian để xem qua các nhật ký.

Các tổ chức không được thiết lập cho tốc độ này. Các quy trình phê duyệt, đường dẫn nâng cao, thẩm quyền quyết định – tất cả đều được hiệu chỉnh để phù hợp với tốc độ của con người. Khi AI sản xuất đầu ra nhanh hơn tổ chức có thể hấp thụ, ba điều có thể xảy ra:

• AI chờ đợi một quyết định, xóa bỏ lợi ích hiệu suất.
• Nhân viên bỏ qua đầu ra của nó và quay lại những gì họ tin là hoạt động – quy trình cũ.
• Nhân viên đẩy quyết định tiến mà không kiểm tra chúng đúng cách vì họ cảm thấy áp lực để duy trì tốc độ.

Một số nhân viên quay lại kiểm tra thủ công vì những việc đó cảm thấy an toàn hơn. Những người khác phê duyệt kết quả mà họ không có thời gian để xác minh vì họ cảm thấy áp lực để duy trì tốc độ được công nghệ hứa hẹn. Trong cả hai trường hợp, tổ chức đều phải trả tiền cho đầu ra nhanh hơn mà không trở nên nhanh hơn trong việc đưa ra quyết định có trách nhiệm.

Quyền sở hữu cũng có thể trở nên mờ ràng. Ai là người chịu trách nhiệm xem xét một bất thường được đánh dấu, quyết định liệu mô hình có sai và nâng cao vấn đề khi nhiều đội được tham gia? Nếu không có câu trả lời rõ ràng, AI sẽ tiếp tục chạy ở chế độ nền, sản xuất đầu ra mà không ai thực sự sở hữu.

Điều này phản ánh một vấn đề tổ chức rộng lớn hơn. Như một phân tích của Forbes từ cuối năm 2025 đã quan sát, khi công nghệ thay đổi quy trình làm việc nhanh hơn tổ chức có thể hấp thụ, kết quả không phải là hiệu suất; mà là làm việc quá giờ. AI có thể tăng tốc một giai đoạn của quy trình, nhưng giá trị của nó vẫn phụ thuộc vào việc tổ chức xung quanh có thể hấp thụ và hành động trên những gì nó sản xuất.

Kiến Thức Im Lặng Không Ai Viết Xuống

Hãy tưởng tượng rằng Martin biết hợp đồng của công ty với một nhà cung cấp bao gồm một ngoại lệ cho các khoản thanh toán dưới 2.000 euro. Đó là một thỏa thuận miệng được thực hiện ba năm trước nhưng không bao giờ được ghi lại. Khi công ty triển khai AI để tự động hóa phê duyệt thanh toán, hệ thống chặn thanh toán – đúng theo hợp đồng đã viết.

Đây là kiến thức ẩn: kiến thức tổ chức sống trong đầu người chứ không phải trong hệ thống. Mỗi công ty đều có nó. Và hầu hết các công ty không biết họ có bao nhiêu kiến thức như vậy.

AI chỉ có thể sử dụng kiến thức đã được làm cho nó có thể truy cập. Ngoại lệ của Martin không tồn tại từ góc độ của hệ thống. Không có ngữ cảnh đó, quyết định của nó có thể là chính xác về mặt kỹ thuật nhưng sai về mặt hoạt động.

McKinsey đã xác định thách thức tương tự trong việc triển khai AI. Xây dựng các tác nhân AI hiệu quả đòi hỏi các công ty phải mã hóa các thực hành chuyên gia có thể tồn tại trong các thủ tục tiêu chuẩn – hoặc chỉ là kiến thức ẩn trong đầu của nhân viên. Nói cách khác: Triển khai AI có thể là lần đầu tiên một tổ chức thấy được quy trình của mình phụ thuộc vào những gì Martin biết.

Nguồn Gốc Sai của Sự Thật

Đầu ra AI nguy hiểm nhất không phải lúc nào cũng là một câu trả lời rõ ràng là sai. Nó có thể là một câu trả lời có uy tín, được trình bày chuyên nghiệp, được tạo ra từ thông tin lỗi thời.

Trong nhiều năm, nhiều bộ phận đã hoạt động với nhiều phiên bản của cùng một tài liệu vì Jane từ bộ phận pháp lý luôn biết phiên bản nào là có thẩm quyền. AI, tiếc thay, không.

Trừ khi nó đã được cung cấp các quy tắc để phân biệt giữa các phiên bản, hệ thống không có lý do để nghi ngờ tài liệu nó nhận được. Và vì vậy, quá trình xem xét AI chạy đúng – trên tài liệu sai. Điều đó có thể tồi tệ hơn là không có xem xét nào vì đầu ra trông có uy tín.

Một nhân viên có kinh nghiệm có thể biết nơi nào là sự thật và có thể điều hướng qua sự混乱. Tuy nhiên, một hệ thống cần một cách đáng tin cậy để xác định thông tin nào là hiện tại, được phê duyệt và có liên quan.

Kiến thức ẩn, tài liệu không đáng tin cậy và các quy trình phê duyệt được xây dựng cho đầu ra tốc độ của con người dường như là các vấn đề riêng biệt. Tuy nhiên, chúng đều có cùng một nguyên nhân gốc rễ. Không ai trong số chúng được tạo ra bởi AI, nhưng AI làm cho chúng khó bỏ qua hơn.

Các Câu Hỏi Cần Trả Lời Trước Khi Xây Dựng Một Tác Nhân

Trước khi triển khai một tác nhân AI, một tổ chức nên có thể trả lời ba câu hỏi.

Các Quyết Định Nào Phụ Thuộc Vào Kiến Thức Chưa Bao Giờ Được Ghi Lại?

Điều này có nghĩa là xác định các ngoại lệ, giải pháp thay thế và quyết định mà nhân viên có kinh nghiệm áp dụng mà không mô tả chúng một cách rõ ràng. Các cuộc phỏng vấn alone có thể không tiết lộ tất cả kiến thức này. Các tổ chức có thể cần phải quan sát cách công việc được thực hiện trên thực tế và so sánh nó với quy trình chính thức.

Làm Thế Nào Hệ Thống Sẽ Xác Định Thông Tin Là Hiện Tại, Được Phê Duyệt và Có Liên Quan?

Cung cấp cho một tác nhân quyền truy cập vào nhiều tài liệu hơn không giải quyết được vấn đề nếu nó không thể phân biệt giữa một hợp đồng được phê duyệt và một bản thảo hoặc một chính sách hoạt động và một chính sách lỗi thời. Các quy tắc phiên bản, quyền sở hữu, trạng thái phê duyệt và lưu trữ phải rõ ràng đủ để hệ thống xác định nguồn nào nên chi phối quyết định của nó.

Các Quy Trình Phê Duyệt và Nâng Cao Hiện Tại Có Thể Hấp Thụ Được Số Lượng và Tốc Độ Của Đầu Ra Của Nó?

Các đội nên ước tính không chỉ lượng công việc mà tác nhân có thể hoàn thành, mà còn số lượng xem xét, ngoại lệ và nâng cao mà công việc đó có thể tạo ra. Khung Quản Lý Rủi Ro AI của NIST khuyến nghị nên xác định rõ ràng vai trò và trách nhiệm của con người trong việc giám sát các hệ thống AI. Những điều này cần được thiết kế cho khối lượng dự kiến trước khi hệ thống được triển khai – không phải sau khi nhân viên trở nên quá tải bởi nó.

Những câu hỏi này không phải là những câu hỏi để trả lời một lần và quên đi. Các quy trình thay đổi, tài liệu trở nên lỗi thời và kiến thức không được ghi lại lại tích lũy. Vì vậy, sự sẵn sàng phải được duy trì, không chỉ được thiết lập trước khi ra mắt.

Chuẩn Bị Cho AI Bắt Đầu Từ Quy Trình

Sự sẵn sàng cho AI không chỉ là một thử nghiệm về công nghệ. Đó là một thử nghiệm về việc tổ chức có làm cho các quy trình của mình rõ ràng enough để công nghệ có thể hoạt động trong chúng không.

Chuẩn bị một tổ chức cho AI liên quan đến nhiều hơn là chọn một mô hình hoặc xây dựng một tác nhân. Nó có nghĩa là làm rõ quyền sở hữu, xác định thông tin có thẩm quyền, ghi lại các ngoại lệ và thiết kế lại cách đầu ra được xem xét, nâng cao và thực hiện.

Đây là một công việc khó khăn, nhưng một sự triển khai thất bại sẽ cuối cùng buộc tổ chức phải làm điều đó bất kể. Chỉ có thời gian là biến số.