AI Doanh nghiệp Phụ thuộc vào Dữ liệu Mà Mọi Người Có Thể Tin Cậy

Vào năm 2025, các công ty đã đầu tư ước tính từ 30 tỷ đến 40 tỷ đô la vào AI sinh ra, tuy nhiên Dự án NANDA của MIT phát hiện rằng chỉ 5% trong hơn 300 triển khai doanh nghiệp mà nó xem xét đã kiểm tra đã tạo ra lợi nhuận tài chính có thể đo lường được.

Tôi đã hơn 25 năm làm việc trong các chương trình dữ liệu doanh nghiệp. Rất trước khi AI sinh ra xuất hiện trong cuộc trò chuyện, tôi đã thấy công nghệ mất uy tín nhanh chóng khi mọi người không thể tin cậy vào dữ liệu phía sau nó. AI sinh ra làm tăng mức độ rủi ro vì nó có thể biến dữ liệu đáng ngờ thành câu trả lời tự tin.

Trước đây chúng tôi thường nói ‘rác vào, rác ra’. Bây giờ là ‘rác vào, thảm họa ra’. Khi dữ liệu có vẻ đáng ngờ, một người có thể dùng phán đoán của mình và liên hệ với chuyên gia dữ liệu. Chuyên gia sẽ thực hiện phân tích nguyên nhân gốc rễ, xác định vấn đề và áp dụng giải pháp. Ngày nay, các tác nhân có thể hành động dựa trên bất kỳ dữ liệu nào họ gặp. Nếu không có sự giám sát của con người có kiến thức, kết quả có thể trở thành một phần của hoạt động, được sử dụng trong quyết định và lan rộng khắp tổ chức.

Vấn đề tương tự có thể xuất hiện trong chatbot. Việc bỏ qua quản trị có thể biến dữ liệu kém hoặc chưa được hiểu rõ thành câu trả lời nghe có vẻ có thẩm quyền, ngay lập tức và ở quy mô lớn.

Tin Cậy Là Rào Cản Thực Sự Trong Việc Áp Dụng

Khi một chatbot nội bộ đưa ra câu trả lời tự tin nhưng sai lầm, người nhận có thể không tin tưởng lại. Trong một tổ chức lớn, AI cũng sẽ tìm ra dữ liệu mà bạn muốn nó không tìm thấy. Tôi so sánh nó với những chiếc tất bẩn dưới giường: dữ liệu đó có thể ẩn khỏi tầm mắt, nhưng AI sẽ tìm ra dữ liệu tối tăm đó và sử dụng nó.

Ngữ cảnh phải đi cùng dữ liệu và là nền tảng mà các mô hình LLM dựa vào. Trước khi một mô hình AI sử dụng dữ liệu, mọi người cần biết dữ liệu có ý nghĩa gì, xuất phát từ đâu, ai là chủ sở hữu và các quy tắc, chính sách kinh doanh liên quan.

Lãnh đạo có thể bỏ qua điều này vì hệ thống hiếm khi gặp sự cố. AI có thể tự tin nhưng sai lầm; nó có thể đề xuất keo cho bánh pizza của bạn (ví dụ rất cũ). Hãy tưởng tượng một chatbot đưa ra câu trả lời tự tin nhưng sai, và lực lượng lao động ngừng tin tưởng vào nó. Việc khôi phục lại niềm tin này mất thời gian dài hơn nhiều so với việc thiết lập các kiểm soát đúng từ đầu.

Nhân viên tại hơn 90% các công ty được MIT nghiên cứu vẫn tiếp tục sử dụng các công cụ AI cá nhân bên lề, ngay cả sau khi dự án thí điểm chính thức do nhà tuyển dụng triển khai không giành được sự tin tưởng của họ. Khi công cụ được phê duyệt chưa giành được sự tin tưởng, nhân viên sẽ tìm cách khác để hoàn thành công việc.

Phần lớn nghiên cứu AI trong năm nay chỉ ra cùng một vấn đề: các tổ chức đang tiến lên với AI trước khi họ thực hiện công việc làm cho dữ liệu của mình đáng tin cậy. Gartner ước tính rằng gần hai phần ba các tổ chức hoặc thiếu các thực tiễn quản lý dữ liệu phù hợp cho AI hoặc không chắc mình có chúng hay không. Nghiên cứu riêng biệt từ IDC phát hiện khoảng trống tương tự về mặt tin cậy: 78% các tổ chức cho rằng họ hoàn toàn tin tưởng AI của mình, nhưng chỉ 40% thực sự đã đầu tư vào công việc quản trị và giải thích để biện minh cho sự tin tưởng đó.

Sự không khớp giữa sự tự tin và đầu tư giúp giải thích tại sao nhiều sáng kiến AI bị đình trệ trước khi đạt tới giai đoạn sản xuất hoặc không phù hợp với giá trị dự định.

Quản Trị AI Hiện Đang Trở Thành Lợi Thế Cạnh Tranh

Trong phần lớn sự nghiệp của tôi, quản trị dữ liệu là một trong những khía cạnh ít hấp dẫn nhất của công nghệ thông tin doanh nghiệp. Việc lập danh mục siêu dữ liệu, xác định quyền sở hữu, tạo hồ sơ dữ liệu và quản lý quy trình công việc có thể cảm giác như công việc vệ sinh. Mọi người thường bỏ qua vì nỗ lực dường như lớn hơn giá trị mà nó mang lại.

AI đã thay đổi điều đó. Nó đang trở thành một khả năng quản trị trong các lĩnh vực như thiết kế bản thiết kế dữ liệu, tạo từ điển được ngành công nghiệp biên soạn, và đề xuất cũng như kích hoạt các chính sách dữ liệu. Ngay cả nguồn gốc dữ liệu cũng có thể được suy ra và tối ưu nhanh hơn trước, giúp giá trị của các pipeline dữ liệu được quản lý và khả năng quan sát dễ dàng hiện thực hơn.

Quy định cũng đang làm tăng tính cấp bách của việc minh bạch dữ liệu. Đạo luật AI của EU đã được áp dụng rộng rãi vào ngày 2 tháng 8 năm 2026, bao gồm các quy tắc minh bạch cho một số hệ thống và nội dung do AI tạo ra. Đạo luật này cũng thiết lập các yêu cầu riêng cho các hệ thống có rủi ro cao, bao gồm tài liệu và thông tin giúp người triển khai giải thích kết quả của chúng, mặc dù một số quy định rủi ro cao sẽ được thực hiện vào thời gian sau.

Đối với các công ty, bài học thực tiễn rất đơn giản: nguồn gốc rõ ràng và quản trị giúp dễ dàng ghi lại dữ liệu đã sử dụng, nguồn gốc của nó và cách hệ thống dự kiến hoạt động.

Bức tranh quy định ở Hoa Kỳ vẫn chưa ổn định. Không có một luật AI liên bang toàn diện, các công ty phải điều hướng các yêu cầu của từng tiểu bang, ngay cả khi Nhà Trắng muốn hạn chế khả năng các tiểu bang tạo và thực thi quy tắc AI riêng của mình. Đạo luật AI của Colorado, khung pháp lý tiểu bang toàn diện nhất hiện có, đã bị hoãn và viết lại một lần trong cuộc tranh đấu này, với các nghĩa vụ cốt lõi được đẩy sang năm 2027. Đối với nhiều công ty Mỹ, cám dỗ là chờ đợi sự không chắc chắn qua đi.

Tôi cho rằng đó là bản năng sai lầm. Dù mô hình quy định nào cuối cùng sẽ thành công ở Mỹ, yêu cầu cơ bản vẫn không biến mất. Hãy biết dữ liệu của bạn xuất phát từ đâu. Hãy biết liệu có ai thực sự xác thực nó trước khi AI sử dụng hay không. Phát triển kỷ luật này ngay bây giờ sẽ giúp các công ty chuẩn bị cho các quy định mới và biến các dự án thí điểm AI đầy hứa hẹn thành công cụ mà doanh nghiệp có thể sử dụng một cách tự tin.

Điều Gì Phân Biệt 5%

Hãy để tôi kể về một khách hàng. Đội kế toán tổng hợp của họ phải rà soát 300 bảng tính riêng biệt mỗi khi có sự chênh lệch trong sổ sách. Ba trăm. Cuối cùng, ai đó đã tái cấu trúc toàn bộ hỗn độn đó thành một tài sản dữ liệu được quản trị duy nhất, với các phép tính, báo cáo và dữ liệu nền tảng được đóng gói cùng nhau và xác thực trước. Lần tiếp theo khi có vấn đề, việc khắc phục chỉ mất một phần nhỏ công sức so với trước. Chỉ trong quy trình này, họ đã tiết kiệm khoảng 750 ngày lao động. Đó là hàng triệu đô la tiết kiệm chi phí chỉ nhờ việc dọn dẹp đó.

Cải tiến đến từ việc làm cho dữ liệu đúng dễ tìm và đủ tin cậy để sử dụng mà không phải suy đoán lại. Sự hợp tác và tái sử dụng đã làm cho điều đó khả thi. Các sản phẩm dữ liệu đáng tin cậy có thể được căn chỉnh với tiêu chuẩn doanh nghiệp, mở rộng và nâng cấp theo thời gian, được đánh giá độ tin cậy và quản lý giá trị. Cách tiếp cận này giảm nhu cầu tạo ra hàng trăm hoặc hàng nghìn sản phẩm gắn liền với các bảng cơ sở dữ liệu vật lý riêng lẻ.

Các chương trình mạnh mẽ làm cho sự tin cậy này trở nên hiện hữu. Trong các chợ dữ liệu mà tôi làm việc, tài sản có thể được phân loại thành vàng, bạc hoặc đồng dựa trên các yếu tố như chất lượng, biên tập, mức độ sử dụng và quyền sở hữu. Người dùng doanh nghiệp có thể thấy mức độ tin cậy của một tài sản trước khi sử dụng. Sự hiện hữu này giúp mọi người ngừng đoán mò và sẵn sàng tái sử dụng dữ liệu đã có.

Con số 95% là một cảnh báo về cách mà nhiều công ty đã xem nhẹ dữ liệu đằng sau AI sinh ra. Những tổ chức đang tiến bộ đang cung cấp cho mọi người cái nhìn rõ ràng về nguồn gốc dữ liệu, cách dữ liệu được xác thực và liệu nó có phù hợp với nhiệm vụ hay không. Sau nhiều năm quản lý dữ liệu chỉ được coi là công việc nền, AI cuối cùng đã làm cho giá trị của nó trở nên hiện hữu.