AI Doanh nghiệp Phụ Thuộc vào Dữ liệu Mà Mọi Người Có Thể Tin Cậy

Vào năm 2025, các công ty đã đầu tư ước tính từ 30 tỷ đến 40 tỷ đô la vào AI sinh tạo, tuy nhiên Dự án NANDA của MIT phát hiện rằng chỉ 5% trong hơn 300 triển khai doanh nghiệp mà nó đã xem xét đã tạo ra lợi nhuận tài chính có thể đo lường được.

Tôi đã làm việc hơn 25 năm trong các chương trình dữ liệu doanh nghiệp. Rất trước khi AI sinh tạo xuất hiện trong cuộc trò chuyện, tôi đã thấy công nghệ mất uy tín nhanh chóng khi mọi người không thể tin cậy vào dữ liệu phía sau nó. AI sinh tạo làm tăng mức độ rủi ro vì nó có thể biến dữ liệu đáng ngờ thành một câu trả lời tự tin.

Trước đây chúng tôi thường nói ‘rác vào, rác ra’. Bây giờ là ‘rác vào, thảm họa ra’. Khi dữ liệu có vẻ đáng ngờ, một người có thể dùng phán đoán của mình và liên hệ với chuyên gia dữ liệu. Chuyên gia sẽ thực hiện phân tích nguyên nhân gốc rễ, xác định vấn đề và áp dụng giải pháp. Ngày nay, các tác nhân có thể hành động dựa trên bất kỳ dữ liệu nào họ gặp. Nếu không có sự giám sát của con người có kiến thức, kết quả có thể trở thành một phần của hoạt động, được sử dụng trong quyết định và lan rộng khắp tổ chức.

Vấn đề tương tự có thể xuất hiện trong chatbot. Việc bỏ qua quản trị có thể biến dữ liệu kém chất lượng hoặc chưa được hiểu rõ thành một câu trả lời nghe có vẻ có thẩm quyền, ngay lập tức và ở quy mô lớn.

Tin Cậy Là Rào Cản Thực Sự Cho Việc Áp Dụng

Khi một chatbot nội bộ đưa ra câu trả lời tự tin nhưng sai, người nhận có thể không tin tưởng lại. Trong một tổ chức lớn, AI cũng sẽ tìm thấy dữ liệu mà bạn không muốn nó phát hiện. Tôi so sánh nó với những chiếc tất bẩn dưới giường: dữ liệu đó có thể ẩn mắt, nhưng AI sẽ tìm ra dữ liệu tối tăm đó và sử dụng nó.

Ngữ cảnh phải đi kèm với dữ liệu và là nền tảng mà các mô hình LLM dựa vào. Trước khi một mô hình AI sử dụng dữ liệu, mọi người cần biết nó có nghĩa gì, nguồn gốc từ đâu, ai sở hữu và các quy tắc, chính sách kinh doanh liên quan.

Ban lãnh đạo có thể bỏ qua điều này vì hệ thống hiếm khi gặp sự cố. AI có thể tự tin sai lầm; nó có thể đề xuất keo cho bánh pizza (ví dụ rất cũ). Hãy tưởng tượng một chatbot đưa ra câu trả lời tự tin nhưng sai, và lực lượng lao động ngừng tin tưởng vào nó. Việc khôi phục lại niềm tin đó mất nhiều thời gian hơn so với việc thiết lập các kiểm soát đúng ngay từ đầu.

Sự suy giảm đó cũng thể hiện trong dữ liệu. Nhân viên tại hơn 90% các công ty MIT đã nghiên cứu vẫn tiếp tục sử dụng các công cụ AI cá nhân bên lề, ngay cả sau khi dự án thí điểm chính thức do nhà tuyển dụng triển khai không giành được sự tin tưởng của họ. Khi công cụ được phê duyệt chưa giành được niềm tin, nhân viên sẽ tìm cách khác để hoàn thành công việc.

Phần lớn nghiên cứu AI năm nay chỉ ra cùng một vấn đề: các tổ chức đang tiến lên với AI trước khi họ thực hiện công việc để làm cho dữ liệu của mình đáng tin cậy. Gartner ước tính rằng gần hai phần ba các tổ chức hoặc thiếu các thực tiễn quản lý dữ liệu phù hợp cho AI hoặc không chắc họ có chúng hay không. Nghiên cứu riêng biệt từ IDC đã phát hiện một khoảng trống tương tự về mặt tin cậy: 78% các tổ chức cho biết họ hoàn toàn tin tưởng AI của mình, nhưng chỉ 40% thực sự đã đầu tư vào công việc quản trị và giải thích để biện minh cho sự tin tưởng đó.

Sự không khớp giữa sự tự tin và đầu tư giúp giải thích tại sao nhiều sáng kiến AI dừng lại trước khi đạt đến giai đoạn sản xuất hoặc không phù hợp với giá trị dự định.

Quản Trị AI Hiện Là Lợi Thế Cạnh Tranh

Trong phần lớn sự nghiệp của tôi, quản trị dữ liệu là một trong những khía cạnh ít hào nhoáng nhất của công nghệ thông tin doanh nghiệp. Việc lập danh mục siêu dữ liệu, xác định quyền sở hữu, tạo hồ sơ dữ liệu và quản lý quy trình có thể cảm giác như công việc bảo trì. Mọi người thường bỏ qua vì nỗ lực dường như lớn hơn giá trị mà nó mang lại.

AI đã thay đổi điều đó. Nó đang trở thành một khả năng quản trị trong các lĩnh vực như thiết kế bản đồ dữ liệu, tạo từ điển do ngành công nghiệp biên soạn, và đề xuất cũng như kích hoạt các chính sách dữ liệu. Ngay cả dòng dữ liệu cũng có thể được suy ra và tinh giản nhanh hơn trước, giúp giá trị của các pipeline dữ liệu được quản lý và khả năng quan sát dễ dàng hiện thực hoá hơn.

Quy định cũng đang làm cho tính minh bạch dữ liệu trở nên cấp bách hơn. EU AI Act đã được áp dụng rộng rãi vào ngày 2 tháng 8 năm 2026, bao gồm các quy tắc minh bạch cho một số hệ thống và nội dung do AI tạo ra. Đạo luật này cũng thiết lập các yêu cầu riêng cho hệ thống có rủi ro cao, bao gồm tài liệu và thông tin giúp người triển khai giải thích đầu ra của chúng, mặc dù một số quy định rủi ro cao sẽ được áp dụng sau.

Đối với các công ty, bài học thực tiễn rất đơn giản: dòng dữ liệu và quản trị rõ ràng giúp dễ dàng ghi lại dữ liệu đã được sử dụng, nguồn gốc của chúng và cách hệ thống dự định hoạt động.

Bức tranh quy định ở Hoa Kỳ vẫn chưa ổn định. Không có một luật AI liên bang toàn diện, các công ty phải điều hướng các yêu cầu của các tiểu bang khác nhau, ngay cả khi Nhà Trắng cố gắng hạn chế khả năng các tiểu bang tạo và thực thi quy tắc AI riêng của mình. Đạo luật AI của Colorado, khung pháp lý tiểu bang toàn diện nhất hiện có, đã bị trì hoãn và viết lại một lần trong cuộc tranh đấu này, với các nghĩa vụ cốt lõi được đẩy sang năm 2027. Đối với nhiều công ty Mỹ, cám dỗ là chờ đợi cho đến khi sự không chắc chắn giảm bớt.

Tôi cho rằng đó là bản năng sai lầm. Dù mô hình quy định nào cuối cùng sẽ thành công ở Hoa Kỳ, yêu cầu cơ bản vẫn không biến mất. Hãy biết dữ liệu của bạn đến từ đâu. Hãy biết liệu có ai thực sự xác thực nó trước khi AI sử dụng. Việc phát triển kỷ luật này ngay bây giờ sẽ giúp các công ty chuẩn bị cho các quy định mới và biến các dự án thí điểm AI đầy hứa hẹn thành công cụ mà doanh nghiệp có thể sử dụng một cách tự tin.

Điều Gì Phân Biệt 5%

Hãy để tôi kể về một khách hàng. Đội ngũ sổ cái chung của họ phải dò qua 300 bảng tính riêng biệt mỗi khi có sai lệch trong sổ sách. Ba trăm. Cuối cùng, ai đó đã tái cấu trúc toàn bộ hỗn loạn này thành một tài sản dữ liệu được quản trị duy nhất, với các phép tính, báo cáo và dữ liệu nền được đóng gói cùng nhau và xác thực trước. Lần tiếp theo khi có vấn đề, việc khắc phục chỉ mất một phần nhỏ công sức so với trước. Chỉ trong quy trình này, họ đã tiết kiệm khoảng 750 ngày lao động, tương đương hàng triệu đô la chi phí chỉ nhờ việc dọn dẹp này.

Cải tiến đến từ việc làm cho dữ liệu đúng dễ tìm và đủ đáng tin cậy để sử dụng mà không cần suy đoán lại. Sự hợp tác và tái sử dụng đã làm cho điều đó khả thi. Các sản phẩm dữ liệu đáng tin cậy có thể được điều chỉnh phù hợp với tiêu chuẩn doanh nghiệp, mở rộng và nâng cấp theo thời gian, được chấm điểm về độ tin cậy và quản lý để tạo giá trị. Cách tiếp cận này giảm nhu cầu tạo ra hàng trăm hoặc hàng ngàn sản phẩm gắn với các bảng cơ sở dữ liệu vật lý riêng lẻ.

Các chương trình mạnh mẽ làm cho sự tin cậy này trở nên hiện hữu. Trong các chợ dữ liệu mà tôi làm việc, tài sản có thể được phân loại thành vàng, bạc hoặc đồng dựa trên các yếu tố như chất lượng, biên tập, mức độ sử dụng và quyền sở hữu. Người dùng doanh nghiệp có thể thấy tài sản đáng tin cậy đến mức nào trước khi sử dụng. Sự minh bạch này giúp mọi người ngừng đoán mò và sẵn sàng tái sử dụng dữ liệu đã tồn tại.

Con số 95% là một cảnh báo về cách mà nhiều công ty đã xem nhẹ dữ liệu phía sau AI sinh tạo. Các tổ chức đang tiến bộ đang cung cấp cho mọi người cái nhìn rõ ràng về nguồn gốc dữ liệu, cách nó được xác thực và liệu nó có phù hợp với công việc hay không. Sau nhiều năm quản lý dữ liệu được coi là công việc nền, AI cuối cùng đã làm cho giá trị của nó trở nên hiện hữu.