Lãnh đạo tư tưởng

Nội dung AI chất lượng thấp đang tràn vào doanh nghiệp

Chris Ackerson
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhCác công cụ AI phổ thông có nguy cơ làm ngập lụt doanh nghiệp bằng những đầu ra chất…
Xem thêm
  • Các công cụ AI phổ thông có nguy cơ làm ngập lụt doanh nghiệp bằng những đầu ra chất lượng thấp từ dữ liệu không thể kiểm chứng.
  • AI chuyên biệt theo lĩnh vực trên dữ liệu được tuyển chọn mang lại những hiểu biết đủ chuẩn để ra quyết định mà các mô hình phổ thông không thể sánh bằng.
  • Rác AI tạo ra một vòng lặp phản hồi, trong đó các đầu vào và đầu ra chất lượng thấp làm suy giảm việc ra quyết định của doanh nghiệp.

AI đang gặp vấn đề với nội dung chất lượng thấp được tạo hàng loạt, thường gọi là “AI slop”. Một số người bắt gặp chúng khi lướt mạng xã hội hằng ngày, dưới dạng video do AI tạo ra hoặc, nếu tìm đến những ngóc ngách sâu hơn trên internet, là những màn kịch kiểu truyền hình thực tế giữa các loại trái cây do AI tạo ra và được nhân cách hóa thành con người. Những ví dụ này có thể chỉ là trò giải trí vô hại, nhưng chúng ta nên đặt giới hạn nào cho nội dung do AI tạo ra trong những môi trường nghiêm túc hơn và muốn tránh rủi ro, chẳng hạn doanh nghiệp? 

Trong doanh nghiệp, AI slop xuất hiện dưới dạng những phân tích trau chuốt, đầy tự tin nhưng dựa trên dữ liệu hời hợt, không thể truy cập hoặc không chính xác. Doanh nghiệp đang bắt đầu gánh chịu chi phí. Dữ liệu AlphaSense phản ánh sự thay đổi này: số lần AI slop được nhắc đến trong tin tức và truyền thông tăng 20% từ quý IV năm 2025 sang quý I năm 2026 so với quý trước.

 Nhiều người dùng công cụ AI đa dụng xem việc thiếu quyền truy cập các nguồn thông tin được bảo vệ và có chất lượng cao là một hạn chế. Không phải mọi quyết định đều có thể hoặc nên dựa vào nguồn trên web. Khi những quyết định quan trọng đòi hỏi thông tin đủ đáng tin cậy để làm căn cứ, sự khác biệt trở nên rõ ràng giữa công cụ đưa ra câu trả lời hời hợt và công cụ cung cấp hiểu biết chuyên sâu theo lĩnh vực.

 Vấn đề là sự bùng nổ nội dung do AI tạo ra đang thúc đẩy một vòng phản hồi khổng lồ, với đầu vào chất lượng thấp và đầu ra còn kém hơn. Những tổ chức phá vỡ được vòng luẩn quẩn này và tập trung vào đầu vào đáng tin cậy, phù hợp với lĩnh vực sẽ định hình giai đoạn tiếp theo của AI doanh nghiệp, phân biệt hiểu biết thực chất với nhiễu nhân tạo.

Hạn chế lớn nhất của AI doanh nghiệp là dữ liệu được cung cấp cho nó

Công cụ AI đa dụng là những hệ thống có thể hiểu, học và suy luận trong nhiều lĩnh vực. Chúng tập trung vào các năng lực nền tảng như suy luận và học tập, nhờ đó hỗ trợ tinh gọn quy trình làm việc và tăng năng suất. Tuy nhiên, dữ liệu chung dùng để huấn luyện mô hình có thể tạo ra đầu ra cũng chung chung, dẫn đến AI slop khi được sử dụng trên quy mô lớn.

 Trong ngành công nghệ, nhiều công ty hiện đã dựa vào các công cụ AI đa dụng và mô hình ngôn ngữ lớn này cho nhiều quy trình làm việc cũng như để tiết kiệm thời gian.

 Các công ty không còn chỉ thử nghiệm mô hình mà đang tích hợp chúng vào quy trình làm việc có tác nhân AI. Trong đó, hệ thống AI tự chủ tương tác với dữ liệu doanh nghiệp, API và ứng dụng bên ngoài để hoàn thành nhiệm vụ từ đầu đến cuối. Điều này khiến doanh nghiệp bị giới hạn ở những dữ liệu thường khó hoặc không thể chứng minh tính xác thực, tạo ra đầu ra không có giá trị.

 Việc sử dụng công cụ AI đa dụng gây ra một số vấn đề góp phần tạo nên AI slop trong doanh nghiệp:

  • Nội dung do AI tạo ra thường tràn ngập kho tri thức nội bộ, khiến chúng khó được tin cậy và khó sử dụng hơn.
  • Những lỗi quay lại qua các vòng phản hồi làm nội dung đầy ắp thông tin chung chung và không liên quan.
  • AI tinh gọn quá trình sáng tạo nhưng đồng thời làm giảm các bước kiểm soát chất lượng vốn thường được tích hợp trong quá trình đó.

Ngược lại, AI chuyên biệt theo lĩnh vực ưu tiên chiều sâu hơn độ bao quát, thiết kế những hệ thống giải quyết các vấn đề có phạm vi hẹp và giá trị cao trong một lĩnh vực cụ thể. Thay vì dựa vào dữ liệu huấn luyện rộng lớn và công khai, các công cụ này sử dụng bộ dữ liệu thuộc sở hữu riêng và được tuyển chọn kỹ lưỡng, nhờ đó có thể tạo ra đầu ra chất lượng cao hơn nhiều và phù hợp hơn với ngữ cảnh. Bằng cách dựa trên chuyên môn của lĩnh vực thay vì dữ liệu chung, AI ứng dụng cung cấp hiểu biết đáp ứng yêu cầu về độ chính xác và trách nhiệm giải trình trong doanh nghiệp. Nguồn thông tin minh bạch, đầu ra có dẫn chứng từ nguồn và khả năng nghiên cứu sâu hơn bảo đảm thông tin có thể truy nguyên, được xác thực và đáng tin cậy.

 Mức độ chính xác này không phải lựa chọn tùy ý đối với doanh nghiệp hoạt động trên quy mô lớn, nơi rủi ro AI slop có thể dẫn đến sai sót nghiêm trọng.

Phá vỡ vòng luẩn quẩn suy giảm chất lượng

Đầu vào và đầu ra kém có thể ảnh hưởng đến câu trả lời theo thời gian, làm vấn đề AI slop trầm trọng hơn và tạo ra vòng phản hồi có hại.

 Chẳng hạn, trong môi trường sử dụng mô hình đa dụng, nội dung do AI tạo ra đã hình thành một vòng suy giảm chất lượng tự củng cố. Hệ thống AI thường học từ thông tin nội bộ mà chúng có thể truy cập, bao gồm đầu ra trước đó, và thường tiếp nhận rồi tái tạo những lỗi sẵn có. Nếu tài liệu chứa lỗi, những lỗi ấy quay lại lưu hành và các khuôn mẫu chung tự củng cố. Nói đơn giản, nếu dữ liệu huấn luyện nền tảng có chất lượng thấp thì đầu ra của mô hình sẽ phản ánh cùng mức chất lượng đó.

 Tư duy độc đáo cũng suy giảm khi con người ít tham gia hơn. Khi các quy trình tiếp tục, vòng lặp tái diễn và chất lượng đầu ra tiếp tục giảm theo cấp số nhân. Công cụ AI thường không ưu tiên kiểm tra tính chính xác, cũng không cân nhắc kỹ việc chọn từ khi lấp chỗ trống trong nội dung. Vì vậy, AI slop lấp đầy nội dung bằng nhiễu nhân tạo với tốc độ ngày càng tăng.

 Xu hướng này thể hiện rõ trong hoạt động truyền thông của các công ty lớn. Một bài viết gần đây trên Barron’s đã dựa vào dữ liệu AlphaSense để xem xét việc sử dụng cấu trúc đặc trưng của AI “không phải điều này, mà là điều kia”. Cấu trúc ấy xuất hiện trong số lượng lớn đến đáng kinh ngạc các kênh truyền thông đối ngoại của doanh nghiệp. Theo bài viết, mức sử dụng cách diễn đạt này gần như tăng gấp đôi trong từng năm 2024 và 2025.

 Ngoài truyền thông, rủi ro AI slop có thể ảnh hưởng đáng kể đến nhiều chức năng của doanh nghiệp, nhất là khi AI ngày càng phổ biến trong quy trình ra quyết định. Nếu quyết định quan trọng chịu tác động của thông tin không chính xác hoặc thậm chí dư thừa, các nhóm không thể và không nên tin vào đầu ra của mình.

 Những hệ thống AI hiệu suất cao nhất cung cấp thông tin đủ chất lượng để làm căn cứ quyết định

 Khi doanh nghiệp mở rộng sử dụng AI và đánh giá lợi tức đầu tư, khả năng phân biệt hiểu biết có giá trị với AI slop sẽ trở thành lợi thế cạnh tranh mang tính quyết định. Những tổ chức chỉ dựa vào công cụ AI đa dụng mà không chủ động bảo đảm chất lượng dữ liệu và bối cảnh chuyên môn có nguy cơ làm ngập hoạt động của mình và lãng phí thời gian với đầu ra không đáng tin cậy.

 AI ứng dụng mở ra hướng đi an toàn hơn và mang lại hiểu biết sâu hơn. Tuy nhiên, tổ chức cũng phải kết hợp các công cụ này với sự giám sát rõ ràng của con người, tiêu chuẩn xác minh và việc đánh giá liên tục quy trình làm việc cùng đầu ra để phát hiện AI slop. Không có một cách tiếp cận phù hợp với tất cả.

 Những công ty làm đúng sẽ đưa ra quyết định tốt hơn và dựa trên thông tin đầy đủ hơn. Trong một thị trường ngày càng chịu ảnh hưởng của AI, sự khác biệt này đã bắt đầu trở thành lợi thế cạnh tranh.

Chris Ackerson là Phó chủ tịch cấp cao phụ trách sản phẩm tại AlphaSense. AlphaSense là công nghệ đứng sau những quyết định quan trọng nhất trong giới kinh doanh – từ Phố Wall đến phòng họp cấp cao của các doanh nghiệp thuộc mọi ngành công nghiệp lớn. Được hơn 6.500 công ty hàng đầu tin dùng – trong đó có 88% doanh nghiệp thuộc S&P 100, 80% ngân hàng hàng đầu thế giới và cả 20 công ty dược phẩm lớn nhất thế giới – nền tảng tìm kiếm AI và thông tin thị trường của chúng tôi giúp các nhà lãnh đạo doanh nghiệp hành động nhanh hơn và tự tin hơn nhờ cung cấp thông tin chuyên sâu phù hợp vào đúng thời điểm.