Vào năm 2025, GenAI Copilots sẽ xuất hiện như một ứng dụng giết chết mà biến đổi kinh doanh và quản lý dữ liệu

Mỗi cuộc cách mạng công nghệ đều có một khoảnh khắc định hình khi một trường hợp sử dụng cụ thể đẩy công nghệ vào việc áp dụng rộng rãi. Thời điểm đó đã đến với trí tuệ nhân tạo sinh (GenAI) với sự lan rộng nhanh chóng của các copilot.

GenAI như một công nghệ đã đạt được những bước tiến đáng kể trong những năm gần đây. Tuy nhiên, mặc dù tất cả các tiêu đề và sự cường điệu, việc áp dụng của các công ty vẫn còn trong giai đoạn đầu. Khảo sát CIO và Tech Executive năm 2024 của Gartner cho thấy việc áp dụng chỉ chiếm 9% trong số những người được khảo sát, với 34% cho biết họ sẽ thực hiện trong năm tới. Một khảo sát gần đây của Enterprise Strategy Group cho thấy việc áp dụng GenAI chiếm 30%. Nhưng tất cả các khảo sát đều đi đến cùng một kết luận về năm 2025.

Dự đoán 1. Hầu hết các doanh nghiệp sẽ sử dụng GenAI trong sản xuất vào cuối năm 2025

Việc áp dụng GenAI được coi là quan trọng để cải thiện năng suất và lợi nhuận và đã trở thành ưu tiên hàng đầu cho hầu hết các doanh nghiệp. Nhưng điều đó có nghĩa là các công ty phải vượt qua các thách thức đã trải qua trong các dự án GenAI, bao gồm:

• Chất lượng dữ liệu kém: GenAI chỉ tốt như dữ liệu nó sử dụng, và nhiều công ty vẫn không tin tưởng vào dữ liệu của mình. Chất lượng dữ liệu cùng với dữ liệu không đầy đủ hoặc bị thiên vị đã trở thành vấn đề dẫn đến kết quả kém.
• Chi phí GenAI: việc đào tạo các mô hình GenAI như ChatGPT chủ yếu chỉ được thực hiện bởi các đội GenAI tốt nhất và tốn hàng triệu đô la về năng lực tính toán. Vì vậy, mọi người đã sử dụng một kỹ thuật gọi là retrieval augmented generation (RAG). Nhưng ngay cả với RAG, nó nhanh chóng trở nên tốn kém để truy cập và chuẩn bị dữ liệu và lắp ráp các chuyên gia cần thiết để thành công.
• Ngôn ngữ hạn chế: nhiều triển khai GenAI đầu tiên đòi hỏi phải mã hóa bởi một nhóm nhỏ chuyên gia về GenAI. Mặc dù nhóm này đang phát triển, nhưng vẫn còn thiếu hụt thực sự.
• Ảo giác: GenAI không hoàn hảo. Nó có thể ảo giác và đưa ra câu trả lời sai khi nó nghĩ là đúng. Bạn cần một chiến lược để ngăn chặn các câu trả lời sai ảnh hưởng đến kinh doanh của mình.
• Bảo mật dữ liệu: GenAI đã暴露 dữ liệu cho những người không đúng vì nó được sử dụng để đào tạo, tinh chỉnh hoặc RAG. Bạn cần thực hiện các biện pháp bảo mật để bảo vệ chống lại các rò rỉ này.

May mắn là ngành công nghiệp phần mềm đã giải quyết các thách thức này trong vài năm qua. Năm 2025 có vẻ như là năm khi một số thách thức này bắt đầu được giải quyết, và GenAI trở thành chủ đạo.

Dự đoán 2. Copilot RAG mô-đun sẽ trở thành cách sử dụng phổ biến nhất của GenAI

Cách sử dụng phổ biến nhất của GenAI là tạo ra các trợ lý, hoặc copilot, giúp mọi người tìm kiếm thông tin nhanh hơn. Copilot thường được xây dựng bằng cách sử dụng các đường ống RAG. RAG là cách. Đó là cách sử dụng phổ biến nhất của GenAI. Bởi vì các mô hình ngôn ngữ lớn (LLM) là các mô hình chung không có tất cả hoặc thậm chí là dữ liệu mới nhất, bạn cần tăng cường các truy vấn, còn được gọi là lời nhắc, để có được câu trả lời chính xác hơn.
Copilot giúp các công nhân tri thức trở nên hiệu quả hơn, giải quyết các câu hỏi không thể trả lời trước đây và cung cấp hướng dẫn của chuyên gia trong khi đôi khi cũng thực hiện các nhiệm vụ thường xuyên. Có lẽ trường hợp sử dụng copilot thành công nhất cho đến nay là cách họ giúp các nhà phát triển phần mềm mã hóa hoặc hiện đại hóa mã cũ.

Nhưng copilot dự kiến sẽ có tác động lớn hơn khi được sử dụng ngoài lĩnh vực CNTT. Ví dụ bao gồm:

• Trong dịch vụ khách hàng, copilot có thể nhận được yêu cầu hỗ trợ và либо chuyển tiếp cho con người can thiệp hoặc cung cấp giải pháp cho các truy vấn đơn giản như đặt lại mật khẩu hoặc truy cập tài khoản, dẫn đến điểm số CSAT cao hơn.
• Trong sản xuất, copilot có thể giúp các kỹ thuật viên chẩn đoán và đề xuất các hành động hoặc sửa chữa cụ thể cho máy móc phức tạp, giảm thiểu thời gian ngừng hoạt động.
• Trong chăm sóc sức khỏe, các chuyên gia y tế có thể sử dụng copilot để truy cập lịch sử bệnh nhân và nghiên cứu liên quan, giúp hướng dẫn chẩn đoán và chăm sóc lâm sàng, điều này cải thiện hiệu quả và kết quả lâm sàng.

Các đường ống RAG hầu hết đều hoạt động theo cùng một cách. Bước đầu tiên là tải một cơ sở tri thức vào một cơ sở dữ liệu vector. Mỗi khi một người hỏi một câu hỏi, một đường ống RAG GenAI được kích hoạt. Nó tái chế câu hỏi thành một lời nhắc, truy vấn cơ sở dữ liệu vector bằng cách mã hóa lời nhắc để tìm thông tin liên quan nhất, kích hoạt một LLM với lời nhắc bằng cách sử dụng thông tin được thu thập làm ngữ cảnh, đánh giá và định dạng kết quả, và hiển thị chúng cho người dùng.

Nhưng hóa ra bạn không thể hỗ trợ tất cả các copilot đều như nhau với một đường ống RAG duy nhất. Vì vậy, RAG đã phát triển thành một kiến trúc mô-đun hơn được gọi là RAG mô-đun, nơi bạn có thể sử dụng các mô-đun khác nhau cho từng bước liên quan:

• Chỉ mục bao gồm phân chia và tổ chức dữ liệu
• Trước khi thu thập bao gồm kỹ thuật và tối ưu hóa lời nhắc
• Thu thập với tinh chỉnh thu thập và các kỹ thuật khác
• Sau khi thu thập lại xếp hạng và chọn
• Sản xuất với tinh chỉnh sản xuất, sử dụng và so sánh nhiều LLM, và xác minh
• Điều phối quản lý quá trình này và làm cho nó lặp lại để giúp đạt được kết quả tốt nhất

Bạn sẽ cần thực hiện một kiến trúc RAG mô-đun để hỗ trợ nhiều copilot.

Dự đoán 3. Công cụ GenAI không mã/ mã thấp sẽ trở thành cách

Đến bây giờ, bạn có thể nhận ra rằng GenAI RAG rất phức tạp và thay đổi nhanh chóng. Nó không chỉ là các phương pháp hay nhất mới luôn xuất hiện. Tất cả công nghệ liên quan đến các đường ống GenAI đang thay đổi nhanh đến mức bạn sẽ cần phải thay thế một số hoặc hỗ trợ nhiều. Ngoài ra, GenAI không chỉ là về RAG mô-đun. Tinh chỉnh tăng cường thu thập (RAFT) và đào tạo mô hình đầy đủ đang trở nên hiệu quả về chi phí. Kiến trúc của bạn sẽ cần hỗ trợ tất cả những thay đổi này và ẩn đi sự phức tạp từ các kỹ sư của bạn.
May mắn là các công cụ GenAI không mã/mã thấp tốt nhất cung cấp kiến trúc này. Họ liên tục thêm hỗ trợ cho các nguồn dữ liệu hàng đầu, cơ sở dữ liệu vector và LLM, và làm cho nó có thể xây dựng RAG mô-đun hoặc cho dữ liệu vào LLM để tinh chỉnh hoặc đào tạo. Các công ty đang sử dụng thành công các công cụ này để triển khai copilot bằng cách sử dụng nguồn lực nội bộ.

Nexla không chỉ sử dụng GenAI để làm cho tích hợp trở nên đơn giản hơn. Nó bao gồm một kiến trúc đường ống RAG mô-đun với phân chia dữ liệu tiên tiến, kỹ thuật lời nhắc, xếp hạng và chọn lại, hỗ trợ nhiều LLM với xếp hạng và chọn kết quả, điều phối và nhiều hơn – tất cả được cấu hình mà không cần mã hóa.

Dự đoán 4. Đường ranh giới giữa Copilot và Agent sẽ mờ

GenAI copilot như chatbot là các agent hỗ trợ con người. Cuối cùng, con người đưa ra quyết định về việc làm gì với kết quả được tạo. Nhưng GenAI agent có thể tự động hóa hoàn toàn các phản hồi mà không cần sự can thiệp của con người. Những điều này thường được gọi là agent hoặc agentic AI.

Một số người coi đây là hai cách tiếp cận riêng biệt. Nhưng thực tế thì phức tạp hơn. Copilot đã bắt đầu tự động hóa một số nhiệm vụ cơ bản, tùy chọn cho phép người dùng xác nhận hành động và tự động hóa các bước cần thiết để hoàn thành chúng.

Kỳ vọng copilot sẽ phát triển theo thời gian thành sự kết hợp của copilot và agent. Giống như các ứng dụng giúp tái chế và tối ưu hóa các quy trình kinh doanh, các trợ lý có thể và nên bắt đầu được sử dụng để tự động hóa các bước trung gian của các nhiệm vụ mà họ hỗ trợ. GenAI dựa trên agent cũng nên bao gồm con người để xử lý các trường hợp ngoại lệ hoặc phê duyệt một kế hoạch được tạo ra bằng cách sử dụng LLM.

Dự đoán 5. GenAI sẽ thúc đẩy việc áp dụng vải dữ liệu, sản phẩm dữ liệu và tiêu chuẩn dữ liệu mở

GenAI dự kiến sẽ là yếu tố thay đổi lớn nhất trong lĩnh vực CNTT trong vài năm tới vì CNTT sẽ cần phải thích nghi để cho phép các công ty tận dụng tối đa lợi ích của GenAI.

Trong khuôn khổ của chu kỳ Hype Cycles cho Quản lý Dữ liệu năm 2024 của Gartner, Gartner đã xác định 3 và chỉ 3 công nghệ là chuyển đổi cho quản lý dữ liệu và cho các tổ chức phụ thuộc vào dữ liệu: Vải dữ liệu, Sản phẩm dữ liệu và Định dạng bảng mở. Tất cả 3 giúp làm cho dữ liệu dễ tiếp cận hơn để sử dụng với GenAI vì chúng làm cho dữ liệu dễ dàng được sử dụng bởi các công cụ GenAI mới này.

Nexla đã triển khai một kiến trúc sản phẩm dữ liệu dựa trên vải dữ liệu vì lý do này. Vải dữ liệu cung cấp một lớp thống nhất để quản lý tất cả dữ liệu theo cùng một cách bất kể sự khác biệt về định dạng, tốc độ hoặc giao thức truy cập. Sản phẩm dữ liệu sau đó được tạo ra để hỗ trợ các nhu cầu dữ liệu cụ thể, chẳng hạn như RAG.

Ví dụ, một công ty dịch vụ tài chính lớn đang triển khai GenAI để tăng cường quản lý rủi ro. Họ đang sử dụng Nexla để tạo ra một vải dữ liệu thống nhất. Nexla tự động phát hiện lược đồ và sau đó tạo ra các kết nối và sản phẩm dữ liệu. Công ty sau đó định nghĩa sản phẩm dữ liệu cho các chỉ số rủi ro cụ thể, tổng hợp, làm sạch và chuyển đổi dữ liệu thành định dạng phù hợp để thực hiện RAG. Nexla cung cấp các kiểm soát quản lý dữ liệu, bao gồm cả nguồn gốc và kiểm soát truy cập để đảm bảo tuân thủ quy định.Nền tảng tích hợp của chúng tôi cho phân tích, hoạt động, B2B và GenAI được triển khai trên kiến trúc vải dữ liệu, nơi GenAI được sử dụng để tạo ra các kết nối, sản phẩm dữ liệu và quy trình làm việc có thể tái sử dụng. Hỗ trợ cho các tiêu chuẩn dữ liệu mở như Apache Iceberg giúp dễ dàng truy cập vào nhiều dữ liệu hơn.

Làm thế nào để Copilot trên con đường tới Agentic AI

Vậy bạn nên chuẩn bị như thế nào để đưa GenAI trở thành chủ đạo trong công ty của mình dựa trên những dự đoán này?
Trước hết, nếu bạn chưa làm như vậy, hãy bắt đầu với trợ lý GenAI RAG đầu tiên của bạn cho khách hàng hoặc nhân viên của mình. Xác định một trường hợp sử dụng quan trọng và tương đối đơn giản, nơi bạn đã có cơ sở tri thức phù hợp để thành công.

Thứ hai, hãy đảm bảo rằng bạn có một đội nhỏ các chuyên gia GenAI có thể giúp đặt kiến trúc RAG mô-đun phù hợp, cùng với các công cụ tích hợp phù hợp để hỗ trợ các dự án đầu tiên của bạn. Đừng sợ hãi khi đánh giá các nhà cung cấp mới với các công cụ không mã/mã thấp.

Thứ ba, hãy bắt đầu xác định những phương pháp hay nhất về quản lý dữ liệu mà bạn sẽ cần để thành công. Điều này không chỉ liên quan đến vải dữ liệu và các khái niệm như sản phẩm dữ liệu. Bạn cũng cần phải quản lý dữ liệu của mình cho AI.

Thời gian là bây giờ. Năm 2025 là năm mà đa số sẽ thành công. Đừng để bị bỏ lại phía sau.