Các Bước Chiến Lược Để Thành Công Trong Dự Án GenAI PoC

Dự án Proof of Concept (PoC) là nơi thử nghiệm cho công nghệ mới, và Trí tuệ nhân tạo sinh (GenAI) không phải là ngoại lệ. Vậy thành công thực sự có nghĩa là gì đối với một dự án GenAI PoC? Đơn giản thôi, một dự án PoC thành công là một dự án chuyển đổi liền mạch sang sản xuất. Vấn đề là, do tính mới của công nghệ và sự phát triển nhanh chóng của nó, hầu hết các dự án GenAI PoC đều tập trung chủ yếu vào tính khả thi kỹ thuật và các chỉ số như độ chính xác và độ nhớ. Sự tập trung hẹp này là một trong những lý do chính tại sao các dự án PoC thất bại. Một khảo sát của McKinsey cho thấy rằng trong khi một phần tư số người được hỏi lo lắng về độ chính xác, nhiều người cũng gặp khó khăn với bảo mật, giải thích, quản lý sở hữu trí tuệ (IP) và tuân thủ quy định. Thêm vào các vấn đề phổ biến như chất lượng dữ liệu kém, giới hạn khả năng mở rộng và các vấn đề tích hợp, và dễ hiểu tại sao nhiều dự án GenAI PoC không thể tiến hành.

Beyond the Hype: Reality of GenAI PoCs

Sự áp dụng GenAI rõ ràng đang tăng, nhưng tỷ lệ thành công thực sự của các dự án PoC vẫn chưa rõ ràng. Các báo cáo cung cấp các thống kê khác nhau:

• Gartner dự đoán rằng vào cuối năm 2025, ít nhất 30% dự án GenAI sẽ bị bỏ rơi sau giai đoạn PoC, ngụ ý rằng 70% có thể chuyển sang sản xuất.
• Một nghiên cứu của Avanade (trích dẫn trong RTInsights) cho thấy 41% dự án GenAI vẫn còn mắc kẹt trong PoC.
• Báo cáo của Deloitte vào tháng 1 năm 2025 The State of GenAI in the Enterprise ước tính rằng chỉ 10-30% dự án PoC sẽ mở rộng quy mô sản xuất.
• Một nghiên cứu của IDC (trích dẫn trong CIO.com) cho thấy rằng trung bình, chỉ 5 trong số 37 dự án PoC (13%) đạt được sản xuất.

Với các ước tính dao động từ 10% đến 70%, tỷ lệ thành công thực sự có thể gần hơn với mức thấp hơn. Điều này cho thấy rằng nhiều tổ chức gặp khó khăn trong việc thiết kế dự án PoC với một con đường rõ ràng để mở rộng quy mô. Tỷ lệ thành công thấp có thể làm cạn kiệt tài nguyên, làm giảm sự nhiệt tình và làm chậm đổi mới, dẫn đến cái được gọi là “mệt mỏi PoC”, nơi các đội cảm thấy mắc kẹt khi chạy các thử nghiệm không bao giờ đạt được sản xuất.

Moving Beyond Wasted Efforts

GenAI vẫn còn trong giai đoạn đầu của chu kỳ áp dụng, giống như điện toán đám mây và trí tuệ nhân tạo truyền thống trước đó. Điện toán đám mây mất 15-18 năm để đạt được áp dụng rộng rãi, trong khi trí tuệ nhân tạo truyền thống cần 8-10 năm và vẫn đang phát triển. Lịch sử cho thấy rằng việc áp dụng trí tuệ nhân tạo đã theo chu kỳ bùng nổ và suy giảm, trong đó sự phấn khích ban đầu dẫn đến kỳ vọng quá cao, sau đó là sự chậm lại khi các thách thức xuất hiện, trước khi cuối cùng ổn định vào sử dụng chính thống. Nếu lịch sử là một hướng dẫn, việc áp dụng GenAI sẽ có những thăng trầm của nó.

Để điều hướng chu kỳ này một cách hiệu quả, các tổ chức phải đảm bảo rằng mọi dự án PoC đều được thiết kế với khả năng mở rộng quy mô trong tâm trí, tránh các cạm bẫy phổ biến dẫn đến lãng phí công sức. Nhận ra những thách thức này, các công ty công nghệ và tư vấn hàng đầu đã phát triển các khuôn khổ cấu trúc để giúp các tổ chức vượt qua giai đoạn thử nghiệm và mở rộng quy mô các sáng kiến GenAI của họ một cách thành công.

Mục tiêu của bài viết này là bổ sung cho các khuôn khổ và nỗ lực chiến lược này bằng cách phác thảo các bước chiến lược thực tế có thể tăng đáng kể khả năng một dự án GenAI PoC chuyển từ thử nghiệm sang tác động thực tế.

Key Tactical Steps for a Successful GenAI PoC

1. Chọn một trường hợp sử dụng với sản xuất trong tâm trí

Trước hết, chọn một trường hợp sử dụng có một con đường rõ ràng đến sản xuất. Điều này không có nghĩa là tiến hành một đánh giá sẵn sàng GenAI toàn diện, doanh nghiệp. Thay vào đó, đánh giá từng trường hợp sử dụng riêng dựa trên các yếu tố như chất lượng dữ liệu, khả năng mở rộng và yêu cầu tích hợp, và ưu tiên những trường hợp có khả năng cao nhất để đạt được sản xuất.

Một số câu hỏi chính khác cần xem xét khi chọn trường hợp sử dụng phù hợp:

• Dự án PoC của tôi có phù hợp với mục tiêu kinh doanh dài hạn không?
• Dữ liệu cần thiết có thể được truy cập và sử dụng một cách hợp pháp không?
• Có những rủi ro rõ ràng nào sẽ ngăn cản việc mở rộng quy mô không?

2. Định nghĩa và thống nhất về các chỉ số thành công trước khi bắt đầu

Một trong những lý do lớn nhất khiến các dự án PoC bị kẹt lại là thiếu các chỉ số thành công được định nghĩa rõ ràng. Không có sự thống nhất mạnh mẽ về mục tiêu và kỳ vọng ROI, ngay cả các dự án PoC kỹ thuật âm thanh cũng có thể gặp khó khăn trong việc giành được sự đồng ý cho sản xuất. Việc ước tính ROI không dễ dàng, nhưng đây là một số khuyến nghị:

• Phát triển hoặc áp dụng một khuôn khổ như khuôn khổ này.
• Sử dụng các công cụ tính toán chi phí như công cụ tính toán giá API OpenAI này và các công cụ tính toán của nhà cung cấp đám mây để ước tính chi phí.
• Thay vì một mục tiêu duy nhất, hãy phát triển một ước tính ROI dựa trên phạm vi với các xác suất để tính đến sự không chắc chắn.

Dưới đây là một ví dụ về cách đội QueryGPT của Uber ước tính tác động tiềm năng của công cụ GenAI văn bản-sang-SQL của họ.

3. Cho phép thí nghiệm nhanh

Xây dựng ứng dụng GenAI là tất cả về thí nghiệm, đòi hỏi sự lặp lại liên tục. Khi chọn ngăn xếp công nghệ, kiến trúc, đội và quy trình của bạn, hãy đảm bảo rằng chúng hỗ trợ cách tiếp cận lặp lại này. Các lựa chọn nên cho phép thí nghiệm liền mạch, từ tạo ra các giả thuyết và chạy thử nghiệm đến thu thập dữ liệu, phân tích kết quả, học hỏi và tinh chỉnh.

• Hãy xem xét việc thuê các nhà cung cấp dịch vụ nhỏ và vừa để tăng tốc thí nghiệm.
• Chọn các điểm chuẩn, đánh giá và khuôn khổ đánh giá ngay từ đầu, đảm bảo rằng chúng phù hợp với trường hợp sử dụng và mục tiêu của bạn.
• Sử dụng các kỹ thuật như LLM-as-a-judge hoặc LLM-as-Juries để tự động hóa (bán tự động hóa) đánh giá.

4. Nhắm đến các giải pháp ít ma sát

Một giải pháp ít ma sát đòi hỏi ít phê duyệt hơn và do đó, ít gặp phải sự phản đối đối với việc áp dụng và mở rộng quy mô. Sự phát triển nhanh chóng của GenAI đã dẫn đến sự bùng nổ của các công cụ, khuôn khổ và nền tảng được thiết kế để tăng tốc các dự án PoC và triển khai sản xuất. Tuy nhiên, nhiều giải pháp này hoạt động như các hộp đen đòi hỏi sự kiểm tra nghiêm ngặt từ các đội IT, pháp lý, bảo mật và quản lý rủi ro. Để giải quyết những thách thức này và简化 quy trình, hãy xem xét các khuyến nghị sau để xây dựng một giải pháp ít ma sát:

• Tạo một đường dẫn dành riêng cho phê duyệt: Hãy xem xét việc tạo một đường dẫn dành riêng để giải quyết các mối quan tâm của các đội đối tác và nhận được phê duyệt.
• Sử dụng ngăn xếp công nghệ đã được phê duyệt: Bất cứ khi nào có thể, hãy sử dụng ngăn xếp công nghệ đã được phê duyệt và đang được sử dụng để tránh trì hoãn trong phê duyệt và tích hợp.
• Tập trung vào các công cụ thiết yếu: Các dự án PoC ban đầu thường không yêu cầu tinh chỉnh mô hình, vòng lặp phản hồi tự động hoặc khả năng quan sát/SRE rộng rãi. Thay vào đó, hãy ưu tiên các công cụ cho các nhiệm vụ cốt lõi như vector hóa, nhúng, thu hồi kiến thức, rào cản và phát triển UI.
• Sử dụng các công cụ mã thấp/mã không có với sự thận trọng: Mặc dù các công cụ này có thể tăng tốc thời gian, nhưng bản chất hộp đen của chúng hạn chế khả năng tùy chỉnh và tích hợp. Hãy sử dụng chúng với sự thận trọng và xem xét các tác động lâu dài của chúng.
• Địa chỉ các mối quan tâm về bảo mật sớm: Hãy thực hiện các kỹ thuật như tạo dữ liệu tổng hợp, che giấu dữ liệu PII và mã hóa để giải quyết các mối quan tâm về bảo mật một cách chủ động.

5. Tập hợp một đội tinh gọn, doanh nghiệp

Như với bất kỳ dự án nào, việc có đúng đội với các kỹ năng cần thiết là rất quan trọng để thành công. Ngoài chuyên môn kỹ thuật, đội của bạn cũng phải linh hoạt và doanh nghiệp.

• Hãy xem xét việc bao gồm các nhà quản lý sản phẩm và chuyên gia chủ đề (SME) để đảm bảo rằng bạn đang giải quyết vấn đề đúng.
• Đảm bảo rằng bạn có cả nhà phát triển toàn diện và kỹ sư học máy trong đội.
• Tránh việc thuê riêng cho dự án PoC hoặc mượn tài nguyên nội bộ từ các dự án ưu tiên cao, dài hạn. Thay vào đó, hãy xem xét việc thuê các nhà cung cấp dịch vụ nhỏ và vừa có thể đưa vào đúng tài năng một cách nhanh chóng.
• Nhúng các đối tác từ pháp lý và bảo mật từ ngày đầu tiên.

6. Ưu tiên các yêu cầu phi chức năng

Để có một dự án PoC thành công, điều quan trọng là phải thiết lập các ranh giới vấn đề rõ ràng và một tập hợp cố định các yêu cầu chức năng. Tuy nhiên, các yêu cầu phi chức năng không nên bị bỏ qua. Trong khi dự án PoC nên tập trung trong các ranh giới vấn đề, kiến trúc của nó phải được thiết kế cho hiệu suất cao. Cụ thể hơn, việc đạt được độ trễ 밀igiây có thể không phải là một nhu cầu ngay lập tức, tuy nhiên, dự án PoC nên có khả năng mở rộng quy mô một cách liền mạch khi người dùng beta mở rộng. Hãy chọn một kiến trúc mô-đun vẫn linh hoạt và trung lập với các công cụ.

7. Phát triển một kế hoạch để xử lý ảo giác

Ảo giác là không thể tránh khỏi với các mô hình ngôn ngữ. Do đó, các rào cản là rất quan trọng để mở rộng các giải pháp GenAI một cách có trách nhiệm. Tuy nhiên, hãy đánh giá xem liệu các rào cản tự động có cần thiết trong giai đoạn PoC hay không và ở mức độ nào. Thay vì bỏ qua hoặc quá kỹ thuật hóa các rào cản, hãy phát hiện khi mô hình của bạn ảo giác và đánh dấu chúng cho người dùng dự án PoC.

8. Áp dụng các phương pháp quản lý dự án và sản phẩm tốt nhất

Hình minh họa XKCD này áp dụng cho các dự án PoC cũng như sản xuất. Không có cuốn sách chơi nào phù hợp với tất cả. Tuy nhiên, việc áp dụng các phương pháp hay nhất từ quản lý dự án và sản phẩm có thể giúp简化 và đạt được tiến bộ.

• Sử dụng phương pháp kanban hoặc agile cho việc lập kế hoạch và thực hiện chiến thuật.
• Tài liệu hóa mọi thứ.
• Holding scrum-of-scrums để cộng tác hiệu quả với các đội đối tác.
• Giữ cho các bên liên quan và lãnh đạo của bạn được thông báo về tiến độ.

Kết luận

Chạy một dự án GenAI PoC thành công không chỉ là về việc chứng minh tính khả thi kỹ thuật, mà còn về việc đánh giá các lựa chọn cơ bản cho lâu dài. Bằng cách chọn cẩn thận trường hợp sử dụng phù hợp, thống nhất về các chỉ số thành công, cho phép thí nghiệm nhanh, giảm thiểu ma sát, tập hợp đúng đội, giải quyết cả yêu cầu chức năng và phi chức năng, và lập kế hoạch cho các thách thức như ảo giác, các tổ chức có thể cải thiện đáng kể khả năng chuyển từ PoC sang sản xuất.

Đó nói rằng, các bước được phác thảo ở trên không phải là đầy đủ, và không mọi khuyến nghị sẽ áp dụng cho mọi trường hợp sử dụng. Mỗi dự án PoC là duy nhất, và chìa khóa để thành công là thích nghi các phương pháp hay nhất này để phù hợp với các mục tiêu kinh doanh cụ thể, các ràng buộc kỹ thuật và cảnh quan quy định của bạn.

Một tầm nhìn và chiến lược mạnh mẽ là rất quan trọng cho việc áp dụng GenAI, nhưng không có các bước chiến lược đúng, ngay cả những kế hoạch tốt nhất cũng có thể bị kẹt lại ở giai đoạn PoC. Việc thực hiện là nơi những ý tưởng tuyệt vời thành công hoặc thất bại, và có một cách tiếp cận rõ ràng và có cấu trúc đảm bảo rằng đổi mới được chuyển thành tác động thực tế.