Tại Sao GenAI Đứng yên Không có Quản lý Mạnh

Khi các công ty đang vật lộn để chuyển dự án Trí tuệ nhân tạo sinh (Generative AI) từ giai đoạn thử nghiệm sang sản xuất – nhiều doanh nghiệp vẫn còn mắc kẹt ở chế độ thí điểm. Như nghiên cứu gần đây của chúng tôi nhấn mạnh, 92% các tổ chức lo lắng rằng các dự án thí điểm GenAI đang được đẩy nhanh mà không giải quyết trước các vấn đề dữ liệu cơ bản. Thậm chí còn đáng nói hơn: 67% không thể mở rộng thậm chí nửa số dự án thí điểm lên sản xuất. Khoảng cách sản xuất này ít liên quan đến sự trưởng thành về công nghệ và nhiều hơn về sự sẵn sàng của dữ liệu cơ bản. Tiềm năng của GenAI phụ thuộc vào sức mạnh của nền tảng nó đứng trên. Và ngày nay, đối với hầu hết các tổ chức, nền tảng đó là không ổn định nhất.

Tại sao GenAI bị kẹt ở giai đoạn thí điểm

Mặc dù các giải pháp GenAI chắc chắn rất mạnh mẽ, chúng chỉ hiệu quả như dữ liệu mà chúng được nuôi dưỡng. Câu nói cũ “rác vào, rác ra” là đúng hơn bao giờ hết. Không có dữ liệu đáng tin cậy, hoàn chỉnh, được ủy quyền và giải thích được, các mô hình GenAI thường tạo ra kết quả không chính xác, thiên vị hoặc không phù hợp với mục đích.

Thật không may, các tổ chức đã vội vàng triển khai các trường hợp sử dụng ít nỗ lực, như trò chuyện AI cung cấp câu trả lời được tùy chỉnh từ các tài liệu nội bộ khác nhau. Và trong khi những điều này cải thiện trải nghiệm khách hàng đến một mức độ nhất định, chúng không yêu cầu thay đổi sâu sắc về cơ sở hạ tầng dữ liệu của công ty. Nhưng để mở rộng GenAI một cách chiến lược, dù trong lĩnh vực chăm sóc sức khỏe, dịch vụ tài chính hoặc tự động hóa chuỗi cung ứng, đòi hỏi một mức độ trưởng thành về dữ liệu khác.

Trên thực tế, 56% các Giám đốc Dữ liệu (Chief Data Officers) chỉ ra rằng độ tin cậy của dữ liệu là một rào cản chính đối với việc triển khai AI. Các vấn đề khác bao gồm dữ liệu không đầy đủ (53%), vấn đề quyền riêng tư (50%) và khoảng trống quản lý AI lớn hơn (36%).

Không có quản lý, không GenAI

Để đưa GenAI vượt ra ngoài giai đoạn thí điểm, các công ty phải coi quản lý dữ liệu như một yêu cầu chiến lược đối với kinh doanh của họ. Họ cần đảm bảo dữ liệu đủ tốt để cung cấp năng lượng cho các mô hình AI, và để làm như vậy, các câu hỏi sau cần được giải quyết:

• Liệu dữ liệu được sử dụng để đào tạo mô hình có đến từ các hệ thống đúng không?
• Chúng ta đã loại bỏ thông tin nhận dạng cá nhân và tuân theo tất cả các quy định về dữ liệu và quyền riêng tư không?
• Chúng ta có minh bạch và có thể chứng minh nguồn gốc của dữ liệu mà mô hình sử dụng không?
• Chúng ta có thể ghi lại các quy trình dữ liệu và sẵn sàng chứng minh rằng dữ liệu không có thiên vị không?

Quản lý dữ liệu cũng cần được nhúng trong văn hóa của một tổ chức. Để làm điều này, đòi hỏi xây dựng năng lực AI trên tất cả các đội. Đạo luật AI của EU chính thức hóa trách nhiệm này, yêu cầu cả nhà cung cấp và người dùng hệ thống AI phải cố gắng hết sức để đảm bảo nhân viên đủ năng lực về AI, đảm bảo họ hiểu cách các hệ thống này hoạt động và cách sử dụng chúng một cách có trách nhiệm. Tuy nhiên, việc áp dụng AI hiệu quả vượt ra ngoài kiến thức kỹ thuật. Nó cũng đòi hỏi một nền tảng vững chắc về kỹ năng dữ liệu, từ hiểu quản lý dữ liệu đến đặt câu hỏi phân tích. Việc coi tính thông thạo AI như một thực thể riêng biệt với tính thông thạo dữ liệu sẽ là một quan điểm ngắn ngủi, xét về mức độ gắn kết chặt chẽ giữa chúng.

Về quản lý dữ liệu, vẫn còn nhiều việc phải làm. Trong số các doanh nghiệp muốn tăng đầu tư quản lý dữ liệu, 47% đồng ý rằng thiếu tính thông thạo dữ liệu là một rào cản hàng đầu. Điều này nhấn mạnh nhu cầu xây dựng sự hỗ trợ cấp cao và phát triển các kỹ năng phù hợp trên toàn tổ chức là rất quan trọng. Không có những nền tảng này, ngay cả những mô hình LLM mạnh nhất cũng sẽ gặp khó khăn trong việc cung cấp.

Phát triển AI phải được kiểm soát

Trong môi trường quy định hiện tại, không đủ để AI chỉ “hoạt động”, nó cũng cần phải được giải thích và chịu trách nhiệm. Đạo luật AI của EU và Kế hoạch Hành động AI được đề xuất của Vương quốc Anh yêu cầu tính minh bạch trong các trường hợp sử dụng AI rủi ro cao. Những người khác đang theo dõi, và 1.000+ dự luật chính sách liên quan đang được lên lịch trong 69 quốc gia.

Phong trào toàn cầu hướng tới trách nhiệm giải trình này là kết quả trực tiếp của việc tăng nhu cầu của người tiêu dùng và các bên liên quan về sự công bằng trong các thuật toán. Ví dụ, các tổ chức phải có thể giải thích lý do tại sao một khách hàng bị từ chối cho vay hoặc bị tính phí bảo hiểm cao. Để làm được điều đó, họ cần biết mô hình đã đưa ra quyết định như thế nào, và điều đó lại phụ thuộc vào việc có một đường dẫn rõ ràng và có thể kiểm toán của dữ liệu được sử dụng để đào tạo nó.

Nếu không có khả năng giải thích, các doanh nghiệp rủi ro mất niềm tin của khách hàng cũng như phải đối mặt với hậu quả tài chính và pháp lý. Do đó, khả năng theo dõi dòng dõi dữ liệu và chứng minh kết quả không phải là “tốt có” mà là một yêu cầu tuân thủ.

Và khi GenAI mở rộng ra ngoài việc được sử dụng cho các công cụ đơn giản đến các đại lý đầy đủ có thể đưa ra quyết định và hành động theo quyết định đó, mức độ rủi ro đối với quản lý dữ liệu mạnh mẽ tăng lên thậm chí còn cao hơn.

Các bước để xây dựng AI đáng tin cậy

Vậy, điều gì là tốt? Để mở rộng GenAI một cách có trách nhiệm, các tổ chức nên tìm cách áp dụng một chiến lược dữ liệu duy nhất trên ba trụ cột:

• Tùy chỉnh AI cho doanh nghiệp: Catalogue dữ liệu của bạn xung quanh các mục tiêu kinh doanh chính, đảm bảo nó phản ánh bối cảnh, thách thức và cơ hội cụ thể của doanh nghiệp của bạn.
• Thiết lập niềm tin vào AI: Thiết lập các chính sách, tiêu chuẩn và quy trình cho tuân thủ và giám sát việc triển khai AI một cách có trách nhiệm và đạo đức.
• Xây dựng đường ống dữ liệu sẵn sàng cho AI: Kết hợp các nguồn dữ liệu đa dạng của bạn vào một nền tảng dữ liệu vững chắc cho việc nướng AI mạnh mẽ, tích hợp sẵn kết nối GenAI.

Khi các tổ chức làm đúng, quản lý sẽ tăng tốc giá trị AI. Ví dụ, trong lĩnh vực dịch vụ tài chính, các quỹ đầu tư đang sử dụng Gen AI để vượt trội so với các nhà phân tích con người trong dự đoán giá cổ phiếu trong khi giảm đáng kể chi phí. Trong sản xuất, tối ưu hóa chuỗi cung ứng được thúc đẩy bởi AI cho phép các tổ chức phản ứng theo thời gian thực với các thay đổi về địa chính trị và áp lực môi trường.

Và những điều này không chỉ là ý tưởng trong tương lai, chúng đang xảy ra ngay bây giờ, được thúc đẩy bởi dữ liệu đáng tin cậy.

Với nền tảng dữ liệu vững chắc, các công ty giảm thiểu sự trôi dạt của mô hình, hạn chế chu kỳ đào tạo lại và tăng tốc độ đến giá trị. Đó là lý do tại sao quản lý không phải là một chướng ngại vật; nó là một yếu tố kích thích đổi mới.

Tương lai là gì?

Sau giai đoạn thử nghiệm, các tổ chức đang chuyển sang đầu tư vào các khả năng chuyển đổi. Từ việc cá nhân hóa tương tác khách hàng đến tăng tốc nghiên cứu thuốc, cải thiện sức khỏe tâm thần và đơn giản hóa các quy trình quy định, GenAI đang bắt đầu thể hiện tiềm năng của mình trên các ngành công nghiệp.

Tuy nhiên, những lợi ích này phụ thuộc hoàn toàn vào dữ liệu mà chúng được xây dựng. GenAI bắt đầu bằng việc xây dựng một nền tảng dữ liệu vững chắc, thông qua quản lý dữ liệu mạnh mẽ. Và trong khi GenAI và AI đại lý sẽ tiếp tục tiến hóa, chúng sẽ không thay thế sự giám sát của con người trong thời gian gần. Thay vào đó, chúng ta đang bước vào một giai đoạn tạo ra giá trị có cấu trúc, nơi AI trở thành một đồng pilot đáng tin cậy. Với những khoản đầu tư đúng vào chất lượng dữ liệu, quản lý và văn hóa, các doanh nghiệp cuối cùng có thể biến GenAI từ một dự án thí điểm đầy hứa hẹn thành một thực thể hoàn toàn cất cánh.