Tại sao GenAI bị đình trệ nếu không có sự quản lý chặt chẽ

Khi các công ty vật lộn với việc chuyển các dự án AI tạo sinh từ thử nghiệm sang sản xuất – nhiều doanh nghiệp vẫn mắc kẹt trong chế độ thử nghiệm. Như nghiên cứu gần đây của chúng tôi nêu bật, 92% các tổ chức lo ngại rằng các dự án thí điểm GenAI đang được đẩy nhanh mà không giải quyết các vấn đề dữ liệu cơ bản trước. Thậm chí còn đáng nói hơn: 67% không thể mở rộng quy mô thậm chí một nửa số dự án thí điểm của họ lên sản xuất. Khoảng cách sản xuất này ít liên quan đến sự trưởng thành về mặt công nghệ mà liên quan nhiều hơn đến sự sẵn sàng của dữ liệu cơ bản. Tiềm năng của GenAI phụ thuộc vào sức mạnh của nền tảng mà nó đứng trên. Và ngày nay, đối với hầu hết các tổ chức, nền tảng đó không ổn định.

Tại sao GenAI bị kẹt trong giai đoạn thí điểm

Mặc dù các giải pháp GenAI chắc chắn là mạnh mẽ, chúng chỉ hiệu quả khi có dữ liệu cung cấp cho chúng. Câu ngạn ngữ cũ “vào thì rác, ra thì rác” ngày nay đúng hơn bao giờ hết. Nếu không có dữ liệu đáng tin cậy, đầy đủ, có tiêu đề và có thể giải thích được, các mô hình GenAI thường tạo ra kết quả không chính xác, thiên vị hoặc không phù hợp với mục đích.

Thật không may, các tổ chức đã vội vã triển khai các trường hợp sử dụng ít tốn công sức, như chatbot chạy bằng AI cung cấp các câu trả lời được điều chỉnh từ các tài liệu nội bộ khác nhau. Và mặc dù những điều này cải thiện trải nghiệm của khách hàng ở một mức độ nào đó, nhưng chúng không đòi hỏi những thay đổi sâu sắc đối với cơ sở hạ tầng dữ liệu của công ty. Nhưng để mở rộng quy mô GenAI một cách chiến lược, cho dù trong lĩnh vực chăm sóc sức khỏe, dịch vụ tài chính hay tự động hóa chuỗi cung ứng, đòi hỏi một mức độ trưởng thành dữ liệu khác nhau.

Trong thực tế, 56% Giám đốc dữ liệu cho rằng độ tin cậy của dữ liệu là rào cản chính đối với việc triển khai AI. Các vấn đề khác là dữ liệu không đầy đủ (53%), vấn đề về quyền riêng tư (50%) và khoảng cách quản trị AI lớn hơn (36%).

Không có quản trị, không có GenAI

Để đưa GenAI vượt ra khỏi giai đoạn thử nghiệm, các công ty phải coi quản trị dữ liệu là mệnh lệnh chiến lược đối với doanh nghiệp của họ. Họ cần đảm bảo dữ liệu có thể đáp ứng nhiệm vụ cung cấp năng lượng cho các mô hình AI và để làm được như vậy, cần giải quyết các câu hỏi sau:

• Dữ liệu được sử dụng để đào tạo mô hình có đến từ đúng hệ thống không?
• Chúng tôi đã xóa thông tin nhận dạng cá nhân và tuân thủ mọi quy định về dữ liệu và quyền riêng tư chưa?
• Chúng ta có minh bạch không và có thể chứng minh được nguồn gốc của dữ liệu mà mô hình sử dụng không?
• Chúng ta có thể ghi lại quy trình dữ liệu của mình và sẵn sàng chứng minh rằng dữ liệu không có sự thiên vị không?

Quản trị dữ liệu cũng cần được lồng ghép vào văn hóa của tổ chức. Để làm được điều này, cần xây dựng kiến ​​thức về AI cho tất cả các nhóm. Đạo luật AI của EU chính thức hóa trách nhiệm này, yêu cầu cả nhà cung cấp và người dùng hệ thống AI phải nỗ lực hết sức để đảm bảo nhân viên có đủ kiến ​​thức về AI, hiểu cách thức hoạt động của các hệ thống này và cách sử dụng chúng một cách có trách nhiệm. Tuy nhiên, việc áp dụng AI hiệu quả không chỉ dừng lại ở kiến ​​thức chuyên môn. Nó còn đòi hỏi một nền tảng vững chắc về kỹ năng dữ liệu, từ việc hiểu quản trị dữ liệu đến việc xây dựng các câu hỏi phân tích. Việc xem xét kiến ​​thức về AI tách biệt với kiến ​​thức dữ liệu sẽ là thiển cận, bởi vì chúng gắn bó chặt chẽ với nhau.

Về mặt quản trị dữ liệu, vẫn còn nhiều việc phải làm. Trong số các doanh nghiệp muốn tăng đầu tư vào quản lý dữ liệu, 47% đồng ý rằng thiếu hiểu biết về dữ liệu là rào cản lớn nhất. Điều này nhấn mạnh nhu cầu xây dựng hỗ trợ cấp cao và phát triển các kỹ năng phù hợp trong toàn tổ chức là rất quan trọng. Nếu không có những nền tảng này, ngay cả những LLM mạnh nhất cũng sẽ khó có thể cung cấp.

Phát triển AI phải chịu trách nhiệm

Trong môi trường pháp lý hiện tại, AI không còn chỉ “hoạt động” là đủ nữa mà còn cần phải chịu trách nhiệm và giải thích. Đạo luật AI của EU và đề xuất của Vương quốc Anh Kế hoạch hành động AI đòi hỏi sự minh bạch trong các trường hợp sử dụng AI có rủi ro cao. Những người khác đang làm theo, và Hơn 1,000 dự luật chính sách liên quan đang được đưa vào chương trình nghị sự tại 69 quốc gia.

Phong trào toàn cầu hướng tới trách nhiệm giải trình này là kết quả trực tiếp của nhu cầu ngày càng tăng của người tiêu dùng và các bên liên quan về tính công bằng trong các thuật toán. Ví dụ, các tổ chức phải có khả năng nêu lý do tại sao khách hàng bị từ chối cho vay hoặc bị tính phí bảo hiểm cao cấp. Để có thể làm được điều đó, họ cần biết cách mô hình đưa ra quyết định đó và điều đó phụ thuộc vào việc có một dấu vết rõ ràng, có thể kiểm toán được về dữ liệu được sử dụng để đào tạo mô hình.

Nếu không có khả năng giải thích, các doanh nghiệp có nguy cơ mất lòng tin của khách hàng cũng như phải đối mặt với hậu quả về tài chính và pháp lý. Do đó, khả năng truy xuất nguồn gốc dữ liệu và biện minh cho kết quả không phải là "điều tốt để có", mà là yêu cầu tuân thủ.

Và khi GenAI mở rộng từ các công cụ đơn giản thành các tác nhân hoàn chỉnh có thể đưa ra quyết định và hành động theo quyết định đó, thì nhu cầu về quản trị dữ liệu mạnh mẽ sẽ ngày càng cao hơn.

Các bước xây dựng AI đáng tin cậy

Vậy, cái tốt trông như thế nào? Để mở rộng GenAI một cách có trách nhiệm, các tổ chức nên tìm cách áp dụng một chiến lược dữ liệu duy nhất trên ba trụ cột:

• Điều chỉnh AI theo doanh nghiệp: Phân loại dữ liệu của bạn xung quanh các mục tiêu kinh doanh chính, đảm bảo dữ liệu phản ánh bối cảnh, thách thức và cơ hội riêng biệt của doanh nghiệp bạn.
• Thiết lập niềm tin vào AI: Thiết lập các chính sách, tiêu chuẩn và quy trình để tuân thủ và giám sát việc triển khai AI có đạo đức và có trách nhiệm.
• Xây dựng các đường ống dữ liệu AI sẵn sàng: Kết hợp các nguồn dữ liệu đa dạng của bạn thành một nền tảng dữ liệu linh hoạt để tích hợp AI mạnh mẽ trong kết nối GenAI được xây dựng sẵn.

Khi các tổ chức thực hiện đúng điều này, quản trị sẽ thúc đẩy giá trị AI. Ví dụ, trong các dịch vụ tài chính, các quỹ đầu cơ là sử dụng AI gen để vượt trội hơn các nhà phân tích con người trong dự đoán giá cổ phiếu trong khi giảm đáng kể chi phí. Trong sản xuất, việc tối ưu hóa chuỗi cung ứng do AI thúc đẩy cho phép các tổ chức phản ứng theo thời gian thực với những thay đổi về địa chính trị và áp lực môi trường.

Và đây không chỉ là những ý tưởng mang tính viễn tưởng, chúng đang diễn ra ngay bây giờ, được thúc đẩy bởi dữ liệu đáng tin cậy.

Với nền tảng dữ liệu vững chắc, các công ty giảm thiểu sự trôi dạt của mô hình, hạn chế chu kỳ đào tạo lại và tăng tốc độ tạo ra giá trị. Đó là lý do tại sao quản trị không phải là rào cản; mà là động lực thúc đẩy đổi mới.

Cái gì tiếp theo?

Sau khi thử nghiệm, các tổ chức đang chuyển từ chatbot sang đầu tư vào khả năng chuyển đổi. Từ việc cá nhân hóa tương tác của khách hàng đến đẩy nhanh nghiên cứu y khoa, cải thiện sức khỏe tinh thần và đơn giản hóa các quy trình quản lý, GenAI đang bắt đầu chứng minh tiềm năng của mình trong nhiều ngành công nghiệp.

Tuy nhiên, những lợi ích này hoàn toàn phụ thuộc vào dữ liệu hỗ trợ chúng. GenAI bắt đầu bằng việc xây dựng một nền tảng dữ liệu vững chắc, thông qua quản trị dữ liệu mạnh mẽ. Và trong khi GenAI và AI đại lý sẽ tiếp tục phát triển, nó sẽ không thay thế sự giám sát của con người trong thời gian tới. Thay vào đó, chúng ta đang bước vào giai đoạn tạo ra giá trị có cấu trúc, nơi AI trở thành một phi công phụ đáng tin cậy. Với khoản đầu tư đúng đắn vào chất lượng dữ liệu, quản trị và văn hóa, các doanh nghiệp cuối cùng có thể biến GenAI từ một phi công đầy hứa hẹn thành một thứ hoàn toàn có thể cất cánh.