3 Xem xét để Đảm bảo An toàn và Tin cậy của Trợ lý AI cho Doanh nghiệp

Theo Gartner, 30% dự án GenAI sẽ có khả năng bị bỏ rơi sau khi chứng minh khái niệm vào cuối năm 2025. Việc áp dụng sớm GenAI đã tiết lộ rằng hầu hết cơ sở hạ tầng dữ liệu và các thực tiễn quản trị của các doanh nghiệp không sẵn sàng cho việc triển khai AI hiệu quả. Làn sóng đầu tiên của sản phẩm hóa GenAI phải đối mặt với những khó khăn đáng kể, với nhiều tổ chức đang vật lộn để chuyển từ giai đoạn chứng minh khái niệm sang đạt được giá trị kinh doanh có ý nghĩa.

Khi chúng ta bước vào làn sóng thứ hai của sản phẩm hóa AI tạo sinh, các công ty đang nhận ra rằng việc triển khai thành công những công nghệ này đòi hỏi hơn là chỉ kết nối một LLM với dữ liệu của họ. Chìa khóa để mở khóa tiềm năng của AI nằm trên ba trụ cột chính: sắp xếp dữ liệu và đảm bảo nó sẵn sàng cho tích hợp với AI; thay đổi các thực tiễn quản trị dữ liệu để giải quyết các thách thức duy nhất mà GenAI đưa ra; và triển khai các tác nhân AI theo cách mà việc sử dụng an toàn và đáng tin cậy trở nên tự nhiên và trực quan, vì vậy người dùng không bị buộc phải học các kỹ năng chuyên môn hoặc các mẫu sử dụng chính xác. Cùng nhau, những trụ cột này tạo ra một nền tảng vững chắc cho các tác nhân AI an toàn, hiệu quả trong môi trường doanh nghiệp.

Chuẩn bị Dữ liệu của Bạn cho AI một Cách Chính xác

Trong khi dữ liệu có cấu trúc có thể xuất hiện được tổ chức trước mắt, được sắp xếp ngăn nắp trong các bảng và cột, LLM thường gặp khó khăn trong việc hiểu và làm việc với dữ liệu có cấu trúc này một cách hiệu quả. Điều này xảy ra vì trong hầu hết các doanh nghiệp, dữ liệu không được gắn nhãn theo cách có ý nghĩa về mặt ngữ nghĩa. Dữ liệu thường có các nhãn khó hiểu, ví dụ như “ID” mà không có chỉ định rõ ràng về việc nó là định danh cho khách hàng, sản phẩm hay giao dịch. Với dữ liệu có cấu trúc, cũng khó để nắm bắt được ngữ cảnh và mối quan hệ chính xác giữa các điểm dữ liệu khác nhau, như cách các bước trong hành trình của khách hàng liên quan đến nhau. Giống như chúng ta cần gắn nhãn cho từng hình ảnh trong các ứng dụng tầm nhìn máy tính để cho phép tương tác có ý nghĩa, các tổ chức hiện nay phải thực hiện nhiệm vụ phức tạp của việc gắn nhãn ngữ nghĩa cho dữ liệu của họ và ghi lại mối quan hệ trên tất cả các hệ thống để cho phép tương tác AI có ý nghĩa.

Ngoài ra, dữ liệu được phân tán trên nhiều nơi khác nhau – từ máy chủ truyền thống đến các dịch vụ đám mây và các ứng dụng phần mềm khác nhau. Sự pha trộn này của các hệ thống dẫn đến các vấn đề về khả năng tương tác và tích hợp quan trọng, trở nên càng vấn đề hơn khi triển khai các giải pháp AI.

Một thách thức cơ bản khác nằm ở sự không nhất quán của các định nghĩa kinh doanh trên các hệ thống và bộ phận khác nhau. Ví dụ, các nhóm thành công của khách hàng có thể định nghĩa “bán thêm” theo một cách, trong khi nhóm bán hàng định nghĩa nó theo cách khác. Khi bạn kết nối một tác nhân AI hoặc trò chuyện với các hệ thống này và bắt đầu đặt câu hỏi, bạn sẽ nhận được các câu trả lời khác nhau vì các định nghĩa dữ liệu không được căn chỉnh. Sự không nhất quán này không phải là một bất tiện nhỏ – nó là một rào cản quan trọng để triển khai các giải pháp AI đáng tin cậy.

Chất lượng dữ liệu kém tạo ra một kịch bản “rác vào, rác ra” cổ điển trở nên nghiêm trọng hơn khi các công cụ AI được triển khai trên toàn doanh nghiệp. Dữ liệu không chính xác hoặc lộn xộn ảnh hưởng đến nhiều hơn một phân tích – nó lan truyền thông tin không chính xác đến mọi người sử dụng hệ thống thông qua các câu hỏi và tương tác của họ. Để xây dựng niềm tin vào các hệ thống AI cho các quyết định kinh doanh thực sự, các doanh nghiệp phải đảm bảo rằng các ứng dụng AI của họ có dữ liệu sạch sẽ, chính xác và được hiểu trong ngữ cảnh kinh doanh phù hợp. Điều này đại diện cho một sự thay đổi cơ bản trong cách các tổ chức phải suy nghĩ về tài sản dữ liệu của họ trong thời đại AI – nơi chất lượng, tính nhất quán và sự rõ ràng về mặt ngữ nghĩa trở nên quan trọng như chính dữ liệu.

Tăng Cường Các Phương Pháp Quản Trị

Quản trị dữ liệu đã trở thành một焦 điểm chính cho các tổ chức trong những năm gần đây, chủ yếu tập trung vào quản lý và bảo vệ dữ liệu được sử dụng trong phân tích. Các công ty đã nỗ lực để lập bản đồ thông tin nhạy cảm, tuân thủ các tiêu chuẩn truy cập, tuân thủ các luật như GDPR và CCPA, và phát hiện dữ liệu cá nhân. Những sáng kiến này là rất quan trọng để tạo ra dữ liệu sẵn sàng cho AI. Tuy nhiên, khi các tổ chức giới thiệu các tác nhân AI tạo sinh vào các quy trình làm việc của họ, thách thức quản trị mở rộng ra ngoài chính dữ liệu để bao gồm cả trải nghiệm tương tác của người dùng với AI.

Chúng ta hiện đang phải đối mặt với yêu cầu cấp thiết để quản trị không chỉ dữ liệu cơ bản mà còn cả quá trình mà người dùng tương tác với dữ liệu đó thông qua các tác nhân AI. Các luật hiện hành, chẳng hạn như Đạo luật AI của Liên minh Châu Âu, và nhiều quy định hơn trên đường chân trời nhấn mạnh sự cần thiết của việc quản trị quá trình trả lời câu hỏi. Điều này có nghĩa là đảm bảo rằng các tác nhân AI cung cấp các phản hồi minh bạch, giải thích được và có thể theo dõi. Khi người dùng nhận được các câu trả lời “hộp đen” – chẳng hạn như hỏi “Có bao nhiêu bệnh nhân cúm được nhập viện昨天?” và chỉ nhận được “50” mà không có ngữ cảnh – rất khó để tin tưởng thông tin đó cho các quyết định quan trọng. Nếu không biết dữ liệu đến từ đâu, cách nó được tính toán, hoặc định nghĩa của các thuật ngữ như “được nhập viện” và “hôm qua”, đầu ra của AI mất đi độ tin cậy.

Không giống như các tương tác với tài liệu, nơi người dùng có thể theo dõi các câu trả lời trở lại các tài liệu cụ thể hoặc chính sách để xác minh độ chính xác, các tương tác với dữ liệu có cấu trúc thông qua các tác nhân AI thường thiếu mức độ theo dõi và giải thích này. Để giải quyết những vấn đề này, các tổ chức phải thực hiện các biện pháp quản trị không chỉ bảo vệ dữ liệu nhạy cảm mà còn làm cho trải nghiệm tương tác AI trở nên quản trị và đáng tin cậy. Điều này bao gồm việc thiết lập các kiểm soát truy cập mạnh mẽ để đảm bảo rằng chỉ nhân viên được ủy quyền mới có thể truy cập thông tin cụ thể, định nghĩa rõ ràng quyền sở hữu và trách nhiệm của người quản lý dữ liệu, và đảm bảo rằng các tác nhân AI cung cấp giải thích và tham chiếu cho đầu ra của chúng. Bằng cách thay đổi các thực tiễn quản trị dữ liệu để bao gồm những xem xét này, các doanh nghiệp có thể khai thác an toàn sức mạnh của các tác nhân AI trong khi tuân thủ các quy định đang phát triển và duy trì niềm tin của người dùng.

Nghĩ vượt ra ngoài Kỹ thuật Câu hỏi

Khi các tổ chức giới thiệu các tác nhân AI tạo sinh trong nỗ lực để cải thiện khả năng tiếp cận dữ liệu, kỹ thuật câu hỏi đã xuất hiện như một rào cản kỹ thuật mới cho người dùng kinh doanh. Mặc dù được coi là một con đường sự nghiệp đầy hứa hẹn, kỹ thuật câu hỏi cơ bản là việc tái tạo lại những rào cản mà chúng ta đã vật lộn với trong phân tích dữ liệu. Tạo ra các câu hỏi hoàn hảo không khác gì soạn thảo các truy vấn SQL chuyên môn hoặc xây dựng các bộ lọc bảng điều khiển – nó là việc chuyển đổi chuyên môn kỹ thuật từ một định dạng sang một định dạng khác, vẫn đòi hỏi các kỹ năng chuyên môn mà hầu hết người dùng kinh doanh không có và không nên cần.

Các doanh nghiệp đã cố gắng giải quyết vấn đề khả năng tiếp cận dữ liệu bằng cách đào tạo người dùng để hiểu tốt hơn về các hệ thống dữ liệu, tạo tài liệu và phát triển các vai trò chuyên môn. Nhưng cách tiếp cận này là ngược lại – chúng ta yêu cầu người dùng thích nghi với dữ liệu chứ không phải làm cho dữ liệu thích nghi với người dùng. Kỹ thuật câu hỏi đe dọa sẽ tiếp tục mô hình này bằng cách tạo ra một lớp trung gian kỹ thuật nữa.

Sự dân chủ hóa dữ liệu thực sự đòi hỏi các hệ thống hiểu được ngôn ngữ kinh doanh, không phải người dùng hiểu ngôn ngữ dữ liệu. Khi các giám đốc điều hành hỏi về việc giữ chân khách hàng, họ không nên cần phải sử dụng thuật ngữ hoàn hảo hoặc câu hỏi. Hệ thống nên hiểu ý định, nhận ra dữ liệu liên quan trên các nhãn khác nhau (cho dù đó là “churn”, “giữ chân” hay “chu kỳ sống của khách hàng”), và cung cấp các câu trả lời có ngữ cảnh. Điều này cho phép người dùng kinh doanh tập trung vào việc ra quyết định chứ không phải học cách hỏi các câu hỏi kỹ thuật hoàn hảo.

Kết luận

Các tác nhân AI sẽ mang lại những thay đổi quan trọng về cách các doanh nghiệp hoạt động và đưa ra quyết định, nhưng chúng cũng đi kèm với một tập hợp thách thức duy nhất mà phải được giải quyết trước khi chúng được triển khai. Với AI, mọi sai lầm đều được khuếch đại khi người dùng không chuyên môn có quyền truy cập tự phục vụ, khiến việc đặt nền móng đúng trở nên quan trọng.

Các tổ chức thành công trong việc giải quyết các thách thức cơ bản về chất lượng dữ liệu, căn chỉnh ngữ nghĩa và quản trị trong khi vượt qua những hạn chế của kỹ thuật câu hỏi sẽ được đặt vào vị trí để dân chủ hóa an toàn việc tiếp cận dữ liệu và đưa ra quyết định. Cách tiếp cận tốt nhất bao gồm việc tạo ra một môi trường hợp tác giúp cho sự hợp tác và căn chỉnh các tương tác giữa con người và máy cũng như giữa máy với máy. Điều này đảm bảo rằng các thông tin được điều khiển bởi AI là chính xác, an toàn và đáng tin cậy, khuyến khích một văn hóa toàn tổ chức quản lý, bảo vệ và tối đa hóa dữ liệu đến mức tối đa.