Trợ lý AI của bạn biết mọi thứ – và không hiểu gì cả

“Chúng ta nên tham gia chuyến đi của bố mẹ tôi đến Ireland” – câu nói này dường như vô hại đã khiến tôi run rẩy.

Vợ chồng tôi thường xuyên đi du lịch. Chúng tôi biết những gì chúng tôi thích. Bố mẹ vợ tôi, mặt khác, hiếm khi đi xa hơn vài trăm dặm từ nhà và đã rời khỏi đất nước cùng nhau chỉ một lần – để tham dự đám cưới của chúng tôi.

Để làm cho mọi thứ trở nên tồi tệ hơn, chuyến đi này là một món quà Giáng sinh từ bố vợ tôi dành cho mẹ vợ tôi, để bà có thể đến thăm gia đình, có lẽ là lần cuối cùng.

Tôi có thể thấy chuyến đi này sẽ diễn ra trong một từ: thảm họa. Làm thế nào trên thế giới chúng tôi có thể tổng hợp những kinh nghiệm và kỳ vọng hoàn toàn khác nhau để chúng tôi có thể có một chuyến đi tuyệt vời – hoặc ít nhất không ghét nhau vào cuối cùng?

Giống như bất kỳ người đam mê công nghệ nào, tôi đã tìm đến công nghệ – cụ thể là AI.

Nhưng điều tôi không ngờ là rằng thí nghiệm nhỏ của tôi trong việc mã hóa một ứng dụng lập kế hoạch chuyến đi gia đình dựa trên AI sẽ dạy tôi gần như mọi thứ tôi cần biết về việc áp dụng AI trong công nghệ thông tin doanh nghiệp.

Càng cho AI ăn, nó càng trở nên ngu dốt

Hầu hết các triển khai AI trong doanh nghiệp đều theo một mẫu nhất định. Các tổ chức bắt đầu bằng cách đưa cho một tác nhân một tập hợp các hướng dẫn và kết nối nó với một nguồn thông tin, cho dù đó là một khuôn khổ RAG (Retrieval-Augmented Generation), một cơ sở kiến thức hiện có hoặc thậm chí một máy chủ MCP. Tiếp theo, thêm một LLM và để nó thực hiện công việc của mình.

Vấn đề ở đây là LLMs ở cốt lõi là ngu dốt. Chúng không biết cách ưu tiên tất cả thông tin mà chúng có, vì vậy chúng có xu hướng đối xử với mọi mảnh thông tin như nhau. Một con người phải thêm một lớp curating, dạy cho mô hình những gì quan trọng và những gì không. Nếu không có curating, bạn sẽ có AI biết mọi thứ và không hiểu gì cả.

Three loại bộ nhớ quan trọng

Sự curating hiệu quả của AI trong doanh nghiệp có nghĩa là tận dụng tối đa ba loại bộ nhớ cụ thể.

Loại đầu tiên là bộ nhớ tổ chức, có thể看似 rất cơ bản ở đầu tiên. Khi ai đó nói “dịch vụ tài chính”, tác nhân biết họ có nghĩa là bộ phận Dịch vụ Tài chính của công ty và không phải toàn bộ ngành công nghiệp. Điều đó trở thành kiến thức tổ chức bền vững chứa đầy các định nghĩa, sở thích và quy ước không thường xuyên thay đổi. Khi điều này mở rộng vào kiến thức tổ chức xung quanh các ưu tiên chiến lược, các sáng kiến chính và động lực tổ chức, nó trở thành một nguồn phong phú của bối cảnh tổ chức.

Tiếp theo là lịch sử hành động, tập trung vào các quyết định, nhiệm vụ và sự kiện quan trọng. Khi một vé dịch vụ được nộp hoặc một hệ thống được triển khai, tác nhân nhận ra hành động cụ thể đó và ghi lại vào lịch sử hành động. Điều này trở thành hồ sơ lịch sử kết nối bối cảnh tổ chức.

Cuối cùng, có bối cảnh hội thoại ngắn hạn. Hãy nghĩ về nó như tương tác từ từ với một tác nhân. Nó hữu ích trong thời điểm đó, nhưng có xu hướng mất đi sự liên quan nhanh chóng.

Khi kết hợp lại, ba loại bộ nhớ này tạo thành hệ thống trọng số mà các mô hình AI chung đang thiếu. Bây giờ, khi ai đó nói với một tác nhân về doanh nghiệp, họ đang phân loại và ưu tiên tất cả bộ nhớ đó và curating thông tin quan trọng. Điều này tạo thành cốt lõi của những gì AI nên cung cấp: không chỉ dữ liệu lĩnh vực, mà còn phán quyết lĩnh vực.

Các bộ nhớ được curating trông như thế nào ở quy mô lớn

Nhưng đủ với khuôn khổ, chúng ta hãy xem xét nó trông như thế nào trong thực tế. Dưới đây là những gì chúng tôi đã khám phá khi xây dựng các tác nhân này.

Một kịch bản IT phổ biến là gửi một vé hỗ trợ đến một tác nhân hỗ trợ. Giả sử Outlook của bạn không hoạt động, vì vậy bạn nhập mô tả vấn đề và chờ tác nhân xem xét và đề xuất một giải pháp.

Nhưng với bộ nhớ được curating hoạt động vì bạn, một quy trình tốt hơn có thể liên quan đến việc chụp ảnh màn hình hiển thị lỗi Outlook và tải nó lên cho tác nhân. Bây giờ, tác nhân (1) dựa vào bộ nhớ tổ chức để hiểu môi trường làm việc của bạn; (2) kiểm tra lịch sử hành động để tìm các sự cố liên quan; và (3) áp dụng phán quyết ngữ cảnh cho một giải pháp cụ thể, không chỉ là một câu trả lời chung chung.

Kết quả là một tác nhân thông minh không cần phải đoán câu trả lời dựa trên ảnh chụp màn hình. Thay vào đó, nó đang thực sự thẩm vấn, xem xét tất cả thông tin hiện đang chạy và cung cấp một phản hồi hữu ích hơn. Tác nhân thậm chí có thể mở rộng thành một hiệu ứng mạng hoặc đàn, xem xét các người dùng khác trong hệ thống để xem vấn đề Outlook có chỉ là vấn đề của bạn hay là vấn đề toàn doanh nghiệp.

Sự ngữ cảnh hóa của lịch sử hoặc bộ nhớ là yếu tố tạo nên sự khác biệt. Nếu bạn không curating bộ nhớ của mình một cách hiệu quả, bạn sẽ tụt lại phía sau những người làm được điều đó. Điều quan trọng là phải có một kiến trúc biết cách quản lý dữ liệu theo thời gian và hiểu những gì cần giữ, những gì cần hiển thị và những gì cần buông bỏ.

Trở lại chuyến đi

Vậy, ứng dụng lập kế hoạch chuyến đi dựa trên AI của tôi đã thay đổi quan điểm của tôi về AI trong công nghệ thông tin doanh nghiệp như thế nào?

Cái tôi xây dựng là một ứng dụng hoạt động như một người quản gia chuyến đi cá nhân và bắt đầu bằng cách “phỏng vấn” từng người tham gia. Chúng tôi đều giải thích những gì quan trọng với chúng tôi trong chuyến đi: những gì là điều cần thiết và những gì chúng tôi có thể bỏ qua. Điều quan trọng hơn, nó hỏi chúng tôi về “tại sao” – tại sao một điều gì đó quan trọng với chúng tôi, nó có ý nghĩa gì với chúng tôi.

Sử dụng thông tin này, nó đã thực hiện hai việc. Đầu tiên, nó đã curating một kế hoạch chuyến đi được cân bằng để cung cấp một điều gì đó cho mọi người – chúng tôi đều có thể thấy mong muốn và sở thích của mình được thể hiện trong kế hoạch mà nó đã tạo ra.

Nhưng,当然, lịch trình đầu tiên chỉ là một bản nháp. Vẫn còn nhiều câu hỏi cần trả lời.

Và đó là khi phép thuật thực sự xảy ra. Chúng tôi hỏi tác nhân về một khách sạn hoặc một điểm thu hút hoặc một chuyến đi, và câu trả lời nó đưa ra được phong phú với bối cảnh của tình huống độc đáo của chúng tôi: “Đó sẽ là một chuyến đi dài cho trẻ em, nhưng bố vợ tôi sẽ yêu thích lâu đài (và quán cà phê độc đáo bên cạnh) – và đây có thể là nơi vợ tôi có thể nhận được một liệu pháp massage.”

Đầy đủ sự hiểu biết phong phú về những gì quan trọng với chúng tôi, nó có thể giúp chúng tôi lên kế hoạch và tinh chỉnh chuyến đi theo cách mà tôi không nghĩ là có thể bằng bất kỳ cách nào khác.

Và đó là trong một trong những khoảnh khắc đầu tiên mà tôi hiểu những gì chúng tôi cần xây dựng cho khách hàng doanh nghiệp của chúng tôi: các hệ thống thông minh được tải với bối cảnh tổ chức, giao dịch và cá nhân đến mức mọi câu trả lời và mọi tương tác sẽ như một dấu vân tay: hoàn toàn độc đáo cho khoảnh khắc và tương tác đó và sẽ cung cấp một loại giá trị mà không thể xảy ra theo bất kỳ cách nào khác.