Trợ lý AI của bạn biết mọi thứ — và không hiểu gì

“Chúng ta nên tham gia chuyến đi của bố mẹ tôi đến Ireland” — câu nói này dường như vô hại đã khiến tôi run rẩy.

Vợ tôi và tôi đi du lịch rộng rãi. Chúng tôi biết những gì chúng tôi thích. Bố mẹ vợ tôi, mặt khác, hiếm khi đi du lịch xa hơn vài trăm dặm từ nhà họ và đã rời khỏi đất nước cùng nhau tổng cộng một lần — để tham dự đám cưới của chúng tôi.

Để hoàn thiện mọi thứ, chuyến đi này là một món quà Giáng sinh từ bố vợ tôi dành cho mẹ vợ tôi để bà có thể đi và thăm gia đình, có thể là lần cuối cùng.

Tôi có thể thấy chuyến đi này đang diễn ra trong một từ: thảm họa. Làm thế nào trên thế giới chúng tôi có thể tổng hợp những kinh nghiệm và kỳ vọng khác biệt đến mức chúng tôi có thể có một chuyến đi tuyệt vời — hoặc ít nhất là không ghét nhau vào cuối nó?

Giống như bất kỳ người yêu công nghệ nào, tôi đã tìm đến công nghệ — cụ thể là AI.

Nhưng điều tôi không ngờ là thí nghiệm nhỏ của tôi trong việc mã hóa cảm xúc cho một ứng dụng lập kế hoạch chuyến đi gia đình dựa trên AI sẽ dạy tôi gần như mọi thứ tôi cần biết về việc áp dụng AI trong IT doanh nghiệp.

Càng cho AI ăn, nó càng trở nên ngu ngốc

Hầu hết các triển khai AI trong doanh nghiệp đều theo một mẫu dự đoán. Các tổ chức bắt đầu bằng cách đưa cho một tác nhân một tập hợp các hướng dẫn và kết nối nó với một nguồn thông tin, cho dù đó là một khuôn khổ RAG (Retrieval-Augmented Generation), một cơ sở kiến thức hiện có, hoặc thậm chí một máy chủ MCP. Tiếp theo, thêm một lớp LLM và để nó thực hiện việc của mình.

Vấn đề ở đây là LLMs ở cốt lõi của chúng là ngu ngốc. Chúng không biết cách ưu tiên tất cả thông tin mà chúng có trong tay, vì vậy chúng có xu hướng đối xử với mọi mảnh thông tin như nhau. Một con người phải thêm một lớp kiểm duyệt, dạy cho mô hình những gì quan trọng và những gì không. Nếu không có kiểm duyệt, bạn sẽ nhận được AI biết mọi thứ và không hiểu gì.

Three Loại Bộ Nhớ Quan Trọng

Kiểm duyệt AI doanh nghiệp hiệu quả có nghĩa là tận dụng tối đa ba loại bộ nhớ cụ thể.

Loại đầu tiên là bộ nhớ tổ chức, có thể看似 khá cơ bản ở đầu tiên. Khi ai đó nói “dịch vụ tài chính”, tác nhân biết họ có nghĩa là bộ phận Dịch vụ Tài chính của công ty và không phải toàn bộ ngành công nghiệp. Điều đó trở thành kiến thức tổ chức được lấp đầy với các định nghĩa, sở thích và quy ước không thường thay đổi. Khi điều này mở rộng vào kiến thức tổ chức xung quanh các ưu tiên chiến lược, sáng kiến chính và động lực tổ chức, nó trở thành một nguồn phong phú của bối cảnh tổ chức.

Tiếp theo là lịch sử hành động, tập trung vào các quyết định, nhiệm vụ và sự kiện quan trọng. Khi một vé dịch vụ được nộp hoặc một hệ thống được triển khai, tác nhân nhận ra hành động cụ thể đó và ghi lại vào lịch sử hành động. Điều này trở thành hồ sơ lịch sử gắn kết lại bối cảnh tổ chức.

Cuối cùng, có bối cảnh hội thoại ngắn hạn. Hãy nghĩ về nó như tương tác từ từ với một tác nhân. Nó hữu ích trong khoảnh khắc, nhưng có xu hướng mất tính liên quan nhanh chóng.

Khi kết hợp lại, ba loại bộ nhớ này tạo thành hệ thống trọng số mà các mô hình AI chung chung đang thiếu. Bây giờ, khi ai đó nói với một tác nhân về kinh doanh, họ đang phân loại và ưu tiên tất cả bộ nhớ đó và kiểm duyệt thông tin quan trọng. Điều này tạo thành cốt lõi của những gì AI nên cung cấp: không chỉ dữ liệu lĩnh vực, mà còn là phán quyết lĩnh vực.

Curated Bộ Nhớ trông như thế nào ở Quy mô Lớn

Nhưng đủ với khuôn khổ, trông như thế nào trong thực tế? Đây là những gì chúng tôi đã khám phá khi xây dựng các tác nhân này.

Một kịch bản IT phổ biến là gửi một vé khó khăn đến một tác nhân hỗ trợ. Giả sử Outlook của bạn không hoạt động, vì vậy bạn nhập mô tả về vấn đề và chờ tác nhân xem xét và đề xuất một giải pháp.

Nhưng với bộ nhớ được kiểm duyệt hoạt động vì bạn, một quy trình tốt hơn có thể liên quan đến việc chụp ảnh màn hình hiển thị lỗi Outlook và tải nó lên cho tác nhân. Bây giờ tác nhân (1) dựa vào bộ nhớ tổ chức để hiểu môi trường làm việc của bạn; (2) kiểm tra lịch sử hành động để tìm các sự cố liên quan; và (3) áp dụng phán quyết ngữ cảnh cho một giải pháp cụ thể, không chỉ là một câu trả lời chung chung.

Kết quả là một tác nhân thông minh không cần phải đoán câu trả lời dựa trên ảnh chụp màn hình. Nó đang thực sự thẩm vấn, xem xét tất cả thông tin hiện đang chạy và cung cấp một phản hồi hữu ích hơn. Tác nhân thậm chí có thể mở rộng thành một hiệu ứng mạng hoặc bầy, xem xét các người dùng khác trong hệ thống để xem vấn đề Outlook có phải chỉ là vấn đề của bạn hay là một vấn đề trên toàn doanh nghiệp.

Sự ngữ cảnh hóa của lịch sử hoặc bộ nhớ là yếu tố tạo nên sự khác biệt. Nếu bạn không kiểm duyệt bộ nhớ của mình một cách hiệu quả, bạn sẽ tụt lại phía sau những người làm được điều đó. Điều quan trọng là phải có một kiến trúc biết cách quản lý dữ liệu theo thời gian và hiểu những gì để giữ, những gì để hiển thị và những gì để buông bỏ.

Trở lại Chuyến đi

Vậy, ứng dụng lập kế hoạch chuyến đi dựa trên AI của tôi đã thay đổi quan điểm của tôi về AI trong IT doanh nghiệp như thế nào?

Điều tôi xây dựng là một ứng dụng đóng vai trò là người tổ chức chuyến đi cá nhân của chúng tôi và bắt đầu bằng cách “phỏng vấn” từng người tham gia. Chúng tôi tất cả đã giải thích những gì quan trọng với chúng tôi trong chuyến đi: những gì là điều cần phải làm và những gì có thể bỏ qua. Quan trọng hơn, nó hỏi chúng tôi về “tại sao” — tại sao một điều gì đó lại quan trọng với chúng tôi, nó có ý nghĩa gì với chúng tôi.

Sử dụng thông tin này, nó đã thực hiện hai việc. Đầu tiên, nó đã kiểm duyệt một kế hoạch chuyến đi được cân bằng để cung cấp một cái gì đó cho mọi người — chúng tôi tất cả có thể thấy mong muốn và sở thích của mình được thể hiện trong kế hoạch nó đã tạo ra.

Nhưng,当然, kế hoạch hành trình đầu tiên chỉ là một bản thảo. Vẫn còn nhiều câu hỏi để trả lời.

Và đó là khi điều kỳ diệu thực sự xảy ra. Chúng tôi hỏi tác nhân về một khách sạn hoặc một điểm thu hút hoặc một chuyến đi, và những câu trả lời nó đưa ra được làm phong phú với ngữ cảnh của tình huống duy nhất của chúng tôi: “Đó sẽ là một chuyến đi dài cho trẻ em, nhưng bố vợ tôi sẽ yêu thích lâu đài (và quán cà phê độc đáo bên cạnh) — và đây có thể chính là nơi vợ tôi có thể nhận được một liệu pháp massage.”

Đầy đủ sự hiểu biết phong phú về những gì quan trọng với chúng tôi, nó có thể giúp chúng tôi lên kế hoạch và tinh chỉnh chuyến đi theo cách mà tôi không nghĩ là có thể trong bất kỳ cách nào khác.

Và nó là trong một trong những khoảnh khắc đầu tiên mà tôi hiểu những gì chúng tôi cần xây dựng cho khách hàng doanh nghiệp của chúng tôi: các hệ thống thông minh được tải với bối cảnh tổ chức, giao dịch và cá nhân đến mức mỗi câu trả lời và mỗi tương tác sẽ giống như một dấu vân tay: hoàn toàn độc đáo cho khoảnh khắc và tương tác đó, nó sẽ cung cấp một loại giá trị mà không thể xảy ra theo bất kỳ cách nào khác.