Các Đại lý Tự chủ Cần nhiều hơn Chỉ là Khả năng Quan sát của Trí tuệ Nhân tạo

Khi các công ty sử dụng các đại lý trí tuệ nhân tạo để suy nghĩ, hành động và khởi xướng các quy trình làm việc, điều quan trọng là phải phát triển một kế hoạch để theo dõi và quản lý chúng.

Khi các thành phần khác nhau của một hệ thống trí tuệ nhân tạo bắt đầu đưa ra quyết định của riêng mình, khả năng quan sát alone không đủ để đảm bảo rằng các hoạt động sẽ vẫn ổn định, an toàn hoặc đáng tin cậy.

Để quản lý hiệu quả các đại lý trí tuệ nhân tạo trên toàn doanh nghiệp, các doanh nghiệp phải bắc cầu giữa việc xác định vấn đề và hành động. Điều đó vượt ra ngoài việc chỉ quan sát các vấn đề; các doanh nghiệp phải chủ động ngăn chặn chúng.

Sự xuất hiện của các đại lý tự chủ

Làn sóng đầu tiên của trí tuệ nhân tạo doanh nghiệp là các hệ thống dựa trên lời nhắc; người dùng đặt một câu hỏi, mô hình trả lời và trao đổi kết thúc ở đó. Mặc dù những công nghệ đầu tiên này基本 là phản ứng, nhưng chúng hữu ích cho tìm kiếm, đồng hành, tạo nội dung và tóm tắt.

Làn sóng tiếp theo khác. Không chỉ các đại lý trí tuệ nhân tạo tự chủ phản ứng, mà chúng còn suy luận qua các mục tiêu, chọn công cụ, trích xuất thông tin, thực hiện hành động và khởi xướng quy trình làm việc. Chúng đôi khi làm việc cùng với các đại lý hoặc hệ thống khác và ngày càng đóng vai trò là các cầu thủ hoạt động trong công ty chứ không phải là một lớp giao diện cho các hướng dẫn của con người.

Sự thay đổi này rất quan trọng vì nó ảnh hưởng đến các đặc điểm hoạt động của trí tuệ nhân tạo. Các đội không còn chỉ theo dõi đầu ra của mô hình. Thay vào đó, họ quản lý các hệ thống động có thể ảnh hưởng ngay lập tức đến khách hàng, nhân viên, cơ sở hạ tầng, quy trình kinh doanh và các ứng dụng khác.

Các khả năng của các đại lý hiện nay

Các tài năng của các đại lý phát triển cùng với chúng. Các đại lý có thể chọn việc tiếp theo, chia nhỏ một mục tiêu thành các bước và hoàn thành các hoạt động ở các cấp độ khác nhau. Bằng cách liên hệ với các API, truy vấn cơ sở dữ liệu, tìm kiếm các hệ thống nội bộ, cập nhật hồ sơ và khởi xướng các hành động hạ lưu, chúng phối hợp các quy trình làm việc. Bằng cách tích hợp các lời nhắc, bộ nhớ, quy tắc kinh doanh, thông tin được thu thập và các tín hiệu hoạt động thời gian thực, các đại lý cũng có thể đưa ra các phán quyết dựa trên ngữ cảnh.

Các đại lý tinh vi hơn có thể xác định khi một quy trình làm việc thất bại, thử lại, chuyển các vấn đề lên cấp trên hoặc chuyển các công việc đến một người xem xét. Trong CRM, vé, cơ sở hạ tầng đám mây, cơ sở kiến thức nội bộ, các nền tảng quan sát và các ứng dụng kinh doanh, các đại lý có thể hoạt động độc lập. Chúng tôi dự đoán rằng những kỹ năng này sẽ tiếp tục mở rộng nhanh chóng.

Các doanh nghiệp đang tích hợp các đại lý trí tuệ nhân tạo tự chủ như thế nào

Các đại lý đang được tích hợp vào một loạt các hoạt động tổ chức, và chúng đang đến gần với các quy trình hoạt động nơi tốc độ, độ chính xác, an toàn và quản trị là quan trọng. Một số hoạt động đó bao gồm: dịch vụ khách hàng và xử lý trường hợp, phản ứng sự cố và hoạt động CNTT, quy trình làm việc cho DevOps và sự phụ thuộc của trang web, sửa lỗi và phát triển phần mềm, lập kế hoạch hoạt động và chuỗi cung ứng, và nhiều hơn nữa.

Các mối đe dọa hoạt động mới nổi

Tuy nhiên, khi các đại lý trở nên độc lập hơn, các doanh nghiệp phải đối mặt với một loại rủi ro hoạt động mới.

• Lựa chọn sai không chỉ được đề xuất; chúng thường được thực hiện
• Lỗi nhỏ có thể nhanh chóng lan sang các hệ thống liên kết khác
• Các hành động trong thế giới thực có thể được kích hoạt bởi ảo giác
• Các đại lý có thể đi chệch khỏi ý định kinh doanh, chính sách hoặc tuân thủ
• Sự tương tác giữa các thành phần nhiều có thể dẫn đến thất bại
• Quyết định tự động có thể đưa ra quyết định nhanh hơn so với đánh giá của con người

Trong khi các đội có thể quan sát các triệu chứng, họ cũng phải có thể hiểu được lý do đằng sau hành vi của hệ thống. Trí tuệ nhân tạo doanh nghiệp cần kiểm soát độ tin cậy ngoài khả năng quan sát.

Các hệ thống trí tuệ nhân tạo phức tạp

Các hệ thống được thúc đẩy bởi trí tuệ nhân tạo ngày nay hiếm khi là một mô hình duy nhất. Chúng là các hệ thống phân tán, phân lớp bao gồm nhiều thành phần tương tác bao gồm:

• Mô hình cơ bản (LLM)
• Mô hình ngôn ngữ nhỏ tinh chỉnh hoặc chuyên biệt cho nhiệm vụ (SLM)
• Mô hình nhúng
• Cơ sở dữ liệu vector
• Các đường ống truy xuất và thành phần RAG
• Mẫu lời nhắc và lớp điều khiển lời nhắc
• Các tập dữ liệu đào tạo và đánh giá
• Các hàng rào và lớp chính sách
• Các đại lý và quy trình làm việc
• Hệ thống gọi công cụ
• Telemetry (aka nhật ký, số liệu và dấu vết)
• Điểm kiểm tra phê duyệt của con người trong vòng lặp

Các rủi ro của chúng

Mỗi thành phần thêm một chế độ thất bại khác, và cách chúng tương tác thêm sự phức tạp. Ngay cả khi một hệ thống dường như mạnh tại lớp cơ sở hạ tầng, nó vẫn có thể đưa ra các quyết định tồi và tạo ra kết quả hài lòng; tất cả trong khi tích lũy rủi ro hoạt động dưới bề mặt.

Một số rủi ro liên quan bao gồm: sự giới thiệu của các đầu vào kém hoặc bị hư hỏng bởi các đường ống dữ liệu, các nút thắt cổ chai về cơ sở hạ tầng làm giảm độ tin cậy, các kết quả có hại hoặc sai lầm, và các nút thắt hoạt động trong phản ứng với đánh giá của con người. Thêm vào đó, các hệ thống có nhiều đại lý hoặc bước có thể thất bại theo những cách không ngay lập tức rõ ràng.

Khả năng quan sát của Trí tuệ Nhân tạo

Giám sát truyền thống không đủ để hiểu hành vi lời nhắc, chất lượng truy xuất, trôi mô hình, kênh thực hiện đại lý hoặc mối quan hệ giữa hành vi trí tuệ nhân tạo và tác động kinh doanh hoặc hoạt động hạ lưu.

Đó là nơi khả năng quan sát của Trí tuệ Nhân tạo xuất hiện. Khả năng quan sát của Trí tuệ Nhân tạo cho phép các đội hiểu cách các hệ thống trí tuệ nhân tạo hoạt động trong sản xuất bằng cách thu thập, liên kết và đánh giá các đầu vào và đầu ra, các hành vi mong muốn và các tín hiệu quyết định được tạo bởi các hệ thống đó. Đó là điều cần thiết, vì các hệ thống trí tuệ nhân tạo được phân tán, không xác định và cực kỳ nhạy cảm với ngữ cảnh.

Khả năng quan sát của Trí tuệ Nhân tạo cung cấp cái nhìn tổng quan về các quy trình làm việc trí tuệ nhân tạo, vì vậy các đội sử dụng nó có thể hiểu cách các lời nhắc, mô hình, lớp truy xuất, công cụ và hệ thống hạ lưu tương tác trong quá trình thực hiện.

Khả năng quan sát của Trí tuệ Nhân tạo cũng cho phép theo dõi hiệu suất và hành vi, bao gồm độ trễ, chi phí, sử dụng token, thông lượng, tỷ lệ lỗi, hành vi mô hình và các chỉ số chất lượng đầu ra. Nó theo dõi và phân tích các đường dẫn thực hiện trong các quy trình làm việc đại lý phức tạp và chỉ ra cách các kết quả được đạt được trên nhiều bước và phụ thuộc.

Khả năng quan sát của Trí tuệ Nhân tạo cũng tìm thấy các bất thường trên các tín hiệu hoạt động và trí tuệ nhân tạo bằng cách暴 lộ hành vi bất thường trong các mô hình, đường ống, cơ sở hạ tầng hoặc kết quả hướng đến người dùng trước khi các đội phát hiện chúng thủ công. Nó tăng tốc chẩn đoán khi điều gì đó xảy ra sai và làm cho các cuộc điều tra nguyên nhân gốc rễ dễ dàng hơn bằng cách bao gồm các hoạt động trí tuệ nhân tạo cụ thể vào hệ thống telemetry (nhật ký, số liệu, dấu vết và sự kiện).

Khả năng quan sát alone không đủ

Mặc dù khả năng quan sát của Trí tuệ Nhân tạo là một thực hành kinh doanh thiết yếu, nhưng nó có những hạn chế vốn có.

Khả năng quan sát là chẩn đoán chứ không phải phòng ngừa; các đội có thể học được những gì đã xảy ra sai nhưng không nhất thiết phải biết cách ngăn chặn nó xảy ra lại. Điều quan trọng là phải hiểu rằng kiến thức về các hành động trong quá khứ của một đại lý không tự động dịch thành quyền kiểm soát các hành động trong tương lai của nó.

Khi nói đến các hệ thống không xác định phức tạp, khả năng quan sát thường có thể làm cho các đội bị choáng ngợp bởi dữ liệu dẫn đến sự không chắc chắn. Thay vì cung cấp một câu trả lời hoạt động, khả năng quan sát thường kết thúc ở một lời giải thích. Ngay cả khi các đội biết về một vấn đề, họ có thể không có tự động hóa, hàng rào và vòng lặp kiểm soát cần thiết để thực hiện hành động khắc phục.

Điều đó tạo ra một khoảng trống hoạt động. Các doanh nghiệp có thể phát hiện ra sự trôi, kết quả kém, hành vi nguy hiểm hoặc hiệu suất giảm, nhưng họ có thể vẫn không thể ngăn chặn nó xảy ra lại, giảm thiểu tác động của nó hoặc duy trì các hệ thống tự chủ trong các tham số hoạt động an toàn.

Điều đó có nghĩa là các đội tiếp tục hoạt động phản ứng. Họ sử dụng can thiệp thủ công khi điều gì đó bị hỏng, điều tra các sự cố sau khi chúng xảy ra và dựa vào lao động của con người để bù đắp cho các hệ thống đang trở nên nhanh hơn và tự chủ hơn.

Tổng quan về độ tin cậy của Trí tuệ Nhân tạo

Độ tin cậy của Trí tuệ Nhân tạo vượt ra ngoài việc chỉ quan sát các vấn đề. Đó là kỷ luật đảm bảo rằng các hệ thống trí tuệ nhân tạo hoạt động an toàn, nhất quán, dự đoán được và thành công trong các môi trường sản xuất thực tế. Độ tin cậy của Trí tuệ Nhân tạo bao gồm và quản lý toàn bộ hệ thống xung quanh trí tuệ nhân tạo. Nó đóng vòng lặp giữa phát hiện và hành động.

Độ tin cậy của Trí tuệ Nhân tạo tập trung vào việc liệu toàn bộ hệ thống được thúc đẩy bởi trí tuệ nhân tạo có thể hoạt động trong các ràng buộc hoạt động hợp lý theo thời gian hay không, thay vì chỉ liệu một mô hình cung cấp một phản hồi chính xác. Chất lượng, an toàn, khả năng phục hồi, khả năng giải thích, tuân thủ chính sách, hiệu quả về chi phí và ổn định hoạt động đều là một phần của phương trình.

Chuyển đổi từ phát hiện sang phòng ngừa

Độ tin cậy của Trí tuệ Nhân tạo giảm thời gian giữa việc nhận ra một vấn đề và xử lý giải pháp của nó. Nó chuyển đổi cuộc trò chuyện từ “cái gì đã xảy ra sai?” sang “làm thế nào nhanh chóng trí tuệ nhân tạo của chúng tôi sẽ cải thiện?” Việc sử dụng các kỹ thuật sau di chuyển khả năng quan sát từ quan sát thụ động sang phòng ngừa chủ động:

• Liên kết các tín hiệu trên các mô hình, dữ liệu và cơ sở hạ tầng để xác định các vấn đề
• Phát hiện vấn đề chủ động trước khi tác động
• Xác minh tất cả các đầu vào và đầu ra trong các hệ thống trí tuệ nhân tạo xác suất để phát hiện các thay đổi hành vi tinh vi
• Tạo một vòng lặp phản hồi giữa việc phát hiện đầu ra không mong muốn trong sản xuất và sử dụng nó để tạo dữ liệu tinh chỉnh giúp cải thiện độ chính xác của các mô hình cơ bản
• Theo dõi quy trình làm việc đa đại lý để đảm bảo bạn có thể kết nối các điểm trên lý do và cách dữ liệu đã tiến hóa để thông báo các hành động phức tạp
• Xác định các quy trình làm việc đại lý của con người trong vòng lặp cho phản ứng an toàn và khắc phục tự động

Đóng khoảng trống giữa kiểm soát và quan sát

Các doanh nghiệp được hưởng lợi từ các khuôn khổ tích hợp khả năng quan sát và kiểm soát và yêu cầu nhiều hơn chỉ một lớp quan sát trên trí tuệ nhân tạo sinh. Trong cả các hệ thống xác định và không xác định, một nền tảng độ tin cậy có thể xác định, dự đoán, giải thích và hỗ trợ kiểm soát các vấn đề.

Các yếu tố sau nên được bao gồm trong một khuôn khổ khả thi cho các hoạt động trí tuệ nhân tạo đáng tin cậy:

• Telemetry tích hợp cho cả hệ thống CNTT và trí tuệ nhân tạo
• Theo dõi quy trình làm việc đại lý và phụ thuộc hệ thống từ đầu đến cuối
• Theo dõi hành vi và chất lượng trí tuệ nhân tạo cụ thể (lời nhắc và đánh giá)
• Phát hiện bất thường nâng cao, bất kể nguồn gốc
• Lý do nguyên nhân và phân tích nguyên nhân gốc rễ
• Cảnh báo tự động thích ứng với môi trường của bạn và không yêu cầu ngưỡng thủ công
• Thực thi chính sách và hàng rào
• Đánh giá của con người trong vòng lặp cho các hành động tinh vi hoặc quan trọng
• Tự động hóa quy trình làm việc và phối hợp khắc phục
• Sử dụng phân tích dự đoán để ngăn chặn các vấn đề xảy ra
• Vòng lặp phản hồi kết nối phát hiện bất thường với chất lượng mô hình trí tuệ nhân tạo được cải thiện

Thúc đẩy các chức năng Trí tuệ Nhân tạo

Các hệ thống trí tuệ nhân tạo phụ thuộc vào cơ sở hạ tầng, dịch vụ, đường ống dữ liệu và quy trình hoạt động; chúng không thất bại một mình. Các đội nhận được toàn bộ hình ảnh khi cả độ tin cậy của trí tuệ nhân tạo và CNTT được kết hợp.

Một bộ bao phủ LLM mỏng không nên là nền tảng của một nền tảng đáng tin cậy. Để xác định và sửa các vấn đề mà các công cụ chỉ trí tuệ nhân tạo sinh khác bỏ qua, nhiều kỹ thuật trí tuệ nhân tạo nên được xem xét, bao gồm trí tuệ nhân tạo không giám sát, trí tuệ nhân tạo dự đoán, trí tuệ nhân tạo nguyên nhân và trí tuệ nhân tạo sinh. Sự kết hợp các kỹ thuật này thường được gọi là “trí tuệ nhân tạo tổng hợp.”

Trí tuệ nhân tạo sinh tốt trong việc tóm tắt ngôn ngữ tự nhiên. Nó phù hợp nhất với các tình huống yêu cầu suy luận qua dữ liệu không cấu trúc hoặc khi tương tác với con người. Nhưng điều đó không phù hợp với hình dạng của hầu hết các vấn đề về độ tin cậy trong sản xuất.

Trí tuệ nhân tạo dự đoán tập trung vào việc xác định các tín hiệu sớm trước khi chúng trở thành thời gian ngừng hoạt động, trải nghiệm khách hàng kém hoặc thất bại tốn kém bằng cách sử dụng các thuật toán phát hiện bất thường.

Trí tuệ nhân tạo nguyên nhân giúp xác định nguyên nhân gốc rễ thực sự để tiết lộ liệu chất lượng truy xuất, hành vi mô hình, độ chậm của cơ sở hạ tầng, trôi dữ liệu lên dòng hoặc thất bại của hệ thống hạ lưu là nguyên nhân của sự suy giảm hiệu suất.

Trí tuệ nhân tạo không giám sát tự động phát hiện các mẫu, cấu trúc hoặc bất thường ẩn trong dữ liệu mà không cần hướng dẫn của con người. Nó vượt trội so với trí tuệ nhân tạo sinh cho độ tin cậy vì nó tập trung vào việc tìm kiếm các cấu trúc ẩn trong dữ liệu phức tạp, không phân loại để nhóm các mục tương tự hoặc tìm mối quan hệ.

Khi rủi ro, không chắc chắn hoặc tác động kinh doanh là đáng kể, các đại lý hoạt động trí tuệ nhân tạo phải có khả năng tự động hóa phản ứng trong khi vẫn duy trì sự tham gia của con người cho các hoạt động đáng tin cậy.

Sự hiểu biết của mô hình trí tuệ nhân tạo về ngữ cảnh kinh doanh cụ thể có thể được tăng cường trong mỗi lần gặp bằng cách sử dụng học tăng cường từ dữ liệu người dùng thực trong sản xuất.

Ngay cả các hệ thống tiên tiến nhất cũng vượt ra ngoài việc cảnh báo; khắc phục vòng lặp đóng học hỏi từ mỗi sự cố theo thời gian, tự động hóa các phản ứng được công nhận và khởi xướng các biện pháp an toàn.

Chuẩn bị cho các hệ thống Trí tuệ Nhân tạo Tự chủ

Các doanh nghiệp có thể chuẩn bị cho các hệ thống trí tuệ nhân tạo tự chủ theo một số cách khác nhau. Đầu tiên, các đại lý nên được xem là các hệ thống hoạt động chứ không phải là công cụ. Khi một đại lý có khả năng hành động, nó trở thành một phần không thể thiếu của hoạt động kinh doanh và nên được quản lý phù hợp.

Các đội có thể ghi lại các tín hiệu từ mô hình, lời nhắc, công cụ, quy trình làm việc, cơ sở hạ tầng và kết quả người dùng ngay lập tức bằng cách lập công cụ cho các đại lý. Sự giám sát cơ bản này không nên và không được trì hoãn cho đến khi các đại lý trở nên quan trọng đối với kinh doanh.

Thiết lập các tiêu chuẩn độ tin cậy trước khi triển khai rộng rãi các đại lý cũng rất quan trọng. Thay vì được giới thiệu sau khi sự kiện, các ngưỡng chấp nhận được cho an toàn, độ trễ, tỷ lệ lỗi, rủi ro ảo giác, tuân thủ chính sách và tác động kinh doanh nên được tích hợp vào thiết kế của chúng.

Liên kết hành vi trí tuệ nhân tạo với các hệ thống và quy trình cơ bản hỗ trợ nó cho phép các doanh nghiệp tích hợp hoạt động trí tuệ nhân tạo và CNTT. Sử dụng các công cụ khác nhau cho cơ sở hạ tầng và giám sát mô hình tạo ra các điểm mù.

Các nhóm kỹ sư nền tảng, SRE, bảo mật, dữ liệu, trí tuệ nhân tạo và chủ sở hữu kinh doanh phải làm việc cùng nhau để cung cấp các hoạt động trí tuệ nhân tạo đáng tin cậy, và các hệ thống tự chủ vượt qua các silo truyền thống.

Mỗi sự cố, bất thường và gần-miss sẽ cải thiện hệ thống bằng cách tích hợp các vòng lặp phản hồi vào hoạt động, cho phép các doanh nghiệp liên tục học hỏi từ hành vi sản xuất.

Cuối cùng, điều quan trọng là phải chọn các nền tảng được thiết kế cho kiểm soát chứ không chỉ quan sát. Các doanh nghiệp sẽ được hưởng lợi từ các hệ thống tích hợp khả năng quan sát, dự đoán, giải thích và hành động khi các đại lý trí tuệ nhân tạo trở nên tự chủ hơn. Các tổ chức thành công trong việc chuyển đổi từ việc xác định vấn đề sang kiểm soát an toàn kết quả sẽ là những người chiến thắng.

Kết luận

Trí tuệ nhân tạo trong các doanh nghiệp hiện là một hệ thống hoạt động trong các môi trường doanh nghiệp chứ không phải là một công cụ. Trong các môi trường sản xuất thực tế, việc thêm độ tin cậy vào các hệ thống trí tuệ nhân tạo đảm bảo các hoạt động an toàn, nhất quán, dự đoán được và hiệu quả. từ việc xác định vấn đề đến kiểm soát an toàn kết quả sẽ là những người chiến thắng. Trí tuệ nhân tạo trong các doanh nghiệp hiện là một hệ thống hoạt động trong các môi trường doanh nghiệp chứ không phải là một công cụ. Trong các môi trường sản xuất thực tế, việc thêm độ tin cậy vào các hệ thống trí tuệ nhân tạo đảm bảo các hoạt động an toàn, nhất quán, dự đoán được và hiệu quả.