Tác nhân AI, trợ lý AI và quy trình: Khác nhau như thế nào?

Trợ lý AI hỗ trợ con người, quy trình AI tuân theo một quy trình định sẵn, còn tác nhân AI tự quyết định cách đạt được mục tiêu. Cả ba đều có thể sử dụng cùng các mô hình và công cụ nền tảng, nhưng phân bổ quyền ra quyết định theo những cách khác nhau.

Các thuật ngữ này thường được dùng thiếu chính xác, dẫn đến kỳ vọng phi thực tế và cơ chế quản trị lỏng lẻo. Một sản phẩm được gọi là “tác nhân” có thể chỉ là một quy trình với giao diện trò chuyện; trợ lý AI có thể thực thi hành động; còn quy trình có thể bao gồm một bước mang tính tác nhân. Câu hỏi hữu ích không phải là tên gọi nào được dùng, mà là ai chọn hướng đi, ai phê duyệt hành động và hệ thống cần có mức độ dự đoán được ra sao.

Tóm tắt nhanh

Trợ lý AI là gì?

Trợ lý AI giúp con người thực hiện một nhiệm vụ, trong khi con người vẫn là người đưa ra quyết định chính. Công cụ này có thể tóm tắt tài liệu, soạn mã, gợi ý câu trả lời, giải thích lỗi hoặc đề xuất bước tiếp theo. Người dùng xem xét kết quả rồi quyết định có sử dụng hay không.

Đặc điểm cốt lõi là khả năng tương tác, chứ không phải một giao diện cụ thể. Trợ lý AI có thể gọi các công cụ chỉ đọc hoặc chuẩn bị hành động để đề xuất, nhưng nhìn chung vẫn để con người tham gia sát vào khâu ra quyết định và thực thi.

Trợ lý AI phát huy hiệu quả khi bối cảnh do con người cung cấp là thiết yếu, sai sót phải trả giá đắt hoặc kết quả mong muốn mang tính chủ quan. Công cụ này giúp giảm công sức mà không yêu cầu hệ thống tự giải quyết toàn bộ nhiệm vụ.

Quy trình AI là gì?

Quy trình AI là một chuỗi bước có trình tự điều hướng phần lớn được xác định từ trước. Một số bước có thể sử dụng mô hình—chẳng hạn để phân loại yêu cầu đến, trích xuất trường dữ liệu hoặc viết bản tóm tắt—nhưng mã sẽ quyết định quy trình chuyển từ giai đoạn này sang giai đoạn khác như thế nào.

Một quy trình hỗ trợ khách hàng có thể phân loại phiếu yêu cầu, truy xuất dữ liệu tài khoản, tạo bản nháp, áp dụng các bước kiểm tra chính sách rồi đưa kết quả vào hàng chờ để rà soát. Mô hình có thể tạo ra nội dung khác nhau, trong khi lộ trình tổng thể vẫn dễ dự đoán.

Hướng dẫn của Anthropic về cách xây dựng các tác nhân hiệu quả nêu rõ sự khác biệt này: quy trình điều phối mô hình ngôn ngữ và công cụ thông qua các lộ trình mã được định sẵn, trong khi tác nhân tự điều hướng quy trình và việc sử dụng công cụ một cách linh hoạt.

Tác nhân AI là gì?

Tác nhân nhận một mục tiêu và có quyền tự quyết định các bước cần thiết để đạt được mục tiêu đó. Tác nhân có thể chọn công cụ, lập hoặc điều chỉnh kế hoạch, phản hồi trước các quan sát, khắc phục một số lỗi và tiếp tục cho đến khi đáp ứng điều kiện dừng.

Chẳng hạn, một tác nhân nghiên cứu có thể quyết định cần tìm kiếm nguồn nào, xác định những điểm còn thiếu, thay đổi truy vấn, so sánh bằng chứng và tạo báo cáo có trích dẫn. Nhà phát triển không xác định trước từng lượt tìm kiếm hay chính xác cần thực hiện bao nhiêu bước.

Tác nhân hữu ích khi môi trường biến động và không thể dự đoán đầy đủ lộ trình. Chính sự linh hoạt đó cũng khiến chúng kém tất định hơn quy trình.

Ranh giới nằm trên một phổ liên tục

Một quy trình có thể bao gồm một bước vận hành theo cơ chế tác tử, và một tác tử có thể gọi một quy trình tất định như một công cụ. Ví dụ, tác tử có thể xác định rằng khách hàng đủ điều kiện để được xem xét hoàn tiền, trong khi một quy trình cố định xác thực đơn hàng, tính toán số tiền được phép hoàn và chuyển quyết định cuối cùng đến nhân viên có thẩm quyền. Việc kết hợp các mô hình này thường tạo ra hệ thống tốt hơn so với việc gán một nhãn duy nhất cho toàn bộ sản phẩm.

Các sản phẩm thực tế thường kết hợp những mô hình này. Một trợ lý AI có thể bao gồm một tác tử đảm nhiệm một nhiệm vụ phụ có phạm vi giới hạn. Một quy trình có thể chuyển trường hợp bất thường cho tác tử xử lý. Một tác tử có thể dựa vào các quy trình tất định để thực hiện những thao tác nhạy cảm.

Mô tả chính xác hơn là nêu mức độ và phạm vi tự chủ:

• Đề xuất: hệ thống đưa ra nội dung hoặc quyết định; con người thực hiện hành động.
• Hành động dự thảo: hệ thống chuẩn bị một thay đổi; con người phê duyệt thay đổi đó.
• Thực thi có giới hạn: hệ thống tự động hành động trong phạm vi hẹp và có thể đảo ngược.
• Thực thi thích ứng: hệ thống lựa chọn các bước và công cụ trong khuôn khổ chính sách.
• Vận hành được ủy quyền: hệ thống xử lý công việc kéo dài và chuyển các trường hợp ngoại lệ lên cấp cao hơn.

Các bước khác nhau trong cùng một sản phẩm có thể thuộc những mức độ khác nhau.

Các hệ thống này khác gì so với tự động hóa truyền thống

Tự động hóa truyền thống tuân theo các quy tắc tường minh và logic tất định. Tự động hóa quy trình bằng robot có thể mô phỏng thao tác nhấp chuột và nhập dữ liệu trên các giao diện đã biết. Một quy trình có thể kết hợp hình thức tự động hóa đó với các bước dựa trên mô hình. Tác tử có thêm quyền tùy nghi trong việc lựa chọn lộ trình.

Việc sử dụng mô hình không tự động biến một hệ thống thành hệ thống vận hành theo cơ chế tác tử. Một quy trình được lên lịch để gửi mọi tài liệu qua cùng một câu lệnh tóm tắt cố định vẫn là một quy trình.

Nên chọn phương án nào?

Tiếp theo, hãy cân nhắc mức độ rủi ro. Một tác tử nghiên cứu có tác động thấp có thể thực hiện nhiều bước trước khi được xem xét, trong khi tác tử tài chính hoặc hành chính nên dừng lại tại các điểm ra quyết định đã xác định. Nhãn kiến trúc không quyết định mức độ an toàn; điều đó phụ thuộc vào quyền hạn, khả năng đảo ngược và sự giám sát gắn với từng hành động.

Chọn trợ lý AI khi:

• người dùng có thông tin ngữ cảnh quan trọng mà hệ thống không thể nắm bắt đầy đủ;
• chất lượng mang tính chủ quan hoặc đòi hỏi đánh giá chuyên môn;
• nhiệm vụ ít khi phát sinh, có rủi ro cao hoặc khó đánh giá tự động;
• việc áp dụng phụ thuộc vào khả năng giúp mọi người hiểu và kiểm soát đầu ra.

Chọn quy trình khi:

• các bước và điểm ra quyết định đã được xác định;
• tính nhất quán, khả năng kiểm toán và tốc độ quan trọng hơn tính linh hoạt;
• có thể diễn đạt và kiểm thử trực tiếp các quy tắc kinh doanh;
• quy trình xử lý khối lượng lớn với số loại trường hợp ngoại lệ hạn chế.

Chọn tác tử khi:

• mục tiêu đã rõ nhưng lộ trình thực hiện thay đổi;
• hệ thống cần thu thập thông tin và phản hồi dựa trên những gì tìm được;
• việc lựa chọn công cụ và lập kế hoạch lại mang lại giá trị đáng kể.
• có thể đo lường thành công và khoanh vùng được các sự cố;
• chi phí và độ trễ phát sinh là hợp lý so với giá trị của nhiệm vụ.

Ví dụ thực tế: Xử lý sự cố CNTT

Một trợ lý đồng hành tóm tắt nhật ký, đề xuất các nguyên nhân có khả năng xảy ra và đưa ra lệnh chẩn đoán cho kỹ sư.

Một quy trình tuân theo sổ tay hướng dẫn: thu thập các chỉ số đã biết, khởi động lại dịch vụ khi đáp ứng những điều kiện xác định, kiểm tra tình trạng hoạt động và mở phiếu yêu cầu nếu bước kiểm tra không đạt.

Một tác nhân AI điều tra sự cố chưa từng gặp, quyết định cần kiểm tra dữ liệu đo từ xa nào, đưa ra các giả thuyết, chạy những công cụ chẩn đoán được phê duyệt, cập nhật kế hoạch và chuẩn bị hoặc thực hiện biện pháp khắc phục trong phạm vi quyền hạn được giao.

Một hệ thống hoàn thiện có thể kết hợp cả ba: quy trình xử lý các cảnh báo thường gặp, tác nhân điều tra những trường hợp ngoại lệ trong môi trường thử nghiệm biệt lập, còn trợ lý đồng hành giúp kỹ sư phê duyệt thay đổi cuối cùng trên hệ thống thực tế.

Đánh đổi giữa chi phí và độ tin cậy

Chi phí tăng theo số lượt trao đổi với mô hình, lệnh gọi công cụ, lần thử lại và bộ đánh giá. Độ tin cậy có thể tăng hoặc giảm: các bước kiểm tra bổ sung có thể phát hiện lỗi, nhưng thêm bước cũng tạo thêm cơ hội phát sinh sự cố. Hãy đo lường kết quả toàn diện của nhiệm vụ qua nhiều lần chạy, thay vì cho rằng quyền tự chủ cao hơn hoặc có nhiều tác nhân hơn thì hiệu suất tự động sẽ tốt hơn.

Trợ lý đồng hành thường cần ít bước tự chủ hơn nhưng tiêu tốn sự chú ý của con người. Quy trình đòi hỏi nhiều công sức thiết kế ban đầu hơn nhưng hoạt động hiệu quả khi mở rộng quy mô. Tác nhân có thể giảm bớt việc phối hợp thủ công trong các công việc phức tạp, nhưng mỗi bước lập kế hoạch, lệnh gọi công cụ, lần thử lại và bước xác minh đều làm tăng độ trễ và chi phí.

Độ tin cậy cũng thay đổi. Có thể kiểm thử đơn vị một quy trình tại các nhánh đã biết. Một tác nhân có thể đi theo những lộ trình khác nhau qua các lần chạy lặp lại. Vì vậy, việc đánh giá tác nhân cần có các nhiệm vụ đại diện, nhiều lần thử, kiểm tra lộ trình và người chấm điểm với tiêu chí rõ ràng, như được mô tả trong hướng dẫn của Anthropic về làm rõ cách đánh giá tác nhân.

Quản trị nên dựa trên năng lực, không phải thương hiệu

Các tổ chức nên kiểm kê những gì hệ thống thực sự có thể làm: hệ thống có thể đọc dữ liệu nào, gọi những công cụ nào, đưa ra những quyết định nào, có giao tiếp với bên ngoài hay không và những hành động nào có thể đảo ngược.

Một “trợ lý đồng hành” được phép gửi tin nhắn hoặc thay đổi hồ sơ cần có biện pháp kiểm soát đối với những hành động đó. Một “tác nhân” chỉ được phép nghiên cứu trong môi trường thử nghiệm biệt lập có thể gây ra ít rủi ro vận hành hơn. Tên gọi chỉ là tiếp thị; quyền hạn mới là yếu tố có ý nghĩa.

Cách đọc sơ đồ về tác nhân AI

Hãy đọc sơ đồ về tác nhân AI từ đầu vào được đánh số đến kết quả có thể quan sát. Phần so sánh làm rõ ranh giới phân biệt tác nhân AI với lối tắt gần nhất, còn đường kiểm soát chỉ ra nơi cần kiểm tra quyền hạn hoặc mức độ không chắc chắn trước khi phát sinh hậu quả trong thế giới thực. Các nhãn vẫn là văn bản thông thường trên trang có bố cục thích ứng, để có thể được dịch, xuống dòng và tự điều chỉnh bố cục trên điện thoại.

Với chủ đề “Tác nhân AI, trợ lý đồng hành và quy trình: Khác nhau thế nào?”, hình minh họa là bản đồ chứ không phải lời bảo đảm. Một hệ thống triển khai thực tế có thể kết hợp các giai đoạn, lặp lại một bước hoặc bổ sung điểm phê duyệt của con người. Điều quan trọng là nhóm có thể xác định những chức năng tương ứng trong hệ thống đã triển khai, chỉ định người chịu trách nhiệm cho từng ranh giới và kiểm thử quá trình chuyển tiếp giữa chúng hay không. Nếu không thể quan sát hoặc đo lường một giai đoạn, sẽ khó chẩn đoán các sự cố xảy ra ở đó.

Những điều cần nhớ về tác nhân AI, trợ lý đồng hành và quy trình

Trợ lý đồng hành, quy trình và tác nhân là ba mô hình phân chia công việc giữa con người, mã và mô hình. Trợ lý đồng hành để con người nắm quyền điều khiển. Quy trình giữ lộ trình trong mã. Tác nhân có quyền tự quyết có giới hạn đối với lộ trình.

Thiết kế tốt nhất thường là hệ thống ít tự chủ nhất nhưng vẫn đáng tin cậy trong việc mang lại giá trị cần thiết. Hãy dùng mã cố định cho những bước đã biết, khả năng phán đoán của mô hình khi thực sự có sự mơ hồ và sự phê duyệt của con người khi hậu quả đủ nghiêm trọng để cần đến điều đó.