Gọi công cụ là gì? Cách mô hình AI biến quyết định thành hành động

Gọi công cụ là cơ chế cho phép mô hình AI yêu cầu một hàm cụ thể hoặc khả năng bên ngoài bằng cách sử dụng các đối số có cấu trúc. Cơ chế này biến quyết định của mô hình thành một hành động mà máy có thể đọc được, giúp phần mềm tìm kiếm, tính toán, truy xuất hồ sơ, chạy mã hoặc cập nhật một hệ thống khác mà không cần yêu cầu mô hình mô phỏng thao tác đó bằng văn xuôi.

Gọi công cụ là nền tảng của các tác nhân AI hiện đại. Mô hình có thể suy luận về việc cần làm, nhưng ứng dụng bao quanh nó quyết định liệu hành động được yêu cầu có hợp lệ, được cấp quyền, được thực thi và được trả lại cho mô hình để đưa ra quyết định tiếp theo hay không.

Vì sao mô hình cần công cụ

Mô hình ngôn ngữ có những giới hạn đáng kể. Kiến thức mà mô hình đã học có mốc chốt dữ liệu huấn luyện; mô hình không thể thực hiện chính xác mọi phép tính, không tự động biết dữ liệu riêng tư hoặc dữ liệu trực tiếp, và không thể tác động đến các hệ thống phần mềm chỉ bằng cách tạo văn bản.

Công cụ mở rộng khả năng của mô hình, chẳng hạn như:

• tìm kiếm thông tin mới nhất;
• truy vấn cơ sở dữ liệu hoặc kho tri thức;
• chạy mã hoặc thực hiện phép tính chính xác;
• đọc và ghi tệp;
• tạo phiếu yêu cầu, sự kiện, tin nhắn hoặc giao dịch;
• điều khiển trình duyệt hoặc giao diện người dùng khác.

Công cụ không khiến mô hình vốn dĩ trở nên hiểu biết hơn. Nó cung cấp cho ứng dụng một cách có kiểm soát để thu thập bằng chứng hoặc thực hiện một thao tác.

Cấu tạo của một định nghĩa công cụ

Mô tả công cụ cần nêu rõ cả tiêu chí lựa chọn phù hợp lẫn không phù hợp. “Tìm kiếm hồ sơ” là mô tả sơ sài vì mô hình không thể biết công cụ tìm kiếm khách hàng, tài liệu hay trên web công khai. “Tìm kiếm tài khoản khách hàng đã được phê duyệt theo tên công ty hoặc mã tài khoản; không dùng để nghiên cứu web nói chung” giúp mô hình hiểu rõ phạm vi sử dụng.

Ứng dụng mô tả từng công cụ hiện có bằng một cấu trúc thống nhất. Một định nghĩa thường bao gồm:

• Tên: một mã định danh ổn định, chẳng hạn như get_weather hoặc create_support_ticket.
• Mô tả: giải thích chính xác công cụ làm gì và khi nào nên sử dụng.
• Lược đồ đầu vào: các đối số bắt buộc và không bắt buộc, kiểu dữ liệu của chúng và những giá trị được phép.
• Quy ước đầu ra: tài liệu mô tả kết quả hoặc trạng thái lỗi mà ứng dụng sẽ trả về.

Nhiều giao diện công cụ sử dụng Lược đồ JSON hoặc một dạng biểu diễn có kiểu dữ liệu liên quan. Lược đồ có phạm vi hẹp và không mơ hồ giúp giảm nguy cơ mô hình tự tạo tham số hoặc kết hợp những lựa chọn không tương thích.

Vòng lặp gọi công cụ hoạt động như thế nào

Hãy xem xét tình huống người dùng hỏi: “Thứ Ba tuần tới tôi có cuộc họp nào ở Manchester không, và trời có mưa không?”

1. Ứng dụng cung cấp ngữ cảnh. Ứng dụng gửi yêu cầu của người dùng, chỉ dẫn hệ thống và định nghĩa các công cụ được chọn cho mô hình.
2. Mô hình chọn một công cụ. Mô hình có thể yêu cầu tra cứu lịch bằng cách chỉ định khoảng thời gian và bộ lọc địa điểm.
3. Ứng dụng xác thực yêu cầu. Ứng dụng kiểm tra tên công cụ, các đối số bắt buộc, phạm vi quyền hạn và quy tắc nghiệp vụ.
4. Môi trường thực thi chạy công cụ. Môi trường này gọi hệ thống lịch và trả về các sự kiện phù hợp hoặc thông báo lỗi cụ thể.
5. Mô hình nhận kết quả. Mô hình thấy có một cuộc họp ở Manchester và yêu cầu dùng công cụ thời tiết cho thành phố đó vào ngày đã nêu.
6. Ứng dụng lặp lại các bước kiểm tra và thực thi.
7. Mô hình đưa ra câu trả lời cuối cùng. Mô hình tổng hợp các kết quả đã được xác minh và nêu những chi tiết liên quan.

Mô hình đề xuất các lệnh gọi; ứng dụng thực thi chúng. Ranh giới đó là một trong những điều quan trọng nhất cần biết về việc sử dụng công cụ. Môi trường thực thi an toàn không bao giờ mặc nhiên xem đầu ra của mô hình là mã đã được cấp quyền thực thi.

Có thể để mô hình tự chọn công cụ hoặc giới hạn lựa chọn

Ứng dụng có thể cho phép mô hình quyết định có cần dùng công cụ hay không, yêu cầu sử dụng một công cụ cụ thể, giới hạn lựa chọn trong một nhóm công cụ hoặc cấm dùng công cụ khi tạo câu trả lời. Những tùy chọn này phù hợp với các quy trình làm việc khác nhau.

Việc tự động lựa chọn phù hợp với các trợ lý linh hoạt. Yêu cầu chọn một công cụ cụ thể hữu ích cho những tác vụ như trích xuất dữ liệu có cấu trúc, trong đó mọi yêu cầu đều cần được xử lý bằng một hàm nhất định. Giới hạn nhóm công cụ có thể dùng giúp giảm nhầm lẫn và rủi ro lộ thông tin: bước đọc hóa đơn không cần quyền truy cập vào công cụ gửi email.

Gọi công cụ và đầu ra có cấu trúc

Cả hai tính năng đều yêu cầu mô hình tạo dữ liệu khớp với một lược đồ, nhưng mục đích của chúng khác nhau.

Đầu ra có cấu trúc định dạng câu trả lời của mô hình để ứng dụng sử dụng—ví dụ: trích xuất tên sản phẩm, số lượng và phân loại rủi ro. Gọi công cụ yêu cầu ứng dụng thực hiện một thao tác rồi trả về kết quả quan sát được.

Kết quả có cấu trúc có thể kết thúc tương tác. Lệnh gọi công cụ thường tiếp nối một vòng lặp: yêu cầu, thực thi, nhận kết quả và quyết định lại.

Gọi công cụ và API

API là giao diện mà phần mềm dùng để giao tiếp với một hệ thống khác. Gọi công cụ là lớp ra quyết định dành cho mô hình, có nhiệm vụ chọn thao tác và cung cấp các đối số. Phần triển khai công cụ thường bao bọc một API, nhưng cũng có thể bao bọc truy vấn cơ sở dữ liệu, hàm cục bộ, chương trình dòng lệnh hoặc thao tác trên giao diện người dùng.

Những công cụ tốt nhất hiếm khi cung cấp trực tiếp toàn bộ một API phức tạp. Thay vào đó, chúng cung cấp các thao tác hướng đến nhiệm vụ với ngữ nghĩa rõ ràng, phạm vi giới hạn và kết quả mà mô hình có thể diễn giải. Công cụ “Hoàn tiền đơn hàng” với các thông tin chính sách đã được xác thực sẽ an toàn và dễ sử dụng hơn một công cụ yêu cầu chung có thể gọi bất kỳ điểm cuối nào.

Điều gì tạo nên một công cụ AI tốt?

Mục đích rõ ràng. Tên và nội dung mô tả cần phân biệt công cụ với những tính năng tương tự. Các công cụ có chức năng chồng chéo khiến việc lựa chọn thiếu nhất quán.

Đầu vào gọn, có kiểu dữ liệu. Cần nêu rõ các trường bắt buộc, đồng thời nên dùng các giá trị giới hạn theo danh sách cho phép khi có thể. Tránh buộc mô hình phải tạo các dữ liệu đầu vào lớn, dễ xảy ra lỗi.

Đầu ra hữu ích. Trả về đủ thông tin để hỗ trợ quyết định tiếp theo, bao gồm mã định danh ổn định và trạng thái thành công hoặc thất bại được nêu rõ. Không che giấu một phần lỗi trong thông báo thân thiện.

Đảm bảo tính lũy đẳng khi có thể. Thử lại một thao tác đọc thường an toàn; thử lại thao tác thanh toán hoặc gửi tin nhắn có thể khiến hành động bị lặp. Các công cụ có tác động lớn nên dùng khóa lũy đẳng hoặc biện pháp bảo vệ khác.

Quyền hạn giới hạn. Công cụ tìm kiếm chỉ đọc không nên có quyền ghi. Thông tin xác thực và quyền truy cập phải được xử lý trong môi trường thực thi, không phải trong lời nhắc.

Các lỗi thường gặp khi gọi công cụ

Việc thử lại cần có chính sách riêng. Thử lại một lượt tìm kiếm chỉ đọc có thể vô hại; nhưng thử lại một công cụ thanh toán hoặc gửi tin nhắn có thể khiến một hành động không thể đảo ngược bị thực hiện hai lần. Khóa chống xử lý trùng lặp, mã định danh giao dịch và trạng thái xác nhận rõ ràng giúp môi trường chạy xác định liệu lần thử đầu tiên đã thất bại hay chỉ không trả về phản hồi.

• Chọn sai công cụ: mô hình chọn một chức năng có phần mô tả tương tự.
• Đối số không hợp lệ: thiếu trường bắt buộc, trường được định dạng sai hoặc không phù hợp về mặt ngữ nghĩa.
• Kết quả bịa đặt: mô hình trả lời như thể công cụ đã hoạt động thành công mà không chờ kết quả quan sát được.
• Lỗi không rõ nghĩa: công cụ trả về kết quả trống và mô hình hiểu đó là “không tìm thấy bản ghi nào”.
• Chuỗi gọi không an toàn: nội dung không đáng tin cậy từ một công cụ khiến mô hình gọi một công cụ khác không phù hợp.
• Tác dụng phụ bị lặp: hết thời gian chờ khiến hệ thống thử lại sau khi hành động đầu tiên đã thành công.
• Quá tải công cụ: quá nhiều định nghĩa không liên quan làm giảm độ chính xác khi lựa chọn và chiếm dụng ngữ cảnh.

Quyền truy cập và sự phê duyệt của con người

Có thể phân nhóm công cụ theo mức độ rủi ro. Hoạt động truy xuất chỉ đọc có thể được thực hiện tự động trong phạm vi dữ liệu hạn chế. Các bản nháp có thể hoàn tác hoặc những thay đổi được đề xuất có thể được thực hiện kèm ghi nhật ký. Những hành động bên ngoài, liên quan đến tài chính, có tính phá hủy hoặc mang ý nghĩa pháp lý nhìn chung cần có bước phê duyệt.

Việc phê duyệt phải dựa trên đầy đủ thông tin. Giao diện xác nhận cần hiển thị chính xác hành động, đối tượng, các thông số quan trọng và hậu quả có thể xảy ra. Câu hỏi “Cho phép dùng công cụ?” là chưa đủ nếu công cụ sẽ gửi email cho 5.000 người nhận hoặc xóa một tài nguyên trong môi trường sản xuất.

Bài tổng quan của OpenAI về các công cụ xây dựng tác nhân nhấn mạnh rằng việc sử dụng công cụ cần nằm trong một nền tảng tác nhân có khả năng theo dõi và quan sát. Các cơ chế kiểm soát đi kèm không phải là phần bổ sung tùy chọn; chính chúng giúp vận hành các hành động do mô hình lựa chọn.

Cách đánh giá việc sử dụng công cụ

Hãy đánh giá riêng việc lựa chọn công cụ, các đối số, quá trình thực thi, cách diễn giải và mức độ hoàn thành nhiệm vụ cuối cùng. Mô hình có thể chọn đúng công cụ nhưng điền sai trường, hoặc nhận được kết quả chính xác nhưng rút ra kết luận sai. Ghi nhật ký toàn bộ dấu vết hoạt động giúp nhận diện các dạng lỗi này và ngăn một câu trả lời cuối cùng nghe có vẻ thuyết phục che giấu hành vi không an toàn hoặc lãng phí.

Câu trả lời cuối cùng có thể trông chính xác ngay cả khi tác nhân đã chọn một quy trình kém hiệu quả hoặc không an toàn. Vì vậy, việc đánh giá cần đo lường cả kết quả lẫn tiến trình.

Các chỉ số hữu ích gồm độ chính xác khi lựa chọn công cụ, tính hợp lệ của đối số, mức độ hoàn thành nhiệm vụ, số lượt gọi, độ trễ, chi phí, khả năng khắc phục lỗi, việc truy cập không cần thiết vào dữ liệu nhạy cảm, tác dụng phụ bị lặp và mức độ tuân thủ các quy tắc phê duyệt. Hãy chạy thử nhiều lần vì hành vi của mô hình có thể thay đổi.

Cách đọc sơ đồ gọi công cụ

Hãy đọc sơ đồ gọi công cụ từ đầu vào được đánh số đến kết quả có thể quan sát được. Phần so sánh làm rõ ranh giới phân biệt việc gọi công cụ với lối tắt gần nhất, còn luồng kiểm soát đánh dấu nơi cần kiểm tra quyền hạn hoặc mức độ bất định trước khi phát sinh hậu quả trong thế giới thực. Các nhãn vẫn là văn bản thông thường trên trang có bố cục thích ứng, để có thể được dịch, xuống dòng và sắp xếp lại trên điện thoại.

Với bài viết “Gọi công cụ là gì? Cách mô hình AI biến quyết định thành hành động”, hình minh họa là một bản đồ, chứ không phải sự bảo đảm. Một cách triển khai thực tế có thể gộp các giai đoạn, lặp lại một bước hoặc bổ sung điểm phê duyệt của con người. Điều quan trọng là nhóm có thể xác định những chức năng tương ứng trong hệ thống đã triển khai hay không, chỉ định người phụ trách cho từng ranh giới và kiểm thử quá trình chuyển tiếp giữa chúng. Nếu không thể quan sát hoặc đo lường một giai đoạn, sẽ rất khó chẩn đoán các lỗi xảy ra tại đó.

Những điều cần ghi nhớ về gọi công cụ

Gọi công cụ là cầu nối giữa khả năng phán đoán của mô hình và hành động của phần mềm. Mô hình xác định một chức năng và đề xuất các đầu vào có cấu trúc; ứng dụng xác thực, cấp quyền, thực thi rồi trả về kết quả quan sát được.

Các công cụ được thiết kế tốt giúp hệ thống AI cập nhật hơn, có năng lực hơn và hữu ích hơn. Công cụ được thiết kế kém biến những sai sót thông thường của mô hình thành hậu quả bên ngoài. Công việc kỹ thuật then chốt nằm ở lược đồ, quyền truy cập, xử lý lỗi, khả năng quan sát và các ranh giới kiểm soát quá trình thực thi.