Apa Itu Pemanggilan Alat? Bagaimana Model AI Mengubah Keputusan Menjadi Tindakan

Pemanggilan alat adalah mekanisme yang memungkinkan model AI meminta fungsi tertentu atau kemampuan eksternal dengan menggunakan argumen terstruktur. Mekanisme ini mengubah keputusan model menjadi tindakan yang dapat dibaca mesin, sehingga perangkat lunak dapat melakukan pencarian, perhitungan, pengambilan data, menjalankan kode, atau memperbarui sistem lain tanpa meminta model menirukan operasi tersebut dalam bentuk prosa.

Pemanggilan alat merupakan fondasi bagi agen AI modern. Model dapat menalar apa yang seharusnya dilakukan, tetapi aplikasi yang menaunginya menentukan apakah tindakan yang diminta valid, diizinkan, dijalankan, dan hasilnya dikembalikan kepada model untuk mengambil keputusan berikutnya.

Mengapa Model Membutuhkan Alat

Model bahasa memiliki keterbatasan penting. Pengetahuan yang dipelajarinya memiliki batas waktu pelatihan, model tidak selalu dapat melakukan setiap perhitungan dengan andal, tidak secara otomatis mengetahui data privat atau terkini, dan tidak dapat memengaruhi sistem perangkat lunak hanya dengan menghasilkan teks.

Alat memperluas kemampuan model, antara lain untuk:

• mencari informasi terkini;
• mengajukan kueri ke basis data atau basis pengetahuan;
• menjalankan kode atau melakukan perhitungan secara akurat;
• membaca dan menulis berkas;
• membuat tiket, acara, pesan, atau transaksi;
• mengoperasikan peramban atau antarmuka pengguna lainnya.

Alat tidak serta-merta membuat model lebih berpengetahuan. Alat memberi aplikasi cara yang terkendali untuk memperoleh bukti atau melakukan suatu operasi.

Anatomi Definisi Alat

Deskripsi alat sebaiknya menjelaskan kriteria pemilihan, baik yang positif maupun negatif. “Mencari data” kurang jelas karena model tidak dapat mengetahui apakah alat itu mencari data pelanggan, dokumen, atau informasi di web publik. “Cari akun pelanggan yang disetujui berdasarkan nama perusahaan atau ID akun; jangan gunakan untuk riset web umum” memberikan batasan yang dapat dipahami model.

Aplikasi mendeskripsikan setiap alat yang tersedia dalam format terstruktur. Definisi biasanya mencakup:

• Nama: pengenal tetap, seperti get_weather atau create_support_ticket.
• Deskripsi: penjelasan tepat tentang fungsi alat dan kapan alat tersebut sebaiknya digunakan.
• Skema input: argumen wajib dan opsional, tipe datanya, serta nilai yang diizinkan.
• Kontrak keluaran: dokumentasi tentang hasil atau status kesalahan yang akan dikembalikan aplikasi.

Banyak antarmuka alat menggunakan Skema JSON atau representasi bertipe lainnya. Skema yang terbatas dan tidak ambigu mengurangi kemungkinan model mengarang parameter atau menggabungkan pilihan yang tidak kompatibel.

Cara Kerja Siklus Pemanggilan Alat

Bayangkan seorang pengguna bertanya, “Apakah saya punya rapat di Manchester Selasa depan, dan apakah akan turun hujan?”

1. Aplikasi menyediakan konteks. Aplikasi mengirimkan permintaan pengguna, instruksi sistem, dan definisi alat yang dipilih kepada model.
2. Model memilih alat. Model dapat meminta pencarian kalender dengan rentang tanggal dan filter lokasi.
3. Aplikasi memvalidasi permintaan. Aplikasi memeriksa nama alat, argumen wajib, cakupan izin, dan aturan bisnis.
4. Runtime menjalankan alat. Runtime memanggil sistem kalender dan mengembalikan acara yang cocok atau pesan kesalahan yang jelas.
5. Model mengamati hasilnya. Model melihat bahwa ada rapat di Manchester, lalu meminta alat cuaca untuk kota dan tanggal tersebut.
6. Aplikasi mengulangi pemeriksaan dan eksekusi.
7. Model memberikan jawaban akhir. Model menggabungkan hasil yang telah diverifikasi dan menyebutkan detail yang relevan.

Model mengusulkan pemanggilan; aplikasi yang menjalankannya. Batas ini merupakan salah satu hal terpenting dalam penggunaan alat. Runtime yang aman tidak pernah menganggap keluaran model sebagai kode yang otomatis diizinkan.

Pemilihan Alat Bisa Otomatis atau Dibatasi

Aplikasi dapat membiarkan model menentukan apakah alat diperlukan, mewajibkan penggunaan alat tertentu, membatasi pilihan pada sebagian alat, atau melarang penggunaan alat untuk suatu respons. Pilihan-pilihan tersebut berguna untuk alur kerja yang berbeda.

Pemilihan otomatis mendukung asisten yang fleksibel. Pemilihan wajib berguna untuk tugas seperti ekstraksi terstruktur, yang mengharuskan setiap permintaan diproses melalui fungsi tertentu. Membatasi pilihan yang tersedia dapat mengurangi kebingungan dan risiko: langkah membaca faktur tidak memerlukan akses ke alat pengiriman email.

Pemanggilan Alat vs. Keluaran Terstruktur

Kedua fitur meminta model menghasilkan data yang sesuai dengan skema, tetapi tujuannya berbeda.

Keluaran terstruktur memformat jawaban model untuk aplikasi—misalnya, mengekstrak nama produk, jumlah, dan klasifikasi risiko. Pemanggilan alat meminta aplikasi menjalankan suatu operasi dan mengembalikan hasil pengamatan.

Hasil terstruktur dapat mengakhiri interaksi. Pemanggilan alat biasanya melanjutkan suatu siklus: meminta, menjalankan, mengamati, lalu memutuskan kembali.

Pemanggilan Alat vs. API

API adalah antarmuka yang digunakan perangkat lunak untuk berkomunikasi dengan sistem lain. Pemanggilan alat adalah lapisan pengambilan keputusan yang berhadapan dengan model, yang memilih operasi dan memberikan argumen. Implementasi alat sering kali membungkus API, tetapi dapat pula membungkus kueri basis data, fungsi lokal, program baris perintah, atau tindakan antarmuka pengguna.

Alat terbaik biasanya tidak membuka seluruh API yang kompleks secara langsung. Alat tersebut menyediakan operasi berorientasi tugas dengan semantik yang jelas, cakupan terbatas, dan hasil yang dapat ditafsirkan model. “Kembalikan dana pesanan” dengan masukan kebijakan yang telah divalidasi lebih aman dan mudah digunakan daripada alat permintaan generik yang dapat memanggil endpoint apa pun.

Apa yang Membuat Alat AI yang Baik?

Tujuan yang jelas. Nama dan deskripsi harus membedakan alat tersebut dari kemampuan serupa. Alat-alat yang fungsinya tumpang tindih dapat menyebabkan pemilihan yang tidak konsisten.

Masukan bertipe yang ringkas. Kolom wajib harus dinyatakan secara jelas, dan nilai yang dibatasi sebaiknya menggunakan enumerasi jika memungkinkan. Jangan memaksa model menyusun payload besar yang rentan mengalami masalah.

Keluaran yang bermanfaat. Kembalikan informasi secukupnya untuk mendukung keputusan berikutnya, termasuk pengenal yang stabil dan status keberhasilan atau kegagalan yang jelas. Jangan menyamarkan kegagalan sebagian dalam pesan yang terdengar ramah.

Idempotensi jika memungkinkan. Mengulangi operasi baca biasanya aman; mengulangi pembayaran atau pengiriman pesan dapat menggandakan tindakan tersebut. Alat yang berdampak besar harus menggunakan kunci idempotensi atau perlindungan lainnya.

Izin terbatas. Alat pencarian hanya-baca tidak boleh mewarisi akses tulis. Kredensial dan otorisasi harus dikelola di runtime, bukan di dalam prompt.

Kegagalan Umum dalam Pemanggilan Alat

Percobaan ulang memerlukan kebijakannya sendiri. Mengulangi pencarian hanya-baca mungkin tidak berbahaya; mengulangi pembayaran atau penggunaan alat untuk mengirim pesan dapat menggandakan tindakan yang tidak dapat dibatalkan. Kunci idempotensi, pengenal transaksi, dan status konfirmasi yang eksplisit memungkinkan sistem saat runtime mengetahui apakah upaya pertama gagal atau hanya tidak berhasil mengembalikan respons.

• Alat yang keliru: model memilih kemampuan dengan deskripsi yang mirip.
• Argumen tidak valid: kolom wajib tidak diisi, formatnya keliru, atau nilainya tidak masuk akal secara semantis.
• Hasil halusinasi: model menjawab seolah-olah alat berhasil, tanpa menunggu hasil pengamatan.
• Kesalahan ambigu: alat mengembalikan keluaran kosong, lalu model menganggapnya sebagai “tidak ada catatan yang ditemukan”.
• Rangkaian yang tidak aman: konten yang tidak tepercaya dari satu alat membujuk model untuk menggunakan alat lain secara tidak semestinya.
• Dampak samping ganda: waktu tunggu yang habis memicu percobaan ulang setelah tindakan pertama sebenarnya berhasil.
• Alat berlebihan: terlalu banyak definisi yang tidak relevan mengurangi ketepatan pemilihan dan menghabiskan kapasitas konteks.

Izin dan Persetujuan Manusia

Alat dapat dikelompokkan berdasarkan risikonya. Pengambilan data hanya-baca dapat dijalankan secara otomatis dalam cakupan data yang terbatas. Draf atau usulan perubahan yang dapat dibatalkan dapat dijalankan dengan pencatatan. Tindakan eksternal, finansial, destruktif, atau yang memiliki konsekuensi hukum umumnya harus melalui tahap persetujuan.

Persetujuan harus diberikan berdasarkan informasi yang memadai. Antarmuka konfirmasi harus menampilkan tindakan yang tepat, sasaran, parameter penting, dan kemungkinan konsekuensinya. Pertanyaan “Izinkan alat?” tidaklah cukup jika alat tersebut akan mengirim email kepada 5.000 penerima atau menghapus sumber daya produksi.

Ulasan OpenAI tentang alat untuk membangun agen menekankan bahwa penggunaan alat merupakan bagian dari platform agen yang dilengkapi pelacakan dan observabilitas. Kontrol pendukung bukanlah tambahan opsional; kontrol inilah yang membuat tindakan pilihan model dapat dijalankan.

Cara Mengevaluasi Penggunaan Alat

Evaluasi pemilihan alat, argumen, eksekusi, interpretasi, dan keberhasilan tugas akhir secara terpisah. Model dapat memilih alat yang tepat tetapi mengisi kolom yang salah, atau menerima hasil yang benar tetapi menarik kesimpulan yang keliru. Mencatat seluruh jejak proses akan memperjelas jenis-jenis kegagalan tersebut dan mencegah jawaban akhir yang meyakinkan menyamarkan perilaku yang tidak aman atau boros.

Jawaban akhir dapat terlihat benar meskipun agen memilih jalur yang tidak efisien atau tidak aman. Karena itu, evaluasi harus mengukur hasil sekaligus proses yang ditempuh.

Metrik yang berguna mencakup ketepatan pemilihan alat, validitas argumen, penyelesaian tugas, jumlah pemanggilan, latensi, biaya, pemulihan dari kesalahan, akses yang tidak perlu ke data sensitif, dampak samping ganda, dan kepatuhan terhadap aturan persetujuan. Lakukan uji berulang karena perilaku model dapat bervariasi.

Cara Membaca Diagram Pemanggilan Alat

Baca diagram Pemanggilan Alat dari masukan bernomor menuju hasil yang dapat diamati. Perbandingan tersebut menyoroti batas yang membedakan Pemanggilan Alat dari jalan pintas terdekatnya, sementara jalur kontrol menunjukkan bagian yang harus diperiksa kewenangan atau ketidakpastiannya sebelum menimbulkan konsekuensi di dunia nyata. Label tetap berupa teks halaman responsif biasa agar dapat diterjemahkan, berpindah baris, dan menyesuaikan tata letak di ponsel.

Untuk artikel Apa Itu Pemanggilan Alat? Bagaimana Model AI Mengubah Keputusan Menjadi Tindakan, visual ini berfungsi sebagai peta, bukan jaminan. Implementasi nyata dapat menggabungkan beberapa tahap, mengulangi satu langkah, atau menambahkan batas persetujuan manusia. Yang penting, tim dapat mengenali fungsi yang sama dalam sistem yang diterapkan, menetapkan penanggung jawab untuk setiap batas, dan menguji transisi di antaranya. Jika suatu tahap tidak dapat diamati atau diukur, kegagalan pada tahap itu akan sulit didiagnosis.

Hal yang Perlu Diingat tentang Pemanggilan Alat

Pemanggilan alat menjembatani penilaian model dengan tindakan perangkat lunak. Model mengidentifikasi suatu kemampuan dan mengusulkan masukan terstruktur; aplikasi memvalidasi, memberikan otorisasi, menjalankan tindakan, lalu mengembalikan hasil pengamatan.

Alat yang dirancang dengan baik membuat sistem AI lebih mutakhir, cakap, dan berguna. Alat yang dirancang dengan buruk mengubah kesalahan model biasa menjadi konsekuensi eksternal. Pekerjaan rekayasa yang paling menentukan terletak pada skema, izin, penanganan kesalahan, observabilitas, dan batasan dalam pelaksanaan.