Bagaimana Agen AI Bekerja: Model, Alat, Memori, dan Kontrol Loop

Sebuah agen AI bekerja dengan menggabungkan model dengan instruksi, alat, memori, dan kontrol loop yang berulang-ulang memutuskan apa yang harus dilakukan selanjutnya. Model menyediakan penilaian dan kemampuan bahasa, sementara perangkat lunak di sekitarnya mengubah kemampuan tersebut menjadi proses berstatus yang dapat bertindak, memeriksa hasil, memulihkan dari kesalahan, dan berhenti.

Memahami arsitektur ini lebih berguna daripada memperlakukan agen sebagai satu objek cerdas tunggal. Sebagian besar keberhasilan dan kegagalan muncul dari cara komponen berinteraksi: model yang luar biasa dapat terhambat oleh alat yang samar, memori yang usang, izin berlebihan, atau kontrol loop yang tidak memiliki definisi penyelesaian yang dapat diandalkan.

Lima Komponen Inti Sebuah Agen AI

1. Model

Model menafsirkan tujuan, melakukan penalaran atas konteks yang tersedia, dan memilih sebuah tindakan. Pada banyak agen saat ini, ini adalah model bahasa besar yang mampu mengikuti instruksi dan menghasilkan panggilan alat terstruktur serta bahasa alami.

Model yang paling mampu tidak otomatis menjadi pilihan terbaik untuk setiap langkah. Sistem dapat mengarahkan perencanaan yang sulit ke model yang lebih kuat, menggunakan model yang lebih cepat untuk klasifikasi, dan mengandalkan kode deterministik untuk validasi. Campuran ini dapat meningkatkan kecepatan, biaya, dan keandalan.

2. Instruksi

Instruksi menentukan peran, batas, prioritas, dan persyaratan output agen. Instruksi dapat mencakup prompt sistem, konteks spesifik tugas, kebijakan, contoh, deskripsi alat, dan kriteria penghentian.

Instruksi yang baik bersifat operasional. Mereka memberi tahu agen bukti apa yang diperlukan, kapan harus meminta persetujuan, sumber mana yang dapat diterima, dan bagaimana mengenali penyelesaian. Aturan yang samar atau kontradiktif memaksa model menebak, menghasilkan inkonsistensi pada tugas yang tampaknya serupa.

3. Alat

Alat menghubungkan model dengan kemampuan di luar konteksnya saat ini. Sebuah alat dapat mencari di web, mengambil catatan pelanggan, menjalankan kode, menanyakan basis data, mengendalikan peramban, atau membuat acara kalender.

Model biasanya tidak mengeksekusi fungsi tersebut secara langsung. Ia memilih alat yang dinamakan dan mengusulkan argumen terstruktur. Runtime agen memvalidasi permintaan itu, memeriksa izin, mengeksekusi operasi, dan mengembalikan hasil. Pemisahan ini penting: ia memberi perangkat lunak kesempatan menolak tindakan yang salah format atau tidak aman sebelum memengaruhi dunia luar.

4. Status dan Memori

Status adalah informasi yang dibutuhkan agen selama proses berjalan: tujuan, percakapan, rencana, observasi, keluaran alat, dan langkah yang selesai. Memori memperluas konsep itu dengan menyimpan informasi berguna di luar konteks langsung, seperti preferensi sebelumnya, fakta berulang, atau pelajaran dari tugas terdahulu.

Memori yang lebih banyak tidak selalu lebih baik. Catatan yang tidak relevan mengonsumsi konteks dan dapat mengarahkan model pada asumsi kedaluwarsa. Sistem memori yang efektif memutuskan apa yang disimpan, bagaimana mengorganisasikannya, kapan mengambilnya, dan bagaimana menangani informasi yang bertentangan atau kedaluwarsa.

5. Kontrol Loop

Kontrol loop adalah lapisan orkestrasi yang menjaga proses tetap berjalan. Ia mengirim status saat ini ke model, menerima tindakan yang diusulkan, menjalankan alat yang disetujui, mencatat observasi, dan memanggil kembali model.

Anthropic menggambarkan agen sebagai model bahasa yang ditingkatkan yang beroperasi dalam loop dengan kemampuan seperti penarikan, alat, dan memori dalam panduannya untuk membangun agen yang efektif. OpenAI juga menggambarkan eksekusi agen sebagai interaksi berkelanjutan antara model, alatnya, dan lingkungan dalam From Model to Agent.

Antarmuka Sama Pentingnya dengan Komponen

Diagram arsitektur dapat membuat setiap komponen tampak terpisah dengan bersih, tetapi keandalan nyata bergantung pada kontrak di antara mereka. Model membutuhkan deskripsi alat yang membedakan kemampuan serupa. Runtime membutuhkan argumen yang bertipe dan status kesalahan yang eksplisit. Penarikan memori membutuhkan asal‑usul dan informasi kebaruan. Pemeriksa penyelesaian membutuhkan kriteria yang dapat diuji, bukan perasaan samar bahwa jawaban sudah cukup baik.

Pertimbangkan alat pencarian yang mengembalikan daftar kosong. Hasil itu dapat berarti tidak ada catatan yang relevan, kueri salah format, pengguna tidak memiliki izin, atau layanan mengalami timeout. Jika alat menggabungkan keempat kondisi tersebut menjadi satu output, model tidak dapat beralasan secara andal tentang apa yang terjadi. Antarmuka yang dirancang baik mengembalikan bukti terstruktur: status, sumber, timestamp, kueri, jumlah hasil, dan kesalahan yang dapat dibaca mesin bila diperlukan.

Prinsip yang sama berlaku untuk konteks. Instruksi, catatan otoritatif, potongan yang diambil, catatan yang dibuat model, dan konten eksternal yang tidak dipercaya tidak boleh diperlakukan sebagai teks yang setara. Menandai sumber dan otoritasnya membantu runtime menegakkan kebijakan dan membantu model menilai bukti dengan tepat. Ini adalah bentuk praktis dari rekayasa konteks: memutuskan tidak hanya informasi apa yang dilihat model, tetapi bagaimana informasi itu diatur dan apa yang sistem izinkan untuk dikendalikan.

Contoh Langkah‑per‑Langkah

Bayangkan sebuah agen diminta untuk membandingkan tiga pemasok potensial dan menyiapkan rekomendasi.

1. Terima tujuan: agen membaca kriteria keputusan, tenggat, anggaran, dan output yang dibutuhkan.
2. Periksa konteks yang tersedia: agen memeriksa apakah nama pemasok, persyaratan internal, dan dokumen sumber sudah ada.
3. Buat rencana: agen memutuskan mengumpulkan harga, informasi keamanan, syarat layanan, dan bukti pelanggan untuk tiap pemasok.
4. Pilih alat: agen mencari di penyimpanan dokumen yang disetujui atau memanggil alat riset eksternal.
5. Amati: runtime mengembalikan hasil, termasuk kemungkinan kesalahan atau bidang yang hilang.
6. Perbarui status: agen mencatat apa yang dipelajari dan menandai pertanyaan yang belum terjawab.
7. Adaptasi: agen mengubah kueri, berkonsultasi dengan sumber lain, atau meminta orang untuk dokumen yang tidak tersedia.
8. Verifikasi: agen memastikan setiap rekomendasi didukung dan perbandingan menggunakan kriteria yang sama.
9. Berhenti atau minta persetujuan: agen menghasilkan draf rekomendasi, namun keputusan pembelian diserahkan kepada orang yang berwenang.

Poin pentingnya adalah urutan tersebut tidak sepenuhnya diprogram secara keras. Sistem memilih langkah sebagai respons terhadap apa yang ditemukannya, namun tetap beroperasi dalam batas yang dirancang.

Perencanaan Tidak Selalu Merupakan Fase Terpisah

Beberapa agen menghasilkan rencana lengkap sebelum bertindak. Agen lain memutuskan satu langkah pada satu waktu. Banyak yang menggunakan pendekatan hibrida: membuat rencana kasar, mengeksekusi tindakan berikutnya, dan merevisi rencana yang tersisa saat observasi datang.

Rencana panjang dan kaku dapat menjadi usang setelah hasil tak terduga pertama muncul. Agen yang sepenuhnya reaktif dapat berkeliaran atau mengulangi pekerjaan. Desain yang praktis mempertahankan perencanaan yang cukup untuk menjaga arah sambil memungkinkan perencanaan ulang ketika lingkungan berubah.

Kerangka ReAct adalah contoh dasar dari interleaving penalaran dengan tindakan dan observasi. Wawasan utamanya adalah bahwa hasil eksternal dapat memperbaiki, menyempurnakan, atau mengarahkan langkah penalaran berikutnya.

Bagaimana Agen Mengetahui Kapan Harus Berhenti

Penghentian adalah masalah desain sistem. Sebuah model dapat menyatakan keberhasilan terlalu awal, terus menyempurnakan setelah tujuan tercapai, atau terus berloop ketika alat terus gagal.

Agen yang dapat diandalkan menggabungkan beberapa mekanisme penghentian:

• Kriteria penyelesaian: kondisi eksplisit seperti bidang yang diperlukan, tes yang lulus, atau kutipan yang terverifikasi.
• Anggaran: batas pada langkah, waktu, token model, panggilan alat, atau biaya.
• Ambang batas kesalahan: eskalasi setelah kegagalan berulang atau observasi dengan kepercayaan rendah.
• Pintu persetujuan: jeda sebelum tindakan berdampak tinggi atau tidak dapat dibatalkan.
• Penilai eksternal: pemeriksaan deterministik atau model terpisah yang menilai apakah output memenuhi tugas.

Arsitektur Agen yang Umum

Satu‑loop agen tunggal adalah desain paling sederhana: satu model berulang kali menggunakan alat hingga selesai. Lebih mudah untuk debug dan sering sudah cukup.

Router mengklasifikasikan permintaan dan mengirimkannya ke prompt khusus, set alat, atau model tertentu. Routing mengurangi pilihan yang tidak relevan dan dapat menerapkan kebijakan berbeda untuk pekerjaan yang berbeda.

Arsitektur orkestrator‑pekerja memungkinkan agen utama membuat sub‑tugas dan mendelegasikannya ke pekerja, lalu menyintesis hasil mereka. Ini berguna ketika pekerjaan dapat berjalan paralel atau memerlukan keahlian berbeda, namun meningkatkan penggunaan token dan potensi kegagalan koordinasi.

Loop evaluator‑optimizer memisahkan generasi dari kritik. Satu komponen menghasilkan jawaban; komponen lain memeriksanya terhadap kriteria yang ditetapkan; komponen pertama merevisi jawabannya. Ini bekerja baik ketika kualitas dapat diukur dan perbaikan melalui iterasi sepadan dengan biaya tambahan.

Apa yang Biasanya Salah

• Deskripsi alat yang buruk: model memilih kemampuan yang salah atau memberikan argumen yang tidak valid.
• Konteks tak terbatas: transkrip panjang terisi dengan detail yang tidak relevan dan menyembunyikan informasi penentu.
• Kesalahan alat yang diam: hasil kosong atau parsial disangka sebagai observasi yang valid.
• Pengkaitan yang lemah: agen bertindak berdasarkan asumsi alih‑alih memeriksa sistem pencatatan.
• Otonomi berlebihan: agen dapat mengambil tindakan konsekuensial tanpa batas tinjauan yang tepat.
• Tidak ada evaluasi lintasan: tim menilai jawaban akhir tetapi tidak memeriksa bagaimana agen mencapainya.

Prinsip Desain untuk Agen yang Andal

Mulailah dengan arsitektur terkecil yang dapat menyelesaikan tugas. Alur kerja deterministik harus menangani langkah‑langkah yang diketahui; sisakan kebijaksanaan model untuk keputusan yang benar‑benar memerlukan interpretasi. Berikan setiap alat tujuan yang sempit, masukan yang bertipe, status kesalahan yang eksplisit, dan akses paling sedikit.

Jadikan status terlihat. Catat setiap panggilan alat, hasil, percobaan ulang, persetujuan, dan keputusan model yang diperlukan untuk diagnosis. Kompres konteks lama alih‑alih terus menambahkannya, dan simpan data otoritatif secara terpisah dari ringkasan yang dihasilkan model.

Rancang runtime sehingga kegagalan menjadi eksplisit. Alat harus membedakan “tidak ada catatan ditemukan” dari “permintaan gagal,” dan penyimpanan status harus membedakan fakta yang terverifikasi dari ringkasan yang dihasilkan model. Jika tidak, model dapat memperlakukan kegagalan karena timeout sebagai bukti bahwa sesuatu tidak ada.

Terakhir, evaluasi sistem secara keseluruhan. Jalankan tugas yang sama berulang kali, ukur keberhasilan dan penggunaan sumber daya, serta tinjau lintasan untuk pelanggaran kebijakan atau jalan pintas rapuh. Panduan Anthropic untuk evaluasi agen menekankan bahwa agen memerlukan tugas, percobaan berulang, transkrip, dan penilai—bukan sekadar demo yang mengesankan.

Apa yang Perlu Diingat tentang Cara Kerja Agen AI

Sebuah agen AI adalah loop yang direkayasa, bukan sekadar model pintar. Model memutuskan; alat bertindak; memori membawa status; lingkungan mengembalikan bukti; dan kontrol loop menentukan apa yang terjadi selanjutnya.

Ketika komponen‑komponen tersebut memiliki antarmuka dan batas yang jelas, agen dapat menangani pekerjaan terbuka yang otomatisasi konvensional tidak dapat antisipasi. Ketika tidak, otonomi memperburuk ambiguitas. Kualitas sebuah agen karenanya bergantung sebanyak pada desain sistem, izin, dan evaluasi seperti pada model yang mendasarinya.