Pemimpin pemikiran

Panduan Memahami, Membangun, dan Mengoptimalkan Agen API

mm
Tambahkan Unite.AI ke sumber pilihan Anda di Google

Peran Kecerdasan Buatan dalam perusahaan teknologi berkembang pesat; kasus penggunaan AI telah berkembang dari pemrosesan informasi pasif ke agen proaktif yang mampu mengeksekusi tugas. Menurut survei adopsi AI global pada Maret 2025 yang dilakukan oleh Georgian dan NewtonX, 91% eksekutif teknis di perusahaan pertumbuhan dan perusahaan besar dilaporkan menggunakan atau berencana menggunakan agen AI.

Agen API-panggil adalah contoh primer dari pergeseran ini ke agen. Agen API-panggil menggunakan Model Bahasa Besar (LLM) untuk berinteraksi dengan sistem perangkat lunak melalui Antarmuka Pemrograman Aplikasi (API) mereka.

Sebagai contoh, dengan menerjemahkan perintah bahasa alami menjadi panggilan API yang tepat, agen dapat mengambil data waktu nyata, mengotomatisasi tugas rutin, atau bahkan mengontrol sistem perangkat lunak lain. Kemampuan ini mengubah agen AI menjadi perantara yang berguna antara niat manusia dan fungsionalitas perangkat lunak.

Perusahaan saat ini menggunakan agen API-panggil dalam berbagai domain, termasuk:

  • Aplikasi Konsumen: Asisten seperti Apple’s Siri atau Amazon’s Alexa telah dirancang untuk mempermudah tugas sehari-hari, seperti mengontrol perangkat pintar dan membuat reservasi.
  • Alur Kerja Perusahaan: Perusahaan telah mengirimkan agen API untuk mengotomatisasi tugas berulang seperti mengambil data dari CRM, menghasilkan laporan, atau mengkonsolidasikan informasi dari sistem internal.
  • Pengambilan dan Analisis Data: Perusahaan menggunakan agen API untuk mempermudah akses ke dataset propietary, sumber daya berlangganan, dan API publik untuk menghasilkan wawasan.

Dalam artikel ini, saya akan menggunakan pendekatan berbasis teknik untuk memahami, membangun, dan mengoptimalkan agen API-panggil. Materi dalam artikel ini didasarkan pada penelitian dan pengembangan praktis yang dilakukan oleh Laboratorium AI Georgian. Pertanyaan yang memotivasi sebagian besar penelitian Laboratorium AI dalam bidang agen API-panggil telah menjadi: “Jika suatu organisasi memiliki API, apa cara paling efektif untuk membangun agen yang dapat berinteraksi dengan API tersebut menggunakan bahasa alami?”

Saya akan menjelaskan bagaimana agen API-panggil bekerja dan bagaimana untuk berhasil merancang dan mengembangkan agen tersebut untuk kinerja. Akhirnya, saya akan menyediakan alur kerja sistematis yang tim teknik dapat gunakan untuk mengimplementasikan agen API-panggil.

I. Definisi Kunci:

  • API atau Antarmuka Pemrograman Aplikasi: Sebuah set aturan dan protokol yang memungkinkan aplikasi perangkat lunak yang berbeda untuk berkomunikasi dan bertukar informasi.
  • Agen: Sebuah sistem AI yang dirancang untuk memahami lingkungannya, membuat keputusan, dan mengambil tindakan untuk mencapai tujuan tertentu.
  • Agen API-Panggil: Sebuah agen AI khusus yang menerjemahkan instruksi bahasa alami menjadi panggilan API yang tepat.
  • Agen Pembangkit Kode: Sebuah sistem AI yang membantu dalam pengembangan perangkat lunak dengan menulis, memodifikasi, dan memecahkan kode. Meskipun terkait, fokus saya di sini terutama pada agen yang menggunakan API, meskipun AI juga dapat membantu mem bangun agen tersebut.
  • MCP (Protokol Konteks Model): Sebuah protokol, terutama dikembangkan oleh Anthropic, yang mendefinisikan bagaimana LLM dapat terhubung ke dan menggunakan sumber daya dan alat eksternal.

II. Tugas Inti: Menerjemahkan Bahasa Alami ke Tindakan API

Fungsi dasar dari agen API-panggil adalah untuk menafsirkan permintaan bahasa alami pengguna dan mengubahnya menjadi satu atau lebih panggilan API yang tepat. Proses ini biasanya melibatkan:

  1. Pengenalan Niat: Memahami tujuan pengguna, bahkan jika diekspresikan dengan ambigu.
  2. Pemilihan Alat: Mengidentifikasi titik akhir API yang tepat (atau “alat”) dari sekumpulan pilihan yang tersedia yang dapat memenuhi niat.
  3. Pengambilan Parameter: Mengidentifikasi dan mengekstrak parameter yang diperlukan untuk panggilan API yang dipilih dari kueri pengguna.
  4. Eksekusi dan Pembuatan Respon: Membuat panggilan API, menerima respons, dan kemudian mensintesis informasi ini menjadi jawaban yang koheren atau melakukan tindakan selanjutnya.

Pertimbangkan permintaan seperti, “Hai Siri, apa cuaca hari ini?” Agen harus mengidentifikasi kebutuhan untuk memanggil API cuaca, menentukan lokasi pengguna saat ini (atau mengizinkan spesifikasi lokasi), dan kemudian membentuk panggilan API untuk mengambil informasi cuaca.

Untuk permintaan “Hai Siri, apa cuaca hari ini?”, contoh panggilan API mungkin terlihat seperti:

GET /v1/cuaca?lokasi=New%20York&satuan=metric

Tantangan tingkat tinggi inheren dalam proses terjemahan ini, termasuk ambiguitas bahasa alami dan kebutuhan agen untuk mempertahankan konteks di seluruh interaksi multi-langkah.

Sebagai contoh, agen harus sering “mengingat” bagian sebelumnya dari percakapan atau hasil panggilan API sebelumnya untuk menginformasikan tindakan saat ini. Kehilangan konteks adalah mode kegagalan umum jika tidak dikelola secara eksplisit.

III. Merancang Solusi: Komponen dan Protokol Kunci

Membangun agen API-panggil yang efektif memerlukan pendekatan arsitektur yang terstruktur.

1. Mendefinisikan “Alat” untuk Agen

Untuk LLM menggunakan API, kemampuan API tersebut harus dijelaskan kepada LLM dengan cara yang dapat dipahami. Setiap titik akhir API atau fungsi sering direpresentasikan sebagai “alat”. Definisi alat yang kuat mencakup:

  • Deskripsi bahasa alami yang jelas tentang tujuan dan fungsionalitas alat.
  • Spesifikasi yang tepat tentang parameter input (nama, jenis, apakah itu diperlukan atau opsional, dan deskripsi).
  • Deskripsi tentang output atau data yang dikembalikan alat.

2. Peran Protokol Konteks Model (MCP)

MCP adalah enabler kritis untuk penggunaan alat yang lebih terstandar dan kuat oleh LLM. Ini menyediakan format terstruktur untuk mendefinisikan bagaimana model dapat terhubung ke sumber daya dan alat eksternal.

MCP bermanfaat karena memungkinkan integrasi alat yang lebih mudah, mempromosikan penggunaan kembali definisi alat di seluruh agen atau model yang berbeda. Selain itu, ini adalah praktik terbaik untuk tim teknik, dimulai dengan spesifikasi API yang terdefinisi dengan baik, seperti spesifikasi OpenAPI. Alat seperti Stainless.ai dirancang untuk membantu mengonversi spesifikasi OpenAPI ini menjadi konfigurasi MCP, memudahkan proses membuat API “siap agen”.

3. Kerangka Agen dan Pilihan Implementasi

Beberapa kerangka dapat membantu dalam membangun agen itu sendiri. Ini termasuk:

  • Pydantic: Meskipun tidak secara eksklusif merupakan kerangka agen, Pydantic berguna untuk mendefinisikan struktur data dan memastikan keamanan tipe untuk input dan output alat, yang penting untuk keandalan. Banyak implementasi agen kustom menggunakan Pydantic untuk integritas struktural ini.
  • mcp_agent LastMile: Kerangka ini dirancang khusus untuk bekerja dengan MCP, menawarkan struktur yang lebih terstruktur yang sesuai dengan praktik untuk membangun agen yang efektif seperti yang dijelaskan dalam penelitian dari tempat-tempat seperti Anthropic.
  • Kerangka Internal: Juga semakin umum untuk menggunakan agen pembangkit kode AI (menggunakan alat seperti Cursor atau Cline) untuk membantu menulis kode boilerplate untuk agen, alat, dan logika sekitarnya. Pengalaman Laboratorium AI Georgian bekerja dengan perusahaan pada implementasi agen menunjukkan bahwa ini dapat sangat baik untuk membuat kerangka kustom yang sangat minimal.

IV. Teknik untuk Keandalan dan Kinerja

Memastikan bahwa agen membuat panggilan API dengan andal dan berkinerja baik memerlukan upaya teknik yang terfokus. Dua cara untuk melakukan ini adalah (1) pembuatan dan validasi dataset dan (2) teknik dan optimasi prompt.

1. Pembuatan dan Validasi Dataset

Melatih (jika berlaku), menguji, dan mengoptimalkan agen memerlukan dataset berkualitas tinggi. Dataset ini harus terdiri dari kueri bahasa alami yang representatif dan urutan panggilan API yang diinginkan atau hasilnya.

  • Pembuatan Manual: Mengkurasi dataset secara manual memastikan presisi dan relevansi yang tinggi tetapi dapat memakan waktu.
  • Generasi Sintetis: Menghasilkan data secara programatik atau menggunakan LLM dapat menskalakan pembuatan dataset, tetapi pendekatan ini menyajikan tantangan signifikan. Penelitian Laboratorium AI Georgian menemukan bahwa memastikan kebenaran dan kompleksitas realistis dari panggilan API dan kueri yang dihasilkan sintetis sangat sulit. Seringkali, pertanyaan yang dihasilkan terlalu sepele atau mustahil kompleks, membuatnya sulit untuk mengukur kinerja agen yang halus. Validasi data sintetis yang cermat sangat penting.

Untuk evaluasi kritis, dataset yang lebih kecil, berkualitas tinggi, dan diverifikasi secara manual sering menyediakan wawasan yang lebih andal daripada dataset sintetis yang besar dan bising.

2. Teknik dan Optimasi Prompt

Kinerja agen berbasis LLM sangat dipengaruhi oleh prompt yang digunakan untuk memandu penalaran dan pemilihan alatnya.

  • Penyampaian prompt yang efektif melibatkan mendefinisikan tugas agen dengan jelas, memberikan deskripsi alat yang tersedia, dan memformat prompt untuk memfasilitasi ekstraksi parameter yang akurat.
  • Optimasi sistematis menggunakan kerangka seperti DSPy dapat meningkatkan kinerja secara signifikan. DSPy memungkinkan Anda untuk mendefinisikan komponen agen (misalnya, modul untuk generasi pemikiran, pemilihan alat, pemformatan parameter) dan kemudian menggunakan pendekatan seperti kompilator dengan contoh tembakan dari dataset Anda untuk menemukan prompt atau konfigurasi yang dioptimalkan untuk komponen-komponen ini.

V. Jalur yang Disarankan untuk Agen API yang Efektif

Mengembangkan agen API-panggil yang kuat adalah disiplin teknik iteratif. Berdasarkan temuan penelitian Laboratorium AI Georgian, hasilnya dapat ditingkatkan secara signifikan dengan menggunakan alur kerja sistematis seperti berikut:

  1. Mulai dengan Definisi API yang Jelas: Mulai dengan spesifikasi OpenAPI yang terstruktur untuk API yang akan diakses agen.
  2. Standarisasi Akses Alat: Konversi spesifikasi OpenAPI menjadi MCP. Alat seperti Stainless.ai dapat memfasilitasi ini, menciptakan cara standar untuk agen Anda memahami dan menggunakan API Anda.
  3. Implementasikan Agen: Pilih kerangka atau pendekatan yang sesuai. Ini mungkin melibatkan menggunakan Pydantic untuk pemodelan data dalam struktur agen kustom atau menggunakan kerangka seperti mcp_agent LastMile yang dirancang di sekitar MCP.
    • Sebelum melakukan ini, pertimbangkan untuk menghubungkan MCP ke alat seperti Claude Desktop atau Cline, dan secara manual menggunakan antarmuka ini untuk merasakan bagaimana agen generik dapat menggunakannya, berapa banyak iterasi yang biasanya diperlukan untuk menggunakan MCP dengan benar, dan detail lain yang mungkin dapat menyelamatkan waktu Anda selama implementasi.
  4. Kurasi Dataset Evaluasi Berkualitas: Buat secara manual atau verifikasi dengan cermat dataset kueri dan interaksi API yang diinginkan. Ini sangat penting untuk pengujian dan optimasi yang andal.
  5. Optimalkan Prompt dan Logika Agen: Gunakan kerangka seperti DSPy untuk memperbaiki prompt dan logika internal agen Anda, menggunakan dataset Anda untuk mengarahkan perbaikan dalam akurasi dan keandalan.

VI. Contoh Ilustratif dari Alur Kerja

Berikut adalah contoh sederhana yang mengilustrasikan alur kerja yang disarankan untuk membangun agen API-panggil:

Langkah 1: Mulai dengan Definisi API yang Jelas

Bayangkan API untuk mengelola Daftar Tugas sederhana, didefinisikan dalam OpenAPI:

openapi: 3.0.0

info:

judul: API Daftar Tugas

versi: 1.0.0

jalur:

/tugas:

pos:

ringkasan: Tambahkan tugas baru

badan permintaan:

diperlukan: true

konten:

application/json:

skema:

jenis: objek

properti:

deskripsi:

jenis: string

respon:

‘201’:

deskripsi: Tugas dibuat dengan sukses

dapatkan:

ringkasan: Dapatkan semua tugas

respon:

‘200’:

deskripsi: Daftar tugas

Langkah 2: Standarisasi Akses Alat

Konversi spesifikasi OpenAPI menjadi konfigurasi Protokol Konteks Model (MCP). Menggunakan alat seperti Stainless.ai, ini mungkin menghasilkan:

Nama Alat Deskripsi Parameter Input Deskripsi Output
Tambah Tugas Menambahkan tugas baru ke Daftar Tugas. `deskripsi` (string, diperlukan): Deskripsi tugas. Konfirmasi pembuatan tugas.
Dapatkan Tugas Mengambil semua tugas dari Daftar Tugas. Tidak ada Daftar tugas dengan deskripsi mereka.

Langkah 3: Implementasikan Agen

Menggunakan Pydantic untuk pemodelan data, buat fungsi yang sesuai dengan alat MCP. Kemudian, gunakan LLM untuk menafsirkan kueri bahasa alami dan memilih alat dan parameter yang tepat.

Langkah 4: Kurasi Dataset Evaluasi Berkualitas

Buat dataset:

Kueri Panggilan API yang Diinginkan Hasil yang Diinginkan
“Tambah ‘Beli bahan makanan’ ke daftar saya.” `Tambah Tugas` dengan `deskripsi` = “Beli bahan makanan” Konfirmasi pembuatan tugas
“Apa yang ada di daftar saya?” `Dapatkan Tugas` Daftar tugas, termasuk “Beli bahan makanan”

Langkah 5: Optimalkan Prompt dan Logika

Gunakan DSPy untuk memperbaiki prompt, fokus pada instruksi yang jelas, pemilihan alat, dan ekstraksi parameter menggunakan dataset yang dikurasi untuk evaluasi dan perbaikan.

Dengan mengintegrasikan blok bangunan ini – dari definisi API yang terstruktur dan protokol alat yang distandarisasi hingga praktik data yang ketat dan optimasi sistematis – tim teknik dapat membangun agen API-panggil yang lebih mampu, andal, dan mudah dipertahankan.

Rodrigo Ceballos Lentini adalah AI Tech Lead di Georgian’s AI Lab, di mana ia membantu perusahaan portofolio mencapai hasil yang nyata dari proyek AI generatif dan agen. Rodrigo memegang Gelar Master di Sistem Saraf dan Komputasi dengan fokus pada Penglihatan Komputer dari ETH Zürich.