Membongkar Peluang dan Tantangan untuk Agen LLM dalam AI Generatif

Kita sedang menyaksikan perkembangan aplikasi AI Generatif yang ditenagai oleh model bahasa besar (LLM) dari prompt ke retrieval augmented generation (RAG) hingga agen. Agen sedang dibicarakan secara luas di industri dan lingkaran penelitian, terutama karena kekuatan teknologi ini untuk mengubah aplikasi Perusahaan dan menyediakan pengalaman pelanggan yang superior. Terdapat pola umum untuk membangun agen yang memungkinkan langkah pertama menuju kecerdasan buatan umum (AGI).

Dalam artikel saya sebelumnya artikel, kita melihat tangga kecerdasan pola untuk membangun aplikasi yang ditenagai LLM. Dimulai dengan prompt yang menangkap domain masalah dan menggunakan memori internal LLM untuk menghasilkan output. Dengan RAG, kita melengkapi prompt dengan pengetahuan eksternal yang dicari dari basis data vektor untuk mengontrol output. Selanjutnya dengan menghubungkan panggilan LLM, kita dapat membangun alur kerja untuk mewujudkan aplikasi yang kompleks. Agen membawa ini ke tingkat berikutnya dengan menentukan secara otomatis bagaimana rantai LLM ini harus dibentuk. Mari kita lihat secara rinci.

Agen – Di Bawah Tudung

Pola kunci dengan agen adalah bahwa mereka menggunakan kekuatan pemahaman bahasa LLM untuk membuat rencana tentang bagaimana memecahkan masalah yang diberikan. LLM memahami masalah dan memberikan kita urutan langkah untuk memecahkan masalah. Namun, itu tidak berhenti di sana. Agen tidak hanya sistem pendukung yang akan memberikan rekomendasi tentang bagaimana memecahkan masalah dan kemudian melempar bola kepada Anda untuk mengambil langkah yang disarankan. Agen diberdayakan dengan alat untuk melanjutkan dan mengambil tindakan. Menakutkan, bukan!?

Jika kita bertanya kepada agen sebuah pertanyaan dasar seperti ini:

Manusia: Perusahaan apa yang didirikan oleh penemu telepon?

Berikut adalah contoh langkah-langkah berpikir yang mungkin diambil agen.

Agen (BERPIKIR):

• Pikiran: Saya perlu mencari penemu telepon.
• Tindakan: Cari [penemu telepon]
• Pengamatan: Alexander Graham Bell
• Pikiran: Saya perlu mencari perusahaan yang didirikan oleh Alexander Graham Bell
• Tindakan: Cari [perusahaan didirikan oleh Alexander Graham Bell]
• Pengamatan: Alexander Graham Bell mendirikan Perusahaan Telepon dan Telegraf Amerika (AT&T) pada tahun 1885
• Pikiran: Saya telah menemukan jawaban. Saya akan mengembalikan.

Agen (RESPON): Alexander Graham Bell mendirikan AT&T pada tahun 1885

Anda dapat melihat bahwa agen mengikuti cara yang sistematis untuk memecahkan masalah menjadi submasalah yang dapat dipecahkan dengan mengambil tindakan tertentu. Tindakan di sini disarankan oleh LLM dan kita dapat memetakan tindakan ini ke alat tertentu untuk mengimplementasikan tindakan tersebut. Kita bisa mengaktifkan alat pencarian untuk agen sehingga ketika agen menyadari bahwa LLM telah memberikan pencarian sebagai tindakan, itu akan memanggil alat tersebut dengan parameter yang diberikan oleh LLM. Pencarian di sini dilakukan di internet, tetapi juga dapat diarahkan ke pencarian basis data internal seperti basis data vektor. Sistem sekarang menjadi mandiri dan dapat menentukan bagaimana memecahkan masalah yang kompleks dengan mengikuti serangkaian langkah. Kerangka seperti LangChain dan LLaMAIndex memberikan kita cara mudah untuk membangun agen ini dan menghubungkannya dengan alat dan API. Amazon baru-baru ini meluncurkan kerangka agen Bedrock yang menyediakan antarmuka visual untuk merancang agen.

Di bawah tudung, agen mengikuti gaya khusus untuk mengirimkan prompt ke LLM yang membuat mereka menghasilkan rencana tindakan. Pola Berpikir-Tindakan-Pengamatan yang populer dalam jenis agen yang disebut ReAct (Berpikir dan Bertindak). Jenis agen lainnya termasuk MRKL dan Rencana & Jalankan, yang terutama berbeda dalam gaya prompt mereka.

Untuk agen yang lebih kompleks, tindakan mungkin terkait dengan alat yang menyebabkan perubahan dalam sistem sumber. Misalnya, kita bisa menghubungkan agen ke alat yang memeriksa saldo liburan dan mengajukan cuti dalam sistem ERP untuk karyawan. Sekarang kita bisa membangun chatbot yang bagus yang akan berinteraksi dengan pengguna dan melalui perintah chat mengajukan cuti dalam sistem. Tidak ada lagi layar yang kompleks untuk mengajukan cuti, antarmuka chat yang sederhana dan terpadu. Terdengar menarik!?

Peringatan dan Kebutuhan akan AI yang Bertanggung Jawab

Sekarang, bagaimana jika kita memiliki alat yang memicu transaksi perdagangan saham menggunakan API yang telah diotorisasi sebelumnya? Anda membangun aplikasi di mana agen mempelajari perubahan saham (menggunakan alat) dan membuat keputusan untuk membeli dan menjual saham. Bagaimana jika agen menjual saham yang salah karena itu mengalami halusinasi dan membuat keputusan yang salah? Karena LLM adalah model besar, sulit untuk menentukan mengapa mereka membuat beberapa keputusan, sehingga halusinasi umum terjadi tanpa guardrail yang tepat.

Sementara agen semua menarik, Anda mungkin telah menebak bagaimana berbahayanya mereka. Jika mereka mengalami halusinasi dan mengambil tindakan yang salah, itu bisa menyebabkan kerugian keuangan besar atau masalah besar dalam sistem Perusahaan. Oleh karena itu, AI yang Bertanggung Jawab menjadi sangat penting di era aplikasi yang ditenagai LLM. Prinsip-prinsip AI yang Bertanggung Jawab sekitar reproduktivitas, transparansi, dan akuntabilitas, mencoba memasang guardrail pada keputusan yang diambil oleh agen dan menyarankan analisis risiko untuk menentukan tindakan mana yang memerlukan campur tangan manusia. Ketika agen yang lebih kompleks dirancang, mereka memerlukan pemeriksaan yang lebih ketat, transparansi, dan akuntabilitas untuk memastikan kita tahu apa yang mereka lakukan.

Pemikiran Penutup

Kemampuan agen untuk menghasilkan jalur langkah logis dengan tindakan membawa mereka sangat dekat dengan penalaran manusia. Memberdayakan mereka dengan alat yang lebih kuat dapat memberikan mereka kekuatan super. Pola seperti ReAct mencoba meniru bagaimana manusia memecahkan masalah dan kita akan melihat pola agen yang lebih baik yang relevan dengan konteks dan domain tertentu (perbankan, asuransi, perawatan kesehatan, industri, dll.). Masa depan sudah di sini dan teknologi di balik agen siap untuk kita gunakan. Pada saat yang sama, kita perlu memperhatikan guardrail AI yang Bertanggung Jawab untuk memastikan kita tidak membangun Skynet!