Menguraikan Peluang dan Tantangan bagi Agen LLM dalam AI Generatif

Kami melihat perkembangan aplikasi AI Generatif yang didukung oleh model bahasa besar (LLM) mulai dari prompt hingga pengambilan augmented generasi (RAG) hingga agen. Agen sedang banyak dibicarakan di kalangan industri dan penelitian, terutama karena kekuatan yang diberikan teknologi ini untuk mengubah aplikasi Perusahaan dan memberikan pengalaman pelanggan yang unggul. Ada pola umum untuk membangun agen yang memungkinkan langkah pertama menuju kecerdasan umum buatan (AGI).

Di saya sebelumnya artikel, kami melihat tangga pola kecerdasan untuk membangun aplikasi yang didukung LLM. Dimulai dengan petunjuk yang menangkap domain masalah dan menggunakan memori internal LLM untuk menghasilkan keluaran. Dengan RAG, kami menambah prompt dengan pengetahuan eksternal yang dicari dari database vektor untuk mengontrol keluaran. Selanjutnya dengan merangkai panggilan LLM kita dapat membangun alur kerja untuk mewujudkan aplikasi yang kompleks. Agen membawa ini ke tingkat berikutnya dengan secara otomatis menentukan bagaimana rantai LLM ini akan dibentuk. Mari kita lihat secara detail.

Agen – Di balik terpal

Pola utama agen adalah mereka menggunakan kekuatan pemahaman bahasa LLM untuk membuat rencana tentang cara memecahkan masalah tertentu. LLM memahami masalahnya dan memberi kita serangkaian langkah untuk memecahkan masalah tersebut. Namun, hal itu tidak berhenti sampai disitu saja. Agen bukanlah sistem pendukung murni yang akan memberikan Anda rekomendasi untuk memecahkan masalah dan kemudian meneruskan tongkat estafet kepada Anda untuk mengambil langkah-langkah yang disarankan. Agen diberdayakan dengan alat untuk terus maju dan mengambil tindakan. Menakutkan kan!?

Jika kita menanyakan kepada agen pertanyaan mendasar seperti ini:

Manusia: Perusahaan manakah yang didirikan oleh penemu telepon?

Berikut adalah contoh langkah berpikir yang mungkin diambil oleh seorang agen.

Agen (BERPIKIR):

• PIKIRAN: Saya perlu mencari penemu telepon.
• Tindakan: Cari [penemu telepon]
• Pengamatan: Alexander Graham Bell
• PIKIRAN: Saya perlu mencari perusahaan yang didirikan oleh Alexander Graham Bell
• Tindakan: Cari [perusahaan yang didirikan oleh Alexander Graham Bell]
• Pengamatan: Alexander Graham Bell ikut mendirikan American Telephone and Telegraph Company (AT&T) pada tahun 1885
• RENUNGKAN: Saya telah menemukan jawabannya. Aku akan kembali.

Agen (RESPONS): Alexander Graham Bell ikut mendirikan AT&T pada tahun 1885

Anda dapat melihat bahwa agen mengikuti cara metodis dalam memecah masalah menjadi sub-masalah yang dapat diselesaikan dengan mengambil Tindakan tertentu. Tindakan di sini direkomendasikan oleh LLM dan kami dapat memetakannya ke alat khusus untuk menerapkan tindakan ini. Kita dapat mengaktifkan alat pencarian untuk agen sehingga ketika agen menyadari bahwa LLM telah menyediakan pencarian sebagai suatu tindakan, agen akan memanggil alat ini dengan parameter yang disediakan oleh LLM. Pencarian di sini dilakukan di internet tetapi juga dapat diarahkan untuk mencari basis pengetahuan internal seperti database vektor. Sistem sekarang menjadi mandiri dan dapat menemukan cara memecahkan masalah kompleks dengan mengikuti serangkaian langkah. Kerangka kerja seperti LangChain dan LLaMAIndex memberi Anda cara mudah untuk membangun agen ini dan terhubung ke peralatan dan API. Amazon baru-baru ini meluncurkan kerangka kerja Agen Batuan Dasar yang menyediakan antarmuka visual untuk merancang agen.

Di balik terpal, agen mengikuti gaya khusus dalam mengirimkan perintah ke LLM yang membuat mereka menghasilkan rencana tindakan. Pola Pemikiran-Aksi-Pengamatan di atas populer pada jenis agen yang disebut ReAct (Reasoning and Acting). Jenis agen lainnya termasuk MRKL dan Plan & Execute, yang terutama berbeda dalam gaya dorongannya.

Untuk agen yang lebih kompleks, tindakan mungkin terkait dengan alat yang menyebabkan perubahan pada sistem sumber. Misalnya, kita dapat menghubungkan agen ke alat yang memeriksa saldo liburan dan mengajukan cuti dalam sistem ERP untuk seorang karyawan. Sekarang kita bisa membangun chatbot bagus yang akan berinteraksi dengan pengguna dan melalui perintah chat mengajukan cuti di sistem. Tidak ada layar yang lebih rumit untuk mengajukan permohonan cuti, antarmuka obrolan terpadu yang sederhana. Kedengarannya menarik!?

Peringatan dan perlunya AI yang Bertanggung Jawab

Sekarang bagaimana jika kita memiliki alat yang memanggil transaksi perdagangan saham menggunakan API pra-otorisasi. Anda membangun aplikasi tempat agen mempelajari perubahan saham (menggunakan alat) dan membuat keputusan untuk Anda dalam membeli dan menjual saham. Bagaimana jika agen salah menjual saham karena berhalusinasi dan salah mengambil keputusan? Karena LLM adalah model yang sangat besar, sulit untuk menentukan dengan tepat mengapa mereka mengambil keputusan tertentu, oleh karena itu halusinasi sering terjadi jika tidak ada pagar pembatas yang tepat.

Meskipun semua agen sangat menarik, Anda mungkin sudah bisa menebak betapa berbahayanya mereka. Jika mereka berhalusinasi dan mengambil tindakan yang salah yang dapat menyebabkan kerugian finansial yang besar atau masalah besar dalam sistem Perusahaan. Oleh karena itu, AI yang Bertanggung Jawab menjadi sangat penting di era aplikasi yang didukung LLM. Prinsip-prinsip AI yang Bertanggung Jawab seputar reproduktifitas, transparansi, dan akuntabilitas, mencoba memberi batasan pada keputusan yang diambil oleh agen dan menyarankan analisis risiko untuk memutuskan tindakan mana yang memerlukan keterlibatan manusia. Seiring dengan perancangan agen yang lebih kompleks, mereka memerlukan pengawasan yang lebih ketat, transparansi, dan akuntabilitas untuk memastikan kita mengetahui apa yang mereka lakukan.

Pikiran penutup

Kemampuan agen untuk menghasilkan jalur langkah-langkah logis dengan tindakan membuat mereka sangat dekat dengan penalaran manusia. Memberdayakan mereka dengan alat yang lebih canggih dapat memberi mereka kekuatan super. Pola seperti ReAct mencoba meniru cara manusia memecahkan masalah dan kita akan melihat pola agen yang lebih baik yang relevan dengan konteks dan domain tertentu (perbankan, asuransi, layanan kesehatan, industri, dll.). Masa depan telah tiba dan teknologi di balik agen siap untuk kita gunakan. Pada saat yang sama, kita perlu terus memperhatikan pagar pembatas AI yang Bertanggung Jawab untuk memastikan kita tidak membangun Skynet!