Model Bahasa Besar (LLM) saat ini merupakan salah satu topik yang paling dibicarakan dalam AI mainstream. Pengembang di seluruh dunia sedang menjelajahi potensi aplikasi LLM. Model-model ini adalah algoritma AI yang menggunakan teknik pembelajaran dalam dan sejumlah besar data pelatihan untuk memahami, meringkas, memprediksi, dan menghasilkan berbagai jenis konten, termasuk teks, audio, gambar, video, dan lain-lain.

Model bahasa besar adalah algoritma AI yang rumit. Mengembangkan model seperti itu adalah tugas yang melelahkan, dan membangun aplikasi yang memanfaatkan kemampuan LLM juga sangat menantang. Ini memerlukan keahlian, upaya, dan sumber daya yang signifikan untuk merancang, mengimplementasikan, dan mengoptimalkan alur kerja yang mampu memanfaatkan potensi penuh model bahasa besar untuk menghasilkan hasil terbaik. Mengingat waktu dan sumber daya yang luas yang diperlukan untuk membangun alur kerja untuk aplikasi yang menggunakan kekuatan LLM, mengotomatisasi proses ini memiliki nilai yang luar biasa. Ini terutama benar karena alur kerja diharapkan menjadi lebih kompleks di masa depan, dengan pengembang menciptakan aplikasi LLM yang semakin canggih.

AutoGen adalah kerangka kerja yang dikembangkan oleh tim di Microsoft (MSFT ) yang bertujuan untuk menyederhanakan orkestrasi dan optimasi alur kerja LLM dengan memperkenalkan otomatisasi ke dalam pipa alur kerja. Kerangka kerja AutoGen menawarkan agen yang dapat berbicara dan disesuaikan yang memanfaatkan kekuatan LLM canggih seperti GPT-3 dan GPT-4, dan pada saat yang sama, mengatasi keterbatasan mereka saat ini dengan mengintegrasikan LLM dengan alat dan input manusia dengan menggunakan obrolan otomatis untuk memulai percakapan antara beberapa agen.

Saat menggunakan kerangka kerja AutoGen, hanya dibutuhkan dua langkah dalam mengembangkan sistem percakapan multi-agen yang kompleks.

Langkah 1: Tentukan satu set agen, masing-masing dengan peran dan kemampuan mereka.

Langkah 2: Tentukan perilaku interaksi antara agen, yaitu agen harus tahu apa yang harus dijawab ketika menerima pesan dari agen lain.

Kedua langkah di atas adalah modular dan intuitif, sehingga membuat agen-agen ini dapat digabungkan dan digunakan kembali. Gambar di bawah ini menunjukkan contoh alur kerja yang menangani pertanyaan berbasis kode dalam optimasi rantai pasokan. Seperti yang dapat dilihat, penulis pertama menulis kode dan interpretasi, Safeguard memastikan privasi dan keamanan kode, dan kode kemudian dijalankan oleh Commander setelah menerima persetujuan yang diperlukan. Jika sistem mengalami masalah selama runtime, proses diulangi sampai masalah tersebut diselesaikan sepenuhnya. Menggunakan kerangka kerja di bawah ini menghasilkan pengurangan jumlah interaksi manual dari 3x hingga 10x ketika diterapkan dalam aplikasi seperti optimasi rantai pasokan. Selain itu, penggunaan AutoGen juga mengurangi jumlah upaya pemrograman hingga empat kali lipat.

AutoGen mungkin menjadi perubahan besar karena bertujuan untuk mengubah proses pengembangan aplikasi kompleks yang memanfaatkan kekuatan LLM. Penggunaan AutoGen tidak hanya dapat mengurangi jumlah interaksi manual yang diperlukan untuk mencapai hasil yang diinginkan, tetapi juga dapat mengurangi jumlah upaya pemrograman yang diperlukan untuk membuat aplikasi kompleks tersebut. Penggunaan AutoGen untuk membuat aplikasi berbasis LLM tidak hanya dapat mempercepat proses secara signifikan, tetapi juga membantu mengurangi waktu, upaya, dan sumber daya yang diperlukan untuk mengembangkan aplikasi kompleks tersebut.

Dalam artikel ini, kita akan lebih dalam mempelajari kerangka kerja AutoGen, dan kita akan mengeksplorasi komponen dan arsitektur esensial dari kerangka kerja AutoGen, serta potensi aplikasinya. Jadi mari kita mulai.

Pengenalan AutoGen: Mengaktifkan Aplikasi Model Bahasa Besar Generasi Berikutnya

AutoGen adalah kerangka kerja sumber terbuka yang dikembangkan oleh tim di Microsoft yang memberikan pengembang kekuatan untuk membuat aplikasi yang memanfaatkan kekuatan LLM menggunakan beberapa agen yang dapat berbicara dengan satu sama lain untuk menyelesaikan tugas yang diinginkan. Agen dalam AutoGen dapat berbicara, disesuaikan, dan dapat beroperasi dalam mode yang berbeda yang menggunakan kombinasi alat, input manusia, dan LLM. Pengembang juga dapat menggunakan kerangka kerja AutoGen untuk menentukan perilaku interaksi agen, dan pengembang dapat menggunakan kode komputer dan bahasa alami untuk memprogram pola percakapan yang fleksibel yang diterapkan dalam berbagai aplikasi. Sebagai kerangka kerja sumber terbuka, AutoGen dapat dianggap sebagai kerangka kerja generik yang pengembang dapat gunakan untuk membangun aplikasi dan kerangka kerja dengan kompleksitas yang berbeda yang memanfaatkan kekuatan LLM.

Model bahasa besar memainkan peran kunci dalam mengembangkan agen yang menggunakan kerangka kerja LLM untuk beradaptasi dengan observasi baru, penggunaan alat, dan penalaran dalam berbagai aplikasi dunia nyata. Namun, mengembangkan aplikasi yang dapat memanfaatkan potensi penuh LLM adalah urusan yang kompleks, dan mengingat permintaan dan aplikasi LLM yang terus meningkat, serta peningkatan kompleksitas tugas, sangat penting untuk meningkatkan kekuatan agen-agen ini dengan menggunakan beberapa agen yang bekerja bersama-sama.Bagaimana cara pendekatan multi-agen dapat digunakan untuk mengembangkan aplikasi berbasis LLM yang dapat diterapkan dalam berbagai domain dengan kompleksitas yang berbeda? Kerangka kerja AutoGen mencoba menjawab pertanyaan di atas dengan menggunakan percakapan multi-agen.

AutoGen: Komponen dan Kerangka Kerja

Dalam upaya untuk mengurangi jumlah upaya yang diperlukan pengembang untuk membuat aplikasi kompleks yang menggunakan kemampuan LLM di berbagai domain, prinsip dasar AutoGen adalah untuk mengonsolidasikan dan menyederhanakan alur kerja multi-agen dengan menggunakan percakapan multi-agen, sehingga juga memaksimalkan penggunaan kembali agen-agen yang diimplementasikan. AutoGen menggunakan beberapa agen yang dapat berbicara dengan satu sama lain untuk menyelesaikan tugas yang diinginkan, dan kerangka kerja ini dibangun atas dua konsep dasar: Agen yang Dapat Berbicara dan Pemrograman Percakapan.

Agen yang Dapat Berbicara

Agen yang dapat berbicara dalam AutoGen adalah entitas dengan peran yang telah ditentukan yang dapat mengirim dan menerima pesan untuk dan dari agen lain yang dapat berbicara. Agen yang dapat berbicara mempertahankan konteks internalnya berdasarkan pesan yang diterima atau dikirim, dan pengembang dapat mengkonfigurasi agen-agen ini untuk memiliki kemampuan unik seperti diaktifkan oleh alat LLM atau menerima input manusia.

Kemampuan Agen yang Diberdayakan oleh Manusia, Alat, dan LLM

Kemampuan agen secara langsung terkait dengan bagaimana agen memproses dan merespons pesan, yang merupakan alasan utama mengapa agen-agen dalam kerangka kerja AutoGen memungkinkan pengembang untuk memberikan kemampuan yang berbeda kepada agen-agen mereka. AutoGen mendukung berbagai kemampuan umum yang dapat digabungkan untuk agen, termasuk

1. LLM: Agen yang didukung oleh LLM memanfaatkan kemampuan kerangka kerja LLM canggih seperti interferensi negara implisit, peran bermain, memberikan umpan balik, dan bahkan pengkodean. Pengembang dapat menggunakan teknik prompting baru untuk menggabungkan kemampuan ini dalam upaya untuk meningkatkan otonomi atau keterampilan agen.
2. Manusia: Beberapa aplikasi menginginkan atau memerlukan beberapa bentuk keterlibatan manusia, dan kerangka kerja AutoGen memungkinkan aplikasi berbasis LLM untuk memfasilitasi partisipasi manusia dalam percakapan agen dengan menggunakan agen yang didukung oleh manusia yang dapat meminta input manusia selama putaran percakapan tertentu berdasarkan konfigurasi agen.
3. Alat: Agen yang didukung oleh alat biasanya memiliki kemampuan untuk menggunakan eksekusi kode atau eksekusi fungsi untuk menjalankan alat.

Kerja Sama dan Kustomisasi Agen

Berdasarkan kebutuhan dan persyaratan aplikasi tertentu, pengembang dapat mengkonfigurasi agen individu untuk memiliki kombinasi jenis backend esensial untuk menampilkan perilaku kompleks yang terlibat dalam percakapan multi-agen. Kerangka kerja AutoGen memungkinkan pengembang untuk dengan mudah membuat agen dengan peran dan kemampuan khusus dengan memperluas atau menggunakan kembali agen bawaan. Gambar yang terlampir di bawah ini menunjukkan struktur dasar agen bawaan dalam kerangka kerja AutoGen. Kelas ConversableAgent dapat menggunakan manusia, alat, dan LLM secara default karena merupakan abstraksi agen tingkat tertinggi. UserProxyAgent dan AssistantAgent adalah kelas pra-konfigurasi dari ConversableAgent, dan masing-masing dari mereka mewakili mode penggunaan umum, yaitu masing-masing dari mereka bertindak sebagai asisten AI (ketika didukung oleh LLM), dan meminta input manusia atau menjalankan panggilan fungsi atau kode (ketika didukung oleh alat dan/atau manusia) dengan bertindak sebagai proksi manusia.

Gambar di bawah ini menunjukkan bagaimana pengembang dapat menggunakan kerangka kerja AutoGen untuk mengembangkan sistem dua-agen yang memiliki fungsi balasan kustom, serta ilustrasi percakapan agen otomatis yang menggunakan sistem dua-agen selama eksekusi program.

Dengan memungkinkan penggunaan agen kustom yang dapat berbicara dengan satu sama lain, agen-agen yang dapat berbicara ini berfungsi sebagai blok bangunan dasar dalam kerangka kerja AutoGen. Namun, pengembang perlu menentukan dan membentuk percakapan multi-agen ini untuk mengembangkan aplikasi di mana agen-agen ini dapat membuat kemajuan yang signifikan pada tugas yang ditentukan.

Pemrograman Percakapan

Untuk memecahkan masalah di atas, kerangka kerja AutoGen menggunakan pemrograman percakapan, paradigma komputasi yang dibangun atas dua konsep esensial: komputasi, tindakan yang diambil oleh agen dalam percakapan multi-agen untuk menghitung respons mereka, dan alur kontrol, kondisi atau urutan di mana komputasi ini terjadi. Kemampuan untuk memprogram ini memungkinkan pengembang untuk mengimplementasikan berbagai pola percakapan multi-agen yang fleksibel. Selain itu, dalam kerangka kerja AutoGen, komputasi adalah percakapan-sentris. Tindakan yang diambil oleh agen relevan dengan percakapan yang agen terlibat, dan tindakan yang diambil oleh agen-agen kemudian menghasilkan pengiriman pesan untuk percakapan berikutnya sampai kondisi penghentian terpenuhi. Selain itu, alur kontrol dalam kerangka kerja AutoGen didorong oleh percakapan karena keputusan agen yang berpartisipasi tentang agen mana yang akan mengirim pesan ke dan dari prosedur komputasi.

Gambar di atas menunjukkan ilustrasi sederhana tentang bagaimana agen-agen individu melakukan operasi peran khusus mereka, dan komputasi yang berorientasi pada percakapan untuk menghasilkan respons yang diinginkan seperti eksekusi kode dan panggilan interferensi LLM. Tugas maju dengan bantuan percakapan yang ditampilkan dalam kotak dialog.

Untuk memfasilitasi pemrograman percakapan, kerangka kerja AutoGen memiliki pola desain berikut.

• Mekanisme Balas Otomatis dan Antarmuka Terpadu untuk Obrolan Agen Otomatis

Kerangka kerja AutoGen memiliki antarmuka terpadu untuk melakukan komputasi yang berorientasi pada percakapan, termasuk fungsi “terima atau kirim” untuk menerima atau mengirim pesan, serta fungsi “hasilkan_balasan” yang menghasilkan respons berdasarkan pesan yang diterima, dan mengambil tindakan yang diperlukan. Kerangka kerja AutoGen juga memperkenalkan dan menerapkan mekanisme balas-agen secara default untuk mewujudkan kontrol yang didorong oleh percakapan.

• Kontrol dengan Menggabungkan Bahasa Alami dan Pemrograman

Kerangka kerja AutoGen memfasilitasi penggunaan bahasa alami dan pemrograman dalam berbagai pola pengelolaan alur kontrol, termasuk kontrol bahasa alami menggunakan LLM, kontrol bahasa pemrograman, dan transisi kontrol antara pemrograman dan bahasa alami.

Selanjutnya, selain percakapan statis yang biasanya disertai dengan alur yang telah ditentukan sebelumnya, kerangka kerja AutoGen juga mendukung alur percakapan dinamis menggunakan beberapa agen, dan kerangka kerja ini memberikan pengembang dua pilihan untuk mencapai ini

1. Dengan menggunakan panggilan fungsi.
2. Dengan menggunakan fungsi balasan kustom.

Aplikasi AutoGen

Untuk menggambarkan potensi kerangka kerja AutoGen dalam pengembangan aplikasi multi-agen yang kompleks, berikut adalah enam aplikasi potensial AutoGen yang dipilih berdasarkan relevansi mereka dalam dunia nyata, kemampuan pemecahan masalah yang ditingkatkan oleh kerangka kerja AutoGen, dan potensi inovatif mereka.

Keenam aplikasi kerangka kerja AutoGen ini adalah

1. Pemecahan masalah matematika.
2. Pengembangan kode yang ditingkatkan dengan pencarian.
3. Pembicaraan ALF.
4. Pengkodean multi-agen.
5. Obrolan grup dinamis.
6. Catur percakapan.

Aplikasi 1: Pemecahan Masalah Matematika

Matematika adalah salah satu disiplin ilmu yang mendasar untuk memanfaatkan model LLM untuk membantu menyelesaikan masalah matematika yang kompleks yang membuka peluang aplikasi baru, termasuk asisten penelitian AI dan pelatihan AI yang dipersonalisasi.

Gambar di atas menunjukkan aplikasi kerangka kerja AutoGen untuk mencapai kinerja yang kompetitif dalam menyelesaikan masalah matematika.

Aplikasi 2: Pertanyaan dan Jawaban yang Ditingkatkan dengan Pencarian dan Pengembangan Kode

Dalam beberapa bulan terakhir, pengembangan kode yang ditingkatkan dengan pencarian telah muncul sebagai pendekatan yang efektif dan praktis untuk mengatasi keterbatasan LLM dalam mengintegrasikan dokumen eksternal. Gambar di bawah ini menunjukkan aplikasi kerangka kerja AutoGen untuk pengembangan kode yang ditingkatkan dengan pencarian dan meningkatkan kinerja pada tugas pertanyaan dan jawaban.

Aplikasi 3: Pembuatan Keputusan dalam Lingkungan Teks

Kerangka kerja AutoGen dapat digunakan untuk membuat aplikasi yang bekerja dengan pengambilan keputusan online atau interaktif. Gambar di bawah ini menunjukkan bagaimana pengembang dapat menggunakan kerangka kerja AutoGen untuk merancang sistem percakapan tiga-agen dengan agen pembumian untuk meningkatkan kinerja secara signifikan.

Aplikasi 4: Pengkodean Multi-Agen

Pengembang yang bekerja pada kerangka kerja AutoGen dapat menggunakan kerangka kerja OptiGuide untuk membangun sistem pengkodean multi-agen yang dapat menulis kode untuk mengimplementasikan solusi yang dioptimalkan dan menjawab pertanyaan pengguna. Gambar di bawah ini menunjukkan bahwa penggunaan kerangka kerja AutoGen untuk membuat desain multi-agen membantu meningkatkan kinerja secara signifikan, terutama dalam melakukan tugas pengkodean yang memerlukan pengawasan.

Aplikasi 5: Obrolan Grup Dinamis

Kerangka kerja AutoGen menyediakan dukungan untuk pola komunikasi yang berputar di sekitar obrolan grup dinamis di mana agen-agen yang berpartisipasi berbagi konteks, dan bukannya mengikuti serangkaian perintah yang telah ditentukan sebelumnya, mereka berbicara dengan satu sama lain dalam cara yang dinamis. Obrolan grup dinamis ini bergantung pada percakapan yang berkelanjutan untuk memandu alur interaksi dalam agen-agen.

Gambar di atas menggambarkan bagaimana kerangka kerja AutoGen mendukung obrolan grup dinamis antara agen-agen dengan menggunakan “Manajer Obrolan Grup”, agen khusus.

Aplikasi 6: Catur Percakapan

Pengembang kerangka kerja AutoGen menggunakan kerangka kerja ini untuk mengembangkan aplikasi Catur Percakapan yang merupakan permainan interferensi alami yang menampilkan agen bawaan untuk pemain yang dapat berupa LLM atau manusia, dan ada juga agen pihak ketiga yang menyediakan informasi relevan dan memvalidasi gerakan di papan berdasarkan serangkaian aturan standar yang telah ditentukan sebelumnya. Gambar di bawah ini menunjukkan Catur Percakapan, permainan interferensi alami yang dibangun menggunakan kerangka kerja AutoGen yang memungkinkan pemain untuk menggunakan lelucon, peran bermain, atau bahkan referensi meme untuk mengekspresikan gerakan mereka secara kreatif yang membuat permainan catur lebih menarik tidak hanya bagi pemain, tetapi juga bagi penonton dan pengamat.

Kesimpulan

Dalam artikel ini, kita telah membahas tentang AutoGen, kerangka kerja sumber terbuka yang menggunakan konsep pemrograman percakapan dan agen yang dapat berbicara yang bertujuan untuk menyederhanakan orkestrasi dan optimasi alur kerja LLM dengan memperkenalkan otomatisasi ke dalam pipa alur kerja. Kerangka kerja AutoGen menawarkan agen yang dapat berbicara dan disesuaikan yang memanfaatkan kekuatan LLM canggih seperti GPT-3 dan GPT-4, dan pada saat yang sama, mengatasi keterbatasan mereka saat ini dengan mengintegrasikan LLM dengan alat dan input manusia dengan menggunakan obrolan otomatis untuk memulai percakapan antara beberapa agen.

Meskipun kerangka kerja AutoGen masih dalam tahap eksperimental awal, ini membuka jalan bagi eksplorasi dan peluang penelitian di masa depan, dan AutoGen mungkin menjadi alat yang membantu meningkatkan kecepatan, fungsionalitas, dan kemudahan pengembangan aplikasi yang memanfaatkan kemampuan LLM.