Pemimpin pemikiran

Bagaimana Model Bahasa Besar (LLM) Akan Memperkuat Aplikasi Masa Depan

Dattaraj Rao
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaAgen menggunakan LLM canggih seperti GPT-4 untuk merencanakan tugas secara dinamis dan…
Lihat selengkapnya
  • Agen menggunakan LLM canggih seperti GPT-4 untuk merencanakan tugas secara dinamis dan membangun rantai secara mandiri.
  • Rantai menggabungkan beberapa panggilan LLM dengan data eksternal untuk menciptakan alur kerja aplikasi yang deterministik.
  • Embedding memungkinkan LLM menjawab kueri menggunakan konteks yang diambil dari basis data vektor.

AI generatif, khususnya bentuknya yang berbasis bahasa seperti ChatGPT, ada di mana-mana. Teknologi Model Bahasa Besar (LLM) akan memainkan peran penting dalam pengembangan aplikasi masa depan. LLM sangat baik dalam memahami bahasa karena prapelatihan ekstensif yang telah dilakukan untuk model dasar pada triliunan baris teks domain publik, termasuk kode. Metode seperti fine-tuning yang diawasi dan pembelajaran penguatan dengan umpan balik manusia (RLHF) membuat LLM ini lebih efisien dalam menjawab pertanyaan spesifik dan berbicara dengan pengguna. Ketika kita memasuki fase berikutnya dari aplikasi AI yang ditenagai oleh LLM – komponen kunci berikut akan sangat penting untuk aplikasi next-gen ini. Gambar di bawah menunjukkan kemajuan ini, dan ketika Anda bergerak naik dalam rantai, Anda membangun kecerdasan dan otonomi yang lebih besar dalam aplikasi Anda. Mari kita lihat tingkat-tingkat ini.

Panggilan LLM:

Ini adalah panggilan langsung ke model penyelesaian atau obrolan oleh penyedia LLM seperti Azure OpenAI atau Google PaLM atau Amazon Bedrock. Panggilan ini memiliki prompt yang sangat dasar dan sebagian besar menggunakan memori internal LLM untuk menghasilkan output.

Contoh: Menanyakan model dasar seperti “text-davinci” untuk “menceritakan lelucon”. Anda memberikan konteks yang sangat sedikit dan model mengandalkan memori pra-dilatih internal untuk menghasilkan jawaban (ditandai dengan warna hijau pada gambar di bawah – menggunakan Azure OpenAI).

Prompt:

Tingkat kecerdasan berikutnya adalah dengan menambahkan konteks lebih lanjut ke dalam prompt. Ada teknik untuk rekayasa prompt yang dapat diterapkan pada LLM yang dapat membuat mereka memberikan respons yang disesuaikan. Misalnya, ketika menghasilkan email kepada pengguna, beberapa konteks tentang pengguna, pembelian sebelumnya, dan pola perilaku dapat berfungsi sebagai prompt untuk menyesuaikan email. Pengguna yang familiar dengan ChatGPT akan mengetahui metode yang berbeda untuk memicu seperti memberikan contoh yang digunakan oleh LLM untuk membangun respons. Prompt meningkatkan memori internal LLM dengan konteks tambahan. Contoh ada di bawah.

Embedding:

Embedding membawa prompt ke tingkat berikutnya dengan mencari repositori pengetahuan untuk konteks dan mendapatkan konteks tersebut dan menambahkannya ke prompt. Di sini, langkah pertama adalah membuat repositori dokumen besar dengan teks tidak terstruktur yang dapat dicari dengan mengindeks teks dan mempopulasikan basis data vektor. Untuk ini, model embedding seperti ‘ada’ oleh OpenAI digunakan yang mengambil potongan teks dan mengubahnya menjadi vektor n-dimensi. Embedding ini menangkap konteks teks, sehingga kalimat yang serupa akan memiliki embedding yang dekat satu sama lain dalam ruang vektor. Ketika pengguna memasukkan kueri, kueri itu juga diubah menjadi embedding dan vektor itu dicocokkan dengan vektor di database. Dengan demikian, kita mendapatkan 5 atau 10 potongan teks yang paling sesuai untuk kueri yang membentuk konteks. Kueri dan konteks dilewatkan ke LLM untuk menjawab pertanyaan dengan cara yang manusiawi.

Rantai:

Saat ini rantai adalah teknologi paling maju dan matang yang tersedia yang secara luas digunakan untuk membangun aplikasi LLM. Rantai adalah deterministik di mana urutan panggilan LLM dihubungkan bersama dengan output dari satu mengalir ke satu atau lebih LLM. Misalnya, kita bisa memiliki panggilan LLM untuk menjalankan kueri pada database SQL dan mendapatkan daftar alamat email pelanggan dan mengirim daftar itu ke LLM lain yang akan menghasilkan email yang dipersonalisasi untuk pelanggan. Rantai LLM ini dapat diintegrasikan ke dalam aliran aplikasi yang ada untuk menghasilkan hasil yang lebih berharga. Dengan menggunakan rantai, kita bisa meningkatkan panggilan LLM dengan input eksternal seperti panggilan API dan integrasi dengan grafik pengetahuan untuk memberikan konteks. Selain itu, hari ini dengan beberapa penyedia LLM yang tersedia seperti OpenAI, AWS Bedrock, Google PaLM, MosaicML, dll. kita bisa mencampur dan mencocokkan panggilan LLM ke dalam rantai. Untuk elemen rantai dengan kecerdasan terbatas, LLM yang lebih rendah seperti ‘gpt3.5-turbo’ bisa digunakan sementara untuk tugas yang lebih maju ‘gpt4’ bisa digunakan. Rantai memberikan abstraksi untuk data, aplikasi, dan panggilan LLM.

Agen:

Agen adalah topik dari banyak debat online terutama terkait dengan kecerdasan buatan umum (AGI). Agen menggunakan LLM yang maju seperti ‘gpt4’ atau ‘PaLM2’ untuk merencanakan tugas daripada memiliki rantai yang telah ditentukan sebelumnya. Jadi sekarang ketika ada permintaan pengguna, berdasarkan kueri agen memutuskan set tugas apa yang harus dipanggil dan secara dinamis membangun rantai. Misalnya, ketika kita mengkonfigurasi agen dengan perintah seperti “beritahu pelanggan ketika APR pinjaman berubah karena pembaruan peraturan pemerintah”. Kerangka agen membuat panggilan LLM untuk memutuskan langkah-langkah apa yang harus diambil atau rantai apa yang harus dibangun. Di sini itu akan melibatkan memanggil aplikasi yang mengambil data dari situs web regulasi dan mengekstrak tingkat APR terbaru, lalu panggilan LLM mencari database dan mengekstrak alamat email pelanggan yang terkena dampak dan akhirnya email yang dihasilkan untuk memberitahu semua orang.

Pemikiran Akhir

LLM adalah teknologi yang sangat berkembang dan model serta aplikasi yang lebih baik diluncurkan setiap minggu. LLM ke Agen adalah tangga kecerdasan dan ketika kita naik, kita membangun aplikasi otonom yang kompleks. Model yang lebih baik akan berarti agen yang lebih efektif dan aplikasi next-gen akan ditenagai oleh ini. Waktu akan menunjukkan sejauh mana aplikasi generasi berikutnya berkembang dan pola apa yang mendasarinya.

Dattaraj Rao, ilmuwan data utama di Persistent Systems, adalah penulis buku “Keras to Kubernetes: The Journey of a Machine Learning Model to Production.” Di Persistent Systems, Dattaraj memimpin laboratorium riset AI yang menjelajahi algoritma terbaru di visi komputer, pemahaman bahasa alami, pemrograman probabilistik, pembelajaran penguatan, AI yang dapat dijelaskan, dll. dan menunjukkan penerapannya di bidang kesehatan, perbankan, dan industri. Dattaraj memiliki 11 paten dalam pembelajaran mesin dan visi komputer.