3 Cara untuk Menjaga Fakta Tidak Ketinggalan Zaman di Model Bahasa Besar

Model Bahasa Besar (LLM) seperti GPT3, ChatGPT, dan BARD sangat populer saat ini. Setiap orang memiliki pendapat tentang bagaimana alat-alat ini baik atau buruk untuk masyarakat dan apa yang mereka maksudkan untuk masa depan AI. Google menerima banyak kritik karena model barunya, BARD, salah menjawab pertanyaan yang kompleks (sedikit). Ketika ditanya “Apa penemuan baru dari Teleskop Luar Angkasa James Webb yang bisa saya ceritakan kepada anak berusia 9 tahun?” – chatbot tersebut memberikan tiga jawaban, di mana dua jawaban benar dan satu jawaban salah. Jawaban yang salah adalah bahwa gambar “exoplanet” pertama diambil oleh JWST, yang tidak benar. Jadi, model tersebut memiliki fakta yang tidak benar yang disimpan dalam basis pengetahuannya. Untuk model bahasa besar menjadi efektif, kita memerlukan cara untuk memperbarui fakta-fakta tersebut atau menambahkan pengetahuan baru.

Mari kita lihat bagaimana fakta disimpan di dalam model bahasa besar (LLM). Model bahasa besar tidak menyimpan informasi dan fakta dalam arti tradisional seperti basis data atau file. Sebaliknya, mereka telah dilatih pada jumlah teks data yang besar dan telah mempelajari pola dan hubungan dalam data tersebut. Ini memungkinkan mereka untuk menghasilkan respons yang mirip manusia terhadap pertanyaan, tetapi mereka tidak memiliki lokasi penyimpanan khusus untuk informasi yang dipelajari. Ketika menjawab pertanyaan, model menggunakan pelatihannya untuk menghasilkan respons berdasarkan input yang diterima. Informasi dan pengetahuan yang dimiliki model bahasa adalah hasil dari pola yang dipelajari dalam data yang digunakannya, bukan hasil dari disimpan secara eksplisit dalam memori model. Arsitektur Transformer yang digunakan oleh sebagian besar LLM modern memiliki pengkodean internal fakta yang digunakan untuk menjawab pertanyaan yang diajukan dalam prompt.

Jadi, jika fakta di dalam memori internal LLM salah atau ketinggalan zaman, informasi baru perlu disediakan melalui prompt. Prompt adalah teks yang dikirim ke LLM dengan pertanyaan dan bukti pendukung yang dapat berupa fakta baru atau diperbarui. Berikut adalah 3 cara untuk mendekatinya.

1. Cara untuk memperbaiki fakta yang dikodekan dalam LLM adalah dengan menyediakan fakta baru yang relevan dengan konteks menggunakan basis pengetahuan eksternal. Basis pengetahuan ini dapat berupa panggilan API untuk mendapatkan informasi relevan atau pencarian pada basis data SQL, No-SQL, atau Vektor. Pengetahuan yang lebih maju dapat diperoleh dari grafik pengetahuan yang menyimpan entitas data dan hubungan antara mereka. Tergantung pada informasi yang diinginkan pengguna, informasi konteks yang relevan dapat diperoleh dan diberikan sebagai fakta tambahan kepada LLM. Fakta-fakta ini juga dapat diformat untuk terlihat seperti contoh pelatihan untuk memperbaiki proses pembelajaran. Misalnya, Anda dapat melewati pasangan pertanyaan dan jawaban untuk model mempelajari cara menjawab.

2. Cara yang lebih inovatif (dan lebih mahal) untuk meningkatkan LLM adalah dengan melakukan pelatihan ulang menggunakan data pelatihan. Jadi, bukan dengan mengquery basis pengetahuan untuk fakta khusus, kita membangun dataset pelatihan dengan mengambil sampel dari basis pengetahuan. Menggunakan teknik pembelajaran terawasi seperti pelatihan ulang, kita dapat membuat versi baru LLM yang dilatih pada pengetahuan tambahan ini. Proses ini biasanya mahal dan dapat menghabiskan beberapa ribu dolar untuk membangun dan memelihara model yang diperbarui di OpenAI. Tentu saja, biaya ini diharapkan akan menjadi lebih murah seiring waktu.

3. Opsi lainnya adalah dengan menggunakan metode seperti Pembelajaran Penguatan (RL) untuk melatih agen dengan umpan balik manusia dan mempelajari kebijakan tentang cara menjawab pertanyaan. Metode ini telah sangat efektif dalam membangun model dengan jejak kaki yang lebih kecil yang menjadi sangat baik dalam tugas tertentu. Misalnya, ChatGPT yang terkenal yang dirilis oleh OpenAI dilatih pada kombinasi pembelajaran terawasi dan RL dengan umpan balik manusia.

Secara singkat, ini adalah ruang yang sangat berkembang dengan setiap perusahaan besar ingin masuk dan menunjukkan perbedaan. Kami akan segera melihat alat LLM utama di sebagian besar bidang seperti ritel, perawatan kesehatan, dan perbankan yang dapat merespons dengan cara yang mirip manusia memahami nuansa bahasa. Alat LLM yang dipasang dengan data perusahaan dapat mempermudah akses dan membuat data yang tepat tersedia untuk orang yang tepat pada waktu yang tepat.