Mengatasi Masalah Saat Ini Dalam LLM & Melihat Ke Depan Untuk Apa Yang Akan Datang

Hari ini, ada puluhan model bahasa besar (LLM) yang tersedia secara publik, seperti GPT-3, GPT-4, LaMDA, atau Bard, dan jumlahnya terus bertambah karena model baru dirilis. LLM telah merevolusi kecerdasan buatan, mengubah secara total bagaimana kita berinteraksi dengan teknologi di berbagai industri. Model-model ini memungkinkan kita untuk belajar dari banyak dataset bahasa manusia dan telah membuka jalur baru untuk inovasi, kreativitas, dan efisiensi.

Namun, dengan kekuatan besar datang kompleksitas besar. Ada tantangan dan masalah etika yang melekat pada LLM yang harus diatasi sebelum kita dapat menggunakannya dengan potensi penuh. Misalnya, sebuah studi baru di Stanford menemukan bias rasial dan gender ketika mengamati ChatGPT-4 dalam menangani pertanyaan yang mencakup nama depan dan belakang yang mengisyaratkan ras atau gender. Dalam studi ini, program tersebut diminta untuk memberikan saran tentang berapa banyak yang harus dibayarkan untuk sepeda bekas yang dijual oleh seseorang bernama Jamal Washington, yang menghasilkan jumlah yang jauh lebih rendah dibandingkan ketika penjualnya bernama Logan Becker. Ketika penemuan-penemuan seperti ini terus muncul, kebutuhan untuk mengatasi tantangan LLM hanya meningkat.

Bagaimana Mengatasi Kekhawatiran Umum LLM

Bias

Salah satu masalah yang paling sering dibahas di antara LLM adalah bias dan keadilan. Dalam sebuah studi baru, para ahli menguji empat LLM yang baru diterbitkan dan menemukan bahwa mereka semua menunjukkan asumsi yang bias tentang pria dan wanita, terutama yang sejalan dengan persepsi orang daripada yang didasarkan pada fakta. Dalam konteks ini, bias merujuk pada perlakuan atau hasil yang tidak sama di antara kelompok sosial yang berbeda, kemungkinan besar karena ketidakseimbangan kekuatan sejarah atau struktural.

Dalam LLM, bias disebabkan oleh pemilihan data, demografi pembuat, dan bahasa atau kecenderungan budaya. Bias pemilihan data terjadi ketika teks yang dipilih untuk pelatihan LLM tidak mewakili keanekaragaman bahasa yang digunakan di web. LLM yang dilatih pada dataset yang luas tetapi terbatas dapat mewarisi bias yang sudah ada dalam teks tersebut. Dengan demografi pembuat, kelompok demografi tertentu lebih sering disoroti daripada yang lain, yang menunjukkan kebutuhan akan lebih banyak keanekaragaman dan inklusivitas dalam pembuatan konten untuk mengurangi bias. Misalnya, Wikipedia, sumber umum data pelatihan, menunjukkan ketidakseimbangan demografi yang signifikan di antara penyuntingnya dengan mayoritas laki-laki (84%). Ini serupa dengan kecenderungan yang ditemukan untuk bahasa dan budaya juga. Banyak sumber yang LLM dilatihkan pada cenderung condong ke arah bahasa Inggris, yang hanya kadang-kadang diterjemahkan dengan akurat ke dalam bahasa dan budaya lain.

Sangat penting bahwa LLM dilatih pada data yang disaring, dan bahwa pengamanan ditempatkan untuk menekan topik yang tidak konsisten dengan representasi data. Salah satu cara untuk melakukannya adalah melalui teknik augmentasi data. Anda dapat menambahkan contoh dari kelompok yang kurang diwakili ke data pelatihan, sehingga memperluas keanekaragaman dataset. Strategi mitigasi lainnya adalah penyaringan data dan pengaturan ulang, yang terutama fokus pada menargetkan contoh yang spesifik dan kurang diwakili dalam dataset yang ada.

Hallusinasi

Dalam konteks LLM, hallusinasi adalah fenomena yang ditandai dengan produksi teks yang, meskipun secara gramatikal benar dan tampaknya koheren, menyimpang dari akurasi fakta atau niat dari materi sumber. Faktanya, laporan baru-baru ini menemukan bahwa sebuah gugatan atas hukum Minnesota dipengaruhi langsung oleh hallusinasi LLM. Sebuah affidavit yang diajukan untuk mendukung hukum tersebut ditemukan mengandung sumber yang tidak ada yang mungkin telah dihallusinasikan oleh ChatGPT atau LLM lain. Hallusinasi seperti ini dapat dengan mudah mengurangi keandalan LLM.

Ada tiga bentuk hallusinasi utama:

1. Hallusinasi Konflik Input: Ini terjadi ketika output LLM menyimpang dari input pengguna, yang biasanya mencakup instruksi tugas dan konten yang sebenarnya perlu diproses.
2. Hallusinasi Konflik Konteks: LLM mungkin menghasilkan respons yang tidak konsisten secara internal dalam skenario yang melibatkan dialog yang diperpanjang atau pertukaran yang berbeda. Ini menunjukkan kemungkinan kekurangan dalam kemampuan model untuk melacak konteks atau mempertahankan koherensi selama interaksi yang berbeda.
3. Hallusinasi Konflik Fakta: Ini muncul ketika LLM menghasilkan konten yang bertentangan dengan pengetahuan faktual yang mapan. Asal-usul kesalahan seperti ini beragam dan dapat terjadi pada berbagai tahap dalam siklus hidup LLM.

Banyak faktor telah menyumbang pada fenomena ini, seperti kekurangan pengetahuan, yang menjelaskan bagaimana LLM mungkin kekurangan pengetahuan atau kemampuan untuk mengasimilasi informasi dengan benar selama pra-pelatihan. Selain itu, bias dalam data pelatihan atau strategi generasi berurutan LLM, yang dijuluki “hallusinasi snowballing,” dapat menciptakan hallusinasi.

Ada cara untuk memitigasi hallusinasi, meskipun mereka akan selalu menjadi karakteristik LLM. Strategi mitigasi yang berguna untuk hallusinasi adalah memitigasi selama pra-pelatihan (menghaluskan data secara manual menggunakan teknik penyaringan) atau fine-tuning (mengkurasi data pelatihan). Namun, mitigasi selama inferensi adalah solusi terbaik karena efisiensi biaya dan kontrolnya.

Privasi

Dengan meningkatnya aksesibilitas informasi pribadi dan data lainnya melalui internet, privasi telah menjadi masalah yang sangat dikenal. Sebuah studi menemukan bahwa 80% konsumen Amerika khawatir bahwa data mereka digunakan untuk melatih model AI. Karena LLM yang paling menonjol bersumber dari situs web, kita harus mempertimbangkan bagaimana ini menimbulkan risiko privasi dan tetap menjadi masalah yang belum terpecahkan untuk LLM.

Cara paling langsung untuk mencegah LLM mendistribusikan informasi pribadi adalah dengan menghilangkan informasi tersebut dari data pelatihan. Namun, mengingat jumlah data yang sangat besar yang terlibat dalam LLM, hampir mustahil untuk menjamin bahwa semua informasi pribadi dihilangkan. Alternatif lain yang umum untuk organisasi yang mengandalkan model yang dikembangkan secara eksternal adalah memilih LLM sumber terbuka sebagai gantinya menggunakan layanan seperti ChatGPT.

Dengan pendekatan ini, salinan model dapat diterapkan secara internal. Prompt pengguna tetap aman dalam jaringan organisasi daripada terpapar pada layanan pihak ketiga. Meskipun ini secara dramatis mengurangi risiko kebocoran data sensitif, juga menambah kompleksitas. Mengingat kesulitan untuk sepenuhnya menjamin perlindungan data pribadi, masih penting bagi pengembang aplikasi untuk mempertimbangkan bagaimana model-model ini dapat membahayakan pengguna mereka.

Batas Baru untuk LLM

Ketika kita terus tumbuh dan membentuk evolusi berikutnya dari LLM melalui mitigasi risiko saat ini, kita harus mengharapkan kemunculan agen LLM, yang sudah kita lihat perusahaan seperti H dengan Runner H, mulai dirilis. Perubahan dari model bahasa murni ke arsitektur agen merupakan perubahan dalam desain sistem AI; industri akan bergerak melampaui keterbatasan antarmuka obrolan dan generasi yang ditingkatkan dengan pencarian. Kerangka agen baru ini akan memiliki modul perencanaan yang canggih yang memecah tujuan kompleks menjadi subtugas atom, mempertahankan memori episodik untuk penalaran kontekstual, dan memanfaatkan alat khusus melalui API yang terdefinisi dengan baik. Ini menciptakan pendekatan yang lebih kuat untuk otomatisasi tugas. Kemajuan arsitektur membantu memitigasi tantangan umum seputar tugas dan penalaran, integrasi alat, dan pemantauan eksekusi dalam implementasi LLM tradisional.

Di samping LLM, akan ada fokus yang lebih besar pada melatih model bahasa yang lebih kecil karena efisiensi biaya, aksesibilitas, dan kemudahan penerapan. Misalnya, model bahasa khusus domain mengkhususkan diri dalam industri atau bidang tertentu. Model-model ini disempurnakan dengan data dan terminologi khusus domain, membuatnya ideal untuk lingkungan yang kompleks dan diatur, seperti bidang medis atau hukum, di mana presisi sangat penting. Pendekatan yang ditargetkan ini mengurangi kemungkinan kesalahan dan hallusinasi yang mungkin dihasilkan oleh model tujuan umum ketika dihadapkan pada konten khusus.

Ketika kita terus menjelajahi batas baru dalam LLM, sangat penting untuk mendorong batas inovasi dan mengatasi serta memitigasi risiko potensial yang terkait dengan pengembangan dan penerapan mereka. Hanya dengan mengidentifikasi dan mengatasi proaktif tantangan yang terkait dengan bias, hallusinasi, dan privasi dapat kita menciptakan fondasi yang lebih kuat untuk LLM untuk tumbuh di berbagai bidang.