Menghilangkan Data Hak Cipta dari LLM yang Dilatih – Apakah Mungkin?

Dalam domain kecerdasan buatan (AI) dan pembelajaran mesin (ML), model bahasa besar (LLM) menunjukkan kemajuan dan tantangan. Dilatih pada dataset teks yang luas, model LLM mengandung bahasa dan pengetahuan manusia.

Namun, kemampuan mereka untuk menyerap dan meniru pemahaman manusia menyajikan tantangan hukum, etika, dan teknologi. Selain itu, dataset besar yang memuat LLM mungkin mengandung materi beracun, teks hak cipta, ketidakakuratan, atau data pribadi.

Membuat LLM melupakan data tertentu telah menjadi masalah yang mendesak untuk memastikan kepatuhan hukum dan tanggung jawab etika.

Mari kita jelajahi konsep membuat LLM melupakan data hak cipta untuk menjawab pertanyaan mendasar: Apakah mungkin?

Mengapa Unlearning LLM Diperlukan?

LLM sering mengandung data yang dipertanyakan, termasuk data hak cipta. Memiliki data seperti itu dalam LLM menimbulkan tantangan hukum terkait informasi pribadi, informasi yang bias, data hak cipta, dan elemen yang salah atau berbahaya.

Oleh karena itu, unlearning sangat penting untuk memastikan bahwa LLM mematuhi peraturan privasi dan mematuhi hukum hak cipta, mempromosikan LLM yang bertanggung jawab dan etis.

Namun, mengekstrak konten hak cipta dari pengetahuan luas yang diperoleh model ini sangat menantang. Berikut beberapa teknik unlearning yang dapat membantu menyelesaikan masalah ini:

• Penyaringan data: Ini melibatkan mengidentifikasi dan menghapus elemen hak cipta, data bising atau bias, dari data pelatihan model. Namun, penyaringan dapat menyebabkan kehilangan informasi non-hak cipta yang berharga selama proses penyaringan.
• Metode gradien: Metode ini menyesuaikan parameter model berdasarkan gradien fungsi kerugian, menangani masalah data hak cipta dalam model ML. Namun, penyesuaian dapat mempengaruhi kinerja model secara negatif pada data non-hak cipta.
• Unlearning dalam konteks: Teknik ini secara efektif menghilangkan dampak titik pelatihan tertentu pada model dengan memperbarui parameter tanpa mempengaruhi pengetahuan yang tidak terkait. Namun, metode ini memiliki keterbatasan dalam mencapai unlearning yang tepat, terutama dengan model besar, dan efektivitasnya memerlukan evaluasi lebih lanjut.

Teknik-teknik ini memerlukan sumber daya yang intensif dan waktu yang lama, membuatnya sulit untuk diimplementasikan.

Studi Kasus

Untuk memahami pentingnya unlearning LLM, kasus-kasus dunia nyata ini menyoroti bagaimana perusahaan dipenuhi dengan tantangan hukum terkait model bahasa besar (LLM) dan data hak cipta.

Tuntutan Hukum OpenAI: OpenAI, sebuah perusahaan AI terkemuka, telah dituntut oleh beberapa tuntutan hukum terkait data pelatihan LLM. Tindakan hukum ini mempertanyakan penggunaan materi hak cipta dalam pelatihan LLM. Selain itu, mereka telah memicu penyelidikan tentang mekanisme yang digunakan model untuk mendapatkan izin untuk setiap karya hak cipta yang digunakan dalam proses pelatihan.

Tuntutan Hukum Sarah Silverman: Kasus Sarah Silverman melibatkan tuduhan bahwa model ChatGPT menghasilkan ringkasan dari bukunya tanpa izin. Tindakan hukum ini menekankan masalah penting terkait masa depan AI dan data hak cipta.

Memperbarui kerangka hukum untuk selaras dengan kemajuan teknologi memastikan penggunaan AI yang bertanggung jawab dan hukum. Selain itu, komunitas penelitian harus menangani tantangan ini secara komprehensif untuk membuat LLM etis dan adil.

Teknik Unlearning LLM Tradisional

Unlearning LLM seperti memisahkan bahan-bahan tertentu dari resep yang kompleks, memastikan bahwa hanya komponen yang diinginkan yang berkontribusi pada hasil akhir. Teknik unlearning LLM tradisional, seperti fine-tuning dengan data yang dipilih dan pelatihan ulang, tidak memiliki mekanisme yang jelas untuk menghapus data hak cipta.

Pendekatan mereka yang luas sering terbukti tidak efisien dan memerlukan sumber daya yang intensif untuk tugas unlearning yang canggih, karena mereka memerlukan pelatihan ulang yang luas.

Sementara metode tradisional dapat menyesuaikan parameter model, mereka berjuang untuk menargetkan konten hak cipta dengan tepat, berisiko kehilangan data yang tidak disengaja dan kepatuhan yang suboptimal.

Oleh karena itu, keterbatasan teknik tradisional dan solusi yang kuat memerlukan eksperimen dengan teknik unlearning alternatif.

Teknik Baru: Unlearning Sebagian Data Pelatihan

Makalah penelitian Microsoft (MSFT ) memperkenalkan teknik yang revolusioner untuk unlearning data hak cipta dalam LLM. Fokus pada contoh model Llama2-7b dan buku Harry Potter, metode ini melibatkan tiga komponen inti untuk membuat LLM melupakan dunia Harry Potter. Komponen-komponen ini termasuk:

• Identifikasi model yang diperkuat: Membuat model yang diperkuat melibatkan fine-tuning data target (misalnya, Harry Potter) untuk memperkuat pengetahuan tentang konten yang akan dihilangkan.
• Menggantikan ekspresi idiosinkratik: Ekspresi unik Harry Potter dalam data target digantikan dengan ekspresi generik, memfasilitasi pemahaman yang lebih umum.
• Fine-tuning pada prediksi alternatif: Model dasar menjalani fine-tuning berdasarkan prediksi alternatif. Secara fundamental, ini menghapus teks asli dari memori ketika dihadapkan dengan konteks yang relevan.

Meskipun teknik Microsoft masih dalam tahap awal dan mungkin memiliki keterbatasan, ini merupakan kemajuan yang menjanjikan menuju LLM yang lebih kuat, etis, dan adaptif.

Hasil Teknik Baru

Metode inovatif untuk membuat LLM melupakan data hak cipta yang disajikan dalam makalah penelitian Microsoft adalah langkah menuju model yang bertanggung jawab dan etis.

Teknik baru ini melibatkan penghapusan konten terkait Harry Potter dari model Llama2-7b Meta, yang diketahui telah dilatih pada dataset “books3” yang mengandung karya hak cipta. Namun, model asli menunjukkan pemahaman yang rumit tentang semesta J.K. Rowling, bahkan dengan prompt generik.

Teknik Microsoft yang diusulkan secara signifikan mengubah responsnya. Berikut adalah contoh prompt yang menunjukkan perbedaan yang signifikan antara model Llama2-7b asli dan versi yang telah di-fine-tune.

Sumber Gambar

Tabel ini menunjukkan bahwa model unlearning yang di-fine-tune mempertahankan kinerjanya di berbagai benchmark (seperti Hellaswag, Winogrande, piqa, boolq, dan arc).

Sumber Gambar

Metode evaluasi, yang bergantung pada analisis prompt model dan respons berikutnya, terbukti efektif tetapi mungkin mengabaikan metode ekstraksi informasi yang lebih kompleks dan berbahaya.

Meskipun teknik ini menjanjikan, penelitian lebih lanjut diperlukan untuk penyempurnaan dan perluasan, terutama dalam menangani tugas unlearning yang lebih luas dalam LLM.

Tantangan Teknik Unlearning Baru

Meskipun teknik unlearning Microsoft menunjukkan janji, beberapa tantangan dan keterbatasan AI hak cipta ada.

Keterbatasan kunci dan area untuk ditingkatkan mencakup:

• Kecebocoran informasi hak cipta: Metode ini mungkin tidak sepenuhnya menghilangkan risiko kebocoran informasi hak cipta, karena model mungkin masih mempertahankan beberapa pengetahuan tentang konten target selama proses fine-tuning.
• Evaluasi berbagai dataset: Untuk menilai efektivitas, teknik ini harus menjalani evaluasi lebih lanjut di berbagai dataset, karena eksperimen awal hanya fokus pada buku Harry Potter.
• Skalabilitas: Pengujian pada dataset yang lebih besar dan model bahasa yang lebih kompleks sangat penting untuk menilai kemampuan dan adaptabilitas teknik ini dalam skenario dunia nyata.

Peningkatan kasus hukum terkait AI, terutama tuntutan hak cipta yang menargetkan LLM, menyoroti kebutuhan akan pedoman yang jelas. Pengembangan yang menjanjikan, seperti metode unlearning yang diusulkan oleh Microsoft, membuka jalan menuju AI yang etis, hukum, dan bertanggung jawab.

Jangan lewatkan berita dan analisis terbaru tentang AI dan ML – kunjungi unite.ai hari ini.