Lingkaran Umpan Balik AI: Memelihara Kualitas Produksi Model di Era Konten yang Dibuat AI

Model AI yang diterapkan dalam produksi memerlukan mekanisme evaluasi kinerja yang kuat dan terus-menerus. Inilah tempat di mana lingkaran umpan balik AI dapat diterapkan untuk memastikan kinerja model yang konsisten.

Ambil dari Elon Musk:

“Saya pikir sangat penting untuk memiliki lingkaran umpan balik, di mana Anda terus-menerus memikirkan apa yang telah Anda lakukan dan bagaimana Anda dapat melakukannya dengan lebih baik.”

Untuk semua model AI, prosedur standar adalah menerapkan model dan kemudian secara berkala melakukan pelatihan ulang pada data dunia nyata terbaru untuk memastikan bahwa kinerjanya tidak memburuk. Namun, dengan munculnya Konten yang Dibuat AI, pelatihan model AI telah menjadi anomali dan rentan terhadap kesalahan. Hal ini disebabkan oleh sumber data online (internet) yang secara bertahap menjadi campuran data yang dibuat manusia dan AI.

Sebagai contoh, banyak blog saat ini menampilkan teks yang dibuat AI yang ditenagai oleh LLM (Modul Bahasa Besar) seperti ChatGPT atau GPT-4. Banyak sumber data mengandung gambar yang dibuat AI yang dibuat menggunakan DALL-E2 atau Midjourney. Selain itu, peneliti AI menggunakan data sintetis yang dibuat menggunakan Konten yang Dibuat AI dalam pipa pelatihan model mereka.

Oleh karena itu, kita memerlukan mekanisme yang kuat untuk memastikan kualitas model AI. Inilah tempat di mana kebutuhan akan lingkaran umpan balik AI telah menjadi lebih diperkuat.

Apa itu Lingkaran Umpan Balik AI?

Lingkaran umpan balik AI adalah proses iteratif di mana keputusan dan keluaran model AI terus-menerus dikumpulkan dan digunakan untuk meningkatkan atau melakukan pelatihan ulang model yang sama, menghasilkan pembelajaran, pengembangan, dan perbaikan model yang terus-menerus. Dalam proses ini, data pelatihan, parameter model, dan algoritma sistem AI diperbarui dan diperbaiki berdasarkan input yang dihasilkan dari dalam sistem.

Mainly ada dua jenis lingkaran umpan balik AI:

1. Lingkaran Umpan Balik AI Positif: Ketika model AI menghasilkan hasil yang akurat yang sesuai dengan harapan dan preferensi pengguna, pengguna memberikan umpan balik positif melalui lingkaran umpan balik, yang pada gilirannya memperkuat akurasi hasil di masa depan. Lingkaran umpan balik seperti ini disebut positif.
2. Lingkaran Umpan Balik AI Negatif: Ketika model AI menghasilkan hasil yang tidak akurat, pengguna melaporkan kesalahan melalui lingkaran umpan balik yang pada gilirannya mencoba memperbaiki stabilitas sistem dengan memperbaiki kesalahan. Lingkaran umpan balik seperti ini disebut negatif.

Kedua jenis lingkaran umpan balik AI memungkinkan pengembangan model yang terus-menerus dan perbaikan kinerja dari waktu ke waktu. Dan mereka tidak digunakan atau diterapkan dalam isolasi. Bersama-sama, mereka membantu model AI yang diterapkan dalam produksi mengetahui apa yang benar atau salah.

Tahap Lingkaran Umpan Balik AI

Ilustrasi tingkat tinggi dari mekanisme umpan balik dalam model AI. Sumber

Memahami bagaimana lingkaran umpan balik AI bekerja sangat penting untuk membuka potensi penuh pengembangan AI. Mari kita jelajahi tahap-tahap lingkaran umpan balik AI di bawah.

1. Pengumpulan Umpan Balik: Mengumpulkan hasil model yang relevan untuk evaluasi. Biasanya, pengguna memberikan umpan balik pada hasil model, yang kemudian digunakan untuk pelatihan ulang. Atau bisa juga data eksternal dari web yang dikurasi untuk memperbaiki kinerja sistem.
2. Pelatihan Ulang Model: Menggunakan informasi yang dikumpulkan, sistem AI dilatih ulang untuk membuat prediksi yang lebih baik, memberikan jawaban, atau melakukan kegiatan tertentu dengan memperbaiki parameter model atau bobot.
3. Integrasi dan Pengujian Umpan Balik: Setelah pelatihan ulang, model diuji dan dievaluasi lagi. Pada tahap ini, umpan balik dari Ahli Materi (SME) juga dimasukkan untuk menyoroti masalah di luar data.
4. Penerapan: Model diterapkan kembali setelah perubahan diverifikasi. Pada tahap ini, model seharusnya melaporkan kinerja yang lebih baik pada data dunia nyata baru, menghasilkan pengalaman pengguna yang diperbaiki.
5. Pemantauan: Model dipantau terus-menerus menggunakan metrik untuk mengidentifikasi kemungkinan penurunan, seperti drift. Dan siklus umpan balik terus berlanjut.

Masalah dalam Data Produksi dan Keluaran Model AI

Membangun sistem AI yang kuat memerlukan pemahaman yang menyeluruh tentang masalah potensial dalam data produksi (data dunia nyata) dan keluaran model. Mari kita lihat beberapa masalah yang menjadi hambatan dalam memastikan akurasi dan keandalan sistem AI:

1. Drift Data: Terjadi ketika model mulai menerima data dunia nyata dari distribusi yang berbeda dibandingkan dengan distribusi data pelatihan model.
2. Drift Model: Kemampuan prediktif model dan efisiensi menurun seiring waktu karena perubahan lingkungan dunia nyata. Ini dikenal sebagai drift model.
3. Keluaran Model AI vs. Keputusan Dunia Nyata: Model AI menghasilkan keluaran yang tidak akurat yang tidak sesuai dengan keputusan stakeholder dunia nyata.
4. Bias dan Keadilan: Model AI dapat mengembangkan bias dan masalah keadilan. Sebagai contoh, dalam pidato TED oleh Janelle Shane, dia menjelaskan keputusan Amazon (AMZN ) untuk menghentikan pengembangan algoritma pengurutan resume karena diskriminasi gender.

Ketika model AI mulai dilatih pada konten yang dibuat AI, masalah ini dapat meningkat lebih lanjut. Bagaimana? Mari kita diskusikan lebih lanjut.

Lingkaran Umpan Balik AI di Era Konten yang Dibuat AI

Dalam era adopsi konten yang dibuat AI yang cepat, peneliti telah mempelajari fenomena yang dikenal sebagai Keruntuhan Model. Mereka mendefinisikan keruntuhan model sebagai:

“Proses degeneratif yang mempengaruhi generasi model generatif yang dipelajari, di mana data yang dihasilkan akhirnya mempengaruhi set pelatihan model generasi berikutnya; dilatih pada data yang terkontaminasi, mereka kemudian salah mengerti kenyataan.”

Keruntuhan Model terdiri dari dua kasus khusus,

• Keruntuhan Model Awal terjadi ketika “model mulai kehilangan informasi tentang ekor distribusi,” yaitu ujung ekstrem distribusi data pelatihan.
• Keruntuhan Model Akhir terjadi ketika “model menggabungkan mode yang berbeda dari distribusi asli dan konvergen ke distribusi yang memiliki sedikit kemiripan dengan distribusi asli, sering dengan varians yang sangat kecil.”

Penyebab Keruntuhan Model

Untuk praktisi AI dapat menangani masalah ini, penting untuk memahami alasan-alasan keruntuhan model, yang dikelompokkan menjadi dua kategori utama:

1. Kesalahan Aproksimasi Statistik: Ini adalah kesalahan utama yang disebabkan oleh jumlah sampel yang terbatas, dan kesalahan ini menghilang ketika jumlah sampel mendekati tak terhingga.
2. Kesalahan Aproksimasi Fungsi: Kesalahan ini timbul ketika model, seperti jaringan saraf, gagal menangkap fungsi yang mendasarinya yang harus dipelajari dari data.

Contoh hasil model untuk beberapa generasi model yang dipengaruhi oleh Keruntuhan Model. Sumber

Bagaimana Lingkaran Umpan Balik AI Dipengaruhi oleh Konten yang Dibuat AI

Ketika model AI dilatih pada konten yang dibuat AI, hal ini memiliki efek destruktif pada lingkaran umpan balik AI dan dapat menyebabkan banyak masalah untuk model AI yang dilatih ulang, seperti:

• Keruntuhan Model: Seperti yang dijelaskan di atas, Keruntuhan Model adalah kemungkinan jika lingkaran umpan balik AI mengandung konten yang dibuat AI.
• Penghapusan Katakstrofis: Tantangan umum dalam pembelajaran terus-menerus adalah bahwa model melupakan sampel sebelumnya ketika mempelajari informasi baru. Ini dikenal sebagai penghapusan katakstrofis.
• Pencemaran Data: Ini mengacu pada pemberian data sintetis manipulatif ke model AI untuk mengompromikan kinerjanya, memicu model untuk menghasilkan keluaran yang tidak akurat.

Bagaimana Bisnis dapat Membuat Lingkaran Umpan Balik yang Kuat untuk Model AI mereka?

Bisnis dapat mendapat manfaat dengan menggunakan lingkaran umpan balik dalam alur kerja AI mereka. Ikuti tiga langkah utama di bawah untuk meningkatkan kinerja model AI.

• Umpan Balik dari Ahli Materi: Ahli Materi sangat berpengetahuan dalam domain mereka dan memahami penggunaan model AI. Mereka dapat menawarkan wawasan untuk meningkatkan keselarasan model dengan pengaturan dunia nyata, memberikan kemungkinan hasil yang benar. Juga, mereka dapat lebih baik mengatur dan mengelola data yang dibuat AI.
• Pilih Metrik Kualitas Model yang Relevan: Memilih metrik evaluasi yang tepat untuk tugas yang tepat dan memantau model dalam produksi berdasarkan metrik ini dapat memastikan kualitas model. Praktisi AI juga menggunakan alat MLOps untuk evaluasi dan pemantauan otomatis untuk memberi tahu semua pemangku kepentingan jika kinerja model mulai menurun dalam produksi.
• Penyaringan Data yang Ketat: Ketika model produksi dilatih ulang pada data baru, mereka dapat melupakan informasi sebelumnya, sehingga penting untuk menyaring data berkualitas tinggi yang sesuai dengan tujuan model. Data ini dapat digunakan untuk melatih ulang model dalam generasi berikutnya, bersama dengan umpan balik pengguna untuk memastikan kualitas.

Untuk mempelajari lebih lanjut tentang kemajuan AI, kunjungi Unite.ai.