Bagaimana Data Sintetis Mempengaruhi Halusinasi AI?

Meskipun data sintetis adalah alat yang kuat, itu hanya dapat mengurangi halusinasi kecerdasan buatan dalam keadaan tertentu. Dalam hampir semua kasus lain, itu akan memperkuatnya. Mengapa demikian? Apa yang dimaksud dengan fenomena ini bagi mereka yang telah berinvestasi di dalamnya?

Bagaimana Data Sintetis Berbeda Dari Data Riil?

Data sintetis adalah informasi yang dihasilkan oleh kecerdasan buatan. Alih-alih dikumpulkan dari peristiwa atau pengamatan dunia nyata, itu diproduksi secara buatan. Namun, itu menyerupai aslinya cukup untuk menghasilkan output yang akurat dan relevan. Itulah ide di baliknya.

Untuk membuat dataset buatan, insinyur kecerdasan buatan melatih algoritma generatif pada database relasional riil. Ketika diminta, itu menghasilkan set kedua yang mirip dengan yang pertama tetapi tidak mengandung informasi asli. Sementara tren umum dan sifat matematika tetap utuh, ada cukup noise untuk menutupi hubungan asli.

Dataset buatan kecerdasan buatan melampaui deidentifikasi, mereplikasi logika hubungan antara bidang alih-alih hanya menggantikan bidang dengan alternatif yang setara. Karena itu tidak mengandung detail mengidentifikasi, perusahaan dapat menggunakannya untuk menghindari peraturan privasi dan hak cipta. Lebih penting lagi, mereka dapat membagikannya atau mendistribusikannya secara bebas tanpa takut pelanggaran.

Namun, informasi palsu lebih umum digunakan untuk suplemen. Bisnis dapat menggunakannya untuk memperkaya atau memperluas ukuran sampel yang terlalu kecil, membuatnya cukup besar untuk melatih sistem kecerdasan buatan secara efektif.

Apakah Data Sintetis Mengurangi Halusinasi AI?

Terkadang, algoritma merujuk pada peristiwa yang tidak ada atau membuat saran yang mustahil secara logis. Halusinasi ini sering tidak masuk akal, menyesatkan, atau salah. Misalnya, model bahasa besar mungkin menulis artikel tentang cara mendomestikasi singa atau menjadi dokter pada usia 6. Namun, mereka tidak semua ekstrem seperti itu, yang dapat membuat pengenalan mereka menjadi tantangan.

Jika dikurasi dengan benar, data buatan dapat mengurangi kejadian tersebut. Database pelatihan yang relevan dan asli adalah fondasi untuk setiap model, sehingga masuk akal bahwa semakin banyak detail yang dimiliki seseorang, semakin akurat output modelnya akan menjadi. Dataset suplemen memungkinkan skalabilitas, bahkan untuk aplikasi niche dengan informasi publik yang terbatas.

Debiasing adalah cara lain dataset sintetis dapat mengurangi halusinasi kecerdasan buatan. Menurut MIT Sloan School of Management, itu dapat membantu mengatasi bias karena itu tidak terbatas pada ukuran sampel asli. Profesional dapat menggunakan detail realistis untuk mengisi celah di mana subpopulasi tertentu under atau overrepresentasikan.

Bagaimana Data Buatan Membuat Halusinasi Lebih Buruk

Karena algoritma cerdas tidak dapat bernalar atau mengkontekstualisasikan informasi, mereka rentan terhadap halusinasi. Model generatif — model bahasa besar pra-dilatih khususnya — sangat rentan. Dalam beberapa cara, fakta buatan memperburuk masalah.

Penguatan Bias

Seperti manusia, kecerdasan buatan dapat belajar dan mereproduksi bias. Jika dataset buatan menghargai beberapa kelompok sementara underrepresentasikan yang lain — yang mudah dilakukan secara tidak sengaja — logika pengambilan keputusannya akan miring, mempengaruhi akurasi output.

Masalah serupa mungkin timbul ketika perusahaan menggunakan data palsu untuk menghilangkan bias dunia nyata karena mungkin tidak lagi mencerminkan kenyataan. Misalnya, karena lebih dari 99% kanker payudara terjadi pada wanita, menggunakan informasi suplemen untuk menyeimbangkan representasi dapat memutar diagnosa.

Halusinasi Interseksional

Interseksionalitas adalah kerangka sosiologis yang menjelaskan bagaimana demografi seperti usia, jenis kelamin, ras, pekerjaan, dan kelas berpotongan. Ini menganalisis bagaimana identitas sosial yang tumpang tindih dari kelompok menghasilkan kombinasi unik diskriminasi dan privilegi.

Ketika model generatif diminta untuk menghasilkan detail buatan berdasarkan apa yang dilatih, itu mungkin menghasilkan kombinasi yang tidak ada dalam aslinya atau mustahil secara logis.

Ericka Johnson, seorang profesor gender dan masyarakat di Linköping University, bekerja dengan ilmuwan kecerdasan buatan untuk mendemonstrasikan fenomena ini. Mereka menggunakan jaringan adversarial generatif untuk membuat versi sintetis dari angka sensus Amerika Serikat dari 1990.

Segera, mereka menyadari masalah yang mencolok. Versi buatan memiliki kategori berjudul “istri dan lajang” dan “suami yang tidak pernah menikah”, keduanya merupakan halusinasi interseksional.

Tanpa kurasi yang tepat, database replika akan selalu overrepresentasikan subpopulasi dominan dalam dataset sementara underrepresentasikan — atau bahkan menghilangkan — kelompok yang kurang diwakili. Kasus tepi dan outlier mungkin diabaikan sepenuhnya demi tren dominan.

Keruntuhan Model

Ketergantungan yang berlebihan pada pola dan tren buatan menyebabkan keruntuhan model — di mana kinerja algoritma memburuk secara drastis karena menjadi kurang adaptif terhadap pengamatan dan peristiwa dunia nyata.

Fenomena ini terutama jelas dalam kecerdasan buatan generatif berikutnya. Menggunakan versi buatan berulang kali untuk melatih mereka menghasilkan loop yang mengkonsumsi diri sendiri. Satu studi menemukan bahwa kualitas dan recall mereka menurun secara progresif tanpa cukup angka riil terbaru dalam setiap generasi.

Overfitting

Overfitting adalah ketergantungan yang berlebihan pada data pelatihan. Algoritma berkinerja baik awalnya tetapi akan mengalami halusinasi ketika diberikan dengan titik data baru. Informasi sintetis dapat memperburuk masalah ini jika tidak mencerminkan kenyataan secara akurat.

Implikasi Penggunaan Data Sintetis yang Berkelanjutan

Pasar data sintetis sedang berkembang. Perusahaan di industri ini mengumpulkan sekitar $328 juta pada 2022, naik dari $53 juta pada 2020 — peningkatan 518% dalam 18 bulan. Ini patut disebutkan bahwa ini hanya pendanaan yang diketahui secara publik, yang berarti angka sebenarnya mungkin lebih tinggi. Aman untuk mengatakan bahwa perusahaan sangat berinvestasi dalam solusi ini.

Jika perusahaan terus menggunakan database buatan tanpa kurasi dan debiasing yang tepat, kinerja model mereka akan menurun secara progresif, membasahi investasi kecerdasan buatan mereka. Hasilnya mungkin lebih parah, tergantung pada aplikasi. Misalnya, dalam perawatan kesehatan, lonjakan halusinasi dapat menghasilkan diagnosa yang salah atau rencana perawatan yang tidak tepat, menyebabkan hasil pasien yang lebih buruk.

Solusi Tidak Akan Melibatkan Kembali ke Data Riil

Sistem kecerdasan buatan membutuhkan jutaan, jika tidak milyaran, gambar, teks, dan video untuk pelatihan, sebagian besar di antaranya dikumpulkan dari situs web publik dan dikompilasi dalam dataset terbuka yang besar. Sayangnya, algoritma mengonsumsi informasi ini lebih cepat daripada manusia dapat menghasilkannya. Apa yang terjadi ketika mereka belajar semuanya?

Pemimpin bisnis khawatir tentang mencapai dinding data — titik di mana semua informasi publik di internet telah habis. Ini mungkin mendekati lebih cepat daripada yang mereka pikir.

Meskipun jumlah teks biasa pada halaman crawl umum dan jumlah pengguna internet tumbuh sebesar 2% hingga 4% setiap tahun, algoritma kehabisan data berkualitas tinggi. Hanya 10% hingga 40% dapat digunakan untuk pelatihan tanpa mengompromikan kinerja. Jika tren berlanjut, stok informasi publik yang dihasilkan manusia bisa habis pada 2026.

Dalam kemungkinan, sektor kecerdasan buatan mungkin mencapai dinding data lebih awal. Ledakan kecerdasan buatan generatif dalam beberapa tahun terakhir telah meningkatkan ketegangan atas kepemilikan informasi dan pelanggaran hak cipta. Lebih banyak pemilik situs web menggunakan Protokol Pengecualian Robot — standar yang menggunakan file robots.txt untuk memblokir pengrawler web — atau membuat jelas bahwa situs mereka tidak dapat diakses.

Studi 2024 yang diterbitkan oleh grup penelitian yang dipimpin MIT mengungkapkan bahwa korpus crawl web skala besar Colossal Cleaned Common Crawl (C4) memiliki pembatasan yang meningkat. Lebih dari 28% dari sumber aktif yang paling kritis di C4 sepenuhnya dibatasi. Selain itu, 45% dari C4 sekarang ditandai sebagai tidak dapat diakses oleh ketentuan layanan.

Jika perusahaan menghormati pembatasan ini, kesegaran, relevansi, dan akurasi fakta dunia nyata akan menurun, memaksa mereka untuk bergantung pada database buatan. Mereka mungkin tidak memiliki banyak pilihan jika pengadilan memutuskan bahwa alternatif apa pun merupakan pelanggaran hak cipta.

Masa Depan Data Sintetis dan Halusinasi AI

Ketika hukum hak cipta diperbarui dan lebih banyak pemilik situs web menyembunyikan konten mereka dari pengrawler web, generasi dataset buatan akan menjadi semakin populer. Organisasi harus siap menghadapi ancaman halusinasi.