Menghasilkan Uang dari Penelitian untuk Pelatihan AI: Risiko dan Praktik Terbaik

Seiring dengan meningkatnya permintaan akan AI generatif, kebutuhan akan data berkualitas tinggi untuk melatih sistem ini juga meningkat. Penerbit ilmiah telah memulai untuk menghasilkan uang dari konten penelitian mereka untuk menyediakan data pelatihan untuk model bahasa besar (LLM). Sementara perkembangan ini menciptakan aliran pendapatan baru bagi penerbit dan memungkinkan AI generatif untuk penemuan ilmiah, hal ini juga menimbulkan pertanyaan kritis tentang integritas dan keandalan penelitian yang digunakan. Ini menimbulkan pertanyaan penting: Apakah dataset yang dijual dapat dipercaya, dan apa implikasinya bagi komunitas ilmiah dan model AI?

Munculnya Kesepakatan Penelitian yang Menghasilkan Uang

Penerbit akademis besar, termasuk Wiley, Taylor & Francis, dan lain-lain, telah melaporkan pendapatan substansial dari lisensi konten mereka kepada perusahaan teknologi yang mengembangkan model AI generatif. Misalnya, Wiley mengungkapkan lebih dari $40 juta dalam pendapatan dari kesepakatan seperti itu tahun ini saja. Perjanjian ini memungkinkan perusahaan AI untuk mengakses dataset ilmiah yang beragam dan luas, yang seharusnya meningkatkan kualitas alat AI mereka.

Penawaran dari penerbit sangat sederhana: lisensi memastikan model AI yang lebih baik, menguntungkan masyarakat sambil memberi royalti kepada penulis. Model bisnis ini menguntungkan baik perusahaan teknologi maupun penerbit. Namun, tren yang meningkat untuk menghasilkan uang dari pengetahuan ilmiah memiliki risiko, terutama ketika penelitian yang dipertanyakan meresap ke dalam dataset pelatihan AI.

Bayangan Penelitian Palsu

Komunitas ilmiah tidak asing dengan masalah penelitian palsu. Studi menunjukkan bahwa banyak temuan yang dipublikasikan memiliki kelemahan, bias, atau tidak dapat diandalkan. Survei pada 2020 menemukan bahwa hampir setengah peneliti melaporkan masalah seperti pelaporan data selektif atau desain studi lapangan yang buruk. Pada 2023, lebih dari 10.000 makalah ditarik kembali karena hasil yang dipalsukan atau tidak dapat diandalkan, jumlah yang terus meningkat setiap tahun. Ahli percaya bahwa angka ini hanya merupakan puncak gunung es, dengan banyak studi yang meragukan beredar di database ilmiah.

Krisis ini sebagian besar disebabkan oleh “pabrik kertas penelitian,” organisasi bayangan yang menghasilkan studi palsu, sering kali sebagai respons terhadap tekanan akademis di wilayah seperti Cina, India, dan Eropa Timur. Diperkirakan bahwa sekitar 2% dari pengajuan jurnal global berasal dari pabrik kertas. Makalah palsu ini dapat menyerupai penelitian yang sah tetapi dipenuhi dengan data fiksi dan kesimpulan tanpa dasar. Mengkhawatirkan, makalah seperti itu lolos dari proses peer review dan berakhir di jurnal yang dihormati, mengompromikan keandalan wawasan ilmiah. Misalnya, selama pandemi COVID-19, studi yang bermasalah tentang ivermektin salah mengklaim efikasinya sebagai pengobatan, menimbulkan kebingungan dan memperlambat respons kesehatan masyarakat yang efektif. Contoh ini menyoroti potensi bahaya dari menyebarkan penelitian yang tidak dapat diandalkan, di mana hasil yang bermasalah dapat memiliki dampak yang signifikan.

Konsekuensi untuk Pelatihan AI dan Kepercayaan

Implikasinya sangat mendalam ketika LLM dilatih pada database yang mengandung penelitian palsu atau berkualitas rendah. Model AI menggunakan pola dan hubungan dalam data pelatihan mereka untuk menghasilkan output. Jika data input rusak, output mungkin memperkuat ketidakakuratan atau bahkan memperbesarinya. Risiko ini sangat tinggi di bidang seperti kedokteran, di mana wawasan AI yang dihasilkan yang tidak akurat dapat memiliki konsekuensi yang mengancam jiwa.
Selain itu, masalah ini mengancam kepercayaan publik pada akademisi dan AI. Ketika penerbit terus membuat perjanjian, mereka harus mengatasi kekhawatiran tentang kualitas data yang dijual. Kegagalan untuk melakukannya dapat merusak reputasi komunitas ilmiah dan mengurangi manfaat potensial AI.

Memastikan Data yang Dapat Dipercaya untuk AI

Mengurangi risiko penelitian yang bermasalah yang mengganggu pelatihan AI memerlukan upaya bersama dari penerbit, perusahaan AI, pengembang, peneliti, dan komunitas yang lebih luas. Penerbit harus meningkatkan proses peer review mereka untuk menangkap studi yang tidak dapat diandalkan sebelum mereka masuk ke dalam dataset pelatihan. Menawarkan imbalan yang lebih baik bagi reviewer dan menetapkan standar yang lebih tinggi dapat membantu. Proses review terbuka sangat penting di sini. Ini membawa lebih banyak transparansi dan akuntabilitas, membantu membangun kepercayaan pada penelitian.
Perusahaan AI harus lebih berhati-hati tentang siapa mereka bekerja sama dengan ketika mereka mencari penelitian untuk pelatihan AI. Memilih penerbit dan jurnal dengan reputasi yang kuat untuk penelitian berkualitas tinggi dan direview dengan baik sangat penting. Dalam konteks ini, penting untuk melihat lebih dekat pada catatan penerbit—seperti seberapa sering mereka menarik kembali makalah atau seberapa terbuka mereka tentang proses review mereka. Dengan memilih penerbit yang tepat, keandalan data dapat ditingkatkan dan kepercayaan dapat dibangun di seluruh komunitas AI dan penelitian.

Pengembang AI perlu mengambil tanggung jawab atas data yang mereka gunakan. Ini berarti bekerja sama dengan ahli, memeriksa penelitian dengan hati-hati, dan membandingkan hasil dari beberapa studi. Alat AI itu sendiri juga dapat dirancang untuk mengidentifikasi data yang mencurigakan dan mengurangi risiko penelitian yang dipertanyakan menyebar lebih lanjut.

Transparansi juga merupakan faktor yang sangat penting. Penerbit dan perusahaan AI harus terbuka tentang bagaimana penelitian digunakan dan ke mana royalti dibayarkan. Alat seperti Generative AI Licensing Agreement Tracker menunjukkan janji tetapi memerlukan adopsi yang lebih luas. Peneliti juga harus memiliki pengaruh dalam bagaimana karya mereka digunakan. Kebijakan opt-in, seperti yang dari Cambridge University Press, memberikan penulis kontrol atas kontribusi mereka. Ini membangun kepercayaan, memastikan keadilan, dan membuat penulis secara aktif berpartisipasi dalam proses ini.

Selain itu, akses terbuka ke penelitian berkualitas tinggi harus didorong untuk memastikan inklusivitas dan keadilan dalam pengembangan AI. Pemerintah, organisasi nirlaba, dan pemain industri dapat mendanai inisiatif akses terbuka, mengurangi ketergantungan pada penerbit komersial untuk dataset pelatihan yang kritis. Di atas itu, industri AI memerlukan aturan yang jelas untuk sumber data secara etis. Dengan fokus pada penelitian yang andal dan direview dengan baik, kita dapat membangun alat AI yang lebih baik, melindungi integritas ilmiah, dan mempertahankan kepercayaan publik pada ilmu pengetahuan dan teknologi.

Ringkasan

Menghasilkan uang dari penelitian untuk pelatihan AI menawarkan baik kesempatan dan tantangan. Sementara pelisensian konten akademis memungkinkan pengembangan model AI yang lebih kuat, hal ini juga menimbulkan kekhawatiran tentang integritas dan keandalan data yang digunakan. Penelitian yang bermasalah, termasuk yang dari “pabrik kertas,” dapat merusak dataset pelatihan AI, mengakibatkan ketidakakuratan yang dapat merusak kepercayaan publik dan manfaat potensial AI. Untuk memastikan model AI dibangun pada data yang dapat dipercaya, penerbit, perusahaan AI, dan pengembang harus bekerja sama untuk meningkatkan proses peer review, meningkatkan transparansi, dan memprioritaskan penelitian yang berkualitas tinggi dan direview dengan baik. Dengan melakukan hal ini, kita dapat melindungi masa depan AI dan mempertahankan integritas komunitas ilmiah.