Pemimpin pemikiran
Kekhawatiran Mengenai Risiko Potensial ChatGPT Meningkat, Apakah Menghentikan AI Adalah Langkah yang Baik?
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Sementara Elon Musk dan pemimpin teknologi global lainnya telah meminta penghentian sementara pada AI setelah peluncuran ChatGPT, beberapa kritikus percaya bahwa penghentian sementara pada pengembangan AI bukanlah jawaban. Andrew Pery, seorang evangelis AI dari perusahaan otomasi cerdas ABBYY, percaya bahwa menghentikan AI sementara seperti memasukkan kembali pasta gigi ke dalam tabung. Ia menjelaskan alasannya kepada kami…
Aplikasi AI telah merambah hampir setiap aspek kehidupan kita. Meskipun patut dipuji, menghentikan AI sekarang mungkin tidaklah mungkin.
Tentu ada kekhawatiran yang nyata yang meminta peningkatan pengawasan regulasi untuk mengendalikan dampak berbahaya potensialnya.
Baru-baru ini, Otoritas Perlindungan Data Italia secara sementara memblokir penggunaan ChatGPT di seluruh negeri karena kekhawatiran privasi terkait dengan cara pengumpulan dan pengolahan data pribadi yang digunakan untuk melatih model, serta kurangnya pengamanan, yang membuat anak-anak terpapar pada respons “absolut tidak sesuai dengan usia dan kesadaran mereka”.
Organisasi Konsumen Eropa (BEUC) mendesak UE untuk menyelidiki dampak berbahaya potensial dari model bahasa besar karena “kekhawatiran yang meningkat tentang bagaimana ChatGPT dan chatbot serupa dapat menipu dan memanipulasi orang. Sistem AI ini memerlukan pengawasan publik yang lebih besar, dan otoritas publik harus mengambil alih kendali atas mereka.”
Di AS, Pusat Kebijakan AI dan Digital telah mengajukan keluhan kepada Komisi Perdagangan Federal bahwa ChatGPT melanggar Bagian 5 dari Undang-Undang Komisi Perdagangan Federal (FTC Act) (15 USC 45). Dasar keluhan adalah bahwa ChatGPT diduga tidak memenuhi pedoman yang dikeluarkan oleh FTC untuk transparansi dan keterjelasan sistem AI. Referensi dibuat ke pengakuan ChatGPT tentang beberapa risiko yang diketahui, termasuk mengompromikan hak privasi, menghasilkan konten berbahaya, dan menyebarkan informasi yang salah.
Manfaat model bahasa besar seperti ChatGPT tidak dapat disangkal, namun penelitian menunjukkan sisi gelapnya. Terbukti bahwa ChatGPT dapat menghasilkan jawaban yang salah, karena model ChatGPT didasarkan pada algoritma pembelajaran dalam yang menggunakan set data pelatihan besar dari internet. Tidak seperti chatbot lain, ChatGPT menggunakan model bahasa yang didasarkan pada teknik pembelajaran dalam yang menghasilkan teks seperti percakapan manusia, dan platform “mencapai jawaban dengan membuat serangkaian tebakan, yang merupakan bagian dari alasan mengapa dapat membela jawaban yang salah seolah-olah benar.”
Lebih lanjut, ChatGPT terbukti memperkuat dan memperbesar bias, menghasilkan “jawaban yang diskriminatif terhadap gender, ras, dan kelompok minoritas, yang sedang dicoba untuk diminimalkan oleh perusahaan.” ChatGPT juga dapat menjadi sumber daya bagi aktor jahat untuk mengeksploitasi pengguna yang tidak curiga, mengompromikan privasi mereka dan memaparkan mereka pada serangan penipuan.
Kekhawatiran ini memicu Parlemen Eropa untuk menerbitkan komentar yang memperkuat kebutuhan untuk lebih memperkuat ketentuan saat ini dari rancangan Undang-Undang Kecerdasan Buatan EU, yang masih menunggu ratifikasi. Komentar tersebut menunjukkan bahwa rancangan peraturan yang diusulkan saat ini berfokus pada apa yang disebut aplikasi AI yang sempit, yang terdiri dari kategori tertentu dari sistem AI berisiko tinggi seperti perekrutan, kelayakan kredit, pekerjaan, penegakan hukum, dan kelayakan untuk layanan sosial. Namun, rancangan Undang-Undang Kecerdasan Buatan EU tidak mencakup AI tujuan umum, seperti model bahasa besar yang menyediakan kemampuan kognitif yang lebih maju dan dapat “melakukan berbagai tugas cerdas.” Ada panggilan untuk memperluas cakupan rancangan peraturan untuk mencakup kategori berisiko tinggi yang terpisah dari sistem AI tujuan umum, yang memerlukan pengembang untuk melakukan pengujian konformitas ex ante yang ketat sebelum meletakkan sistem tersebut di pasar dan terus memantau kinerjanya untuk keluaran berbahaya yang tidak terduga.
Penelitian yang sangat membantu menarik perhatian pada kesenjangan bahwa peraturan EU tentang Kecerdasan Buatan “terutama berfokus pada model AI konvensional, dan tidak pada generasi baru yang kita saksikan hari ini.”
Mereka merekomendasikan empat strategi yang harus dipertimbangkan oleh regulator.
- Mengharuskan pengembang sistem tersebut untuk secara teratur melaporkan efikasi proses pengelolaan risiko mereka untuk memitigasi keluaran berbahaya.
- Perusahaan yang menggunakan model bahasa besar harus diwajibkan untuk mengungkapkan kepada pelanggan bahwa konten tersebut dihasilkan oleh AI.
- Pengembang harus berlangganan proses rilis bertahap, sebagai bagian dari kerangka pengelolaan risiko, yang dirancang untuk melindungi terhadap keluaran berbahaya yang tidak terduga.
- Meletakkan beban pada pengembang untuk “memitigasi risiko dari akarnya” dengan harus “proaktif mengaudit set data pelatihan untuk kesalahpahaman.”
Faktor yang memperburuk risiko yang terkait dengan teknologi yang mengganggu adalah dorongan inovator untuk mencapai keunggulan pertama dengan mengadopsi model bisnis “kirim dulu dan perbaiki nanti”. Sementara OpenAI cukup transparan tentang risiko potensial dari ChatGPT, mereka telah merilisnya untuk penggunaan komersial yang luas dengan “pembeli waspada” pada pengguna untuk menimbang dan mengasumsikan risiko mereka sendiri. Pendekatan itu mungkin tidak dapat diterima mengingat dampak luas dari sistem AI percakapan. Regulasi proaktif yang dikombinasikan dengan tindakan penegakan yang kuat harus menjadi yang utama saat menangani teknologi yang mengganggu seperti ini.
Kecerdasan buatan sudah merambah hampir setiap bagian kehidupan kita, yang berarti penghentian sementara pada pengembangan AI dapat mengimplikasikan banyak hambatan dan konsekuensi yang tidak terduga. Sebagai gantinya, para pemimpin industri dan legislatif harus bekerja sama dengan itikad baik untuk mengeluarkan regulasi yang dapat dijalankan yang berakar pada nilai-nilai yang berorientasi pada manusia seperti transparansi, akuntabilitas, dan keadilan. Dengan merujuk pada legislasi yang ada seperti Undang-Undang Kecerdasan Buatan, para pemimpin di sektor swasta dan publik dapat merancang kebijakan yang menyeluruh dan standar global yang akan mencegah penggunaan yang tidak baik dan memitigasi hasil yang tidak diinginkan, sehingga menjaga kecerdasan buatan dalam batas-batas yang memperbaiki pengalaman manusia.
