Siapa yang Akan Melindungi Kita dari Disinformasi yang Dihasilkan AI?

AI generatif telah berkembang dari nol menjadi seratus dalam waktu kurang dari setahun. Meskipun masih awal, telah terbukti potensinya untuk mengubah bisnis. Itu adalah sesuatu yang kita semua dapat setujui. Di mana kita berbeda pendapat adalah tentang bagaimana mengandung bahaya yang ditimbulkannya.

Untuk memperjelas, saya adalah pendukung inovasi, dan jauh dari seorang penakut. Namun, peningkatan recent dalam informasi yang salah—sebagian besar ditujukan untuk mempolarisasi isu-isu kontroversial saat ini—telah membuat jelas bahwa, jika tidak terkendali, AI generatif dapat menyebabkan kerusakan besar pada masyarakat.

Kita telah melihat film ini sebelumnya dengan media sosial, tetapi membutuhkan waktu bertahun-tahun dan pelajaran berharga bagi kita untuk menyadari kelemahannya. Kita telah (diduga) belajar sesuatu. Pertanyaan hari ini adalah siapa yang akan membantu mengurangi arus distorsi kenyataan dari AI generatif, dan bagaimana?

Prediksinya, pemerintah mulai bertindak. Eropa memimpin serangan, karena mereka telah menunjukkan peningkatan regulasi teknologi. Amerika Serikat berada di belakang, dengan Presiden Biden mengeluarkan perintah eksekutif pada Oktober lalu.

Namun, akan membutuhkan desa global yang bekerja sama untuk “menjaga AI generatif tetap jujur.” Dan sebelum pemerintah dapat membantu, mereka perlu memahami keterbatasan pendekatan yang tersedia.

Masalah identitas telah menjadi lebih buruk

Di dunia baru ini, kebenaran menjadi jarum di tumpukan opini yang menyamar sebagai fakta. Mengetahui dari mana konten berasal sangat penting.

Dan itu tidak semudah mengeluarkan dekret bahwa setiap akun media sosial harus diverifikasi. Ada oposisi keras terhadap itu, dan dalam beberapa kasus, anonimitas diperlukan untuk melindungi pemilik akun. Selain itu, banyak konsumen konten terburuk tidak peduli apakah itu kredibel atau tidak, atau dari mana asalnya.

Meskipun ada catatan itu, peran potensial identitas dalam mengatasi AI generatif kurang dihargai. Orang-orang skeptis, dengarkan saya.

Bayangkan bahwa regulasi atau kesadaran sosial menyebabkan platform memberikan setiap pemilik akun pilihan ini:

1. Verifikasi identitas mereka atau tidak, dan
2. Menampilkan identitas yang diverifikasi secara terbuka, atau hanya diberi label “ID Diverifikasi”
   

Maka audiens media sosial dapat lebih baik menentukan siapa yang kredibel. Penting juga, identitas mendukung akuntabilitas. Platform dapat memutuskan tindakan terhadap “penyebar disinformasi” dan pengguna AI generatif yang berulang-ulang, bahkan jika mereka muncul di bawah nama akun yang berbeda.

Dengan AI generatif meningkatkan taruhan, saya percaya bahwa identitas—mengetahui siapa yang memposting apa—adalah kritis. Beberapa akan menentangnya, dan identitas bukanlah jawaban komprehensif. Namun, jika regulasi memaksa platform untuk menawarkan verifikasi identitas kepada semua akun, saya yakin dampaknya akan sangat positif.

Konundrum moderasi

Moderasi konten—otomatis dan manusia—adalah garis pertahanan terakhir melawan konten yang tidak diinginkan. Moderasi manusia adalah pekerjaan yang kasar, dengan risiko kerusakan psikologis dari paparan terhadap hal-hal terburuk yang dapat ditawarkan manusia. Ini juga mahal dan sering dituduh melakukan sensor yang bias terhadap platform yang berusaha menguranginya.

Moderasi otomatis melebihi kapasitas manusia untuk mengatasi arus konten baru, tetapi gagal memahami konteks (meme adalah contoh umum) dan nuansa budaya. Kedua bentuk moderasi sangat penting dan diperlukan, tetapi hanya sebagian dari jawaban.

Resep yang sering didengar untuk mengendalikan AI generatif adalah: “Kolaborasi antara pemimpin teknologi, pemerintah, dan masyarakat sipil diperlukan.” Tentu saja, tetapi apa secara spesifik?

Pemerintah, untuk bagian mereka, dapat mendorong platform media sosial untuk menawarkan verifikasi identitas dan menampilkan secara terbuka pada semua posting. Regulator juga dapat membuka jalan bagi metrik kredibilitas yang sebenarnya membantu menentukan apakah sumber dapat dipercaya. Kolaborasi diperlukan untuk mengembangkan standar universal yang memberikan arahan dan petunjuk spesifik sehingga sektor swasta tidak perlu menebak.

Akhirnya, apakah harus ilegal untuk membuat output AI yang berbahaya? Peraturan yang melarang konten yang dimaksudkan untuk kegiatan ilegal dapat mengurangi volume konten beracun dan meringankan beban moderator. Saya tidak melihat regulasi dan hukum sebagai dapat mengalahkan disinformasi, tetapi mereka sangat penting dalam menghadapi ancaman.

Sisi cerah jalan: inovasi

Janji inovasi membuat saya optimis di sini. Kita tidak dapat mengharapkan politisi atau pemilik platform untuk sepenuhnya melindungi dari tipuan AI yang dihasilkan. Mereka meninggalkan celah besar, dan itulah yang akan menginspirasi penemuan teknologi baru untuk mengotentikasi konten dan mendeteksi kebohongan.

Karena kita sekarang tahu sisi buruk media sosial, kita telah cepat menyadari bahwa AI generatif dapat berakhir menjadi net-negative besar bagi kemanusiaan, dengan kemampuannya untuk mempolarisasi dan menyesatkan.

Dengan optimis, saya melihat manfaat dari pendekatan multi-pronged di mana metode kontrol bekerja bersama, pertama di sumber, membatasi pembuatan konten yang dirancang untuk penggunaan ilegal. Kemudian, sebelum publikasi, memverifikasi identitas mereka yang menolak anonimitas. Selanjutnya, label yang jelas untuk menunjukkan peringkat kredibilitas dan identitas poster atau ketiadaannya. Akhirnya, moderasi otomatis dan manusia dapat menyaring beberapa yang terburuk. Saya antisipasi teknologi autentikasi baru akan segera online.

Tambahkan semuanya, dan kita akan memiliki solusi yang jauh lebih baik, meskipun tidak sempurna. Sementara itu, kita harus membangun keterampilan kita untuk menentukan apa yang nyata, siapa yang mengatakan kebenaran, dan siapa yang mencoba menipu kita.