TotalThe Groups Treating AI as an Intolerable Contaminant

‘Zero-tolerance’ terhadap konten yang dihasilkan AI adalah pilihan yang semakin menarik di tengah kekhawatiran hukum, etika, dan basis pengguna yang berkembang seputar AI; tetapi apakah ‘memilih keluar’ semacam ini merupakan proposisi yang praktis?

Opini  Siapa pun yang menggunakan media sosial dan jenis forum diskusi online lainnya mungkin telah memperhatikan, belakangan ini, semakin banyak komunitas, forum, dan organisasi profesional sepenuhnya melarang penggunaan AI generatif, seiring dampak ekonomi teknologi ini menyebar melampaui para seniman dan penulis yang protesnya memicu kekhawatiran saat ini pada 2023.

Dengan konsekuensi hukum dan ekonomi dari revolusi AI yang masih belum pasti, organisasi yang menghadapi tekanan dari pengguna dan penasihat hukum internal dipaksa untuk memutuskan kebijakan jauh sebelum gambaran lengkapnya jelas – situasi yang dipersulit oleh keyakinan yang muncul bahwa adopsi yang tertunda dapat membuat mereka berada pada posisi yang kurang kompetitif.

AI sebagai Miasma

Keputusan untuk melarang adalah keputusan politik, dengan konsekuensi; kemampuan untuk melarang, bagaimanapun, melibatkan jebakan politik dan praktis, karena sejarah melarang hal-hal yang benar-benar diinginkan orang adalah sejarah yang penuh warna paling banter; dan bahkan membasmi hal-hal yang tidak diinginkan siapa pun memerlukan upaya jangka panjang dan berkelanjutan.

Dengan demikian, dihantui oleh sejarah kaum Luddite yang banyak disalahpahami, komunitas dan entitas yang memperlakukan jejak AI apa pun sebagai hal yang sama sekali tak tertahankan sering kali mengadopsi nada defensif ketika mengumumkan atau mendiskusikan larangan AI.

Seperti yang ditemukan oleh kaum Amish selama beberapa abad terakhir, sikap tertutup terhadap teknologi yang benar-benar berdampak bisa sulit dipertahankan; secara ketat, misalnya, mereka yang mematuhi aturan veganisme tidak dapat menonton film yang difilmkan pada seluloid tradisional, atau bahkan melakukan rontgen . Demikian pula, memilih keluar dari fluoridasi di negara atau kota yang mengadopsinya bisa jadi sulit.

Pada dasarnya, teknologi yang meresap dan populer adalah fenomena ‘atmosfer’ yang tidak mudah mengizinkan batasan yang saat ini sedang ditetapkan oleh semakin banyak kelompok dan organisasi.

Tindakan Pra-Hukum

Seperti disebutkan sebelumnya, pertempuran pertama melawan perambahan AI terjadi di sektor genAI yang paling tidak deterministik dan paling interpretatif – hiburan. Ketika American Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) memperjuangkan perlindungan hak anggotanya pada 2023, mereka akhirnya mampu memenangkan beberapa konsesi yang patut diperhatikan.

Sejak itu, sangat sedikit kemenangan yang sebegitu tegas terkait AI – dan pertarungan untuk kejelasan hukum di berbagai sektor baru saja dimulai. Misalnya, sebagian besar undang-undang baru seputar deepfake, terutama dari Inggris dan AS, hanya mencakup AI dalam kategori kejahatan yang lebih luas (seperti citra non-konsensual, asli atau palsu).

Menyusul kemenangan SAG-AFTRA, serangkaian gugatan hukum seputar penggunaan karya seniman jenis lain selalu berlangsung. Sementara itu, banyak kelompok yang tidak puas yang terlibat mengantisipasi ratifikasi hukum dengan aturan lokal.

Sebelum lebih jauh mempertimbangkan logika dan batasan dari sikap ‘benar-benar tidak toleran’ terhadap AI, mari kita lihat beberapa kasus di mana kebijakan semacam ini diberlakukan.

Larangan AI Zero-Tolerance

Sebuah Catatan Perbedaan Pendapat

Bulan ini saja, Bandcamp menjadi platform musik online besar pertama yang sepenuhnya melarang konten AI. Larangan tersebut diumumkan dalam sebuah pernyataan yang juga menyatakan ‘Musik dan audio yang dihasilkan seluruhnya atau sebagian besar oleh AI tidak diizinkan di Bandcamp’.

Pembatasan ini, seperti hampir di semua kasus, terpaksa sedikit berhati-hati karena efek ‘miasma’ yang disebutkan sebelumnya dari sistem AI yang tersebar luas. Di bagian lain pengumuman, dinyatakan bahwa musik yang* ‘tampaknya dibuat seluruhnya atau dengan ketergantungan berat pada AI generatif’ menjadi sasaran larangan – sebuah batasan pragmatis, karena, di sebagian besar domain, setidaknya sebagian konten genAI mampu tampak sepenuhnya buatan manusia, baik bagi orang, maupun bagi sektor deteksi-AI yang terus berkembang.

Pada dasarnya, ini adalah templat untuk sebagian besar kebijakan ‘zero-tolerance’ baru yang mulai berlaku: bahwa ketidaktahuan tentang AI adalah sebuah alasan, dalam keadaan yang menantang ini.

Setelah sebuah insiden di mana sebuah lagu buatan AI menyerbu tangga lagu Swedia, IFPI Swedia, organisasi industri musik nasional Swedia, melarang musik yang dihasilkan AI untuk dimasukkan dalam tangga lagu – meskipun dengan peringatan biasa, menyatakan* ‘Aturan kami adalah jika itu adalah lagu yang terutama dihasilkan AI, itu tidak berhak berada di daftar teratas’.

Sekali lagi, keinginan untuk larangan total terhadap AI di sini diakui tidak praktis; larangannya diam-diam dan total, tetapi implementasinya secara efektif tidak mungkin.

Efek Komik

Gelombang pelarangan terhadap konten genAI telah menyapu adegan konvensi komik di AS dan sekitarnya, selama setahun terakhir. San Diego Comic-Con, yang pada 2024 telah menempatkan pembatasan komersial pada seni yang diproduksi AI, bulan ini mengumumkan bahwa mereka melarang konten AI secara langsung, dilaporkan sebagai tanggapan atas protes dari para seniman.

Demikian pula, pada Oktober tahun lalu, New York Comic-Con memberlakukan larangan total terhadap penjualan produk atau konten yang dihasilkan AI, dengan situs resmi menyatakan*:

‘Produk, materi, atau konten yang dibuat, seluruhnya atau sebagian besar, menggunakan alat atau algoritma kecerdasan buatan generatif (“AI-Generated”) atau menggabungkan elemen AI-Generated, termasuk namun tidak terbatas pada karya seni visual, gambar, atau grafik, animasi dan/atau materi, dilarang untuk tersedia untuk dibeli di New York Comic Con.’

Sekali lagi, kita melihat bahwa dalam ‘sebagian besar’, kata-kata tersebut harus mengakui kesulitan mengidentifikasi seluruh asal-usul kreatif dari suatu karya, belakangan ini. Ini mencerminkan larangan awal San Diego terhadap komersialisasi keluaran AI, daripada larangan totalnya terhadap konten AI yang kemudian. Namun demikian, pendekatan ini adalah ‘deplatforming’ yang cukup efektif untuk konten AI, dalam banyak kasus (meskipun karya semacam itu masih dapat digunakan sebagai umpan untuk platform yang dikomersialkan).

Lebih lanjut, konvensi komik FanX Salt Lake memberlakukan larangan yang lebih tegas pada konten AI, pada September tahun lalu, dengan pendiri dan produser Dan Farr berkomentar:

‘Jika pelanggan datang dan membeli sepotong karya seni dan mereka tidak menyadari AI generatif digunakan untuk membuatnya, mereka mungkin membayar banyak uang untuk itu, tanpa menyadari itu adalah sesuatu yang tidak begitu berharga.’

Anti-Sosial

Banyak komunitas online juga telah mengadopsi zero tolerance terhadap konten yang dihasilkan AI. Memang, ini adalah salah satu aspek intoleransi AI yang paling terlihat publik, dan semakin seringnya larangan semacam itulah yang menarik perhatian saya pada topik ini:

Maklumat anti-AI yang khas dari Facebook. Sumber

Reddit telah terutama terdampak, dengan moderator berbagai subreddit besar sering melarang semua gambar, seni, atau bentuk berbasis teks (seperti fiksi dan pemrograman) yang dibuat AI, setelah postingan semacam itu mulai membanjiri forum mereka dan membebani sumber daya moderasi manusia yang terbatas.

Contoh yang sangat awal, dari 2022, adalah subreddit r/Dune, di mana sekitar 250.000 penggemar memilih untuk melarang seni yang dihasilkan AI sepenuhnya, setelah dibanjiri gambar buatan AI. Moderator sub tersebut mencatat pada saat itu:

‘Kami mengakui bahwa banyak dari karya-karya ini menarik untuk dilihat, dan teknologinya tentu saja menarik, tetapi secara teknis itu memenuhi syarat sebagai konten rendah usaha – terutama jika dibandingkan dengan seni asli, ‘buatan manusia’, yang ingin kami prioritaskan ke depannya.’

Sejak itu, banyak subreddit (dari r/lego hingga r/DataHoarder) telah secara serupa menyatakan bahwa konten apa pun yang bahkan sebagian dibuat oleh AI akan dihapus saat dilihat – setidaknya, seperti biasa, jika dapat dikenali.

Larangan serupa sering muncul di Facebook. Namun, karena Meta, perusahaan induk Facebook, adalah salah satu pengembang AI pelopor dunia, sedangkan Reddit justru merupakan sumber data berbasis manusia yang sedang berlangsung yang sangat diperebutkan dan dicari, larangan ini cenderung menimbulkan kontroversi yang lebih sedikit.

Yang mengejutkan, Meta membutuhkan waktu untuk mengejar sentimen publik umum seputar AI – setahun yang lalu, misalnya, perusahaan melakukan mundur secara berani dari eksperimen dengan agen berbasis AI yang memposting ke berbagai linimasa, karena reaksi pengguna yang negatif.

Larangan Eksfiltrasi ChatGPT

Satu kategori tunggal dari larangan AI ‘mutlak’ adalah larangan yang sering terhadap penggunaan ChatGPT di lingkungan korporat atau sensitif (dan dalam hal ini, hal yang sama berlaku untuk model bahasa berbasis cloud, diakses-API apa pun, seperti Claude atau Gemini).

Namun, larangan ini biasanya terinspirasi bukan oleh kekhawatiran liberal tentang eksploitasi data pelatihan, tetapi oleh ketakutan bahwa OpenAI pada akhirnya akan menyimpan, memproses, atau bahkan mengeksploitasi IP perusahaan sensitif yang diungkapkan selama obrolan klien.

Sementara departemen hukum mungkin mendukung atau bahkan memulai larangan korporat terhadap platform gaya ChatGPT, mereka juga kemungkinan mempertimbangkan apakah penggunaan data web terbuka untuk melatih sistem komersial dapat membuka perusahaan atau pelanggannya ke liabilitas di masa depan – terutama jika litigasi yang sedang berlangsung terhadap OpenAI atau entitas serupa menghasilkan putusan yang signifikan.

Contoh larangan pada ChatGPT<