Total Recoil: Kelompok yang Menganggap AI sebagai Pencemar yang Tidak Toleran

‘Toleransi nol’ terhadap konten yang dihasilkan AI menjadi pilihan yang semakin menarik menghadapi kekhawatiran hukum, etika, dan basis pengguna seputar AI; tetapi apakah jenis ‘mengopt-out’ ini merupakan proposisi yang praktis?

Opini  Siapa saja yang menggunakan media sosial dan jenis forum diskusi online lainnya mungkin telah memperhatikan, belakangan ini, semakin banyak komunitas, forum, dan organisasi profesional sepenuhnya melarang penggunaan AI generatif, karena dampak ekonomi teknologi ini menyebar melampaui seniman dan penulis yang memicu kekhawatiran saat ini sejak tahun 2023.

Dengan konsekuensi hukum dan ekonomi dari revolusi AI masih tidak pasti, organisasi yang menghadapi tekanan dari pengguna dan penasihat hukum internal dipaksa untuk memutuskan kebijakan sebelum gambaran lengkap jelas – situasi yang diperumit oleh keyakinan yang muncul bahwa adopsi yang tertunda dapat meninggalkan mereka pada kerugian kompetitif.

AI sebagai Miasma

Keputusan untuk melarang merupakan keputusan politik, dengan konsekuensi; kemampuan untuk melarang, bagaimanapun, melibatkan baik politik dan jebakan praktis, karena sejarah melarang hal-hal yang orang benar-benar inginkan adalah yang paling baik; dan bahkan menghilangkan hal-hal yang tidak ada yang inginkan memerlukan upaya jangka panjang dan berkelanjutan.

Demikian, dihantui oleh sejarah yang sangat disepelekan dari Luddites, komunitas dan entitas yang menganggap jejak AI sebagai tidak toleran sering mengadopsi nada defensif ketika mengumumkan atau membahas larangan AI.

Sebagaimana Amish telah menemukan selama beberapa abad terakhir, sikap reclusif terhadap teknologi yang benar-benar berdampak dapat sulit dipertahankan; secara ketat, misalnya, mereka yang mematuhi aturan veganisme tidak dapat menonton film yang difilmkan pada seluloid tradisional, atau bahkan memiliki sebuah x-ray. Demikian pula, mengopt-out dari fluoridasi di negara atau kota yang mengadopsinya dapat sulit.

Secara efektif, fenomena teknologi yang meresap dan populer tidak mudah memungkinkan batas-batas yang saat ini ditetapkan oleh sejumlah grup dan organisasi.

Tindakan Sebelum Hukum

Seperti disebutkan sebelumnya, pertempuran pertama melawan AI’s encroachment diperebutkan di sektor genAI yang paling tidak deterministik dan paling interpretif – hiburan. Ketika American Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) bertempur untuk perlindungan hak anggota mereka pada tahun 2023, mereka akhirnya dapat memenangkan beberapa konsesi yang cukup signifikan.

Telah ada sangat sedikit kemenangan yang sama menentukan sejak saat itu, dalam hal AI – dan pertempuran untuk kejelasan hukum di seluruh sektor baru saja dimulai. Misalnya, sebagian besar legislasi baru seputar deepfakes, terutama dari UK dan US, hanya menyertakan AI dalam kategori kejahatan yang lebih luas (seperti citra non-konsensual, nyata atau palsu).

Setelah kemenangan SAG-AFTRA, sejumlah gugatan seputar penggunaan karya seniman lainnya selalu dalam proses. Sementara itu, banyak kelompok yang terkena dampak sedang mengantisipasi ratifikasi hukum dengan aturan lokal.

Sebelum mempertimbangkan logika dan keterbatasan dari sikap ‘toleransi nol’ terhadap AI, mari kita lihat beberapa kasus di mana kebijakan ini diterapkan.

Larangan AI dengan Toleransi Nol

Catatan Penolakan

Hanya bulan ini, Bandcamp menjadi platform musik online besar pertama yang melarang sepenuhnya konten AI. Larangan tersebut diumumkan dalam sebuah pernyataan yang juga menyatakan ‘Musik dan audio yang dihasilkan sepenuhnya atau sebagian besar oleh AI tidak diperbolehkan di Bandcamp’.

Larangan ini, seperti dalam hampir semua kasus, terpaksa menghindari taruhan sedikit karena efek ‘miasma’ dari sistem AI yang tersebar luas. Dalam bagian lain dari pengumuman, dinyatakan bahwa musik yang* ‘terlihat dibuat sepenuhnya atau dengan ketergantungan besar pada AI generatif’ ditargetkan dalam larangan – sebuah pembatasan pragmatis, karena dalam sebagian besar domain, setidaknya beberapa konten AI generatif dapat tampak sepenuhnya dibuat oleh manusia, baik bagi orang maupun bagi sektor deteksi AI yang terus berkembang.

Secara efektif, ini adalah template untuk sebagian besar kebijakan ‘toleransi nol’ baru yang diterapkan: bahwa ketidaktahuan tentang AI adalah sebuah alasan, dalam keadaan yang menantang ini.

Setelah insiden di mana trek musik yang dibuat AI menyerbu tangga lagu Swedia, IFPI Swedia, organisasi industri musik nasional Swedia, melarang musik yang dihasilkan AI dari inklusi dalam tangga lagu – meskipun dengan catatan khas, menyatakan* ‘Aturan kami adalah bahwa jika itu adalah lagu yang utama dihasilkan AI, itu tidak memiliki hak untuk berada di daftar atas’.

Lagi, keinginan untuk larangan total terhadap AI diakui sebagai tidak praktis; larangan tersebut total dan tegas, tetapi implementasinya secara efektif tidak mungkin.

Efek Komik

Gelombang larangan terhadap konten AI generatif telah menyapu adegan konvensi komik di AS dan di luar, selama setahun terakhir. San Diego Comic-Con, yang pada tahun 2024 telah menempatkan pembatasan komersial pada karya seni yang dihasilkan AI, telah mengumumkan bahwa mereka melarang konten AI secara keseluruhan, dilaporkan sebagai tanggapan atas protes dari seniman.

Serupa, pada Oktober tahun lalu, New York Comic-Con menerapkan larangan total terhadap penjualan produk atau konten yang dihasilkan AI, dengan situs resmi menyatakan*:

‘Produk, material, atau konten yang dibuat, sebagian atau seluruhnya, menggunakan alat atau algoritma AI generatif (“AI-Generated”) atau mengandung elemen AI-Generated, termasuk tetapi tidak terbatas pada karya seni visual, gambar, atau grafik, animasi dan/atau material, dilarang untuk dijual di New York Comic Con.’

Lagi, kita melihat bahwa dalam ‘sebagian besar’, kata-kata harus mengakui kesulitan mengidentifikasi provenance kreatif dari setiap karya, saat ini. Ini mencerminkan larangan awal San Diego terhadap komersialisasi output AI, bukan larangan total konten AI. Namun, pendekatan ini merupakan ‘deplatforming’ konten AI yang cukup efektif, dalam sebagian besar kasus (meskipun pekerjaan seperti itu masih dapat digunakan sebagai umpan untuk platform komersial).

Lebih lanjut, konvensi komik FanX Salt Lake mengeluarkan larangan yang lebih tegas terhadap konten AI, pada September tahun lalu, dengan pendiri dan produser Dan Farr mengomentari:

‘Jika pelanggan datang dan membeli sebuah karya seni dan mereka tidak menyadari bahwa AI generatif digunakan untuk membuatnya, mereka mungkin membayar banyak uang untuk itu, tanpa menyadari bahwa itu tidak sepenuhnya berharga.’

Anti-Sosial

Banyak komunitas online juga telah mengadopsi toleransi nol terhadap konten yang dihasilkan AI. Memang, ini adalah salah satu aspek paling terbuka dari intoleransi AI, dan ini adalah frekuensi larangan yang meningkat yang menarik perhatian saya pada topik ini:

Sebuah edik anti-AI khas dari Facebook. Sumber

Reddit telah terkena dampak, dengan moderator dari berbagai subreddit besar sering melarang semua gambar, karya seni, atau bentuk teks yang dihasilkan AI (seperti fiksi dan pemrograman), setelah postingan tersebut mulai membanjiri forum dan membebani sumber daya moderasi manusia yang terbatas.

Sebuah contoh awal, dari tahun 2022, adalah subreddit r/Dune, di mana sekitar 250.000 penggemar melarang sepenuhnya karya seni yang dihasilkan AI, setelah dibanjiri dengan gambar yang dibuat AI. Moderator subreddit tersebut mencatat pada saat itu:

‘Kami mengakui bahwa banyak dari karya-karya ini menarik untuk dilihat, dan teknologinya pasti menarik, tetapi ini secara teknis memenuhi syarat sebagai konten dengan usaha rendah – terutama dibandingkan dengan karya seni asli, “buatan manusia”, yang ingin kami prioritaskan ke depan.’

Sejak itu, banyak subreddit (dari r/lego hingga r/DataHoarder) telah melarang konten yang bahkan sebagian dibuat oleh AI – setidaknya, di mana dapat dikenali.

Contoh serupa muncul di Facebook. Namun, karena Meta, perusahaan induk Facebook, adalah salah satu pengembang AI vanguard di dunia, sedangkan Reddit adalah sumber data manusia yang sangat dicari, larangan tersebut cenderung menyebabkan kontroversi yang lebih sedikit.

Tidak terduga, Meta membutuhkan waktu untuk menyesuaikan diri dengan sentimen publik seputar AI – setahun yang lalu, misalnya, perusahaan tersebut melakukan penarikan yang berani dari eksperimen dengan agen berbasis AI yang memposting ke timeline yang beragam, karena reaksi pengguna yang tidak menguntungkan.

Larangan Exfiltrasi ChatGPT

Satu kategori larangan AI ‘absolut’ adalah larangan yang sering terhadap penggunaan ChatGPT di lingkungan perusahaan atau sensitif (dan dalam hal ini, sama berlaku untuk model bahasa berbasis cloud atau API lainnya, seperti Claude atau Gemini).

Namun, larangan tersebut biasanya dipicu oleh kekhawatiran bahwa OpenAI akan menyimpan, memproses, atau bahkan mengeksploitasi data perusahaan yang sensitif yang diungkapkan selama percakapan klien.

Sementara departemen hukum mungkin mendukung atau bahkan memulai larangan perusahaan terhadap platform ChatGPT, mereka juga kemungkinan akan mempertimbangkan apakah penggunaan data web terbuka untuk melatih sistem komersial dapat membuat perusahaan atau pelanggannya terkena kewajiban di masa depan – terutama jika litigasi yang sedang berlangsung terhadap OpenAI atau entitas serupa menghasilkan putusan yang signifikan.

Contoh larangan terhadap ChatGPT^† termasuk gelombang larangan reaktif pada tahun 2023 dari Apple, Amazon, Spotify, dan Wells Fargo, di antara lainnya. Pada tahun yang sama, sebuah survei Cisco menemukan bahwa 27% organisasi yang disurvei telah menerapkan larangan serupa – tidak hanya pada ChatGPT, tetapi pada penggunaan GenAI secara keseluruhan.

Pada tahun 2024, survei lain menemukan bahwa 65% dari 20 perusahaan farmasi teratas telah melarang karyawan dari menggunakan ChatGPT.

Jelas bahwa banyak, jika tidak semua perusahaan yang disebutkan di sini, kemungkinan akan mencari untuk mendapatkan keuntungan dari AI dengan cara yang lebih sesuai dengan kepentingan mereka; dan bahwa banyak dari mereka kemungkinan akan mempertahankan atau mengembangkan produk AI berbasis lainnya untuk penggunaan internal – atau bahkan produk API komersial dengan perlindungan IP yang lebih baik daripada yang ditawarkan oleh OpenAI.

Banyak pemerintah yang merupakan pendukung utama AI juga melarang ChatGPT. Meskipun beberapa dari mereka, seperti Kuba dan Korea Utara, adalah kandidat yang jelas untuk jenis larangan ini, Cina, yang saat ini dianggap sebagai pionir revolusi AI, melarang ChatGPT pada tingkat pemerintah – kemungkinan besar untuk mendukung alternatif buatan dalam negeri.

Kesimpulan: Tentang Toleransi Nol

Satu kekhawatiran tentang tren menuju ‘larangan absolut’ terhadap AI (selain tantangan mengidentifikasi konten AI), adalah apakah larangan yang tidak kompromi benar-benar efektif. Sebenarnya, mudah untuk salah mengerti apa yang sebenarnya ‘toleransi nol’ itu; apa yang dapat dicapai; dan keadaan yang terbatas di mana itu dapat mencapai tujuannya.

Contohnya, New York City, yang mungkin paling kuat dikaitkan dengan istilah ‘toleransi nol’, dapat bangkit dari titik nadir kejahatannya pada tahun 1970-an dan 1980-an melalui penerapan bertahap dan berkelanjutan dari teori psikologis ‘jendela pecah‘, yang menyatakan bahwa tidak peduli seberapa miskin atau kaya sebuah lingkungan, kehadiran satupun jendela pecah akan cenderung menyebabkan lebih banyak jendela pecah – dan eskalasi kejahatan yang lebih serius, karena kehadiran jendela pecah yang berkelanjutan menunjukkan bahwa otoritas tidak mengawasi atau tidak peduli.

Oleh karena itu, sikap ‘toleransi nol’ terhadap ‘kejahatan benih’ dari memecahkan jendela diyakini memiliki manfaat hulu, karena ‘entropi kejahatan’ ini tidak pernah mendapatkan pegangan; dengan cara ini, dengan memperhatikan hal-hal kecil (seperti sampah dan jendela pecah, yang tidak mahal untuk diselesaikan), hal-hal yang lebih besar (yang akan lebih mahal untuk diselesaikan) akan mengurus diri mereka sendiri.

Dilakukan, bagaimanapun, teori ini (kadang-kadang dikritik sebagai rasialis) dapat terdengar seperti autoritarianisme ekstrem, atau bahkan fasis:

Klik untuk memutar. Dari film pelatihan satu-satunya yang pernah dibuat John Ford, ‘OSS – Undercover Training’, sebuah contoh toleransi nol yang tampaknya obsesif dalam konteks budaya axis palsu Perang Dunia II. Sumber

Sebaliknya, ‘toleransi nol’ sering dianggap dalam pikiran publik sebagai ‘tindakan tegas-tapi-perlu’, seperti hukum yang tidak kompromi yang sebagian besar negara memiliki sehubungan dengan hukuman untuk merugikan anak-anak – yaitu, aturan yang jelas untuk kebaikan umum, yang dikonkretkan menjadi hukum yang tidak banyak diperdebatkan atau dikompromikan.

Pada kenyataannya, ZT dirancang untuk mencapai pembaharuan kota dengan anggaran, dengan menunjukkan lebih banyak sumber daya di arena publik daripada yang sebenarnya ada di balik layar; bukan kasus penggunaan yang sangat sesuai untuk memasukkan kembali jin AI ke dalam botol.

Dan dalam prakteknya, AI generatif sudah sangat meresap sehingga data hilir Anda yang tampaknya bebas dari AI mungkin sudah berhutang pada AI – bahkan jika itu adalah kodek AI yang ditingkatkan dalam video (bukan palsu) yang Anda buat, dikirim ke YouTube, dan diposting ke saluran media sosial favorit Anda. Jika AI benar-benar menjadi seperti ‘gas’ budaya, tampaknya akan menentang batas yang jelas, atau solusi biner seperti ‘larangan AI’.

* Penekanan saya.

^† Yang dapat kita anggap sebagai perwakilan dari kelas LLM ini, bukan produk eksklusif, dalam hal ini.

Pertama kali diterbitkan pada hari Kamis, 29 Januari 2026