Di Mana Anda Saat Kenyataan Mati?

Kemarin malam, seperti biasa, istri saya datang untuk menunjukkan berbagai video dan gambar yang menghiburnya di media sosial setelah bekerja. Kumpulan kontennya secara jelas cenderung pada konten ‘imut’ yang dipenuhi hewan menggemaskan dan karakter boneka.

Tak lama kemudian, ia menunjukkan sesuatu yang telah ia simpan tetapi belum sempat ditonton – sebuah video ‘hewan imut’ yang menampilkan interaksi antara seekor koala betina, dua anaknya yang sedang tidur, dan seekor kucing penasaran.

Sejak awal, saya bertanya-tanya bagaimana seekor kucing peliharaan muda bisa berada di ruang yang sama dengan hewan liar ini, bahkan jika diasumsikan berada di lingkungan ‘kebun binatang’. Namun saya menepis pikiran itu seperti nyamuk mengganggu, karena hal itu sudah termasuk dalam ‘hidup itu aneh’.

Video tersebut menampilkan gambar statis dan cukup sempit dari induk koala beserta dua anaknya yang sedang tidur, yang berada di atas kain, dengan induk koala bersandar pada dinding yang tidak mencolok.

Seekor kucing belang muda yang berhati-hati masuk ke dalam bingkai, didorong oleh rasa ingin tahu melampaui rasa takutnya, dan merayap ke arah anak‑anak yang tidur – sambil terus mengawasi induknya, yang mungkin tidak menyukai intervensi ini.

Setelah sekitar satu menit dari kebuntuan spekulatif ini, induk koala meraih dan mengangkat kucing muda itu, memegangnya selama beberapa saat, dengan cara yang sepenuhnya konsisten dengan perbedaan berat dan bentuk tubuh kedua hewan; lalu menempatkan penyusup itu di samping anaknya, sebagai ‘tamu yang dapat diterima’.*

Kucing Baru untuk Masalah Baru

Pada saat itu, hampir bersamaan, istri saya dan saya menyatakan bahwa video ini kemungkinan besar dihasilkan oleh AI, dan kami merasakan apa yang hanya bisa saya sebut sebagai ‘kekecewaan yang tertunda’; bagi kami, ini benar‑benar merupakan jenis baru kucing Schrödinger – akhirnya keluar dari kotak, tetapi belum tentu hidup.

Saya belum mencari video tersebut lagi, untuk melihat apakah orang yang mempostingnya telah mengakui ketidakasliannya; atau apakah video itu pertama kali diposting sebelum waktu kini, sebelum hasil semacam itu dapat dibuat dengan biaya murah di berbagai situs web dan portal; atau untuk melihat komentar penonton video yang menuduh materi tersebut dihasilkan AI, meskipun mereka mungkin tidak yakin.

Apakah video tersebut palsu atau nyata tidak penting; yang membuat saya terkesan adalah saya akhirnya mencapai pencerahan yang lama ditunggu‑tunggu – bahwa, meskipun saya telah memberikan liputan mendalam ** tentang sistem gambar dan video yang dihasilkan AI (serta membahas dan menciptakan sistem deteksi deepfake) selama tujuh tahun terakhir, bahkan saya tidak lagi dapat mempercayai apa yang saya lihat.

Kendala terbesar yang tersisa untuk sintesis video AI – inkonsistensi – bukan halangan untuk menciptakan jenis konten format pendek yang paling mungkin menjadi viral. AI dapat secara sempurna dan tepat mengisi rentang perhatian kita yang semakin pendek, dan tidak lebih, untuk saat ini; namun jelas saja batasan ini, meskipun menantang, pada akhirnya akan teratasi.

Oleh karena itu, pemikiran terlambat (dan mungkin bahkan keliru) tentang video koala ini masuk ke dalam rangkaian momen ‘di mana saya berada’ sepanjang hidup : Ibu naik tangga, mengecat langit‑langit, dan radio mengabarkan Elvis meninggal; pembunuh bintang menggelegar di atas pada malam Natal 1977 saat pemutaran publik Star Wars di Leicester Square; T‑Rex melarikan diri dari kandangnya, lagi di Leicester Square, pada Juli 1993; Mara berkata (dalam bahasa Italia) ‘Masuk ke dapur, teman‑teman – ada sesuatu yang terjadi di New York’; Saya melihat kucing dalam video koala dan menyadari bahwa inilah tahun, dan – bagi saya – momen ketika kenyataan mati.

(Hei, bahkan saya berada di luar dunia ketika Kennedy ditembak.)

Respons ‘Musuh di Gerbang’

Per akhir 2025, menurut seorang peneliti, kemampuan kami dalam mengenali gambar yang dihasilkan AI tidak jauh di atas peluang, yaitu 54%. Cobalah tes sendiri – saya tidak melakukannya dengan baik, dan kualitas genAI telah meningkat secara signifikan dalam delapan atau sembilan bulan berikutnya:

Klik untuk memutar – Meskipun bertahun‑tahun belajar, ketika menilai gambar sebagai AI‑generated atau nyata, saya memperoleh hampir rata‑rata yang sama seperti yang ditemukan dalam tes yang dilakukan untuk studi yang dikutip. Sumber 

The Washington Post membuat salah satu ramalan paling awal tentang dunia pasca‑realitas yang potensial, pada Februari 2018, hanya beberapa bulan setelah deepfake berbasis autoencoder pertama kali mengejutkan dunia. Artikel tersebut dengan cepat berkembang menjadi seruan bergejolak untuk regulasi, yang pada akhirnya muncul dalam bentuk legislasi melawan deepfake seksual; undang‑undang baru Uni Eropa mengenai pengungkapan materi yang dihasilkan AI; dan sistem otentikasi Coalition for Content Provenance and Authenticity (C2PA).

Yang terakhir berupaya menempelkan informasi kualifikasi pada gambar sepanjang masa hidupnya, mulai dari data sensor kamera hingga publikasi dan pengarsipan, mencatat setiap perubahan yang dilakukan selama perjalanannya, dan menyesuaikan manifestnya secara tepat.

Secara alami, pendekatan dari lahir hingga mati ini sebagian besar mengabaikan kumpulan gambar yang sudah beredar, dan hanya memiliki nilai bagi konsumen di jumlah tempat yang sangat terbatas di mana sistem ini diadopsi.

Berapa Jari yang Saya Angkat?

Tetapi intinya adalah bahwa nafsu regulasi terhadap konten yang dihasilkan AI yang telah tumbuh secara luar biasa sejak editorial awal 2018 yang reaktif itu, secara ironis, merupakan seruan untuk otomatisasi atau delegasi penilaian manusia.

Entah kita tidak ingin melakukan pekerjaan itu, dan menginginkan pemerintah serta lembaga melakukannya untuk kita; atau kita merasa bahwa orang‑orang tertentu – atau tipe orang – tidak seharusnya dibiarkan membuat penilaian ini (sebuah sikap yang tidak memberi pujian kepada mereka yang memegangnya).

Apakah saya belum mengatakan, mungkin dengan sedikit putus asa, bahwa saya tidak akan menyelidiki asal‑usul video koala/kucing itu? Tidak mengetahui apakah video itu palsu, dan tidak mau mengumpulkan cukup informasi untuk setidaknya membuat dugaan yang lebih terinformasi, menahan saya dalam keadaan kepercayaan elastis yang digambarkan George Orwell dalam 1984, di mana protagonis disiksa oleh negara polisi hingga ia secara psikologis mampu memegang dua kepercayaan yang bertentangan:

Dari adaptasi 1984 karya Michael Radford atas novel fiksi ilmiah distopia klasik Orwell, Winston Smith yang tersiksa (John Hurt) mulai mengakui bahwa empat jari mungkin sebenarnya sama dengan tiga jari, dan matanya tidak selalu dapat dipercaya. Gambar diam dari 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

Dalam novel Orwell, karakter antagonis O’Brien (diperankan oleh Richard Burton dalam adaptasi 1984 yang digambarkan di atas) secara eksplisit menyatakan kepada korbannya bahwa tujuan penggunaan penyiksaan adalah membuat keyakinan mereka menjadi lunak, sehingga mereka dapat – sesuai dengan negara totaliter yang digambarkan dalam karya tersebut – secara bersamaan memegang dua keyakinan – seperti empat jari yang diangkat juga dapat menjadi tiga jari, jika Negara memerlukannya.

‘Kelenturan keyakinan’ ini secara alami dihargai di antara para influencer dari segala jenis, karena biasanya keyakinan tersebut mengeras pada saat pemilih – atau konsumen – telah dewasa menjadi target yang diinginkan untuk dipengaruhi.

Karena, bagi saya, video koala/kucing ini kedua ‘AI’ dan ‘bukan AI’, saya telah mengambil langkah pertama untuk terbiasa pada keyakinan ganda; dan menjadi rentan terhadap mereka yang menawarkan untuk menghentikan persepsi biner yang berkelip‑kelip itu, serta memberi tahu saya apa yang nyata.

Oleh karena itu, saya menyadari bahwa pencerahan khusus ini bukan sesuatu yang patut dipuji, melainkan harus ditolak. Pengakuan internal terhadap ‘ketidakyataan’ yang datang kepada saya dalam bentuk video ‘hewan imut’, dan mungkin juga akan datang kepada Anda – atau akan datang kepada Anda – dalam bentuk lain, secara argumentatif menjadi bahaya bagi kemampuan seseorang menilai dan menimbang dunia.

Dengan Catatan Ringan

Dengan catatan ringan, filsuf Joshua Habgood‑Coote mengambil sikap lebih optimis pada tahun 2024, menolak ‘apokalips epistemik’ sebagai alarmisme terkait hilangnya sistem yang pada dasarnya rapuh, dan – dalam kasus fotografi – relatif baru.

Namun ia juga berargumen, dalam penelitian yang lebih baru, bahwa meme ‘berita palsu’ dan ‘pasca‑kebenaran’ telah dijadikan senjata untuk tujuan politik, yang setidaknya dalam kasus pertama, sulit untuk disangkal (meskipun itu mewakili oportunisme politik, bukan konspirasi).

* Dan apakah Anda sebenarnya bertanya‑tanya apakah contoh praktis ini bahkan nyata, atau apakah saya menyusunnya – dengan atau tanpa AI – sebagai alat diskursif? Ini nyata, saya katakan; jika fakta bahwa saya bukan suara baru dalam hal ini memiliki bobot, mungkin Anda mempercayai saya. Atau apakah saya baru‑baru ini berubah..?

** Ini mencakup sitasi dalam berbagai entri literatur, termasuk <a href="https://download.ssrn.com/2024/11/18/5024667.pdf?response-content-disposition=inline&X-Amz-Security-Token=IQoJb3JpZ2luX2VjECoaCXVzLWVhc3QtMSJHMEUCIAuckAAcCkfHmnrok%2B2kDryuZQR8d6r%2FogDrCqlIBqAnAiEA00XADNE%2FapcSWIJ8IBoYSqq1CM4RI2dxC%2FegVEkCYjUqxwUI8%2F%2F%2F%2F%2F%2F%2F%2F%2F%2F%2FARAEGgwzMDg0NzUzMDEyNTciDMxAvdOwGvtN0kWWdSqbBbQrrO9s1j7f5fOf3e8j%2B%2FAdNCFAudpePId%2BC6Pz1neLYPD7qJvzYHGUvKDWAdwkUCmPsTyiv1FjaFRPSytxvpn7cIO8NVraot8iQHl%2BKkwDc7SlxcORYpQX9hwh0F%2Fdlelqfy8Sxyb%2B8fu1w2m%2BXYFYuCM63VfIszY1PMLZq5Ko3e2O1DRW%2Bg1AnRxr%2BEIZ0xBD6RZGjFfWxrX8cuTmjKqEOoLRp2oK8rl2p8zyX%2BKX%2BNTdSHVjMiWhCH6lqyHlJGvFDX4ui%2F6Im2X0LpF5YN2x4qut7z1RyDt6VkxxYFDAkCCgDWaN4nD5zFRx5cug7c5pAYkjAwZdPtQ8k%2B2r7pn0O1IXT3pG5J2edUaV5QquiKo%2FfuMrvshCLv78aq%2FdwN69vGXzv6C9jQh79FKijXzoRVj7gs5SGKVwe%2BqaNysCGi%2Bsd0bdTwfOFzCewgpUShrDgdL6iApGnxJMCJW5hak7%2BHforosS6F74s91ABIv9rtC%2Bon%2BYGXaxKRHP%2BiIWQWtI4ua2rtp2%2BnWlua14X5EwcF0g4MfUCo%2BbFH37TtPDGS5aDRRiEjx4c3hJ9JEQ1aP6qBe%2BaUgPoX8SvB66hcKT9nzETkuqhhveX8LtW7qO9HjLA4qpPz7Wz8Ossbm7i%2BiccHqWmjJr6YQp9vUcqOtBnk8z5bVblk1mzoGOXCrhMjvVfImRjP9UEYgAnJexL7AhNpqMrZz8wUO4tEcRopeCXH4xuPWWfptJFTviqEfDM0Lt%2BSxtfFfjHU3P8hmee552yWYPxIG5%2Bgq0splaj8qxURZgnwFQ9WkctoRCUYdDa960ic1pNkPPWx0nQRUfgt52lqEWJ65x9qQ4MPeQ%2BRHbu2rlASFZJCyhG9JJHjqTPVLHwEtZT5GCb5ww96Hq1AY6sQFtevhSOj4YVGoHOfAwmCSmGebT%2FcYFZwa%2F0NxB7KrwNyrqM%2FKXgUDygS2m4gkW716sMwEEC1u65NRvWazLxyAFUpkxOf4PgCaTEktRsbyLbyBvhh9pFUMrrmGq5v2w1YtDmDAxxkk65Il%2BoQNQExl3aSVXP8D4jXDbvramMh7gv4dhEoytqVJaktLxzwX2yOMh%2BZFqKl%2FuXtbdiNBk0fwL35VbY%2BP8KY%2FuQBOrBrq0hsA%3D&X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Date=20260904T102733Z&X-Amz-SignedHeaders=host&X-Amz-Expires=300&X-Amz-Credential=ASIAUPUUPRWE27KUDNGI%2F20260904%2Fus-east-1%2Fs3%2Faws4_request&X-Amz-Signature=667682c11af720a2a4b405d92bb03b09624df1ec308367f4ad245095b8d13564&abstractId=5024667 (truncated) … The Cambridge Handbook of Generative AI and the Law (for Weights in Machine Learning).

Diterbitkan pertama kali pada Jumat, 4 September 2026. Diubah beberapa menit setelah publikasi pertama karena kesalahan terkait koala; dan sedikit kemudian pada hari yang sama, untuk menambahkan tag yang hilang.