Sistem Deteksi untuk Kerangka Synthesis Gambar Murni seperti DALL-E 2

Penelitian baru dari Universitas California di Berkeley menawarkan metode untuk menentukan apakah output dari generasi baru kerangka sintesis gambar – seperti DALL-E 2 dari Open AI, dan Imagen serta Parti dari Google – dapat dideteksi sebagai ‘non-riil’, dengan mempelajari geometri, bayangan, dan refleksi yang muncul dalam gambar yang disintesis.

Dengan mempelajari gambar yang dihasilkan oleh prompt teks di DALL-E 2, para peneliti menemukan bahwa meskipun arsitektur tersebut mampu menghasilkan gambar yang sangat realistis, beberapa inkonsistensi yang persisten terjadi terkait dengan rendering perspektif global, pembuatan dan disposisi bayangan, dan terutama terkait dengan rendering objek yang direfleksikan.

Makalah tersebut menyatakan:

‘[Struktur] geometris, bayangan yang jatuh, dan refleksi pada permukaan yang memantulkan tidak sepenuhnya konsisten dengan geometri perspektif yang diharapkan dari adegan alami. Struktur geometris dan bayangan secara umum konsisten secara lokal, tetapi tidak konsisten secara global.

‘Refleksi, di sisi lain, sering kali dihasilkan secara tidak masuk akal, kemungkinan karena mereka kurang umum dalam dataset gambar pelatihan.’

Kurangnya interseksi yang konsisten antara objek yang dihasilkan dan refleksinya saat ini merupakan cara yang dapat diandalkan untuk mendeteksi gambar DALL-E 2, menurut studi baru ini. Sumber: https://arxiv.org/pdf/2206.14617.pdf

Makalah tersebut mewakili awal dari apa yang mungkin menjadi strand yang signifikan dalam komunitas penelitian visi komputer – Deteksi Sintesis Gambar.

Sejak munculnya deepfake pada 2017, deteksi deepfake (terutama output autoencoder dari paket seperti DeepFaceLab dan FaceSwap) telah menjadi strand akademis yang aktif dan kompetitif, dengan berbagai makalah dan metodologi yang menargetkan ‘tanda-tanda’ yang berkembang dari wajah yang disintesis dalam footage video nyata.

Namun, sampai munculnya sistem generasi gambar hiperskala yang sangat baru, output dari sistem prompt teks seperti CLIP tidak mengancam status quo ‘realisme fotografi’. Penulis makalah baru ini percaya bahwa hal ini akan segera berubah, dan bahwa bahkan inkonsistensi yang mereka temukan dalam output DALL-E 2 mungkin tidak membuat perbedaan besar pada potensi gambar yang dihasilkan untuk menipu pemirsa.

Penulis menyatakan*:

‘[Kegagalan] tersebut mungkin tidak terlalu penting bagi sistem visual manusia yang telah ditemukan tidak terlalu efektif dalam beberapa penilaian geometris termasuk inkonsistensi dalam pencahayaan, bayangan, refleksi, posisi pengamatan, dan distorsi perspektif.’

Kredibilitas yang Menghilang

Pemeriksaan forensik pertama penulis terkait dengan proyeksi perspektif DALL-E 2 – cara penempatan tepi lurus dalam objek dan tekstur yang berdekatan harus diselesaikan secara seragam ke ‘titik menghilang’.

Kiri, garis paralel pada bidang yang sama diselesaikan ke titik menghilang yang sama; kanan, beberapa titik menghilang pada bidang yang sama dan paralel mendefinisikan garis menghilang (ditunjukkan dengan warna merah).

Untuk menguji konsistensi DALL-E 2 dalam hal ini, penulis menggunakan DALL-E 2 untuk menghasilkan 25 gambar sintesis dari dapur – ruang yang familiar yang biasanya cukup kecil untuk menyediakan beberapa titik menghilang untuk berbagai objek dan tekstur.

Dengan memeriksa output dari prompt ‘foto dapur dengan lantai berubin’, peneliti menemukan bahwa meskipun representasi yang cukup meyakinkan dalam setiap kasus (kecuali beberapa artifact kecil yang tidak terkait dengan perspektif), objek yang digambarkan tidak pernah tampaknya menyatu dengan benar.

Penulis mencatat bahwa meskipun setiap garis paralel dari pola ubin konsisten dan berpotongan pada satu titik menghilang (biru pada gambar di bawah), titik menghilang untuk meja (sian) tidak setuju dengan garis menghilang (merah) dan titik menghilang yang diperoleh dari ubin.

Penulis mengamati bahwa bahkan jika meja tidak paralel dengan ubin, titik menghilang sian seharusnya diselesaikan ke garis menghilang (merah) yang didefinisikan oleh titik menghilang ubin lantai.

Makalah tersebut menyatakan:

‘Meskipun perspektif dalam gambar-gambar ini – secara mengesankan – konsisten secara lokal, tidak konsisten secara global. Pola yang sama ditemukan dalam setiap 25 gambar sintesis dapur.’

Forensik Bayangan

Seperti yang diketahui oleh siapa saja yang pernah berurusan dengan ray-tracing, bayangan juga memiliki titik menghilang yang menunjukkan sumber cahaya tunggal atau multi-sumber. Untuk bayangan luar pada sinar matahari yang keras, seseorang akan mengharapkan bayangan di seluruh fasad gambar untuk diselesaikan secara konsisten ke sumber cahaya tunggal (matahari).

Seperti eksperimen sebelumnya, peneliti membuat 25 gambar DALL-E 2 dengan prompt ‘tiga kubus di trotoar yang difoto pada hari yang cerah’, serta 25 gambar dengan prompt ‘tiga kubus di trotoar yang difoto pada hari yang berawan’.

Pada baris atas, gambar yang dihasilkan dari prompt peneliti ‘tiga kubus di trotoar yang difoto pada hari yang berawan’; pada baris bawah, gambar yang dihasilkan dari prompt ‘tiga kubus di trotoar yang difoto pada hari yang cerah’.

Peneliti mencatat bahwa ketika merepresentasikan kondisi berawan, DALL-E 2 dapat menghasilkan bayangan yang lebih difus dengan cara yang meyakinkan dan masuk akal, mungkin tidak hanya karena jenis bayangan ini lebih umum dalam dataset gambar yang digunakan untuk melatih kerangka.

Namun, beberapa ‘foto’ yang dihasilkan pada hari yang cerah menunjukkan inkonsistensi dengan adegan yang diterangi oleh sumber cahaya tunggal.

Untuk gambar di atas, generasi telah diubah menjadi skala abu-abu untuk kejelasan, dan menunjukkan setiap objek dengan ‘matahari’ yang didedikasikan.

Meskipun pemirsa rata-rata mungkin tidak melihat anomali tersebut, beberapa gambar yang dihasilkan menunjukkan contoh ‘kegagalan bayangan’ yang lebih jelas:

Refleksi dalam DALL-E 2

Hasil yang paling merusak dalam analisis forensik datang ketika penulis menguji kemampuan DALL-E 2 untuk membuat permukaan yang sangat reflektif, yang juga merupakan perhitungan yang berat dalam ray-tracing dan algoritma rendering tradisional lainnya.

Untuk eksperimen ini, penulis menghasilkan 25 gambar DALL-E 2 dengan prompt ‘foto dinosaurus mainan dan refleksinya di cermin kamar mandi’.

Dalam semua kasus, penulis melaporkan bahwa gambar cermin dari dinosaurus mainan yang dihasilkan tidak terkait dengan aspek dan disposisi dinosaurus mainan ‘asli’. Penulis menyatakan bahwa masalah ini resisten terhadap variasi prompt teks, dan tampaknya merupakan kelemahan fundamental dalam sistem.

Tampaknya ada logika dalam beberapa kesalahan – contoh pertama dan ketiga pada baris atas tampaknya menunjukkan dinosaurus yang dipulihkan dengan baik, tetapi tidak dipantulkan.

Penulis mengomentari:

‘Tidak seperti bayangan yang jatuh dan struktur geometris pada bagian sebelumnya, DALL·E-2 mengalami kesulitan untuk mensintesis refleksi yang masuk akal, kemungkinan karena refleksi tersebut kurang umum dalam dataset gambar pelatihan.’

Kesalahan seperti ini mungkin diperbaiki dalam model sintesis teks-ke-gambar masa depan yang dapat meninjau logika semantik keseluruhan dari output mereka dengan lebih efektif, dan yang dapat menerapkan aturan fisik abstrak pada adegan yang telah, sampai batas tertentu, disusun dari fitur yang relevan dengan kata dalam ruang laten sistem.

Dalam cahaya tren yang berkembang menuju arsitektur sintesis yang lebih besar, penulis menyimpulkan:

‘[Itu] mungkin hanya masalah waktu sebelum mesin sintesis teks-ke-gambar belajar menghasilkan gambar dengan konsistensi perspektif yang lengkap. Sampai saat itu, analisis forensik geometris mungkin berguna dalam menganalisis gambar-gambar tersebut.’

* Konversi saya dari kutipan inline penulis ke tautan.

Dipublikasikan pertama kali pada 30 Juni 2022.