Model Pembelajaran Dalam Mungkin Mengalami Kesusahan Mengenali Gambar yang Dibuat oleh AI

Temuan dari sebuah makalah baru menunjukkan bahwa kecerdasan buatan (AI) yang paling canggih saat ini jauh lebih tidak mampu mengenali dan menafsirkan gambar yang disintesis oleh AI daripada manusia, yang mungkin menjadi perhatian dalam iklim di mana model pembelajaran mesin semakin banyak dilatih pada data sintetis, dan di mana tidak selalu diketahui apakah data tersebut “asli” atau tidak.

Di sini kita melihat model prediksi resnext101_32x8d_wsl yang mengalami kesulitan dalam kategori ‘bagel’. Dalam pengujian, kegagalan pengenalan dianggap terjadi jika kata target utama (dalam hal ini ‘bagel’) tidak ditampilkan dalam lima hasil prediksi teratas. Sumber: https://arxiv.org/pdf/2208.10760.pdf

Penelitian baru ini menguji dua kategori kerangka pengenalan berbasis penglihatan komputer: pengenalan objek, dan pertanyaan visual (VQA).

Di sebelah kiri, keberhasilan dan kegagalan inferensi dari sistem pengenalan objek; di sebelah kanan, tugas VQA yang dirancang untuk menyelidiki pemahaman AI tentang adegan dan gambar dengan cara yang lebih eksploratif dan signifikan. Sumber: https://arxiv.org/pdf/2105.05312.pdf dan https://arxiv.org/pdf/1505.00468.pdf

Dari sepuluh model canggih yang diuji pada dataset yang dikurasi yang dihasilkan oleh kerangka sintesis gambar DALL-E 2 dan Midjourney, model terbaik hanya dapat mencapai 60% dan 80% akurasi top-5 di seluruh dua jenis pengujian, sedangkan ImageNet, yang dilatih pada data non-sintetis, dapat mencapai 91% dan 99% dalam kategori yang sama, sedangkan kinerja manusia biasanya jauh lebih tinggi.

Mengatasi masalah sekitar pergeseran distribusi (juga dikenal sebagai ‘Model Drift’, di mana model prediksi mengalami kemampuan prediksi yang berkurang ketika dipindahkan dari data pelatihan ke ‘data nyata’), makalah tersebut menyatakan:

‘Manusia dapat mengenali gambar yang dihasilkan dan menjawab pertanyaan tentangnya dengan mudah. Kami menyimpulkan bahwa a) model dalam mengalami kesulitan memahami konten yang dihasilkan, dan mungkin melakukan lebih baik setelah fine-tuning, dan b) ada pergeseran distribusi yang besar antara gambar yang dihasilkan dan foto nyata. Pergeseran distribusi tampaknya bergantung pada kategori.’

Dengan volume gambar sintetis yang sudah membanjiri internet setelah penggunaan terbuka model sintesis difusi stabil, kemungkinan alami bahwa ketika ‘gambar palsu’ memasuki dataset industri standar seperti Common Crawl, variasi akurasi selama beberapa tahun dapat dipengaruhi oleh ‘gambar tidak nyata’.

Meskipun data sintetis telah dipuji sebagai potensi penyelamat sektor penelitian penglihatan komputer yang kekurangan data, yang sering kali kekurangan sumber daya dan anggaran untuk pengumpulan data skala besar, banjir baru gambar Stable Diffusion (bersama dengan peningkatan umum gambar sintetis sejak komersialisasi DALL-E 2) tidak mungkin semua datang dengan label, anotasi, dan hashtag yang membedakan mereka sebagai ‘palsu’ pada saat sistem penglihatan mesin mengumpulkannya dari internet.

Kecepatan pengembangan kerangka sintesis gambar sumber terbuka telah jauh melampaui kemampuan kita untuk mengategorikan gambar dari sistem ini, yang menyebabkan minat yang meningkat dalam sistem deteksi ‘gambar palsu’, serupa dengan sistem deteksi deepfake, tetapi bertugas untuk mengevaluasi gambar secara keseluruhan daripada bagian wajah.

Makalah baru ini berjudul Seberapa baik model dalam memahami gambar yang dihasilkan?, dan berasal dari Ali Borji dari perusahaan rintisan pembelajaran mesin San Francisco Quintic AI.

Data

Studi ini mendahului rilis Stable Diffusion, dan eksperimen menggunakan data yang dihasilkan oleh DALL-E 2 dan Midjourney di 17 kategori, termasuk gajah, jamur, pizza, pretzel, traktor, dan kelinci.

Contoh gambar dari mana sistem pengenalan dan VQA yang diuji diminta untuk mengidentifikasi konsep kunci paling penting.

Gambar diperoleh melalui pencarian web dan Twitter, dan, sesuai dengan kebijakan DALL-E 2 (setidaknya, pada saat itu), tidak termasuk gambar yang menampilkan wajah manusia. Hanya gambar berkualitas baik, dapat dikenali oleh manusia, yang dipilih.

Dua set gambar dikurasi, satu untuk pengenalan objek dan satu untuk tugas VQA.

Jumlah gambar dalam setiap kategori yang diuji untuk pengenalan objek.

Pengujian Pengenalan Objek

Untuk pengujian pengenalan objek, sepuluh model, semua dilatih pada ImageNet, diuji: AlexNet, ResNet152, MobileNetV2, DenseNet, ResNext, GoogleNet, ResNet101, Inception_V3, Deit, dan ResNext_WSL.

Beberapa kelas dalam sistem yang diuji lebih granular daripada yang lain, memerlukan penerapan pendekatan rata-rata. Misalnya, ImageNet berisi tiga kelas yang terkait dengan ‘jam’, dan perlu untuk mendefinisikan beberapa jenis metrik arbitrasi, di mana inklusi ‘jam’ apa pun dalam lima label teratas yang diperoleh untuk gambar apa pun dianggap sebagai keberhasilan dalam kasus tersebut.

Kinerja per-model di 17 kategori.

Model terbaik dalam putaran ini adalah resnext101_32x8d_ws, yang mencapai hampir 60% untuk top-1 (yaitu, kali di mana prediksi preferensialnya dari lima tebakan adalah konsep yang benar yang diwakili dalam gambar), dan 80% untuk top-lima (yaitu, konsep yang diinginkan setidaknya terdaftar di suatu tempat dalam lima tebakan model tentang gambar).

Penulis menyatakan bahwa kinerja model yang baik ini disebabkan oleh fakta bahwa model tersebut dilatih untuk prediksi lemah dari hashtag di platform media sosial. Namun, hasil terkemuka ini, penulis mencatat, jauh di bawah apa yang dapat dicapai ImageNet pada data nyata, yaitu 91% dan 99%. Ia menyatakan bahwa ini disebabkan oleh kesenjangan besar antara distribusi gambar ImageNet (yang juga dikumpulkan dari web) dan gambar yang dihasilkan.

Lima kategori yang paling sulit untuk sistem, dalam urutan kesulitan, adalah layang-layang, kura-kura, tupai, kacamata hitam, dan helm. Makalah tersebut mencatat bahwa kelas layang-layang sering kali salah diidentifikasi dengan balon, parasut, dan payung, meskipun perbedaan ini sangat mudah untuk dikenali oleh pengamat manusia.

Beberapa kategori, termasuk layang-layang dan kura-kura, menyebabkan kegagalan universal di semua model, sedangkan yang lain (terutama pretzel dan traktor) menghasilkan hampir keberhasilan universal di semua model yang diuji.

Kategori polar: beberapa kategori target yang dipilih baik mengacaukan semua model atau relatif mudah untuk semua model untuk mengidentifikasi.

Para penulis menyatakan bahwa temuan ini menunjukkan bahwa semua model pengenalan objek mungkin memiliki kekuatan dan kelemahan yang serupa.

Pengujian Pertanyaan Visual

Selanjutnya, penulis menguji model VQA pada pertanyaan visual terbuka dan bebas, dengan pertanyaan biner (yaitu, pertanyaan yang hanya dapat dijawab ‘ya’ atau ‘tidak’). Makalah tersebut mencatat bahwa model VQA terbaru dapat mencapai 95% akurasi pada dataset VQA-v2.

Untuk tahap pengujian ini, penulis mengkurasi 50 gambar dan merumuskan 241 pertanyaan seputar mereka, 132 di antaranya memiliki jawaban positif, dan 109 jawaban negatif. Panjang pertanyaan rata-rata adalah 5,12 kata.

Pengujian ini menggunakan model OFA, sebuah kerangka tugas-agnostik dan modality-agnostik untuk menguji komprehensif tugas, dan baru-baru ini menjadi skor terkemuka dalam pengujian VQA-v2. OFA mencapai 77,27% akurasi pada gambar yang dihasilkan, dibandingkan dengan skor 94,7% pada dataset VQA-v2.

Contoh pertanyaan dan hasil dari bagian VQA pengujian. ‘GT” adalah ‘Kebenaran Tanah’, yaitu jawaban yang benar.

Penulis makalah tersebut menyatakan bahwa sebagian alasan mungkin karena gambar yang dihasilkan mengandung konsep semantik yang tidak ada dalam dataset VQA-v2, dan bahwa pertanyaan yang ditulis untuk pengujian VQA mungkin lebih menantang daripada pertanyaan VQA-v2 pada umumnya, meskipun ia percaya bahwa alasan pertama lebih mungkin.

LSD di Aliran Data?

Opini

Penyebaran baru gambar sintetis AI, yang dapat menyajikan konjungsi dan abstraksi konsep inti yang tidak ada di alam, dan yang akan memakan waktu lama untuk diproduksi dengan metode konvensional, dapat menyajikan masalah khusus bagi sistem pengumpulan data yang lemah, yang mungkin tidak dapat gagal dengan elegan – sebagian besar karena mereka tidak dirancang untuk menangani volume besar data sintetis yang tidak berlabel.

Dalam kasus seperti itu, mungkin ada risiko bahwa sistem tersebut akan mengumpulkan persentase ‘aneh’ gambar sintetis ke kategori yang salah hanya karena gambar tersebut menampilkan objek yang berbeda yang tidak benar-benar milik bersama.

‘Astronot menunggang kuda’ mungkin telah menjadi visual paling emblematis untuk generasi baru sistem sintesis gambar – tetapi hubungan ‘tidak nyata’ ini dapat memasuki sistem deteksi nyata kecuali perhatian diambil. Sumber: https://twitter.com/openai/status/1511714545529614338?lang=en

Kecuali jika ini dapat dicegah pada tahap pra-pengolahan sebelum pelatihan, pipa otomatis seperti itu dapat menyebabkan asosiasi yang tidak mungkin atau bahkan menjijikkan dilatih ke dalam sistem pembelajaran mesin, yang dapat merusak efektivitasnya, dan berisiko memasukkan asosiasi tingkat tinggi ke dalam sistem hilir dan sub-kelas dan kategori.

Alternatifnya, gambar sintetis yang terputus-putus dapat memiliki ‘efek pendinginan’ pada akurasi sistem selanjutnya, dalam kemungkinan bahwa arsitektur baru atau diamandemen muncul yang mencoba untuk memperhitungkan gambar sintetis ad hoc, dan melempar jaringan yang terlalu luas.

Dalam kedua kasus, gambar sintetis di era pasca-Stable Diffusion dapat menjadi sakit kepala bagi sektor penelitian penglihatan komputer yang membuat kemampuan ini mungkin – tidak hanya karena ini mengancam harapan sektor bahwa pengumpulan dan kurasi data dapat akhirnya menjadi lebih otomatis daripada yang sekarang, dan kurang memakan waktu dan biaya.

Dipublikasikan pertama kali pada 1 September 2022.