Un sistem de detectare pentru cadre de sinteză de imagine pură, cum ar fi DALL-E 2

Noi cercetări de la Universitatea din California, Berkeley oferă o metodă pentru a determina dacă ieșirile noilor generații de cadre de sinteză de imagine – cum ar fi DALL-E 2 al Open AI și Imagen și Parti ale Google – pot fi detectate ca “nereale”, prin studierea geometriei, umbrelor și reflexiilor care apar în imaginile sintetizate.

Studiind imaginile generate de prompturi de text în DALL-E 2, cercetătorii au constatat că, în ciuda realismului impresionant de care este capabilă arhitectura, există anumite inconstanțe persistente legate de redarea perspectivei globale, crearea și dispunerea umbrelor și, în special, de redarea obiectelor reflectate.

Articolul afirmă:

‘[Structurile] geometrice, umbrele și reflexiile de pe suprafețele reflectorizante nu sunt pe deplin consistente cu geometria perspectivă așteptată a scenelor naturale. Structurile geometrice și umbrele sunt, în general, local consistente, dar global inconstante.

‘Reflexiile, pe de altă parte, sunt adesea redactate în mod neverosimil, probabil pentru că sunt mai puțin comune în setul de date de antrenare.’

Lipsa de intersecții consistente între obiectul redat și redarea reflexiei sale este, în prezent, o modalitate fiabilă de a detecta o imagine DALL-E 2, conform noii studii. Sursă: https://arxiv.org/pdf/2206.14617.pdf

Articolul reprezintă o primă încercare de a ceea ce poate deveni, în cele din urmă, o direcție notabilă în comunitatea de cercetare a viziunii computaționale – detectarea sintezei de imagini.

De la apariția deepfake-urilor în 2017, detectarea deepfake-urilor (în special a ieșirilor autoencoderelor din pachete precum DeepFaceLab și FaceSwap) a devenit o direcție academică activă și competitivă, cu diverse articole și metodologii care vizează “semnele” evolutive ale fețelor sintetizate în filmări video reale.

Însă, până la apariția recentă a sistemelor de generare de imagini hiperscalabile, ieșirile sistemelor de sinteză de imagini bazate pe text, cum ar fi CLIP, nu reprezentau o amenințare pentru statu quo-ul “realismului fotografic”. Autorii noului articol cred că acest lucru este pe cale să se schimbe și că, chiar și inconstanțele pe care le-au descoperit în ieșirile DALL-E 2, nu vor face o mare diferență în ceea ce privește potențialul de a înșela privitorii.

Autorii afirmă*:

‘[Aceste] eșecuri nu vor conta prea mult pentru sistemul vizual uman, care s-a dovedit a fi surprinzător de inapt la anumite judecăți geometrice, inclusiv inconstanțe în iluminare, umbră, reflexii, poziție de vizualizare și distorșie de perspectivă.’

Credibilitatea în scădere

Primul examen forensic al ieșirilor DALL-E 2 de către autori se referă la proiecția perspectivă – modul în care poziționarea muchiilor drepte din obiectele și texturile apropiate ar trebui să se rezolve uniform la un “punct de dispariție”.

Stânga, linii paralele pe același plan se rezolvă la un punct de dispariție comun; dreapta, multiple puncte de dispariție pe același plan și planuri paralele definesc o linie de dispariție (reprezentată în roșu).

Pentru a testa consistența DALL-E 2 în acest sens, autorii au utilizat DALL-E 2 pentru a genera 25 de imagini sintetizate de bucătării – un spațiu familiar care, chiar și în locuințe bine amenajate, este de obicei suficient de mic pentru a oferi multiple puncte de dispariție pentru o varietate de obiecte și texturi.

Examinând ieșirile de la promptul ‘o fotografie a unei bucătării cu podea din plăci’, cercetătorii au constatat că, în ciuda unei reprezentări generale convingătoare în fiecare caz (cu excepția unor artefacte mici, nelegate de perspectivă), obiectele reprezentate nu par să converge corect.

Autorii notează că, deși fiecare set de linii paralele din modelul de plăci este consistent și se intersectează la un singur punct de dispariție (albastru în imaginea de mai jos), punctul de dispariție pentru blatul de lucru (cyan) nu este de acord cu liniile de dispariție (roșu) și punctul de dispariție derivat din plăci.

Autorii observă că, chiar dacă blatul de lucru nu este paralel cu plăcile, punctul de dispariție cyan ar trebui să se rezolve la linia de dispariție (roșu) definită de punctele de dispariție ale plăcilor de pe podea.

Articolul afirmă:

‘În timp ce perspectiva în aceste imagini este – impresionant – local consistentă, nu este global consistentă. Acest același model a fost găsit în fiecare dintre cele 25 de imagini sintetizate de bucătării.’

Forensica umbrelor

Ca oricine care a lucrat cu ray-tracing, umbrele au, de asemenea, puncte de dispariție, indicând iluminare cu o singură sursă sau multiplă. Pentru umbrele exterioare în lumina puternică a soarelui, s-ar aștepta ca umbrele de pe toate fețele unei imagini să se rezolve consistent la o singură sursă de lumină (soarele).

La fel ca în experimentul anterior, cercetătorii au creat 25 de imagini DALL-E 2 cu promptul ‘trei cuburi pe o trotuar fotografiate într-o zi însorită’, precum și încă 25 cu promptul ‘‘trei cuburi pe o trotuar fotografiate într-o zi înnorată’.

În rândul superior, imagini create din promptul cercetătorilor ‘trei cuburi pe o trotuar fotografiate într-o zi înnorată’; în rândul inferior, imagini create din promptul ‘trei cuburi pe o trotuar fotografiate într-o zi însorită’.

Cercetătorii notează că, atunci când reprezintă condiții înnorate, DALL-E 2 este capabil să redea umbrele mai difuze asociate într-un mod convingător și plauzibil, probabil nu în ultimul rând pentru că acest tip de umbră este mai probabil să fie mai prevalent în setul de date de antrenare pe care a fost antrenat cadru.

Însă, unele dintre “fotografiile” luate în condiții de lumină puternică a soarelui, autorii au constatat că sunt inconstante cu o scenă iluminată de o singură sursă de lumină.

Pentru imaginea de mai sus, generările au fost convertite în tonuri de gri pentru claritate și arată fiecare obiect cu propria “soare” dedicat.

Deși privitorul mediu poate nu observă astfel de anomalii, unele dintre imaginile generate aveau exemple mai evidente de “eșecuri de umbră”:

În timp ce unele umbre sunt pur și simplu în locuri greșite, multe dintre ele, interesant, corespund tipului de discrepanță vizuală produsă în modelarea CGI atunci când rata de eșantionare pentru o lumină virtuală este prea mică.

Reflexii în DALL-E 2

Rezultatele cele mai devastatoare din punct de vedere al analizei forensice au venit atunci când autorii au testat capacitatea DALL-E 2 de a crea suprafețe reflectorizante puternic, ceea ce este, de asemenea, un calcul dificil în ray-tracing-ul tradițional și în alte algoritmi de redare.

Pentru acest experiment, autorii au produs 25 de imagini DALL-E 2 cu promptul ‘o fotografie a unui dinozaur de jucărie și a reflexiei sale într-o oglindă de toaletă’.

În toate cazurile, autorii raportează că imaginea oglinzii a dinozaurului de jucărie redat a fost într-un fel desconectată de la aspectul și dispunerea “reală” a dinozaurului de jucărie. Autorii afirmă că problema a fost rezistentă la variații ale promptului de text și pare a fi o slăbiciune fundamentală a sistemului.

Există o logică în unele erori – primul și al treilea exemplu din rândul superior par să arate un dinozaur care este duplicat foarte bine, dar nu reflectat.

Autorii comentează:

‘În contrast cu umbrele și structurile geometrice din secțiunile anterioare, DALL·E-2 nu reușește să sintetizeze reflexii plauzibile, probabil pentru că astfel de reflexii sunt mai puțin comune în setul de date de antrenare.’

Defecțiuni precum acestea pot fi corectate în viitoarele modele de text-la-imagini care vor putea revizui mai eficient logica semantică generală a ieșirilor lor și care vor putea impune reguli fizice abstracte asupra scenelor care au fost, într-o oarecare măsură, asamblate din caracteristici pertinente pentru cuvânt în spațiul latent al sistemului.

În lumina tendinței tot mai mari de a crea arhitecturi de sinteză și mai mari, autorii concluzionează:

‘[Poate fi] doar o chestiune de timp înainte ca motoarele de sinteză de imagini să învețe să redea imagini cu perspectivă completă. Până atunci, analizele forensice geometrice pot dovedi utile în analiza acestor imagini.’

* Conversia mea a citărilor inline ale autorilor în legături.

Publicat pentru prima dată pe 30 iunie 2022.