Codificarea imaginilor împotriva utilizării în sistemele de sinteză și deepfake

Cea mai cunoscută direcție de cercetare în sectorul anti-deepfake în creștere implică sisteme care pot recunoaște artefacte sau alte caracteristici distincte ale fețelor deepfake, sintetizate sau altfel falsificate sau “editate” în conținutul video și de imagine.

Astfel de abordări utilizează o varietate de tactici, inclusiv detectarea adâncimii, întreruperea regulamentului video, variațiile în iluminarea monitorului (în apeluri video live care pot fi deepfake), caracteristici biometrice, regiuni ale feței exterioare și chiar puterile ascunse ale sistemului subconștient uman.

Ce au în comun aceste metode și altele similare este că, până când sunt implementate, mecanismele centrale pe care le combat au fost deja antrenate cu mii sau sute de mii de imagini extrase din web – imagini din care sistemele autoencoder pot deriva cu ușurință caracteristici cheie și pot crea modele care pot impune cu acuratețe o identitate falsă în secvențe video sau imagini sintetizate – chiar în timp real.

În sinteză, până când astfel de sisteme sunt active, calul a already scăpat.

Imagini care sunt ostile arhitecturilor de sinteză și deepfake

Prin intermediul unei atitudini mai preventive față de amenințarea deepfake și a sintezei de imagini, o direcție de cercetare mai puțin cunoscută în acest sector implică posibilitățile inerente în faptul că toate fotografiile sursă neamice pentru sistemele de sinteză de imagini AI, de obicei în moduri imperceptibile sau abia perceptibile.

Exemplele includ FakeTagger, o propunere din 2021 de la diverse instituții din SUA și Asia, care codifică mesaje în imagini; aceste codificări sunt rezistente la procesul de generalizare și pot fi recuperate chiar și după ce imaginile au fost extrase din web și antrenate într-o rețea adversarială generativă (GAN) de tipul celui mai faimos reprezentat de thispersondoesnotexist.com și derivatele sale numeroase…. (restul conținutului)

TAFIM

Acum, un nou efort de cercetare german (de la Universitatea Tehnică din München și Sony Europe RDC Stuttgart) a propus o tehnică de codificare a imaginilor prin care modelele deepfake sau cadrele de tip StyleGAN antrenate pe imagini procesate vor produce ieșiri inutilizabile albastre sau albe, respectiv…. (restul conținutului)

Re-Encodarea Web-ului..?

Cu toate acestea, în acest caz, nu suntem aici pentru a examina minuțiile și arhitectura ultimei versiuni a acestui concept popular, ci mai degrabă pentru a considera practicitatea întregii idei – în special în lumina controversei în creștere cu privire la utilizarea imaginilor public disponibile de pe internet pentru a alimenta cadrele de sinteză de imagini, cum ar fi Stable Diffusion, și implicațiile legale ulterioare ale derivării de software comercial din conținut care poate (cel puțin în anumite jurisdicții) să dovedească în cele din urmă protecție legală împotriva ingestiei în arhitecturi de sinteză AI…. (restul conținutului)

Conflict politic

În termeni politici, există o tensiune aparentă între determinarea guvernelor de a nu rămâne în urmă în dezvoltarea IA și de a face concesii în legătură cu preocupările publice cu privire la utilizarea ad-hoc a conținutului audio, video și de imagine disponibil în mod deschis pe internet ca o resursă abundentă pentru sistemele transformative AI…. (restul conținutului)

Inspecția casuală

În timp ce s-au propus metode blockchain pentru a autentifica proveniența și aspectul real al unei imagini sursă care poate fi ulterior inglobată într-un set de date de antrenament, aceasta nu împiedică în sine antrenarea imaginilor sau oferă niciun mod de a dovedi, din ieșirea unor astfel de sisteme, că imaginile au fost incluse în setul de date de antrenament…. (restul conținutului)

Încorporarea de filigrane la sursă

O aplicație și mai extremă a filigranelor de imagine la sursă este de a include informații obscure și neevidente în ieșirea brută de captură a camerelor comerciale, video sau imagini. Deși conceptul a fost experimentat și chiar implementat cu o anumită vigilență la începutul anilor 2000, ca răspuns la “amenințarea” emergentă a pirateriei multimedia, principiul este aplicabil și pentru scopul de a face conținutul media rezistent sau respingător pentru sistemele de antrenament cu mașini…. (restul conținutului)

Deși cel puțin o cameră permite în prezent impunerea opțională a unei filigrane bazate pe logo care ar putea semnaliza utilizarea neautorizată într-un model AI derivat, eliminarea logourilor prin IA devine destul de trivială și chiar comercializată în mod casual.

Prim publicat pe 25 septembrie 2022.