Utilizarea “probabilității” ca metrică de detectare a deepfake-urilor

Dacă videourile și audio-ul generate de inteligența artificială devin suficient de bune, detectoarele de deepfake bazate pe artefacte vizuale sau alte semnale tradiționale nu vor mai funcționa. Dar, având în vedere cât de rar oamenii se abat de la comportamentul previzibil, poate “probabilitatea” ar putea fi adoptată mai profund ca semnal al faptului că un videoclip sau o știră este probabil să fie adevărată.

Opinie La începutul anilor 1990, respectatul fost fotbalist britanic și comentator sportiv TV David Icke a dezvăluit într-un show de chat că el este “fiul lui Dumnezeu” – o revelație ciudată și neașteptată care se va dezvolta în următorii ani într-o teorie a conspirației elaborate și persistente despre o cabală globală secretă și puternică de “oameni-lizard”.

Cu adoptarea internetului încă în așteptare și cu apariția rețelelor sociale și mai departe în viitor, disonanța dintre celebritatea lui Icke și natura noilor sale insight-uri a avut un impact profund asupra publicului britanic – nu în ultimul rând din cauza lipsei complete de context sau a oricărui fel de pregătire pentru acest pivot masiv, de la o personalitate sportivă bine cunoscută și bine stabilită.

Mai mult de douăzeci de ani mai târziu, un șoc similar și mult mai întunecat a avut loc, când dragul campion al carității și prezentator de televiziune pentru copii Jimmy Savile a fost găsit postum a fi un agresor sexual serial și rapace care și-a folosit imaginea publică pentru a facilita crimele sale.

Urma Operațiunea Yewtree a poliției a descoperit mulți alți celebriți britanici cu istoric de infracțiuni sexuale; mai târziu, procesul lui Harvey Weinstein a condus la o descoperire similară a agresorilor sexuali celebri în SUA, evoluând în mișcarea #metoo și devenind permanentă în cultura americană în evenimente precum The Morning Show. Știrile “șoc” păreau să dezvolte un nou și abrupt model – unul care va fi adoptat în cele din urmă de atacatorii de deepfake.

Sfârșitul detectării “tradiționale” de deepfake?

Chiar dacă rețelele sociale și inteligența artificială ar fi existat în anii ’90, niciun sistem predictiv din lume nu ar fi putut prezice revelațiile lui Icke de la show-ul de chat, care (așa cum îmi amintesc) nu au fost în niciun fel prevestite în anii care au precedat evenimentul.

Dar, dacă inteligența artificială ar fi existat, ar fi putut dura ceva timp pentru a convinge o audiență mai largă că declarațiile lui Icke nu au fost produsul Google Veo 3, sau a unei alte noi generații de cadre de lucru audio/video deepfake hiper-reale.

Abia în ultimii 6-12 luni, metodele de deepfake ale inteligenței artificiale au devenit suficient de eficiente pentru a îndeplini ani de profeții media despre interferența deepfake în alegeri și capabile să genereze felul de lovitură rapidă de reputație care este falsă, dar greu de eradicat într-o cultură din ce în ce mai credulă.

Până în prezent, ieșirile video ale inteligenței artificiale tipic cad scurt de realismul adevărat, limitate de obstacole tehnice și din ce în ce mai polarizate de o lacună tot mai mare între modelele restrictive occidentale și lansările deschise necontrolate ale Chinei^**.

Cu toate acestea, observ din ce în ce mai mult în literatura de cercetare o concesie încetățenită a acestui război rece, de exemplu în noul articol Performance Decay in Deepfake Detection^†:

‘[Noi] presupunem că videourile deepfake vor continua să conțină caracteristici învățabile de mașini care le disting cu fiabilitate de la videourile autentice. Pe măsură ce capacitățile inteligenței artificiale generative continuă să avanseze rapid, această presupunere se poate rupe.

‘Într-un astfel de scenariu, marcarea apei și alte metode de urmărire a provenienței vor oferi singura soluție pentru menținerea încrederii în mass-media digitală.’

Cu toate acestea, același articol concesează că soluțiile bazate pe proveniență, cum ar fi inițiativa de autenticitate a conținutului condusă de Adobe (și multe alte oferte de cercetare mai mici din ultimii 7-8 ani) necesită o adoptare atât de largă încât să fie nerealistă; și articolul se încheie cu o notă generală de retragere, dacă nu de înfrângere.

Dacă metodele de detectare a deepfake-urilor audio-vizuale sunt depășite de inteligența artificială generativă și adoptarea globală a unui sistem de marcă a apei sau de proveniență intrusiv cade în fața obstacolelor logistice diverse, ce caracteristică centrală ar putea înlocui acestea ca indicatori ai unei ieșiri potențial false? Sau trebuie să ne rezignăm la o lume în care toate mass-media sunt în dubiu și Dividendul mincinosului prevalează?

Grafuri de cunoaștere

Pare să fie timpul să folosim mai profund probabilitatea și plauzibilitatea “evenimentelor raportate” ca caracteristică de semnal în detectarea deepfake-urilor. Mai mult, deoarece sistemele de inteligență artificială generativă video și audio converg din ce în ce mai mult, poate că este timpul ca firele de cercetare separate ale “știrilor false” (ca eveniment narativ bazat pe text) și ale imaginilor/video false să convergă.

O probabilitate metrică de deepfake nu este același lucru cu RAG-aided verificarea faptelor, unde un model de inteligență artificială poate aduce rezultate web actuale pentru a obține cunoștințe despre evenimente care au loc după data sa de închidere, și/sau pentru a-și corobora afirmațiile.

În schimb, ar face previziuni bazate pe tendințe statistice generale indicative, derivate din modele istorice care se conformează unei anchete actuale.

În acest sens, o metodă de probabilitate este mai aproape de analiza statistică decât de abordările mai moderne din scena actuală de învățare automată.

Deși au fost eclipsate anterior de abordări mai moderne din era Transformer, grafurile de cunoaștere fac o revenire în spațiul întreprinderilor și par adaptate pentru implementarea metricilor de “probabilitate” în detectarea deepfake-urilor.

O grafură de cunoaștere simplificată care ilustrează modul în care oamenii, locurile, operele de artă și evenimentele pot fi legate prin relații etichetate, permițând mașinilor să raționeze despre entitățile și legăturile lor din lumea reală. Sursă

O grafură de cunoaștere este o modalitate de organizare a informațiilor prin mapping-ul lucrurilor din lumea reală, cum ar fi oameni, companii, evenimente sau idei, într-o rețea de fapte conectate.

Fiecare sub-entitate este un nod, iar legăturile dintre ele (muchii) descriu modul în care se relatează. De exemplu, “Microsoft ” (un nod) ar putea fi legat de “OpenAI” (un alt nod) printr-un muchie care spune “este client al”. Aceste legături sunt adesea stocate în baze de date grafice și urmează o structură subiect-predicat-obiect, cum ar fi “Microsoft este client al OpenAI”.

Memorie persistentă

Un studiu chinez din septembrie al acestui an a propus o metodă de antrenament care utilizează raționamentul grafic pentru a detecta inconsistențe subtile în deepfake-urile multimodale.

În loc de a genera raționamente sau de a a ajusta modele mari, sistemul recuperează perechi de imagini și texte, construiește un graf de similaritate și punctează conexiunile, pentru a recupera exemplele cele mai relevante și pentru a ghida judecata modelului fără a necesita antrenament nou:

O prezentare generală a cadrului GASP-ICL, care îmbunătățește detectarea deepfake-urilor prin combinarea selecției de mostre bazate pe grafuri cu învățarea în context, permițând un model de inteligență artificială înghețat să clasifice perechi de imagini și texte ca reale sau false, fără antrenament sau ajustare.  Source

Acesta este probabil cel mai apropiat lucru, cel puțin care mi-a trecut pe sub mână, de o abordare “informată” și conștientă de istorie pentru evaluarea și verificarea noilor ieșiri media. În cea mai mare parte, abordările de viziune continuă să analizeze imagini (inclusiv cadre de film și anomalii temporale care cuprind mai multe cadre) în timp ce cadrele de detectare a “știrilor false” continuă să pună accentul pe datele bazate pe text, chiar și în proiectele multimodale.

Creșterea caracteristicilor

Provocarea unui sistem predictiv de acest fel este domeniul de supraveghere care poate fi necesar pentru a face abordarea pe deplin funcțională – cel puțin dincolo de analiza celebrităților și a personalităților publice, pentru care există deja date accesibile în mod liber.

Probabil cel mai similar fir de cercetare actual este domeniul pre-crime, care etichetează diverse semnale de inteligență multimodală ca “suspecte” și se prezintă ca un sperietoare de inteligență artificială în ieșiri precum Person of Interest (2011-2016) și Minority Report (2002).

În timp ce un sistem de supraveghere Person of Interest-style ar produce rezultate optime, este puțin probabil că cultura occidentală ar putea sancționa nivelul de intruziune personală pe care rețelele interne ale Chinei le impun cetățenilor săi.

Prin urmare, în ceea ce privește știrile false despre non-celebrități, doar agențiile guvernamentale, cum ar fi poliția (precum și registrele de nașteri și decese și birourile de taxe) ar avea suficiente informații istorice pertinente pentru a informa probabilitățile într-un flux de lucru bazat pe grafuri; și chiar și acestea ar avea nevoie de voință, capacitate, legislație și resurse de tip CCCP pentru a include cetățeni obișnuiți în acoperirea și analizele lor (adică, dincolo de punctele de date banale, dar obligatorii, cum ar fi numerele de pașaport și înregistrările de mașini).

Scorarea probabilității

Pare probabil că eficacitatea potențială a unui sistem de acest fel ar fi limitată la cele mai evidente (actuale) cazuri de utilizare pentru conținut deepfake: destabilizarea (deepfake-uri sprijinite de stat); deepfake-uri porno de celebrități și “necunoscute” (care pot fi considerate ambele ca fiind malefice, deși al doilea caz tinde să atragă o preocupare mai profundă a mass-mediei); fraudă (inclusiv deepfake-uri audio/video concepute pentru a efectua ‘jafuri de impersonare’); și asasinarea caracterului politic.

Un sistem bazat pe cunoaștere ar necesita o scară de probabilități pentru o diversitate de evenimente posibile. La un capăt al spectrului, defecte umane comune, cum ar fi gestionarea financiară discutabilă, infidelitate, dependență, indiscreție etc.; la celălalt capăt… dezvăluirea faptului că eşti fiul lui Dumnezeu la un show de televiziune live (sau evenimente de aceeași scară și impact).

Chiar și în acest ultim caz, factorii istorici personali pentru orice individ ar cântări rezultatul probabilității: un politician proeminent care a echivocat public în chestiuni controversate (cum ar fi veracitatea aterizărilor lunare din anii 1960/1970) pentru a câștiga capital cu un electorat din ce în ce mai ‘alternativ-informat’ ar putea obține statut suplimentar de carte de joc în rutinele de verificare, comparativ cu colegii săi mai modești.

În cazul deepfake-urilor porno de celebrități, există suficient context din lumea reală (de exemplu, scurgerile de fotografii cu celebrități din 2012, printre alte incidente – destul de rare) pentru a genera un dividend moderat al mincinosului, în anumite contexte; dar deoarece aceste incidente de outlier tind să funcționeze ca excepții care demonstrează regula, majoritatea deepfake-urilor video de celebrități actuale ar fi considerate extrem de “improbabile” (deși acest lucru nu rezolvă problema furtului de identitate pentru astfel de scopuri).

În ceea ce privește perturbarea națională, există o bogată cantitate de date statistice care pot ajuta la evaluarea probabilităților “raportărilor dezastruoase”. Chiar și în istoria antică, evenimente aparent “din senin” precum erupția vulcanului Vesuvius în 79 d.Hr. au fost prezise, dacă ai fi dat suficientă atenție; și, pe lângă disponibilitatea unei game largi de fluxuri guvernamentale și ONG, capacitatea inteligenței artificiale de a extrage structura din datele brute poate oferi context istoric suplimentar pentru scorarea probabilității.

Concluzie

Chiar și un sistem predictiv bine implementat de acest fel nu ar putea conta pentru șansa, actele lui Dumnezeu, evenimentele ciudate sau evenimentele malefice concepute departe de orice supraveghere.

Mai mult, volumul și profunzimea datelor necesare pentru a oferi acoperire și pentru oameni non-familiari ar fi un punct de dispută politică – cel puțin, pentru moment.

Cu toate acestea, opțiunile par să se îngusteze; analiza vizuală este pe punctul de a eșua în fața inteligenței artificiale generative îmbunătățite, în timp ce schemele de verificare și proveniență poartă o povară împovărătoare de datorie tehnică și fricțiune împotriva adoptării. Acest lucru face soluții precum Inițiativa de Autenticitate a Conținutului și sistemul de copyrightare a feței Metaphysic.ai Metaphysic Pro dificil de popularizat.

În utilizarea lor cea mai largă, sistemele bazate pe RAG pot determina doar dacă o sursă de autoritate sprijină o pretenție neverificată; și, deoarece multe știri mari (adevărate) apar fără context anterior, lipsa de susținere din partea surselor de autoritate nu este neapărat semnificativă.

Valoarea lor poate dovedi a fi mai mare dacă pot face parte dintr-un ecosistem de date mai larg preocupat de acel lucru cu care majoritatea formelor actuale de inteligență artificială se luptă – contextul istoric.

* Nu trebuie confundat cu primele autoencoder care au debutat în 2017 și care vor fi înlocuite în cele din urmă de abordări superioare.

^† https://arxiv.org/abs/2511.07009

^** care poate rula în general liber pe calculatoarele de acasă mai puternice, în loc să fie disponibile doar prin API-uri controlate, cum ar fi ChatGPT și seria Veo.

^††† Omitând utilizările legitime de divertisment, cum ar fi efectele vizuale profesionale în producțiile de film și televiziune.

Publicat pentru prima dată joi, 13 noiembrie 2025