Deepfakes și navigarea în noua eră a media sintetice

Îți amintești de “știrile false”? Termenul a fost folosit (și abuzat) atât de mult, încât poate fi greu să ne amintim la ce se referea inițial. Dar conceptul are o origine foarte specifică. Acum zece ani, jurnaliștii au început să semnaleze o invazie de site-uri care pretindeau a fi “știri”, dar care aruncau informații false, adesea neverosimile, despre politicieni și celebrități. Mulți puteau să recunoască imediat că aceste site-uri erau nelegitime.

Dar mulți alții nu aveau instrumentele critice pentru a recunoaște acest lucru. Rezultatul a fost primul semn al unei crize epistemologice care acum cuprinde internetul – o criză care a ajuns la manifestarea sa cea mai înfricoșătoare cu apariția deepfakes.

În comparație cu un deepfake acceptabil, site-urile “știri false” de altădată par inofensive. Mai rău, chiar și cei care cred că posedă un nivel relativ ridicat de alfabetizare media sunt în pericol de a fi înșelați. Media sintetică creată cu ajutorul algoritmilor de învățare profundă și inteligență artificială generativă are potențialul de a distruge fundamentele societății noastre. Conform Deloitte, anul acesta singur, ele ar putea costa companiile peste 250 de milioane de dolari prin tranzacții false și alte tipuri de fraudă. Între timp, Forumul Economic Mondial a numit deepfakes “una dintre cele mai îngrijorătoare utilizări ale inteligenței artificiale”, subliniind potențialul “roboților și avatarilor de chat în timp real, conduse de agendă” de a facilita noi tipuri de manipulare personalizată și eficientă.

Răspunsul sugerat de WEF la această problemă este unul sensibil: ei susțin o “atitudine de încredere zero“, una care aduce un grad de scepticism în fiecare întâlnire cu media digitală. Dacă vrem să distingem între autentic și sintetic în viitor – mai ales în medii online imersive – o astfel de atitudine va fi din ce în ce mai esențială.

Două abordări pentru combaterea crizei deepfakes

Combaterea dezinformării rampante generate de media sintetică va necesita, în opinia mea, două abordări distincte.

Prima implică verificarea: oferirea unei modalități simple pentru utilizatorii obișnuiți de internet de a determina dacă videoul pe care îl privesc este într-adevăr autentic. Astfel de instrumente sunt deja răspândite în industrii precum asigurările, dată fiind posibilitatea ca actori răi să depună cereri false, ajutați de videouri, fotografii și documente falsificate. Democratizarea acestor instrumente – făcându-le gratuite și ușor de accesat – este un prim pas crucial în această luptă, și deja vedem o mișcare semnificativă pe acest front.

A doua etapă este mai puțin tehnologică și, prin urmare, mai dificilă: și anume, creșterea conștientizării și dezvoltarea abilităților de gândire critică. În urma scandalului inițial “știri false”, în 2015, organizații non-profit din întreaga țară au creat programe de alfabetizare media și au lucrat pentru a răspândi cele mai bune practici, adesea în parteneriat cu instituții civice locale pentru a împuternici cetățenii de zi cu zi să identifice falsurile. Desigur, “știrile false” de modă veche sunt un joc de copii în comparație cu deepfakes-ul cel mai avansat, ceea ce ne obligă să ne reînnoim eforturile pe acest front și să investim în educație la toate nivelurile.

Deepfakes avansați necesită gândire critică avansată

Desigur, aceste inițiative educaționale au fost puțin mai ușor de întreprins atunci când dezinformarea în cauză era bazată pe text. Cu site-urile “știri false”, semnele de fraudă erau adesea evidente: design web ciudat, erori de ortografie, surse ciudate. Cu deepfakes, semnele sunt mult mai subtile și adesea imposibil de remarcat la prima vedere.

Prin urmare, utilizatorii de internet de toate vârstele trebuie să se re-educa pentru a examina cu atenție video-urile digitale pentru a detecta indicatorii de deepfake. Acest lucru înseamnă a acorda atenție unor factori. Pentru video, aceasta ar putea însemna zone neclare și umbre neverosimile; mișcări faciale și expresii neverosimile; tonuri de piele prea perfecte; modele inconsistente în îmbrăcăminte și mișcări; erori de sincronizare a buzelor; și așa mai departe. Pentru audio, aceasta ar putea însemna voci care sună prea curate (sau evident digitalizate), lipsa unui ton emoțional uman, tipare de vorbire ciudate sau frazare neobișnuită.

Pe termen scurt, acest tip de auto-antrenament poate fi foarte util. Prin a ne întreba, din nou și din nou, Îți pare suspect?, ne ascuțim nu numai abilitatea de a detecta deepfakes, ci și abilitățile noastre generale de gândire critică. Cu toate acestea, ne apropiem rapid de un moment în care nici măcar cel mai bine antrenat ochi nu va putea să distingă faptele de ficțiune fără ajutor exterior. Semnele vizuale – neregularitățile menționate mai sus – vor fi netezite tehnologic, astfel încât clipurile fabricate în întregime vor fi de nediferențiat de articolul autentic. Ce ne va rămâne este intuiția noastră situativă – capacitatea de a ne pune întrebări de genul Ar spune cu adevărat un politician sau o celebritate așa ceva? Este conținutul acestui video plauzibil?

În acest context, platformele de detectare a inteligenței artificiale devin esențiale. Atunci când ochiul nud este în mod evident inutil pentru detectarea deepfakes, aceste platforme pot servi ca arbitri definitivi ai realității – garduri de protecție împotriva abisului epistemologic. Când un videoclip pare real, dar pare în mod evident suspect – așa cum se va întâmpla din ce în ce mai des în lunile și anii următori – aceste platforme ne pot ține ancorați în fapte, confirmând veracitatea de bază a ceea ce privim. În cele din urmă, cu o tehnologie atât de puternică, singura care ne poate salva este inteligența artificială însăși. Trebuie să luptăm focul cu foc – ceea ce înseamnă a folosi o inteligență artificială bună pentru a eradica cele mai grave abuzuri ale tehnologiei.

Cu adevărat, dobândirea acestor abilități nu are neapărat să fie un proces cinic sau negativ. Dezvoltarea unei atitudini de încredere zero poate fi, dimpotrivă, considerată o oportunitate de a ne ascuți gândirea critică, intuiția și conștientizarea. Prin a ne întreba, din nou și din nou, anumite întrebări cheie – Îți pare logic? Îți pare suspect? – ne înălțăm capacitatea de a confrunta nu numai media falsă, ci și lumea în ansamblu. Dacă există o linie de argint în era deepfakes, aceasta este. Suntem forțați să ne gândim singuri și să devenim mai empirici în viețile noastre de zi cu zi – și acest lucru nu poate fi decât un lucru bun.