În 2024, Deepfakes devin mainstream. Iată cum pot proteja afacerile

De la alegerile din 2016, când preocupările legate de dezinformare au izbucnit în conștiința publică, experții au sunat alarma cu privire la deepfakes. Implicațiile acestei tehnologii au fost și rămân înfricoșătoare. Proliferarea necontrolată a mass-media sintetice hiper-reale reprezintă o amenințare pentru toată lumea – de la politicieni la oamenii de rând. Într-un mediu deja caracterizat de neîncredere generalizată, deepfakes promit să aprindă și mai mult flăcările.

Așa cum s-a dovedit, temerile noastre au fost premature. Expertiza tehnologică necesară pentru a crea cu adevărat deepfakes, combinată cu calitatea adesea slabă a acestora, a făcut ca, pentru cel puțin ultimele două cicluri electorale, acestea să rămână o preocupare minimă.

Dar toate acestea sunt pe cale să se schimbe – se schimbă deja. În ultimii doi ani, tehnologia inteligenței artificiale generative a intrat în mainstream, simplificând radical procesul de creare a deepfakes pentru consumatorul mediu. Aceleași inovații au crescut semnificativ calitatea deepfakes, astfel încât, într-un test orb, majoritatea oamenilor nu ar putea să distingă un videoclip fals de cel real.

Anul acesta, în special, am început să vedem indicii cu privire la modul în care această tehnologie ar putea afecta societatea, dacă nu se iau măsuri pentru a combate aceasta. Anul trecut, de exemplu, o fotografie generată de inteligență artificială a Papei Francisc, care purta un palton extrem de stylish, a devenit virală și a fost considerată de mulți ca fiind autentică. În timp ce acest lucru poate părea, la un nivel, ca o glumă inofensivă, el revelează potențialul periculos al acestor deepfakes și cât de greu poate fi să se combată dezinformarea odată ce a început să se răspândească. Putem să ne așteptăm la exemple mult mai periculoase și mai puțin amuzante ale acestui tip de falsificare virală în lunile și anii care urmează.

Din acest motiv, este imperativ ca organizațiile de toate tipurile – de la mass-media la finanțe, guverne și platforme de socializare – să adopte o poziție proactivă față de detectarea deepfakes și verificarea autenticității conținutului. O cultură a încrederii prin intermediul garanțiilor trebuie să fie stabilită acum, înainte ca o avalanșă de deepfakes să poată spăla înțelegerea noastră comună a realității.

Înțelegerea amenințării deepfakes

Înainte de a explora ce pot face organizațiile pentru a combate această creștere a deepfakes, este important să elaborăm asupra motivului pentru care uneltele de protecție sunt necesare. De obicei, cei care se tem de deepfakes menționează potențialul lor impact asupra politicii și încrederii sociale. Aceste consecințe potențiale sunt extrem de importante și nu ar trebui să fie neglijate în nicio discuție despre deepfakes. Însă, de fapt, apariția acestei tehnologii are efecte potențial dezastruoase în multiple sectoare ale economiei americane.

Să luăm, de exemplu, asigurările. În prezent, frauda anuală cu asigurări în Statele Unite se ridică la 308,6 miliarde de dolari – o sumă de aproximativ o pătrime din mărimea întregii industrii. În același timp, operațiunile de back-end ale majorității companiilor de asigurări sunt din ce în ce mai automate, cu 70% din reclamațiile standard estimate să fie fără atingere umană până în 2025. Acest lucru înseamnă că deciziile sunt luate din ce în ce mai mult cu intervenție umană minimă: auto-servire la capătul dinspre client și automatizare facilitată de inteligență artificială la capătul dinspre server.

În mod ironic, tehnologia care a permis această creștere a automatizării – și anume, învățarea automată și inteligența artificială – a garantat exploatarea sa de către actori răi. Acum este mai ușor ca oricând pentru oamenii obișnuiți să manipuleze reclamații – de exemplu, prin utilizarea programelor de inteligență artificială generativă, cum ar fi Dall-E, Midjourney sau Stable Diffusion, pentru a face un vehicul să pară mai avariat decât este în realitate. Deja există aplicații specifice pentru acest scop, cum ar fi Dude Your Car!, care permite utilizatorilor să creeze artificial găuri în fotografii cu vehiculele lor.

Același lucru se aplică și documentelor oficiale, care pot fi acum manipulate cu ușurință – facturi, evaluări de asigurare, semnături ajustate sau inventate în întregime. Această capacitate este o problemă nu numai pentru asigurători, ci și pentru întreaga economie. Este o problemă pentru instituțiile financiare, care trebuie să verifice autenticitatea unei game largi de documente. Este o problemă pentru retailerii care pot primi o plângere că un produs a sosit defect, însoțită de o imagine falsificată.

Afacerile nu pot funcționa cu acest nivel de incertitudine. Un anumit nivel de fraudă este probabil întotdeauna inevitabil, dar cu deepfakes, nu vorbim despre fraudă la margine – vorbim despre o potențială catastrofă epistemologică în care afacerile nu au niciun mijloc clar de a determina adevărul de la ficțiune și ajung să piardă miliarde de dolari din cauza acestei confuzii.

Lupta cu focul cu foc: cum poate ajuta inteligența artificială

Deci, ce poate fi făcut pentru a combate aceasta? Poate că nu este surprinzător, răspunsul se află în tehnologia care facilitează deepfakes. Dacă vrem să oprim această plagă înainte ca ea să capete și mai multă forță, trebuie să luptăm focul cu foc. Inteligența artificială poate ajuta la generarea de deepfakes, dar poate și să ajute la identificarea lor automată și la scară.

Utilizând instrumentele potrivite de inteligență artificială, afacerile pot determina automat dacă o fotografie, un videoclip sau un document a fost manipulat. Aducând zeci de modele disparate la sarcina de identificare a falsurilor, inteligența artificială poate spune afacerilor automat dacă o fotografie sau un videoclip este suspect. La fel ca instrumentele pe care afacerile le folosesc deja pentru a automatiza operațiunile zilnice, aceste instrumente pot funcționa în fundal fără a încărca personalul deja suprasolicitat sau a lua timp de la proiecte importante.

Dacă și când o fotografie este identificată ca fiind posibil modificată, personalul uman poate fi alertat și poate evalua problema direct, ajutat de informațiile furnizate de inteligența artificială. Utilizând analiza de scanare profundă, ea poate spune afacerilor de ce crede că o fotografie a fost probabil falsificată – indicând, de exemplu, metadate modificate manual, existența unor imagini identice pe internet, diverse neregularități fotografice etc.

Nimic din toate acestea nu înseamnă a denigra progresele incredibile pe care le-am văzut în tehnologia inteligenței artificiale generative în ultimii ani, care au aplicații utile și productive în diverse industrii. Dar potențialul și, nu în ultimul rând, simplitatea acestei tehnologii emergente garantează aproape abuzul său de către cei care doresc să manipuleze organizații, fie pentru câștig personal, fie pentru a semăna haos social.

Organizațiile pot avea parte de ce este mai bun din ambele lumi: beneficiile de productivitate ale inteligenței artificiale fără dezavantajele deepfakes omniprezente. Dar pentru a face acest lucru, este necesar un nou nivel de vigilență, mai ales având în vedere faptul că ieșirile inteligenței artificiale generative devin din ce în ce mai convingătoare, detaliate și realiste de la o zi la alta. Cu cât organizațiile își vor îndrepta atenția asupra acestei probleme, cu atât mai curând vor putea să se bucure de beneficiile depline ale unui lume automate.