Expertul spune că “DeepFakes perfect realiste” vor fi aici în 6 luni

Impresionantul, dar controversatul DeepFakes, imagini și videouri manipulate sau generate de rețele neuronale profunde, sunt susceptibile să devină și mai impresionanți și mai controversați în viitorul apropiat, conform lui Hao Li, directorul Laboratorului de Viziune și Grafică de la Universitatea din California de Sud. Li este un expert în viziune computerizată și DeepFakes, și într-un interviu recent cu CNBC el a spus că “DeepFakes perfect realiste” sunt susceptibile să apară în următoarele șase luni.

Li a explicat că majoritatea DeepFakes sunt încă recunoscute ca fiind false de către ochiul real, și chiar și DeepFakes mai convingătoare necesită eforturi substanțiale din partea creatorului pentru a le face să pară realiste. Cu toate acestea, Li este convins că, în următoarele șase luni, DeepFakes care par perfect realiști sunt susceptibili să apară, pe măsură ce algoritmii devin mai sofisticați.

Li a crezut inițial că va dura între doi și trei ani pentru ca DeepFakes extrem de convingătoare să devină mai comune, făcând această predicție la o conferință recentă organizată la Institutul de Tehnologie din Massachusetts. Cu toate acestea, Li și-a revizuit cronologia după revelația recentă a aplicației chineze Zao și a altor dezvoltări recente referitoare la tehnologia DeepFakes. Li a explicat pentru CNBC că metodele necesare pentru a crea DeepFakes realiste sunt mai mult sau mai puțin metodele actuale utilizate și că principalul ingredient care va crea DeepFakes realiste este mai multă date de antrenament.

Li și colegii săi au lucrat intens la tehnologia de detectare a DeepFakes, anticipând sosirea DeepFakes extrem de convingătoare. Li și colegii săi, precum Hany Farid de la Universitatea din California, Berkeley, au experimentat cu algoritmi de DeepFakes de ultimă generație pentru a înțelege cum funcționează tehnologia care îi creează.

Li a explicat pentru CNBC:

„Dacă doriți să puteți detecta DeepFakes, trebuie să vedeți și limitele lor. Dacă aveți nevoie să construiți cadre de inteligență artificială capabile să detecteze lucruri extrem de realiste, acestea trebuie să fie antrenate folosind aceste tipuri de tehnologii, astfel încât, în unele moduri, este imposibil să le detectați dacă nu știți cum funcționează.”

Li și colegii săi sunt implicați în crearea unor instrumente pentru a detecta DeepFakes, recunoscând problemele și pericolele potențiale pe care le prezintă tehnologia. Li și colegii săi nu sunt singurul grup de cercetători în inteligență artificială care se preocupă de efectele posibile ale DeepFakes și care sunt interesați de crearea unor contramăsuri împotriva lor.

Recent, Facebook (META ) a început un parteneriat comun cu MIT, Microsoft (MSFT ) și Universitatea din Oxford pentru a crea DeepFake Detection Challenge, care are ca scop crearea unor instrumente care pot fi utilizate pentru a detecta atunci când imagini sau videouri au fost modificate. Aceste instrumente vor fi deschise și vor putea fi utilizate de companii, organizații media și guverne. Între timp, cercetătorii de la Institutul de Științe Informaționale al Universității din California de Sud au creat recent o serie de algoritmi care pot distinge videouri false cu o acuratețe de aproximativ 96%.

Cu toate acestea, Li a explicat și că problema cu DeepFakes este modul în care pot fi utilizate în mod abuziv, și nu tehnologia în sine. Li a menționat câteva utilizări legitime posibile ale tehnologiei DeepFakes, inclusiv în industriile de divertisment și modă.

Tehnicile DeepFakes au fost utilizate și pentru a reproduce expresiile faciale ale persoanelor cu fețele obscure în imagini. Cercetătorii au utilizat Rețele Generative Adversariale pentru a crea o față complet nouă care avea aceeași expresie ca subiectul din imaginea originală. Tehnicile dezvoltate de Universitatea de Știință și Tehnologie din Norvegia ar putea ajuta la citirea expresiilor faciale în timpul interviurilor cu persoane sensibile care au nevoie de confidențialitate, cum ar fi denunțătorii. Cineva altcineva ar putea să-și lase fața să fie utilizată ca înlocuitor pentru persoana care are nevoie de anonimitate, dar expresiile faciale ale persoanei respective ar putea fi încă citite.

Pe măsură ce sofisticarea tehnologiei DeepFakes crește, cazurile de utilizare legitime ale DeepFakes vor crește și ele. Cu toate acestea, pericolul va crește și el, și din acest motiv, munca de detectare a DeepFakes realizată de Li și alții devine și mai importantă.