Unelte de browser bazate pe IA care au ca scop recunoașterea Deepfakes și a altor medii false

Eforturile companiilor tehnologice de a combate dezinformarea și conținutul fals au intrat într-o fază avansată în ultima perioadă, odată cu apariția tehnologiilor de generare a conținutului fals, cum ar fi DeepFakes, care devin mai ușor de utilizat și mai rafinate. Una dintre încercările viitoare de a ajuta oamenii să detecteze și să lupte împotriva deepfakes este RealityDefender, produs de Fundatia AI, care s-a angajat să dezvolte agenți și asistenți AI etici pe care utilizatorii îi pot antrena pentru a efectua diverse sarcini.

Cel mai notabil proiect al Fundației AI este o platformă care permite oamenilor să creeze propriile persoane digitale care arată ca ei și îi reprezintă în spațiile virtuale de socializare. Fundația AI este supravegheată de Consiliul Global AI și, ca parte a mandatului său, trebuie să anticipeze impacturile negative posibile ale platformelor AI, apoi să încerce să preîntâmpine aceste probleme. Conform raportului VentureBeat, Unul dintre instrumentele pe care Fundația AI le-a creat pentru a ajuta la detectarea deepfakes este numit Reality Defender. Reality Defender este un instrument pe care o persoană îl poate utiliza în browserul său web (verificați), care va analiza videoclipuri, imagini și alte tipuri de medii pentru a detecta semne că media a fost falsificată sau modificată într-un anumit mod. Se speră că instrumentul va ajuta la combaterea fluxului tot mai mare de deepfakes de pe internet, care, potrivit unor estimări, a crescut cu aproximativ două ori în ultimele șase luni.

Reality Defender funcționează utilizând o varietate de algoritmi bazati pe IA care pot detecta indicii care sugerează că o imagine sau un videoclip ar putea fi falsificate. Modelele IA detectează semne subtile de înșelăciune și manipulare, iar rezultatele false pozitive detectate de model sunt marcate ca incorecte de către utilizatorii instrumentului. Datele sunt apoi utilizate pentru a reantrena modelul. Companiile de IA care creează deepfakes neînșelătoare au conținutul lor marcat cu o etichetă “IA onestă” sau o apă de fundal care permite oamenilor să identifice ușor falsurile generate de IA.

Reality Defender este doar unul dintre setul de instrumente și o platformă integrală de responsabilitate AI pe care Fundația AI încearcă să o creeze. Fundația AI urmărește crearea Guardian AI, o platformă de responsabilitate construită pe principiul că indivizii ar trebui să aibă acces la agenți AI personali care lucrează pentru ei și care pot ajuta la protejarea împotriva exploatării de către actori răi. În esență, Fundația AI își propune atât să extindă domeniul de aplicare al IA în societate, aducând-o la mai multe persoane, cât și să protejeze împotriva riscurilor IA.

Reality Defender nu este singurul produs nou bazat pe IA care are ca scop reducerea dezinformării în Statele Unite. Un produs similar este numit SurfSafe, creat de doi studenți de la UC Berkeley, Rohan Phadte și Ash Bhat. Conform The Verge, SurfSafe funcționează prin permiterea utilizatorilor săi să facă clic pe un fragment de media pe care sunt curioși și programul va efectua o căutare inversă a imaginii și va încerca să găsească conținut similar de la surse de încredere de pe internet, marcând imaginile cunoscute a fi falsificate.

Este neclar cât de eficiente vor fi aceste soluții pe termen lung. Profesorul de la Dartmouth College și expertul în forensică Hany Farid a fost citat de The Verge spunând că este “extrem de sceptic” cu privire la faptul că sistemele precum Reality Defender vor funcționa într-un mod semnificativ. Farid a explicat că una dintre principalele provocări în detectarea conținutului fals este că media nu este pur și simplu falsă sau reală. Farid a explicat:

“Există o continuitate; o gamă incredibil de complexă de probleme de abordat. Unele modificări sunt lipsite de sens, iar altele modifică fundamental natura unei imagini. A pretinde că putem antrena o IA să detecteze diferența este incredibil de naiv. Și a pretinde că putem externaliza această sarcină este și mai mult.”

În plus, este dificil să se includă elemente de crowdsourcing, cum ar fi marcare falsă a pozitivelor, deoarece oamenii sunt, de obicei, destul de slabi la identificarea imaginilor false. Oamenii fac adesea greșeli și ratează detalii subtile care marchează o imagine ca fiind falsă. De asemenea, este neclar cum să se facă față actorilor cu rea credință care fac trolling atunci când marchează conținutul.

Se pare că, pentru a fi maxim de eficient, instrumentele de detectare a falsurilor vor trebui să fie combinate cu eforturi de alfabetizare digitală care să învețe oamenii cum să raționeze despre conținutul cu care interacționează online.