5 millors eines i tècniques de detector de Deepfake (maig de 2024)

A l'era digital, els deepfakes han sorgit com una amenaça important per a l'autenticitat del contingut en línia. Aquests sofisticats vídeos generats per IA poden imitar de manera convincent a persones reals, fent que cada cop sigui més difícil distingir la realitat de la ficció. Tanmateix, a mesura que la tecnologia darrere dels deepfakes ha avançat, també ho han fet les eines i tècniques dissenyades per detectar-los. En aquest bloc, explorarem les cinc principals eines i tècniques de detecció de falsificacions profundes disponibles actualment.

1. Sentinella

(Imatge: Sentinel)

Sentinel és una plataforma de protecció líder basada en IA que ajuda els governs democràtics, les agències de defensa i les empreses a frenar l'amenaça de falsificacions profundes. La tecnologia de Sentinel és utilitzada per organitzacions líders a Europa. El sistema funciona permetent als usuaris carregar mitjans digitals a través del seu lloc web o API, que després s'analitza automàticament per a la falsificació d'IA. El sistema determina si el mitjà és un deepfake o no i proporciona una visualització de la manipulació.

La tecnologia de detecció de falsificacions profundes de Sentinel està dissenyada per protegir la integritat dels mitjans digitals. Utilitza algorismes d'IA avançats per analitzar els mitjans penjats i determinar si s'han manipulat. El sistema ofereix un informe detallat de les seves troballes, inclosa una visualització de les àrees dels mitjans que s'han alterat. Això permet als usuaris veure exactament on i com s'han manipulat els mitjans.

Característiques principals de Sentinel:

• Detecció de deepfake basada en IA
• Utilitzat per organitzacions líders a Europa
• Permet als usuaris carregar suports digitals per analitzar-los
• Proporciona una visualització de la manipulació

2. Detector Deepfake en temps real d'Intel

Intel ha introduït un detector de deepfake en temps real conegut com FakeCatcher. Aquesta tecnologia pot detectar vídeos falsos amb una taxa de precisió del 96%, donant resultats en mil·lisegons. El detector, dissenyat en col·laboració amb Umur Ciftci de la Universitat Estatal de Nova York a Binghamton, utilitza maquinari i programari Intel, que s'executa en un servidor i s'interfía a través d'una plataforma basada en web.

FakeCatcher busca pistes autèntiques en vídeos reals, avaluant què ens fa humans: un "flux de sang" subtil als píxels d'un vídeo. Quan el nostre cor bombeja sang, les nostres venes canvien de color. Aquests senyals de flux sanguini es recullen de tota la cara i els algorismes tradueixen aquests senyals en mapes espaciotemporals. Aleshores, mitjançant l'aprenentatge profund, pot detectar a l'instant si un vídeo és real o fals.

Característiques clau del detector Deepfake en temps real d'Intel:

• Desenvolupat en col·laboració amb la Universitat Estatal de Nova York a Binghamton
• Pot detectar vídeos falsos amb una taxa de precisió del 96%.
• Retorna resultats en mil·lisegons
• Utilitza un "flux de sang" subtil als píxels d'un vídeo per detectar falsificacions profundes

3. WeVerify

(Imatge: WeVerify)

WeVerify és un projecte dirigit a desenvolupar mètodes i eines intel·ligents de verificació de contingut i d'anàlisi de la desinformació humans-in-the-loop. El projecte se centra a analitzar i contextualitzar les xarxes socials i el contingut web dins de l'ecosistema en línia més ampli per exposar contingut fabricat. Això s'aconsegueix mitjançant la verificació de contingut multimodal, l'anàlisi de xarxes socials, la desmentida micro-orientada i una base de dades pública basada en blockchain de falsificacions conegudes.

Característiques principals de WeVerify:

• Desenvolupa mètodes i eines intel·ligents de verificació de contingut i d'anàlisi de la desinformació humana
• Analitza i contextualitza les xarxes socials i el contingut web
• Exposa contingut fabricat mitjançant la verificació de contingut multimodal, l'anàlisi de xarxes socials i la desmentida micro-orientada
• Utilitza una base de dades pública basada en blockchain de falsificacions conegudes

4. Eina d'autenticació de vídeo de Microsoft**

(Imatge: Microsoft)

L'eina d'autenticació de vídeo de Microsoft és una eina potent que pot analitzar una foto o un vídeo fixa per proporcionar una puntuació de confiança que indiqui si el suport s'ha manipulat. Detecta el límit de barreja dels elements deepfake i subtils en escala de grisos que són indetectables per a l'ull humà. També proporciona aquesta puntuació de confiança en temps real, permetent la detecció immediata de falsificacions profundes.

L'eina Video Authenticator utilitza algorismes avançats d'IA per analitzar els mitjans i detectar signes de manipulació. Busca canvis subtils en els elements en escala de grisos dels mitjans, que sovint són un signe revelador d'una falsificació profunda. L'eina proporciona una puntuació de confiança en temps real, que permet als usuaris determinar ràpidament si el suport és autèntic o no.

Característiques clau de l'eina d'autenticació de vídeo de Microsoft:

• Analitza fotos o vídeos fixes
• Proporciona una puntuació de confiança en temps real
• Detecta canvis subtils en escala de grisos
• Permet la detecció immediata de deepfakes

5. Detecció de falsificacions profundes mitjançant desajustos fonema-visme

Aquesta tècnica innovadora, desenvolupada per investigadors de la Universitat de Stanford i la Universitat de Califòrnia, aprofita el fet que els visèmes, que denoten la dinàmica de la forma de la boca, de vegades són diferents o inconsistents amb el fonema parlat. Aquesta inconsistència és un defecte comú en les falsificacions profundes, ja que la IA sovint lluita per fer coincidir perfectament el moviment de la boca amb les paraules pronunciades.

La tècnica Phoneme-Viseme Mismatch utilitza algorismes avançats d'IA per analitzar el vídeo i detectar aquestes inconsistències. Compara el moviment de la boca (visemes) amb les paraules parlades (fonemes) i busca qualsevol desajust. Si es detecta una manca de coincidència, és un fort indici que el vídeo és un deepfake.

Característiques clau de la detecció de Deepfake mitjançant desajustos fonema-visme:

• Desenvolupat per investigadors de la Universitat de Stanford i la Universitat de Califòrnia
• Explota les inconsistències entre visemes i fonemes en deepfakes
• Utilitza algorismes d'IA avançats per detectar desajustos
• Proporciona una forta indicació de deepfake si es detecta un desajust

El futur de la detecció de Deepfake

Mentre naveguem pel panorama digital del segle XXI, l'espectre de les falsificacions profundes s'amplia. Aquests vídeos generats per IA, que poden imitar de manera convincent a persones reals, representen una amenaça important per a l'autenticitat del contingut en línia. Tenen el potencial d'interrompre tot, des de les relacions personals fins a les eleccions polítiques, fent que la necessitat d'eines i tècniques efectives de detecció de falsificacions sigui més crítica que mai.

Les cinc eines i tècniques de detecció de deepfake que hem explorat en aquest bloc representen l'avantguarda d'aquest camp. Utilitzen algorismes avançats d'IA per analitzar i detectar deepfakes amb una precisió impressionant. Cada eina i tècnica ofereix un enfocament únic per a la detecció de falsificacions profundes, des de l'anàlisi dels elements subtils en escala de grisos d'un vídeo fins al seguiment de les expressions facials i els moviments dels subjectes.

Sentinel, per exemple, utilitza IA per analitzar mitjans digitals i determinar si s'han manipulat, proporcionant una visualització de la manipulació. L'eina d'autenticació de vídeo de Microsoft, d'altra banda, proporciona una puntuació de confiança en temps real que indica si s'ha manipulat una foto o un vídeo. Aquestes eines, juntament amb les altres que hem comentat, lideren la lluita contra els deepfakes, ajudant a garantir l'autenticitat del contingut en línia.

Tanmateix, a mesura que la tecnologia darrere dels deepfakes continua avançant, també ho han de fer els nostres mètodes de detecció. El desenvolupament de la tecnologia deepfake és un objectiu que es mou ràpidament, i les nostres eines i tècniques han d'evolucionar per seguir el ritme. Això requerirà una investigació i desenvolupament continus, així com la col·laboració entre investigadors, empreses tecnològiques i responsables polítics.

A més, és important recordar que la tecnologia per si sola no pot resoldre el problema dels deepfakes. L'educació i la conscienciació també són fonamentals. Tots hem d'esdevenir consumidors més exigents de contingut en línia, qüestionant la font de la informació i buscant indicis de manipulació. En mantenir-nos informats sobre els últims desenvolupaments en tecnologia i detecció de deepfake, tots podem participar en la lluita contra aquesta amenaça.