5 najlepších nástrojov a techník na detekciu hlbokých falošných správ (máj 2024)

V digitálnom veku sa deepfakes ukázali ako významná hrozba pre autentickosť online obsahu. Tieto sofistikované videá generované umelou inteligenciou dokážu presvedčivo napodobňovať skutočných ľudí, vďaka čomu je čoraz ťažšie rozlíšiť skutočnosť od fikcie. Ako však pokročila technológia stojaca za deepfakes, pokročili aj nástroje a techniky určené na ich detekciu. V tomto blogu preskúmame päť najlepších nástrojov a techník na detekciu hlbokých falošných správ, ktoré sú dnes k dispozícii.

1. Stráž

(Obrázok: Sentinel)

Sentinel je popredná ochranná platforma založená na AI, ktorá pomáha demokratickým vládam, obranným agentúram a podnikom zastaviť hrozbu falšovania. Technológiu Sentinel využívajú popredné organizácie v Európe. Systém funguje tak, že používateľom umožňuje nahrávať digitálne médiá prostredníctvom ich webovej stránky alebo rozhrania API, ktoré sa potom automaticky analyzujú na falšovanie AI. Systém určí, či je médium hlboko falošné alebo nie, a poskytne vizualizáciu manipulácie.

Technológia detekcie deepfake od Sentinel je navrhnutá tak, aby chránila integritu digitálnych médií. Používa pokročilé algoritmy AI na analýzu nahratých médií a zisťuje, či s nimi bolo manipulované. Systém poskytuje podrobnú správu o svojich zisteniach vrátane vizualizácie oblastí médií, ktoré boli zmenené. To umožňuje používateľom presne vidieť, kde a ako bolo s médiami manipulované.

Kľúčové vlastnosti Sentinelu:

• Detekcia hlbokých falošných správ založená na AI
• Používajú ho popredné organizácie v Európe
• Umožňuje používateľom nahrať digitálne médiá na analýzu
• Poskytuje vizualizáciu manipulácie

2. Deepfake Deepfake od spoločnosti Intel v reálnom čase

Spoločnosť Intel predstavila detektor hlbokých falošných správ v reálnom čase známy ako FakeCatcher. Táto technológia dokáže odhaliť falošné videá s presnosťou 96 % a výsledky vráti v milisekundách. Detektor navrhnutý v spolupráci s Umurom Ciftcim zo Štátnej univerzity v New Yorku v Binghamtone využíva hardvér a softvér Intel, beží na serveri a je prepojený cez webovú platformu.

FakeCatcher hľadá autentické stopy v skutočných videách a posudzuje, čo z nás robí ľudí – jemné „prúdenie krvi“ v pixeloch videa. Keď naše srdce pumpuje krv, naše žily zmenia farbu. Tieto signály prietoku krvi sa zhromažďujú z celej tváre a algoritmy prekladajú tieto signály do časopriestorových máp. Potom pomocou hlbokého učenia dokáže okamžite zistiť, či je video skutočné alebo falošné.

Kľúčové vlastnosti detektora Deepfake v reálnom čase Intel:

• Vyvinuté v spolupráci so Štátnou univerzitou v New Yorku v Binghamtone
• Dokáže odhaliť falošné videá s presnosťou 96 %.
• Vráti výsledky v milisekundách
• Používa jemný „prúd krvi“ v pixeloch videa na detekciu deepfake

3. Overíme

(Obrázok: WeVerify)

WeVerify je projekt zameraný na vývoj metód a nástrojov inteligentného overovania obsahu a analýzy dezinformácií. Projekt sa zameriava na analýzu a kontextualizáciu obsahu sociálnych médií a webu v rámci širšieho online ekosystému s cieľom odhaliť vymyslený obsah. Dosahuje sa to prostredníctvom overovania obsahu medzi jednotlivými druhmi, analýzy sociálnych sietí, mikro-cieleného odhaľovania a verejnej databázy známych falzifikátov založenej na blockchaine.

Kľúčové vlastnosti WeVerify:

• Vyvíja inteligentné metódy a nástroje overovania obsahu a dezinformačnej analýzy
• Analyzuje a kontextualizuje obsah sociálnych médií a webu
• Odhaľuje vyrobený obsah prostredníctvom overovania obsahu medzi rôznymi spôsobmi, analýzy sociálnych sietí a odhaľovania mikro-cielených informácií
• Používa verejnú databázu známych falzifikátov založenú na blockchaine

4. Nástroj Video Authenticator od spoločnosti Microsoft**

(Obrázok: Microsoft)

Nástroj Video Authenticator od spoločnosti Microsoft je výkonný nástroj, ktorý dokáže analyzovať statickú fotografiu alebo video a poskytnúť skóre spoľahlivosti, ktoré naznačuje, či sa s médiami manipulovalo. Deteguje hranice prelínania hlbokých falošných a jemných prvkov v odtieňoch šedej, ktoré sú pre ľudské oko nezistiteľné. Poskytuje tiež toto skóre spoľahlivosti v reálnom čase, čo umožňuje okamžitú detekciu hlbokých falzifikátov.

Nástroj Video Authenticator Tool využíva pokročilé algoritmy AI na analýzu médií a zisťovanie známok manipulácie. Hľadá jemné zmeny v prvkoch v odtieňoch šedej médií, ktoré sú často výpovedným znakom hlbokého falošnosti. Nástroj poskytuje skóre spoľahlivosti v reálnom čase, čo používateľom umožňuje rýchlo určiť, či je médium autentické alebo nie.

Kľúčové vlastnosti nástroja Microsoft Video Authenticator Tool:

• Analyzuje statické fotografie alebo videá
• Poskytuje skóre spoľahlivosti v reálnom čase
• Detekuje jemné zmeny v odtieňoch šedej
• Umožňuje okamžitú detekciu deepfakes

5. Deepfake detekcia pomocou nezhôd medzi fonémou a viseme

Táto inovatívna technika vyvinutá výskumníkmi zo Stanfordskej univerzity a Kalifornskej univerzity využíva skutočnosť, že visemy, ktoré označujú dynamiku tvaru úst, sú niekedy odlišné alebo nekonzistentné s hovorenou fonémou. Táto nekonzistentnosť je bežnou chybou pri deepfakes, pretože AI sa často snaží dokonale zladiť pohyb úst s hovorenými slovami.

Technika Phoneme-Viseme Mismatch využíva pokročilé algoritmy AI na analýzu videa a detekciu týchto nezrovnalostí. Porovnáva pohyb úst (visémy) s hovorenými slovami (fonémy) a hľadá prípadné nezhody. Ak sa zistí nesúlad, je to jasný náznak, že video je falošné.

Kľúčové vlastnosti detekcie Deepfake pomocou nezhôd medzi fonémou a viseme:

• Vyvinutý výskumníkmi zo Stanfordskej univerzity a Kalifornskej univerzity
• Využíva nezrovnalosti medzi visemy a fonémami v deepfakes
• Používa pokročilé algoritmy AI na zistenie nesúladu
• Poskytuje silnú indikáciu hlbokého falšovania, ak sa zistí nesúlad

Budúcnosť detekcie Deepfake

Keď sa pohybujeme v digitálnej krajine 21. storočia, hrozba hlbokých falošných falzifikátov sa objavuje vo veľkom. Tieto videá generované AI, ktoré dokážu presvedčivo napodobňovať skutočných ľudí, predstavujú významnú hrozbu pre autentickosť online obsahu. Majú potenciál narušiť všetko od osobných vzťahov až po politické voľby, takže potreba účinných nástrojov a techník na detekciu hlbokých falošných správ je kritickejšia ako kedykoľvek predtým.

Päť nástrojov a techník na detekciu deepfake, ktoré sme preskúmali v tomto blogu, predstavuje špičku v tejto oblasti. Využívajú pokročilé algoritmy AI na analýzu a detekciu deepfakes s pôsobivou presnosťou. Každý nástroj a technika ponúka jedinečný prístup k detekcii hlbokých falzifikátov, od analýzy jemných prvkov v odtieňoch šedej vo videu až po sledovanie výrazov tváre a pohybov subjektov.

Sentinel napríklad používa AI na analýzu digitálnych médií a zisťuje, či sa s nimi manipulovalo, čím poskytuje vizualizáciu manipulácie. Na druhej strane nástroj Video Authenticator od spoločnosti Microsoft poskytuje skóre spoľahlivosti v reálnom čase, ktoré naznačuje, či bola manipulovaná fotografia alebo video. Tieto nástroje, spolu s ostatnými, o ktorých sme diskutovali, vedú v boji proti deepfake a pomáhajú zabezpečiť autentickosť online obsahu.

Ako však technológia za deepfakes napreduje, musia sa zdokonaľovať aj naše metódy detekcie. Vývoj technológie deepfake je rýchlo sa meniacim cieľom a naše nástroje a techniky sa musia vyvíjať, aby udržali krok. To si bude vyžadovať neustály výskum a vývoj, ako aj spoluprácu medzi výskumníkmi, technologickými spoločnosťami a tvorcami politík.

Okrem toho je dôležité si uvedomiť, že samotná technológia nedokáže vyriešiť problém deepfakes. Vzdelávanie a informovanosť sú tiež kľúčové. Všetci sa musíme stať vnímavejšími konzumentmi online obsahu, spochybňovať zdroj informácií a hľadať známky manipulácie. Ak zostaneme informovaní o najnovšom vývoji v technológii a detekcii hlbokých falošných správ, všetci môžeme hrať úlohu v boji proti tejto hrozbe.