Best Of
De 5 beste tools en technieken voor deepfake-detectoren (mei 2024)
In het digitale tijdperk zijn deepfakes naar voren gekomen als een aanzienlijke bedreiging voor de authenticiteit van online-inhoud. Deze geavanceerde, door AI gegenereerde video's kunnen op overtuigende wijze echte mensen nabootsen, waardoor het steeds moeilijker wordt om feit van fictie te onderscheiden. Naarmate de technologie achter deepfakes echter vooruitgaat, geldt dat ook voor de tools en technieken die zijn ontworpen om deze te detecteren. In deze blog onderzoeken we de vijf beste deepfake-detectietools en -technieken die vandaag de dag beschikbaar zijn.
1. Schildwacht
(Afbeelding: Schildwacht)
Sentinel is een toonaangevend op AI gebaseerd beveiligingsplatform dat democratische regeringen, defensie-instanties en ondernemingen helpt de dreiging van deepfakes te stoppen. De technologie van Sentinel wordt gebruikt door toonaangevende organisaties in Europa. Het systeem werkt door gebruikers in staat te stellen digitale media te uploaden via hun website of API, die vervolgens automatisch wordt geanalyseerd op AI-vervalsing. Het systeem bepaalt of de media een deepfake is of niet en geeft een visualisatie van de manipulatie.
De deepfake-detectietechnologie van Sentinel is ontworpen om de integriteit van digitale media te beschermen. Het gebruikt geavanceerde AI-algoritmen om de geüploade media te analyseren en te bepalen of deze is gemanipuleerd. Het systeem geeft een gedetailleerd rapport van zijn bevindingen, inclusief een visualisatie van de gebieden van de media die zijn gewijzigd. Hierdoor kunnen gebruikers precies zien waar en hoe de media is gemanipuleerd.
Belangrijkste kenmerken van Sentinel:
- AI-gebaseerde deepfake-detectie
- Gebruikt door toonaangevende organisaties in Europa
- Hiermee kunnen gebruikers digitale media uploaden voor analyse
- Biedt een visualisatie van de manipulatie
2. Intel's real-time deepfake-detector
Intel heeft een real-time deepfake-detector geïntroduceerd die bekend staat als FakeCatcher. Deze technologie kan nepvideo's detecteren met een nauwkeurigheidspercentage van 96% en levert resultaten op in milliseconden. De detector, ontworpen in samenwerking met Umur Ciftci van de State University of New York in Binghamton, maakt gebruik van Intel-hardware en -software, draait op een server en communiceert via een webgebaseerd platform.
FakeCatcher zoekt naar authentieke aanwijzingen in echte video's en beoordeelt wat ons menselijk maakt: subtiele "bloedstroom" in de pixels van een video. Wanneer ons hart bloed rondpompt, veranderen onze aderen van kleur. Deze bloedstroomsignalen worden over het hele gezicht verzameld en algoritmen vertalen deze signalen in spatiotemporele kaarten. Vervolgens kan het met behulp van deep learning onmiddellijk detecteren of een video echt of nep is.
Belangrijkste kenmerken van Intel's real-time deepfake-detector:
- Ontwikkeld in samenwerking met de State University of New York in Binghamton
- Kan nepvideo's detecteren met een nauwkeurigheidspercentage van 96%
- Retourneert resultaten in milliseconden
- Gebruikt subtiele "bloedstroom" in de pixels van een video om deepfakes te detecteren
3. WijVerifiëren
(Afbeelding: WeVerify)
WeVerify is een project gericht op het ontwikkelen van intelligente human-in-the-loop contentverificatie en desinformatie-analysemethoden en -tools. Het project richt zich op het analyseren en contextualiseren van sociale media en webinhoud binnen het bredere online ecosysteem om verzonnen inhoud bloot te leggen. Dit wordt bereikt door cross-modale inhoudsverificatie, analyse van sociale netwerken, microgerichte debunking en een op blockchain gebaseerde openbare database met bekende vervalsingen.
Belangrijkste kenmerken van WeVerify:
- Ontwikkelt intelligente human-in-the-loop inhoudsverificatie en analysemethoden en -hulpmiddelen voor desinformatie
- Analyseert en contextualiseert social media en webcontent
- Legt gefabriceerde inhoud bloot door middel van cross-modale inhoudsverificatie, analyse van sociale netwerken en microgerichte ontmaskering
- Gebruikt een op blockchain gebaseerde openbare database met bekende vervalsingen
4. Video-authenticatietool van Microsoft**
(Afbeelding: Microsoft)
De Video Authenticator Tool van Microsoft is een krachtige tool die een stilstaande foto of video kan analyseren om een betrouwbaarheidsscore te geven die aangeeft of de media is gemanipuleerd. Het detecteert de menggrens van de deepfake en subtiele grijswaardenelementen die niet waarneembaar zijn voor het menselijk oog. Het biedt deze betrouwbaarheidsscore ook in realtime, waardoor deepfakes onmiddellijk kunnen worden gedetecteerd.
De Video Authenticator Tool gebruikt geavanceerde AI-algoritmen om de media te analyseren en tekenen van manipulatie te detecteren. Het zoekt naar subtiele veranderingen in de grijswaardenelementen van de media, die vaak een veelbetekenend teken zijn van een deepfake. De tool biedt een real-time betrouwbaarheidsscore, waardoor gebruikers snel kunnen bepalen of de media authentiek zijn of niet.
Belangrijkste kenmerken van Microsoft's Video Authenticator Tool:
- Analyseert stilstaande foto's of video's
- Biedt een real-time betrouwbaarheidsscore
- Detecteert subtiele veranderingen in grijstinten
- Maakt directe detectie van deepfakes mogelijk
5. Deepfake-detectie met behulp van foneem-viseme-mismatches
Deze innovatieve techniek, ontwikkeld door onderzoekers van Stanford University en de University of California, maakt gebruik van het feit dat visemen, die de dynamiek van de mondvorm aangeven, soms afwijken of niet overeenkomen met het gesproken foneem. Deze inconsistentie is een veel voorkomende fout bij deepfakes, omdat de AI vaak moeite heeft om de beweging van de mond perfect af te stemmen op de gesproken woorden.
De Phoneme-Viseme Mismatch-techniek maakt gebruik van geavanceerde AI-algoritmen om de video te analyseren en deze inconsistenties te detecteren. Het vergelijkt de beweging van de mond (visemes) met de gesproken woorden (fonemen) en zoekt naar eventuele mismatches. Als er een mismatch wordt gedetecteerd, is dit een sterke indicatie dat de video een deepfake is.
Belangrijkste kenmerken van deepfake-detectie met behulp van foneem-viseme-mismatches:
- Ontwikkeld door onderzoekers van Stanford University en de University of California
- Maakt gebruik van de inconsistenties tussen visemes en fonemen in deepfakes
- Gebruikt geavanceerde AI-algoritmen om mismatches te detecteren
- Geeft een sterke indicatie van deepfake als er een mismatch wordt gedetecteerd
De toekomst van deepfake-detectie
Terwijl we door het digitale landschap van de 21e eeuw navigeren, doemt het spook van deepfakes op. Deze door AI gegenereerde video's, die op overtuigende wijze echte mensen kunnen nabootsen, vormen een aanzienlijke bedreiging voor de authenticiteit van online-inhoud. Ze hebben het potentieel om alles te verstoren, van persoonlijke relaties tot politieke verkiezingen, waardoor de behoefte aan effectieve deepfake-detectietools en -technieken belangrijker is dan ooit.
De vijf deepfake-detectietools en -technieken die we in deze blog hebben onderzocht, vertegenwoordigen de allernieuwste op dit gebied. Ze gebruiken geavanceerde AI-algoritmen om deepfakes met indrukwekkende nauwkeurigheid te analyseren en te detecteren. Elke tool en techniek biedt een unieke benadering van deepfake-detectie, van het analyseren van de subtiele grijswaardenelementen van een video tot het volgen van de gezichtsuitdrukkingen en bewegingen van de onderwerpen.
Sentinel gebruikt bijvoorbeeld AI om digitale media te analyseren en te bepalen of deze zijn gemanipuleerd, waardoor de manipulatie wordt gevisualiseerd. De Video Authenticator Tool van Microsoft biedt daarentegen een real-time betrouwbaarheidsscore die aangeeft of een foto of video is gemanipuleerd. Deze tools, samen met de andere die we hebben besproken, leiden de strijd tegen deepfakes en helpen de authenticiteit van online-inhoud te waarborgen.
Naarmate de technologie achter deepfakes zich blijft ontwikkelen, moeten onze detectiemethoden dat ook doen. De ontwikkeling van deepfake-technologie is een snel bewegend doel en onze tools en technieken moeten evolueren om gelijke tred te houden. Dit vereist voortdurend onderzoek en ontwikkeling, evenals samenwerking tussen onderzoekers, technologiebedrijven en beleidsmakers.
Bovendien is het belangrijk om te onthouden dat technologie alleen het probleem van deepfakes niet kan oplossen. Educatie en bewustwording zijn ook cruciaal. We moeten allemaal meer kritische consumenten van online-inhoud worden, de bron van de informatie in twijfel trekken en op zoek gaan naar tekenen van manipulatie. Door op de hoogte te blijven van de laatste ontwikkelingen op het gebied van deepfake-technologie en -detectie kunnen we allemaal een rol spelen bij het bestrijden van deze dreiging.
