Deepfakes en AI: Inzichten uit Pindrop’s 2024 Voice Intelligence and Security Report

De snelle vooruitgang van kunstmatige intelligentie (AI) heeft aanzienlijke voordelen en transformatieve veranderingen gebracht in verschillende industrieën. Echter, het heeft ook nieuwe risico’s en uitdagingen geïntroduceerd, met name als het gaat om fraude en beveiliging. Deepfakes, een product van generatieve AI, worden steeds geavanceerder en vormen een aanzienlijke bedreiging voor de integriteit van sprachgebaseerde beveiligingssystemen.

De bevindingen uit Pindrop’s 2024 Voice Intelligence and Security Report benadrukken de impact van deepfakes op verschillende sectoren, de technologische vooruitgang die deze bedreigingen aandrijft, en de innovatieve oplossingen die worden ontwikkeld om hen te bestrijden.

De opkomst van deepfakes: een tweesnijdend zwaard

Deepfakes gebruiken geavanceerde machine learning-algoritmen om hoogwaardige synthetische audio- en videoinhoud te creëren. Terwijl deze technologieën spannende toepassingen hebben in entertainment en media, presenteren ze ook ernstige beveiligingsuitdagingen. Volgens Pindrop’s rapport zijn Amerikaanse consumenten het meest bezorgd over het risico van deepfakes en stemklonen in de bank- en financiële sector, met 67,5% die aanzienlijke zorgen uitspreken.

Impact op financiële instellingen

Financiële instellingen zijn bijzonder kwetsbaar voor deepfake-aanvallen. Fraudeurs gebruiken AI-gegenereerde stemmen om individuen te imiteren, ongeautoriseerde toegang tot accounts te krijgen en financiële transacties te manipuleren. Het rapport onthult dat er in 2023 een recordaantal datadreigingen was, met in totaal 3.205 incidenten – een toename van 78% ten opzichte van het voorgaande jaar. De gemiddelde kosten van een datadreiging in de Verenigde Staten bedragen nu 9,5 miljoen dollar, waarbij contactcentra het merendeel van de beveiligingsgevolgen dragen.

Een opvallende zaak betrof het gebruik van een deepfake-stem om een Hongkongse onderneming te misleiden om 25 miljoen dollar over te maken, wat de verwoestende potentie van deze technologieën aantoont wanneer ze kwaadwillig worden gebruikt.

Brede bedreigingen voor media en politiek

Verder dan financiële diensten vormen deepfakes ook aanzienlijke risico’s voor media- en politieke instellingen. De mogelijkheid om overtuigende nep-audio- en videoinhoud te creëren kan worden gebruikt om desinformatie te verspreiden, publieke opinie te manipuleren en vertrouwen in democratische processen te ondermijnen. Het rapport meldt dat 54,9% van de consumenten bezorgd zijn over de bedreiging van deepfakes voor politieke instellingen, terwijl 54,5% zich zorgen maken over hun impact op media.

In 2023 was deepfake-technologie betrokken bij verschillende hoogprofielincidenten, waaronder een robocall-aanval die een synthetische stem van president Biden gebruikte. Dergelijke incidenten onderstrepen de urgentie van het ontwikkelen van robuuste detectie- en preventiemechanismen.

Technologische vooruitgang die deepfakes aandrijft

De verspreiding van generatieve AI-hulpmiddelen, zoals OpenAI’s ChatGPT, Google’s Bard en Microsoft’s Bing AI, heeft de drempel voor het creëren van deepfakes aanzienlijk verlaagd. Vandaag de dag worden meer dan 350 generatieve AI-systemen gebruikt voor verschillende toepassingen, waaronder Eleven Labs, Descript, Podcastle, PlayHT en Speechify. Microsoft’s VALL-E-model kan bijvoorbeeld een stem klonen vanuit een audiofragment van slechts drie seconden.

Deze technologische vooruitgang heeft deepfakes goedkoper en gemakkelijker te produceren gemaakt, waardoor ze toegankelijker zijn voor zowel goedaardige gebruikers als kwaadwillige actoren. Volgens Gartner zullen 80% van de conversational AI-aanbod in 2025 generatieve AI incorporeren, tegenover 20% in 2023.

Deepfakes bestrijden: Pindrop’s innovaties

Om de groeiende bedreiging van deepfakes aan te pakken, heeft Pindrop verschillende baanbrekende oplossingen geïntroduceerd. Een van de meest opvallende is de Pulse Deepfake Warranty, een garantie die in aanmerking komende klanten terugbetaalt als Pindrop’s Product Suite niet in staat is om een deepfake of andere synthetische stemfraude te detecteren. Deze initiatief heeft tot doel klanten gerust te stellen en de mogelijkheden van fraudedetectie te stimuleren.

Technologische oplossingen om beveiliging te verbeteren

Pindrop’s rapport benadrukt de effectiviteit van hun liveness-detectietechnologie, die live telefoongesprekken analyseert op spectro-temporele kenmerken die aangeven of de stem in het gesprek “live” of synthetisch is. In interne tests was Pindrop’s liveness-detectieoplossing 12% nauwkeuriger dan spraakherkenningssystemen en 64% nauwkeuriger dan mensen bij het identificeren van synthetische stemmen.

Bovendien gebruikt Pindrop geïntegreerde multi-factor fraudepreventie en authenticatie, waarmee spraak, apparaat, gedrag, carrier-metadata en liveness-signalen worden gebruikt om de beveiliging te verbeteren. Deze multi-laagse aanpak verhoogt aanzienlijk de lat voor fraudeurs, waardoor het voor hen steeds moeilijker wordt om te slagen.

Toekomstige trends en paraatheid

Kijkend naar de toekomst, voorspelt het rapport dat deepfake-fraude zal blijven stijgen, met een risico van 5 miljard dollar voor contactcentra in de VS alleen. De toenemende geavanceerdheid van tekst-naar-spraaksystemen, in combinatie met goedkope synthetische spraaktechnologie, vormt een voortdurende uitdaging.

Om deze bedreigingen voor te blijven, beveelt Pindrop vroegtijdige risicodetectietechnieken aan, zoals caller ID-spoofdetectie en continue fraudedetectie, om frauduleuze activiteiten in real-time te monitoren en te mitigeren. Door deze geavanceerde beveiligingsmaatregelen te implementeren, kunnen organisaties zich beter beschermen tegen de evoluerende landschap van AI-gedreven fraude.

Conclusie

De opkomst van deepfakes en generatieve AI vertegenwoordigt een aanzienlijke uitdaging op het gebied van fraude en beveiliging. Pindrop’s 2024 Voice Intelligence and Security Report benadrukt de dringende behoefte aan innovatieve oplossingen om deze bedreigingen te bestrijden. Met vooruitgang in liveness-detectie, multi-factor authenticatie en uitgebreide fraudepreventiestrategieën staat Pindrop aan de voorzijde van de inspanningen om de toekomst van spraakgebaseerde interacties te beveiligen. Naarmate het technologielandschap blijft evolueren, moeten onze benaderingen van beveiliging en vertrouwen in de digitale wereld eveneens evolueren.