Djupfalska och AI: Insikter från Pindrops rapport om röstintelligens och säkerhet 2024

Den snabba utvecklingen av artificiell intelligens (AI) har medfört betydande fördelar och transformerande förändringar inom olika branscher. Det har dock också introducerat nya risker och utmaningar, särskilt när det gäller bedrägeri och säkerhet. Djupfalska, en produkt av generativ AI, blir alltmer sofistikerade och utgör en betydande hot mot integriteten hos röstbaserade säkerhetssystem.

Resultaten från Pindrops rapport om röstintelligens och säkerhet 2024 belyser djupfalskans påverkan på olika sektorer, de tekniska framstegen som driver dessa hot och de innovativa lösningarna som utvecklas för att bekämpa dem.

Djupfalskans uppgång: En dubbeleggad svärd

Djupfalska använder avancerade maskinlärningsalgoritmer för att skapa högst realistisk syntetisk audio- och videoinnehåll. Medan dessa teknologier har spännande tillämpningar inom underhållning och media, presenterar de också allvarliga säkerhetsutmaningar. Enligt Pindrops rapport är konsumenterna i USA mest oroliga för risken med djupfalska och röstkloner inom bank- och finanssektorn, med 67,5% som uttrycker betydande oro.

Påverkan på finansiella institutioner

Finansiella institutioner är särskilt sårbara för djupfalskaattacker. Bedragare använder AI-genererade röster för att imitera individer, få obehörig åtkomst till konton och manipulera finansiella transaktioner. Rapporten avslöjar att det var ett rekordantal datakränkningar 2023, totalt 3 205 incidenter – en ökning med 78% från föregående år. Den genomsnittliga kostnaden för en dataintrång i USA uppgår nu till 9,5 miljoner dollar, med kundtjänstcenter som bär den tyngsta säkerhetsbördan.

Ett anmärkningsvärt fall involverade användningen av en djupfalsk röst för att lura en Hongkong-baserad firma att överföra 25 miljoner dollar, vilket belyser den förödande potentialen hos dessa teknologier när de används ondskefullt.

Större hot mot media och politik

Utöver finansiella tjänster utgör djupfalska också betydande risker för media och politiska institutioner. Förmågan att skapa övertygande falskt audio- och videoinnehåll kan användas för att sprida desinformation, manipulera allmänhetens åsikt och undergräva förtroendet för demokratiska processer. Rapporten noterar att 54,9% av konsumenterna är oroliga för hotet från djupfalska mot politiska institutioner, medan 54,5% oroar sig för deras påverkan på media.

2023 var djupfalskteknologi inblandad i flera högprofilerade incidenter, inklusive en robokallattack som använde en syntetisk röst av president Biden. Sådana incidenter understryker brådskan att utveckla robusta upptäckts- och förebyggande mekanismer.

Tekniska framsteg som driver djupfalska

Tillgängligheten av generativa AI-verktyg, som OpenAI:s ChatGPT, Google’s Bard och Microsofts Bing AI, har avsevärt sänkt trösklarna för att skapa djupfalska. Idag används över 350 generativa AI-system för olika tillämpningar, inklusive Eleven Labs, Descript, Podcastle, PlayHT och Speechify. Microsofts VALL-E-modell kan till exempel klona en röst från bara en tresekunders ljudklipp.

Dessa tekniska framsteg har gjort djupfalska billigare och enklare att producera, vilket har ökat deras tillgänglighet för både benigna användare och illvilliga aktörer. Till 2025 förutspår Gartner att 80% av konversations-AI-erbjudanden kommer att omfatta generativ AI, upp från 20% 2023.

Bekämpning av djupfalska: Pindrops innovationer

För att hantera det växande hotet från djupfalska har Pindrop introducerat flera banbrytande lösningar. En av de mest anmärkningsvärda är Pulse Deepfake Warranty, en första-i-sin-klass garanti som ersätter berättigade kunder om Pindrops produktsvit misslyckas med att upptäcka en djupfalsk eller annan syntetisk röstbedrägeri. Detta initiativ syftar till att ge kunderna trygghet medan man också driver på utvecklingen av bedrägeridetektionsförmåga.

Tekniska lösningar för att förbättra säkerheten

Pindrops rapport betonar effektiviteten hos deras liveness-detektionsteknologi, som analyserar levande telefonsamtal för spektro-temporala funktioner som indikerar om rösten på samtalet är “levande” eller syntetisk. I interna tester visade sig Pindrops liveness-detektionslösning vara 12% mer exakt än röstigenkänningsystem och 64% mer exakt än människor när det gäller att identifiera syntetiska röster.

Dessutom använder Pindrop integrerad multifaktorbedrägeriförebyggande och autentisering, som utnyttjar röst, enhet, beteende, operatörsmetadata och liveness-signaler för att förbättra säkerheten. Detta multilager-tillvägagångssätt höjer betydligt ribban för bedragare, vilket gör det allt svårare för dem att lyckas.

Framtida trender och beredskap

I framtiden förutspår rapporten att djupfalskbedrägeri kommer att fortsätta öka, vilket utgör en risk på 5 miljarder dollar för kundtjänstcenter i USA ensamt. Den ökande sofistikeringen av text-till-tal-system, i kombination med lågkostnadssyntetiskt tal, presenterar fortlöpande utmaningar.

För att ligga före dessa hot rekommenderar Pindrop tidiga riskdetekteringsmetoder, såsom avslöjande av spoofade samtals-ID och kontinuerlig bedrägeridetektering, för att övervaka och mildra bedrägeriaktiviteter i realtid. Genom att implementera dessa avancerade säkerhetsåtgärder kan organisationer bättre skydda sig mot den utvecklande landskapsbilden av AI-drivet bedrägeri.

Slutsats

Uppkomsten av djupfalska och generativ AI representerar en betydande utmaning inom området för bedrägeri och säkerhet. Pindrops rapport om röstintelligens och säkerhet 2024 understryker det brådskande behovet av innovativa lösningar för att bekämpa dessa hot. Med framsteg inom liveness-detektion, multifaktorautentisering och omfattande bedrägeriförebyggande strategier är Pindrop i framkanten av ansträngningarna att trygga framtiden för röstbaserade interaktioner. Medan den tekniska landskapsbilden fortsätter att utvecklas, måste också våra tillvägagångssätt för att säkerställa säkerhet och förtroende i den digitala eran utvecklas.