Deepfakes og AI: Indsigter fra Pindrops 2024-rapport om stemmeintelligens og sikkerhed

Den hurtige udvikling af kunstig intelligens (AI) har medført betydelige fordele og transformative ændringer på tværs af forskellige brancher. Det har dog også introduceret nye risici og udfordringer, især når det kommer til svindel og sikkerhed. Deepfakes, et produkt af generativ AI, bliver mere og mere avancerede og udgør en betydelig trussel mod integriteten af stemme-baserede sikkerhedssystemer.

Fundene fra Pindrops 2024-rapport om stemmeintelligens og sikkerhed fremhæver impacten af deepfakes på forskellige sektorer, de teknologiske fremskridt, der driver disse trusler, og de innovative løsninger, der udvikles for at bekæmpe dem.

Deepfakes: En dobbeltægget sværd

Deepfakes anvender avancerede machine learning-algoritmer til at skabe meget realistiske synthetiske lyd- og videoindhold. Mens disse teknologier har spændende anvendelser i underholdning og medier, stiller de også seriøse sikkerhedsudfordringer. Ifølge Pindrops rapport er amerikanske forbrugere mest bekymrede over risikoen for deepfakes og stemme-kloner i bank- og finanssektoren, med 67,5% udtrykkende betydelig bekymring.

Impact på finansielle institutioner

Finansielle institutioner er særligt sårbare over for deepfake-angreb. Svindlere anvender AI-genererede stemmer til at efterligne individer, få adgang til konti og manipulere finansielle transaktioner. Rapporten afslører, at der var et rekordstort antal data-kompromiser i 2023, i alt 3.205 episoder – en stigning på 78% i forhold til det foregående år. Gennemsnitlig omkostning for en data-lækage i USA beløber sig nu til 9,5 millioner dollars, med kontaktsentre, der bærer den største del af sikkerhedsfaldet.

Et bemærkelsesværdigt tilfælde involverede brugen af en deepfake-stemme til at narre en Hong Kong-baseret virksomhed til at overføre 25 millioner dollars, hvilket understreger de ødelæggende potentielle konsekvenser af disse teknologier, når de anvendes ondsindet.

Trusler mod medier og politik

Ud over finansielle tjenester udgør deepfakes også betydelige trusler mod medier og politiske institutioner. Evnen til at skabe overbevisende falsk lyd- og videoindhold kan anvendes til at sprede misinformationskampagner, manipulere offentlig mening og undergrave tillid til demokratiske processer. Rapporten påpeger, at 54,9% af forbrugerne er bekymrede over truslen fra deepfakes mod politiske institutioner, mens 54,5% bekymrer sig om deres impact på medier.

I 2023 var deepfake-teknologi impliceret i flere højprofilerede episoder, herunder en robocall-angreb, der anvendte en syntetisk stemme af præsident Biden. Sådanne episoder understreger nødvendigheden af at udvikle robuste detektions- og forebyggelsesmekanismer.

Teknologiske fremskridt, der driver deepfakes

Udbredelsen af generative AI-værktøjer, såsom OpenAI’s ChatGPT, Google’s Bard og Microsoft’s Bing AI, har betydeligt reduceret barriererne for at skabe deepfakes. I dag anvendes over 350 generative AI-systemer til forskellige formål, herunder Eleven Labs, Descript, Podcastle, PlayHT og Speechify. Microsoft’s VALL-E-model kan f.eks. klonere en stemme fra blot en tre-sekunders lydklip.

Disse teknologiske fremskridt har gjort deepfakes billigere og lettere at producere, hvilket har øget deres tilgængelighed for både benign og ondsindet brug. Ifølge Gartner vil 80% af conversational AI-tilbud i 2025 indeholde generativ AI, op fra 20% i 2023.

Bekæmpelse af deepfakes: Pindrops innovationer

For at imødegå den voksende trussel fra deepfakes har Pindrop introduceret flere banebrydende løsninger. En af de mest bemærkelsesværdige er Pulse Deepfake Warranty, en garanti, der refunderer berettigede kunder, hvis Pindrops Product Suite ikke kan detektere en deepfake eller anden syntetisk stemme-svindel. Dette initiativ sigter mod at give kunderne ro i sindet, samtidig med at det driver grænserne for svindeldetektion.

Teknologiske løsninger til at forbedre sikkerheden

Pindrops rapport fremhæver effikaciteten af deres liveness-detektionsteknologi, der analyserer live-telefonsamtaler for spectro-temporale funktioner, der indikerer, om stemmen på samtal er “live” eller syntetisk. I interne tests viste Pindrops liveness-detektionsløsning sig at være 12% mere præcis end stemme-genkendelsessystemer og 64% mere præcis end mennesker til at identificere syntetiske stemmer.

Derudover anvender Pindrop integreret multi-faktor svindelforbyggelse og autentificering, der udnytter stemme, enhed, adfærd, carrier-metadata og liveness-signaler til at forbedre sikkerheden. Dette multi-lagdelte tilgangssystem øger betydeligt barriererne for svindlere, hvilket gør det sværere for dem at lykkes.

Fremtidige trends og forberedelse

Settende blikket fremad, rapporten forudser, at deepfake-svindel vil fortsætte med at stige, og udgør en risiko på 5 milliarder dollars for kontaktsentre i USA alene. Den øgede sofistikation af tekst-til-tale-systemer kombineret med billige syntetiske tale-teknologier stiller fortsat udfordringer.

For at holde trit med disse trusler anbefaler Pindrop tidlige risikodetektions-teknikker, såsom caller ID-spoof-detektion og kontinuerlig svindeldetektion, til at overvåge og afværge svindelaktive handlinger i realtid. Ved at implementere disse avancerede sikkerhedsforanstaltninger kan organisationer bedre beskytte sig mod den udviklende landskab af AI-drevet svindel.

Konklusion

Opkomsten af deepfakes og generativ AI repræsenterer en betydelig udfordring på området for svindel og sikkerhed. Pindrops 2024-rapport om stemmeintelligens og sikkerhed understreger den presserende nødvendighed for innovative løsninger til at bekæmpe disse trusler. Med fremskridt i liveness-detektion, multi-faktor autentificering og omfattende svindelforbyggelsesstrategier er Pindrop i frontlinjen for at sikre fremtiden for stemme-baserede interaktioner. Da teknologilandskabet fortsætter med at udvikle sig, må vores tilgange til at sikre sikkerhed og tillid i den digitale æra også udvikle sig.