Deepfakes og AI: Indsigt fra Pindrops 2024 Voice Intelligence and Security Report

Den hurtige udvikling af kunstig intelligens (AI) har medført betydelige fordele og transformative ændringer på tværs af forskellige industrier. Men det har også introduceret nye risici og udfordringer, især når det kommer til bedrageri og sikkerhed. Deepfakes, et produkt af generativ AI, bliver stadig mere sofistikerede og udgør en væsentlig trussel mod integriteten af stemmebaserede sikkerhedssystemer.

Resultaterne fra Pindrops 2024 Voice Intelligence and Security Report, fremhæve virkningen af ​​deepfakes på forskellige sektorer, de teknologiske fremskridt, der driver disse trusler, og de innovative løsninger, der udvikles til at bekæmpe dem.

The Rise of Deepfakes: Et tveægget sværd

Deepfakes bruger avanceret maskinlæringsalgoritmer at skabe meget realistisk syntetisk lyd- og videoindhold. Selvom disse teknologier har spændende applikationer inden for underholdning og medier, udgør de også alvorlige sikkerhedsudfordringer. Ifølge Pindrops rapport er amerikanske forbrugere mest bekymrede over risikoen for deepfakes og stemmekloner i bank- og finanssektoren, hvor 67.5 % udtrykker betydelig bekymring.

Indvirkning på finansielle institutioner

Finansielle institutioner er særligt sårbare over for deepfake-angreb. Svindlere bruger AI-genererede stemmer til at efterligne personer, få uautoriseret adgang til konti og manipulere finansielle transaktioner. Rapporten afslører, at der var et rekordstort antal datakompromiser i 2023, i alt 3,205 hændelser – en stigning på 78 % fra året før. De gennemsnitlige omkostninger ved et databrud i USA beløber sig nu til 9.5 millioner dollars, hvor kontaktcentre bærer hovedparten af ​​sikkerhedsnedfaldet.

Et bemærkelsesværdigt tilfælde involverede brugen af ​​en dyb falsk stemme til at bedrage et Hong Kong-baseret firma til at overføre 25 millioner dollars, der fremhæver det ødelæggende potentiale ved disse teknologier, når de bruges ondsindet.

Bredere trusler mod medier og politik

Ud over finansielle tjenesteydelser, deepfakes udgør også betydelige risici for medier og politiske institutioner. Evnen til at skabe overbevisende falsk lyd- og videoindhold kan bruges til at sprede misinformation, manipulere den offentlige mening og underminere tilliden til demokratiske processer. Rapporten bemærker, at 54.9 % af forbrugerne er bekymrede over truslen om deepfakes til politiske institutioner, mens 54.5 % bekymrer sig om deres indvirkning på medierne.

I 2023 var deepfake-teknologi impliceret i flere højprofilerede hændelser, herunder en robocall-angreb, der brugte en syntetisk stemme fra præsident Biden. Sådanne hændelser understreger, at det haster med at udvikle robuste detektions- og forebyggelsesmekanismer.

Teknologiske fremskridt, der driver Deepfakes

Udbredelsen af ​​generative AI-værktøjer, såsom OpenAIs ChatGPT, Googles Bard og Microsofts Bing AI, har markant sænket barriererne for at skabe deepfakes. I dag bruges over 350 generative AI-systemer til forskellige applikationer, herunder Eleven Labs, Descript, Podcastle, PlayHT og Speechify. Microsofts VALL-E-model kan for eksempel klone en stemme fra blot et tre sekunders lydklip.

Disse teknologiske fremskridt har gjort deepfakes billigere og nemmere at producere, hvilket øger deres tilgængelighed for både godartede brugere og ondsindede aktører. Inden 2025, Gartner forudser, at 80 % af samtale-AI-tilbud vil inkorporere generativ AI, op fra 20 % i 2023.

Bekæmpelse af Deepfakes: Pindrops innovationer

For at imødegå den voksende trussel fra deepfakes har Pindrop introduceret flere banebrydende løsninger. En af de mest bemærkelsesværdige er Pulse Deepfake-garanti, en første af sin slags garanti, der refunderer berettigede kunder, hvis Pindrops produktpakke ikke opdager en deepfake eller anden syntetisk stemmesvindel. Dette initiativ har til formål at give kunderne ro i sindet og samtidig skubbe rammerne for mulighederne for at opdage svindel.

Teknologiske løsninger til at forbedre sikkerheden

Pindrops rapport fremhæver effektiviteten af ​​dens liveness-detektionsteknologi, som analyserer live telefonopkald for spektro-temporale funktioner, der indikerer, om stemmen på opkaldet er "live" eller syntetisk. I interne tests fandtes Pindrops liveness-detektionsløsning at være 12 % mere nøjagtig end stemmegenkendelsessystemer og 64 % mere præcis end mennesker til at identificere syntetiske stemmer.

Derudover anvender Pindrop integreret forebyggelse og autentificering af svindel med flere faktorer, der udnytter stemme, enhed, adfærd, operatørmetadata og liveness-signaler for at øge sikkerheden. Denne flerlagede tilgang hæver markant barren for svindlere, hvilket gør det stadig sværere for dem at få succes.

Fremtidige tendenser og beredskab

Ser vi fremad, indberette prognoser at deepfake svindel vil fortsætte med at stige, hvilket udgør en risiko på $5 milliarder for kontaktcentre alene i USA. Den stigende sofistikering af tekst-til-tale-systemer kombineret med billig syntetisk taleteknologi giver løbende udfordringer.

For at være på forkant med disse trusler anbefaler Pindrop tidlige risikodetektionsteknikker, såsom opkalds-id-spoofdetektion og kontinuerlig svindeldetektion, for at overvåge og afbøde svigagtige aktiviteter i realtid. Ved at implementere disse avancerede sikkerhedsforanstaltninger kan organisationer bedre beskytte sig mod det udviklende landskab af AI-drevet svindel.

Konklusion

Fremkomsten af ​​deepfakes og generativ AI repræsenterer en væsentlig udfordring inden for svindel og sikkerhed. Pindrops 2024 Voice Intelligence and Security Report understreger det presserende behov for innovative løsninger til at bekæmpe disse trusler. Med fremskridt inden for liveness-detektion, multi-faktor-autentificering og omfattende strategier til forebyggelse af svindel er Pindrop på forkant med bestræbelserne på at sikre fremtiden for stemmebaserede interaktioner. I takt med at teknologilandskabet fortsætter med at udvikle sig, skal vores tilgange til at sikre sikkerhed og tillid i den digitale tidsalder også gøre det.