Deepfakes og AI: Innsikt fra Pindrops 2024-rapport om taleintelligens og sikkerhet

Den raske fremgangen i kunstig intelligens (AI) har ført til betydelige fordeler og transformative endringer i ulike bransjer. Imidlertid har det også introdusert nye risikoer og utfordringer, spesielt når det gjelder svindel og sikkerhet. Deepfakes, et produkt av generativ AI, blir stadig mer sofistikerte og utgjør en betydelig trussel mot integriteten til talebaserte sikkerhetssystemer.

Funndene fra Pindrops 2024-rapport om taleintelligens og sikkerhet høydepunkter impakten av deepfakes på ulike sektorer, de teknologiske fremgangene som driver disse truslene, og de innovative løsningene som utvikles for å bekjempe dem.

Oppsvinget av Deepfakes: En todelt sverd

Deepfakes bruker avanserte maskinlæringsalgoritmer for å lage svært realistiske syntetiske lyd- og videoinnhold. Mens disse teknologiene har spennende anvendelser i underholdning og media, presenterer de også alvorlige sikkerhetsutfordringer. Ifølge Pindrops rapport er forbrukerne i USA mest bekymret for risikoen med deepfakes og talekloner i bank- og finanssektoren, med 67,5% som uttrykker betydelig bekymring.

Impakt på finansielle institusjoner

Finansielle institusjoner er spesielt sårbare for deepfake-angrep. Svindlere bruker AI-genererte stemmer for å forkle seg som enkeltpersoner, få uautorisert tilgang til kontoer og manipulere finansielle transaksjoner. Rapporten avslører at det var et rekordhøyt antall datakompromisser i 2023, totalt 3 205 hendelser – en økning på 78% fra året før. Gjennomsnittskosten for en datalekkasje i USA beløper seg nå til 9,5 millioner dollar, med kontaktssentra som bærer det største sikkerhetsfalloutet.

En merkelig sak involverte bruk av en deepfake-stemme for å bedra en Hongkong-basert bedrift til å overføre 25 millioner dollar, og understreker den ødeleggende potensialet til disse teknologiene når de brukes ondsinnet.

Bredere trusler mot media og politikk

Utenfor finansielle tjenester utgjør deepfakes også betydelige risikoer for media og politiske institusjoner. Evnen til å lage overbevisende falske lyd- og videoinnhold kan brukes til å spre misinformasjon, manipulere offentlig mening og undergrave tillit til demokratiske prosesser. Rapporten påpeker at 54,9% av forbrukerne er bekymret for truslen fra deepfakes mot politiske institusjoner, mens 54,5% bekymrer seg for deres innvirkning på media.

I 2023 var deepfake-teknologi implisert i flere høytprofilerte hendelser, inkludert en robocall-angrep som brukte en syntetisk stemme av president Biden. Slike hendelser understreker急heten av å utvikle robuste oppdaggings- og forebyggingsmekanismer.

Teknologiske fremgang som driver deepfakes

Spredningen av generative AI-verktøy, som OpenAI’s ChatGPT, Google’s Bard og Microsoft’s Bing AI, har betydelig redusert barrierene for å lage deepfakes. I dag brukes over 350 generative AI-systemer for ulike anvendelser, inkludert Eleven Labs, Descript, Podcastle, PlayHT og Speechify. Microsoft’s VALL-E-modell kan for eksempel klonere en stemme fra bare en tre sekunders lydklipp.

Disse teknologiske fremgangene har gjort deepfakes billigere og enklere å produsere, og øker deres tilgjengelighet for både harmløse brukere og ondsinnete aktører. Innen 2025 forventer Gartner at 80% av samtale-AI-tilbudene vil inkorporere generativ AI, opp fra 20% i 2023.

Bekjempe deepfakes: Pindrops innovasjoner

For å møte den voksende truslen fra deepfakes, har Pindrop introdusert flere banebrytende løsninger. En av de mest merkbare er Pulse Deepfake Warranty, en garanti som erstatter berettigede kunder hvis Pindrops Produkt Suite ikke oppdager en deepfake eller annen syntetisk stemmesvindel. Dette initiativet har til hensikt å gi kundene trygghet samtidig som det skyver grensene for svindeldeteksjonskapasiteter.

Teknologiske løsninger for å forbedre sikkerheten

Pindrops rapport høydepunkter effekten av deres liveness-detekteringsteknologi, som analyserer live-telefonsamtaler for spectro-temporale egenskaper som indikerer om stemmen i samtalen er “live” eller syntetisk. I interne tester ble Pindrops liveness-detekteringssøknad funnet å være 12% mer nøyaktig enn stemmegjenkjenningssystemer og 64% mer nøyaktig enn mennesker ved å identifisere syntetiske stemmer.

I tillegg bruker Pindrop integrert multi-faktor svindelforebygging og autentisering, som utnytter stemme, enhet, atferd, operatørmetadata og liveness-signaler for å forbedre sikkerheten. Denne flerskiktede tilnærmingen setter betydelig høyere standarder for svindlere, og gjør det stadig vanskeligere for dem å lykkes.

Framtidige trender og forberedelser

Ser man fremover, rapporten forutser at deepfake-svindel vil fortsette å øke, og utgjør en risiko på 5 milliarder dollar for kontaktssentra i USA alene. Den økende sofistikasjonen av tekst-til-tale-systemer, kombinert med lavkostnads syntetisk taleteknologi, presenterer pågående utfordringer.

For å holde tritt med disse truslene, anbefaler Pindrop tidlige risikodetekteringsteknikker, som oppringerspoof-deteksjon og kontinuerlig svindeldeteksjon, for å overvåke og mildne svindelaktiviteter i sanntid. Ved å implementere disse avanserte sikkerhetstiltakene, kan organisasjonene bedre beskytte seg mot den evoluerende landskapet av AI-drevet svindel.

Konklusjon

Oppkomsten av deepfakes og generativ AI representerer en betydelig utfordring på området for svindel og sikkerhet. Pindrops 2024-rapport om taleintelligens og sikkerhet understreker den急ende behovet for innovative løsninger for å bekjempe disse truslene. Med fremgang i liveness-detektering, multi-faktor autentisering og omfattende svindelforebyggingsstrategier, er Pindrop i forkant av innsatsen for å sikre fremtiden for talebaserte interaksjoner. Etterhvert som teknologilandskapet fortsetter å utvikle seg, må også våre tilnærminger til å sikre sikkerhet og tillit i den digitale tidsalderen.