Dybdefekter og AI: Innsikt fra Pindrops 2024-rapport om stemmeintelligens og sikkerhet

Den raske fremveksten av kunstig intelligens (AI) har medført betydelige fordeler og transformative endringer over flere bransjer. Imidlertid har det også introdusert nye risikoer og utfordringer, særlig når det gjelder svindel og sikkerhet. Dybdefekter, et produkt av generativ AI, blir stadig mer avanserte og utgjør en betydelig trussel mot integriteten til stemmebasert sikkerhetssystemer.

Funndene fra Pindrops 2024-rapport om stemmeintelligens og sikkerhet fremhever effekten av dybdefekter på ulike sektorer, de teknologiske fremstøtene som driver disse truslene, og de innovative løsningene som utvikles for å bekjempe dem.

Dybdefekters oppkomst: En dobbelt egg

Dybdefekter bruker avanserte maskinlæring-algoritmer for å skape høyst realistiske syntetisk lyd- og videoinnhold. Mens disse teknologiene har spennende anvendelser i underholdning og media, presenterer de også alvorlige sikkerhetsutfordringer. Ifølge Pindrops rapport er amerikanske forbrukere mest bekymret for risikoen med dybdefekter og stemmekloner i bank- og finanssektoren, med 67,5% som uttrykker betydelig bekymring.

Effekt på finansielle institusjoner

Finansielle institusjoner er særlig sårbare for dybdefekter-angrep. Svindlere bruker AI-genererte stemmer for å forkle seg som enkeltpersoner, få uautorisert tilgang til kontoer og manipulere finansielle transaksjoner. Rapporten avslører at det var et rekordhøyt antall datatap i 2023, totalt 3 205 hendelser – en økning på 78% fra året før. Den gjennomsnittlige kostnaden for en datatap i USA beløper seg nå til 9,5 millioner dollar, med kontaktsentere som bærer det største sikkerhetsfallout.

En merkelig sak involverte bruken av en dybdefektestemme for å bedra en Hongkong-basert bedrift til å overføre 25 millioner dollar, og understreker den ødeleggende potensialet til disse teknologiene når de brukes ondsinnet.

Større trusler mot media og politikk

Utenfor finansielle tjenester utgjør dybdefekter også betydelige risikoer for media og politiske institusjoner. Evnen til å skape overbevisende falsk lyd- og videoinnhold kan brukes til å spre misinformasjon, manipulere offentlig mening og undergrave tillit til demokratiske prosesser. Rapporten påpeker at 54,9% av forbrukerne er bekymret for truslen fra dybdefekter mot politiske institusjoner, mens 54,5% bekymrer seg for deres innvirkning på media.

I 2023 var dybdefekter-teknologi implisert i flere høytprofilerte hendelser, inkludert en robocall-angrep som brukte en syntetisk stemme av president Biden. Slike hendelser understreker急heten ved å utvikle robuste oppdaging- og forebyggingsmekanismer.

Teknologiske fremstøt som driver dybdefekter

Spredningen av generativ AI-verktøy, som OpenAI’s ChatGPT, Google’s Bard og Microsoft’s Bing AI, har betydelig senket barrierene for å skape dybdefekter. I dag brukes over 350 generative AI-systemer for ulike anvendelser, inkludert Eleven Labs, Descript, Podcastle, PlayHT og Speechify. Microsoft’s VALL-E-modell kan for eksempel klonere en stemme fra bare en tre sekunders lydklipp.

Disse teknologiske fremstøtene har gjort dybdefekter billigere og enklere å produsere, og økt deres tilgjengelighet for både harmløse brukere og ondsinnet aksjonærer. Innen 2025 forutser Gartner at 80% av samtale-AI-tilbudene vil inkorporere generativ AI, opp fra 20% i 2023.

Bekjempelse av dybdefekter: Pindrops innovasjoner

For å møte den økende trusselen fra dybdefekter, har Pindrop introdusert flere banebrytende løsninger. En av de mest bemerkelsesverdige er Pulse Deepfake Warranty, en garanti som erstatter berettigede kunder hvis Pindrops Produkt Suite ikke klarer å oppdage en dybdefekt eller annen syntetisk stemmesvindel. Dette initiativet har til hensikt å gi kundene trygghet samtidig som det driver grensene for svindeldeteksjonskapasiteter.

Teknologiske løsninger for å forbedre sikkerheten

Pindrops rapport fremhever effikasiteten til deres liveness-deteksjonsteknologi, som analyserer direkte telefonoppringer for spectro-temporale egenskaper som indikerer om stemmen på oppringingen er “levende” eller syntetisk. I interne tester ble Pindrops liveness-deteksjonsløsning funnet å være 12% mer nøyaktig enn stemmegenkjenningssystemer og 64% mer nøyaktig enn mennesker ved å identifisere syntetiske stemmer.

I tillegg bruker Pindrop integrert multi-faktor svindelforebygging og autentisering, som utnytter stemme, enhet, atferd, operatørmetadata og liveness-signaler for å forbedre sikkerheten. Dette multi-lagerte tilnærmingen hever betydelig terskelen for svindlere, og gjør det stadig vanskeligere for dem å lykkes.

Framtidige trender og forberedelser

Ser man fremover, rapporten forutser at dybdefektsvindel vil fortsette å øke, og utgjør en risiko på 5 milliarder dollar for kontaktsentere i USA alene. Den økende sofistikasjonen av tekst-til-tale-systemer, kombinert med lavkostnadssyntetisk taleteknologi, presenterer pågående utfordringer.

For å holde tritt med disse truslene, anbefaler Pindrop tidlige risikodeteksjonsteknikker, som oppringerspoof-deteksjon og kontinuerlig svindeldeteksjon, for å overvåke og mildne svindelaktiviteter i sanntid. Ved å implementere disse avanserte sikkerhetstiltakene, kan organisasjonene bedre beskytte seg mot den evoluerende landskapet av AI-drevet svindel.

Konklusjon

Oppkomsten av dybdefekter og generativ AI representerer en betydelig utfordring på området for svindel og sikkerhet. Pindrops 2024-rapport om stemmeintelligens og sikkerhet understreker den urgente behovet for innovative løsninger for å bekjempe disse truslene. Med fremstøt i liveness-deteksjon, multi-faktor autentisering og omfattende svindelforebyggingsstrategier, er Pindrop i forkant av innsatsen for å sikre fremtiden for stemmebaserte interaksjoner. Ettersom teknologilandskapet fortsetter å utvikle seg, må også våre tilnærminger til å sikre sikkerhet og tillit i den digitale tiden.