Vijay Balasubramaniyan, medgrundare och VD för Pindrop – Intervjuer

Vijay Balasubramaniyan är medgrundare och VD för Pindrop. Han har haft olika ingenjörs- och forskarroller på Google (GOOGL ), Siemens, IBM Research och Intel.

Pindrops lösningar leder vägen till framtiden för röst genom att etablera standarden för identitet, säkerhet och tillit för varje röstinteraktion. Pindrops lösningar skyddar vissa av världens största banker, försäkringsbolag och detaljhandlare med hjälp av patenterad teknik som extraherar intelligens från varje samtal och röst som möts. Pindrops lösningar hjälper till att upptäcka bedragare och autentisera äkta kunder, minska bedrägeri och operativa kostnader samtidigt som man förbättrar kundupplevelsen och skyddar varumärkesrykt. Pindrop, ett privatägt företag med huvudkontor i Atlanta, GA, grundades 2011 av Dr. Vijay Balasubramaniyan, Dr. Paul Judge och Dr. Mustaque Ahamad och är venture-backat av Andreessen Horowitz, Citi Ventures, Felicis Ventures, CapitalG, GV, IVP och Vitruvian Partners. För mer information, besök gärna pindrop.com.

Vilka är de viktigaste slutsatserna från Pindrops 2024 Voice Intelligence and Security Report när det gäller den nuvarande situationen för röstbaserat bedrägeri och säkerhet?

Rapporten ger en djupgående analys av pressande säkerhetsfrågor och framtida trender, särskilt inom kontaktcenter som betjänar finansiella och icke-finansiella institutioner. Viktiga slutsatser i rapporten inkluderar:

• Signifikant ökning av kontaktcenterbedrägeri: Kontaktcenterbedrägeri har ökat med 60% under de senaste två åren, vilket är den högsta nivån sedan 2019. Vid slutet av detta år förväntas varje 730:e samtal till ett kontaktcenter vara bedrägligt.
• Ökad sofistikerad användning av deepfake: Deepfake-attacker, inklusive avancerade syntetiska röstkloner, ökar och utgör en uppskattad 5 miljarder dollar i bedrägeririsk för amerikanska kontaktcenter. Denna teknik används för att förbättra bedrägeritaktiker som automatiserad och stor skalig kontorekonnaissance, röstimitation, riktad smishing och social ingenjörskonst.
• Traditionella metoder för bedrägeridetektering och autentisering fungerar inte: Företag förlitar sig fortfarande på manuell autentisering av konsumenter, vilket är tidskrävande, dyrt och ineffektivt för att stoppa bedrägeri. 350 miljoner offer för dataintrång, 12 miljarder dollar som årligen spenderas på autentisering och 10 miljarder dollar som förlorats till bedrägeri är bevis på att nuvarande säkerhetsmetoder inte fungerar.
• Nya tillvägagångssätt och tekniker krävs: Liveness-detektering är avgörande för att bekämpa dålig AI och förbättra säkerheten. Röstanalys är fortfarande viktig, men måste kombineras med liveness-detektering och multifaktorautentisering.

Enligt rapporten är 67,5% av amerikanska konsumenter oroliga för deepfakes i banksektorn. Kan du förklara de typer av deepfake-hot som finansiella institutioner står inför?

Bankbedrägeri via telefonkanaler ökar på grund av flera faktorer. Eftersom finansiella institutioner förlitar sig tungt på kunder för att bekräfta misstänkt aktivitet, kan kontaktcenter bli primära mål för bedragare. Bedragare använder sociala ingenjörstaktiker för att lura kundtjänstrepresentanter, övertyga dem om att ta bort begränsningar eller hjälpa till att återställa onlinebankkoder. Enligt en Pindrop-bankkund var 36% av identifierade bedrägerisamtal främst avsedda att ta bort kvarhållningar som påförts av bedrägerikontroller. En annan Pindrop-bankkund rapporterar att 19% av bedrägerisamtalen syftade till att få tillgång till onlinebank. Med den ökande användningen av generativ AI och deepfakes har dessa typer av attacker blivit mer potenta och skalbara. Nu kan en eller två bedragare i en garage skapa vilken mängd syntetiska röster som helst och lansera samtidiga attacker mot flera finansiella institutioner och förstärka sina taktiker. Detta har skapat en högre nivå av risk och oro bland konsumenter om huruvida banksektorn är beredd att avvärja dessa sofistikerade attacker.

Hur har framstegen inom generativ AI bidragit till ökningen av deepfakes, och vilka specifika utmaningar ställer dessa för säkerhetssystem?

Medan deepfakes inte är nya, har framstegen inom generativ AI gjort dem till en potent vektor under det senaste året, eftersom de har kunnat bli mer trovärdiga i en mycket större skala. Framstegen inom generativ AI har gjort stora språkmodeller mer skickade på att skapa trovärdig tal och språk. Nu kan naturligt ljudande syntetisk (falsk) tal skapas mycket billigt och i stor skala. Dessa utvecklingar har gjort deepfakes tillgängliga för alla, inklusive bedragare. Dessa deepfakes utmanar säkerhetssystem genom att möjliggöra högt trovärdiga phishingattacker, sprida missinformation och underlätta finansiellt bedrägeri genom realistiska imitationer. De undergräver traditionella autentiseringsmetoder, skapar betydande ryktesrisker och kräver avancerad upptäktsteknologi för att hålla jämna steg med deras snabba utveckling och skalbarhet.

Hur bidrog Pindrop Pulse till att identifiera TTS-motorn som användes i President Bidens robocall-attack, och vilka implikationer har detta för framtida deepfake-upptäckt?

Pindrop Pulse spelade en avgörande roll i att identifiera ElevenLabs, TTS-motorn som användes i President Bidens robocall-attack. Med vår avancerade deepfake-upptäktsteknologi genomförde vi en fyra-stegs analysprocess som omfattade ljudfiltering och rensning, funktionsextrahering, segmentanalys och kontinuerlig poängsättning. Denna process möjliggjorde att vi kunde filtrera bort icke-talramar, nedprova ljudet för att replikera typiska telefonförhållanden och extrahera lågnivå-spectro-temporala funktioner.

Genom att dela upp ljudet i 155 segment och tilldela livskvalitetspoäng kunde vi fastställa att ljudet var konsekvent artificiellt. Med “fakeprints” kunde vi jämföra ljudet med 122 TTS-system och identifiera med 99% sannolikhet att ElevenLabs eller ett liknande system användes. Denna upptäckt validerades med 84% sannolikhet genom ElevenLabs SpeechAI-klassificerare. Vår detaljerade analys avslöjade deepfake-artefakter, särskilt i fraser med rika frikativer och ovanliga uttryck för President Biden.

Detta fall understryker vikten av våra skalbara och förklarbara deepfake-upptäktssystem, som förbättrar noggrannheten, bygger tillit och anpassar sig till nya teknologier. Det lyfter också fram behovet av att generativa AI-system införlivar skyddsåtgärder mot missbruk, för att säkerställa att röstkloning sker med samtycke från verkliga individer. Vår tillvägagångssätt sätter en standard för att hantera syntetiska mediehot, med betoning på kontinuerlig övervakning och forskning för att hålla jämna steg med utvecklingen av deepfake-metoder.

Rapporten nämner betydande farhågor om deepfakes som påverkar media och politiska institutioner. Kan du ge exempel på sådana incidenter och deras potentiella påverkan?

Vår forskning har visat att amerikanska konsumenter är mest oroliga för risken för deepfakes och röstkloner i bank- och finansiell sektor. Men utöver detta utgör hotet från deepfakes mot våra medie- och politiska institutioner en lika stor utmaning. Utanför USA har användningen av deepfakes också observerats i Indonesien (Suharto-deepfake) och Slovakien (Michal Šimečka och Monika Tódová röst-deepfake).

2024 är ett viktigt valår i USA och Indien. Med 4 miljarder människor i 40 länder som förväntas rösta, gör den snabba utvecklingen av AI-teknologi det lättare än någonsin att lura människor på internet. Vi förväntar oss en ökning av riktade deepfake-attacker mot regeringsinstitutioner, sociala medieföretag, andra nyhetsmedier och den allmänna befolkningen, som är avsedda att skapa misstro mot våra institutioner och sprida desinformation i den offentliga diskursen.

Kan du förklara de tekniker och metoder som Pindrop använder för att upptäcka deepfakes och syntetiska röster i realtid?

Pindrop använder en rad avancerade tekniker och metoder för att upptäcka deepfakes och syntetiska röster i realtid, inklusive:

• • Livskvalitetsdetektering: Pindrop använder storskalig maskinlärning för att analysera icke-talramar (t.ex. tystnad, brus, musik) och extrahera lågnivå-spectro-temporala funktioner som skiljer sig mellan maskin-genererad och generisk mänsklig tal.
  • Ljudfingeravtryck – Detta innebär att skapa en digital signatur för varje röst baserat på dess akustiska egenskaper, såsom tonhöjd, ton och kadens. Dessa signaturer används sedan för att jämföra och matcha röster över olika samtal och interaktioner.
  • Beteendeanalys – Används för att analysera beteendemönster som verkar utanför det vanliga, inklusive onormal åtkomst till olika konton, snabb botaktivitet, konto-rekonnaissance, datautvinning och robotdialning.

• Röstanalys – Genom att analysera röstfunktioner som röstkanalens egenskaper, fonetiska variationer och talsätt, kan Pindrop skapa en röstprofil för varje individ. Avvikelser från den förväntade röstprofilen kan utlösa en varning.

• Flerskikts-säkerhetsansats – Detta innebär att kombinera olika upptäktmetoder för att korsverifiera resultaten och öka upptäcktsnoggrannheten. Till exempel kan ljudfingeravtrycksresultat korsrefereras med biometrisk analys för att bekräfta en misstanke.
• Kontinuerlig inlärning och anpassning – Pindrop uppdaterar kontinuerligt sina modeller och algoritmer. Detta inkluderar att införliva ny data, förbättra upptäktstekniker och hålla jämna steg med nya hot. Kontinuerlig inlärning säkerställer att deras upptäktförmåga förbättras över tid och anpassar sig till nya typer av syntetiska röstattacker.

Vad är Pulse Deepfake Warranty, och hur förbättrar den kundernas förtroende för Pindrops förmåga att hantera deepfake-hot?

Pulse Deepfake Warranty är en första-i-sitt-slag warranty som erbjuder ersättning mot syntetisk röstbedrägeri i kontaktcenter. När vi står på tröskeln till en seismisk förändring i cyberattack-landskapet, potentiella+finansiella+förluster+väntas+stiga+till+$10+trillion+år+2025, Pulse Deepfake Warranty förbättrar kundernas förtroende genom att erbjuda flera nyckelfördelar:

• Förbättrat förtroende: Pulse Deepfake Warranty visar Pindrops förtroende för sina produkter och teknologi, och erbjuder kunderna en tillförlitlig säkerhetslösning när de betjänar sina kunder.
• Ersättning för förluster: Pindrops kunder kan få ersättning för syntetisk röstbedrägeri som inte upptäckts av Pindrop Product Suite.
• Kontinuerlig förbättring: Pindrops kundförfrågningar som mottas inom ramen för garantiprogrammet hjälper Pindrop att hålla jämna steg med utvecklingen av syntetisk röstbedrägeri.

Finns det några anmärkningsvärda fallstudier där Pindrops teknologi har framgångsrikt motverkat deepfake-hot? Vilka var resultaten?

Pikesville High School-incidenten: Den 16 januari 2024 upptäcktes en inspelning på Instagram som påstods vara principalen på Pikesville High School i Baltimore, Maryland. Ljudet innehöll nedsättande kommentarer om svarta studenter och lärare, vilket utlöste en storm av offentlig upprördhet och allvarlig oro.

I ljuset av dessa utvecklingar genomförde Pindrop en omfattande utredning, där vi utförde tre oberoende analyser för att avslöja sanningen. Resultaten av vår grundliga utredning ledde till en nyanserad slutsats: även om januari-ljudet hade ändrats, saknade det de karakteristiska dragen av AI-genererat syntetiskt tal. Vår tillförlitlighet i denna bestämning stöds av en 97% säkerhet baserat på våra analysmetoder. Denna avgörande upptäckt understryker vikten av att genomföra detaljerade och objektiva analyser innan man gör offentliga uttalanden om naturen av potentiellt manipulerat media.

På en stor amerikansk bank upptäckte Pindrop att en bedragare använde syntetisk röst för att kringgå autentisering i IVR. Vi fann att bedragaren använde maskin-genererad röst för att kringgå IVR-autentisering för målinriktade konton, och tillhandahöll rätt svar på säkerhetsfrågorna och, i ett fall, även passerade engångslösenord (OTP). Robotar som lyckades autentisera i IVR identifierade konton som var värda att målinrikta via grundläggande balansförfrågningar. Följande samtal till dessa konton var från en verklig person för att begå bedrägeri. Pindrop varnade banken för detta bedrägeri i realtid med hjälp av Pulse-teknologi och kunde stoppa bedragaren.

På en annan finansiell institution upptäckte Pindrop att vissa bedragare tränade sina egna röstbotar för att imitera bankens automatiserade svarssystem. I vad som lät som ett underligt första samtal ringde en röstbot in till bankens IVR, inte för att göra konto-rekonnaissance, utan för att upprepa IVR-prompten. Flera samtal kom in till olika grenar av IVR-samtalsträdet, och varannan sekund upprepade boten vad den hörde. En vecka senare observerades fler samtal som gjorde samma sak, men denna gång upprepade röstboten fraserna med exakt samma röst och manér som bankens IVR. Vi tror att en bedragare tränade en röstbot för att spegla bankens IVR som en utgångspunkt för en smishing-attack. Med hjälp av Pindrop Pulse kunde den finansiella institutionen förhindra denna attack innan någon skada hade skett.

Oberoende NPR-ljud-deepfake-experiment: Digital säkerhet är en ständigt pågående kapprustning mellan bedragare och säkerhetsteknologileverantörer. Det finns flera leverantörer, inklusive Pindrop, som har hävdat att de kan upptäcka ljud-deepfakes konsekvent – NPR testade dessa påståenden för att utvärdera om nuvarande teknologilösningar är kapabla att upptäcka AI-genererat ljud på ett konsekvent sätt.

Pindrop Pulse upptäckte korrekt 81 av de 84 ljudexemplen, vilket motsvarar en noggrannhet på 96,4%. Dessutom upptäckte Pindrop Pulse 100% av alla deepfake-exemplen. Medan andra leverantörer också utvärderades i studien, framträdde Pindrop som ledare genom att visa att deras teknologi kan tillförlitligt och korrekt upptäcka både deepfake och äkta ljud.

Vilka framtida trender inom röstbaserat bedrägeri och säkerhet förutser du, särskilt med den snabba utvecklingen av AI-teknologier? Hur förbereder sig Pindrop för att hantera dessa?

Vi förväntar oss att kontaktcenterbedrägeri kommer att fortsätta öka under 2024. Baserat på årsanalysen av bedrägerifrekvenser över vertikaler, förväntar vi oss att bedrägerifrekvensen kommer att nå 1 på 730 samtal, vilket representerar en 4-5% ökning jämfört med nuvarande nivåer.

Större delen av den ökade bedrägeriexponeringen förväntas påverka banksektorn, medan försäkring, mäklartjänster och andra finansiella segment förväntas förbli på nuvarande nivåer. Vi förväntar oss en betydande förändring, särskilt med bedragare som använder IVR som en testbädd. Nyligen har vi observerat en ökning av bedragare som manuellt anger personlig identifieringsinformation (PII) för att verifiera kontoinformation.

För att hjälpa till att bekämpa detta kommer vi att fortsätta att både förbättra Pindrops nuvarande lösningar och lansera nya och innovativa verktyg, som Pindrop Pulse, som skyddar våra kunder.

Utöver nuvarande teknologier, vilka nya verktyg och tekniker utvecklas för att förbättra röstbedrägeribekämpning och autentisering?

Röstbedrägeribekämpning och autentiseringstekniker utvecklas kontinuerligt för att hålla jämna steg med framstegen inom teknologi och sofistikerade bedrägeriaktiviteter. Några framväxande verktyg och tekniker inkluderar:

• Kontinuerlig bedrägeriupptäckt och utredning: Tillhandahåller en historisk “tillbaka”-titt på bedrägeriincidenter med ny information som nu är tillgänglig. Med denna ansats kan bedrägerianalytiker “lyssna” efter nya bedrägerisignaler, skanna efter historiska samtal som kan vara relaterade och omvärdera dessa samtal. Detta ger företag en kontinuerlig och omfattande vy över bedrägeri i realtid.
• Intelligent röstanalys: Traditionella röstbiometrisystem är sårbara för deepfake-attacker. För att förbättra deras försvar krävs nya teknologier som röstmissmatchning och negativ röstmatchning. Dessa teknologier tillhandahåller ett ytterligare försvarsskikt genom att känna igen och differentiera flera röster, återkommande samtal och identifiera var en annorlunda ljudande röst kan utgöra ett hot.
• Tidig bedrägeriupptäckt: Bedrägeriupptäktsteknologier som tillhandahåller en snabb och tillförlitlig bedrägerisignal tidigt i samtalprocessen är ovärderliga. Utöver livskvalitetsdetektering tillhandahåller teknologier som operatörsmetadataanalys, caller ID-spoof-detektering och ljudbaserad spoof-detektering skydd mot bedrägeriattacker i början av en konversation när försvar är som mest sårbara.

Tack för den utmärkta intervjun. För att lära mer, läs Pindrops 2024 Voice Intelligence and Security Report eller besök Pindrop.