Tänk dig det här: Du är på jobbet, fokuserad på en tidsbegränsad deadline, när du får ett samtal från vad som verkar vara din mammas telefonnummer. Rösten i andra änden är utan tvekan hennes, lugn och kärleksfull, men med en ovanlig antydan till brådska. Hon berättar att hon har hamnat i allvarliga problem medan hon är på semester i Paris och behöver din ekonomiska hjälp omedelbart för att reda ut saker. Du vet att hon är i Paris, och detaljerna hon tillhandahåller, ända till namnet på hennes hotell, gör samtalet ännu mer övertygande. Utan att tveka överför du pengarna, för att senare upptäcka att din mamma aldrig gjorde det samtalet; det var ett avancerat AI-system som perfekt imiterade hennes röst och fabricerade en detaljerad scenario. Rysningar löper nerför ryggen när du inser vad som just hände.

Detta scenario, som en gång var ren science fiction, är nu en framväxande verklighet. Gryningen av AI-teknologier som stora språkmodeller (LLM) har medfört otroliga framsteg. Men ett betydande hot lurar: AI-drivna bedrägerier. Potentialen för sofistikerade bedrägerier som drivs av artificiell intelligens är ett nytt hot på teknologisk framstegs horisont. Medan telefonbedrägerier har varit ett problem sedan telefonens uppfinning, har den breda integrationen av stora språkmodeller (LLM) i varje aspekt av digital kommunikation dramatiskt höjt insatserna. När vi omfamnar AI:s potential, är det avgörande att vi också stärker våra försvar mot dessa alltmer sofistikerade hot.

Dagens Landskap Av Telefonbedrägerier

Kriminella har i åratal försökt lura oskyldiga individer att överföra pengar eller avslöja känslig information, men trots förekomsten av telefonbedrägerier, är många av dessa bedrägerier relativt osofistikerade, beroende av mänskliga manusläsare. Men även med denna begränsning, fortsätter telefonbedrägerier att vara en lukrativ kriminell verksamhet.

Enligt den amerikanska Federala Handelskommissionen, förlorade amerikanerna över 8,8 miljarder dollar till bedrägerier under 2022, med en betydande andel tillskriven telefonbedrägerier, vilket innebär att även i deras nuvarande, mindre avancerade form, fungerar många av dessa taktiker fortfarande på sårbara individer. Vad händer när de utvecklas?

AI-Drivna Framtiden För Bedrägerier

Landskapet av telefonbedrägerier är på väg att genomgå en dramatisk förändring med ankomsten av flera nyckelteknologier:

Stora Språkmodeller (LLM)

Dessa AI-system kan generera mänsklig text och engagera sig i naturliga samtal. När de tillämpas på bedrägeri, kan LLM skapa högt övertygande och anpassningsbara manus, vilket gör det mycket svårare för potentiella offer att identifiera bedrägeriet.

Retrieval-Augmented Generation (RAG)

Denna teknologi tillåter LLM-system att komma åt och utnyttja stora mängder information i realtid. Bedragare kan bygga en profil av en person baserat på deras offentligt tillgängliga information, såsom deras sociala konton. De kan också använda sociala ingenjörstekniker på deras vänner och familj för att samla in djupare information. Detta ger dem tillgång till information som den målades identitet, arbetsinformation eller till och med nyliga aktiviteter. De kan sedan använda RAG för att ge LLM kontexten som behövs, vilket gör deras tillvägagångssätt synas otroligt personliga och legitima.

Syntetisk Ljudgenerering

Plattformar som Resemble AI och Lyrebird är ledande inom skapandet av högt realistiska AI-genererade röster. Dessa teknologier kan producera personliga, mänskliga ljud, som kan användas i olika tillämpningar, från virtuella assistenter till automatiserad kundservice och innehållsskapande. Företag som ElevenLabs driver gränserna vidare genom att möjliggöra för användare att skapa syntetiska röster som kan replikera deras egna, vilket möjliggör en ny nivå av personlig och engagemang i digitala interaktioner.

Syntetisk Videogenerering

Företag som Synthesia visar redan potentialen för att skapa realistiskt videoinnehåll med AI-genererade avatarer. Under de kommande åren kan denna teknologi tillåta bedragare att imitera vänner eller familjemedlemmar eller skapa helt fiktiva personer för videokonferenser, vilket introducerar en tidigare omöjlig nivå av fysisk realism i bedrägeriet.

AI-Läppsynkronisering

Startups som Sync Labs utvecklar avancerad läppsynkroniseringsteknologi som kan matcha genererat ljud till videoinspelningar. Detta kan användas för att skapa högt övertygande deepfake-videor av historiska figurer, politiker, kändisar och praktiskt taget alla andra, vilket ytterligare suddar ut gränsen mellan verklighet och bedrägeri.

Kombinationen av dessa teknologier målar en ganska oroande bild. Tänk dig ett bedrägerisamtal där AI kan anpassa sitt samtal i realtid, beväpnad med personlig information om målet, och till och med gå över till en videokonferens med en synbarligen verklig person vars läppar rör sig i perfekt synk med det genererade ljudet. Potentialen för bedrägeri är verkligen enorm.

Behovet Av Förbättrade Säkerhetsåtgärder

När dessa AI-drivna bedrägerier blir mer sofistikerade, måste metoder för att verifiera identitet och äkthet hålla jämna steg med AI-utvecklingen. Det kommer att finnas behov av både regulatoriska och teknologiska framsteg för att hålla den digitala världen säker.

Regulatoriska Förbättringar

Strängare dataskyddslagar: Implementering av mer rigorösa dataskyddslagar skulle begränsa mängden personlig information som är tillgänglig för bedragare att utnyttja. Dessa lagar kunde inkludera strängare krav för datainsamling, förbättrade användarconsentprotokoll och strängare straff för dataintrång.

Privat moln för de kraftfullaste AI-modellerna: Regleringar kunde kräva att de kraftfullaste AI-modellerna ska vara värd på privata, säkra molninfrastrukturer snarare än att vara öppet tillgängliga. Detta skulle begränsa tillgången till de mest avancerade teknologierna, vilket gör det svårare för skurkar att använda dem för bedrägerier. (t.ex. https://security.apple.com/blog/private-cloud-compute/)

Internationellt samarbete om AI-regleringar: Med tanke på den globala naturen av AI-teknologi, kunde internationellt samarbete om regulatoriska standarder vara fördelaktigt. Att etablera en global kropp som ansvarar för att skapa och verkställa internationella AI-regleringar kunde hjälpa till att hantera gränsöverskridande AI-relaterade brott.

Offentliga medvetandekampanjer: Regeringar och regulatoriska organ bör investera i offentliga medvetandekampanjer för att utbilda medborgare om de potentiella riskerna med AI-bedrägerier och hur man skyddar sig. Medvetenhet är ett kritiskt första steg i att ge individer och organisationer möjlighet att implementera nödvändiga säkerhetsåtgärder.

Nuvarande AI-regleringar är otillräckliga för att förhindra bedrägerier, och utmaningen med framtida reglering försvåras av den öppna karaktären hos många kraftfulla teknologier. Denna öppenhet tillåter vem som helst att komma åt och modifiera dessa teknologier för sina egna syften. Som ett resultat, utöver starkare regleringar, behövs framsteg inom säkerhetsteknologier.

Syntetisk Data Detektion

Syntetisk ljudupptäckt: När bedragare använder AI, så måste också våra försvar. Företag som Pindrop utvecklar AI-drivna system som kan upptäcka syntetiskt ljud i realtid under telefonsamtal. Deras teknik analyserar över 1 300 funktioner i ett samtals ljud för att bestämma om det kommer från en verklig person eller ett sofistikerat AI-system.

Syntetisk videodetektion: Syntetisk videodetektion: Precis som ljud kan manipuleras av AI, så kan också video, vilket utgör betydande hot i form av deepfakes och annat syntetiskt videoinnehåll. Företag som Deepware leder utvecklingen av teknologier för att upptäcka syntetisk video. Deepwares plattform använder avancerade maskinlärningsalgoritmer för att analysera subtila inkonsekvenser i videodata, såsom onaturliga rörelser, oregelbunden belysning och pixelfel som ofta finns i AI-genererat innehåll. Genom att identifiera dessa diskrepanser kan Deepwares teknik bestämma om en video är äkta eller har manipulerats, vilket hjälper till att skydda individer och organisationer från att bli lurade av sofistikerade video-baserade bedrägerier och desinformationskampanjer.

Identifieringsautentiseringsframsteg

Det finns olika sätt som utvecklas för att bekräfta en användares identitet, och ett eller flera av dessa kommer att bli mainstream under de kommande åren för att göra internet säkrare.

Tvåstegsautentisering för fjärrsamtal: Tvåfaktorsautentisering (2FA) förblir en grundläggande komponent i säker kommunikation. Under denna metod utlöser varje telefonsamtal eller e-postmeddelande en textmeddelande med en unik verifieringskod, liknande nuvarande e-postregistreringar. Även om 2FA är effektivt för grundläggande autentisering, innebär dess begränsningar att den inte kan lita på i alla sammanhang, vilket kräver utvecklingen av mer avancerade metoder för att säkerställa omfattande internet-säkerhet som kan fungera i bakgrunden.

Beteendebaserad multifaktorautentisering: Utöver att bara verifiera identitet vid början av ett samtal, kan framtida säkerhetssystem kontinuerligt analysera beteende under en interaktion. Företag som BioCatch använder beteendebiometri för att skapa användarprofiler baserat på hur individer interagerar med sina enheter. Denna teknik kan upptäcka avvikelser i beteende som kan indikera att en bedragare använder stulen information, även om de har passerat initiala autentiseringskontroller.

Biometrisk autentisering: Företag som Onfido är i framkant av biometrisk verifieringsteknologi, som erbjuder AI-drivna identitetsverifieringsverktyg som upptäcker sofistikerade deepfakes och andra former av identitetsbedrägeri. Deras system använder en kombination av dokumentverifiering och biometrisk analys för att säkerställa att personen på andra sidan av ett samtal eller videokonferens verkligen är den de påstår sig vara.

Avancerad kunskapsbaserad autentisering: Framtida autentiseringssystem kan inkorporera dynamiska, AI-genererade frågor baserade på en användares digitala fotavtryck och nyliga aktiviteter. Till exempel Prove, ett företag som specialiserar sig på telefoncentrerad identitet, utvecklar lösningar som utnyttjar telefonintelligens och beteendeanalys för att verifiera identiteter. Deras teknik kan analysera mönster i hur en person använder sin enhet för att skapa en unik “identitetssignatur” som är betydligt svårare för bedragare att replikera.

Blockkedjebaserad identitetsverifieringsautentisering: Blockkedjetechnologi erbjuder ett decentraliserat och oföränderligt sätt att verifiera identitet. Företag som Civic är pionjärer inom blockkedjebaserade identitetsverifieringssystem som tillåter användare att kontrollera sin personliga information samtidigt som de tillhandahåller säker autentisering. Dessa system skapar en verifierbar, oföränderlig post om en persons identitet, som är utmärkt för att hantera högrisktransaktioner.

Slutsats

Konvergensen av LLM, RAG, syntetisk ljudgenerering, syntetisk videogenerering och läppsynkroniseringsteknologier är något av en dubbeleggad svärd. Medan dessa framsteg har enorm potential för positiva tillämpningar, utgör de också betydande risker när de används av bedragare.

Denna pågående kapplöpning mellan säkerhetsexperter och cyberkriminella understryker behovet av kontinuerlig innovation och vaksamhet inom digital säkerhet. Vi kan arbeta mot att utnyttja fördelarna med dessa kraftfulla verktyg samtidigt som vi mildrar deras potential för skada, endast genom att erkänna och förbereda oss för dessa risker.

Omfattande reglering, utbildning om dessa nya former av bedrägerier, investeringar i avancerade säkerhetsåtgärder och kanske viktigast, en sund dos av skepsis från var och en av oss när vi interagerar med okända enheter online eller via telefon, kommer att vara avgörande för att navigera i detta nya landskap.