Forestill deg dette: Du er på jobb, fokusert på en tett frist, når du mottar et telefonopppring fra det som ser ut til å være morens telefonnummer. Stemmen på andre enden er ubestridelig hennes, rolig og kjærlig, men med en uvanlig hint av hastighet. Hun forteller deg at hun har havnet i alvorlige problemer mens hun er på ferie i Paris og trenger din økonomiske hjelp umiddelbart for å ordne ting. Du vet hun er i Paris, og detaljene hun gir, ned til navnet på hennes hotell, gjør samtalen enda mer overbevisende. Uten å nøle overfører du penger, bare for å oppdage senere at moren aldri ringte; det var et avansert AI-system som perfekt mimet hennes stemme og fabrikkerte en detaljert scenario. Kulde løper ned ryggen din når du innser hva som nettopp skjedde.

Dette scenariet, som en gang var ren science fiction, er nå en fremvoksende realitet. Gryningen av AI-teknologier som store språkmodeller (LLM) har ført til fantastiske fremgang. Likevel lurer en betydelig trussel: AI-drevne svindel. Potensialet for sofistikerte svindel drevet av kunstig intelligens er en ny trussel på horisonten av teknologisk fremgang. Mens telefonsvindel har vært en bekymring siden oppfinnelsen av telefonen, har den brede integreringen av store språkmodeller (LLM) i hver enkelt fasett av digital kommunikasjon dramatisk økt spillene. Mens vi omfavner AI-s potensial, er det avgjørende at vi også styrker våre forsvar mot disse stadig mer sofistikerte truslene.

Dagens landskap for telefonsvindel

Kriminelle har forsøkt å bedra uforberedte individer til å overføre penger eller avsløre følsomme opplysninger i årevis, men til tross for utbredelsen av telefonsvindel, er mange av disse svindelene relativt usofistikerte, og avhenger av menneskelige skript-lesende operatører. Likevel, selv med denne begrensningen, fortsetter telefonsvindel å være en lukrativ kriminell virksomhet.

Ifølge US Federal Trade Commission, i 2022 alene, tapte amerikanerne over 8,8 milliarder dollar til svindel, med en betydelig andel tilskrevet telefonsvindel, noe som betyr at selv i deres nåværende, mindre avanserte form, fungerer mange av disse taktikkene fortsatt på sårbare individer. Hva skjer når de utvikler seg?

AI-drevne svindels fremtid

Landskapet for telefonsvindel er på vei til å gjennomgå en dramatisk endring med oppfinnelsen av flere nøkkelteknologier:

Store språkmodeller (LLM)

Disse AI-systemene kan generere menneske-lignende tekst og engasjere i naturlige samtaler. Når de brukes til svindel, kan LLM-er skape svært overbevisende og adaptive skript, noe som gjør det mye harder for potensielle ofre å identifisere svindel.

Henting-forsterket generering (RAG)

Denne teknologien tillater LLM-systemer å få tilgang til og bruke enorme mengder informasjon i sanntid. Svimlere kan bygge en profil av en person basert på deres offentlig tilgjengelige informasjon, som deres sosiale konti. De kan også bruke sosial ingenjørteknikker på deres venner og familie for å samle inn dypere informasjon. Dette vil gi dem tilgang til informasjon som offerets identitet, arbeidsinformasjon eller selv nylige aktiviteter. De kan deretter bruke RAG til å gi LLM-er konteksten som trengs, og gjøre deres tilnærminger svært personlige og legitime.

Syntetisk audio-generering

Plattformer som Resemble AI og Lyrebird er i fremtredende stilling når det gjelder å skape svært realistiske AI-genererte stemmer. Disse teknologiene er i stand til å produsere personlige, menneske-lignende audio, som kan brukes i ulike applikasjoner, fra virtuelle assistenter til automatisert kundeservice og innholdsskapning. Selskaper som ElevenLabs presses grensene videre ved å aktivere brukere til å skape syntetiske stemmer som kan nært gjenspeile deres egen, og tillate en ny nivå av personliggjøring og engasjement i digitale interaksjoner.

Syntetisk video-generering

Selskaper som Synthesia demonstrerer allerede potensialet for å skape realistisk video-innhold med AI-genererte avatarer. I de kommende årene kan denne teknologien tillate svimlere å forkle seg som venner eller familiemedlemmer eller skape helt fiktive personer for video-samtaler, og introdusere et tidligere umulig nivå av fysisk realisme til svindel.

AI-lip-syncing

Startups som Sync Labs utvikler avansert lip-sync-teknologi som kan matche generert audio til video-opptak. Dette kan brukes til å skape svært overbevisende deep-fake videoer av historiske figurer, politikere, kjendiser og praktisk talt alle andre, og ytterligere utviske grensen mellom virkelighet og bedrag.

Kombinasjonen av disse teknologiene maler et ganske bekymringsfullt bilde. Forestill deg en svindel-samtale hvor AI kan tilpasse samtalen i sanntid, bevæpnet med personlig informasjon om målet, og selv gå over til en video-samtale med en tilsynelatende ekte person hvis lepper beveger seg i perfekt sync med den genererte stemmen. Potensialet for bedrag er virkelig enormt.

Behovet for forbedrede sikkerhetstiltak

Ettersom disse AI-drevne svindelene blir mer sofistikerte, må metoder for å verifisere identitet og autentisitet løpe i takt med AI-fremgangen. Det vil måtte være både regulativ og teknologisk fremgang for å holde den digitale verden trygg.

Regulativ forbedring

Striktere personvernlover: Implementering av mer strenge personvernlover ville begrense mengden personlig informasjon som er tilgjengelig for svimlere å utnytte. Disse lovene kunne inkludere strengere krav til datainnsamling, forbedret bruker-samtykke-protokoll og strengere straffer for data-brudd.

Privat sky for de kraftigste AI-modellene: Reguleringer kunne kreve at de kraftigste AI-modellene blir hostet på private, sikre sky-infrastrukturer i stedet for å være åpne og tilgjengelige. Dette ville begrense tilgangen til de mest avanserte teknologiene, og gjøre det vanskeligere for skurkaktige aktører å bruke dem til svindel. (Eksempel: https://security.apple.com/blog/private-cloud-compute/)

Internasjonal samarbeid om AI-reguleringer: Gitt den globale naturen av AI-teknologi, kunne internasjonal samarbeid om regulativ standarder være nyttig. Etablering av en global organisasjon ansvarlig for å skape og håndheve internasjonale AI-reguleringer kunne hjelpe i å takle grenseoverskridende AI-relaterte kriminalitet.

Offentlig bevisstgjøring-kampanjer: Regjeringer og regulativ organer burde investere i offentlig bevisstgjøring-kampanjer for å utdanne borgere om de potensielle riskene med AI-svindel og hvordan de kan beskytte seg selv. Bevisstgjøring er en kritisk første skritt i å gi individer og organisasjoner mulighet til å implementere nødvendige sikkerhetstiltak.

Nåværende AI-reguleringer er utilstrekkelige til å forhindre svindel, og utfordringen med fremtidig regulering er forsterket av den åpne natur av mange kraftige teknologier. Denne åpningen tillater noen å få tilgang til og modifisere disse teknologiene for deres egne formål. Som en følge av dette, sammen med sterkere reguleringer, er det også nødvendig med fremgang i sikkerhetsteknologier.

Syntetisk data-deteksjon

Syntetisk audio-deteksjon: Mens svimlere bruker AI, må også våre forsvar. Selskaper som Pindrop utvikler AI-drevne systemer som kan detektere syntetisk audio i sanntid under telefon-samtaler. Deres teknologi analyserer over 1 300 funksjoner av en samtale for å bestemme om det er en ekte person eller et sofistikeret AI-system.

Syntetisk video-deteksjon: Syntetisk video-deteksjon: Likeledes kan video også manipuleres av AI, og utgjør en betydelig trussel i form av deep-fakes og annen syntetisk video-innhold. Selskaper som Deepware er i fremtredende stilling når det gjelder å utvikle teknologier for å detektere syntetisk video. Deepware’s plattform bruker avanserte maskinlærings-algoritmer til å analysere subtile inkonsistenser i video-data, som uvanlige bevegelser, uregelmessig belysning og piksel-anomalier som ofte er til stede i AI-generert innhold. Ved å identifisere disse uregelmessighetene, kan Deepware’s teknologi bestemme om en video er ekte eller har blitt manipulert, og hjelpe med å beskytte individer og organisasjoner mot å bli lurt av sofistikerte video-baserte svindel og desinformasjonskampanjer.

Identifiseringsautentisering-fremgang

Det er flere måter som utvikles for å bekrefte en brukers identitet, og en eller flere av disse vil bli mainstream i de kommende årene for å gjøre internettet tryggere.

To-trinns autentisering for fjern-samtaler: To-faktor autentisering (2FA) forblir en grunnleggende komponent av sikker kommunikasjon. Under denne metoden ville hver telefon-samtale eller e-post utløse en tekst-melding med en unik verifiseringskode, lignende nåværende e-post-registrering. Selv om 2FA er effektiv for grunnleggende autentisering, betyr begrensningene at den ikke kan pålitelighetsfullt brukes i alle sammenhenger, og det må utvikles mer avanserte metoder for å sikre omfattende internett-sikkerhet som kan fungere i bakgrunnen.

Atferd-basert multi-faktor autentisering: Forbi å bare verifisere identitet ved starten av en samtale, kan fremtidens sikkerhetssystemer kontinuerlig analysere atferd gjennom hele interaksjonen. Selskaper som BioCatch bruker atferds-biometri til å skape bruker-profiler basert på hvordan individer interagerer med deres enheter. Denne teknologien kan detektere anomalier i atferd som kan indikere at en svindler bruker stjålet informasjon, selv om de har passerer initial autentiseringssjekker.

Biometrisk-basert autentisering: Selskaper som Onfido er i fremtredende stilling når det gjelder biometrisk verifiseringsteknologi, og tilbyr AI-drevne identitets-verifiserings-verktøy som kan oppdage sofistikerte deep-fakes og andre former for identitets-svindel. Deres system bruker en kombinasjon av dokument-verifisering og biometrisk analyse til å sikre at personen på andre enden av en samtale eller video-samtale virkelig er den de hevder å være.

Avansert kunnskaps-basert autentisering: Fremtidens autentiseringssystemer kan inkorporere dynamiske, AI-genererte spørsmål basert på en brukers digitale fotavtrykk og nylige aktiviteter. For eksempel, Prove, et selskap som spesialiserer seg på telefon-sentrert identitet, utvikler løsninger som utnytter telefon-intelligens og atferds-analyse til å verifisere identiteter. Deres teknologi kan analysere mønster i hvordan en person bruker sin enhet til å skape en unik “identitets-signatur” som er betydelig harder for svindlere å replikere.

Blockchain-basert identitets-verifisering: Blockchain-teknologi tilbyr en desentralisert og uforanderlig metode for identitets-verifisering. Selskaper som Civic er pionerer i blockchain-basert identitets-verifiseringssystemer som tillater brukere å kontrollere sine personlige opplysninger samtidig som de tilbyr sikker autentisering. Disse systemene skaper en verifiserbar, uforanderlig rekord av en persons identitet, som er ideell for å håndtere høy-risiko-transaksjoner.

Konklusjon

Konvergens av LLM-er, RAG, syntetisk audio-generering, syntetisk video-generering og lip-syncing-teknologier er en slags toegget sverd. Mens disse fremgangene har enormt potensial for positive anvendelser, utgjør de også betydelige risikoer når de brukes av svindlere.

Dette pågående våpenkappløpet mellom sikkerhetsekspertene og cyberkriminelle understreker behovet for kontinuerlig innovasjon og varsomhet i feltet digital sikkerhet. Vi kan arbeide mot å utnytte fordelene med disse kraftige verktøyene samtidig som vi minimiserer deres potensial for skade, bare ved å anerkjenne og forberede oss på disse riskene.

Omfattende regulering, utdanning om disse nye former for svindel, investering i avanserte sikkerhetstiltak og kanskje mest viktig, en sunn dose av skepsis fra hver og en av oss når vi engasjerer oss med ukjente enheter på nettet eller over telefonen, vil være essensielt i å navigere dette nye landskapet.