Forestil dig dette: Du er på arbejde, fokuseret på en tæt deadline, da du modtager et opkald fra, hvad der ser ud til at være din mors telefonnummer. Stemmen i den anden ende er ubestridelig hendes, rolig og kærlig, men med en usædvanlig antydning af urgency. Hun fortæller dig, at hun er kommet i alvorlige problemer, mens hun er på ferie i Paris, og har brug for din økonomiske hjælp med det samme for at løse tingene. Du ved, hun er i Paris, og detaljerne, hun giver, ned til navnet på hendes hotel, gør opkaldet endnu mere overbevisende. Uden at tænke sig om, overfører du pengene, kun for at opdage senere, at din mor aldrig gjorde det opkald; det var et avanceret AI-system, der perfekt efterlignede hendes stemme og fabrikerede en detaljeret scenario. Gysninger løber ned ad ryggen, da du realiserer, hvad der lige er sket.

Dette scenario, der engang var ren science fiction, er nu en opblomstrende realitet. Morgenen for AI-teknologier som store sprogmodeller (LLM) har bragt enorme fremskridt. Dog er der en betydelig trussel på horisonten: AI-drevne svindel. Potentialet for sofistikerede svindel, der er drevet af kunstig intelligens, er en helt ny trussel på teknologiens horisont. Mens telefonsvindel har været en bekymring siden opfindelsen af telefonen, har den brede integration af store sprogmodeller (LLM) i hver enkelt facet af digital kommunikation dramatisk øget spillet. Da vi omfavner AI’s potentiale, er det afgørende, at vi også styrker vores forsvar mod disse stadig mere sofistikerede trusler.

Nuværende Landskab for Telefonsvindel

Kriminelle har forsøgt at bedrage uvidende individer til at overføre penge eller afsløre følsomme oplysninger i årevis, men på trods af, at telefonsvindel er almindeligt, er mange af disse svindel relativt usofistikerede, da de afhænger af menneskelige script-læsere. Dog, selv med denne begrænsning, er telefonsvindel fortsat en lukrativ kriminel virksomhed.

Ifølge US Federal Trade Commission, tabte amerikanerne over 8,8 milliarder dollars til svindel i 2022 alene, med en betydelig del tilskrevet telefonsvindel, hvilket betyder, at selv i deres nuværende, mindre avancerede form, virker mange af disse taktikker stadig på sårbare individer. Hvad sker der, når de udvikler sig?

AI-Drevne Svindels Fremtid

Landskabet for telefonsvindel er på vej til at ændre sig dramatisk med indførelsen af flere nøgleteknologier:

Store Sprogmodeller (LLM)

Disse AI-systemer kan generere menneskelignende tekst og engagere i naturlige samtaler. Når de anvendes på svindel, kan LLM’er skabe meget overbevisende og adaptive manuskripter, hvilket gør det meget sværere for potentielle ofre at identificere svindel.

Retrieval-Augmented Generation (RAG)

Denne teknologi giver LLM-systemer mulighed for at få adgang til og anvende enorme mængder af information i realtid. Svimlere kan opbygge en profil af en person baseret på deres offentligt tilgængelige information, såsom deres sociale konti. De kan også bruge sociale ingeniørteknikker på deres venner og familie for at samle dybere information. Dette giver dem adgang til information såsom målets identitet, arbejdsinformation eller selv nylige aktiviteter. De kan derefter bruge RAG til at give LLM’erne kontekst, der er nødvendig for at gøre deres tilgange synlige og legitime.

Syntetisk Audio-Generering

Platforme som Resemble AI og Lyrebird er førende i udviklingen af højrealistiske AI-genererede stemmer. Disse teknologier er i stand til at producere personlige, menneskelignende audio, der kan anvendes i forskellige anvendelser, fra virtuelle assistenter til automatiseret kundeservice og indholdsskabelse. Virksomheder som ElevenLabs er ved at udvide grænserne yderligere ved at give brugerne mulighed for at skabe syntetiske stemmer, der kan efterligne deres egen, hvilket giver en ny niveau af personliggørelse og engagement i digitale interaktioner.

Syntetisk Video-Generering

Virksomheder som Synthesia er allerede ved at demonstrere potentialet for at skabe realistisk videoindhold med AI-genererede avatarer. I de kommende år kan denne teknologi muligvis give svimlere mulighed for at efterligne venner eller familiemedlemmer eller skabe helt fiktive personer til videoopkald, hvilket introducerer et tidligere umuligt niveau af fysisk realisme i svindel.

AI-Lip-Syncing

Startups som Sync Labs er ved at udvikle avanceret lip-sync-teknologi, der kan matche genereret audio til videooptagelser. Dette kan anvendes til at skabe meget overbevisende deep-fake-videoer af historiske figurer, politikere, berømtheder og praktisk talt alle andre, hvilket yderligere udvisker grænsen mellem virkelighed og bedrag.

Kombinationen af disse teknologier tegner et ret bekymrende billede. Forestil dig et svindelopkald, hvor AI kan tilpasse sin samtale i realtid, bevæbnet med personlig information om målet, og endda gå over til et videoopkald med en synligt virkelig person, hvis læber bevæger sig i perfekt sync med den genererede stemme. Potentialet for bedrag er virkelig enormt.

Behov for Forbedrede Sikkerhedsforanstaltninger

Da disse AI-drevne svindel bliver mere sofistikerede, skal metoderne til at verificere identitet og ægthed løbe med AI-fremskridtene. Der skal være både regulatoriske og teknologiske fremskridt for at holde den online-verden sikker.

Regulatoriske Forbedringer

Strængere persondata-love: Implementering af mere strænge persondata-love ville begrænse mængden af personlig information, der er tilgængelig for svimlere. Disse love kunne omfatte strængere krav til dataindsamling, forbedret bruger-samtykke og strengere straffe for datakrænkelser.

Privat Cloud til de mest Avancerede AI-Modeller: Reglerne kunne kræve, at de mest avancerede AI-modeller blev hostet på private, sikre cloud-infrastrukturer i stedet for at være åbent tilgængelige. Dette ville begrænse adgangen til de mest avancerede teknologier, hvilket ville gøre det sværere for kriminelle aktører at bruge dem til svindel. (f.eks. https://security.apple.com/blog/private-cloud-compute/)

Internationalt Samarbejde om AI-Reguleringer: Givet den globale natur af AI-teknologi kunne internationalt samarbejde om regulatoriske standarder være nyttigt. Etablering af en global organ, der er ansvarlig for at skabe og gennemføre internationale AI-reguleringer, kunne hjælpe med at tackle grænseoverskridende AI-relaterede forbrydelser.

Offentlige Bevidstgørelse-Kampagner: Regeringer og regulatoriske organer burde investere i offentlige bevidstgørelse-kampagner for at uddanne borgere om de potentielle risici ved AI-svindel og hvordan de kan beskytte sig selv. Bevidstgørelse er en kritisk første skridt i at give individer og organisationer mulighed for at implementere nødvendige sikkerhedsforanstaltninger.

Nuværende AI-reguleringer er utilstrækkelige til at forhindre svindel, og udfordringen ved fremtidig regulering er forkomplet af den åbne natur af mange kraftfulde teknologier. Denne åbenhed giver enhver adgang til at få adgang til og modificere disse teknologier til deres eget formål. Som følge heraf er der, sammen med stærkere reguleringer, også behov for fremskridt i sikkerhedsteknologier.

Syntetisk Data-Detektion

Syntetisk audio-detektion: Da svimlere anvender AI, skal vores forsvar også. Virksomheder som Pindrop er ved at udvikle AI-drevne systemer, der kan detektere syntetisk audio i realtid under telefonopkald. Deres teknologi analyserer over 1.300 funktioner af et opkalds audio for at bestemme, om det kommer fra en rigtig person eller et sofistikeret AI-system.

Syntetisk video-detektion: Syntetisk video-detektion: Lige som audio kan manipuleres af AI, kan video også manipuleres, hvilket udgør en betydelig trussel i form af deep-fakes og anden syntetisk videoindhold. Virksomheder som Deepware er førende i udviklingen af teknologier til at detektere syntetisk video. Deepwares platform anvender avancerede maskinlæringsalgoritmer til at analysere subtile inkonsistenser i video-data, såsom unaturlige bevægelser, uregelmæssig belysning og pixel-anomalier, der ofte er til stede i AI-genereret indhold. Ved at identificere disse diskrepanser kan Deepwares teknologi bestemme, om en video er ægte eller har været manipuleret, hvilket hjælper med at beskytte individer og organisationer mod at blive bedraget af sofistikerede video-baserede svindel og desinformation-kampagner.

Identitets-Authentificerings-Fremskridt

Der er flere måder under udvikling for at bekræfte en brugers identitet, og en eller flere af disse vil blive mainstream i de kommende år for at gøre internettet sikrere.

To-trins-authentificering for Fjern-Samtaler: To-faktor-authentificering (2FA) er fortsat en grundlæggende komponent i sikker kommunikation. Under denne metode ville hvert telefonopkald eller e-mail udløse en tekstbesked med en unik verificeringskode, lignende nuværende e-mail-tilmeldinger. Selv om 2FA er effektiv til grundlæggende authentificering, betyder dens begrænsninger, at den ikke kan tillides i alle sammenhænge, hvilket nødvendiggør udviklingen af mere avancerede metoder til at sikre omfattende internetsikkerhed, der kan fungere i baggrunden.

Adfærds-baseret multi-faktor-authentificering: Ud over at verificere identitet ved starten af en samtale, kan fremtidens sikkerhedssystemer måske kontinuerligt analysere adfærd under en interaktion. Virksomheder som BioCatch anvender adfærds-biometri til at skabe brugerprofiler baseret på, hvordan individer interagerer med deres enheder. Denne teknologi kan detektere anomalier i adfærd, der måske indikerer, at en svindler anvender stjålet information, selv om de har bestået de første authentificeringskontroller.

Biometrisk-baseret Authentificering: Virksomheder som Onfido er førende i biometrisk verificeringsteknologi, der tilbyder AI-drevne identitetsverificeringsværktøjer, der kan spotte sofistikerede deep-fakes og andre former for identitets-svindel. Deres system anvender en kombination af dokument-verificering og biometrisk analyse til at sikre, at personen på den anden side af et opkald eller video-samtale virkelig er, hvem de påstår at være.

Avanceret Viden-baseret Authentificering: Fremtidens authentificeringssystemer kan inkorporere dynamiske, AI-genererede spørgsmål baseret på en brugers digitale fodaftryk og nylige aktiviteter. For eksempel er Prove, en virksomhed, der specialiserer sig i telefon-centreret identitet, ved at udvikle løsninger, der udnytter telefon-intelligence og adfærds-analyse til at verificere identiteter. Deres teknologi kan analysere mønstre i, hvordan en person bruger deres enhed, til at skabe en unik “identitets-signatur”, der er betydeligt sværere for svindlere at replikere.

Blockchain-baseret Identitets-Verificerings-Authentificering: Blockchain-teknologi tilbyder en decentraliseret og uændringsbar metode til identitets-verificering. Virksomheder som Civic er førende i blockchain-baserede identitets-verificeringssystemer, der giver brugerne mulighed for at kontrollere deres personlige information, samtidig med at de giver sikker authentificering. Disse systemer skaber en verificerbar, uændringsbar optegnelse over en persons identitet, der er ideel til at styre høj-risiko-transaktioner.

Konklusion

Konvergens af LLM’er, RAG, syntetisk audio-generering, syntetisk video-generering og lip-syncing-teknologier er en slags toegget sværd. Mens disse fremskridt har enorm potentiale for positive anvendelser, udgør de også betydelige risici, når de anvendes af svindlere.

Dette løbende væddeløb mellem sikkerhedseksperter og cyberkriminelle understreger behovet for kontinuerlig innovation og vagtsomhed på området for digital sikkerhed. Vi kan kun udnytte fordelene ved disse kraftfulde værktøjer, mens vi minimiserer deres potentiale for skade, hvis vi erkender og forbereder os på disse risici.

Omfattende regulering, uddannelse om disse nye former for svindel, investering i avancerede sikkerhedsforanstaltninger og måske aller mest vigtigt, en sund portion skepsis fra hver og en af os, når vi interagerer med ukendte enheder online eller over telefonen, vil være afgørende for at navigere i dette nye landskab.