Den nye æra for executive impersonation kommer ikke til at involvere eksklusive ledere overhovedet

I de sidste få år har den største digitale trussel mod mærkerne været executive impersonation, ofte udført gennem spoofede e-mailadresser eller imposterende sociale medie-konti. I dag står vi over for en langt mere kompleks og overbevisende fjende: AI-agenter.

Opblomstringen af autonome agenter, der drives af store sprogmodeller (LLM’er), designet til at fungere med lidt eller ingen menneskelig indgriben, har åbnet nye muligheder, der minder om begejstringen set i de tidlige web2- og mobilapp-æraer.

mens sandt autonome agenter endnu ikke har taget springet fra vision til virkelighed, eksperter advarer de kan være i stand til at bevæge sig rundt på virksomhedens netværk allerede næste år. Begejstringen og antagelsen, der følger, vil uundgåeligt falde ind under radar af altid tilpasningsskyndige cyberkriminelle, der ser autonome agenter som en ny front for digitalt bedrageri. Så hvad sker der, når disse agenter bliver efterlignet? Eller værre, når de selv er efterligningerne?

Lige som mobilapps engang stod over for en oversvømmelse af falske versioner bygget til at udtrække loginoplysninger eller installere malware, er AI-agenter nu klar til at stå over for en lignende bølge af kopier. Denne gang vil dog risikoen være sværere at opdage, og skaden potentielt mere omfattende.

Fra executive impersonation til agent-spoofing

AI har allerede åbnet nye veje for bedrageri og bedrag, karakteriseret ved stemme-kloning-svindel, der kan genskabe en direktørs tale-mønstre ved hjælp af kun få sekunders lyd, og for nylig er der blevet rapporteret om bevis for realtids deepfake-video- og stemme-baseret efterligning. Forestil dig en autonom agent, der angiveligt repræsenterer din virksomhed, der interagerer med kunder, investorer eller partnere. Denne agent kan være integreret på en hjemmeside, i en chatbot eller endda interagerer via e-mail, tilbyder plausibelt, professionelt og fuldstændigt bedragerisk interaktion.

Forgængeren til kopierings-agenter kan ligge i “jailbreaking“-modeller, hvor truslerne manipulerer LLM’er, ofte gennem prompt-injektioner eller multi-turn-teknikker, for at producere skadelig eller forkert output. Men dette er kun begyndelsen.

Ifølge data fra PitchBook, har AI-virksomheder samlet 131,5 milliarder dollars i 2024, svarende til mere end en tredjedel af de samlede globale venture-kapitalaftaler. AI-kapløbet, drevet af ambitiøse grundlæggere, sultne investorer og ivrige regeringer, vil hurtigt accelerere denne opblomstringsteknologis muligheder, hvis legitime anvendelsesmuligheder vil fortsætte med at blive udnyttet til skadelige formål.

Generativ AI har og vil fortsætte med at demokratisere skabelsen af disse agenter. Da platforme konkurrerer om at integrere dem, findes der kun få sikkerhedsforanstaltninger til at verificere deres ægthed. Dette åbner døren for en ny klasse af efterligning: ikke kun af personer, men også af software.

En vækkelser til ivrige mærker og nysgerrige forbrugere

Forbrugere og mærker er kun begyndt at forstå, hvad det betyder at stole på en agent. Men tillid er den centrale del af enhver digital interaktion, og når den brydes, kan konsekvenserne være ødelæggende.

Som observeret med deepfake-videoer og stemme-kloning kan falske agenter blive brugt til:

• At bede om betalinger eller følsomme data under dække af et etableret eller på anden måde troværdigt mærke
• At omdirigere brugere til malware-inficerede hjemmesider via sociale medier DM’er eller betalte annoncer
• At underminere kunde-tilliden og udløse reputations-skader i stor målestok

Ifølge en seneste rapport fra Federal Trade Commission rapport, var efterligningssvindel ansvarlige for næsten 3 milliarder dollars i rapporterede tab i USA alene – et tal, der forventes at stige skarpt, da AI-efterligning bliver mere gnidningsløs og skalerbar.

Udbredelsen af falske agenter: Annoncer, søgning og sociale medier

Hvad der er særligt farligt, er, hvordan kopierings-agenter vil blive distribueret. De har ikke brug for deres egne hjemmesider eller domæner for at få fodfæste. Uærlige aktører kan, og gør, brug af betalte søge-resultater og sociale medie-platforme til at fremme skadelige kloner af troværdige mærker, direktører eller produkter. En sponsorlink på Google eller en fremhævet post på Instagram er nok til at føre uopmærksomme brugere til en falsk agent eller en supportportal.

Denne økosystem-niveau-risiko, hvor uærlige aktører kaprer legitime digitale ejendomme for at facilitere svindel, kræver en ny skole for cybersecurity. Det er ikke længere nok at sikre dit netværk, din cloud eller sikre dine medarbejderes legitimationsoplysninger. Din mærkes trussels-perimeter inkluderer nu hver annonce-netværk, søge-platform og tredjeparts-værktøj, som dine kunder interagerer med.

Tage handling før det er for sent

Vi er på vej ind i en verden, hvor grænsen mellem mennesker og agenter er mere og mere uklar. Truslen er ikke længere kun efterligning af personer, som for øjeblikket er i eksponentiel vækst på grund af tilgængelige AI-værktøjer, men efterligning af digitale personligheder.

Så hvordan kan virksomheder forberede sig?

1. Kortlæg din mærkes digitale tilstedeværelse: Vid, hvor dine kunder interagerer med din virksomhed og dine agenter – enten på din hjemmeside, via API eller gennem tredjeparter – og overvåg aktivt disse indgangspunkter for efterligningsforsøg.
2. Overvå opblomstringen af agent-økosystemer: Da åbne agent-markedspladser og -platforme (som Hugging Face Spaces) vinder popularitet, skal du være vagtsom over for lookalikes eller forks af dine værktøjer, der optræder andre steder.
3. Kort tid til opdagelse (TTD) og tid til afhjælpning (TTR): Brug løsninger, der tillader hurtigt at identificere og fjerne efterlignere, især dem, der misbruger betalte annoncer eller sociale platforme, er afgørende for at begrænse skaden.
4. Undervis dine brugere: Byg transparens ind i dine agent-oplevelser. Din bruger skal forstå, hvor og hvordan de skal forvente at interagere med dine værktøjer, og hvordan de kan spotte røde flag.
5. Etabler agent-autentificeringsprotokoller: Arbejd mod kryptografisk eller metadata-baseret verificering, der kan bekræfte en agents oprindelse og legitimitet.

Løsningen ligger i at sikre AI-agenter-økosystemet, ikke i at undgå det. Lige som vi har lært at verificere domæner, autentificere e-mails og verificere mobilapps i årtierne før, skal vi nu udvide samme grad af vagtsomhed til verden af AI-agenter. Hvis vi ikke kommer først med agent-efterligning nu, kan vi snart finde os selv i en situation, hvor vi taler med en velkendt agent, der arbejder for den anden side.