De Nieuwe Era van Executive Impersonation Heeft Niets te Maken met Executives

De afgelopen jaren was de grootste digitale bedreiging voor merken executive impersonation, vaak uitgevoerd via vervalste e-mailadressen of nep-socialmedia-accounts. Vandaag staan we voor een veel complexere en overtuigendere vijand: AI-agents.

De opkomst van autonome agents die worden aangedreven door grote taalmodellen (LLM’s), ontworpen om met weinig of geen menselijke tussenkomst te werken, heeft nieuwe mogelijkheden ontsloten die doen denken aan de opwinding die werd gezien in de vroege web2- en mobiele app-eras.

Hoewel echt autonome agents nog niet helemaal de sprong van visie naar realiteit hebben gemaakt, waarschuwen experts dat ze mogelijk al volgend jaar corporate netwerken kunnen binnendringen. De opwinding en adoptie die volgt, zal onvermijdelijk de aandacht trekken van steeds aanpassende cybercriminelen, die autonome agents zien als een nieuwe frontier voor digitale fraude. Wat gebeurt er als deze agents worden geïmpersonaliseerd? Of erger, als ze de impersonators zijn?

Net zoals mobiele apps ooit een overvloed aan valse versies kenden die waren gebouwd om inloggegevens te extraheren of malware te installeren, staan AI-agents nu op het punt om een soortgelijke golf van kopieën te krijgen. Deze keer zal het risico echter moeilijker te detecteren zijn en de schade mogelijk groter zijn.

Van Executive Impersonation naar Agent Spoofing

AI heeft al nieuwe wegen van fraude en bedrog ontsloten, gekenmerkt door voice cloning-scams die een executives spraakpatronen kunnen recreëren met behulp van slechts enkele seconden audio, en onlangs is er bewijs van real-time deepfake-video’s en voice-gebaseerde impersonaties gemeld. Stel je nu een autonome agent voor, die ogenschijnlijk jouw bedrijf vertegenwoordigt, die met klanten, investeerders of partners communiceert. Die agent kan worden ingebed op een website, geïntegreerd in een chatbot of zelfs via e-mail communiceren, en biedt plausibele, professionele en volledig valse interacties.

De voorganger van kopieeragents kan liggen in ” jailbreaking“-modellen, waarbij bedreigingsactoren LLM’s manipuleren, vaak via prompt-injecties of multi-turn-technieken, om schadelijke of valse uitvoer te produceren. Maar dit is pas het begin.

Volgens gegevens van PitchBook, hebben AI-bedrijven in 2024 131,5 miljard dollar opgehaald, wat meer is dan een derde van alle wereldwijde venture capital-deals. De AI-wapenwedloop, aangewakkerd door ambitieuze oprichters, hongerige investeerders en gretige overheden, zal de capaciteiten van deze opkomende technologie snel versnellen, waarvan de legitieme gebruikscases blijven worden uitgebuit voor nefaste doeleinden.

Generatieve AI heeft en zal blijven bijdragen aan de democratisering van de creatie van dergelijke agents. Terwijl platforms racen om ze te integreren, bestaan er weinig waarborgen om hun authenticiteit te verifiëren. Dit opent de deur naar een nieuwe klasse van impersonatie: niet alleen van mensen, maar ook van software.

Een Wake-Up Call voor Eager Merken en Nieuwsgierige Consumenten

Consumenten en merken zijn pas begonnen te begrijpen wat het betekent om een agent te vertrouwen. Maar vertrouwen is de spil van elke digitale interactie, en wanneer het wordt verbroken, kunnen de gevolgen verwoestend zijn.

Zoals waargenomen met deepfake-video’s en voice cloning, kunnen valse agents worden gebruikt om:

• Betalingen of gevoelige gegevens te vragen onder het mom van een gevestigd of anderszins betrouwbaar merk
• Gebruikers om te leiden naar malware-beheerde websites via sociale media-DM’s of betaalde advertenties
• KLANTVERTROUWEN te ondermijnen en reputatieschade op grote schaal te veroorzaken

Volgens een recent rapport van de Federal Trade Commission, waren impersonatiescams verantwoordelijk voor bijna 3 miljard dollar aan gemelde verliezen in de VS alleen – een aantal dat naar verwachting scherp zal stijgen nu AI-impersonatie soepeler en schaalbaarder wordt.

De Verspreiding van Valse Agents: Advertenties, Zoekopdrachten en Sociale Media

Wat besonders gevaarlijk is, is hoe kopieeragents worden verdeeld. Ze hebben geen eigen websites of domeinen nodig om grip te krijgen. Slechte actoren kunnen, en doen, gebruik van betaalde zoekresultaten en sociale media-platforms om kwaadaardige klonen van vertrouwde merken, executives of producten te promoten. Een gesponsorde link op Google of een gepromote post op Instagram is bijvoorbeeld voldoende om onschuldige gebruikers naar een valse agent of ondersteuningsportal te leiden.

Dit ecosystem-risico, waarbij slechte actoren legitieme digitale ruimte kapen om fraude te faciliteren, vereist een nieuwe school van denken voor cybersecurity. Het is niet langer voldoende om uw netwerk, uw cloud of de inloggegevens van uw medewerkers te beveiligen. De dreigingsperimeter van uw merk omvat nu elk advertentienetwerk, elk zoekplatform en elke derde partij waarmee uw klanten interactie hebben.

Actie OnderNemen Voordat Het Te Laat Is

We gaan een wereld binnen waarin de grens tussen mensen en agents steeds vager wordt. De bedreiging is niet langer alleen impersonatie van mensen, die momenteel een exponentiële groei doormaakt vanwege de beschikbare AI-hulpmiddelen, maar de impersonatie van digitale persona’s.

Hoe kunnen bedrijven zich hierop voorbereiden?

1. Kaart uw merks digitale aanwezigheid: Weet waar uw klanten met uw bedrijf en uw agents interactie hebben – of dat nu op uw site is, via API of via derden – en bewaak die toegangspunten actief op nep-aanvallen.
2. Bewaak de opkomende agent-ecosystemen: Terwijl open agent-marktplekken en -platforms (zoals Hugging Face Spaces) in populariteit toenemen, wees waakzaam voor lookalikes of forks van uw tools die elders verschijnen.
3. Verkort de tijd-tot-detectie (TTD) en tijd-tot-herstel (TTR): Gebruik oplossingen die het snel identificeren en verwijderen van impersonators mogelijk maken, vooral diegenen die betaalde advertenties of sociale platforms misbruiken, is cruciaal om schade te beperken.
4. Educatie voor uw gebruikers: Bouw transparantie in uw agent-ervaringen. Uw gebruikers moeten weten waar en hoe ze uw tools moeten verwachten te gebruiken en hoe ze rode vlaggen kunnen herkennen.
5. Stel agent-authenticiteitsprotocollen in: Werk naar cryptografische of metadata-gebaseerde verificatie die de oorsprong en legitimiteit van een agent kan bevestigen.

De oplossing ligt in het beveiligen van het AI-agents-ecosysteem, niet in het vermijden ervan. Net zoals we hebben geleerd om domeinen te verifiëren, e-mails te authentiseren en mobiele apps te controleren in het verleden, moeten we nu hetzelfde niveau van waakzaamheid uitbreiden naar de wereld van AI-agents. Als we nu niet vooruitgaan op agent-impersonatie, kunnen we ons binnenkort wel eens vinden in een gesprek met een vertrouwd uitziende assistent die voor de andere partij werkt.