Aarti Samani, Oprichter en CEO van Shreem Growth Partners – Interviewreeks

Aarti Samani, Oprichter en CEO van Shreem Growth Partners, is een technologie-leider en AI-strateeg met meer dan twee decennia ervaring in het stimuleren van groei in AI, digitale identiteit en biometrische beveiliging. Ze heeft seniorenrollen gehad bij iProov en Digital Surgery (overgenomen door Medtronic), waar ze wereldwijde product- en marketingstrategieën leidde en grote financieringsrondes verzekerde. Als frequent commentator bij de BBC en hoofdspreker op wereldwijde evenementen, waaronder Money 20/20 en CogX Festival, adviseert ze raden en executives over AI-ethiek, governance en risico, waardoor organisaties vertrouwen en veerkracht opbouwen in de leeftijd van kunstmatige intelligentie.

Shreem Growth Partners helpt organisaties beschermen tegen deepfake-fraude en AI-gedreven impersonatie door zich te concentreren op de menselijke laag van verdediging. Door middel van maatwerktraining, executive-briefings, kwetsbaarheidsbeoordelingen en strategische consulten, richt het bedrijf teams en leiders op om manipulatiepogingen te herkennen, te reageren en te voorkomen. Door bewustzijn, paraatheid en culturele veerkracht te stimuleren, stelt Shreem organisaties in staat om hun identiteit, reputatie en werkkracht te beschermen tegen evoluerende AI-bedreigingen.

U hebt Shreem Growth Partners opgericht na seniorenrollen bij iProov, Medtronic Digital Surgery en andere AI-gedreven bedrijven. Wat inspireerde u om een bedrijf op te richten dat specifiek is gewijd aan deepfake-fraudebestendigheid?

Na de release van ChatGPT in het najaar van 2022, zagen we een explosie van AI-gepowered media-tools die in staat waren om stemmen en gezichten te klonen in enkele minuten. De meeste organisaties zagen ze als creatieve accelerators voor ontwerp en marketing. Maar criminelen zagen een nieuwe kans voor meer impactvolle sociale manipulatie.

Deepfakes werden snel het instrument van keuze voor fraudeurs om mensen te manipuleren. Beveiligingsteams reageerden door te investeren in detectietechnologie, maar detectie alleen kan een probleem dat wortelt in menselijk vertrouwen niet oplossen. Psychologie was de blinde vlek van de industrie.

Die inzicht leidde me ertoe om Shreem Growth Partners op te richten, een bedrijf dat zich richt op het opbouwen van deepfake-fraudebestendigheid door middel van bewustzijn, simulatie en cognitieve veerkracht. Het versterken van mensen’s vermogen om kritisch te denken en manipulatie te weerstaan is de sleutel tot het mitigeren van deze vorm van fraude.

Bij iProov werkte u aan de frontier van faciale biometrie en identiteitsverificatie. Hoe onthulde die ervaring de groeiende bedreiging die deepfakes vormen voor authenticatiesystemen?

Als Chief Product en Marketing Officer bij iProov, hielp ik biometrische gezichtsverificatie te brengen naar beveiligingsgevoelige organisaties in zowel de publieke als private sectoren. Deze instellingen zijn constante doelwitten voor georganiseerde cybercriminaliteit. Hun tegenstanders zijn intelligent, goed gefinancierd en uitgerust met state-of-the-art-technologie.

We begonnen te zien dat pogingen werden gedaan om biometrische systemen te omzeilen met deepfakes die waren gebouwd vanuit gestolen identiteiten. Omdat iProov opereerde als een cloud-gebaseerde beheerde service, konden we deze aanvallen in real-time observeren en analyseren hoe elke iteratie evolueerde. Het werd duidelijk dat de criminelen sneller leerden dan de markt aanpaste.

Die ervaring gaf me een inside-view van de evolutie van deepfake-enabled fraude en een diepe waardering voor hoe creativiteit en psychologie cybercriminaliteit drijven. Diezelfde kennis van de criminele mentaliteit informeert nu mijn werk in deepfake-fraudebestendigheid.

Deepfakes worden steeds vaker gebruikt voor executive-impersonatie, stemkloning en sociale manipulatie. Welke scenario’s ziet u het meest in het veld vandaag?

Het is altijd gemakkelijker om toegang te krijgen via sociale manipulatie dan door beveiligingssystemen te breken. Naarmate mensen meer bewust worden van traditionele scams, keren criminelen zich tot nieuwe manieren om vertrouwen te manipuleren.

Deepfake-technologie is het meest krachtige sociale manipulatie-instrument dat we ooit hebben gezien. Het stelt daders in staat om high-fidelity vertrouwenssignalen te genereren: realistische gezichten, stemmen en verhalen die menselijke oordeelkundigheid omzeilen.

Het criminele voordeel is niet beperkt tot executive-impersonatie of betalingen. Steeds vaker zijn de doelwitten intellectueel eigendom, gevoelige gegevens en toegangsreferenties. Door AI-agents te trainen en hen gekloonde stemmen te geven, kan fraude nu worden uitgevoerd op schaal, snelheid en precisie die geen menselijke aanvaller kan evenaren. Dat is het dreigingshorizon waar we in treden.

Wat onderscheidt een deepfake-fraudebestendigheidsprogramma van traditionele cybersecurity- of anti-phishing-training?

Cybersecurity-training zoals we die kennen, is ontwikkeld in de vroege jaren 2000, toen het internet en commerciële computing nog in ontwikkeling waren. Sindsdien is de inhoud geëvolueerd om te voldoen aan compliance-eisen, met een focus op LMS-platforms en gamificatie voor betrokkenheid. Maar het dreigingslandschap is verder gegaan.

Vandaag de dag is fraude intelligent, creatief en psychologisch geëngineerd. Criminelen gebruiken AI met dezelfde sofisticatie als academici of ondernemingen. Training moet daarom verder gaan dan compliance en cognitie in.

Deepfake-fraudebestendigheidstraining kan niet worden teruggebracht tot of iemand een link aanklikt. Het moet mensen leren kritisch te denken, de authenticiteit van gezichten en stemmen die ze interactie mee hebben, te betwisten en te erkennen hoe gemakkelijk perceptie kan worden gemanipuleerd.

Evenveel nadruk moet worden gelegd op cognitieve veerkracht. Verhoogde emoties, afgeleide geesten en constante multitasking verzwakken kritisch denken. Het opbouwen van cognitieve veerkracht traint werknemers om een emotionele evenwichtigheid te behouden en analytisch en alert te blijven. Het is precies de mentaliteit die nodig is om manipulatie te weerstaan.

Uw bedrijf biedt Deepfake Vulnerability Assessments en Tabletop Exercises aan. Kunt u ons door een van die simulaties heen loodsen en welke inzichten verkrijgen klanten typisch?

In onze kwetsbaarheidsbeoordelingen en tabletop-exercises, repliceren we de laatste deepfake-enabled aanvalsvectoren die zijn afgeleid van echte incidenten. Gemeenschappelijke scenario’s omvatten een nep-sollicitant die een gekloonde identiteit gebruikt, een IT-helpdesk die is gecompromitteerd om meervoudige authenticatie-referenties te resetten, of een video-gesprek met een AI-gegenereerd persona dat personeel overtuigt om schadelijke software te downloaden.

Deze simulaties onthullen hoe mensen reageren onder druk en onthullen blinde vlekken in communicatie, proces en incidentrespons. Executives ontdekken vaak ontbrekende expertise en onduidelijke eigenaarschap van beslissingen. Resultaten leiden typisch tot een duurzaam veerkrachtprogramma. Eentje dat fraude-literatuur, proces- en cultuurverandering, en crisisparaatheid versterkt in de hele organisatie.

U spreekt vaak over human-centric risicobeheer. Hoe kunnen bedrijven hun mensen empoweren om deepfake-manipulatie te detecteren en te weerstaan in plaats van alleen te vertrouwen op technische tools?

Deepfakes exploiteren hetzelfde neurale circuit dat ons helpt om vertrouwen en emotie te evalueren. Onze hersenen zijn geprogrammeerd om visuele en auditieve signalen te prioriteren, aangezien dit de eerste zintuigen zijn die we ontwikkelen. Maar we zijn nog niet geëvolueerd om instinctief deze signalen te betwisten, dus moeten we deze vaardigheid leren en voortdurend versterken.

Bedrijven kunnen hun werknemers empoweren door hen te trainen om digitale interacties met voorzichtigheid en nieuwsgierigheid te benaderen. Wanneer we een voice- of video-gesprek voeren, engageren we ons met een artefact. Dat artefact kan een echte persoon zijn die op het scherm wordt geprojecteerd of het kan een kunstmatig een zijn. We kunnen dat visueel niet bepalen.

De enige verdediging is actieve verificatie: de juiste vragen stellen, details cross-checken en inconsistenties in het verhaal opmerken. De nieuwe mantra moet eenvoudig zijn — zero trust, altijd verifiëren.

Deepfakes vervagen de grens tussen desinformatie en fraude. Hoe kunnen executives zich voorbereiden op reputatie- en operationele crises die worden veroorzaakt door synthetische media-incidenten?

Leiderschapsteams moeten nu deepfake-incidenten behandelen als een kernbedrijfsrisico, niet als een hypothetisch een. Elk executive aan tafel moet weten wat zijn rol is wanneer een crisis zich ontwikkelt.

Net zoals raden risicoregisters bekijken, moeten ze ook incidentresponsplannen bekijken, en deze kunnen niet statisch zijn. Het dreigingslandschap evolueert te snel. Plannen moeten worden getest en minstens twee keer per jaar bijgewerkt, idealiter na een tabletop-exercise die een echte gebeurtenis simuleert.

Deepfake-crises zitten zelden netjes binnen één functie. Ze eisen coördinatie tussen communicatie, juridisch, beveiliging en HR. De organisaties die het beste reageren, zijn die waarvan de leiders die samenwerking oefenen voordat een echte incident zich voordoet.

Er is ook een psychologische kostenpost wanneer werknemers of executives het doelwit worden van overtuigende deepfakes. Welke ondersteuning of protocollen moeten organisaties hebben om die menselijke impact aan te pakken?

“Scam-shame” moet ten alle tijden worden vermeden. Organisaties moeten een cultuur van psychologische veiligheid opbouwen lang voordat een incident zich voordoet. Wanneer werknemers of executives het doelwit worden van deepfakes, kan de ervaring aanvoelen als een aanval. Een verlies van controle over eigen gelijkenis, stem en digitale identiteit.

De respons moet zowel procedureel als menselijk zijn. Duidelijke rapportageprotocollen moeten naast geestelijke gezondheidssteun, vertrouwelijke debriefs en toegang tot digitale forensics zitten, zodat individuen begrijpen wat er is gebeurd.

Leiders zetten de toon. Wanneer executives openlijk spreken over manipulatiepogingen en herstel, verwijderen ze de stigma en moedigen ze transparantie aan. Die openheid is wat individuele kwetsbaarheid in collectieve veerkracht verandert.

Als de oprichter van een consultancy in deze ruimte, wat zijn uw grootste zorgen over hoe snel generatieve AI evolueert — en waar ziet u de volgende golf van deepfake-mogelijkheden ontstaan?

Generatieve AI evolueert met een buitengewone snelheid. Dat is op zichzelf geen zorg. Het echte risico ligt in de snelle adoptie en stickiness ervan in alledaagse bedrijfsoperaties. Het tempo van dreigingsbeheer en bewustzijn is gewoon niet bijgehouden. Die kloof tussen dreiging en veerkracht is precies waar fraudeurs gedijen, met deepfakes als hun meest effectieve enabler.

Elke nieuwe innovatie wordt een ander oppervlak voor exploitatie. Op dit moment vormen AI-agents een groeiend risico. Wanneer ze worden gecombineerd met deepfake-technologie, kunnen ze fraude uitvoeren op schaal, snelheid en precisie die geen menselijke aanvaller kan evenaren.

Omgekeerd, welke technologieën of samenwerkingsinspanningen geven u optimisme dat we voor kunnen blijven lopen op deepfake-gedreven fraude en desinformatie?

Het feit dat dit gesprek plaatsvindt in een gerespecteerd publicatie is op zichzelf een teken van vooruitgang. Het toont aan dat innovators, regulators, media en ondernemingen allemaal worden getroffen door desinformatie.

Wat me optimisme geeft, is de groeiende bereidheid om samen te werken. Deepfake-veerkracht zal niet komen van één tool of één organisatie, maar van gedeelde intelligentie. Leren om informatie uit te wisselen en de gemeenschap te informeren zo efficiënt als criminelen doen.

We moeten nog leren hoe die samenwerking plaatsvindt, maar de intentie is er. En die collectieve intentie is wat uiteindelijk vertrouwen zal herstellen.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken Aarti Samani.