Aarti Samani, grundare och VD för Shreem Growth Partners – Intervju-serie

Aarti Samani, grundare och VD för Shreem Growth Partners, är en teknisk ledare och AI-strateg med över två decenniers erfarenhet av att driva tillväxt inom AI, digital identitet och biometrisk säkerhet. Hon har haft ledande roller på iProov och Digital Surgery (förvärvad av Medtronic), lett globala produkt- och marknadsstrategier och säkrat stora finansieringsrundor. Hon är en frekvent kommentator på BBC och huvudtalare på globala evenemang, inklusive Money 20/20 och CogX Festival, och hon råder styrelser och chefer om AI-etik, styrning och risk, vilket hjälper organisationer att bygga förtroende och motståndskraft i den artificiella intelligensens tidevarv.

Shreem Growth Partners hjälper organisationer att skydda sig mot djupfalskhet och AI-driven imitation genom att fokusera på det mänskliga försvarsskiktet. Genom anpassad utbildning, chefsbriefingar, sårbarhetsbedömningar och strategiska konsultationer utrustar företaget team och ledare för att känna igen, svara på och förhindra manipulationsförsök. Genom att främja medvetenhet, beredskap och kulturell motståndskraft ger Shreem organisationer möjlighet att skydda sin identitet, rykte och arbetskraft mot utvecklande AI-hot.

Du grundade Shreem Growth Partners efter att ha haft ledande roller på iProov, Medtronic Digital Surgery och andra AI-drivna företag. Vad inspirerade dig att starta ett företag som är speciellt ägnat åt djupfalskhet och motståndskraft?

Efter lanseringen av ChatGPT i slutet av 2022 såg vi en explosion av AI-drivna medietekniker som kunde klona röster och ansikten på några minuter. De flesta organisationer såg dem som kreativa acceleratorer för design och marknadsföring. Men brottslingar såg en ny möjlighet för mer effektiv social ingenjörskonst.

Djupfalskhet blev snabbt verktyget för bedragare att manipulera människor. Säkerhetsteam svarade genom att investera i upptäckteknik, men upptäckt i sig kan inte lösa ett problem som har sin rot i mänskligt förtroende. Psykologi var branschens blind fläck.

Den insikten ledde mig att grunda Shreem Growth Partners, ett företag som är dedikerat till att bygga motståndskraft mot djupfalskhet genom medvetenhet, simulering och kognitiv motståndskraft. Att stärka människors förmåga att tänka kritiskt och motstå manipulation är nyckeln till att mildra denna form av bedrägeri.

På iProov arbetade du på frontlinjen för ansiktsbiometri och identitetsverifiering. Hur avslöjade den erfarenheten den växande hotbilden som djupfalskhet utgör för autentiseringssystem?

Som chef för produkt och marknadsföring på iProov hjälpte jag till att ta biometrisk ansiktsverifiering till säkerhetskänsliga organisationer inom både offentlig och privat sektor. Dessa institutioner är konstanta mål för organiserad cyberbrottslighet. Deras motståndare är intelligenta, välfinansierade och utrustade med toppmodernt teknologi.

Vi började se försök att kringgå biometiska system med hjälp av djupfalskhet byggd från stulna identiteter. Eftersom iProov opererade som en molnbaserad hanterad tjänst kunde vi observera dessa attacker i realtid och analysera hur varje iteration utvecklades. Det blev tydligt att brottslingarna lärde sig snabbare än marknaden anpassade sig.

Den erfarenheten gav mig en insikt i utvecklingen av djupfalskhet-aktiverat bedrägeri och en djup uppskattning för hur kreativitet och psykologi driver cyberbrottslighet. Samma förståelse för den kriminella mentaliteten informerar nu mitt arbete med djupfalskhet och motståndskraft.

Djupfalskhet används alltmer för att imitera chefer, klona röster och social ingenjörskonst. Vilka scenarier ser du oftast i fältet idag?

Det är alltid lättare att få tillgång genom social ingenjörskonst än genom att bryta säkerhetssystem. När människor blir mer medvetna om traditionella bedrägerier vänder sig brottslingar till nya sätt att manipulera förtroende.

Djupfalskhetsteknik har blivit det kraftfullaste verktyget för social ingenjörskonst vi någonsin har sett. Det möjliggör för förövare att generera högkvalitativa förtroendesignaler: realistiska ansikten, röster och berättelser som kringgår mänsklig bedömning.

Den kriminella fördelen är inte begränsad till chefimitation eller betalningar. Alltmer är målen immateriella rättigheter, känsliga data och åtkomstuppgifter. Genom att träna AI-agenter och ge dem klonade röster kan bedrägeri nu utföras i skala, hastighet och precision som ingen mänsklig angripare kan matcha. Det är den hotbild vi går in i.

Vad skiljer ett program för djupfalskhet och motståndskraft från traditionell cybersäkerhet eller anti-phishing-utbildning?

Cybersäkerhetsutbildning, som vi känner till den, skapades i början av 2000-talet, när internet och kommersiell databehandling fortfarande var under utveckling. Sedan dess har innehållet utvecklats för att möta kraven på regelefterlevnad, med fokus på LMS-plattformar och engagemang genom spelifiering. Men hotbilden har flyttat sig.

Dagens bedrägeri är intelligent, kreativt och psykologiskt konstruerat. Brottslingar använder AI med samma sofistikering som akademi eller företag. Utbildning måste därför gå utöver regelefterlevnad och in i kognition.

Djupfalskhet och motståndskraftsutbildning kan inte reduceras till om någon klickar på en länk. Den måste lära människor att tänka kritiskt, ifrågasätta äktheten hos ansikten och röster de interagerar med och känna igen hur lätt uppfattning kan manipuleras.

Liknande betoning måste läggas på kognitiv motståndskraft. Förhöjda känslor, distraherade sinnen och konstant multitasking försvagar kritiskt tänkande. Att bygga kognitiv motståndskraft tränar anställda att upprätthålla en emotionell jämvikt och att förbli analytiska och vaksamma. Det är exakt den mentalitet som behövs för att motstå manipulation.

Ert företag erbjuder djupfalskhetssårbarhetsbedömningar och bordssimuleringar. Kan du gå igenom vad en av dessa simuleringar ser ut och vilka insikter kunder vanligtvis får?

I våra sårbarhetsbedömningar och bordssimuleringar replikerar vi de senaste djupfalskhet-aktiverade attackvektorerna från verkliga incidenter. Vanliga scenarier inkluderar en falsk jobbsökande som använder en klonad identitet, en IT-helpdesk som komprometteras för att återställa multi-faktorautentiseringsuppgifter eller en videokonferens med en AI-genererad persona som övertygar personalen att ladda ner skadlig programvara.

Dessa simuleringar avslöjar hur människor svarar under tryck och avslöjar blinda fläckar i kommunikation, process och incidenthantering. Chefer upptäcker ofta saknad expertis och oklar ägande av beslut. Resultaten leder vanligtvis till ett hållbart motståndskraftsprogram. Ett som stärker bedrägerilitteracitet, process- och kulturändring och krisberedskap över hela organisationen.

Du talar ofta om människocentrerad riskhantering. Hur kan företag ge sina anställda möjlighet att upptäcka och motstå djupfalskhetmanipulation snarare än att enbart förlita sig på tekniska verktyg?

Djupfalskhet utnyttjar samma neurala kretsar som hjälper oss att utvärdera förtroende och känslor. Våra hjärnor är programmerade för att prioritera visuella och auditiva signaler, eftersom de är de första sinnena vi utvecklar. Men vi har inte utvecklat en instinktiv förmåga att ifrågasätta dessa signaler, så vi måste lära och förstärka den färdigheten.

Företag kan ge sina anställda möjlighet att behandla digitala interaktioner med försiktighet och nyfikenhet. När vi är på en röst- eller videokonferens interagerar vi med en artefakt. Den artefakten kan vara en riktig person som projiceras på skärmen eller en artificiell. Vi kan inte bestämma det visuellt.

Försvarsmekanismen är aktiv verifiering: att ställa rätt frågor, kontrollera detaljer och lägga märke till inkonsekvenser i berättelsen. Den nya devisen måste vara enkel – noll förtroende, alltid verifiera.

Djupfalskhet suddar ut gränsen mellan desinformation och bedrägeri. Hur kan chefer förbereda sig för ryktes- och driftskriser utlösta av syntetisk media-incidenter?

Ledningsteam måste nu behandla djupfalskhetincidenter som en kärnaffärsrisk, inte en hypotetisk. Varje chef runt bordet bör veta sin roll när en kris utvecklas.

Liksom styrelser granskar riskregister bör de också granska incidenthanteringsplaner, och dessa kan inte vara statiska. Hotbilden utvecklas för snabbt. Planer behöver testas och uppdateras minst två gånger om året, helst efter en bordssimulering som simulerar en verklig händelse.

Djupfalskkriser sällan sitter prydligt inom en funktion. De kräver samordning mellan kommunikation, juridik, säkerhet och HR. De organisationer som svarar bäst är de vars ledare repeterar den samarbetet innan en verklig incident inträffar.

Det finns också en psykologisk kostnad när anställda eller chefer blir mål för övertygande djupfalskhet. Vilket stöd eller protokoll bör organisationer ha på plats för att hantera den mänskliga påverkan?

“Bedrägeriskam” måste undvikas till varje pris. Organisationer bör bygga en kultur av psykologisk säkerhet långt innan en incident inträffar. När anställda eller chefer blir mål för djupfalskhet kan upplevelsen kännas som ett överfall. En förlust av kontroll över den egna likheten, rösten och digitala identiteten.

Svaret måste vara både proceduriellt och mänskligt. Tydliga rapporteringsprotokoll bör sitta bredvid mental hälsostöd, konfidentiella debriefingar och tillgång till digitala undersökningar så att individer förstår vad som hände.

Ledare sätter tonen. När chefer talar öppet om manipulationsförsök och återhämtning, tar det bort stigmatisering och uppmuntrar transparens. Den öppenheten är vad som förvandlar individuell sårbarhet till kollektiv motståndskraft.

Som grundare av ett konsultföretag inom detta område, vad är dina största bekymmer om hur snabbt generativ AI utvecklas – och var ser du den nästa vågen av djupfalskhetens förmågor?

Generativ AI utvecklas i en extraordinär takt. Det i sig är inte bekymret. Den verkliga risken ligger i dess snabba antagande och uthållighet över dagliga affärsoperationer. Takten för hotshantering och medvetenhet har inte hållit jämna steg. Det gapet mellan hot och motståndskraft är exakt där bedragare trivs, med djupfalskhet som deras mest effektiva verktyg.

Varje ny innovation blir en ny yta för exploatering. Just nu utgör AI-agenter en växande risk. När de kombineras med djupfalskhetsteknik kan de utföra bedrägeri i skala, hastighet och precision som ingen mänsklig angripare kan matcha.

Omvänt, vilka teknologier eller samarbetsinsatser ger dig optimism att vi kan hålla oss före djupfalskhet-drivet bedrägeri och desinformation?

Det faktum att denna konversation sker i en respekterad publikation är i sig ett tecken på framsteg. Det visar att innovatörer, regulatorer, media och företag alla är hårt drabbade av desinformation.

Vad som ger mig optimism är den växande viljan att samarbeta. Djupfalskhet och motståndskraft kommer inte från ett verktyg eller en organisation, utan från gemensam intelligens. Att lära sig att utbyta information och utbilda samhället så effektivt som brottslingarna gör.

Vi behöver fortfarande förbättra hur det samarbetet sker, men avsikten finns där. Och den kollektiva avsikten är vad som slutligen kommer att återställa förtroendet.

Tack för den utmärkta intervjun, läsare som vill lära sig mer kan besöka Aarti Samani.