Aarti Samani, grundlægger og administrerende direktør for Shreem Growth Partners – Interview-serie

Aarti Samani, grundlægger og administrerende direktør for Shreem Growth Partners, er en teknologileder og AI-strateg med mere end to årtiers erfaring med at drive vækst inden for AI, digital identitet og biometrisk sikkerhed. Hun har haft ledende stillinger i iProov og Digital Surgery (opkøbt af Medtronic), hvor hun har ledet globale produkt- og markedsstrategier og sikret store finansieringsrundinger. Hun er en hyppig kommentator på BBC og keynote-taler på globale begivenheder, herunder Money 20/20 og CogX Festival, og hun rådgiver bestyrelser og ledere om AI-etik, styring og risiko, hvilket hjælper organisationer med at opbygge tillid og robusthed i den kunstige intelligens-alder.

Shreem Growth Partners hjælper organisationer med at beskytte sig mod deepfake-svindel og AI-drevet impersonation ved at fokusere på det menneskelige forsvarslag. Gennem tilpasset træning, executive-briefings, sårbarhedsanalyser og strategiske konsultationer udstyrer virksomheden hold og ledere til at genkende, reagere på og forhindre manipulationsforsøg. Ved at fremme bevidsthed, beredskab og kulturel robusthed giver Shreem organisationer mulighed for at beskytte deres identitet, rygte og arbejdsstyrke mod udviklende AI-trusler.

I grundlagde Shreem Growth Partners efter ledende stillinger i iProov, Medtronic Digital Surgery og andre AI-drevne virksomheder. Hvad inspirerede dig til at starte en virksomhed, der er specifikt dedikeret til deepfake-svindel-robusthed?

Efter udgivelsen af ChatGPT i slutningen af 2022 oplevede vi en eksplosion af AI-drevne medietools, der kan klone stemmer og ansigter på få minutter. De fleste organisationer så dem som kreative acceleratorer for design og marketing. Men kriminelle så en ny mulighed for mere effektiv social manipulation.

Deepfakes blev hurtigt det foretrukne værktøj for svindlere til at manipulere mennesker. Sikkerhedsholdene reagerede ved at investere i opdagede teknologi, men opdagede alene kan ikke løse et problem, der er rodnet i menneskelig tillid. Psykologi var branchens blindpunkt.

Den indsigt førte til, at jeg grundlagde Shreem Growth Partners, en virksomhed, der er dedikeret til at opbygge deepfake-svindel-robusthed gennem bevidsthed, simulation og kognitiv robusthed. At styrke menneskers evne til at tænke kritisk og modstå manipulation er nøglen til at mindske denne form for svindel.

På iProov arbejdede du på frontlinjen for ansigtsbiometri og identitetsverificering. Hvordan afslørede denne erfaring den voksende trussel, som deepfakes udgør for autentificeringssystemer?

Som Chief Product og Marketing Officer på iProov hjalp jeg med at bringe biometrisk ansigtsverificering til sikkerhedsfølsomme organisationer på tværs af både offentlige og private sektorer. Disse institutioner er konstante mål for organiseret cyberkriminalitet. Deres modstandere er intelligente, veluddannede og udstyret med avanceret teknologi.

Vi begyndte at se forsøg på at omgå biometriske systemer ved hjælp af deepfakes bygget fra stjålne identiteter. Fordi iProov fungerede som en cloud-baseret managed service, kunne vi observere disse angreb i realtid og analysere, hvordan hver iteration udviklede sig. Det blev klart, at kriminelle lærte hurtigere end markedet tilpassede sig.

Denne erfaring gav mig en indsidevinkel på udviklingen af deepfake-aktiveret svindel og en dyb forståelse for, hvordan kreativitet og psykologi driver cyberkriminalitet. Den samme forståelse af den kriminelle mindset informerer nu mit arbejde med deepfake-svindel-robusthed.

Deepfakes bruges stadig mere til executive-impersonation, stemme-kloning og sociale manipulationsangreb. Hvilke scenarier ser du oftest i markedet i dag?

Det er altid lettere at få adgang gennem social manipulation end ved at bryde sikkerhedssystemer. Da mennesker bliver mere bevidste om traditionelle svindel, vender kriminelle sig til nye måder at manipulere tillid på.

Deepfake-teknologi er blevet det kraftigste sociale manipulationsværktøj, vi har set. Det giver mulighed for at generere højtroende tillidssignaler: realistiske ansigter, stemmer og narrativer, der omgår menneskelig dømmekraft.

Den kriminelle fordel er ikke begrænset til executive-impersonation eller betalinger. Stigende mål er immaterielle rettigheder, følsomme data og adgangskoder. Ved at træne AI-agenter og give dem kloned stemmer kan svindel nu udføres i skala, hastighed og præcision, som ingen menneskelig angriber kan matche. Det er den trusselshorisont, vi træder ind i.

Hvad adskiller et deepfake-svindel-robusthedsprogram fra traditionel cybersecurity eller anti-phishing-træning?

Cyber-sikkerhedstræning, som vi kender det, blev skabt i begyndelsen af 2000’erne, da internettet og kommerciel computing stadig var under udvikling. Siden da er indholdet ændret for at møde compliance-krav, med fokus på LMS-platforme og gamification til engagement. Men trusselslandskabet har flyttet sig.

I dag er svindel intelligent, kreativ og psykologisk udformet. Kriminelle bruger AI med samme sofistikation som akademikere eller virksomheder. Træning må derfor gå ud over compliance og ind i kognition.

Deepfake-svindel-robusthedstræning kan ikke reduceres til, om nogen klikker på en link. Det må lære mennesker at tænke kritisk, at spørge om autenticiteten af ansigter og stemmer, de interagerer med, og at genkende, hvordan let perception kan manipuleres.

Lige så stor vægt skal lægges på kognitiv robusthed. Forhøjede følelser, distraherede sind og konstant multitasking svækker kritisk tænkning. At bygge kognitiv robusthed træner ansatte til at opretholde en emotionel ligevægt og til at forblive analytiske og vågne. Det er præcis den mindset, der er nødvendig for at modstå manipulation.

Jeres virksomhed tilbyder Deepfake-sårbarhedsanalyser og Tabletop-øvelser. Kan du forklare, hvordan en af disse simulationer ser ud, og hvilke indsighter kunder typisk får?

I vores sårbarhedsanalyser og tabletop-øvelser reproducerer vi de seneste deepfake-aktiverede angrebsvektorer, der er hentet fra virkelige begivenheder. Almindelige scenarier omfatter en falsk jobansøger, der bruger en klonet identitet, en IT-hjælpdeskompromitteret til at nulstille multi-faktor-autentificeringslegitimationer eller en videoopkald med en AI-genereret person, der overbeviser personalet om at downloade skadelig software.

Disse simulationer afslører, hvordan mennesker reagerer under pres, og viser blindspots i kommunikation, proces og krisehåndtering. Ledere opdager ofte manglende ekspertise og uklar ejerskab af beslutninger. Resultaterne fører typisk til et bæredygtigt robusthedsprogram, der styrker svindelliteracy, proces- og kulturændring samt kriseberedskab på tværs af organisationen.

I taler ofte om menneskecentreret risikostyring. Hvordan kan virksomheder give deres medarbejdere mulighed for at opdage og modstå deepfake-manipulation i stedet for kun at afhænge af tekniske værktøjer?

Deepfakes udnytter den samme neurale kredsløb, der hjælper os med at evaluere tillid og følelse. Vores hjerner er indrettet til at prioritere visuelle og auditive signaler, da disse er de første sanser, vi udvikler. Men vi har endnu ikke udviklet os til at instinktivt spørge om disse signaler, så vi må lære og forstærke denne færdighed.

Virksomheder kan give deres ansatte mulighed for at træne dem til at behandle digitale interaktioner med forsigtighed og nysgerrighed. Når vi er på en stemme- eller videoopkald, interagerer vi med en artefakt. Denne artefakt kan være en rigtig person projiceret på skærmen eller en kunstig en. Vi kan ikke bestemme det visuelt.

Det eneste forsvar er aktiv verificering: at stille de rigtige spørgsmål, krydskontrollere detaljer og bemærke inkonsistenser i narrativen. Den nye mantra må være enkel – zero tillid, altid verificer.

Deepfakes udvisker grænsen mellem misinformations- og svindel. Hvordan kan ledere forberede sig på reputations- og operationskriser udløst af syntetiske mediebegivenheder?

Lederteams må nu behandle deepfake-episoder som en kerneforretningsrisiko, ikke en hypotetisk en. Hver leder omkring bordet skal vide deres rolle, når en krise udvikler sig.

Ligesom bestyrelser gennemgår risikoregister, skal de også gennemgå krisehåndteringsplaner, og disse kan ikke være statiske. Trusselslandskabet udvikler sig for hurtigt. Planer skal testes og opdateres mindst to gange om året, helst efter en tabletop-øvelse, der simulerer en virkelig begivenhed.

Deepfake-kriser ligger sjældent pænt inden for en enkelt funktion. De kræver koordination mellem kommunikation, juridisk, sikkerhed og HR. De organisationer, der reagerer bedst, er dem, hvis ledere har øvet sig i samarbejdet, før en rigtig begivenhed indtræffer.

Der er også en psykologisk omkostning, når ansatte eller ledere bliver mål for overbevisende deepfakes. Hvad støtte eller protokoller bør organisationer have på plads for at håndtere den menneskelige påvirkning?

“Svindel-skam” skal undgås til enhver pris. Organisationer skal bygge en kultur af psykologisk sikkerhed lang tid før en begivenhed indtræffer. Når ansatte eller ledere bliver mål for deepfakes, kan oplevelsen føles som et overfald. En tab af kontrol over egen lignelse, stemme og digital identitet.

Reaktionen må være både procedurally og menneskelig. Klare rapporteringsprotokoller skal sidde sammen med mental sundhedsstøtte, fortrolige afhøringer og adgang til digital forensik, så individer forstår, hvad der skete.

Ledere sætter tonen. Når ledere taler åbent om manipulationsforsøg og genskabelse, fjerner det stigma og opmuntrer til åbenhed. Den åbenhed er, hvad der omdanner individuel sårbarhed til kollektiv robusthed.

Som grundlægger af en konsulentvirksomhed i dette område, hvad er dine største bekymringer om, hvor hurtigt generativ AI udvikler sig – og hvor ser du den næste bølge af deepfake-kapaciteter dukke op?

Generativ AI udvikler sig med ekstraordinær hastighed. Det i sig selv er ikke bekymringen. Den virkelige risiko ligger i dens hurtige adoption og fastholdelse på tværs af hverdagsforretninger. Temposkiftet i trusselsstyring og bevidsthed har ikke holdt trit. Den lukke mellem trussel og robusthed er præcis, hvor svindlere trives, med deepfakes som deres mest effektive værktøj.

Hver ny innovation bliver endnu en overflade for udnyttelse. Lige nu udgør AI-agenter en voksende risiko. Når kombineret med deepfake-teknologi, kan de udføre svindel i skala, hastighed og præcision, som ingen menneskelig angriber kan matche.

Omvendt, hvilke teknologier eller samarbejdsindsatser giver dig optimisme om, at vi kan holde os foran deepfake-drevet svindel og desinformation?

Det faktum, at denne samtale finder sted i en respekteret publikation, er i sig selv et tegn på fremgang. Det viser, at innovatorer, regulatorer, medier og virksomheder alle er ramt hårdt af desinformation.

Hvad giver mig optimisme, er den voksende villighed til samarbejde. Deepfake-robusthed vil ikke komme fra ét værktøj eller én organisation, men fra fælles intelligens. At lære at udveksle information og uddanne samfundet så effektivt, som kriminelle gør.

Vi har stadig brug for at finjustere, hvordan det samarbejde sker, men intentionen er der. Og den kollektive intention er, hvad der vil genskabe tillid i sidste ende.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Aarti Samani.