Aarti Samani, grunnlegger og administrerende direktør i Shreem Growth Partners – Intervju-serie

Aarti Samani, grunnlegger og administrerende direktør i Shreem Growth Partners, er en teknologileder og AI-strateg med over to tiårs erfaring med å drive vekst over AI, digital identitet og biometrisk sikkerhet. Hun har hatt seniort stillinger i iProov og Digital Surgery (kjøpt av Medtronic), og ledet globale produkt- og markedsstrategier og sikret store finansieringsrunder. Hun er en hyppig kommentator på BBC og hovedtaler på globale arrangementer, inkludert Money 20/20 og CogX Festival, og rådgir styre og ledere om AI-etikk, styring og risiko, og hjelper organisasjoner med å bygge tillit og motstandskraft i en tid med kunstig intelligens.

Shreem Growth Partners hjelper organisasjoner med å beskytte seg mot deepfake-svindel og AI-drevet impersonering ved å fokusere på det menneskelige laget av forsvar. Gjennom tilpasset opplæring, ledelsesorientering, sårbarhetsvurderinger og strategiske konsultasjoner, utstyrer firmaet team og ledere til å gjenkjenne, reagere på og forhindre manipulasjonsforsøk. Ved å fremme bevissthet, beredskap og kulturell motstandskraft, gir Shreem organisasjoner mulighet til å beskytte sin identitet, omdømme og arbeidsstyrke mot utvikling av AI-trusler.

DU grunnla Shreem Growth Partners etter seniort stillinger i iProov, Medtronic Digital Surgery og andre AI-drevne selskaper. Hva inspirerte deg til å starte et selskap som er spesifikt viet til deepfake-svindel-motstand?

Etter lanseringen av ChatGPT i slutten av 2022, så vi en eksplosjon av AI-drevne medieteknologier som kunne klone stemmer og ansikter på minutter. De fleste organisasjoner så på dem som kreative akseleratorer for design og markedsføring. Men kriminelle så en ny mulighet for mer effektivt sosialt ingeniørarbeid.

Deepfakes ble raskt det foretrukne verktøyet for svindlere til å manipulere mennesker. Sikkerhetsteamene svarte ved å investere i oppdaggings-teknologi, men oppdaggelse alene kan ikke løse et problem som har sin rot i menneskelig tillit. Psykologi var bransjens blindpunkt.

Denne innsikten ledet meg til å grunnlegge Shreem Growth Partners, et selskap som er viet til å bygge deepfake-svindel-motstand gjennom bevissthet, simulering og kognitiv motstandskraft. Å styrke menneskers evne til å tenke kritisk og motstå manipulasjon er nøkkel til å mildne denne formen for svindel.

På iProov arbeidet du på fronten av ansiktsbiometri og identitetsverifisering. Hvordan avslørte denne erfaringen den voksende trusselen som deepfakes utgjør for autentiseringssystemer?

Som Chief Product og Marketing Officer i iProov, hjalp jeg med å bringe biometrisk ansiktsverifisering til sikkerhetsensitive organisasjoner over både offentlige og private sektorer. Disse institusjonene er konstante mål for organisert cyberkriminalitet. Deres motstandere er intelligente, godt finansierte og utstyrt med toppmoderne teknologi.

Vi begynte å se forsøk på å omgå biometriske systemer ved å bruke deepfakes bygget fra stjålne identiteter. Fordi iProov opererte som en sky-basert tjeneste, kunne vi observere disse angrepene i sanntid og analysere hvordan hver iterasjon utviklet seg. Det ble klart at kriminelle lærte raskere enn markedet tilpasset seg.

Denne erfaringen ga meg en innsideforståelse av hvordan deepfake-aktivert svindel utviklet seg og en dyp forståelse av hvordan kreativitet og psykologi driver cyberkriminalitet. Denne samme forståelsen av kriminelt tankesett informerer nå mitt arbeid med deepfake-svindel-motstand.

Deepfakes brukes stadig oftere til å impersonere ledere, klone stemmer og utføre sosiale ingeniørangrep. Hvilke scenarier ser du oftest i feltet i dag?

Det er alltid enklere å få tilgang gjennom sosialt ingeniørarbeid enn å bryte sikkerhetssystemer. Mens mennesker blir mer bevisste på tradisjonelle svindel, vender kriminelle seg til nye måter å manipulere tillit på.

Deepfake-teknologi har blitt det kraftigste sosiale ingeniørverktøyet vi har sett. Det muliggjør at forbytere kan generere høy-fidelitet-tillitssignaler: realistiske ansikter, stemmer og narrativer som omgår menneskelig dømmekraft.

Den kriminelle fordelen er ikke begrenset til å impersonere ledere eller betalinger. Stadig oftere er målene immaterielle rettigheter, sensitive data og tilgangskredensialer. Ved å trene AI-agenter og gi dem klonte stemmer, kan svindel nå utføres i skala, hastighet og presisjon som ingen menneskelig angriper kan matche. Det er trusselhorisonten vi går inn i.

Hva skiller en deepfake-svindel-motstandsprogram fra tradisjonell cybersikkerhet eller anti-phishing-trening?

Cybersikkerhetstreningsprogrammer, slik vi kjenner dem i dag, ble skapt på begynnelsen av 2000-tallet, da internettet og kommersiell databehandling fortsatt var under utvikling. Siden da har innholdet utviklet seg for å møte kravene til overholdelse, med fokus på LMS-plattformer og gamification for engasjement. Men trusselbildet har beveget seg videre.

I dag er svindelen intelligent, kreativ og psykologisk utformet. Kriminelle bruker AI med samme sofistikasjon som akademia eller bedrift. Trening må derfor gå utover overholdelse og inn i kognisjon.

Deepfake-svindel-motstandstreningsprogrammer kan ikke reduseres til om noen klikker på en lenke. Det må lære mennesker å tenke kritisk, å spørre om autentisiteten til ansikter og stemmer de interagerer med, og å gjenkjenne hvordan lett persepsjon kan manipuleres.

Liksom kognitiv motstandskraft må også legges vekt på. Økte emosjoner, distraherende sinn og konstant multitasking svekker kritisk tenkning. Bygging av kognitiv motstandskraft trener ansatte til å opprettholde en emosjonell likevekt og å forbli analytiske og våken. Det er nettopp den mentaliteten som trengs for å motstå manipulasjon.

Ditt selskap tilbyr Deepfake Sårbarhetsvurderinger og Bordssimuleringer. Kan du gå gjennom hva en av disse simuleringene ser ut som og hva slags innsikt kundene vanligvis får?

I våre sårbarhetsvurderinger og bordssimuleringer, reproduserer vi de siste deepfake-aktiverede angrepsvektorene fra virkelige hendelser. Vanlige scenarier inkluderer en falsk jobbsøker som bruker en klont identitet, en IT-hjelpdesk som er kompromittert for å nullstille multi-faktor autentisering kredensialer, eller en video-samtale med en AI-generert person som overbeviser ansatte om å laste ned skadelig programvare.

Disse simuleringene avslører hvordan mennesker reagerer under press og avslører blinde punkter i kommunikasjon, prosess og hendelsesrespons. Ledere oppdager ofte manglende ekspertise og uklar eierforhold. Resultatene fører vanligvis til et varig motstandsprogram. Et program som styrker svindellitteratur, prosess- og kulturforandring og kriseberedskap over hele organisasjonen.

Du snakker ofte om menneske-sentrert risikostyring. Hvordan kan selskaper gi sine ansatte mulighet til å oppdage og motstå deepfake-manipulasjon i stedet for å bare stole på tekniske verktøy?

Deepfakes utnytter samme neurale kredsløp som hjelper oss å vurdere tillit og emosjon. Våre hjerner er programmert til å prioritere visuelle og auditive signaler, da disse er de første sansene vi utvikler. Men vi har ikke ennå evolvert for å instinktivt spørre om disse signalene, så vi må lære og forsterke denne ferdigheten.

Selskaper kan gi sine ansatte mulighet til å trene dem til å behandle digitale interaksjoner med forsiktighet og nysgjerrighet. Når vi er på en tale- eller videosamtale, er vi i kontakt med et artefakt. Det artefaktet kan være en ekte person projisert på skjermen eller det kan være et kunstig ett. Vi kan ikke bestemme det visuelt.

Forsvaret er aktiv verifisering: å stille riktige spørsmål, å kontrollere detaljer og å merke seg inkonsistenser i narrativen. Den nye mantraen må være enkel – null tillit, alltid verifiser.

Deepfakes utvisker grensen mellom desinformasjon og svindel. Hvordan kan ledere forberede seg på reputasjons- og operasjonelle kriser utløst av syntetiske mediehendelser?

Ledelseslag må nå behandle deepfake-hendelser som en kjerneforretningsrisiko, ikke en hypotetisk en. Hvert enkelt medlem av ledelseslaget må vite sin rolle når en krise utvikler seg.

Liksom styre gransker risikoregister, må de også granske hendelsesresponsplaner, og disse kan ikke være statiske. Trusselbildet utvikler seg for raskt. Planene må testes og oppdateres minst to ganger i året, helst etter en bordssimulering som simulerer en virkelig hendelse.

Deepfake-kriser sitter sjelden pent innenfor én funksjon. De krever koordinasjon mellom kommunikasjon, juridisk, sikkerhet og HR. Organisasjonene som responderer best er de hvis ledere øver denne koordinasjonen før en virkelig hendelse skjer.

Det er også en psykologisk kostnad når ansatte eller ledere blir mål for overbevisende deepfakes. Hva slags støtte eller protokoller bør organisasjoner ha på plass for å håndtere denne menneskelige påvirkningen?

“Svindel-skam” må unngås til enhver pris. Organisasjoner må bygge en kultur av psykologisk trygghet lenge før en hendelse skjer. Når ansatte eller ledere blir mål for deepfakes, kan opplevelsen føles som et overfall. En tap av kontroll over sin egen likhet, stemme og digitale identitet.

Responsen må være både prosedyrisk og menneskelig. Klare rapporteringsprosedyrer må sitte sammen med mental helsestøtte, konfidensielle avhør og tilgang til digital forensikk så individer forstår hva som skjedde.

Ledere setter tonen. Når ledere snakker åpent om manipulasjonsforsøk og gjenopprettelse, fjerner det stigma og oppmuntrer til åpenhet. Den åpenheten er det som omdanner individuell sårbarhet til kollektiv motstandskraft.

Som grunnlegger av et konsulentselskap i dette området, hva er dine største bekymringer om hvor raskt generativ AI utvikler seg — og hvor ser du den neste bølgen av deepfake-egenskaper dukke opp?

Generativ AI utvikler seg i en ekstraordinær fart. Det er ikke bekymringen i seg selv. Den virkelige risikoen ligger i dens raskt voksende tilpasning og vedvarende bruk over daglige forretningsoperasjoner. Takten i trusselhåndtering og bevissthet har ikke holdt tritt. Det gapet mellom trussel og motstandskraft er nettopp der svindlere trives, med deepfakes som deres mest effektive hjelpemiddel.

Hvert nytt innovasjon blir et nytt overflate for utnyttelse. For tiden utgjør AI-agenter en voksende risiko. Når kombinerer med deepfake-teknologi, kan de utføre svindel i skala, hastighet og presisjon som ingen menneskelig angriper kan matche.

Omvendt, hva teknologier eller samarbeidsinnsats gir deg optimisme om at vi kan holde oss foran deepfake-drevet svindel og desinformasjon?

Det faktum at denne samtalen skjer i en respektert publikasjon, er i seg selv et tegn på fremgang. Det viser at innovatører, regulatorer, media og bedrifter alle er hardt rammet av desinformasjon.

Hva gir meg optimisme, er den voksende villigheten til å samarbeide. Deepfake-motstandskraft kommer ikke fra ett verktøy eller ett selskap, men fra delt intelligens. Læring til å utveksle informasjon og utdanne samfunnet like effektivt som kriminelle gjør.

Vi må ennå finjustere hvordan dette samarbeidet skjer, men intensjonen er der. Og den kollektive intensjonen er det som til slutt vil gjenopprette tillit.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Aarti Samani.