Aarti Samani, Fondatrice e Amministratore Delegato di Shreem Growth Partners – Serie di Interviste

Aarti Samani, Fondatrice e Amministratore Delegato di Shreem Growth Partners, è un leader tecnologico e stratega di intelligenza artificiale con oltre due decenni di esperienza nella gestione della crescita in campo di intelligenza artificiale, identità digitale e sicurezza biometrica. Ha ricoperto ruoli di alto livello in iProov e Digital Surgery (acquisita da Medtronic), guidando strategie di prodotto e marketing a livello globale e assicurando importanti finanziamenti. Frequente commentatrice della BBC e relatrice chiave in eventi globali come Money 20/20 e CogX Festival, consiglia consigli di amministrazione e dirigenti su etica, governance e rischio dell’intelligenza artificiale, aiutando le organizzazioni a costruire fiducia e resilienza nell’era dell’intelligenza artificiale.

Shreem Growth Partners aiuta le organizzazioni a proteggersi contro le frodi di deepfake e l’impersonificazione guidata da intelligenza artificiale concentrandosi sul livello umano di difesa. Attraverso formazioni personalizzate, briefing esecutivi, valutazioni di vulnerabilità e consulenze strategiche, la società equipaggia team e leader per riconoscere, rispondere e prevenire tentativi di manipolazione. Favorire la consapevolezza, la preparazione e la resilienza culturale, Shreem consente alle organizzazioni di salvaguardare la propria identità, reputazione e forza lavoro contro le minacce di intelligenza artificiale in evoluzione.

Hai fondato Shreem Growth Partners dopo aver ricoperto ruoli di alto livello in iProov, Medtronic Digital Surgery e altre società guidate da intelligenza artificiale. Cosa ti ha ispirato a fondare una società dedicata specificamente alla resilienza alle frodi di deepfake?

Dopo il rilascio di ChatGPT alla fine del 2022, abbiamo assistito a un’esplosione di strumenti di media guidati da intelligenza artificiale in grado di clonare voci e volti in pochi minuti. La maggior parte delle organizzazioni li ha visti come acceleratori creativi per il design e il marketing. Ma i criminali hanno visto una nuova opportunità per un’ingegneria sociale più efficace.

I deepfake sono diventati rapidamente lo strumento di scelta per i truffatori per manipolare le persone. I team di sicurezza hanno risposto investendo in tecnologie di rilevamento, ma il rilevamento da solo non può risolvere un problema radicato nella fiducia umana. La psicologia era il punto cieco dell’industria.

Quell’intuizione mi ha portato a fondare Shreem Growth Partners, una società dedicata a costruire la resilienza alle frodi di deepfake attraverso la consapevolezza, la simulazione e la resilienza cognitiva. Rafforzare la capacità delle persone di pensare criticamente e resistere alla manipolazione è la chiave per mitigare questo tipo di frode.

Quando eri in iProov, hai lavorato alla frontiera della biometria facciale e della verifica di identità. Come quell’esperienza ha rivelato la crescente minaccia che i deepfake rappresentano per i sistemi di autenticazione?

Come Direttore del Prodotto e del Marketing in iProov, ho aiutato a portare la verifica facciale biometrica alle organizzazioni sensibili alla sicurezza nei settori pubblici e privati. Queste istituzioni sono costantemente bersaglio di crimine informatico organizzato. I loro avversari sono intelligenti, ben finanziati e dotati di tecnologia all’avanguardia.

Abbiamo iniziato a vedere tentativi di bypassare i sistemi biometrici utilizzando deepfake costruiti da identità rubate. Poiché iProov operava come un servizio gestito cloud, potevamo osservare questi attacchi in tempo reale e analizzare come ogni iterazione si evolveva. È diventato chiaro che i criminali stavano imparando più velocemente del mercato che si adattava.

Quell’esperienza mi ha dato una visione interna dell’evoluzione della frode abilitata da deepfake e una profonda comprensione di come la creatività e la psicologia guidino il crimine informatico. Quella stessa comprensione della mentalità criminale ora informa il mio lavoro nella resilienza alle frodi di deepfake.

I deepfake sono sempre più utilizzati per l’impersonificazione degli esecutivi, il cloning vocale e gli attacchi di ingegneria sociale. Quali scenari stai vedendo più spesso nel campo oggi?

È sempre più facile ottenere l’accesso attraverso l’ingegneria sociale che rompere i sistemi di sicurezza. Mentre le persone crescono nella consapevolezza degli schemi tradizionali, i criminali stanno passando a nuovi modi per manipolare la fiducia.

La tecnologia di deepfake è diventata lo strumento di ingegneria sociale più potente che abbiamo mai visto. Consente ai perpetratori di generare segnali di fiducia ad alta fedeltà: volti, voci e narrazioni realistici che bypassano il giudizio umano.

Il vantaggio criminale non è limitato all’impersonificazione degli esecutivi o ai pagamenti. Sempre più, gli obiettivi sono la proprietà intellettuale, i dati sensibili e le credenziali di accesso. Formando agenti di intelligenza artificiale e dandogli voci clonate, la frode può ora essere eseguita a scala, velocità e precisione che nessun attaccante umano potrebbe eguagliare. Quello è l’orizzonte della minaccia in cui stiamo entrando.

Cosa distingue un programma di resilienza alle frodi di deepfake dalla formazione tradizionale sulla sicurezza informatica o contro la phishing?

La formazione sulla sicurezza informatica come la conosciamo è stata creata all’inizio degli anni 2000, quando internet e calcolo commerciale stavano ancora prendendo forma. Da allora, il contenuto è evoluto per soddisfare le esigenze di conformità, con un focus su piattaforme di apprendimento e gamification per l’engagement. Ma il panorama delle minacce si è mosso.

La frode di oggi è intelligente, creativa e ingegnerizzata psicologicamente. I criminali utilizzano l’intelligenza artificiale con la stessa sofisticazione di accademia o impresa. La formazione deve quindi andare oltre la conformità e entrare nella cognizione.

La formazione sulla resilienza alle frodi di deepfake non può essere ridotta a se qualcuno fa clic su un collegamento. Deve insegnare alle persone a pensare criticamente, a mettere in discussione l’autenticità dei volti e delle voci con cui interagiscono e a riconoscere come facilmente la percezione possa essere manipolata.

Un’enfasi uguale deve essere posta sulla resilienza cognitiva. Emozioni elevate, menti distratte e multitasking costante indeboliscono il pensiero critico. Costruire la resilienza cognitiva addestra i dipendenti a mantenere un equilibrio emotivo e a rimanere analitici e allertati. È esattamente la mentalità necessaria per resistere alla manipolazione.

La tua società offre Valutazioni di Vulnerabilità di Deepfake e Esercitazioni di Tavolo. Puoi guidarci attraverso cosa assomiglia una di quelle simulazioni e quali insight i clienti di solito guadagnano?

Nelle nostre valutazioni di vulnerabilità e esercitazioni di tavolo, replichiamo i vettori di attacco abilitati da deepfake più recenti tratti da incidenti reali. Scenari comuni includono un candidato falso che utilizza un’identità clonata, un help desk IT compromesso per reimpostare le credenziali di autenticazione a più fattori o una chiamata video con una persona generata da intelligenza artificiale che convince lo staff di scaricare software dannoso.

Queste simulazioni espongono come le persone rispondono sotto pressione e rivelano punti ciechi nella comunicazione, nel processo e nella risposta agli incidenti. Gli esecutivi spesso scoprono competenze mancanti e proprietà di decisione non chiare. Gli esiti tipici portano a un programma di resilienza sostenibile. Uno che rafforza l’alfabetizzazione sulla frode, il cambiamento del processo e della cultura e la preparazione alla crisi in tutta l’organizzazione.

Parli spesso di gestione del rischio centrata sull’uomo. Come le società possono empowermentare i propri dipendenti per rilevare e resistere alla manipolazione di deepfake invece di affidarsi solo a strumenti tecnici?

I deepfake sfruttano lo stesso circuito neurale che ci aiuta a valutare la fiducia e l’emozione. I nostri cervelli sono cablati per dare priorità ai segnali visivi e uditivi, poiché sono i primi sensi che sviluppiamo. Ma non abbiamo ancora evoluto per mettere in discussione istintivamente questi segnali, quindi dobbiamo imparare e rafforzare continuamente quella capacità.

Le società possono empowermentare i propri dipendenti formandoli a trattare le interazioni digitali con cautela e curiosità. Quando siamo in una chiamata vocale o video, stiamo interagendo con un artefatto. Quell’artefatto potrebbe essere una persona reale proiettata sullo schermo o potrebbe essere artificiale. Non possiamo determinarlo visualmente.

L’unica difesa è la verifica attiva: fare le domande giuste, verificare i dettagli e notare le incongruenze nella narrazione. Il nuovo mantra deve essere semplice — zero fiducia, sempre verificare.

I deepfake confondono la linea tra disinformazione e frode. Come gli esecutivi possono prepararsi per crisi di reputazione e operative scatenate da incidenti di media sintetici?

I team di leadership devono ora trattare gli incidenti di deepfake come un rischio aziendale fondamentale, non ipotetico. Ogni esecutivo attorno al tavolo dovrebbe conoscere il proprio ruolo quando si verifica una crisi.

Proprio come i consigli di amministrazione esaminano i registri dei rischi, dovrebbero anche esaminare i piani di risposta agli incidenti, e questi non possono essere statici. Il panorama delle minacce evolve troppo rapidamente. I piani devono essere testati e aggiornati almeno due volte all’anno, idealmente dopo un’esercitazione di tavolo che simula un evento reale.

Le crisi di deepfake raramente si trovano all’interno di una sola funzione. Richiedono la coordinazione tra comunicazioni, legale, sicurezza e risorse umane. Le organizzazioni che rispondono meglio sono quelle i cui leader provano quella collaborazione prima che si verifichi un incidente reale.

C’è anche un costo psicologico quando i dipendenti o gli esecutivi diventano bersaglio di deepfake convincenti. Quali supporti o protocolli le organizzazioni dovrebbero avere in atto per affrontare quell’impatto umano?

La “vergogna della truffa” deve essere evitata a tutti i costi. Le organizzazioni dovrebbero costruire una cultura di sicurezza psicologica molto prima che si verifichi un incidente. Quando i dipendenti o gli esecutivi diventano bersaglio di deepfake, l’esperienza può sembrare un attacco. Una perdita di controllo sulla propria immagine, voce e identità digitale.

La risposta deve essere sia procedurale che umana. Protocolli di segnalazione chiari dovrebbero stare accanto al supporto per la salute mentale, alle discussioni confidenziali e all’accesso alla forensic digitale in modo che gli individui capiscano cosa è successo.

I leader fissano il tono. Quando gli esecutivi parlano apertamente dei tentativi di manipolazione e del recupero, rimuovono lo stigma e incoraggiano la trasparenza. Quella apertura è ciò che trasforma la vulnerabilità individuale in resilienza collettiva.

Come fondatrice di una società di consulenza in questo settore, quali sono le tue preoccupazioni più grandi su come l’intelligenza artificiale generativa sta evolvendo — e dove vedi la prossima ondata di capacità di deepfake emergere?

L’intelligenza artificiale generativa sta evolvendo a una velocità straordinaria. Quello in sé non è la preoccupazione. Il rischio reale giace nella sua rapida adozione e adesione attraverso le operazioni aziendali quotidiane. Il ritmo della gestione delle minacce e della consapevolezza semplicemente non ha tenuto il passo. Quella lacuna tra minaccia e resilienza è esattamente dove i truffatori prosperano, con i deepfake come loro strumento di frode più efficace.

Ogni nuova innovazione diventa un’altra superficie per lo sfruttamento. Al momento, gli agenti di intelligenza artificiale rappresentano un rischio crescente. Quando combinati con la tecnologia di deepfake, possono eseguire la frode a scala, velocità e precisione che nessun attaccante umano potrebbe eguagliare.

Al contrario, quali tecnologie o sforzi di collaborazione ti danno ottimismo che possiamo stare al passo con la frode guidata da deepfake e la disinformazione?

Il fatto che questa conversazione stia avvenendo in una pubblicazione rispettata è di per sé un segno di progresso. Mostra che innovatori, regulatori, media e imprese sono tutti colpiti duramente dalla disinformazione.

Ciò che mi dà ottimismo è la crescente volontà di collaborare. La resilienza ai deepfake non verrà da uno strumento o un’organizzazione, ma da un’intelligenza condivisa. Imparare a scambiare informazioni e educare la comunità con la stessa efficienza con cui i criminali lo fanno.

Dobbiamo ancora raffinare come quella collaborazione avviene, ma l’intento c’è. E quell’intento collettivo è ciò che alla fine ripristinerà la fiducia.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Aarti Samani.