Aarti Samani, fondatrice et PDG de Shreem Growth Partners – Série d’entretiens

Aarti Samani, fondatrice et PDG de Shreem Growth Partners, est une dirigeante dans le domaine de la technologie et une stratège en intelligence artificielle avec plus de deux décennies d’expérience dans la conduite de la croissance dans les domaines de l’IA, de l’identité numérique et de la sécurité biométrique. Elle a occupé des postes de direction chez iProov et Digital Surgery (acquis par Medtronic), en dirigeant les stratégies de produit et de marketing mondiales et en obtenant des tours de financement importants. Commentatrice fréquente de la BBC et conférencière principale lors d’événements mondiaux tels que Money 20/20 et CogX Festival, elle conseille les conseils d’administration et les dirigeants sur l’éthique, la gouvernance et les risques liés à l’IA, aidant les organisations à établir la confiance et la résilience à l’ère de l’intelligence artificielle.

Shreem Growth Partners aide les organisations à se protéger contre la fraude de deepfake et l’usurpation d’identité basée sur l’IA en se concentrant sur la couche de défense humaine. Grâce à une formation personnalisée, à des briefings exécutifs, à des évaluations de vulnérabilité et à des consultations stratégiques, la société équipe les équipes et les dirigeants pour reconnaître, répondre à et prévenir les tentatives de manipulation. En favorisant la sensibilisation, la préparation et la résilience culturelle, Shreem permet aux organisations de protéger leur identité, leur réputation et leur main-d’œuvre contre les menaces émergentes de l’IA.

Vous avez fondé Shreem Growth Partners après avoir occupé des postes de direction chez iProov, Medtronic Digital Surgery et d’autres sociétés axées sur l’IA. Qu’est-ce qui vous a inspiré à créer une entreprise consacrée spécifiquement à la résilience contre la fraude de deepfake ?

Après la sortie de ChatGPT à la fin de 2022, nous avons assisté à une explosion d’outils de médias alimentés par l’IA capables de cloner des voix et des visages en quelques minutes. La plupart des organisations les considéraient comme des accélérateurs de création pour le design et le marketing. Mais les criminels y ont vu une nouvelle opportunité pour une ingénierie sociale plus efficace.

Les deepfakes sont rapidement devenus l’outil de choix des fraudeurs pour manipuler les gens. Les équipes de sécurité ont répondu en investissant dans la technologie de détection, mais la détection seule ne peut pas résoudre un problème enraciné dans la confiance humaine. La psychologie était l’angle mort de l’industrie.

Cette prise de conscience m’a amené à fonder Shreem Growth Partners, une société dédiée à la construction de la résilience contre la fraude de deepfake grâce à la sensibilisation, à la simulation et à la résilience cognitive. Renforcer la capacité des gens à penser de manière critique et à résister à la manipulation est la clé pour atténuer ce type de fraude.

À iProov, vous avez travaillé à la pointe de la biométrie faciale et de la vérification d’identité. Comment cette expérience vous a-t-elle révélé la menace croissante que les deepfakes posent aux systèmes d’authentification ?

En tant que directrice des produits et du marketing chez iProov, j’ai aidé à introduire la vérification faciale biométrique dans des organisations sensibles à la sécurité dans les secteurs public et privé. Ces institutions sont constamment la cible de la cybercriminalité organisée. Leurs adversaires sont intelligents, bien financés et équipés de technologies de pointe.

Nous avons commencé à voir des tentatives pour contourner les systèmes biométriques en utilisant des deepfakes construits à partir d’identités volées. Puisque iProov opérait comme un service géré basé sur le cloud, nous pouvions observer ces attaques en temps réel et analyser comment chaque itération évoluait. Il est devenu clair que les criminels apprenaient plus vite que le marché n’adaptait.

Cette expérience m’a donné une vision interne de l’évolution de la fraude basée sur les deepfakes et une profonde appréciation de la façon dont la créativité et la psychologie conduisent la cybercriminalité. Cette même compréhension de l’esprit criminel éclaire maintenant mon travail dans la résilience contre la fraude de deepfake.

Les deepfakes sont de plus en plus utilisés pour l’usurpation d’identité d’exécutifs, le clonage de voix et les attaques d’ingénierie sociale. Quels scénarios voyez-vous le plus souvent sur le terrain aujourd’hui ?

Il est toujours plus facile d’accéder via l’ingénierie sociale que de briser les systèmes de sécurité. À mesure que les gens deviennent plus conscients des arnaques traditionnelles, les criminels se tournent vers de nouvelles façons de manipuler la confiance.

La technologie de deepfake est devenue l’outil d’ingénierie sociale le plus puissant que nous ayons jamais vu. Elle permet aux auteurs de générer des signaux de confiance de haute fidélité : des visages, des voix et des récits réalistes qui contournent le jugement humain.

L’avantage des criminels n’est pas limité à l’usurpation d’identité d’exécutifs ou aux paiements. De plus en plus, les cibles sont la propriété intellectuelle, les données sensibles et les informations d’identification. En formant des agents IA et en leur donnant des voix clonées, la fraude peut désormais être exécutée à grande échelle, à grande vitesse et avec précision. C’est l’horizon de la menace que nous abordons.

Qu’est-ce qui distingue un programme de résilience contre la fraude de deepfake d’une formation traditionnelle en cybersécurité ou en anti-phishing ?

La formation en cybersécurité telle que nous la connaissons a été créée au début des années 2000, lorsque l’Internet et l’informatique commerciale prenaient encore forme. Depuis, le contenu a évolué pour répondre aux besoins de conformité, avec un accent sur les plateformes LMS et la gamification pour l’engagement. Mais le paysage des menaces a évolué.

La fraude d’aujourd’hui est intelligente, créative et conçue sur le plan psychologique. Les criminels utilisent l’IA avec la même sophistication que l’université ou l’entreprise. La formation doit donc aller au-delà de la conformité et entrer dans la cognition.

La formation à la résilience contre la fraude de deepfake ne peut pas se réduire à savoir si quelqu’un clique sur un lien. Elle doit enseigner aux gens à penser de manière critique, à remettre en question l’authenticité des visages et des voix avec lesquels ils interagissent, et à reconnaître à quel point la perception peut être manipulée.

Un accent égal doit être mis sur la résilience cognitive. Les émotions exacerbées, les esprits distraits et le multitasking constant affaiblissent la pensée critique. Construire la résilience cognitive forme les employés pour maintenir un équilibre émotionnel et rester analytiques et vigilants. C’est exactement l’état d’esprit nécessaire pour résister à la manipulation.

Votre société propose des évaluations de vulnérabilité de deepfake et des exercices de table. Pouvez-vous nous guider à travers l’un de ces simulations et les connaissances que les clients tirent généralement ?

Dans nos évaluations de vulnérabilité et nos exercices de table, nous reproduisons les derniers vecteurs d’attaque basés sur les deepfakes tirés d’incidents réels. Des scénarios courants incluent un candidat à un poste qui utilise une identité clonée, un helpdesk IT compromis pour réinitialiser les informations d’identification d’authentification multifacteur, ou un appel vidéo avec une personne générée par IA qui convainc le personnel de télécharger des logiciels malveillants.

Ces simulations révèlent comment les gens réagissent sous pression et mettent au jour les angles morts dans la communication, le processus et la réponse aux incidents. Les dirigeants découvrent souvent des compétences manquantes et une propriété de décision peu claire. Les résultats mènent généralement à un programme de résilience durable. Celui qui renforce l’alphabétisation en matière de fraude, le changement de processus et de culture, ainsi que la préparation aux crises à travers l’organisation.

Vous parlez souvent de gestion des risques centrée sur l’humain. Comment les entreprises peuvent-elles habiliter leurs employés à détecter et à résister à la manipulation de deepfake plutôt que de compter uniquement sur des outils techniques ?

Les deepfakes exploitent les mêmes circuits neuronaux qui nous aident à évaluer la confiance et l’émotion. Nos cerveaux sont câblés pour donner la priorité aux indices visuels et auditifs, car ce sont les premiers sens que nous développons. Mais nous n’avons pas encore évolué pour remettre instinctivement en question ces indices, nous devons donc apprendre et renforcer constamment cette compétence.

Les entreprises peuvent habiliter leurs employés en les formant à aborder les interactions numériques avec prudence et curiosité. Lorsque nous sommes sur un appel vocal ou vidéo, nous interagissons avec un artefact. Cet artefact peut être une personne réelle projetée sur l’écran ou un artefact artificiel. Nous ne pouvons pas le déterminer visuellement.

La seule défense est la vérification active : poser les bonnes questions, vérifier les détails et remarquer les incohérences dans le récit. La nouvelle devise doit être simple – zéro confiance, toujours vérifier.

Les deepfakes brouillent la frontière entre les informations erronées et la fraude. Comment les dirigeants peuvent-ils se préparer aux crises de réputation et opérationnelles déclenchées par des incidents de médias synthétiques ?

Les équipes de direction doivent maintenant considérer les incidents de deepfake comme un risque commercial essentiel, et non hypothétique. Chaque dirigeant autour de la table devrait connaître son rôle lorsque une crise se déroule.

De la même manière que les conseils d’administration examinent les registres de risques, ils devraient également examiner les plans de réponse aux incidents, et ceux-ci ne peuvent pas être statiques. Le paysage des menaces évolue trop rapidement. Les plans doivent être testés sous stress et mis à jour au moins deux fois par an, idéalement après un exercice de table qui simule un événement réel.

Les crises de deepfake ne se situent rarement nettement dans une seule fonction. Elles exigent une coordination entre les communications, le juridique, la sécurité et les ressources humaines. Les organisations qui y répondent le mieux sont celles dont les dirigeants répètent cette collaboration avant qu’un incident réel ne se produise.

Il y a également un coût psychologique lorsque les employés ou les dirigeants deviennent la cible de deepfakes convaincants. Quels soutiens ou protocoles les organisations devraient-elles avoir en place pour répondre à cet impact humain ?

La « honte de l’arnaque » doit être évitée à tout prix. Les organisations devraient construire une culture de sécurité psychologique bien avant qu’un incident se produise. Lorsque les employés ou les dirigeants deviennent la cible de deepfakes, l’expérience peut ressembler à une agression. Une perte de contrôle sur son propre visage, voix et identité numérique.

La réponse doit être à la fois procédurale et humaine. Des protocoles de signalement clairs doivent coexister avec un soutien en matière de santé mentale, des débriefings confidentiels et un accès à la forensique numérique afin que les individus comprennent ce qui s’est passé.

Les dirigeants fixent le ton. Lorsque les dirigeants parlent ouvertement des tentatives de manipulation et de récupération, cela supprime la stigmatisation et encourage la transparence. Cette ouverture est ce qui transforme la vulnérabilité individuelle en résilience collective.

En tant que fondatrice d’une société de conseil dans ce domaine, quels sont vos plus grands soucis quant à la vitesse à laquelle l’IA générative évolue – et où voyez-vous la prochaine vague de capacités de deepfake émerger ?

L’IA générative évolue à une vitesse extraordinaire. Ce n’est pas là le souci. Le véritable risque réside dans son adoption rapide et son ancrage dans les opérations commerciales quotidiennes. Le rythme de la gestion des menaces et de la sensibilisation n’a tout simplement pas suivi. C’est l’écart entre la menace et la résilience où les fraudeurs prospèrent, avec les deepfakes comme leur outil d’exploitation le plus efficace.

Chaque nouvelle innovation devient une autre surface d’exploitation. Actuellement, les agents IA posent un risque croissant. Lorsqu’ils sont combinés avec la technologie de deepfake, ils peuvent exécuter la fraude à une échelle, une vitesse et une précision que aucun attaquant humain ne pourrait égaler.

Inversement, quels sont les technologies ou les efforts de collaboration qui vous donnent de l’optimisme quant à notre capacité à rester en tête de la fraude et de la désinformation basées sur les deepfakes ?

Le fait que cette conversation ait lieu dans une publication respectée est en soi un signe de progrès. Cela montre que les innovateurs, les régulateurs, les médias et les entreprises sont tous touchés par la désinformation.

Ce qui me donne de l’optimisme, c’est la volonté croissante de collaborer. La résilience contre les deepfakes ne viendra pas d’un outil ou d’une organisation, mais d’une intelligence partagée. Apprendre à échanger des informations et à éduquer la communauté aussi efficacement que les criminels le font.

Nous devons encore affiner la manière dont cette collaboration se produit, mais l’intention est là. Et c’est cette intention collective qui finira par restaurer la confiance.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Aarti Samani.