Construire la confiance dans l’IA avec la vérification d’identité

L’IA générative a captivé l’intérêt des entreprises à l’échelle mondiale. En fait, ​​60% des organisations ayant adopté l’IA utilisent désormais l’IA générative. Les dirigeants d’aujourd’hui sont en train de déterminer comment intégrer les outils d’IA dans leurs piles technologiques pour rester compétitifs et pertinents – et les développeurs d’IA créent plus d’outils que jamais auparavant. Mais, avec l’adoption rapide et la nature de la technologie, de nombreuses préoccupations en matière de sécurité et d’éthique ne sont pas pleinement prises en compte alors que les entreprises se précipitent pour intégrer la dernière et la meilleure technologie. En conséquence, la confiance est en train de disparaître.

Un récent sondage a révélé que seulement 48% des Américains pensent que l’IA est sûre et sécurisée, tandis que 78% déclarent être très ou assez préoccupés que l’IA puisse être utilisée à des fins malveillantes. Alors que l’IA a été trouvée pour améliorer les flux de travail quotidiens, les consommateurs sont préoccupés par les acteurs malveillants et leur capacité à manipuler l’IA. Les capacités de deepfake, par exemple, deviennent de plus en plus menaçantes à mesure que l’accessibilité de la technologie aux masses augmente.

Avoir un outil d’IA ne suffit plus. Pour que l’IA atteigne son véritable potentiel bénéfique, les entreprises doivent intégrer l’IA dans des solutions qui démontrent une utilisation responsable et viable de la technologie pour apporter une confiance plus élevée aux consommateurs, en particulier dans la cybersécurité où la confiance est essentielle.

Les défis de cybersécurité de l’IA

La technologie d’IA générative progresse à un rythme rapide et les développeurs commencent seulement à comprendre l’importance de l’intégrer dans l’entreprise, comme en témoigne le lancement récent de ChatGPT Enterprise.

La technologie d’IA actuelle est capable de réaliser des choses qui n’étaient mentionnées que dans le domaine de la science-fiction il y a moins d’une décennie. Son fonctionnement est impressionnant, mais l’expansion relativement rapide à laquelle tout cela se produit est encore plus impressionnante. C’est ce qui rend la technologie d’IA si évolutiva et accessible aux entreprises, aux individus et, bien sûr, aux fraudeurs. Alors que les capacités de la technologie d’IA ont ouvert la voie à l’innovation, son utilisation généralisée a également conduit au développement de technologies dangereuses telles que les deepfakes-as-a-service. Le terme « deepfake » est dérivé de la technologie qui crée ce type de contenu manipulé (ou « faux ») nécessitant l’utilisation de techniques d’apprentissage profond.

Les fraudeurs suivront toujours l’argent qui leur offre le meilleur retour sur investissement – donc toute entreprise avec un retour potentiel élevé sera leur cible. Cela signifie que les fintech, les entreprises qui paient des factures, les services gouvernementaux et les détaillants de biens de haute valeur seront toujours en tête de leur liste.

Nous sommes à un moment où la confiance est en jeu, et les consommateurs sont de plus en plus méfiants, offrant aux fraudeurs amateurs plus d’opportunités que jamais pour attaquer. Avec la nouvelle accessibilité des outils d’IA et le coût de plus en plus bas, il est plus facile pour les acteurs malveillants de toutes compétences de manipuler les images et les identités des autres. Les capacités de deepfake deviennent plus accessibles aux masses grâce aux applications et aux sites Web de deepfake, et la création de deepfakes sophistiqués nécessite très peu de temps et un niveau de compétences relativement faible.

Avec l’utilisation de l’IA, nous avons également vu une augmentation des prises de contrôle de comptes. Les deepfakes générés par l’IA rendent facile pour quiconque de créer des impersonations ou des identités synthétiques, qu’il s’agisse de célébrités ou même de votre patron. ​​

L’IA et les applications de langage génératives à grande échelle (LLM) peuvent être utilisées pour créer des fraudes plus sophistiquées et plus difficiles à détecter et à supprimer. Les LLM en particulier ont créé une utilisation généralisée d’attaques de phishing qui peuvent parler votre langue maternelle parfaitement. Cela crée également un risque de « fraude amoureuse » à grande échelle, lorsque une personne établit une connexion avec quelqu’un à travers un site de rencontres ou une application, mais la personne avec laquelle elle communique est un escroc utilisant un faux profil. Cela amène de nombreuses plateformes sociales à envisager de déployer des « preuves d’humanité » pour rester viables à grande échelle.

Cependant, les solutions de sécurité actuelles en place, qui utilisent l’analyse de métadonnées, ne peuvent pas arrêter les acteurs malveillants. La détection de deepfake repose sur des classificateurs qui recherchent les différences entre les contenus réels et faux. Cependant, cette détection n’est plus suffisamment puissante, car ces menaces avancées nécessitent plus de points de données pour les détecter.

IA et vérification d’identité : travailler ensemble

Les développeurs d’IA doivent se concentrer sur l’utilisation de la technologie pour fournir des garanties améliorées pour des mesures de cybersécurité éprouvées. Non seulement cela fournira un cas d’utilisation plus fiable pour l’IA, mais cela peut également fournir une utilisation plus responsable – encourageant de meilleures pratiques de cybersécurité tout en améliorant les capacités des solutions existantes.

Un des principaux cas d’utilisation de cette technologie est dans la vérification d’identité. Le paysage de menace de l’IA évolue constamment et les équipes doivent être équipées de technologies qui peuvent rapidement et facilement s’adapter et mettre en œuvre de nouvelles techniques.

Certaines opportunités dans l’utilisation de l’IA avec la technologie de vérification d’identité incluent :

• Examiner les attributs clés du dispositif
• Utiliser le contre-IA pour identifier la manipulation : Pour éviter d’être trompé et protéger les données importantes, le contre-IA peut identifier la manipulation des images entrantes.
• Considérer « l’absence de données » comme un facteur de risque dans certaines circonstances
• Rechercher activement des modèles à travers plusieurs sessions et clients

Ces défenses en couches fournies par l’IA et la technologie de vérification d’identité examinent la personne, son document d’identité affirmé, son réseau et son dispositif, en minimisant le risque de manipulation due aux deepfakes et en garantissant que seules les personnes de confiance et authentiques accèdent à vos services.

L’IA et la vérification d’identité doivent continuer à travailler ensemble. Plus les données de formation sont robustes et complètes, mieux le modèle est, et comme l’IA n’est que aussi bonne que les données qu’elle reçoit, plus nous avons de points de données, plus la vérification d’identité et l’IA peuvent être précises.

Le futur de l’IA et de la vérification d’identité

Il est difficile de faire confiance à quelque chose en ligne à moins que cela ne soit prouvé par une source fiable. Aujourd’hui, le cœur de la confiance en ligne repose sur l’identité prouvée. L’accessibilité aux LLM et aux outils de deepfake pose un risque de fraude en ligne croissant. Les groupes de crime organisé sont bien financés et peuvent désormais utiliser la dernière technologie à grande échelle.

Les entreprises doivent élargir leur paysage de défense et ne pas avoir peur d’investir dans la technologie, même si cela ajoute un peu de friction. Il ne peut plus y avoir qu’un seul point de défense – elles doivent examiner tous les points de données associés à la personne qui tente d’accéder aux systèmes, biens ou services et vérifier tout au long de leur parcours.

Les deepfakes continueront à évoluer et à devenir plus sophistiqués, les dirigeants d’entreprise doivent continuellement examiner les données des déploiements de solutions pour identifier de nouveaux modèles de fraude et travailler à évoluer leurs stratégies de cybersécurité en continu aux côtés des menaces.