Les “Doubles Numériques Personnalisés” d’Agentic AI nécessiteront une évolution de la vérification d’identité

L’annonce d’Amazon concernant sa fonctionnalité “Buy for Me” a été une démarche audacieuse qui signale le véritable potentiel de l’IA agentic dans le commerce électronique. En permettant aux agents IA d’acheter des produits directement sur d’autres sites Web lorsque ces articles ne sont pas disponibles sur Amazon, l’entreprise se positionne comme le premier fournisseur d’expériences de shopping hautement pratiques et satisfaisantes.

L’IA agentic – où les agents autonomes agissent au nom de véritables utilisateurs – est sur la voie d’une adoption rapide par les entreprises, en particulier dans un contexte B2B. Imaginez un monde où les “agents IA B2B” opérant dans diverses capacités (telles que le service client, les ventes, la chaîne d’approvisionnement, les opérations IT, la finance et les RH) peuvent prendre des mesures sur des tâches d’entreprise plus mundaines sans intervention humaine.

L’IA agentic est également une bonne nouvelle dans le domaine de la consommation, avec les “agents IA B2C” offrant des opportunités significatives pour que les consommateurs économisent du temps et des efforts dans leur vie quotidienne. Considérez un “agent acheteur” qui peut aider les acheteurs en ligne à trouver les meilleures offres, à surveiller les baisses de prix, à automatiser les achats, à gérer les retours et à effectuer des réservations de voyage. Les possibilités dans diverses industries semblent infinies :

• Gestion de la finance personnelle et de la richesse – Pensez à des agents IA qui peuvent exécuter de manière autonome des stratégies financières, rééquilibrer les portefeuilles, trouver les meilleurs taux d’intérêt pour les économies et même gérer les déclarations de taxes.
• Service client et support (pour les particuliers) – Au lieu d’appeler un numéro de téléphone ou de discuter avec un bot, un IA agentic personnel peut communiquer directement avec l’IA agentic d’une entreprise pour résoudre des problèmes, clarifier des commandes ou apporter des modifications. Cela élimine la nécessité pour les individus de répéter des informations ou de naviguer dans des systèmes IVR complexes.
• Santé – Les agents IA seront en mesure de gérer les rendez-vous, de commander des ordonnances, de déposer des réclamations d’assurance et même de rechercher proactivement des secondes opinions ou d’analyser des recherches médicales au nom des patients.

L’adoption de l’IA agentic offre aux sites Web l’opportunité de se démarquer par une convivialité et des expériences utilisateur exceptionnelles. Cependant, de l’autre côté de la médaille, l’IA agentic est très vulnérable à la fraude. Les recherches montrent que les bots composent entre 40 et 50 pour cent de tout le trafic Web, avec environ 65 pour cent de ces bots considérés comme malveillants. L’IA agentic est essentiellement un moyen pour les consommateurs réguliers d’utiliser des bots, et les fraudeurs – qui utilisent souvent des bots en grande quantité pour permettre des opérations à grande échelle – auront maintenant un moyen beaucoup plus facile de se cacher en plein jour au milieu du trafic agentic légitime.

Au niveau fondamental, la capacité de distinguer entre ces bots malveillants et légitimes à grande échelle sera un facteur clé pour distinguer les leaders dans la course à l’IA agentic. Dans un monde agentic, les machines seront dotées d’une agence et marcheront dans les mêmes “allées cybernétiques” que les humains.

Mais le paysage du commerce électronique est-il prêt ?

L’IA agentic nécessitera une réflexion, ou une expansion, du cadre de vérification d’identité en ligne tel qu’il est connu aujourd’hui, ce qui à son tour nécessitera que les fournisseurs de solutions continuent à améliorer ce qu’ils font déjà. À ce jour, ce cadre a été centré sur trois questions :

• Est-ce que cette personne est réelle ? La prolifération rapide des deepfakes rend nécessaire des vérifications de vie pour toutes les transactions à haut risque, en garantissant qu’elles sont initiées par une personne réelle et vivante. Dans le contexte de l’IA agentic, la réponse peut être : “non, je ne suis pas une personne”, mais cela ne signifie pas que la vie est sans importance. La détection de vie devrait toujours faire partie des vérifications biométriques qui se produisent à des points à haut risque dans le parcours de l’utilisateur, pour garantir qu’un humain est dans la boucle – comme lors de la création d’un compte, du transfert d’argent ou de la récupération de compte (“J’ai oublié mon mot de passe”).
• Est-ce que cette personne est de confiance ? Il s’agit de la capacité de déterminer si l’utilisateur est un fraudeur, un futur client VIP ou quelque chose entre les deux, ce qui implique souvent de vérifier contre des bases de données publiques. Par exemple, quelqu’un qui tente de réserver un logement sur un marché de location en ligne serait signalé comme à haut risque s’il a un casier judiciaire connu de squat ou de destruction de propriété.
• Est-ce que cette personne est toujours derrière le compte ? Cela fait référence à une authentification continue, ou à la garantie, à intervalles réguliers, que la personne dont l’identité a été vérifiée à la connexion est toujours présente, empêchant la prise de compte par d’autres humains.

L’IA agentic ajoute une quatrième question – l’agent a-t-il l’autorité pour agir comme mandataire de l’utilisateur réel ? Cette question d’autorité est cruciale, confirmant le champ et la durée de l’autorisation de l’humain pour que l’agent IA agisse en son nom, conformément au contexte. Il ne s’agit pas seulement de déléguer une tâche à un humain ; il s’agit de garantir qu’un agent IA possède des autorisations spécifiques, révocables, conscientes du contexte et dérivées de l’humain. Toutes les actions de l’agent IA doivent être traçables à un humain réel et légitime ; c’est la clé pour que les sites B2C déployant l’IA agentic le fassent de manière sûre et responsable.

Selon une estimation récente, l’IA était à l’origine d’environ 20 pour cent de la fraude perpétrée en 2024 dans tous les secteurs, et ce chiffre ne devrait qu’augmenter à mesure que les hackers déploient de nouvelles techniques. Outre les agents IA malveillants qui imitent les agents légitimes, un autre exemple est le détournement d’agent, ou lorsque l’attaquant interfère avec la façon dont un agent perçoit des informations ou prend des décisions. Ainsi, en plus de vérifier la légitimité et l’autorité des agents IA, il est également crucial de vérifier l’intégrité des agents pour garantir qu’ils n’ont pas été manipulés.

Gartner a tempéré ses prévisions solides pour la croissance de l’IA agentic dans son ensemble avec une réserve importante : plus de 40 pour cent des projets d’IA agentic seront annulés d’ici la fin de 2027. C’était un réveil en fanfare – un signe que de nombreuses organisations sous-estiment la complexité des mises en œuvre de l’IA agentic, en particulier le besoin de garantir des contrôles de risque adéquats. Alors qu’il existe de nombreuses façons dont les agents IA agentic peuvent être exploités pour causer du tort, la capacité de vérifier la légitimité et l’autorité est une étape de base, fondamentale pour minimiser les risques. Heureusement, ce qui est requis n’est pas une réinvention, mais une évolution – une augmentation des cadres de vérification d’identité en ligne éprouvés qui existent aujourd’hui.