Kris Nagel, PDG de Sift – Série d’entretiens

Kris est le directeur général de Sift. Il apporte plus de 30 ans d’expérience dans des postes de direction chez des entreprises de capital-risque et des sociétés cotées en bourse, notamment Ping Identity. Sift propose une solution pour que les entreprises mettent fin aux fraudes de paiement, conçue avec une console unique et intuitive, la solution complète de Sift élimine le besoin d’outils déconnectés, de logiciels à usage unique et d’informations incomplètes qui épuisent les ressources opérationnelles.

Dans votre rôle précédent, vous étiez directeur des opérations chez la plate-forme de sécurité d’identité Ping Identity, où vous avez joué un rôle crucial dans la sortie de l’entreprise sur le marché en 2019, quels ont été vos principaux enseignements tirés de cette expérience ?

Sortir une entreprise sur le marché est une grande entreprise, et j’ai appris beaucoup à travers ce processus. Développer des produits et faire croître l’entreprise avant et après ce jalon m’a enseigné ce qu’il faut pour résoudre des défis organisationnels complexes, continuer à innover et à réimaginer l’expérience utilisateur, et faire croître les équipes et les habiliter à faire leur meilleur travail. J’ai appris tout au long de ma carrière que tout succès dans n’importe quel rôle doit commencer par une compréhension approfondie des clients, des partenaires et des personnes de votre équipe.

Vous avez rejoint Sift en tant que PDG en janvier 2023. Qu’est-ce qui vous a attiré dans ce nouveau défi ?

La fraude est un problème qui grandit et évolue constamment, et les enjeux sont clairs. Les pertes de fraude en ligne dans le commerce électronique devraient atteindre $48 milliards d’ici la fin de 2023 (une augmentation de 16 % par rapport à 2022), et les entreprises dans le monde ont dépensé en moyenne 10 % de leurs revenus pour gérer la fraude. Mais si une entreprise ne parvient pas à gérer efficacement la fraude, elle peut perdre des revenus en excluant ou en « insultant » des clients légitimes.

Sift a l’avantage du pionnier dans la résolution de ce problème avec l’apprentissage automatique, et sa technologie de base et son réseau de données mondiales l’ont distingué dans l’espace de la prévention de la fraude. Plus de 34 000 sites et applications, dont Twitter, DoorDash (DASH ), Poshmark et Uphold, s’appuient sur Sift. Cette différenciation, ainsi que l’accent mis sur les partenariats à long terme avec les clients, a rendu ma décision de rejoindre l’entreprise facile.

Pourquoi l’intelligence artificielle générative est-elle une si grande menace de sécurité pour les entreprises et les consommateurs ?

L’intelligence artificielle générative montre des signes précoces d’un changement de jeu pour les fraudeurs. Les arnaques étaient autrefois remplies d’erreurs de grammaire et d’orthographe, ce qui les rendait plus faciles à distinguer. Avec l’intelligence artificielle générative, les acteurs malveillants peuvent plus efficacement imiter les entreprises légitimes et tromper les consommateurs pour qu’ils fournissent des détails de connexion ou financiers sensibles via des tentatives de phishing.

Les plateformes d’intelligence artificielle générative peuvent même suggérer des variations de texte qui permettent à un fraudeur de créer plusieurs comptes distincts sur une seule plate-forme. Par exemple, ils peuvent créer 100 nouveaux faux profils de rencontres pour commettre des arnaques de romance de cryptomonnaie, chacun ayant un visage et une biographie générés par l’IA. De cette façon, l’intelligence artificielle générative permet la démocratisation de la fraude, car il est plus facile pour quiconque, quelle que soit sa compétence technique, de tromper quelqu’un en utilisant des informations de paiement ou des références volées.

Sift a récemment publié un rapport intitulé : « Au milieu de la renaissance de l’IA, les consommateurs et les entreprises sont submergés de fraudes », quels ont été les plus grands surprises pour vous dans ce rapport ?

Nous savions que l’IA et l’automatisation allaient changer le paysage de la fraude, mais la vitesse et le volume de ce changement sont vraiment remarquables. Plus des deux tiers (68 %) des consommateurs américains ont signalé une augmentation des spams et des arnaques depuis novembre, juste au moment où les outils d’IA générative commençaient à gagner en popularité, et nous croyons que ces deux tendances sont fortement corrélées. De même, nous avons observé une vague d’attaques de prise de compte (ATO), avec un taux d’ATO gonflé de 427 % au premier trimestre 2023 par rapport à l’ensemble de 2022. Il est clair que ces événements sont liés, car l’IA générative permet aux fraudeurs de créer des arnaques plus convaincantes et plus rentables, ce qui conduit à une vague d’attaques d’ATO.

Le rapport montre également certaines des manières dont la « fraude en tant que service » évolue. Les forums ouverts comme ceux de Telegram abaissent les barrières à l’entrée pour quiconque qui veut commettre divers types d’abus – c’est ce que nous appelons la démocratisation de la fraude. Notre équipe a vu une prolifération de groupes de fraude qui offrent désormais des attaques de bots en tant que service, et nous avons mis en évidence la façon dont un outil est utilisé pour tromper les consommateurs pour qu’ils fournissent des codes à usage unique pour leurs comptes financiers. Et les fraudeurs rendent ces outils facilement accessibles et disponibles pour d’autres personnes pour une somme relativement faible.

Pouvez-vous discuter de ce qu’est la « plate-forme de confiance et de sécurité numérique Sift » ?

Avec Sift, les entreprises peuvent construire et déployer avec confiance, sachant qu’elles ont les outils pour se protéger contre la fraude. Il s’agit de garder les acteurs malveillants à l’extérieur tout en offrant aux clients une expérience sans friction – en réduisant la friction et en augmentant les revenus.

Notre mission est d’aider tout le monde à faire confiance à Internet, et notre plate-forme utilise l’apprentissage automatique et un réseau de données massif pour protéger les entreprises contre tous les types de fraude et d’abus. Nous étions l’une des premières entreprises, si ce n’est la première, à appliquer l’apprentissage automatique à la fraude en ligne, nous avons donc accumulé une quantité incroyable d’informations qui se reflètent dans nos modèles d’apprentissage automatique mondiaux, qui traitent plus de 1 billion d’événements par an. La beauté de la plate-forme est que plus nous avons de clients, plus nos modèles deviennent intelligents, nous pouvons donc toujours optimiser pour arrêter la fraude tout en réduisant la friction pour les utilisateurs et les clients réels.

Au sein de la plate-forme, nous avons la Protection des paiements, qui protège contre la fraude de paiement ; la Défense des comptes, qui empêche les attaques de prise de compte ; l’Intégrité du contenu, qui bloque les spams et les arnaques des contenus générés par les utilisateurs ; et la Gestion des litiges, qui protège contre les rejets de paiement et la fraude amicale.

Comment cette plate-forme se distingue-t-elle des outils de prévention de la fraude concurrents ?

Il n’y a pas pénurie de fournisseurs de prévention de la fraude sur le marché, mais la plupart se situent dans deux catégories : les solutions ponctuelles ou les décisions en tant que service. Les solutions ponctuelles ont tendance à avoir une portée étroite et sont conçues pour résoudre un seul cas d’utilisation, comme la détection de bots. Les solutions de décision en tant que service sont plus complètes, mais manquent de nombreuses capacités de gestion de la fraude et agissent comme une « boîte noire » quant à leur logique de décision.

L’une des caractéristiques les plus distinctives de Sift est qu’il offre une solution pour lutter contre plusieurs types de fraude dans toutes les industries. La fraude est un défi agnostique de l’industrie, et nous avons une compréhension unique de la façon dont les problèmes de fraude d’une industrie deviennent ceux d’une autre. À travers toutes nos capacités – moteurs de décision, gestion de cas, orchestration, rapports et simulation – nous donnons également la priorité à la mise en place du contrôle entre les mains de nos clients. Chaque entreprise est unique, et cette capacité à personnaliser signifie que la logique peut être modifiée avec des règles personnalisées et que les simulations peuvent être ajustées au sein de la plate-forme. Nous croyons également que la meilleure façon de prévenir la fraude est d’être transparent sur celle-ci. Notre moteur de décision fournit des explications pour les analystes afin qu’ils comprennent pourquoi une transaction a été approuvée, contestée ou refusée. Nous proposons également des rapports pour que vous puissiez mesurer les performances d’un modèle pour comprendre s’il doit être ajusté.

Pouvez-vous discuter de ce qu’est le « score Sift », et de la façon dont il permet une amélioration continue de l’apprentissage automatique utilisé ?

Les clients de Sift utilisent nos algorithmes d’apprentissage automatique pour détecter les modèles de fraude et prévenir les attaques sur un site Web ou une application. Le score Sift est un nombre, de 0 à 100, attribué par l’algorithme à chaque événement (ou activité) pour indiquer la probabilité que le comportement soit frauduleux.

Alors que chacun de nos produits est pris en charge par son propre ensemble de modèles d’apprentissage automatique, nous proposons également des algorithmes personnalisés conçus pour les clients de Sift. Les signaux de fraude pour chaque industrie peuvent différer si vous vendez des assurances, des aliments périssables ou des vêtements, par exemple. Sift exécute des milliers de signaux, en tirant parti de notre vaste réseau mondial, à travers chaque modèle personnalisé, en analysant des détails tels que l’heure de la journée, les caractéristiques des adresses e-mail et le nombre de tentatives de connexion. Ces signaux combinés forment un score pour un événement particulier, comme une connexion ou une transaction. Les scores Sift ne sont jamais partagés entre les clients, car chaque modèle d’apprentissage automatique du client est différent.

Un produit intéressant développé à Sift pour lutter contre les arnaques et les spams est appelé Regroupement de texte, qu’est-ce que c’est spécifiquement ?

Les textes de spam harcèlent les plateformes en ligne, et les spammers publient souvent le même contenu ou des contenus très similaires à plusieurs reprises. Nous avons créé notre fonctionnalité de regroupement de texte dans le cadre de l’Intégrité du contenu pour faciliter l’identification de ce type de texte et le regrouper afin qu’un analyste puisse décider s’il doit prendre des mesures globales. Le défi est que tout texte répétitif n’est pas du spam. Par exemple, un vendeur de commerce électronique peut lister le même produit et la même description sur plusieurs sites Web.

Pour résoudre efficacement ce défi, nous avions besoin d’un moyen de marquer les nouveaux types de fraude de contenu que nous voulions détecter, tout en donnant aux analystes le contrôle final pour prendre des mesures. Grâce à une combinaison de réseaux de neurones et d’apprentissage automatique, le regroupement de texte peut maintenant regrouper des textes similaires, même s’il y a de légères variations. Ce contenu signalé est étiqueté ensemble, et si c’est effectivement du spam, un analyste peut prendre des mesures globales pour le supprimer.

Comment les entreprises peuvent-elles se défendre au mieux contre les attaques adverses ou d’autres types d’attaques malveillantes perpétrées par l’intelligence artificielle générative ?

Plus de la moitié des consommateurs (54 %) pensent qu’ils ne devraient pas être tenus responsables en cas de fourniture involontaire de leurs informations de paiement à un escroc qui les utiliserait ensuite pour effectuer un achat frauduleux. Près d’un quart (24 %) pensent que l’entreprise où l’achat a été effectué devrait être tenue responsable. Cela signifie que la responsabilité de l’arrêt de la fraude repose sur les plateformes et les services sur lesquels les consommateurs comptent chaque jour.

Nous sommes encore aux premiers jours de l’intelligence artificielle générative, et les menaces d’aujourd’hui ne seront pas les mêmes menaces que nous verrons dans six mois. Cela étant dit, les entreprises doivent lutter contre le feu avec le feu en utilisant les technologies d’IA comme l’apprentissage automatique pour combattre et arrêter la fraude avant qu’elle ne se produise. L’apprentissage automatique en temps réel est crucial pour suivre l’échelle, la vitesse et la sophistication de la fraude. Les commerçants qui ne passent pas à des processus obsolètes ou manuels seront distancés par les fraudeurs qui automatisent déjà. Les entreprises qui adoptent cette approche complète et en temps réel améliorent la précision de la détection de la fraude de 40 %. Cela signifie une meilleure identification des fraudeurs et les arrêter dans l’acte avant qu’ils ne puissent nuire à votre entreprise ou à vos clients.

Y a-t-il autre chose que vous aimeriez partager sur Sift ?

L’une des initiatives que nous avons récemment mises en œuvre pour promouvoir cette mission est notre communauté de clients, Sifters. Elle est ouverte à tous les utilisateurs de Sift, et elle sert de pont entre nos clients, nos experts internes et notre réseau numérique de marchands et de données. Cela a été un centre de valeur pour recueillir des informations sur l’industrie et s’adresser aux défis transversaux de la prévention de la fraude. Et cela connaît un adoption énorme. Créer une communauté pour les combattants de la fraude est absolument essentiel, car les fraudeurs ont leurs propres communautés où ils collaborent pour nuire aux entreprises et aux consommateurs. Comme nous le disons, il faut un réseau pour lutter contre un réseau.