Jamie Twiss, PDG de Carrington Labs – Série d’entretiens

Jamie Twiss est un banquier expérimenté et un scientifique des données qui travaille à l’intersection de la science des données, de l’intelligence artificielle et du crédit à la consommation. Il est actuellement le directeur général de Carrington Labs, un fournisseur leader de solutions de notation de risque de crédit et de prêt basées sur l’IA explicables. Auparavant, il était le directeur des données d’une grande banque australienne. Avant cela, il a occupé divers postes dans le secteur bancaire et les services financiers après avoir commencé sa carrière en tant que consultant chez McKinsey & Company.

Pouvez-vous expliquer comment le système de notation de risque basé sur l’IA de Carrington Labs diffère des méthodes de notation de crédit traditionnelles ?

L’approche de Carrington Labs en matière de notation de risque diffère des méthodes de notation de crédit traditionnelles de plusieurs manières :

Notre plateforme utilise un ensemble de données beaucoup plus important que les méthodes précédentes. Les notes de crédit traditionnelles s’appuient sur des technologies obsolètes et sont basées sur la petite quantité d’informations disponibles dans le dossier de crédit d’un client, essentiellement des antécédents de paiement, qui ne donnent qu’une vision limitée d’un individu et aucune vision de beaucoup de personnes. Avec le consentement du client, nous prenons les données de transactions bancaires détaillées et les utilisons pour créer une image beaucoup plus détaillée et plus riche d’un individu.

Nous utilisons ensuite des techniques modernes d’IA et d’apprentissage automatique pour transformer ces grands volumes de données en une vision claire de la solvabilité d’un individu, en calculant des centaines de variables individuelles et en les combinant en une vision globale complète. Les notes de crédit résultantes sont entièrement explicables et transparentes pour le prêteur qui les utilise, contrairement aux notes de crédit, qui sont des boîtes noires mystérieuses. Ces notes sont également adaptées à un produit spécifique et à un segment de clients spécifique du prêteur, ce qui les rend plus pertinentes et donc plus précises qu’une note de crédit, qui est une note générique formée à partir d’un large éventail de produits et de clients.

Enfin, notre plateforme peut non seulement évaluer le risque d’un client de manière plus efficace qu’une note traditionnelle, mais elle peut également utiliser cette note pour recommander les conditions de prêt optimales, telles que la limite et la durée. En conséquence de tous ces facteurs, la notation de risque de CL est une avancée significative par rapport aux informations que les méthodes traditionnelles fournissent aux prêteurs.

Comment votre IA intègre-t-elle les données de transactions bancaires ouvertes pour fournir une image plus complète de la solvabilité d’un demandeur ? Et quels sont certains des principaux prédicteurs que vos modèles d’IA identifient lors de l’évaluation du risque de crédit ?

Nos modèles peuvent être formés sur de nombreux types de données, mais les données de transactions bancaires sont généralement au cœur. Nous utilisons des dizaines de millions de lignes de données de transactions pour former le modèle global, puis des milliers de transactions pour chaque nouveau client que le modèle note. L’Open Banking est généralement la meilleure façon de collecter ces données, car il offre un format cohérent, une bonne sécurité et des temps de réponse rapides. Nous pouvons les collecter par d’autres moyens, mais l’Open Banking est généralement préféré.

Par exemple, nous pouvons analyser les habitudes de retrait d’argent pour voir si quelqu’un retire fréquemment de grosses sommes, s’il utilise toujours le même distributeur automatique de billets ou s’il retire de l’argent plusieurs fois par jour. Nous pouvons identifier les activités de jeu en recherchant des transactions fréquentes sur des plateformes de pari. Nous pouvons examiner comment quelqu’un dépense de l’argent après en avoir reçu, ou s’il ajuste ses dépenses s’il commence à manquer d’argent. Nous signalons également des modèles financiers inattendus qui peuvent indiquer des mentalités ou des comportements à risque, comme des amendes pour excès de vitesse fréquentes.

Nos modèles sont formés sur environ 50 000 variables possibles, avec environ 400 actuellement utilisées dans un modèle de risque typique. Cette approche basée sur les données aide les prêteurs à prendre des décisions de prêt plus précises et à adapter les prêts au profil de risque unique de chaque demandeur. Il est important de noter que les données que nous identifions et analysons sont anonymes, nous ne traitons donc pas d’informations personnelles identifiables (PII).

Comment Carrington Labs garantit-elle que ses modèles d’IA sont libres de tout biais de genre, ethnique ou socio-économique dans les décisions de prêt, et quels sont les mesures que vous avez prises pour atténuer les biais algorithmiques dans vos évaluations de risque de crédit ?

Les modèles de Carrington Labs sont nettement moins susceptibles d’être biaisés que les approches traditionnelles en raison de leur objectivité (pas de “sentiment humain” impliqué) et de la grande variété de données que nous utilisons pour créer des modèles.

Nous avons trois piliers dans notre approche anti-biais : Premièrement, nous n’autorisons jamais les données de classe protégée (race, sexe, etc.) à approcher le processus de création de modèles. Nous préférons que vous ne nous fournissiez même pas ces données (sauf si vous voulez que nous les utilisions pour les tests de biais ; voir ci-dessous). Deuxièmement, nos modèles sont entièrement explicables, nous examinons donc chaque fonctionnalité utilisée dans chaque modèle pour un éventuel biais, des variables proxy ou d’autres problèmes. Les prêteurs ont également accès à la liste des fonctionnalités et peuvent effectuer leurs propres examens. Troisièmement, si le prêteur choisit de nous fournir des données de classe protégée pour les tests (seulement ; conservées loin de la formation), nous effectuons des tests statistiques sur les sorties de modèle pour déterminer les taux d’approbation et les limites, et nous nous assurons que la variation entre les classes est clairement motivée par des facteurs explicables et raisonnables.

En conséquence, la puissance prédictive plus élevée des modèles de Carrington Labs et la capacité de régler les limites en fonction du risque rendent plus facile pour les prêteurs d’approuver plus de demandeurs avec des limites plus petites, puis d’augmenter ces limites avec le temps et un bon comportement de remboursement, ce qui permet une inclusion financière plus large.

Comment vous assurez-vous que vos évaluations de risque de crédit basées sur l’IA soient explicables et transparentes pour les prêteurs et les régulateurs ?

Bien que nous utilisions l’IA à plusieurs étapes du processus de création de modèles, les modèles eux-mêmes, la logique réelle utilisée pour calculer une note de client, sont basés sur des mathématiques et des statistiques prévisibles et contrôlables. Un prêteur ou un régulateur peut examiner chaque fonctionnalité du modèle pour s’assurer qu’il est à l’aise avec chacune d’elles, et nous pouvons également fournir une ventilation de la note d’un client et la relier à un code d’action contraire si nécessaire.

Comment vos modèles d’IA aident-ils à démocratiser le prêt et à élargir l’inclusion financière pour les populations défavorisées ?

De nombreuses personnes sont plus solvables que ce que leurs notes de crédit traditionnelles ne le laissent supposer. Les méthodes de notation de crédit traditionnelles excluent des millions de personnes qui ne correspondent pas aux modèles de crédit traditionnels. Notre approche basée sur l’IA aide les prêteurs à reconnaître ces emprunteurs, en élargissant l’accès à un crédit équitable et responsable sans augmenter le risque.

Pour donner un exemple de quelqu’un qui relève d’un public défavorisé, pensez à un immigrant qui vient d’arriver dans un nouveau pays. Il peut être financièrement responsable, travailleur acharné et industrieux, mais il peut également manquer d’antécédents de crédit traditionnels. Puisque le bureau de crédit ne l’a jamais entendu, il lui manque la capacité de prouver qu’il est solvable, ce qui à son tour rend les prêteurs réticents à lui présenter des opportunités de prêt.

Ces points de données de transactions non traditionnels sont la clé pour établir une évaluation précise du risque de crédit pour les personnes que les bureaux de crédit ne connaissent pas. Ils peuvent manquer d’antécédents de crédit traditionnels ou avoir un historique de crédit qui peut sembler risqué pour les prêteurs sans contexte approprié, mais nous avons la capacité de montrer aux prêteurs que ces personnes sont solvables et stables en exploitant une plus grande quantité de leurs données financières. En fait, notre plateforme est jusqu’à 250 % plus précise, sur la base d’un ensemble de données anonymes, pour identifier les emprunteurs à faible risque ayant des informations de crédit limitées que les notes de crédit traditionnelles, et c’est ce qui permet aux prêteurs d’élargir leur base d’emprunteurs et d’augmenter finalement les approbations de prêt.

En outre, parce que de nombreux prêteurs n’ont qu’une idée approximative du risque individuel d’un client, ils ont du mal à affiner une offre pour refléter les circonstances individuelles d’un client, fréquemment en lui offrant plus qu’il ne peut se permettre, en lui prêtant moins qu’il n’en a besoin, ou (le plus souvent) en le rejetant tout simplement. La capacité de fixer des limites de prêt avec précision a un effet particulièrement fort pour permettre aux prêteurs de faire entrer de nouveaux emprunteurs dans le système financier, à partir duquel ils peuvent augmenter leur capacité d’emprunt en montrant un bon comportement de remboursement – leur donnant ainsi cette première chance de montrer qu’ils peuvent travailler de manière responsable avec la dette.

Quel rôle les organismes de régulation jouent-ils dans l’élaboration et le déploiement de solutions de prêt basées sur l’IA ?

Les régulateurs sont une partie essentielle de l’intégration de l’IA dans les services financiers et dans l’économie plus large. Des limites claires sur où et comment l’IA peut être utilisée permettront une croissance plus rapide et de nouveaux cas d’utilisation, et nous soutenons les divers processus en cours pour créer une responsabilité juridique et réglementaire.

En tant que principe général, nous croyons que les outils d’IA utilisés dans le prêt devraient être soumis au même type de surveillance et d’examen que les autres outils – ils devraient être en mesure de démontrer qu’ils traitent les clients de manière équitable, et qu’ils rendent le système bancaire plus sûr, et non plus risqué. Notre solution peut clairement démontrer les deux.

Pouvez-vous nous en dire plus sur la sélection récente de Carrington Labs dans le programme Mastercard Start Path ? Comment cela accélérera-t-il votre expansion aux États-Unis ?

Nous sommes ravis de travailler avec Mastercard sur nos plans d’expansion aux États-Unis et dans le monde. Ils ont une expérience inégalée dans la fourniture de solutions financières aux banques et à d’autres prêteurs du monde entier et ont déjà été extrêmement utiles alors que nous augmentons notre engagement avec les clients potentiels américains. Nous nous attendons à ce que les deux parties en bénéficient, Mastercard offrant des conseils, des présentations et possiblement des éléments de notre solution, tandis que Carrington Labs fournit un service à haute valeur aux clients de Mastercard.

Beforepay, votre marque axée sur le consommateur, a émis plus de 4 millions de prêts. Quelles sont les connaissances que vous avez acquises grâce à cette expérience, et comment ont-elles façonné les modèles d’IA de Carrington Labs ?

Grâce à cette expérience, nous avons appris à construire des modèles rapidement et efficacement grâce à l’accès que Beforepay nous a donné à leur excellent laboratoire de recherche et développement et à des volumes de données énormes. Si nous avons une idée de cadre de modèle, d’architecture, de code, etc., nous pouvons l’essayer dans Beforepay en premier. La chute précipitée du taux de défaut de Beforepay est également une excellente étude de cas pour montrer à quel point le modèle fonctionne bien.

Cela a été une expérience très motivante en général, car nos employés ont un grand intérêt dans l’entreprise. Nous utilisons les modèles de Carrington Labs tous les jours pour prêter notre propre argent, donc cela nous oblige à nous assurer que ces modèles fonctionnent !

 Comment voyez-vous l’IA évoluer dans l’espace du prêt au cours de la prochaine décennie ?

Le prêt va changer massivement une fois que l’industrie aura pleinement adopté les modèles de risque basés sur les grandes données que Carrington Labs met en œuvre au cours de la prochaine décennie. Et cela se produira – ces modèles sont tout simplement beaucoup plus efficaces. C’est comme le rôle de l’électricité dans la fabrication ; c’est un changement de jeu et tout le monde fera la transition ou quittera.

Les modèles basés sur les grandes données peuvent être construits manuellement (ce que je faisais moi-même, mais ce processus prend des mois ou même des années, tout en étant extrêmement coûteux et incapable de fournir le meilleur résultat). Ou vous pouvez automatiser la construction du modèle. Avec l’IA, vous pouvez automatiser beaucoup plus de choses à une qualité plus élevée, tout en économisant du temps et en faisant des choses qui seraient impossibles si vous construisiez manuellement, comme générer des milliers de fonctionnalités personnalisées pour un prêteur de taille moyenne.

La clé est de savoir comment le faire correctement – si vous jetez simplement un tas de choses à un LLM, vous obtiendrez un énorme désordre et vous dépenserez votre budget.

Je vous remercie pour cette excellente interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Carrington Labs.