Vinay Kumar Sankarapu, Co-Fondateur & PDG d’Arya.ai – Série d’entretiens

Vinay Kumar Sankarapu, est le Co-Fondateur & PDG d’Arya.ai, une plateforme qui propose le ‘cloud IA’ pour les banques, les assureurs et les institutions de services financiers (BFSI) pour trouver les bonnes API IA, les solutions d’expertise IA et les outils de gouvernance IA complets nécessaires pour déployer des moteurs IA fiables et auto-apprenants.

Votre background est en mathématiques, physique, chimie et génie mécanique, pouvez-vous discuter de votre parcours pour passer à l’informatique et à l’IA ?

À l’IIT Bombay, nous avons un « programme de double diplôme » qui propose un cursus de 5 ans pour couvrir à la fois le baccalauréat en technologie et la maîtrise en technologie. J’ai fait des études en génie mécanique avec une spécialisation en « conception et fabrication assistées par ordinateur », où l’informatique fait partie de notre cursus. Pour notre recherche de post-grade, j’ai choisi de travailler sur l’apprentissage profond. Alors que j’ai commencé à utiliser l’apprentissage profond pour construire un cadre de prédiction de défaillance pour la fabrication continue, j’ai terminé ma recherche en utilisant les CNN pour la prédiction de la durée de vie restante. C’était autour de 2013/14.

Vous avez lancé Arya.ai alors que vous étiez encore à l’université, pouvez-vous partager l’histoire de la genèse de cette startup ?

Dans le cadre de la recherche académique, nous devions passer 3-4 mois sur une revue de littérature pour créer une étude détaillée sur le sujet d’intérêt, la portée des travaux réalisés jusqu’à présent et ce qui pourrait être un domaine de focalisation pour notre recherche. Pendant 2012/13, les outils que nous utilisions étaient assez basiques. Les moteurs de recherche comme Google Scholar et Scopus ne faisaient que des recherches par mots clés. Il était vraiment difficile de comprendre le volume de connaissances disponibles. Je pensais que ce problème ne ferait que s’aggraver. En 2013, je pense qu’au moins 30+ articles étaient publiés chaque minute. Aujourd’hui, c’est au moins 10x-20x plus que cela.

Nous voulions construire un « assistant IA » comme un « professeur » pour les chercheurs pour les aider à suggérer un sujet de recherche, trouver un article approprié qui est le plus à jour et tout ce qui concerne la recherche STEM. Avec notre expérience dans l’apprentissage profond, nous pensions que nous pouvions résoudre ce problème. En 2013, nous avons lancé Arya.ai avec une équipe de 3, puis elle s’est élargie à 7 en 2014 alors que j’étais encore à l’université.

Notre première version du produit a été construite en scrapant plus de 30 millions d’articles et de résumés. Nous avons utilisé des techniques de pointe en apprentissage profond à l’époque pour construire un assistant de recherche STEM IA et un moteur de recherche contextuel pour STEM. Mais lorsque nous avons présenté l’assistant IA à quelques professeurs et pairs, nous avons réalisé que nous étions trop tôt. Les flux de conversation étaient limités, et les utilisateurs attendaient un flux libre et des conversions continues. Les attentes étaient très irréalistes à l’époque (2014/15) même si cela répondait à des questions complexes.

Après cela, nous avons pivoté pour utiliser notre recherche et nous concentrer sur les outils ML pour les chercheurs et les entreprises en tant que poste de travail pour démocratiser l’apprentissage profond. Mais encore une fois, très peu de data scientists utilisaient l’apprentissage profond en 2016. Nous avons donc commencé à verticaliser pour un secteur et nous nous sommes concentrés sur la construction de couches de produits spécialisées pour un secteur, c’est-à-dire les institutions de services financiers (FSI). Nous savions que cela fonctionnerait car tandis que les grands joueurs visent à gagner le jeu horizontal, la verticalisation peut créer un grand avantage pour les startups. Cette fois, nous avions raison !

Nous construisons le cloud IA pour les banques, les assureurs et les services financiers avec les couches verticales les plus spécialisées pour livrer des solutions IA évolutives et responsables.

Quelle est l’ampleur du problème de la boîte noire de l’IA dans la finance ?

Extrêmement important ! Seuls 30 % des institutions financières utilisent l’« IA » à son plein potentiel. Alors que l’une des raisons est l’accessibilité, une autre est le manque de « confiance IA » et de traçabilité. Les réglementations sont maintenant claires dans certaines géographies sur les aspects juridiques de l’utilisation de l’IA pour les cas d’utilisation sensibles, moyens et bas. Il est exigé par la loi dans l’UE d’utiliser des modèles transparents pour les « cas d’utilisation à haut risque ». De nombreux cas d’utilisation dans les institutions financières sont des cas d’utilisation à haut risque. Ils sont donc tenus d’utiliser des modèles « boîte blanche ».

Les cycles de hype se calment également en raison des expériences précoces avec les solutions IA. Il y a un nombre croissant d’exemples récents sur les effets de l’utilisation de l’« IA » boîte noire, les échecs de l’« IA » en raison du non-suivi et les défis avec les responsables juridiques et de risque en raison d’une traçabilité limitée.

Pouvez-vous discuter de la différence entre la surveillance ML et l’observabilité ML ?

 Le travail d’un outil de surveillance est simplement de surveiller et d’alerter. Et le travail d’un outil d’observabilité est non seulement de surveiller et de signaler, mais surtout de fournir suffisamment de preuves pour trouver les raisons d’une défaillance ou prédire ces défaillances au fil du temps.

Dans l’IA/ML, ces outils jouent un rôle crucial. Alors que ces outils peuvent livrer les rôles requis ou la surveillance, la portée de l’observabilité ML

Pourquoi des plateformes spécifiques à l’industrie sont-elles nécessaires pour l’observabilité ML par rapport aux plateformes à usage général ?

Les plateformes à usage général sont conçues pour tout le monde et pour tout cas d’utilisation, indépendamment de l’industrie – n’importe quel utilisateur peut se connecter et commencer à utiliser la plateforme. Les clients de ces plateformes sont généralement des développeurs, des data scientists, etc. Les plateformes, cependant, créent plusieurs défis pour les parties prenantes en raison de leur nature complexe et de leur approche « taille unique ».

Malheureusement, la plupart des entreprises d’aujourd’hui nécessitent des experts en data science pour utiliser des plateformes à usage général et ont besoin de solutions ou de couches de produits supplémentaires pour rendre ces modèles « utilisables » par les utilisateurs finals dans n’importe quel secteur vertical. Cela inclut l’explicabilité, l’audit, les segments/scénarios, les processus humains dans la boucle, l’étiquetage des commentaires, l’audit, les pipelines spécifiques aux outils, etc.

C’est là que les plateformes IA spécifiques à l’industrie entrent en jeu comme un avantage. Une plateforme IA spécifique à l’industrie possède l’ensemble du flux de travail pour résoudre les besoins ou les cas d’utilisation ciblés d’un client et est développée pour fournir un produit complet de bout en bout, de la compréhension des besoins commerciaux à la surveillance des performances du produit. Il existe de nombreux obstacles spécifiques à l’industrie, tels que les cadres réglementaires et de conformité, les exigences de confidentialité des données, les exigences d’audit et de contrôle, etc. Les plateformes IA et les offres spécifiques à l’industrie accélèrent l’adoption de l’IA et raccourcissent le chemin vers la production en réduisant le temps de développement et les risques associés au déploiement de l’IA. De plus, cela aidera à rassembler l’expertise IA dans l’industrie en tant que couche de produit qui aide à améliorer l’acceptation de l’« IA », à pousser les efforts de conformité et à déterminer les approches communes de l’éthique, de la confiance et des préoccupations de réputation.

Pouvez-vous partager certains détails sur la plateforme d’observabilité ML proposée par Arya.ai ?

Nous travaillons dans les institutions de services financiers depuis plus de 6 ans. Depuis 2016. Cela nous a donné une exposition précoce aux défis uniques de déploiement de l’IA complexe dans les FSI. L’un des défis importants était l’« acceptation IA ». Contrairement aux autres secteurs verticaux, il existe de nombreuses réglementations sur l’utilisation de tout logiciel (également applicable aux solutions « IA »), la confidentialité des données, l’éthique et surtout l’impact financier sur l’entreprise. Pour répondre à ces défis à grande échelle, nous devions continuellement inventer et ajouter de nouvelles couches d’explicabilité, d’audit, de risques d’utilisation et de responsabilité sur le dessus de nos solutions – traitement des sinistres, souscription, surveillance des fraudes, etc. Au fil du temps, nous avons créé un cadre d’observabilité ML acceptable et évolutif pour les différentes parties prenantes de l’industrie des services financiers.

Nous lançons désormais une version « faire-soi-même » du cadre en tant qu’AryaXAI (xai.arya.ai). Toute équipe ML ou commerciale peut utiliser AryaXAI pour créer une gouvernance IA complète pour des cas d’utilisation critiques. La plateforme apporte de la transparence et de la traçabilité à vos solutions IA qui sont acceptables pour chaque partie prenante. AryaXAI rend l’IA plus sûre et acceptable pour les cas d’utilisation critiques en fournissant une explicabilité fiable et précise, en offrant des preuves qui peuvent soutenir la diligence réglementaire, en gérant l’incertitude IA en fournissant des contrôles de politique avancés et en assurant la cohérence dans la production en surveillant la dérive des données ou du modèle et en alertant les utilisateurs avec une analyse de cause racine.

AryaXAI agit également comme un flux de travail commun et fournit des informations acceptables pour toutes les parties prenantes – équipes de data science, IT, risque, opérations et conformité, ce qui rend le déploiement et la maintenance des modèles IA/ML sans faille et sans encombrement.

Une autre solution proposée est une plateforme qui améliore l’applicabilité du modèle ML avec une mise en œuvre de politique contextuelle. Pouvez-vous décrire ce que c’est spécifiquement ?

Il devient difficile de surveiller et de contrôler les modèles ML en production, en raison du volume important de fonctionnalités et de prédictions. De plus, l’incertitude du comportement du modèle rend difficile la gestion et la normalisation de la gouvernance, du risque et de la conformité. De tels échecs des modèles peuvent entraîner des pertes financières et de réputation importantes.

AryaXAI propose « des contrôles de politique/risque », un élément crucial qui préserve les intérêts commerciaux et éthiques en imposant des politiques sur l’IA. Les utilisateurs peuvent facilement ajouter/modifier les politiques pour administrer les contrôles de politique. Cela permet aux équipes transversales de définir des garde-fous de politique pour assurer une évaluation continue des risques, protégeant ainsi l’entreprise de l’incertitude IA.

Quels sont quelques exemples de cas d’utilisation pour ces produits ?

AryaXAI peut être mis en œuvre pour divers processus critiques de mission dans les industries. Les exemples les plus courants sont :

BFSI : Dans un environnement de rigidité réglementaire, AryaXAI facilite pour l’industrie BFSI l’alignement sur les exigences et la collecte des preuves nécessaires pour gérer les risques et assurer la conformité.

• Octroi de crédit pour des prêts sécurisés/non sécurisés
• Identification des transactions frauduleuses/suspectes
• Audit
• Gestion du cycle de vie du client
• Décision de crédit

Voitures autonomes : Les véhicules autonomes doivent respecter la rigidité réglementaire, la sécurité opérationnelle et l’explicabilité dans les décisions en temps réel. AryaXAI permet de comprendre comment le système IA interagit avec le véhicule

• Analyse de décision
• Opérations de véhicule autonome
• Données de santé du véhicule
• Surveillance du système de conduite IA

Santé : AryaXAI fournit des informations plus approfondies du point de vue médical, technologique, juridique et des patients. Dès la découverte de médicaments jusqu’à la fabrication, les ventes et le marketing, Arya-xAI favorise la collaboration multidisciplinaire

• Découverte de médicaments
• Recherche clinique
• Validation des données d’essais cliniques
• Soins de qualité supérieure

Quelle est votre vision pour l’avenir de l’apprentissage automatique dans la finance ?

Au cours de la dernière décennie, il y a eu une énorme éducation et un marketing autour de l’« IA ». Nous avons vu plusieurs cycles de hype pendant cette période. Nous serions probablement au 4ème ou 6ème cycle de hype maintenant. Le premier est lorsque l’apprentissage profond a remporté ImageNet en 2011/12, suivi de travaux sur la classification d’images/texte, la reconnaissance vocale, les voitures autonomes, l’IA générative et actuellement avec les grands modèles de langage. L’écart entre le sommet de l’hype et l’utilisation de masse se réduit avec chaque cycle de hype en raison des itérations autour du produit, de la demande et du financement.

Ces trois choses se sont produites maintenant :

1. Je pense que nous avons résolu le cadre de l’échelle pour les solutions IA, au moins pour quelques experts. Par exemple, Open AI est actuellement une organisation non génératrice de revenus, mais ils prévoient de réaliser 1 milliard de dollars de chiffre d’affaires dans les 2 ans. Alors que toute entreprise IA ne réalisera peut-être pas une échelle similaire, le modèle d’évolutivité est plus clair.
2. La définition des solutions IA idéales est presque claire pour tous les secteurs verticaux : Contrairement à l’époque où le produit était construit à travers des expériences itératives pour chaque cas d’utilisation et chaque organisation, les parties prenantes sont de plus en plus éduquées pour comprendre ce dont elles ont besoin des solutions IA.
3. Les réglementations rattrapent maintenant : Le besoin de réglementations claires sur la confidentialité des données et l’utilisation de l’IA gagne une grande traction. Les organes de réglementation et les organes de régulation sont capables de publier ou sont en train de publier des cadres nécessaires pour une utilisation sûre, éthique et responsable de l’IA.

Qu’est-ce qui vient ensuite ?

L’explosion du « Model-as-a-Service (MaaS) » :

Nous allons voir une demande croissante pour les propositions de « Model-as-a-Service » non seulement horizontalement mais également verticalement. Alors que « OpenAI » représente un bon exemple de « MaaS » horizontal, Arya.ai est un exemple de « MaaS » vertical. Avec l’expérience des déploiements et des ensembles de données, Arya.ai a collecté des ensembles de données verticaux critiques qui sont exploités pour former des modèles et les fournir sous forme de modèles prêts à l’emploi ou pré-formés.

La verticalisation est la nouvelle horizontalité : Nous avons vu cette tendance dans l’adoption du « cloud ». Alors que les joueurs horizontaux se concentrent sur les « plateformes pour tous », les joueurs verticaux se concentrent sur les besoins des utilisateurs finals et les fournissent sous forme de couche de produit spécialisé. C’est vrai même pour les offres « MaaS ».

XAI et la gouvernance IA deviendront la norme dans les entreprises : Selon la sensibilité des réglementations, chaque secteur vertical atteindra un cadre de gouvernance XAI et acceptable qui sera mis en œuvre dans la conception, contrairement à aujourd’hui, où il est traité comme un ajout.

L’IA générative sur les données tabulaires peut voir ses cycles de hype dans les entreprises : La création de jeux de données synthétiques est censée être l’une des solutions faciles à mettre en œuvre pour résoudre les défis liés aux données dans les entreprises. Les équipes de data science préfèrent fortement cela car le problème est sous leur contrôle, contrairement à compter sur les entreprises qui peuvent prendre du temps, être coûteuses et ne pas suivre toutes les étapes lors de la collecte de données. Les données synthétiques résolvent les problèmes de biais, de déséquilibre des données, de confidentialité des données et de données insuffisantes. Bien sûr, l’efficacité de cette approche est encore à prouver. Cependant, avec plus de maturité dans les nouvelles techniques comme les transformateurs, nous pourrions voir plus d’expérimentation sur les ensembles de données traditionnels comme les données tabulaires et multidimensionnelles. À la suite d’une réussite, cette approche peut avoir un impact considérable sur les entreprises et les offres « MaaS ».

Y a-t-il autre chose que vous aimeriez partager sur Arya.ai ?

L’objectif d’Arya.ai est de résoudre le problème de l’« IA » pour les banques, les assureurs et les services financiers. Notre approche est la verticalisation de la technologie jusqu’à la dernière couche et la rendre utilisable et acceptable pour chaque organisation et partie prenante.

AryaXAI (xai.arya.ai) jouera un rôle important pour la livrer aux masses dans le secteur FSI. Notre recherche en cours sur les données synthétiques a réussi dans une poignée de cas d’utilisation, mais nous visons à en faire une option plus viable et acceptable. Nous allons continuer à ajouter plus de couches à notre « cloud IA » pour servir notre mission.

Je pense que nous allons voir plus de startups comme Arya.ai, pas seulement dans le secteur vertical FSI mais dans chaque secteur vertical.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Arya.ai.