Vinay Kumar Sankarapu, Co-Fondateur et PDG d’Arya.ai – Série d’entretiens

Vinay Kumar Sankarapu est le co-fondateur et le PDG d’Arya.ai, une plateforme qui propose le « cloud AI » pour les banques, les assureurs et les institutions de services financiers (BFSI) afin de trouver les bons API AI, les solutions d’expertise AI et les outils de gouvernance AI complets nécessaires pour déployer des moteurs AI fiables et auto-apprenants.

Votre parcours est en mathématiques, physique, chimie et génie mécanique, pouvez-vous discuter de votre parcours vers la transition vers l’informatique et l’IA ?

À l’IIT Bombay, nous avons un « programme de double diplôme » qui propose un cursus de 5 ans pour couvrir à la fois le baccalauréat en technologie et la maîtrise en technologie. J’ai fait des études en génie mécanique avec une spécialisation en « conception et fabrication assistées par ordinateur », où les sciences informatiques font partie de notre cursus. Pour notre recherche de postgraduate, j’ai choisi de travailler sur l’apprentissage profond. Alors que j’ai commencé à utiliser l’apprentissage profond pour construire un cadre de prédiction de défaillance pour la fabrication continue, j’ai terminé ma recherche sur l’utilisation de CNN pour la prédiction de la durée de vie restante. C’était autour de 2013/14.

Vous avez lancé Arya.ai alors que vous étiez encore à l’université, pouvez-vous partager l’histoire de la genèse de cette startup ?

Dans le cadre de la recherche académique, nous devions passer 3-4 mois sur une revue de littérature pour créer une étude détaillée sur le sujet d’intérêt, la portée des travaux réalisés jusqu’à présent et ce qui pourrait être un domaine de focalisation pour notre recherche. Pendant 2012/13, les outils que nous utilisions étaient assez basiques. Les moteurs de recherche comme Google Scholar et Scopus ne faisaient que des recherches de mots clés. Il était vraiment difficile de comprendre le volume de connaissances disponibles. J’ai pensé que ce problème ne ferait qu’empirer. En 2013, je pense qu’au moins 30+ articles étaient publiés chaque minute. Aujourd’hui, c’est au moins 10 à 20 fois plus que cela.

Nous voulions construire un « assistant IA » comme un « professeur » pour les chercheurs pour les aider à suggérer un sujet de recherche, trouver un article approprié qui est le plus à jour et tout ce qui concerne la recherche en STEM. Avec notre expérience dans l’apprentissage profond, nous pensions que nous pouvions résoudre ce problème. En 2013, nous avons lancé Arya.ai avec une équipe de 3 personnes, puis elle s’est élargie à 7 en 2014 alors que j’étais encore à l’université.

Notre première version du produit a été construite en scrapant plus de 30 millions d’articles et de résumés. Nous avons utilisé des techniques de pointe en apprentissage profond à l’époque pour construire un assistant de recherche STEM IA et un moteur de recherche contextuel pour STEM. Mais lorsque nous avons présenté l’assistant IA à quelques professeurs et pairs, nous nous sommes rendu compte que nous étions trop tôt. Les flux de conversation étaient limités, et les utilisateurs attendaient un flux libre et des conversions continues. Les attentes étaient très irréalistes à l’époque (2014/15) même si cela répondait à des questions complexes.

Après cela, nous avons pivoté pour utiliser notre recherche et nous concentrer sur les outils ML pour les chercheurs et les entreprises en tant que plateforme de travail pour démocratiser l’apprentissage profond. Mais encore une fois, très peu de data scientists utilisaient l’apprentissage profond en 2016. Nous avons donc commencé à nous spécialiser dans un secteur et à nous concentrer sur la construction de couches de produits spécialisées pour un secteur, à savoir les institutions de services financiers (FSI). Nous savions que cela allait fonctionner car alors que les grands acteurs visent à gagner le jeu horizontal, la spécialisation peut créer un grand avantage concurrentiel pour les startups. Cette fois, nous avions raison !

Nous construisons le cloud IA pour les banques, les assureurs et les institutions de services financiers avec les couches verticales les plus spécialisées pour livrer des solutions IA évolutives et responsables.

Quelle est l’importance du problème de la boîte noire de l’IA dans la finance ?

Extrêmement importante ! Seulement 30 % des institutions financières utilisent l’« IA » à son plein potentiel. Alors que l’une des raisons est l’accessibilité, une autre est le manque de confiance et de traçabilité de l’« IA ». Les réglementations sont maintenant claires dans certaines géographies sur les aspects juridiques de l’utilisation de l’IA pour les cas d’utilisation à faible, moyen et haute sensibilité. Il est exigé par la loi dans l’UE d’utiliser des modèles transparents pour les cas d’utilisation à « haut risque ». De nombreux cas d’utilisation dans les institutions financières sont des cas d’utilisation à haut risque. Ils sont donc tenus d’utiliser des modèles « white-box ».

Les cycles de hype se calment également en raison des expériences précoces avec les solutions IA. Il y a un nombre croissant d’exemples récents sur les effets de l’utilisation de l’« IA » noire, les échecs de l’« IA » en raison du manque de surveillance et les défis avec les gestionnaires juridiques et de risques en raison d’une traçabilité limitée.

Pouvez-vous discuter de la différence entre la surveillance ML et l’observabilité ML ?

 Le travail d’un outil de surveillance est simplement de surveiller et d’alerter. Et le travail d’un outil d’observabilité est non seulement de surveiller et de signaler, mais surtout de fournir suffisamment de preuves pour trouver les raisons d’une défaillance ou prédire ces défaillances dans le temps.

Dans l’IA/ML, ces outils jouent un rôle crucial. Alors que ces outils peuvent livrer les rôles requis ou la surveillance, la portée de l’observabilité ML

Pourquoi les plateformes spécifiques à l’industrie sont-elles nécessaires pour l’observabilité ML par rapport aux plateformes à usage général ?

Les plateformes à usage général sont conçues pour tout le monde et pour tout cas d’utilisation, quelle que soit l’industrie – n’importe quel utilisateur peut se connecter et commencer à utiliser la plateforme. Les clients de ces plateformes sont généralement des développeurs, des data scientists, etc. Les plateformes, cependant, créent plusieurs défis pour les parties prenantes en raison de leur nature complexe et de leur approche « taille unique ».

Malheureusement, la plupart des entreprises ont aujourd’hui besoin d’experts en data science pour utiliser des plateformes à usage général et ont besoin de solutions ou de couches de produits supplémentaires pour rendre ces modèles « utilisables » par les utilisateurs finals dans n’importe quel secteur. Cela inclut l’explicabilité, l’audit, les scénarios/segments, les processus humains dans la boucle, l’étiquetage des commentaires, l’audit, les pipelines spécifiques à l’outil, etc.

C’est là que les plateformes IA spécifiques à l’industrie entrent en jeu comme un avantage. Une plateforme IA spécifique à l’industrie possède l’ensemble du flux de travail pour résoudre les besoins ciblés ou les cas d’utilisation d’un client et est développée pour fournir un produit complet de bout en bout, de la compréhension des besoins commerciaux à la surveillance des performances du produit. Il y a de nombreux obstacles spécifiques à l’industrie, tels que les cadres réglementaires et de conformité, les exigences de confidentialité des données, les exigences d’audit et de contrôle, etc. Les plateformes et les offres IA spécifiques à l’industrie accélèrent l’adoption de l’IA et raccourcissent le chemin vers la production en réduisant le temps de développement et les risques associés au déploiement de l’IA. De plus, cela aidera à rassembler l’expertise IA dans l’industrie en tant que couche de produit qui aide à améliorer l’acceptation de l’« IA », à pousser les efforts de conformité et à déterminer les approches communes des préoccupations éthiques, de confiance et de réputation.

Pouvez-vous partager certains détails sur la plateforme d’observabilité ML proposée par Arya.ai ?

Nous travaillons dans les institutions de services financiers depuis plus de 6 ans. Depuis 2016. Cela nous a donné une exposition précoce aux défis uniques de déploiement de l’IA complexe dans les FSI. L’un des défis importants était l’« acceptation de l’IA ». Contrairement aux autres secteurs, il y a de nombreuses réglementations sur l’utilisation de tout logiciel (également applicable aux solutions « IA »), la confidentialité des données, l’éthique et, surtout, l’impact financier sur l’entreprise. Pour relever ces défis à grande échelle, nous avons dû continuellement inventer et ajouter de nouvelles couches d’explicabilité, d’audit, de risques et de responsabilité sur nos solutions – traitement des sinistres, souscription, surveillance des fraudes, etc. Au fil du temps, nous avons créé un cadre d’observabilité ML acceptable et évolutif pour les différentes parties prenantes de l’industrie des services financiers.

Nous lançons désormais une version « faire-soi-même » du cadre en tant qu’AryaXAI (xai.arya.ai). Toute équipe ML ou commerciale peut utiliser AryaXAI pour créer une gouvernance IA complète pour les cas d’utilisation critiques. La plateforme apporte de la transparence et de la traçabilité à vos solutions IA qui sont acceptables pour toutes les parties prenantes. AryaXAI rend l’IA plus sûre et acceptable pour les cas d’utilisation critiques en fournissant une explicabilité fiable et précise, en offrant des preuves qui peuvent soutenir la diligence réglementaire, en gérant l’incertitude de l’IA en fournissant des contrôles de politique avancés et en assurant la cohérence dans la production en surveillant la dérive des données ou des modèles et en avertissant les utilisateurs avec une analyse de cause profonde.

AryaXAI agit également comme un flux de travail commun et fournit des insights acceptables pour toutes les parties prenantes – équipes de data science, IT, risque, opérations et conformité, ce qui rend le déploiement et la maintenance des modèles IA/ML sans problème et sans encombrement.

Une autre solution proposée est une plateforme qui améliore l’applicabilité du modèle ML avec une mise en œuvre de politique contextuelle. Pouvez-vous décrire ce que c’est spécifiquement ?

Il est difficile de surveiller et de contrôler les modèles ML en production, en raison du volume énorme de fonctionnalités et de prédictions. De plus, l’incertitude du comportement du modèle rend difficile la gestion et la normalisation de la gouvernance, du risque et de la conformité. De tels échecs des modèles peuvent entraîner des pertes financières et de réputation importantes.

AryaXAI propose « des contrôles de risque/stratégie », un composant essentiel qui préserve les intérêts commerciaux et éthiques en imposant des politiques sur l’IA. Les utilisateurs peuvent facilement ajouter/modifier les politiques pour administrer les contrôles de politique. Cela permet aux équipes transversales de définir des garde-fous de politique pour assurer une évaluation continue des risques, protégeant ainsi l’entreprise de l’incertitude de l’IA.

Quels sont quelques exemples de cas d’utilisation pour ces produits ?

AryaXAI peut être mis en œuvre pour divers processus critiques dans les industries. Les exemples les plus courants sont:

BFSI: Dans un environnement de stricte réglementation, AryaXAI facilite pour l’industrie BFSI l’alignement sur les exigences et la collecte des preuves nécessaires pour gérer les risques et assurer la conformité.

• Octroi de crédit pour des prêts sécurisés/non sécurisés
• Identification des transactions frauduleuses/suspectes
• Audit
• Gestion du cycle de vie du client
• Décision de crédit

Voitures autonomes: Les véhicules autonomes doivent se conformer aux exigences réglementaires, à la sécurité opérationnelle et à l’explicabilité dans les décisions en temps réel. AryaXAI permet de comprendre comment le système IA interagit avec le véhicule

• Analyse de décision
• Opérations de véhicule autonome
• Données de santé du véhicule
• Surveillance du système de conduite IA

Santé: AryaXAI fournit des insights plus approfondis du point de vue médical, technologique, juridique et patient. De la découverte de médicaments à la fabrication, aux ventes et au marketing, Arya-xAI favorise la collaboration multidisciplinaire

• Découverte de médicaments
• Recherche clinique
• Validation des données d’essais cliniques
• Soins de qualité supérieure

Quelle est votre vision pour l’avenir de l’apprentissage automatique dans la finance ?

Au cours de la dernière décennie, il y a eu une énorme éducation et un marketing autour de l’« IA ». Nous avons vu plusieurs cycles de hype pendant cette période. Nous serions probablement à la 4e ou 6e vague de hype maintenant. La première est lorsque l’apprentissage profond a remporté ImageNet en 2011/12, suivie de travaux sur la classification d’images/texte, la reconnaissance vocale, les voitures autonomes, l’IA générative et actuellement avec les grands modèles de langage. L’écart entre le sommet du hype et l’utilisation de masse se réduit avec chaque cycle de hype en raison des itérations autour du produit, de la demande et du financement.

Ces trois choses se sont produites maintenant:

1. Je pense que nous avons trouvé le cadre de l’échelle pour les solutions IA, au moins pour quelques experts. Par exemple, Open AI est actuellement une organisation non génératrice de revenus, mais ils prévoient de réaliser 1 milliard de dollars de chiffre d’affaires dans les 2 prochaines années. Alors que toute entreprise IA ne réalisera peut-être pas une échelle similaire, le modèle d’évolutivité est plus clair.
2. La définition des solutions IA idéales est presque claire pour tous les secteurs: Contrairement à l’époque où le produit était construit à travers des expériences itératives pour chaque cas d’utilisation et chaque organisation, les parties prenantes sont de plus en plus éduquées pour comprendre ce dont elles ont besoin des solutions IA.
3. Les réglementations rattrapent maintenant: Le besoin de réglementations claires autour de la confidentialité des données et de l’utilisation de l’IA gagne une grande traction. Les organes de réglementation et les gouvernements sont en mesure de publier ou sont en train de publier des cadres nécessaires pour une utilisation sûre, éthique et responsable de l’IA.

Qu’est-ce qui vient ensuite ?

L’explosion du « Model-as-a-service (MaaS) »:

Nous allons voir une demande croissante pour des propositions de « Model-as-a-service » non seulement horizontalement mais également verticalement. Alors que « OpenAI » représente un bon exemple de « MaaS » horizontal, Arya.ai est un exemple de « MaaS » vertical. Avec l’expérience des déploiements et des ensembles de données, Arya.ai a collecté des ensembles de données verticaux critiques qui sont utilisés pour former des modèles et les fournir sous forme de modèles pré-formés ou pré-entraînés.

La spécialisation verticale est le nouvel horizontal: Nous avons vu cette tendance dans l’adoption du « cloud ». Alors que les joueurs horizontaux se concentrent sur les « plateformes pour tous », les joueurs verticaux se concentrent sur les besoins de l’utilisateur final et les fournissent sous forme de couche de produit spécialisé. C’est vrai même pour les offres de MaaS.

XAI et la gouvernance IA deviendront la norme dans les entreprises: En fonction de la sensibilité des réglementations, chaque secteur atteindra un cadre XAI et de gouvernance acceptable qui sera mis en œuvre dans la conception, contrairement à aujourd’hui où il est traité comme un ajout.

Y a-t-il autre chose que vous aimeriez partager sur Arya.ai ?

L’objectif d’Arya.ai est de résoudre le problème de l’« IA » pour les banques, les assureurs et les institutions de services financiers. Notre approche est la spécialisation de la technologie jusqu’à la dernière couche et la rendre utilisable et acceptable pour chaque organisation et partie prenante.

AryaXAI (xai.arya.ai) jouera un rôle important pour la livrer aux masses dans le secteur FSI. Notre recherche en cours sur les données synthétiques a réussi dans une poignée de cas d’utilisation, mais nous visons à la rendre plus viable et acceptable. Nous allons continuer à ajouter plus de couches à notre « cloud IA » pour servir notre mission.

Je pense que nous allons voir plus de startups comme Arya.ai, pas seulement dans le secteur FSI mais dans chaque secteur.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Arya.ai.