Dr. Vishal Sikka, Fondateur et PDG de Vianai – Série d’entretiens

Vishal Sikka est le fondateur et PDG de Vianai, ancien CTO de SAP AG et ancien PDG d’Infosys. Il siège actuellement au conseil d’administration d’Oracle, au conseil de surveillance du groupe BMW et en tant que conseiller de l’Institut de l’IA centrée sur l’humain de Stanford.

La plateforme Vianai combine des éléments open-source, des techniques et des optimisations propriétaires de Vianai, ainsi qu’une conception centrée sur l’humain pour apporter l’IA à l’entreprise à grande échelle, sur des paysages divers. Avec la plateforme, les grandes organisations peuvent créer, optimiser, déployer et gérer des modèles ML sophistiqués sur les infrastructures existantes et améliorer les opérations et les performances des modèles ML à travers l’entreprise,

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

Je me suis intéressé à l’IA en tant qu’adolescent, lorsque j’ai lu les réflexions de Marvin Minsky sur nos esprits en tant que sociétés d’agents simples, et que j’ai appris à propos de Joe Weizenbaum et de son Eliza (un chatbot très précoce) et de la critique de John McCarthy à son égard. Plus tard, j’ai eu l’honneur d’avoir McCarthy comme président de mon comité d’examen d’AI à Stanford. McCarthy et Minsky étaient les deux pères du domaine de l’intelligence artificielle, et les deux avaient des insights profonds sur les pouvoirs ainsi que les limites de l’IA, et j’ai eu la chance de étudier avec les deux.

Nous pouvons encore voir aujourd’hui que l’IA a un grand potentiel, et en même temps des limites significatives. Les mêmes défis que nous affrontions il y a 30 ans sont encore apparents aujourd’hui, en particulier lorsque nous regardons l’IA dans l’entreprise. J’ai été inspiré par le travail en tant qu’étudiant, pour voir si la valeur de l’IA pouvait être débloquée d’une manière ou d’une autre, et je continue d’être passionné par cela.

Vous avez précédemment écrit des articles très importants, lequel pensez-vous avoir été le plus important pour faire évoluer vos points de vue sur l’IA ?

En tant qu’étudiant, j’ai dû lire plusieurs milliers d’articles. Les articles de McCarthy sur un « conseiller », sur certains problèmes philosophiques clés de l’IA, les articles de Marvin sur l’esprit en tant que société, sur la combinaison des approches connexionnistes (basées sur les réseaux de neurones) et symboliques de l’IA, les articles de Judea Pearl sur le raisonnement probabiliste et l’intelligence causale, et les articles de David Marr (sur la vision), de Pat Winston (sur l’apprentissage de descriptions d’objets à partir d’exemples), les travaux de Waldinger sur la synthèse de programmes, et bien d’autres ont façonné mes points de vue. Plus récemment, j’ai lu les travaux de Hinton, Lecun, les gens de l’attention, ainsi que les travaux de Cynthia Rudin, Fernanda Viegas, et d’autres.

Vous avez déclaré que l’expérience du développeur pour construire un système d’IA est fragmentée et cassée, quels sont certains des problèmes actuels derrière la construction d’un système d’IA ?

Les systèmes d’IA d’aujourd’hui ne peuvent vraiment être expliqués que par un nombre relativement petit de personnes — les statistiques varient, mais il semble qu’il n’y ait peut-être que 20-30 000 personnes dans le monde qui comprennent les méthodes réelles de fonctionnement des systèmes d’IA. C’est beaucoup plus petit que les 52 000 personnes que nous estimons être des professionnels de l’MLOps, ou les 1 million que nous estimons être des data scientists. Beaucoup d’entre eux ne pourraient pas vous dire pourquoi le système fait ce qu’il fait, pourquoi il fait les recommandations qu’il fait ou ce qui pourrait éventuellement se passer, ou comment les techniques sous-jacentes fonctionnent.

Mettons cela dans le contexte d’un paysage très complexe. Il y a plus de 300 fournisseurs d’MLOps que Gartner suit à tout moment. Chacun de ces fournisseurs a une offre spécialisée. Les grands fournisseurs de cloud, d’un autre côté, ont leur propre saveur de tout, et cherchent souvent à verrouiller les entreprises dans leurs écosystèmes et leur infrastructure.

Ensuite, le calcul lui-même est souvent trop coûteux pour que les entreprises puissent vraiment construire et former certains des modèles les plus avancés disponibles. Ceux-ci sont laissés à quelques entreprises qui ont le talent et les ressources nécessaires pour gérer les exigences d’un système d’IA.

Le manque de compréhension, la complexité de l’outillage et le coût du calcul se combinent pour créer un paysage disjoint et difficile pour toute entreprise qui cherche à être compétente en IA. Chez Vianai, nous construisons des méthodes pour rendre l’IA plus facile à utiliser et plus facile à comprendre et à observer, tout en réduisant considérablement les ressources et les coûts associés à la meilleure performance.

Pouvez-vous partager l’histoire de la création de Vianai ?

J’ai passé de nombreuses années à travailler pour apporter de nouvelles innovations disruptives aux entreprises. Mes équipes et moi avons construit plusieurs produits qui ont atteint des dizaines de milliers d’entreprises et ont été considérés comme des percées. J’ai également dirigé deux transformations fondamentales dans mes deux parcours précédant la création de Vianai et j’ai participé à des transformations dans des centaines d’entreprises. En plus de cela, j’ai passé de nombreuses années à étudier l’IA et à me concentrer sur la façon de rendre l’IA meilleure, plus pertinente et au service de l’humanité.

D’une manière plutôt inhabituelle – ces choses sont venues ensemble. J’étais en vacances avec ma famille en Asie du Sud-Est [en fin 2018]. Nous faisions du shopping dans un petit marché, et le vendeur avait de beaux bijoux faits main, fabriqués avec des techniques traditionnelles et des pierres locales, et c’était incroyable, mais, bien sûr, personne en dehors de cette petite ville n’en avait entendu parler. Et j’ai eu cette question qui m’est venue à l’esprit, « Qu’est-ce que ce serait si ce vendeur pouvait utiliser l’IA ? Comment les systèmes fonctionneraient-ils ? » À ce moment-là, j’ai réalisé que chaque entreprise dans le monde allait être transformée par l’IA, et que cette transformation ne pouvait pas être considérée avec les lunettes d’hier, mais nécessitait des produits et des idées qui devaient partir d’une feuille blanche.

Environ un mois plus tard, j’ai fondé Vianai avec pour mission d’apporter une véritable IA centrée sur l’humain aux entreprises du monde entier. Cela signifie fournir des produits et des services, des applications et des technologies, des outils qui permettent aux utilisateurs métier, aux data scientists, aux ingénieurs ML et même aux vendeurs dans les régions reculées du monde de vraiment bénéficier des avantages de l’IA.

Depuis, nous avons créé des applications pour aider les entreprises à démarrer l’IA, une plateforme pour aider les praticiens ML à gérer et à surveiller leurs modèles d’IA, et des techniques d’optimisation pour permettre à plus d’entreprises d’accéder à l’IA.

Au travers de tout cela, nous avons constaté que le potentiel significatif d’apporter la puissance de la compréhension humaine, du jugement et de la collaboration avec les données et les meilleures techniques d’IA reste inexploité. Sur la base de notre travail avec les principales entreprises, j’ai vu que les mêmes techniques qui aideraient le petit vendeur aideraient les plus grandes entreprises du monde.

Vianai est tout sur l’IA centrée sur l’humain, pouvez-vous définir ce que c’est et pourquoi c’est important ?

L’IA centrée sur l’humain est l’IA qui cherche à amplifier le travail humain et à améliorer le jugement humain. L’apprentissage automatique est souvent considéré comme un remplacement du travail humain. Mais l’IA est complémentaire aux humains — elle offre une échelle et une répétitivité et une précision que les humains ne peuvent pas reproduire. Mais l’IA ne peut pas reproduire le jugement humain, les expériences humaines ou notre compréhension du contexte.

Il y a des exemples évidents de cela, comme l’IA qui confond une tortue avec un fusil, par exemple, mais beaucoup plus souvent, nous accordons trop de confiance à l’IA lorsqu’elle n’a pas encore prouvé qu’elle est digne de confiance. Une histoire célèbre remonte à une décennie, lorsque l’IA d’une entreprise a été autorisée à trader sans intervention humaine. L’algorithme a perdu 440 millions de dollars en moins d’une heure.

Pour un exemple plus récent, les modèles de langage de pointe restent relativement faciles à confondre ou à biaiser. Les générateurs de texte-à-image sont potentiellement puissants, mais nécessitent des commandes très spécifiques de la part d’un utilisateur humain pour atteindre leur plein potentiel.

L’IA centrée sur l’humain, alors, est une sorte de focus dans la conception de nos produits. Nous apportons la puissance de la compréhension humaine – comme le jugement et la collaboration – avec les meilleures données et les meilleures techniques d’IA, pour créer des systèmes intelligents qui peuvent grandement améliorer les résultats et les processus métier.

Pouvez-vous expliquer le besoin d’une boucle de rétroaction derrière les humains et l’IA ?

Il y a une branche entière de l’IA appelée « humain dans la boucle » qui repose sur les mécanismes de rétroaction des humains pour améliorer naturellement les performances de l’IA. C’est naturel, et cela a du sens pour tout système.

Les systèmes d’IA peuvent s’améliorer avec le temps, grâce à une rééducation, qui intègre les actions que l’utilisateur a prises. C’est, bien sûr, une partie de nos applications également. Laissez-moi vous donner un exemple.

Avant Covid, nous travaillions avec une grande entreprise de services financiers sur la prévision de la demande. Parce de la façon dont nous avons conçu le système, lorsque Covid est arrivé et a brisé de nombreux autres modèles, le nôtre s’est adapté rapidement aux changements et n’a jamais eu à être reconstruit. C’est le deuxième et le plus important aspect de l’IA centrée sur l’humain, concevoir les systèmes dès le départ pour intégrer les complexités de la vie moderne.

Cela crée la confiance et un système qui grandit avec l’organisation et l’utilisateur.

Qu’est-ce qui fait de Vianai une plateforme d’IA de nouvelle génération ?

Alors qu’il y a beaucoup de discussions autour du risque, de la régulation et de la promesse de l’IA, peu ont cherché ce que nous considérons comme la solution — le concept d’IA centrée sur l’humain.

<p Notre plateforme est alors prête pour les problèmes qui surgiront à mesure que l'IA deviendra plus réelle dans l'entreprise. Elle est conçue pour résoudre les problèmes autour de la confiance, des biais et de la transparence. Elle permet aux entreprises de mettre à l'échelle l'IA avec une surveillance et une optimisation. Et elle permet aux utilisateurs non techniques de tirer parti de l'IA grâce à nos applications.

Quels sont certains des défis derrière la construction d’une plateforme qui simplifie considérablement l’expérience pour l’IA d’entreprise ?

Les plus grands défis que nous voyons dans les entreprises qui intègrent l’IA sont le talent, les outils et la technologie. Tout d’abord, le talent tend à être concentré dans quelques endroits, en particulier dans les plus grandes entreprises technologiques. Cela rend très difficile la participation des membres de l’équipe extérieurs à la supervision, à la gouvernance et à l’élaboration du programme d’IA et peut créer encore plus de biais car seuls un nombre limité de membres de l’équipe travaillent sur les opérations.

La technologie et les outils peuvent également être un défi pour simplifier l’IA. Actuellement, la technologie et les outils sont limités. Les puces pour exécuter l’IA sont rares et très coûteuses, et les outils sont verrouillés dans certains fournisseurs, ce qui réduit la liberté d’améliorer le coût tout en étendant la valeur. Quelle que soit la phase de leur parcours d’IA d’entreprise, ces défis peuvent rendre difficile la mise en œuvre d’une IA utile et éthique, car cela crée une stratégie disjointe et fragmentée et retire les outils nécessaires pour exécuter les fonctions appropriées. Les organisations doivent être en mesure de soutenir tous les aspects de l’IA, de la mise en œuvre à la maintenance, et avoir le soutien de l’équipe et offrir des commentaires pour en faire un succès.

Pour un véritable succès, j’ai constaté que les capacités de plateforme doivent être complètement ouvertes, modulaires, flexibles et non dépendantes de mises à niveau matérielles et logicielles coûteuses. Et avec une approche centrée sur l’humain, les humains sont toujours capables d’apporter les connaissances, le contexte, les expériences et la créativité pour résoudre les problèmes – cela est alors amplifié par la plateforme d’IA, et non remplacé.

Y a-t-il autre chose que vous aimeriez partager à propos de Vianai ?

De nombreuses manières, nous vivons dans l’ère de l’IA. Il y a beaucoup d’hype et de discussion autour de l’IA, ce qui, dans l’ensemble, est une bonne chose. Nous voyons beaucoup de progrès et une adoption plus large qu’auparavant dans des domaines tels que l’IA générative et d’autres domaines. Cependant, nous devrions également travailler pour reconnaître les limites de l’IA – les réalités de la technologie d’IA d’aujourd’hui, ainsi que les réalités de la rareté de l’expertise en IA et du manque de confiance en IA, en particulier dans les entreprises. Si nous pouvons considérer l’IA comme un amplificateur de nos vies, de la société, de notre travail, de notre potentiel, et avoir la supervision nécessaire de l’IA pour nous assurer de cela, alors je crois vraiment que nous verrons enfin l’IA se concrétiser de manière significative et transformationnelle.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Vianai.