Dr. Vishal Sikka, Fondateur & PDG de Vianai – Série d’entretiens

Vishal Sikka est le fondateur et PDG de Vianai, ancien CTO de SAP AG et ancien PDG d’Infosys. Il siège actuellement également au conseil d’administration d’Oracle, au conseil de surveillance du groupe BMW et en tant que conseiller à l’Institut Stanford pour l’IA centrée sur l’humain.

La plateforme Vianai combine des éléments open-source, des techniques et des optimisations propriétaires de Vianai, ainsi qu’une conception centrée sur l’humain pour apporter l’IA à l’entreprise à grande échelle, sur des paysages divers. Avec la plateforme, les grandes organisations peuvent créer, optimiser, déployer et gérer des modèles ML sophistiqués sur les infrastructures existantes et améliorer les opérations et les performances des modèles ML dans l’ensemble de l’entreprise,

Qu’est-ce qui vous a initialement attiré vers l’apprentissage automatique ?

Je me suis intéressé à l’IA en tant qu’adolescent, lorsque j’ai lu les réflexions de Marvin Minsky sur notre esprit en tant que sociétés d’agents simples, et que j’ai appris sur le chatbot Eliza de Joe Weizenbaum et la critique de John McCarthy à son égard. Plus tard, j’ai eu l’honneur d’avoir McCarthy comme président de mon comité d’examen d’AI à Stanford. McCarthy et Minsky étaient les deux pères du domaine de l’intelligence artificielle, et les deux avaient des insights profonds sur les pouvoirs ainsi que les limites de l’IA, et j’ai eu la chance de les étudier.

On peut encore voir aujourd’hui que l’IA a un grand potentiel, et en même temps a des limitations significatives. Les mêmes défis que nous affrontions il y a 30 ans sont encore apparents aujourd’hui, en particulier lorsqu’on regarde l’IA dans l’entreprise. J’ai été inspiré par le travail en tant qu’étudiant, pour voir si la valeur de l’IA pouvait être débloquée d’une manière ou d’une autre, et je continue d’être passionné par cela.

Vous avez précédemment écrit des articles instrumentaux, quel article pensez-vous avoir été le plus instrumental dans l’évolution de vos vues sur l’IA ?

En tant qu’étudiant, j’ai dû lire plusieurs milliers d’articles. Les articles prévoyants de McCarthy sur un « Advice Taker », sur certains problèmes philosophiques clés de l’IA, les articles de Marvin sur l’esprit en tant que société, sur la combinaison des approches connexionnistes (basées sur les réseaux de neurones) et symboliques de l’IA, les articles de Judea Pearl sur le raisonnement probabiliste et l’intelligence causale, et les articles de David Marr (sur la vision), Pat Winston (sur l’apprentissage de descriptions d’objets à partir d’exemples), le travail de Waldinger sur la synthèse de programmes, et bien d’autres ont façonné mes vues. Plus récemment, j’ai lu les travaux de Hinton, Lecun, les personnes qui travaillent sur l’attention, ainsi que les travaux de Cynthia Rudin, Fernanda Viegas, et d’autres.

Vous avez déclaré que l’expérience du développeur de construction d’un système d’IA est fragmentée et cassée, quels sont certains des problèmes actuels derrière la construction d’un système d’IA ?

Les systèmes d’IA d’aujourd’hui ne peuvent vraiment être expliqués que par un nombre relativement faible de personnes — les statistiques varient, mais il semble qu’il n’y ait vraiment que 20 000 à 30 000 personnes dans le monde qui comprennent les véritables méthodes de fonctionnement des systèmes d’IA. C’est considérablement moins que les 52 000 personnes que nous estimons être des professionnels de la MLOps, ou les 1 million que nous estimons être des data scientists. Beaucoup d’entre eux ne pourraient pas vous dire pourquoi le système fait ce qu’il fait, pourquoi il fait les recommandations qu’il fait ou ce qui pourrait éventuellement se passer, ou comment les techniques sous-jacentes fonctionnent.

Mettez cela sur le backdrop d’un paysage extrêmement complexe. Il y a plus de 300 fournisseurs de MLOps que Gartner suit à tout moment. Chacun de ces fournisseurs a une offre spécialisée. Les grands fournisseurs de cloud, d’un autre côté, ont leur propre saveur de tout, et cherchent souvent à verrouiller les entreprises dans leurs écosystèmes et leur infrastructure.

Ensuite, le coût du calcul lui-même est souvent trop élevé pour que les entreprises puissent vraiment construire et former certains des modèles les plus avancés disponibles. Ceux-ci sont réservés à quelques entreprises qui ont le talent et les ressources nécessaires pour gérer les exigences d’un système d’IA.

Le manque de compréhension, la complexité de l’outillage et le coût du calcul se combinent pour créer un paysage disjoint et difficile pour toute entreprise qui cherche à être compétente en IA. Chez Vianai, nous construisons des méthodes pour rendre l’IA plus facile à utiliser et plus facile à comprendre, tout en réduisant considérablement les ressources et les coûts associés à la meilleure performance.

Pouvez-vous partager l’histoire de la genèse derrière Vianai ?

J’ai passé de nombreuses années à travailler pour apporter de nouvelles innovations disruptives aux entreprises. Mes équipes et moi avons construit plusieurs produits qui ont atteint des dizaines de milliers d’entreprises et ont été considérés comme des avancées. J’ai également dirigé deux transformations fondamentales dans mes deux parcours précédant la création de Vianai et j’ai participé à des transformations dans des centaines d’entreprises. En plus de cela, j’ai passé de nombreuses années à étudier l’IA et à me concentrer sur la façon de l’améliorer, de la rendre plus pertinente et au service de l’humanité.

D’une manière plutôt inhabituelle — ces choses se sont réunies. J’étais en vacances avec ma famille en Asie du Sud-Est [en fin 2018]. Nous faisions du shopping dans un petit marché, et le vendeur avait de beaux bijoux faits main, fabriqués avec des techniques traditionnelles et des pierres locales, et c’était incroyable, mais, bien sûr, personne en dehors de cette petite ville n’en avait entendu parler. Et j’ai eu cette question qui m’est venue à l’esprit, « Et si ce vendeur pouvait utiliser l’IA ? À quoi ressemblerait-ce ? Comment les systèmes devraient-ils fonctionner ? » À ce moment-là, cela m’a frappé que chaque entreprise dans le monde allait être transformée par l’IA, et que cette transformation ne pouvait pas être considérée avec les lunettes d’hier, mais nécessitait des produits et des idées qui devaient commencer à partir d’une feuille blanche.

Environ un mois plus tard, j’ai fondé Vianai avec pour mission d’apporter une véritable IA centrée sur l’humain aux entreprises du monde entier. Cela signifie fournir des produits et des services, des applications et des technologies, des outils qui permettent aux utilisateurs commerciaux, aux data scientists, aux ingénieurs ML et même aux vendeurs dans les régions reculées du monde de bénéficier vraiment des avantages de l’IA.

Depuis, nous avons créé des applications pour aider les entreprises à démarrer l’IA, une plateforme pour aider les praticiens ML à gérer et à surveiller leurs modèles d’IA, et des techniques d’optimisation pour permettre à plus d’entreprises d’accéder à l’IA.

À travers tout, nous avons constaté que le potentiel significatif d’apporter la puissance de la compréhension humaine, du jugement et de la collaboration avec les données et les meilleures techniques d’IA reste inexploité. Sur la base de notre travail avec des entreprises leaders, j’ai vu que les mêmes techniques qui aideraient le petit vendeur aideraient les plus grandes entreprises du monde.

Vianai est tout sur l’IA centrée sur l’humain, pouvez-vous définir ce qu’est cela et pourquoi c’est important ?

L’IA centrée sur l’humain est une IA qui cherche à amplifier le travail humain et à améliorer le jugement humain. L’apprentissage automatique est souvent considéré comme un remplacement du travail humain. Mais l’IA est complémentaire aux humains — elle offre une échelle et une reproductibilité et une précision que les humains ne peuvent pas reproduire. Mais l’IA ne peut pas reproduire le jugement humain, les expériences humaines, ou notre compréhension du contexte.

Il y a des exemples évidents de cela, de l’IA qui prend une tortue pour un fusil, par exemple, mais bien plus souvent nous faisons trop confiance à l’IA lorsqu’elle n’a pas encore prouvé qu’elle est digne de confiance. Une histoire infâme vient d’il y a une décennie, lorsque l’IA d’une entreprise a été autorisée à trader sans intervention humaine. L’algorithme a perdu 440 millions de dollars en moins d’une heure.

Pour un exemple plus récent, les modèles de langage de pointe restent relativement faciles à confondre ou à biaiser. Les générateurs de texte-à-image sont potentiellement puissants, mais nécessitent des commandes très spécifiques d’un utilisateur humain pour atteindre leur plein potentiel.

L’IA centrée sur l’humain, alors, est une sorte de focus dans la conception de nos produits. Nous apportons la puissance de la compréhension humaine – comme le jugement et la collaboration – avec les meilleures données et les meilleures techniques d’IA, pour créer des systèmes intelligents qui peuvent grandement améliorer les résultats et les processus commerciaux.

Pouvez-vous expliquer le besoin d’une boucle de rétroaction derrière les humains et l’IA ?

Il y a une branche entière de l’IA appelée « human in the loop » qui repose sur les mécanismes de rétroaction des humains pour améliorer naturellement les performances de l’IA. C’est naturel, et cela a du sens pour tout système.

Les systèmes d’IA peuvent s’améliorer avec le temps, grâce à une rééducation, qui intègre les actions que l’utilisateur a prises. C’est, bien sûr, une partie de nos applications. Laissez-moi donner un exemple.

Avant Covid, nous travaillions avec une grande entreprise de services financiers sur la prévision de la demande. En raison de la façon dont nous avons conçu le système, lorsque Covid est arrivé et a cassé de nombreux autres modèles, le nôtre s’est adapté rapidement aux changements et n’a jamais eu à être reconstruit. C’est le deuxième et le plus important aspect de l’IA centrée sur l’humain, concevoir les systèmes dès le départ pour intégrer les complexités de la vie moderne.

Cela crée la confiance et un système qui grandit avec l’organisation et l’utilisateur.

Qu’est-ce qui fait de Vianai une plateforme d’IA de prochaine génération ?

Alors qu’il y a beaucoup de discussion autour du risque, de la réglementation et de la promesse de l’IA, peu ont cherché ce que nous trouvons être la solution — le concept d’IA centrée sur l’humain.

Notre plateforme est alors prête pour les problèmes qui surgiront à mesure que l’IA deviendra plus réelle dans l’entreprise. Elle est conçue pour résoudre les problèmes de confiance, de biais et de transparence. Elle permet aux entreprises de mettre à l’échelle l’IA avec une surveillance et une optimisation. Et elle permet aux utilisateurs non techniques d’harnacher l’IA grâce à nos applications.

Quels sont certains des défis derrière la construction d’une plateforme qui rationalise considérablement l’expérience pour l’IA d’entreprise ?

Les plus grands défis que nous voyons dans les entreprises qui intègrent l’IA sont le talent, les outils et la technologie. Tout d’abord, le talent tend à être concentré dans quelques endroits, en particulier dans les plus grandes entreprises technologiques. Cela rend très difficile pour les membres de l’équipe extérieure de participer à la supervision, à la gouvernance et à l’élaboration du programme d’IA et peut créer encore plus de biais car seul un nombre limité de membres de l’équipe travaille sur les opérations.

La technologie et les outils peuvent également être un défi dans la rationalisation de l’IA. Actuellement, la technologie et les outils sont limités. Les puces pour exécuter l’IA sont rares et très coûteuses, et les outils sont verrouillés dans certains fournisseurs, ce qui réduit la liberté d’améliorer le coût tout en étendant la valeur. Quelle que soit la position d’une entreprise dans son parcours d’IA d’entreprise, ces défis peuvent rendre difficile la mise en œuvre d’une IA utile et éthique, car cela crée une stratégie disjointe et fragmentée et supprime les outils nécessaires pour exécuter les fonctions appropriées. Les organisations doivent être en mesure de soutenir toutes les zones de l’IA, de la mise en œuvre à la maintenance, et avoir le soutien de l’équipe et offrir des commentaires pour en faire un succès.

Pour un véritable succès, j’ai constaté que les capacités de plateforme doivent être complètement ouvertes, modulaires, flexibles et ne pas dépendre de mises à niveau coûteuses de matériel et de logiciel. Et avec une approche centrée sur l’humain, les humains sont toujours capables d’apporter les connaissances, le contexte, les expériences et la créativité pour résoudre les problèmes — cela est alors amplifié par la plateforme d’IA, et non remplacé.

Y a-t-il autre chose que vous aimeriez partager sur Vianai ?

De nombreuses manières, nous vivons dans les temps de l’IA. Il y a beaucoup d’hypothèses et de discussions autour de l’IA, ce qui, dans l’ensemble, est une bonne chose. Nous voyons beaucoup de progrès et une adoption plus large qu’auparavant dans des domaines tels que l’IA générative et d’autres domaines. Cependant, nous devrions également travailler à reconnaître les limites de l’IA — les réalités de la technologie d’IA d’aujourd’hui, ainsi que les réalités de la rareté d’expertise en IA, et le manque de confiance en IA, en particulier dans les entreprises. Si nous pouvons considérer l’IA comme un amplificateur de nos vies, de la société, de notre travail, de notre potentiel, et avoir la supervision nécessaire de l’IA pour nous assurer que cela se produit, alors je crois vraiment que nous verrons enfin l’IA se concrétiser de manière significative et transformationnelle.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Vianai.