Dr Vishal Sikka, fondateur et PDG de Vianai - Série d'interviews

Vishal Sikka est le fondateur et PDG de Vianais, ancien CTO de SAP AG et ancien PDG d'Infosys. Il siège également actuellement au conseil d'administration d'Oracle, au conseil de surveillance du groupe BMW et en tant que conseiller auprès du Stanford Institute of Human-Centered AI.

La plate-forme Vianai combine des éléments open source, des techniques et optimisations propriétaires de Vianai et une conception centrée sur l'humain pour apporter l'IA à l'entreprise à grande échelle, dans divers paysages. Avec la plate-forme, les grandes organisations peuvent créer, optimiser, déployer et gérer des modèles ML sophistiqués sur l'infrastructure existante et améliorer les opérations et les performances des modèles ML dans toute l'entreprise,

Qu'est-ce qui vous a initialement attiré vers l'apprentissage automatique ?

Je me suis intéressé à l'IA à l'adolescence, lorsque j'ai lu les réflexions de Marvin Minsky sur nos esprits en tant que sociétés d'agents simples, et j'ai entendu parler d'Eliza de Joe Weizenbaum (un tout premier chatbot) et de la critique de John McCarthy à son sujet. Plus tard, j'ai eu l'honneur d'avoir McCarthy comme président de mon comité d'examen de qualification en IA à Stanford. McCarthy et Minsky étaient les deux pères du domaine de l'intelligence artificielle, et tous deux avaient une connaissance approfondie de ses pouvoirs ainsi que de ses limites, et j'ai eu la chance d'étudier avec eux.

Nous pouvons encore voir aujourd'hui que l'IA a un grand potentiel, et en même temps a des limites importantes. Les mêmes défis auxquels nous étions confrontés il y a 30 ans sont toujours apparents aujourd'hui, en particulier lorsque nous examinons l'IA dans l'entreprise. J'ai été inspiré par le travail en tant qu'étudiant, pour voir si la valeur de l'IA pouvait d'une manière ou d'une autre être déverrouillée, et j'ai continué à être passionné par cela.

Vous avez déjà écrit des articles instrumentaux. Selon vous, quel article a le plus contribué à faire évoluer votre point de vue sur l'IA ?

En tant qu'étudiant, j'ai dû lire plusieurs milliers d'articles. Les articles prémonitoires de McCarthy sur un « preneur de conseils », sur certains problèmes philosophiques clés de l'IA, les articles de Marvin sur l'esprit en tant que société, sur le rapprochement des approches connexionnistes (basées sur les réseaux neuronaux) et symboliques de l'IA, les articles de Judea Pearl sur le raisonnement probabiliste et l'intelligence causale et les articles de David Marr (sur la vision), Pat Winston (sur l'apprentissage des descriptions d'objets à partir d'exemples), le travail de Waldinger sur la synthèse de programmes et bien d'autres ont façonné mon point de vue. Plus récemment, j'ai lu des œuvres de Hinton, Lecun, les gens de l'attention, ainsi que les œuvres de Cynthia Rudin, Fernanda Viegas et d'autres.

Vous avez déclaré que l'expérience des développeurs dans la construction d'un système d'IA est fragmentée et brisée, quels sont certains des problèmes actuels liés à la construction d'un système d'IA ?

Les systèmes d'IA d'aujourd'hui ne peuvent vraiment être expliqués que par un nombre relativement restreint de personnes - les statistiques varient, mais il semble qu'il n'y en ait vraiment qu'environ 20 à 30,000 52,000 dans le monde qui comprennent les véritables méthodes de fonctionnement des systèmes d'IA. C'est beaucoup moins que les quelque 1 XNUMX personnes que nous estimons être des professionnels du MLOps, ou que le million que nous estimons être des scientifiques des données. Beaucoup d'entre eux ne pourraient pas vous dire pourquoi le système fait ce qu'il fait, pourquoi il fait les recommandations qu'il fait ou ce qui pourrait éventuellement mal tourner, ou comment fonctionnent les techniques sous-jacentes.

Mettez cela dans le contexte d'un paysage extrêmement complexe. Il existe plus de 300 fournisseurs MLOps que Gartner suit à tout moment. Chacun d'entre eux a une offre spécialisée. Les grands fournisseurs de cloud, quant à eux, ont leur propre saveur et cherchent souvent à enfermer les entreprises dans leurs écosystèmes et leur infrastructure.

Ensuite, le calcul lui-même est souvent trop coûteux pour que les entreprises puissent vraiment construire et former certains des modèles les plus avancés disponibles. Ceux-ci sont laissés à quelques entreprises qui ont le talent et les ressources nécessaires pour gérer les demandes d'un système d'IA.

Le manque de compréhension, la complexité de l'outillage et le coût du calcul se combinent pour créer un paysage décousu et stimulant pour toute entreprise cherchant à maîtriser l'IA. Chez Vianai, nous développons des méthodes pour rendre l'IA plus facile à utiliser et plus facile à comprendre et à observer, tout en réduisant considérablement les ressources et les coûts associés à l'obtention des meilleures performances.

Pourriez-vous partager l'histoire de la genèse derrière Vianai?

J'avais passé de nombreuses années à travailler pour apporter de nouvelles innovations disruptives aux entreprises. Mes équipes et moi avons construit plusieurs produits qui ont atteint des dizaines de milliers d'entreprises et ont été considérés comme des percées. J'ai également mené deux transformations fondamentales dans mes deux parcours avant de démarrer Vianai et j'ai participé à des transformations dans des centaines d'entreprises. En plus de cela, j'ai passé de nombreuses années à étudier l'IA et à me concentrer sur la façon de rendre l'IA meilleure, plus pertinente et au service de l'humanité.

D'une manière quelque peu inhabituelle, ces choses se sont réunies. J'étais en vacances avec ma famille en Asie du Sud-Est [fin 2018]. Nous faisions nos courses dans un petit marché et le vendeur avait de beaux bijoux faits à la main. Il a été fabriqué avec des techniques traditionnelles et des pierres locales, et c'était magnifique, mais, bien sûr, personne en dehors de cette petite ville n'en avait entendu parler. Et cette question m'est venue à l'esprit : "Et si ce fournisseur pouvait utiliser l'IA ? À quoi cela ressemblerait-il ? Comment les systèmes devraient-ils fonctionner ? À ce moment-là, j'ai compris que toutes les entreprises du monde allaient être transformées avec l'IA, et que cette transformation ne pouvait pas être regardée avec les lentilles d'hier, mais avait besoin de produits et d'idées qui devaient partir d'une ardoise vierge.

Environ un mois plus tard, j'ai fondé Vianai avec pour mission d'apporter une véritable IA centrée sur l'humain aux entreprises du monde entier. Cela signifie fournir des produits et services, des applications et des technologies, des outils qui permettent aux utilisateurs professionnels, aux scientifiques des données, aux ingénieurs ML et même aux fournisseurs dans les régions éloignées du monde de tirer pleinement parti des avantages de l'IA.

Depuis lors, nous avons créé des applications pour aider les entreprises à démarrer sur l'IA, une plate-forme pour aider les praticiens du ML à gérer et à surveiller leurs modèles d'IA, et des techniques d'optimisation pour permettre à davantage d'entreprises d'accéder à l'IA.

À travers tout, nous avons constaté que le potentiel important d'associer le pouvoir de la compréhension, du jugement et de la collaboration humains aux données et aux meilleures techniques d'IA reste inexploité. Sur la base de notre travail avec des entreprises de premier plan, j'ai vu que les mêmes techniques qui aideraient le petit fournisseur aideraient les plus grandes entreprises du monde.

Vianai est tout au sujet de l'IA centrée sur l'humain, pourriez-vous définir ce que c'est et pourquoi c'est important ?

L'IA centrée sur l'humain est une IA qui cherche à amplifier le travail humain et à améliorer le jugement humain. L'apprentissage automatique est trop souvent considéré comme un substitut au travail humain. Mais l'IA est complémentaire aux humains - elle offre une échelle, une répétabilité et une précision que les humains ne peuvent pas reproduire. Mais l'IA ne peut pas reproduire le jugement humain, les expériences humaines ou notre compréhension du contexte.

Il y a des exemples évidents de cela, de l'IA confondant une tortue avec un fusil par exemple, mais bien plus souvent, nous accordons trop de confiance à l'IA alors qu'elle n'a pas encore fait ses preuves. Une histoire infâme remonte à il y a dix ans, lorsque l'IA d'une entreprise a été autorisée à commercer sans intervention humaine. L'algorithme a perdu 440 millions de dollars en moins d'une heure.

Pour un exemple plus récent, les modèles de langage de pointe restent relativement faciles à confondre ou à biaiser. Les générateurs de texte en image sont potentiellement puissants, mais nécessitent des commandes très spécifiques de la part d'un utilisateur humain pour obtenir leur plein potentiel.

L'IA centrée sur l'humain est donc une sorte de point central dans la conception de nos produits. Nous apportons la puissance de la compréhension humaine - comme le jugement et la collaboration - ainsi que les meilleures techniques de données et d'IA, pour créer des systèmes intelligents qui peuvent considérablement améliorer les résultats et les processus commerciaux.

Pourriez-vous expliquer la nécessité d'une boucle de rétroaction derrière les humains et l'IA ?

Il y a toute une branche de l'IA appelée "humain dans la boucle» qui s'appuie sur les mécanismes de rétroaction des humains pour améliorer naturellement les performances de l'IA. Ceci est naturel et logique pour n'importe quel système.

Les systèmes d'IA peuvent s'améliorer au fil du temps, grâce à un recyclage, qui intègre toutes les actions entreprises par l'utilisateur. Cela fait bien entendu également partie de nos applications. Laissez-moi vous donner un exemple.

Avant Covid, nous travaillions avec une grande société de services financiers sur la prévision de la demande. En raison de la façon dont nous avons conçu le système, lorsque Covid est arrivé et a cassé tant d'autres modèles, le nôtre s'est rapidement adapté aux changements et n'a jamais dû être reconstruit. C'est le deuxième et le plus important aspect de l'IA centrée sur l'humain, concevoir les systèmes dès le départ pour intégrer les complexités de la vie moderne.

Cela crée la confiance et un système qui grandit avec l'organisation et l'utilisateur.

Qu'est-ce qui fait de Vianai une plateforme d'IA de nouvelle génération ?

Bien qu'il y ait beaucoup de discussions sur le risque, la réglementation et la promesse de l'IA, peu ont cherché ce que nous trouvons être la solution - le concept d'IA centrée sur l'humain.

Notre plate-forme est alors prête pour les problèmes qui surviendront à mesure que l'IA deviendra plus réelle dans l'entreprise. Il s'agit de s'attaquer aux problèmes de confiance, de partialité et de transparence. Il permet aux entreprises de faire évoluer l'IA avec surveillance et optimisation. Et cela permet aux utilisateurs non techniques d'exploiter l'IA via nos applications.

Quels sont certains des défis liés à la création d'une plate-forme qui rationalise considérablement l'expérience de l'IA d'entreprise ?

Les plus grands défis que nous voyons dans les entreprises intégrant l'IA sont les talents, les outils et la technologie. Premièrement, les talents ont tendance à être concentrés dans quelques endroits, en particulier dans les grandes entreprises technologiques. Il est donc très difficile pour les membres extérieurs de l'équipe de participer à la supervision, à la gouvernance et à l'élaboration du programme d'IA et peut créer encore plus de biais car seul un nombre limité de membres de l'équipe travaille sur les opérations.

La technologie et les outils peuvent également être un défi dans la rationalisation de l'IA. À l'heure actuelle, la technologie et les outils sont limités. Les puces pour exécuter l'IA sont rares et très chères, et les outils sont verrouillés chez certains fournisseurs, ce qui réduit la liberté d'améliorer les coûts tout en augmentant la valeur. Peu importe où une entreprise se trouve dans son parcours d'IA d'entreprise, ces défis peuvent rendre difficile la mise en œuvre d'une IA utile et éthique, car elle crée une stratégie déconnectée et fragmentée et supprime les outils nécessaires pour exécuter les fonctions appropriées. Les organisations doivent être en mesure de prendre en charge tous les domaines de l'IA, de la mise en œuvre à la maintenance, et de bénéficier du soutien de l'équipe et d'apporter leur contribution pour en faire un succès.

Pour un véritable succès, j'ai constaté que les capacités de la plate-forme doivent être complètement ouvertes, modulaires, flexibles et ne pas dépendre de mises à niveau matérielles et logicielles coûteuses. Et avec une approche centrée sur l'humain, les humains sont toujours capables d'apporter les connaissances, le contexte, les expériences et la créativité pour résoudre les problèmes - cela est ensuite amplifié par la plate-forme d'IA, et non remplacé.

Y a-t-il autre chose que vous aimeriez partager à propos de Vianai ?

À bien des égards, nous vivons à l'époque de l'IA. Il y a beaucoup de battage médiatique et de discussions autour de l'IA, ce qui dans l'ensemble est une bonne chose. Nous constatons de nombreuses avancées et une adoption plus large que par le passé dans des domaines tels que l'IA générative et d'autres domaines. Cependant, nous devons également travailler pour reconnaître les limites de l'IA - les réalités de la technologie de l'IA aujourd'hui ainsi que les réalités de la rareté de l'expertise en IA et le manque de confiance dans l'IA, en particulier dans les entreprises. Si nous pouvons définir l'IA comme un amplificateur de nos vies, de la société, de notre travail, de notre potentiel et avoir la surveillance nécessaire de l'IA pour garantir cela, alors je crois que nous la verrons enfin prendre vie de manière significative et transformationnelle.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter Vianais.