Brian Sathianathan, Directeur technique et co-fondateur d’Iterate.ai – Série d’entretiens

Brian Sathianathan est le directeur technique et co-fondateur d’Iterate.ai, créateur de la plateforme low-code Interplay pour la construction rapide d’applications basées sur l’IA dans diverses industries. Auparavant, Sathianathan a travaillé chez Apple (AAPL ) sur divers projets de technologie émergente, notamment le système d’exploitation Mac et le premier iPhone.

Qu’est-ce qui vous a initialement attiré vers le travail avec les technologies de l’IA ?

J’ai toujours eu un intérêt pour l’apprentissage basé sur les algorithmes, et j’ai commencé à travailler avec des systèmes d’IA pendant mes études universitaires. En outre, j’ai passé beaucoup de temps au début de ma carrière à développer des technologies de cryptographie et de sécurité pour Apple, ainsi que des technologies de compression de vidéo pour une entreprise que j’ai co-fondée. Les technologies de vidéo et de cryptographie sont très intensives en algorithmes, ce qui a accéléré ma courbe d’apprentissage en IA/ML. Vers 2016, j’ai commencé à jouer avec des frameworks d’IA open source/GPU, en réalisant à quel point ils avaient évolué au cours des cinq dernières années – à la fois du point de vue des algorithmes et de leur capacité à effectuer une gamme plus large de classifications. Ensuite, j’ai réalisé qu’il fallait rendre cela plus facile et plus simple pour tout le monde à utiliser.

Vous avez des opinions fortes sur les biais cognitifs et les biais de données dans l’IA, pourriez-vous partager ces préoccupations ?

Les biais de l’IA se produisent lorsque les ingénieurs laissent leurs propres points de vue et préconceptions façonner leurs ensembles de données d’entraînement d’IA. Cela sape rapidement ce qu’ils essaient de réaliser avec l’IA. La plupart du temps, cette influence est subconsciente, ils ne sont donc peut-être même pas conscients que les biais ont pénétré dans leurs ensembles de données. Sans contrôles et équilibres efficaces, les données peuvent être limitées aux seuls points de focalisation ou aux groupes démographiques que les ingénieurs sont enclins à considérer. Même lorsque les ingénieurs ont une grande quantité de données de haute qualité, les biais dans les ensembles de données peuvent rendre les résultats fournis par les applications d’IA incorrects et, dans de nombreux cas, largement inutiles.

Un rapport de Gartner estimait que jusqu’en 2030, 85 % des projets d’IA fourniront des résultats faux en raison des biais. C’est un grand écart à surmonter. Les entreprises qui investissent dans l’IA, qui lui font confiance et qui prennent des décisions stratégiques sur la base de l’IA – pour être ensuite induites en erreur par de fausses conclusions enracinées dans les biais – risquent des échecs coûteux et des dommages à leur réputation. Avec l’IA qui passe rapidement d’une technologie émergente à un élément omniprésent dans les applications à la clientèle et les processus internes, éliminer les biais est essentiel pour réaliser le véritable potentiel de l’IA à l’avenir.

Quelles sont certaines des façons de prévenir ces types de biais ?

Les biais de l’IA doivent être détectés et supprimés de manière systématique et proactive. Les biais peuvent être intégrés dans les algorithmes. Des inexactitudes peuvent être introduites via des biais cognitifs qui omettent simplement les données nécessaires. Le biais d’agrégation est un autre risque, où une série de petites décisions s’additionnent pour produire des résultats d’IA biaisés.

La détection et l’élimination des biais de l’IA sous toutes ses formes nécessitent que les organisations utilisent des cadres, des kits d’outils, des processus et des politiques conçus pour atténuer efficacement ces problèmes. Par exemple, des cadres d’IA tels que le cadre Aletheia de Rolls Royce et le cadre d’IA de Deloitte – complétés par des références automatiquement appliquées – peuvent promouvoir des pratiques exemptes de biais dans le développement et le déploiement d’applications d’IA. Des kits d’outils tels que AI Fairness 360 et IBM Watson OpenScale peuvent reconnaître et supprimer les biais et les modèles de biais dans les modèles et les pipelines d’apprentissage automatique. Enfin, des processus qui testent les données contre des métriques de biais définies, combinés à des politiques qui fournissent une gouvernance pour dissuader les biais par le biais de pratiques appliquées, permettent aux organisations d’être systématiques dans la vérification de leurs angles morts et la réduction des biais de l’IA.

Vous êtes le directeur technique et co-fondateur d’Iterate.ai – comment est-ce que cela a commencé ?

Cette histoire commence en 2013, lorsque mon co-fondateur Jon Nordmark (notre PDG) et moi étions membres du conseil d’administration d’un accélérateur basé en Europe de l’Est, en Ukraine, conçu pour aider les entrepreneurs à construire et à exploiter des startups de style Silicon Valley. Ces expériences avec des nouvelles entreprises incroyablement innovantes nous ont menés à l’idée de faire correspondre des startups prometteuses (mais peut-être moins connues) avec de grandes entreprises ayant besoin d’un soutien à l’innovation. Nous avons ensuite lancé ce qui s’appelait alors Iterate Studio, offrant un moteur de recherche spécialisé pour les entreprises pour trouver des partenaires startups en fonction des capacités d’innovation que ces grandes organisations recherchaient. En 2015, l’entreprise est devenue Iterate.ai pour mettre en évidence notre curation de startups basée sur l’IA. Aujourd’hui, notre base de données Signals indexe plus de 15,7 millions de technologies de startups en fonction de divers facteurs (et en utilisant une IA propriétaire pour le faire à cette échelle).

Nous nous sommes développés en 2017 et avons lancé la première version de notre plateforme de développement d’applications low-code Interplay. Interplay fournit une couche logicielle alimentée par l’IA qui modernise les piles héritées des entreprises en permettant une utilisation par glisser-déposer de technologies innovantes tout en accélérant le développement logiciel de dix fois. La plateforme low-code comporte 475 composants pré-construits, les utilisateurs peuvent donc combiner et faire correspondre les technologies dont ils ont besoin pour lancer rapidement des applications. L’autonomisation de l’IA est au cœur de la plateforme, ainsi que d’autres composants low-code pour l’IoT, l’intégration de données et même la blockchain.

Iterate est une plateforme low-code pour le développement d’applications alimentées par l’IA ; quels sont certains des types d’applications d’IA qui peuvent être construits ?

Notre plateforme low-code a permis la construction d’applications d’IA pour une variété d’utilisation vraiment intéressante – la largeur du déploiement est quelque chose dont nous sommes vraiment fiers. Ulta Beauty (ULTA ), le détaillant de beauté mondial d’une valeur de un milliard de dollars, a utilisé notre plateforme pour construire un chatbot de vente au détail intelligent en seulement deux semaines. En revanche, les chatbots primitifs sont centrés sur les mots clés, et la plupart des applications de chatbot des fournisseurs ne peuvent pas s’intégrer en douceur avec les systèmes hérités pour accéder aux informations client ou permettre des transitions fluides vers un support humain assisté. Le chatbot intelligent d’Ulta a éliminé ces problèmes avec une fonctionnalité de traitement du langage naturel et la capacité de reconnaître les « intentions » des clients pour fournir des réponses vraiment précises. Notre plateforme a rendu simple pour Ulta de construire le moteur d’IA du chatbot en quelques heures, et de configurer, d’affiner et d’améliorer la formation et les réponses du chatbot de manière extrêmement rapide.

Dans un autre exemple, Jockey a utilisé notre plateforme pour mettre en place des FAQ pilotées par l’IA, capables de répondre automatiquement, et avec succès, à des situations de service client assez complexes et subjectives. Notre plateforme a également permis à un réseau mondial de magasins de proximité et de stations-service de réagir à la pandémie en proposant des pompes sans contact, grâce à la reconnaissance des plaques d’immatriculation des clients par l’IA. Nos capacités d’IA sont aussi utilisées pour renforcer les stratégies de sécurité fondées sur les caméras dans les commerces. Grâce à la reconnaissance d’images, les applications d’IA entraînées peuvent repérer les menaces et la présence d’armes à l’extérieur des magasins, déclencher leur verrouillage pour protéger les clients et contacter les autorités.

À quel point les besoins réels en programmation sont-ils réduits ? Quel niveau de compétence en développement les utilisateurs doivent-ils avoir ?

À mon avis, la règle des 80/20 s’applique. 80 % des cas d’utilisation de l’IA sont déjà construits et ont des modèles et des données d’entraînement établis autour d’eux. Une organisation traditionnelle peut facilement utiliser une plateforme low-code (la nôtre, Interplay, en est une) et mettre en œuvre ces cas. Voici quelques exemples :

• FAQ alimentées par l’IA
• Trouveurs de produits alimentés par l’IA
• Recommandations de produits et regroupement
• OCR
• Identification visuelle des produits
• Analyse de données tabulaires : par exemple le montant moyen des commandes (AOV), l’analyse du panier, la prévision de l’attrition, etc.
• Extraction/détection d’objets
• Permanence de l’objet

Les cas ci-dessus pourraient être mis en œuvre par un ingénieur ayant des connaissances en programmation côté serveur et une compréhension de base des API d’apprentissage automatique. C’est très similaire aux techniques de streaming vidéo, de cryptographie et de gestion de clés qui sont largement utilisées via des API aujourd’hui. La plupart des ingénieurs qui utilisent ces API ne savent souvent pas comment elles fonctionnent en dessous.

Pourquoi l’IA low-code est-elle importante pour la mise à l’échelle de la technologie d’IA ?

Les entreprises qui recherchent des capacités d’IA dans leur développement d’applications peuvent rapidement faire face à des défis majeurs lorsqu’elles n’utilisent pas de low-code. Dans le monde d’aujourd’hui, il n’y a que 300 000 ingénieurs d’IA, et seulement 60 000 d’entre eux sont des data scientists. En raison de cela, le talent nécessaire pour développer et mettre à l’échelle des solutions d’IA est coûteux et en augmentation. En revanche, le développement low-code démocratise vraiment l’accès à l’IA. Avec le low-code, n’importe lequel des 25 millions de développeurs de logiciels dans le monde, et même ceux sans formation, peuvent facilement mettre en œuvre des moteurs d’IA, affiner leurs capacités et produire et mettre à l’échelle des solutions efficaces.

En revenant à la plateforme Signals d’Iterate.ai, alimentée par l’IA, quelles sont certaines des tendances les plus intéressantes qui émergent ?

Nous voyons une croissance rapide à travers cinq forces d’innovation : l’IA, l’IoT, la blockchain, les données et les solutions de startups émergentes. Ce sont tous des marchés très importants. Nous voyons des milliers de points de données sur les actualités, les brevets et les nouveaux produits de startups chaque jour. Interplay est conçu pour exploiter ces forces en incluant des composants pré-construits pour tirer parti de ces forces en croissance.

Y a-t-il autre chose que vous aimeriez partager sur Iterate.ai ?

Je pense qu’il y a encore des malentendus sur le low-code et son rôle dans la construction d’applications d’IA. Il n’est pas rare de voir des professionnels de l’informatique se demander si une stratégie low-code peut répondre à leurs exigences en matière de mise à l’échelle, d’extensibilité et de sécurité pour les entreprises. Je pense que les options low-code destinées à la création de prototypes – mais mal appliquées comme outils pour les applications de production – ont contribué à ces réticences. Cependant, les bonnes plateformes low-code sont absolument à la hauteur de la tâche de construire et de prendre en charge des applications d’IA prêtes pour la production. Les entreprises doivent effectuer leurs diligences raisonnables pour sélectionner des outils low-code, en veillant à ce que ces outils aient une couche de sécurité transparente et approfondie, et un historique éprouvé de livraison d’applications à l’échelle de l’entreprise.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Iterate.ai.