Comment les entreprises peuvent créer un IA responsable et transparent – Leaders d’opinion

Par Eric Paternoster, PDG d’Infosys Public Services

Sundar Pichai, PDG de la société mère de Google, Alphabet, a décrit les développements de l’IA comme « plus profonds que le feu ou l’électricité », et la COVID-19 a apporté une urgence nouvelle pour libérer les promesses de cette technologie. Les applications de l’IA sont maintenant fermement sous les projecteurs, améliorant les traitements contre la COVID, traçant les porteurs potentiels de la COVID et déployant des chatbots en temps réel pour les utilisateurs de sites Web de détail en rupture de stock. Ces applications ont montré que l’IA améliore la résilience d’une entreprise et profite à la société dans son ensemble.

Ainsi, avec « cloud-native », le mot à la mode du dernier trimestre pourrait bien être « transformation IA-first », un terme que les praticiens de l’industrie pensent rester valable même après la disparition de la COVID. Pour de nombreuses entreprises, la promesse de coûts plus bas (c’est-à-dire des algorithmes de chaîne d’approvisionnement qui correspondent à l’offre et à la demande) et d’augmentations considérables de la productivité (c’est-à-dire lorsque les banques utilisent la vérification des documents et de l’identité en temps réel) est simplement trop bonne pour être ignorée.

Pourquoi la transformation IA-first ?

Dans la transformation IA-first, une entreprise utilise l’IA comme une étoile polaire, travaillant pour l’utiliser non seulement de manière intelligente mais aussi de manière à influencer les décisions prises par les personnes, les processus et les systèmes à grande échelle. Elle met les organisations à l’écoute des dynamiques changeantes entre les employés, les partenaires et les clients. Cela leur permet de pivoter rapidement et de répondre aux demandes changeantes tout en créant un avantage concurrentiel à long terme.

Mais toutes les entreprises ne sont pas au même niveau de maturité de l’IA. Il y a celles qui peuvent être qualifiées de « groupe IA classique », ou H1. Ces entreprises, qui ont moins d’expérience et d’investissement, utilisent généralement des algorithmes classiques tels que la méthode Bayes naïve, qui existe depuis 250 ans, ou la forêt aléatoire (développée par Tin Kam Ho en 1995) pour augmenter l’intelligence fragmentée au sein des systèmes existants. De telles utilisations de l’IA sont strictement basées sur des règles et assez rigides, manquant de capacité à généraliser à partir des règles qu’elles découvrent. Ensuite, il y a le « groupe d’apprentissage profond », ou H2. Ces entreprises adoptent une IA plus complexe, y compris les traductions de machine neuronales et les systèmes basés sur la transcription, pour extraire des informations conversationnelles. De tels systèmes ont plus de puissance mais ne peuvent pas facilement expliquer pourquoi ils font les choses qu’ils font. Ils manquent également de transparence. Pour ces deux groupes, l’IA utilisée n’est souvent pas digne de confiance ou fiable et peut prendre des décisions biaisées qui attirent l’attention négative des organismes gouvernementaux, des régulateurs et du public.

Ces entreprises doivent maintenant faire des pas pour faire progresser leurs mises en œuvre d’IA d’un cran supplémentaire – vers un troisième camp (H3) où l’IA est auto-apprenante et générative. À ce stade, les systèmes d’IA sont semi-supervisés ou même non supervisés. Ils sont transparents et atteignent un « sens commun » grâce à l’apprentissage multitâche. Ces systèmes fournissent une intelligence plus riche et offrent des insights actionnables en temps réel. Cela se fait grâce à une IA bien gérée et réglementée qui est interprétable et explicative à tous les stades.

Comment travailler vers une IA plus responsable et transparente

L’IA est de plus en plus utilisée pour gérer les écoles, les lieux de travail et d’autres entités publiques. Dans ces contextes, il est plus important que jamais que l’IA soit équitable et transparente. Cependant, alors que la société traverse cette explosion de l’adoption de l’IA, les organismes réglementaires fournissent des conseils limités sur le développement et le déploiement appropriés des technologies d’IA. Ainsi, la charge incombe aux entreprises de prendre les devants. L’industrie technologique dans son ensemble doit mettre en œuvre des ressources financières et humaines pour transformer les mises en œuvre initiales d’IA fragmentée en écosystèmes d’IA efficaces, créatifs, responsables et transparents. Pour entrer dans cet espace, les entreprises devraient faire les quatre choses suivantes :

• Garder les humains dans la boucle : Les modèles d’IA sont souvent conçus pour fonctionner de manière indépendante des humains. Cependant, l’élément humain est crucial dans de nombreux cas. Les humains doivent examiner les décisions et éviter les biais et les erreurs qui souvent déraillent les projets d’IA. Deux cas d’utilisation incluent la détection de la fraude et les cas où les forces de l’ordre sont impliquées. Nous recommandons aux entreprises d’embaucher des praticiens d’IA lentement mais régulièrement au fil du temps pour prendre les devants dans leur parcours d’IA-first.
• Éliminer les ensembles de données biaisés : Un ensemble de données non biaisé est une condition préalable essentielle pour créer des modèles d’IA fiables, équitables et non discriminatoires. Pour comprendre son importance, l’IA est utilisée pour la sélection des CV et la notation de crédit par les banques, et elle a même pénétré certains systèmes judiciaires. Dans ce paysage, les biais non contrôlés ont eu des implications très réelles.
• Assurer que les décisions soient explicables : Cette fonctionnalité a été couverte par de nombreux grands médias, et à juste titre. L’explication de l’IA (XAI) aide à expliquer pourquoi un système d’IA a pris une certaine décision. Elle révèle quelles fonctionnalités du modèle d’apprentissage profond ont été utilisées plus que d’autres pour faire sa prédiction ou son hypothèse. Comprendre l’importance des fonctionnalités et être capable de justifier comment les décisions sont prises est crucial pour des cas d’utilisation tels que les véhicules autonomes et la vision par ordinateur utilisée dans les biopsies médicales.
• Reproduire de manière fiable les résultats : Une nécessité courante dans les projets de recherche, les modèles d’IA devraient être cohérents lorsqu’ils fournissent des prédictions au fil du temps. De tels modèles ne devraient pas être affectés lorsqu’ils sont présentés avec de nouvelles données.

Ces quatre choses créeront des écosystèmes d’IA transparents et intelligents, évoluant vers ce que nous appelons une « entreprise vivante ». Ici, les décisions impartiales et explicables sont prises en temps réel, avec l’ensemble de l’entreprise agissant comme un organisme sentant gouverné par les humains. Lisez le document de recherche de l’Institut de connaissances d’Infosys pour en savoir plus.