Le manque de confiance envers l’IA peut entraver l’innovation et la valeur commerciale

Une récente enquête menée auprès de dirigeants d’entreprise à l’échelle mondiale montre que l’IA fiable est une priorité majeure, mais beaucoup ne prennent pas suffisamment de mesures pour l’atteindre, mais à quel coût ?

En effet, l’enquête IBM a révélé qu’un chiffre impressionnant de 85 % des répondants estiment que les consommateurs sont plus susceptibles de choisir une entreprise qui est transparente sur la façon dont ses modèles d’IA sont construits, gérés et utilisés.

Cependant, la majorité a admis qu’ils n’avaient pas pris les mesures clés pour garantir que leur IA est fiable et responsable, telles que la réduction des biais (74 %), le suivi des variations de performance et de la dérive des modèles (68 %), et la garantie qu’ils peuvent expliquer les décisions alimentées par l’IA (61 %). C’est inquiétant, surtout lorsqu’on considère que l’utilisation de l’IA continue de croître – avec 35 % déclarant qu’ils utilisent maintenant l’IA dans leur entreprise, contre 31 % il y a un an.

J’ai récemment assisté au sommet d’innovation d’entreprise sur invitation à Toronto où les participants ont échangé des idées innovantes et présenté des technologies prêtes à façonner l’avenir. J’ai eu le privilège de participer à trois tables rondes dans les segments des services financiers, de l’assurance et de la vente au détail avec trois domaines clés émergeant : la nécessité d’une plus grande transparence pour instaurer la confiance dans l’IA, la démocratisation de l’IA via le no-code/low-code, et le développement pour livrer une valeur et une mitigation des risques plus rapides grâce aux meilleures pratiques de gouvernance réglementaire de l’IA.

Augmenter la confiance dans les technologies d’IA. Le COVID-19 a amplifié et accéléré la tendance à adopter des chatbots alimentés par l’IA, des assistants financiers virtuels et des processus d’intégration sans contact. Cette tendance se poursuivra comme le confirme la recherche de Cap Gemini qui montre que 78 % des consommateurs interrogés prévoient d’augmenter l’utilisation des technologies d’IA, y compris la gestion de l’identité numérique dans leurs interactions avec les organisations de services financiers.

Les avantages inhérents ne sont pas avecstanding, un certain nombre de défis surgissent. Le principal d’entre eux est la méfiance persistante des consommateurs envers les technologies d’IA et leur impact sur leurs droits à la vie privée et à la sécurité. 30 % des consommateurs ont déclaré qu’ils seraient plus à l’aise pour partager leurs informations biométriques si leurs fournisseurs de services financiers leur fournissaient plus de transparence sur la façon dont leurs informations sont collectées, gérées et sécurisées.

Les DSI doivent adopter des principes d’IA fiables et instituer des mesures rigoureuses qui protègent les droits à la vie privée et à la sécurité. Ils peuvent y parvenir grâce au chiffrement, la minimisation des données et une authentification plus sûre, y compris la prise en compte des normes d’identité numérique décentralisée émergentes décentralisées. En conséquence, vos efforts d’automatisation intelligente et vos offres de self-service verront une adoption plus importante et nécessiteront moins d’intervention humaine.

Supprimer les obstacles à la démocratisation de l’IA. Il y a un changement croissant vers le développement d’applications d’IA no-code/low-code, qui, selon la recherche, devrait atteindre 45,5 milliards de dollars d’ici 2025. Le principal moteur est une valeur plus rapide avec des améliorations de la productivité du développement d’applications de 10 fois.

Par exemple, 56 % des organisations de services financiers interrogées considèrent la collecte de données auprès des emprunteurs comme l’une des étapes les plus difficiles et les moins efficaces dans le processus de demande de prêt, entraînant des taux d’abandon élevés. Alors que les technologies d’identification biométrique et de collecte de données alimentées par l’IA sont prouvées pour améliorer les efficacités dans le processus de demande de prêt, elles peuvent également créer des risques de conformité, en particulier, la confidentialité des données, la confidentialité et les biais algorithmiques de l’IA.

Pour atténuer et remédier à ces risques, les applications no-code/low-code doivent inclure des tests complets pour garantir qu’elles fonctionnent conformément aux objectifs de conception initiaux, supprimer les biais potentiels dans l’ensemble de données de formation qui peuvent inclure des biais d’échantillonnage, des biais d’étiquetage, et sont sécurisées contre les attaques d’IA adverses qui peuvent avoir un impact négatif sur les résultats algorithmiques de l’IA. La prise en compte des principes de science des données responsables d’équité, de précision, de confidentialité et de sécurité est primordial.

Développer un cadre de gouvernance et de réglementation de l’IA. La gouvernance de l’IA n’est plus une initiative agréable à avoir, mais un impératif. Selon le suivi des politiques nationales d’IA de l’OCDE, il existe plus de 700 initiatives réglementaires sur l’IA en cours de développement dans plus de 60 pays. Il existe cependant des codes de conduite volontaires et des principes éthiques d’IA développés par des organisations internationales de normalisation telles que l’Institute of Electrical and Electronic Engineers (IEEE) et le National Institute of Standards and Technology (NIST).

Les préoccupations des organisations entourent l’hypothèse que les réglementations sur l’IA imposeront plus d’obligations de conformité rigoureuses, appuyées par des mécanismes de mise en œuvre onéreux, notamment des pénalités pour non-conformité. Pourtant, la réglementation de l’IA est inévitable.

L’Europe et l’Amérique du Nord prennent des positions proactives qui obligeront les DSI à collaborer avec leurs homologues technologiques et commerciaux pour élaborer des politiques efficaces. Par exemple, la Commission européenne a proposé un Acte sur l’intelligence artificielle qui propose d’instituer des obligations fondées sur les risques pour les fournisseurs d’IA pour protéger les droits des consommateurs, tout en promouvant l’innovation et les opportunités économiques associées aux technologies d’IA.

En outre, en juin 2022, le gouvernement fédéral canadien a publié son très attendu Projet de loi sur la mise en œuvre de la Charte numérique qui protège contre les impacts négatifs des systèmes d’IA à haut risque. Les États-Unis poursuivent également des initiatives réglementaires sur l’IA, bien qu’à titre sectoriel. La Commission fédérale du commerce (FTC), le Bureau de protection financière des consommateurs (CFPB) et la Conseil de la Réserve fédérale font tous preuve de leurs muscles réglementaires grâce à leurs mécanismes de mise en œuvre pour protéger les consommateurs contre les impacts négatifs découlant de l’utilisation accrue de l’IA qui peuvent entraîner des résultats discriminatoires, même si cela n’est pas intentionnel. Un cadre de réglementation de l’IA est nécessaire pour toute entreprise innovante.

La réalisation d’une IA fiable nécessite des informations basées sur les données

La mise en œuvre d’une IA fiable ne peut être réalisée sans une approche basée sur les données pour déterminer où les applications des technologies d’IA peuvent avoir le plus grand impact avant de procéder à la mise en œuvre. Est-ce pour améliorer l’engagement client, ou pour réaliser des efficacités opérationnelles ou pour atténuer les risques de conformité ?

Chacun de ces moteurs commerciaux nécessite une compréhension de la façon dont les processus s’exécutent, de la façon dont les escalades et les exceptions sont gérées, et d’identifier les variations dans la route d’exécution des processus et leurs causes profondes. Sur la base d’une telle analyse basée sur les données, les organisations peuvent prendre des décisions commerciales éclairées quant à l’impact et aux résultats associés à la mise en œuvre de solutions basées sur l’IA pour réduire la friction d’intégration client et améliorer les efficacités opérationnelles. Une fois que les organisations ont le bénéfice d’informations basées sur les données, alors elles peuvent automatiser des processus très laborieux tels que la mise en œuvre des mandats de conformité de l’IA, les audits de conformité, la vérification de l’identité et la lutte contre le blanchiment d’argent dans les services financiers.

Le principal enseignement est qu’une partie intégrante de l’automatisation des processus basée sur l’IA est la mise en œuvre des meilleures pratiques d’IA fiable. L’utilisation éthique de l’IA ne devrait pas être considérée uniquement comme une obligation légale et morale, mais comme un impératif commercial. Il est sage de faire preuve de transparence dans l’application de l’IA. Cela favorise la confiance et engendre la loyauté de la marque.