Le manque de confiance envers l’IA peut entraver l’innovation et la valeur commerciale

Une récente enquête menée auprès de dirigeants d’entreprise à l’échelle mondiale montre que l’IA fiable est une priorité majeure, mais beaucoup ne prennent pas suffisamment de mesures pour l’atteindre, à quel coût ?

En effet, l’enquête IBM a révélé qu’un chiffre étonnant de 85 % des répondants estiment que les consommateurs sont plus susceptibles de choisir une entreprise qui est transparente sur la façon dont ses modèles d’IA sont construits, gérés et utilisés.

Cependant, la majorité a admis qu’ils n’ont pas pris les mesures clés pour garantir que leur IA est fiable et responsable, telles que la réduction des préjugés (74 %), la traçabilité des variations de performance et de dérive de modèle (68 %), et la capacité à expliquer les décisions alimentées par l’IA (61 %). C’est inquiétant, surtout lorsqu’on considère que l’utilisation de l’IA continue de croître – avec 35 % déclarant qu’ils utilisent maintenant l’IA dans leur entreprise, contre 31 % il y a un an.

J’ai récemment assisté au sommet d’innovation d’entreprise sur invitation à Toronto où les participants ont échangé des idées innovantes et présenté des technologies prêtes à façonner l’avenir. J’ai eu le privilège de participer à trois tables rondes dans les secteurs des services financiers, de l’assurance et de la vente au détail avec trois domaines clés émergeant : la nécessité d’une plus grande transparence pour favoriser la confiance en IA, la démocratisation de l’IA via le code faible ou sans code, et le développement pour livrer une valeur plus rapide et atténuer les risques grâce aux meilleures pratiques de gouvernance réglementaire de l’IA.

Augmenter la confiance dans les technologies d’IA. La COVID-19 a amplifié et accéléré la tendance à adopter des chatbots alimentés par l’IA, des assistants financiers virtuels et des processus d’intégration sans contact. Cette tendance se poursuivra, comme le confirme la recherche de Cap Gemini qui montre que 78 % des consommateurs interrogés prévoient d’augmenter l’utilisation des technologies d’IA, y compris la gestion des identités numériques dans leurs interactions avec les organisations de services financiers.

Les avantages inhérents à cela, un certain nombre de défis surgissent. Le principal d’entre eux est la méfiance persistante des consommateurs envers les technologies d’IA et la manière dont leur nature omniprésente affecte leurs droits à la vie privée et à la sécurité. 30 % des consommateurs ont déclaré qu’ils seraient plus à l’aise pour partager leurs informations biométriques si leurs fournisseurs de services financiers fournissaient plus de transparence dans l’explication de la manière dont leurs informations sont collectées, gérées et sécurisées.

Les DSI doivent adopter des principes d’IA fiables et instituer des mesures rigoureuses pour protéger les droits à la vie privée et à la sécurité. Ils peuvent y parvenir grâce à le cryptage, la minimisation des données et une authentification plus sûre, y compris en considérant les normes d’identité numérique décentralisées émergentes décentralisées. En conséquence, vos efforts d’automatisation intelligente et vos offres de self-service verront une adoption plus importante et nécessiteront moins d’intervention humaine.

Supprimer les obstacles à la démocratisation de l’IA. Il y a un mouvement croissant vers le développement d’applications d’IA sans code ou à code faible, qui, selon la recherche, devrait atteindre 45,5 milliards de dollars d’ici 2025. Le principal moteur est une valeur plus rapide avec des améliorations de la productivité du développement d’applications d’un facteur 10.

Par exemple, 56 % des organisations de services financiers interrogées considèrent la collecte de données auprès des emprunteurs comme l’une des étapes les plus difficiles et les moins efficaces dans le processus de demande de prêt, entraînant des taux d’abandon élevés. Alors que les technologies d’identification biométrique et de collecte de données alimentées par l’IA sont prouvées pour améliorer les efficacités dans le processus de demande de prêt, elles peuvent également créer des risques de conformité, en particulier en matière de confidentialité des données, de confidentialité et de biais algorithmique de l’IA.

Pour atténuer et remédier à ces risques, les applications à code faible ou sans code doivent inclure des tests exhaustifs pour garantir qu’elles fonctionnent conformément aux objectifs de conception initiaux, supprimer les préjugés potentiels dans l’ensemble de données de formation qui peuvent inclure des préjugés d’échantillonnage, d’étiquetage et être sécurisées contre les attaques d’IA adverses qui peuvent avoir un impact négatif sur les résultats algorithmiques de l’IA. La prise en compte des principes de science des données responsables d’équité, de précision, de confidentialité et de sécurité est primordial.

Établir un cadre de gouvernance et de réglementation de l’IA. La gouvernance de l’IA n’est plus une initiative agréable à avoir, mais une nécessité. Selon le suivi des politiques nationales d’IA de l’OCDE, il existe plus de 700 initiatives réglementaires sur l’IA en cours de développement dans plus de 60 pays. Il existe cependant des codes de conduite volontaires et des principes éthiques d’IA développés par des organisations de normalisation internationales telles que l’Institute of Electrical and Electronic Engineers (IEEE) et le National Institute of Standards and Technology (NIST).

Les préoccupations des organisations entourent l’hypothèse que les réglementations sur l’IA imposeront plus d’obligations de conformité rigoureuses, soutenues par des mécanismes de mise en œuvre onéreux, y compris des pénalités pour non-conformité. Pourtant, la réglementation de l’IA est inévitable.

L’Europe et l’Amérique du Nord prennent des positions proactives qui obligeront les DSI à collaborer avec leurs homologues technologiques et commerciaux pour élaborer des politiques efficaces. Par exemple, la proposition de la Commission européenne relative à la loi sur l’intelligence artificielle propose d’instituer des obligations fondées sur les risques pour les fournisseurs d’IA pour protéger les droits des consommateurs, tout en promouvant l’innovation et les opportunités économiques associées aux technologies d’IA.

En outre, en juin 2022, le gouvernement fédéral canadien a publié son très attendu projet de loi sur la mise en œuvre de la Charte numérique qui protège contre les impacts négatifs des systèmes d’IA à haut risque. Les États-Unis poursuivent également des initiatives réglementaires sur l’IA, bien que de manière sectorielle. La Commission fédérale du commerce (FTC), le Bureau de protection financière des consommateurs (CFPB) et la Conseil de la Réserve fédérale font tous preuve de leurs muscles réglementaires grâce à leurs mécanismes d’application pour protéger les consommateurs contre les impacts négatifs résultant de l’utilisation accrue de l’IA qui peuvent entraîner des résultats discriminatoires, même si cela n’est pas intentionnel. Un cadre réglementaire de l’IA est indispensable pour toute entreprise innovante.

La réalisation d’une IA fiable nécessite des insights basés sur les données

La mise en œuvre d’une IA fiable ne peut être réalisée sans une approche basée sur les données pour déterminer où les applications des technologies d’IA peuvent avoir l’impact le plus important avant de procéder à la mise en œuvre. Est-ce pour améliorer l’engagement client, ou pour réaliser des efficacités opérationnelles ou pour atténuer les risques de conformité ?

Chacun de ces moteurs commerciaux nécessite une compréhension de la manière dont les processus s’exécutent, de la manière dont les escalades et les exceptions sont gérées, et d’identifier les variations dans l’exécution des processus et leurs causes profondes. Sur la base de cette analyse basée sur les données, les organisations peuvent prendre des décisions commerciales éclairées concernant l’impact et les résultats associés à la mise en œuvre de solutions basées sur l’IA pour réduire les frictions d’intégration client et améliorer les efficacités opérationnelles. Une fois que les organisations disposent des avantages des insights basés sur les données, alors elles peuvent automatiser des processus très laborieux tels que la mise en conformité avec les exigences de l’IA, l’audit de conformité, le KYC et le LBC dans les services financiers.

L’aspect le plus important à retenir est qu’une partie intégrante de l’automatisation des processus basée sur l’IA est la mise en œuvre de meilleures pratiques d’IA fiables. L’utilisation éthique de l’IA ne doit pas être considérée uniquement comme une obligation légale et morale, mais comme une impérative commerciale. Il est sage, sur le plan commercial, d’être transparent dans l’application de l’IA. Cela favorise la confiance et engendre la loyauté de la marque.