Ouvrir la boîte noire de l’explicabilité de l’IA

L’intelligence artificielle (IA) est devenue étroitement liée à presque tous les aspects de notre vie quotidienne, des recommandations personnalisées à la prise de décisions critiques. Il est acquis que l’IA continuera à progresser, et avec cela, les menaces associées à l’IA deviendront également plus sophistiquées. Alors que les entreprises mettent en place des défenses basées sur l’IA pour répondre à la complexité croissante, la prochaine étape pour promouvoir une culture de sécurité à l’échelle de l’organisation est d’améliorer l’explicabilité de l’IA.

Bien que ces systèmes offrent des capacités impressionnantes, ils fonctionnent souvent comme des “boîtes noires” – produisant des résultats sans insight clair sur la manière dont le modèle est arrivé à la conclusion qu’il a tirée. Le problème des systèmes d’IA qui font des déclarations fausses ou prennent des actions fausses peut causer des problèmes importants et des perturbations potentielles pour les entreprises. Lorsque les entreprises commettent des erreurs en raison de l’IA, leurs clients et consommateurs exigent une explication et, peu après, une solution.

Mais à qui la faute ? Souvent, de mauvaises données sont utilisées pour l’entraînement. Par exemple, la plupart des technologies de GenAI publiques sont formées à partir de données disponibles sur Internet, qui sont souvent non vérifiées et inexactes. Bien que l’IA puisse générer des réponses rapides, l’exactitude de ces réponses dépend de la qualité des données sur lesquelles elle est formée.

Les erreurs de l’IA peuvent survenir dans diverses instances, notamment la génération de scripts avec des commandes incorrectes et des décisions de sécurité fausses, ou l’exclusion d’un employé du travail sur les systèmes d’entreprise en raison de fausses accusations formulées par le système d’IA. Tout cela a le potentiel de causer des perturbations importantes pour les entreprises. C’est juste l’une des nombreuses raisons pour lesquelles assurer la transparence est essentiel pour établir la confiance dans les systèmes d’IA.

Établir la confiance

Nous existons dans une culture où nous insérons la confiance dans toutes sortes de sources et d’informations. Mais, en même temps, nous exigeons la preuve et la validation de plus en plus, ayant besoin de valider constamment les nouvelles, les informations et les allégations. Lorsqu’il s’agit de l’IA, nous faisons confiance à un système qui a le potentiel d’être inexact. Plus important encore, il est impossible de savoir si les actions prises par les systèmes d’IA sont exactes sans aucune transparence sur les bases des décisions prises. Et si votre système d’IA de cybersécurité arrête les machines, mais qu’il a fait une erreur en interprétant les signes ? Sans insight dans les informations qui ont conduit le système à prendre cette décision, il n’y a pas de moyen de savoir si elle a pris la bonne décision.

Bien que la perturbation des entreprises soit frustrante, l’une des préoccupations les plus importantes liées à l’utilisation de l’IA est la confidentialité des données. Les systèmes d’IA, comme ChatGPT, sont des modèles d’apprentissage automatique qui puisent leurs réponses dans les données qu’ils reçoivent. Par conséquent, si les utilisateurs ou les développeurs fournissent accidentellement des informations sensibles, le modèle d’apprentissage automatique peut utiliser ces données pour générer des réponses à d’autres utilisateurs qui révèlent des informations confidentielles. Ces erreurs ont le potentiel de perturber gravement l’efficacité, la rentabilité et, plus important encore, la confiance des clients d’une entreprise. Les systèmes d’IA sont censés accroître l’efficacité et faciliter les processus, mais dans le cas où une validation constante est nécessaire parce que les sorties ne peuvent pas être considérées comme fiables, les organisations ne font pas seulement perdre du temps, mais ouvrent également la porte à des vulnérabilités potentielles.

Former les équipes pour une utilisation responsable de l’IA

Afin de protéger les organisations des risques potentiels liés à l’utilisation de l’IA, les professionnels de l’informatique ont la responsabilité importante de former adéquatement leurs collègues pour s’assurer que l’IA est utilisée de manière responsable. En faisant cela, ils aident à maintenir leurs organisations en sécurité contre les cyberattaques qui menacent leur viabilité et leur rentabilité.

Cependant, avant de former les équipes, les dirigeants de l’informatique doivent s’aligner internement pour déterminer quels systèmes d’IA seront adaptés à leur organisation. Se précipiter dans l’IA ne fera que se retourner contre eux plus tard, donc commencez petit, en vous concentrant sur les besoins de l’organisation. Assurez-vous que les normes et les systèmes que vous sélectionnez sont alignés sur la pile technologique actuelle de votre organisation et sur les objectifs de l’entreprise, et que les systèmes d’IA répondent aux mêmes normes de sécurité que tout autre fournisseur que vous sélectionnez.

Une fois qu’un système a été sélectionné, les professionnels de l’informatique peuvent alors commencer à faire connaître ces systèmes à leurs équipes pour assurer le succès. Commencez par utiliser l’IA pour de petites tâches et voyez où elle fonctionne bien et où elle ne fonctionne pas, et apprenez quels sont les dangers ou les validations potentiels qui doivent être appliqués. Ensuite, introduisez l’utilisation de l’IA pour augmenter le travail, permettant une résolution plus rapide en libre-service, y compris les simples questions “comment faire”. À partir de là, il peut être enseigné comment mettre en place des validations. C’est précieux, car nous allons commencer à voir plus d’emplois devenir axés sur la mise en place de conditions limites et de validations, et déjà vus dans des emplois comme l’utilisation de l’IA pour aider à écrire des logiciels.

En plus de ces étapes concrètes pour former les membres de l’équipe, l’initiation et l’encouragement des discussions sont également impératifs. Encouragez des dialogues ouverts et fondés sur les données sur la manière dont l’IA sert les besoins des utilisateurs – est-elle en train de résoudre les problèmes avec précision et rapidité, drivons-nous la productivité pour l’entreprise et l’utilisateur final, le score NPS de nos clients augmente-t-il à cause de ces outils basés sur l’IA ? Soyez clair sur le retour sur investissement (RSI) et gardez-le au premier plan. Une communication claire permettra de sensibiliser à l’utilisation responsable et, à mesure que les membres de l’équipe comprennent mieux le fonctionnement des systèmes d’IA, ils sont plus susceptibles de les utiliser de manière responsable.

Comment atteindre la transparence dans l’IA

Bien que la formation des équipes et l’augmentation de la sensibilisation soient importantes, pour atteindre la transparence dans l’IA, il est essentiel qu’il y ait plus de contexte autour des données utilisées pour former les modèles, en veillant à ce que seules des données de qualité soient utilisées. Espérons qu’il y aura finalement un moyen de voir comment le système raisonne afin que nous puissions lui faire entièrement confiance. Mais jusqu’à ce jour, nous avons besoin de systèmes qui puissent fonctionner avec des validations et des garde-fous et prouver qu’ils y adhèrent.

Alors que la pleine transparence prendra inévitablement du temps à atteindre, la croissance rapide de l’IA et de son utilisation rend nécessaire de travailler rapidement. Alors que les modèles d’IA continuent à augmenter en complexité, ils ont le pouvoir de faire une grande différence pour l’humanité, mais les conséquences de leurs erreurs grandissent également. Par conséquent, comprendre comment ces systèmes arrivent à leurs décisions est extrêmement précieux et nécessaire pour rester efficace et digne de confiance. En nous concentrant sur les systèmes d’IA transparents, nous pouvons nous assurer que la technologie est aussi utile qu’elle est censée l’être tout en restant impartiale, éthique, efficace et précise.