Démasquer les préjugés dans l’intelligence artificielle : défis et solutions

Le récent progrès de l’intelligence artificielle générative a vu une explosion d’applications d’entreprise dans diverses industries, notamment la finance, les soins de santé et le transport. Le développement de cette technologie entraînera également d’autres technologies émergentes telles que les technologies de défense de la cybersécurité, les progrès du calcul quantique et les techniques de communication sans fil de pointe. Cependant, cette explosion de technologies de nouvelle génération est accompagnée de ses propres défis.

Par exemple, l’adoption de l’IA peut permettre des cyberattaques plus sophistiquées, des goulets d’étranglement de mémoire et de stockage en raison de l’augmentation de la puissance de calcul et des préoccupations éthiques liées aux préjugés présentés par les modèles d’IA. La bonne nouvelle est que NTT Research a proposé un moyen de surmonter les préjugés dans les réseaux de neurones profonds (DNN), un type d’intelligence artificielle.

Cette recherche est une avancée significative, car les modèles d’IA non biaisés contribueront à l’embauche, au système de justice pénale et aux soins de santé lorsqu’ils ne seront pas influencés par des caractéristiques telles que la race, le sexe. À l’avenir, la discrimination a le potentiel d’être éliminée en utilisant ces systèmes automatisés, améliorant ainsi les initiatives commerciales de diversité et d’inclusion à l’échelle de l’industrie. Enfin, les modèles d’IA avec des résultats non biaisés amélioreront la productivité et réduiront le temps nécessaire pour accomplir ces tâches. Cependant, peu d’entreprises ont été contraintes d’arrêter leurs programmes générés par l’IA en raison des solutions biaisées de la technologie.

Par exemple, Amazon a abandonné l’utilisation d’un algorithme de recrutement lorsqu’il a découvert que l’algorithme présentait une préférence pour les candidats qui utilisaient des mots comme “exécuté” ou “capturé” plus fréquemment, qui étaient plus courants dans les CV des hommes. Un autre exemple flagrant de préjugé vient de Joy Buolamwini, l’une des personnes les plus influentes dans l’IA en 2023 selon TIME, en collaboration avec Timnit Gebru au MIT, qui a révélé que les technologies d’analyse faciale présentaient des taux d’erreur plus élevés lors de l’évaluation des minorités, en particulier des femmes minoritaires, potentiellement en raison de données de formation insuffisamment représentatives.

Récemment, les DNN sont devenus omniprésents dans la science, l’ingénierie et les affaires, et même dans les applications populaires, mais ils s’appuient parfois sur des attributs erronés qui peuvent transmettre des préjugés. Selon une étude du MIT au cours des dernières années, les scientifiques ont développé des réseaux de neurones profonds capables d’analyser d’immenses quantités d’entrées, notamment des sons et des images. Ces réseaux peuvent identifier des caractéristiques partagées, leur permettant de classer des mots ou des objets cibles. À ce stade, ces modèles se trouvent à la pointe du domaine en tant que modèles principaux pour la reproduction de systèmes sensoriels biologiques.

Le scientifique principal de NTT Research et associé au Centre des sciences du cerveau de l’Université Harvard, Hidenori Tanaka, ainsi que trois autres scientifiques, ont proposé de surmonter les limites de l’ajustement fin naïf, la méthode actuelle de réduction des erreurs ou de “perte” d’un DNN, avec un nouvel algorithme qui réduit la dépendance d’un modèle à l’égard d’attributs prédisposés aux préjugés.

Ils ont étudié les paysages de perte des réseaux de neurones à travers le prisme de la connectivité des modes, l’observation que les minimiseurs de réseaux de neurones récupérés via la formation sur un ensemble de données sont connectés via des chemins simples de faible perte. Plus précisément, ils se sont posé la question suivante : les minimiseurs qui s’appuient sur des mécanismes différents pour faire leurs prédictions sont-ils connectés via des chemins simples de faible perte ?

Ils ont découvert que l’ajustement fin naïf est incapable de modifier fondamentalement le mécanisme de prise de décision d’un modèle, car cela nécessite de passer à une vallée différente dans le paysage de perte. Au lieu de cela, vous devez faire passer le modèle au-dessus des barrières qui séparent les “sinks” ou les “vallées” de faible perte. Les auteurs appellent cet algorithme correctif Connectivity-Based Fine-Tuning (CBFT).

Auparavant, un DNN, qui classe des images telles qu’un poisson (une illustration utilisée dans cette étude) utilisait à la fois la forme de l’objet et l’arrière-plan comme paramètres d’entrée pour la prédiction. Ses chemins de minimisation de la perte fonctionneraient donc dans des modes mécaniquement différents : l’un s’appuyant sur l’attribut légitime de la forme, et l’autre sur l’attribut erroné de la couleur de l’arrière-plan. Comme tels, ces modes manqueraient de connectivité linéaire, ou d’un chemin simple de faible perte.

L’équipe de recherche comprend le prisme mécaniste de la connectivité des modes en considérant deux ensembles de paramètres qui minimisent la perte en utilisant les arrière-plans et les formes d’objets comme attributs d’entrée pour la prédiction, respectivement. Et puis se sont demandé, ces minimiseurs mécaniquement différents sont-ils connectés via des chemins de faible perte dans le paysage ? La dissimilarité de ces mécanismes affecte-t-elle la simplicité de leurs chemins de connectivité ? Pouvez-vous exploiter cette connectivité pour basculer entre des minimiseurs qui utilisent les mécanismes souhaités ?

En d’autres termes, les réseaux de neurones profonds, en fonction de ce qu’ils ont appris pendant la formation sur un ensemble de données particulier, peuvent se comporter très différemment lorsqu’ils sont testés sur un autre ensemble de données. La proposition de l’équipe se résume au concept de similarités partagées. Elle s’appuie sur l’idée précédente de connectivité des modes, mais avec une touche – elle considère comment les mécanismes similaires fonctionnent. Leurs recherches ont conduit aux découvertes suivantes :

• les minimiseurs qui ont des mécanismes différents peuvent être connectés de manière complexe et non linéaire
• lorsque deux minimiseurs sont connectés linéairement, cela est étroitement lié à la similarité de leurs modèles en termes de mécanismes
• un ajustement fin simple peut ne pas suffire pour éliminer les fonctionnalités indésirables acquises pendant la formation précédente
• si vous trouvez des régions qui sont linéairement déconnectées dans le paysage, vous pouvez apporter des modifications efficaces aux mécanismes internes d’un modèle.

Bien que cette recherche soit un grand pas en avant pour exploiter pleinement le potentiel de l’IA, les préoccupations éthiques entourant l’IA peuvent toujours être un défi à relever. Les technologistes et les chercheurs travaillent pour combattre d’autres faiblesses éthiques dans l’IA et d’autres grands modèles de langage, tels que la confidentialité, l’autonomie et la responsabilité.

L’IA peut être utilisée pour collecter et traiter d’immenses quantités de données personnelles. L’utilisation non autorisée ou contraire à l’éthique de ces données peut compromettre la confidentialité des individus, entraînant des préoccupations concernant la surveillance, les violations de données et le vol d’identité. L’IA peut également présenter une menace lorsqu’il s’agit de la responsabilité de ses applications autonomes, telles que les voitures autonomes. Établir des cadres juridiques et des normes éthiques pour la responsabilité et la responsabilité sera essentiel dans les années à venir.

En conclusion, la croissance rapide de la technologie d’intelligence artificielle générative offre des promesses pour diverses industries, de la finance et des soins de santé au transport. Malgré ces développements prometteurs, les préoccupations éthiques entourant l’IA restent considérables. Alors que nous naviguons dans cette ère de transformation de l’IA, il est essentiel que les technologistes, les chercheurs et les décideurs politiques travaillent ensemble pour établir des cadres juridiques et des normes éthiques qui garantiront l’utilisation responsable et bénéfique de la technologie d’IA dans les années à venir. Les scientifiques de NTT Research et de l’Université du Michigan sont un pas en avant avec leur proposition d’un algorithme qui pourrait potentiellement éliminer les préjugés dans l’IA.