Transparence de l’IA et nécessité de modèles open-source

Afin de protéger les personnes des dommages potentiels de l’IA, certains régulateurs aux États-Unis et dans l’Union européenne préconisent de plus en plus des contrôles et des mécanismes de contrôle sur le pouvoir des modèles d’IA open-source. Cela est en partie motivé par le désir des grandes entreprises de contrôler le développement de l’IA et de façonner le développement de l’IA de manière à les bénéficier. Les régulateurs s’inquiètent également du rythme de développement de l’IA, car ils craignent que l’IA ne se développe trop rapidement et qu’il n’y ait pas suffisamment de temps pour mettre en place des mesures de sécurité pour empêcher son utilisation à des fins malveillantes.

La Charte des droits de l’IA et le Cadre de gestion des risques de l’IA de la NIST aux États-Unis, ainsi que la Loi européenne sur l’IA, soutiennent divers principes tels que l’exactitude, la sécurité, la non-discrimination, la transparence, la responsabilité, l’explicabilité, l’interprétabilité et la protection des données. De plus, l’UE et les États-Unis prévoient que les organisations de normalisation, qu’elles soient gouvernementales ou internationales, joueront un rôle crucial dans l’établissement de lignes directrices pour l’IA.

À la lumière de cette situation, il est essentiel de viser un avenir qui embrasse la transparence et la capacité d’inspecter et de surveiller les systèmes d’IA. Cela permettrait aux développeurs du monde entier d’examiner, d’analyser et d’améliorer l’IA, en se concentrant particulièrement sur les données de formation et les processus.

Pour réussir à apporter de la transparence à l’IA, nous devons comprendre les algorithmes de prise de décision qui la sous-tendent, dénouant ainsi l’approche « boîte noire » de l’IA. Les modèles open-source et inspectables jouent un rôle essentiel dans la réalisation de cet objectif, car ils fournissent l’accès au code sous-jacent, à l’architecture du système et aux données de formation pour examen et audit. Cette ouverture favorise la collaboration, stimule l’innovation et préserve contre la monopolisation.

Pour voir se réaliser cette vision, il est essentiel de faciliter les changements de politique, les initiatives de base et d’encourager la participation active de toutes les parties prenantes, y compris les développeurs, les entreprises, les gouvernements et le public.

État actuel de l’IA : concentration et contrôle

Actuellement, le développement de l’IA, en particulier en ce qui concerne les grands modèles de langage (LLM), est principalement centralisé et contrôlé par les grandes entreprises. Cette concentration du pouvoir soulève des inquiétudes quant à la possibilité d’une utilisation abusive et pose des questions sur l’accès équitable et la répartition équitable des avantages des progrès de l’IA.

En particulier, les modèles populaires tels que les LLM manquent d’alternatives open-source pendant le processus de formation en raison des ressources de calcul extensives requises, qui sont généralement disponibles uniquement pour les grandes entreprises. Néanmoins, même si cette situation reste inchangée, assurer la transparence concernant les données de formation et les processus est crucial pour faciliter l’examen et la responsabilité.

La récente introduction par OpenAI d’un système de licence pour certains types d’IA a suscité des inquiétudes et des préoccupations quant à la capture réglementaire, car cela pourrait influencer non seulement la trajectoire de l’IA, mais également des aspects sociaux, économiques et politiques plus larges.

La nécessité d’une IA transparente

Imaginez-vous en train de vous fier à une technologie qui prend des décisions ayant un impact sur la vie humaine/personnelle, mais qui ne laisse aucune trace, aucune compréhension de la raison derrière ces conclusions. C’est là que la transparence devient indispensable.

Tout d’abord et avant tout, la transparence est cruciale et construit la confiance. Lorsque les modèles d’IA deviennent observables, ils inspirent confiance dans leur fiabilité et leur exactitude. De plus, une telle transparence rend les développeurs et les organisations beaucoup plus responsables des résultats de leurs algorithmes.

Un autre aspect critique de la transparence est l’identification et la mitigation des préjugés algorithmiques. Les préjugés peuvent être injectés dans les modèles d’IA de plusieurs manières.

• Élément humain : les scientifiques des données sont vulnérables à la perpétuation de leurs propres préjugés dans les modèles.
• Apprentissage automatique : même si les scientifiques créaient une IA purement objective, les modèles sont toujours très susceptibles aux préjugés. L’apprentissage automatique commence avec un ensemble de données défini, mais est ensuite libéré pour absorber de nouvelles données et créer de nouveaux chemins d’apprentissage et de nouvelles conclusions. Ces résultats peuvent être involontaires, biaisés ou inexacts, car le modèle tente d’évoluer de lui-même dans ce qu’on appelle « dérive de données ».

Il est important d’être conscient de ces sources potentielles de préjugés afin de les identifier et de les atténuer. Une façon d’identifier les préjugés est d’auditer les données utilisées pour former le modèle. Cela inclut la recherche de modèles qui peuvent indiquer la discrimination ou l’injustice. Une autre façon d’atténuer les préjugés est d’utiliser des techniques de débiaisage. Ces techniques peuvent aider à supprimer ou à réduire les préjugés du modèle. En étant transparent sur la possibilité de préjugés et en prenant des mesures pour les atténuer, nous pouvons nous assurer que l’IA est utilisée de manière équitable et responsable.

Les modèles d’IA transparents permettent aux chercheurs et aux utilisateurs d’examiner les données de formation, d’identifier les préjugés et de prendre des mesures correctives pour les corriger. En rendant le processus de prise de décision visible, la transparence nous aide à viser l’équité et à prévenir la propagation de pratiques discriminatoires. De plus, la transparence est nécessaire tout au long de la vie du modèle, comme expliqué ci-dessus, pour prévenir la dérive de données, les préjugés et les hallucinations de l’IA qui produisent de fausses informations. Ces hallucinations sont particulièrement répandues dans les grands modèles de langage, mais existent également dans toutes les formes de produits d’IA. L’observabilité de l’IA joue également des rôles importants pour assurer les performances et l’exactitude des modèles, créant ainsi un IA plus sûr et plus fiable, moins enclin aux erreurs ou aux conséquences involontaires.

Cependant, atteindre la transparence dans l’IA n’est pas sans défis. Il est nécessaire de trouver un équilibre délicat pour répondre aux préoccupations telles que la confidentialité des données, la sécurité et la propriété intellectuelle. Cela implique la mise en œuvre de techniques de préservation de la confidentialité, l’anonymisation des données sensibles et l’établissement de normes et de réglementations industrielles qui favorisent des pratiques de transparence responsables.

La réalisation d’une IA transparente

Développer des outils et des technologies capables d’assurer l’inspectabilité dans l’IA est crucial pour promouvoir la transparence et la responsabilité dans les modèles d’IA.

En plus de développer des outils et des technologies qui permettent l’inspectabilité dans l’IA, le développement technologique peut également promouvoir la transparence en créant une culture de celle-ci autour de l’IA. Encourager les entreprises et les organisations à être transparentes quant à leur utilisation de l’IA peut également aider à instaurer la confiance et la confiance. En rendant plus facile l’inspection des modèles d’IA et en créant une culture de transparence autour de l’IA, le développement technologique peut aider à garantir que l’IA est utilisée de manière équitable et responsable.

Cependant, le développement technologique peut également avoir l’effet inverse. Par exemple, si les sociétés de technologie développent des algorithmes propriétaires qui ne sont pas ouverts à l’examen public, cela peut rendre plus difficile la compréhension de leur fonctionnement et l’identification de préjugés ou de risques potentiels. Assurer que l’IA profite à la société dans son ensemble et non à un groupe sélectionné nécessite un niveau élevé de collaboration.

Les chercheurs, les décideurs politiques et les scientifiques des données peuvent établir des réglementations et des normes qui trouvent un équilibre entre ouverture, confidentialité et sécurité sans étouffer l’innovation. Ces réglementations peuvent créer des cadres qui encouragent le partage des connaissances tout en abordant les risques potentiels et en définissant les attentes en matière de transparence et d’explicabilité dans les systèmes critiques.

Toutes les parties liées au développement et au déploiement de l’IA devraient donner la priorité à la transparence en documentant leurs processus de prise de décision, en rendant le code source disponible et en adoptant la transparence comme principe fondamental dans le développement des systèmes d’IA. Cela permet à chacun de jouer un rôle vital dans l’exploration de méthodes pour rendre les algorithmes d’IA plus interprétables et dans le développement de techniques qui facilitent la compréhension et l’explication de modèles complexes.

Enfin, l’engagement du public est crucial dans ce processus. En sensibilisant et en favorisant les discussions publiques autour de la transparence de l’IA, nous pouvons nous assurer que les valeurs sociétales sont reflétées dans le développement et le déploiement des systèmes d’IA.

Conclusion

À mesure que l’IA s’intègre de plus en plus dans divers aspects de notre vie, la transparence de l’IA et l’utilisation de modèles open-source deviennent des considérations critiques. Adopter une IA inspectable non seulement assure l’équité et la responsabilité, mais stimule également l’innovation, prévient la concentration du pouvoir et favorise l’accès équitable aux progrès de l’IA.

En donnant la priorité à la transparence, en permettant l’examen des modèles d’IA et en favorisant la collaboration, nous pouvons collectivement façonner un avenir de l’IA qui profite à tous, tout en abordant les défis éthiques, sociaux et techniques associés à cette technologie transformatrice.