Éthique
Nouveau Livre Blanc Établit une Méthodologie de Certification pour les Algorithmes d’Intelligence Artificielle
Un nouveau livre blanc de TÜV AUSTRIA et de l’Institut pour l’apprentissage automatique de l’Université Johannes Kepler (JKU) a établi une méthodologie de certification pour les algorithmes d’intelligence artificielle (IA).
Le document commence par reconnaître que l’IA est l’un des domaines qui croît le plus rapidement dans le monde, étant à l’origine de nombreuses applications quotidiennes impliquant la reconnaissance d’images, les systèmes de recommandation, les chatbots, les diagnostics ou les prévisions.
Il pose ensuite ces questions :
- Cette intelligence artificielle est-elle digne de confiance et sûre ?
- L’IA remplit-elle la fonction attendue ?
- L’utilisation de l’IA apporte-t-elle la valeur ajoutée attendue ?
- Les données de formation sont-elles propres et utilisées correctement ?
- La grande quantité de données sensibles est-elle traitée avec soin ?
Les nouvelles méthodes de certification développées par TÜV AUSTRIA et JKU visent à soutenir les fabricants dans le développement de modèles d’apprentissage automatique sûrs, fiables et de haute qualité. Ils offriront également aux utilisateurs un sceau de qualité pour les systèmes d’IA dignes de confiance.
Le professeur Sepp Hochreiter est directeur de l’Institut d’apprentissage automatique.
« L’apprentissage automatique est actuellement la technologie la plus importante et aura une influence massive sur notre environnement technique et notre vie entière, sur la société, à long terme », déclare le professeur Hochreiter. « Par conséquent, il est encore plus important de renforcer la confiance des consommateurs dans cette technologie grâce à la certification des applications d’apprentissage automatique. C’est pourquoi nous sommes ravis de contribuer à définir les critères de qualité nécessaires. »
Le professeur Hochreiter a une réputation mondiale en matière d’IA et a joué un rôle clé dans la mise en œuvre de la première chaire d’apprentissage automatique et du premier diplôme en IA à l’Université JKU Linz. Il est également membre du conseil d’administration d’ELLIS, qui est un réseau d’excellence des meilleurs scientifiques européens dans le domaine de l’apprentissage automatique.
Certification des Applications
Le premier niveau de réussite, selon le livre blanc, a déjà été atteint. Les applications d’apprentissage supervisé à faible et moyen risque peuvent déjà être certifiées.
Le Dr Stefan Haas est PDG du groupe TÜV AUSTRIA.
« Nous avons commencé à réaliser les premiers projets de certification, les applications étant principalement trouvées dans l’environnement industriel, mais également dans le secteur des consommateurs. Dans les prochaines phases de la coopération de développement, les approches actuelles seront étendues pour permettre de certifier les applications à criticité élevée, sur la base d’un spectre plus large de méthodes d’apprentissage automatique », déclare le Dr Haas. « Nous sommes particulièrement heureux d’avoir l’Institut d’apprentissage automatique de la JKU à nos côtés en tant que partenaire hautement compétent et reconnu à l’échelle internationale pour cette tâche difficile. »
La certification implique que les modèles d’apprentissage automatique et leurs processus de développement sont vérifiés en détail dans plusieurs dimensions. Cela signifie non seulement que les fonctions réelles et la fiabilité des modèles formés sont examinées, mais également la sécurité logicielle et son processus de développement. Il y a également un examen de la manière dont les données personnelles sont traitées de manière confidentielle et d’autres questions éthiques.
