Éthique
Nouveau Livre Blanc Établit une Méthodologie de Certification pour les Algorithmes d’IA
Un nouveau livre blanc par TÜV AUSTRIA et l’Institut pour l’apprentissage automatique de l’Université Johannes Kepler (JKU) a établi une méthodologie de certification pour les algorithmes d’intelligence artificielle (IA).
Le document commence par reconnaître que l’IA est l’un des domaines qui croît le plus rapidement dans le monde, étant à l’origine de nombreuses applications quotidiennes impliquant la reconnaissance d’images, les systèmes de recommandation, les chatbots, les diagnostics ou la prévision.
Il soulève ensuite ces questions :
- Cette intelligence artificielle est-elle fiable et sûre ?
- L’IA remplit-elle la fonction attendue ?
- L’utilisation de l’IA apporte-t-elle la valeur ajoutée attendue ?
- Les données de formation sont-elles propres et utilisées correctement ?
- La grande quantité de données sensibles est-elle traitée avec soin ?
Les nouvelles méthodes de certification développées par TÜV AUSTRIA et JKU visent à soutenir les fabricants dans le développement de modèles d’apprentissage automatique sûrs, fiables et de haute qualité. Ils offriront également aux utilisateurs un sceau de qualité pour les systèmes d’IA fiables.
Le professeur Sepp Hochreiter est directeur de l’Institut d’apprentissage automatique.
« L’apprentissage automatique est actuellement la technologie la plus importante et aura une influence massive sur notre environnement technique et notre vie entière, sur la société, à long terme », déclare le professeur Hochreiter. « Par conséquent, il est encore plus important de renforcer la confiance des consommateurs dans cette technologie grâce à la certification des applications d’apprentissage automatique. C’est pourquoi nous sommes ravis de participer à la définition des critères de qualité nécessaires. »
Le professeur Hochreiter a une réputation mondiale en matière d’IA et a joué un rôle clé dans la mise en œuvre de la première chaire d’apprentissage automatique et du premier diplôme en IA à la JKU Linz. Il est également membre du conseil d’administration d’ELLIS, qui est un réseau d’excellence des meilleurs scientifiques européens dans le domaine de l’apprentissage automatique.
Certification des Applications
Le premier niveau de réussite, selon le livre blanc, a déjà été atteint. Les applications d’apprentissage supervisé à faible à moyen risque peuvent déjà être certifiées.
DI.Dr. Stefan Haas est le PDG du groupe TÜV AUSTRIA.
« Nous avons commencé à réaliser les premiers projets de certification, dans lesquels les applications sont principalement trouvées dans l’environnement industriel, mais également dans le secteur des consommateurs. Dans les prochaines phases de la coopération de développement, les approches actuelles seront étendues afin de pouvoir certifier les applications critiques en matière de sécurité, sur la base d’un spectre plus large de méthodes d’apprentissage automatique », déclare DI.Dr. Haas. « Nous sommes particulièrement heureux d’avoir l’Institut d’apprentissage automatique de la JKU à nos côtés en tant que partenaire hautement compétent et reconnu internationalement pour cette tâche difficile. »
La certification implique que les modèles d’apprentissage automatique et leurs processus de développement soient vérifiés en détail dans plusieurs dimensions. Cela signifie non seulement que les fonctions réelles et la fiabilité des modèles formés sont examinées, mais également la sécurité du logiciel et son processus de développement. Il y a également un examen de la manière dont les données personnelles sont traitées de manière confidentielle et d’autres questions éthiques.
