Ethique
Un nouveau livre blanc établit une méthodologie de certification pour les algorithmes d'IA
Une nouvelle whitepaper by TÜV AUTRICHE et par Institut d'apprentissage automatique de l'Université Johannes Kepler (JKU) a mis en place une méthodologie de certification des algorithmes d'Intelligence Artificielle (IA).
L'article reconnaît d'abord que l'IA est l'un des domaines à la croissance la plus rapide dans le monde, étant à l'origine de nombreuses applications quotidiennes impliquant la reconnaissance d'images, les systèmes de recommandation, les chatbots, les diagnostics ou les prévisions.
Il continue ensuite à soulever ces questions:
- Cette intelligence artificielle est-elle fiable et sûre ?
- L'IA remplit-elle la fonction qu'on attend d'elle ?
- L'utilisation de l'IA apporte-t-elle la valeur ajoutée attendue ?
- Les données d'entraînement sont-elles propres et utilisées correctement ?
- La grande quantité de données sensibles est-elle traitée avec soin ?
Les nouvelles méthodes de certification développées par TÜV AUSTRIA et JKU visent à soutenir les fabricants dans le développement de modèles d'apprentissage automatique sûrs, fiables et de haute qualité. Ils offriront également aux utilisateurs un label de qualité pour les systèmes d'IA dignes de confiance.
Le professeur Sepp Hochreiter est directeur du Machine Learning Institute.
"L'apprentissage automatique est actuellement la technologie habilitante la plus importante et aura une influence massive sur notre environnement technique et sur toute notre vie, sur la société, à long terme", déclare le professeur Hochreiter. « Par conséquent, il est encore plus important de renforcer la confiance des consommateurs dans cette technologie grâce à la certification des applications d'apprentissage automatique. C'est pourquoi nous sommes ravis de participer à la définition des critères de qualité nécessaires.
Le professeur Hochreiter jouit d'une réputation mondiale en matière d'IA et a joué un rôle clé dans la mise en place de la première chaire autrichienne d'apprentissage automatique et du premier diplôme d'IA à la JKU Linz. Il est également membre du conseil d'administration d'ELLIS, qui est un réseau d'excellence des meilleurs scientifiques européens dans le domaine de l'apprentissage automatique.
Demandes de certification
Le premier niveau de succès, selon le livre blanc, a déjà été atteint. Les applications d'apprentissage supervisé à risque faible à moyen peuvent déjà être certifiées.
DI.Dr. Stefan Haas est PDG du groupe TÜV AUSTRIA.
« Nous avons commencé à réaliser les premiers projets de certification, où les applications se trouvent principalement dans le milieu industriel mais aussi dans le secteur de la consommation. Dans les prochaines phases de la coopération au développement, les approches actuelles seront étendues afin de pouvoir certifier des applications critiques pour la sécurité, sur la base d'un éventail plus large de méthodes d'apprentissage automatique », déclare DI.Dr. Haas. "Nous sommes particulièrement heureux d'avoir le JKU Machine Learning Institute à nos côtés en tant que partenaire hautement compétent et internationalement reconnu pour cette entreprise ambitieuse."
La certification implique que les modèles d'apprentissage automatique et leurs processus de développement soient vérifiés en détail dans plusieurs dimensions. Cela signifie que non seulement les fonctions réelles et la fiabilité des modèles formés sont examinées, mais également la sécurité du logiciel et son processus de développement. Il y a également un examen de la manière dont les données personnelles sont traitées de manière confidentielle et d'autres questions éthiques.
