Nieuw whitepaper vestigt certificeringsmethodologie voor AI-algoritmen

Een nieuw whitepaper van TÜV AUSTRIA en het Institute for Machine Learning at Johannes Kepler University (JKU) heeft een certificeringsmethodologie voor Artificial Intelligence (AI)-algoritmen vastgesteld. 

Het papier erkent eerst hoe AI een van de snelst groeiende onderwerpen ter wereld is, en dat het achter veel alledaagse toepassingen zit die afbeeldingsherkenning, aanbevelingssystemen, chatbots, diagnose of forecasting betreffen. 

Vervolgens worden de volgende vragen gesteld: 

• Is deze kunstmatige intelligentie betrouwbaar en veilig?
• Doet de AI de functie die van hem verwacht wordt?
• Levert het gebruik van AI de verwachte toegevoegde waarde?
• Is de trainingsdata schoon en correct gebruikt?
• Wordt de grote hoeveelheid gevoelige data zorgvuldig behandeld?

De nieuwe certificeringsmethoden die zijn ontwikkeld door TÜV AUSTRIA en JKU, hebben tot doel fabrikanten te ondersteunen bij de ontwikkeling van veilige, betrouwbare en kwalitatief hoogwaardige machine learning-modellen. Ze zullen gebruikers ook een kwaliteitskeurmerk voor betrouwbare AI-systemen bieden. 

Professor Sepp Hochreiter is directeur van het Machine Learning Institute. 

“Machine learning is momenteel de belangrijkste technologie en zal op lange termijn een enorme invloed hebben op onze technische omgeving en ons hele leven, op de samenleving”, zegt professor Hochreiter. “Daarom is het nog belangrijker om het vertrouwen van consumenten in deze technologie te versterken door de certificering van machine learning-toepassingen. Daarom zijn we verheugd om betrokken te zijn bij het helpen definiëren van de noodzakelijke kwaliteitscriteria.” 

Professor Hochreiter heeft wereldwijd een reputatie op het gebied van AI en speelde een sleutelrol bij de implementatie van Oostenrijks eerste machine learning-leerstoel en AI-opleiding aan de JKU Linz. Hij is ook bestuurslid van ELLIS, een netwerk van excellentie van de beste Europese wetenschappers op het gebied van machine learning. 

Certificeren van toepassingen

Het eerste niveau van succes is volgens het whitepaper al bereikt. Toepassingen voor supervised learning in het lage tot middelhoge risico kunnen al worden gecertificeerd. 

DI.Dr. Stefan Haas is CEO van de TÜV AUSTRIA Group. 

“We zijn begonnen met het uitvoeren van de eerste certificeringsprojecten, waarbij de toepassingen voornamelijk in de industriële omgeving maar ook in de consumentensector worden gevonden. In de volgende fasen van de ontwikkelingscoöperatie zullen de huidige benaderingen worden uitgebreid om veiligheidscritische toepassingen te kunnen certificeren op basis van een bredere reeks machine learning-methoden”, zegt DI.Dr. Haas. “We zijn vooral verheugd om het JKU Machine Learning Institute aan onze zijde te hebben als een hoogwaardig competent en internationaal erkend partner voor deze uitdagende onderneming.” 

De certificering omvat het controleren van de machine learning-modellen en hun ontwikkelingsprocessen in verschillende dimensies. Dit betekent niet alleen dat de feitelijke functionaliteit en betrouwbaarheid van de getrainde modellen worden onderzocht, maar ook de softwarebeveiliging en het ontwikkelingsproces. Er is ook een onderzoek naar hoe persoonlijke gegevens vertrouwelijk worden behandeld en andere ethische kwesties.