Nieuw whitepaper legt certificeringsmethodologie vast voor AI-algoritmes

Een nieuw whitepaper van TÜV AUSTRIA en het Instituut voor Machine Learning van de Johannes Kepler Universiteit (JKU) heeft een certificeringsmethodologie voor Artificial Intelligence (AI)-algoritmes vastgelegd.

Het document erkent eerst hoe AI een van de snelst groeiende onderwerpen ter wereld is, met toepassingen in veel alledaagse applicaties zoals beeldherkenning, aanbevelingssystemen, chatbots, diagnose of voorspelling.

Vervolgens worden de volgende vragen gesteld:

• Is deze kunstmatige intelligentie betrouwbaar en veilig?
• Functioneert de AI zoals verwacht?
• Levert de AI de verwachte toegevoegde waarde?
• Is de trainingsdata schoon en correct gebruikt?
• Wordt de grote hoeveelheid gevoelige data zorgvuldig behandeld?

De nieuwe certificeringsmethoden die zijn ontwikkeld door TÜV AUSTRIA en JKU, hebben tot doel fabrikanten te ondersteunen bij de ontwikkeling van veilige, betrouwbare en kwalitatief hoogwaardige machine learning-modellen. Ze zullen ook gebruikers een kwaliteitskeurmerk bieden voor betrouwbare AI-systemen.

Professor Sepp Hochreiter is directeur van het Instituut voor Machine Learning.

“Machine learning is op dit moment de belangrijkste technologie en zal een enorme invloed hebben op onze technische omgeving en ons hele leven, op de samenleving, op lange termijn,” zegt professor Hochreiter. “Daarom is het nog belangrijker om het vertrouwen van consumenten in deze technologie te versterken door de certificering van machine learning-toepassingen. Daarom zijn we verheugd om te helpen bij het definiëren van de noodzakelijke kwaliteitscriteria.”

Professor Hochreiter heeft een wereldwijde reputatie op het gebied van AI en speelde een sleutelrol bij de implementatie van Oostenrijks eerste machine learning-leerstoel en AI-opleiding aan de JKU Linz. Hij is ook lid van de raad van bestuur van ELLIS, een netwerk van excellente Europese wetenschappers op het gebied van machine learning.

Certificeren van toepassingen

Het eerste niveau van succes is volgens het whitepaper al bereikt. Toepassingen van supervised learning in het lage tot middelhoge risicogebied kunnen al worden gecertificeerd.

DI.Dr. Stefan Haas is CEO van de TÜV AUSTRIA-groep.

“We hebben de eerste certificeringsprojecten gestart, waarbij de toepassingen voornamelijk in de industriële omgeving worden gevonden, maar ook in de consumentensector. In de volgende fasen van de ontwikkelingscoöperatie zullen de huidige benaderingen worden uitgebreid om veiligheidskritieke toepassingen te kunnen certificeren op basis van een bredere reeks machine learning-methoden,” zegt DI.Dr. Haas. “We zijn vooral verheugd om het JKU Machine Learning-instituut aan onze zijde te hebben als een hoogwaardig en internationaal erkend partner voor deze uitdagende onderneming.”

De certificering omvat de machine learning-modellen en hun ontwikkelingsprocessen, die in detail worden gecontroleerd in meerdere dimensies. Dit betekent niet alleen dat de daadwerkelijke functionaliteit en betrouwbaarheid van de getrainde modellen worden onderzocht, maar ook de softwarebeveiliging en het ontwikkelingsproces. Er is ook een onderzoek naar de manier waarop persoonsgegevens vertrouwelijk worden behandeld en andere ethische kwesties.