Ny whitepaper etablerer certificeringsmetodik for AI-algoritmer

En ny whitepaper af TÜV AUSTRIA og Institut for Machine Learning ved Johannes Kepler Universitet (JKU) har etableret en certificeringsmetodik for kunstig intelligens (AI)-algoritmer. 

Papiret anerkender først, hvordan AI er et af de hurtigst voksende områder i verden, og er bag mange hverdagsapplikationer, der involverer billedgenkendelse, anbefalingssystemer, chatbots, diagnostik eller prognoser. 

Derefter stiller det følgende spørgsmål: 

• Er denne kunstige intelligens pålidelig og sikker?
• Fungerer AI’en, som den forventes?
• Medfører brugen af AI den forventede værditilføjelse?
• Er træningsdataren ren og bruges korrekt?
• Behandles den store mængde følsomme data omhyggeligt?

De nye certificeringsmetoder, der er udviklet af TÜV AUSTRIA og JKU, har til formål at støtte fabrikanter i udviklingen af sikre, pålidelige og højkvalitets maskinlæringsmodeller. De vil også tilbyde brugerne en kvalitetsstempel for pålidelige AI-systemer. 

Professor Sepp Hochreiter er direktør for Maskinlæringsinstituttet. 

“Maskinlæring er i øjeblikket den vigtigste aktiverings-teknologi og vil have en massiv indvirkning på vores tekniske miljø og vores hele liv, på samfundet, på længere sigt,” siger professor Hochreiter. “Derfor er det endnu vigtigere at styrke forbrugertilliden til denne teknologi gennem certificering af maskinlæringsapplikationer. Det er derfor, vi er glade for at være involveret i at hjælpe med at definere de nødvendige kvalitetskriterier.” 

Professor Hochreiter har en verdensomspændende rygte, når det kommer til AI, og har spillet en nøglerolle i implementeringen af Østrigs første maskinlæringsstol og AI-første grad ved JKU Linz. Han er også bestyrelsesmedlem i ELLIS, som er et netværk af excellence for de bedste europæiske videnskabsmænd inden for maskinlæringsfeltet. 

Certificering af applikationer

Den første succes, ifølge whitepaperet, er allerede opnået. Overvågete læringsapplikationer i lav til middel risiko kan allerede certificeres. 

DI.Dr. Stefan Haas er administrerende direktør for TÜV AUSTRIA-gruppen. 

“Vi har startet med at udføre de første certificeringsprojekter, hvor applikationerne primært findes i det industrielle miljø, men også i forbrugersektoren. I de næste faser af udviklingssamarbejdet vil de nuværende tilgange udvides, så vi kan certificere sikkerhedskritiske applikationer baseret på et bredere spektrum af maskinlæringsmetoder,” siger DI.Dr. Haas. “Vi er særligt glade for at have JKU Maskinlæringsinstituttet ved vores side som en højt kompetent og internationalt anerkendt partner i dette udfordrende foretagende.” 

Certificeringen indebærer, at maskinlæringsmodellerne og deres udviklingsprocesser kontrolleres i detalje i flere dimensioner. Dette betyder ikke kun, at de faktiske funktioner og pålideligheden af de trænede modeller undersøges, men også software-sikkerheden og dens udviklingsproces. Der er også en undersøgelse af, hvordan persondata behandles fortroligt og andre etiske spørgsmål.