Ny hvitbok etablerer sertifiseringmetodologi for AI-algoritmer

En ny hvitbok av TÜV AUSTRIA og Institute for Machine Learning at Johannes Kepler University (JKU) har etablert en sertifiseringmetodologi for kunstig intelligens (AI)-algoritmer. 

Papiret erkjenner først hvordan AI er ett av de raskest voksende fagområdene globalt, og står bak mange hverdagsapplikasjoner som innebærer bildegenkjenning, anbefalingssystemer, chatbots, diagnostikk eller prognose. 

Deretter reiser det disse spørsmålene: 

• Er denne kunstige intelligensen pålitelig og sikker?
• Fungerer AI-en som forventet?
• Gir bruk av AI den forventede verdien?
• Er treningdata ren og brukes riktig?
• Behandles den store mengden sensitive data omhyggelig?

De nye sertifiseringmetodene utviklet av TÜV AUSTRIA og JKU har som mål å støtte produsenter i utviklingen av sikre, pålitelige og høykvalitets maskinlæringsmodeller. De vil også tilby brukerne en kvalitetsstempel for pålitelige AI-systemer. 

Professor Sepp Hochreiter er direktør for maskinlæringsinstituttet. 

“Maskinlæring er for tiden den viktigste muliggjørende teknologien og vil ha en massiv innvirkning på vår tekniske omgivelse og hele våre liv, på samfunnet, på lang sikt,” sier professor Hochreiter. “Derfor er det enda viktigere å styrke forbrukertilliten til denne teknologien gjennom sertifisering av maskinlæringsapplikasjoner. Det er derfor vi er glade for å være med å definere de nødvendige kvalitetskriteriene.” 

Professor Hochreiter har en verdensomspennende rykte når det gjelder AI og spilte en nøkkelrolle i å implementere Østerrikes første maskinlæringsstol og AI-grad ved JKU Linz. Han er også styremedlem i ELLIS, som er et nettverk av fremragende europeiske forskere innen maskinlæring. 

Sertifisering av applikasjoner

Det første nivået av suksess, ifølge hvitboken, er allerede oppnådd. Overvåket læringsapplikasjoner i lav til medium risiko kan allerede sertifiseres. 

DI.Dr. Stefan Haas er CEO for TÜV AUSTRIA-gruppen. 

“Vi har startet å gjennomføre de første sertifiseringsprosjektene, hvor applikasjonene hovedsakelig finnes i det industrielle miljøet, men også i forbrukersektoren. I de neste fasene av utviklingssamarbeidet vil de nåværende tilnærmingene utvides for å kunne sertifisere sikkerhetskritiske applikasjoner, basert på et bredere spekter av maskinlæringsmetoder,” sier DI.Dr. Haas. “Vi er spesielt glade for å ha JKU-maskinlæringsinstituttet ved vår side som en høyt kompetent og internasjonalt anerkjent partner for dette utfordrende oppdraget.”

Sertifiseringen innebærer at maskinlæringsmodellene og deres utviklingsprosesser blir kontrollert i detalj i flere dimensjoner. Dette betyr ikke bare at de faktiske funksjonene og påliteligheten til de trenede modellene undersøkes, men også programvaresikkerheten og dens utviklingsprosess. Det er også en undersøkelse av hvordan personlige data håndteres konfidensielt og andre etiske spørsmål.