Ny hvitbok etablerer sertifiseringmetodologi for AI-algoritmer

En ny hvitbok av TÜV AUSTRIA og Institutt for maskinlæring ved Johannes Kepler Universitet (JKU) har etablert en sertifiseringmetodologi for kunstig intelligens (AI)-algoritmer. 

Papiret erkjenner først hvordan AI er ett av de raskest voksende fagområdene globalt, og står bak mange hverdagsapplikasjoner som bildegenkjenning, anbefalingssystemer, chatbots, diagnostikk eller prognoser. 

Deretter reiser det følgende spørsmål: 

• Er denne kunstige intelligensen pålitelig og sikker?
• Fungerer AI-en som forventet?
• Gir bruk av AI den forventede verdiøkningen?
• Er treningsdataen ren og brukes riktig?
• Behandles den store mengden sensitive data omhyggelig?

De nye sertifiseringmetodene utviklet av TÜV AUSTRIA og JKU har som mål å støtte produsenter i utviklingen av sikre, pålitelige og høykvalitets maskinlæringsmodeller. De vil også tilby brukerne en kvalitetsstempel for pålitelige AI-systemer. 

Professor Sepp Hochreiter er direktør for Institutt for maskinlæring. 

“Maskinlæring er for tiden den viktigste enablende teknologien og vil ha en massiv innvirkning på vårt tekniske miljø og hele våre liv, på samfunnet, på lang sikt,” sier professor Hochreiter. “Derfor er det enda viktigere å styrke forbrukertilliten til denne teknologien gjennom sertifisering av maskinlæringsapplikasjoner. Det er derfor vi er glade for å være med å definere de nødvendige kvalitetskriteriene.” 

Professor Hochreiter har en verdensomspennende rykte når det gjelder AI og spilte en nøkkelrolle i implementeringen av Østerrikes første maskinlæringsstol og AI-grad ved JKU Linz. Han er også styremedlem i ELLIS, som er et nettverk av eksellense av de beste europeiske forskerne innen maskinlæring. 

Sertifisering av applikasjoner

Det første nivået av suksess, ifølge hvitboken, er allerede oppnådd. Overvåket læringsapplikasjoner i lav til medium risiko kan allerede sertifiseres. 

DI.Dr. Stefan Haas er CEO i TÜV AUSTRIA-gruppen. 

“Vi har startet å gjennomføre de første sertifiseringsprosjektene, hvor applikasjonene hovedsakelig finnes i det industrielle miljøet, men også i forbrukersektoren. I de neste fasene av utviklingssamarbeidet vil de nåværende tilnærmingene utvides for å kunne sertifisere sikkerhetskritiske applikasjoner, basert på et bredere spekter av maskinlæringsmetoder,” sier DI.Dr. Haas. “Vi er spesielt glade for å ha JKU Maskinlæringsinstituttet ved vår side som en høyt kompetent og internasjonalt anerkjent partner for dette utfordrende foretaket.”

Sertifiseringen innebærer at maskinlæringsmodellene og deres utviklingsprosesser blir kontrollert i detalj i flere dimensjoner. Dette betyr ikke bare at de faktiske funksjonene og påliteligheten til de trenede modellene undersøkes, men også programvaresikkerheten og dens utviklingsprosess. Det er også en undersøkelse av hvordan personlige data behandles konfidensielt og andre etiske spørsmål.