Ny vitbok etablerar certifieringsmetodik för AI-algoritmer

En ny vitbok av TÜV AUSTRIA och Institutet för maskinlärning vid Johannes Kepler University (JKU) har etablerat en certifieringsmetodik för artificiell intelligens (AI)-algoritmer.

Rapporten erkänner först hur AI är ett av de snabbast växande ämnesområdena i världen, och ligger bakom många vardagliga tillämpningar som involverar bildigenkänning, rekommendationssystem, chatbots, diagnostik eller prognostisering.

Den ställer sedan följande frågor:

• Är denna artificiella intelligens pålitlig och säker?
• Fungerar AI som förväntat?
• Tillför AI den förväntade mervärdet?
• Är utbildningsdata ren och används korrekt?
• Hanteras den stora mängden känsliga data försiktigt?

De nya certifieringsmetoderna som utvecklats av TÜV AUSTRIA och JKU syftar till att stödja tillverkare i utvecklingen av säkra, tillförlitliga och högkvalitativa maskinlärningsmodeller. De kommer också att erbjuda användare en kvalitetsstämpel för pålitliga AI-system.

Professor Sepp Hochreiter är chef för Maskinlärningsinstitutet.

“Maskinlärning är för närvarande den viktigaste möjliggörande tekniken och kommer att ha en massiv inverkan på vår tekniska miljö och våra liv, på samhället, på lång sikt”, säger professor Hochreiter. “Därför är det ännu viktigare att stärka konsumentförtroendet för denna teknik genom certifiering av maskinlärningsapplikationer. Därför är vi glada att vara involverade i att hjälpa till att definiera de nödvändiga kvalitetskriterierna.”

Professor Hochreiter har ett världsomspännande rykte när det gäller AI och spelade en nyckelroll i införandet av Österrikes första maskinlärningsstol och AI-examen vid JKU Linz. Han är också styrelseledamot i ELLIS, som är ett nätverk av excellens för de bästa europeiska forskarna inom maskinlärningsområdet.

Certifiering av applikationer

Den första nivån av framgång har redan uppnåtts, enligt vitboken. Övervakade lärapplikationer med låg till medelhög risk kan redan certifieras.

DI.Dr. Stefan Haas är VD för TÜV AUSTRIA-koncernen.

“Vi har börjat genomföra de första certifieringsprojekten, där applikationerna främst finns i den industriella miljön men också i konsumentsektorn. I de kommande faserna av utvecklingssamarbetet kommer de nuvarande tillvägagångssätten att utvidgas för att kunna certifiera säkerhetskritiska applikationer, baserat på en bredare spektrum av maskinlärningsmetoder”, säger DI.Dr. Haas. “Vi är särskilt glada att ha JKU:s maskinlärningsinstitut vid vår sida som en högt kompetent och internationellt erkänd partner för denna utmanande uppgift.”

Certifieringen innebär att maskinlärningsmodellerna och deras utvecklingsprocesser kontrolleras i detalj i flera dimensioner. Detta innebär inte bara att de faktiska funktionerna och tillförlitligheten hos de tränade modellerna undersöks, utan också programvarusäkerheten och dess utvecklingsprocess. Det finns också en undersökning av hur personuppgifter hanteras konfidentiellt och andra etiska frågor.