Nouă carte albă stabilește o metodologie de certificare pentru algoritmi AI

O nouă carte albă de TÜV AUSTRIA și Institutul pentru Învățare Automată de la Universitatea Johannes Kepler (JKU) a stabilit o metodologie de certificare pentru algoritmi de Inteligență Artificială (AI). 

Documentul recunoaște mai întâi că IA este una dintre cele mai rapide domenii în creștere din întreaga lume, fiind în spatele multor aplicații de zi cu zi care implică recunoașterea imaginilor, sistemele de recomandare, chatbot-urile, diagnosticele sau previziunile. 

Apoi, ridică următoarele întrebări: 

• Este această inteligență artificială de încredere și sigură?
• Îndeplinește IA funcția așteptată de la ea?
• Aduce utilizarea IA valoarea adăugată așteptată?
• Este datele de antrenare curate și utilizate corect?
• Este cantitatea mare de date sensibile manipulată cu atenție?

Noile metode de certificare dezvoltate de TÜV AUSTRIA și JKU au ca scop sprijinirea producătorilor în dezvoltarea de modele de învățare automată sigure, fiabile și de înaltă calitate. De asemenea, vor oferi utilizatorilor un sigiliu de calitate pentru sistemele de IA de încredere. 

Profesorul Sepp Hochreiter este directorul Institutului de Învățare Automată. 

„Învățarea automată este în prezent cea mai importantă tehnologie care permite și va avea o influență masivă asupra mediului nostru tehnic și asupra întregii noastre vieți, asupra societății, pe termen lung,” spune profesorul Hochreiter. „Prin urmare, este și mai important să consolidăm încrederea consumatorilor în această tehnologie prin certificarea aplicațiilor de învățare automată. De aceea, suntem încântați să fim implicați în ajutorarea definirii criteriilor de calitate necesare.” 

Profesorul Hochreiter are o reputație mondială în ceea ce privește IA și a jucat un rol cheie în implementarea primei catedre de învățare automată și a primului grad de studii în IA la JKU Linz. El este, de asemenea, membru al consiliului de administrație al ELLIS, care este o rețea de excelență a celor mai buni oameni de știință europeni în domeniul învățării automate. 

Certificarea Aplicațiilor

Primul nivel de succes, conform cărții albe, a fost deja atins. Aplicațiile de învățare supravegheată în domeniul cu risc scăzut până la mediu pot fi deja certificate. 

DI.Dr. Stefan Haas este directorul general al Grupului TÜV AUSTRIA. 

„Am început să realizăm primele proiecte de certificare, în care aplicațiile sunt în principal găsite în mediul industrial, dar și în sectorul consumatorilor. În fazele următoare de dezvoltare, abordările actuale vor fi extinse pentru a putea certifica aplicații critice pentru siguranță, pe baza unui spectru mai larg de metode de învățare automată,” spune DI.Dr. Haas. „Suntem deosebit de încântați să avem alături de noi Institutul de Învățare Automată JKU ca partener competent și recunoscut la nivel internațional pentru această întreprindere provocatoare.”

Certificarea implică verificarea în detaliu a modelelor de învățare automată și a proceselor de dezvoltare în mai multe dimensiuni. Acest lucru înseamnă că nu numai funcțiile și fiabilitatea modelelor antrenate sunt examinate, ci și securitatea software și procesul de dezvoltare. De asemenea, există o examinare a modului în care datele personale sunt manipulate confidential și alte aspecte etice.