Nuevo Libro Blanco Establece Metodología de Certificación para Algoritmos de Inteligencia Artificial

Un nuevo libro blanco de TÜV AUSTRIA y el Instituto de Aprendizaje Automático de la Universidad Johannes Kepler (JKU) ha establecido una metodología de certificación para algoritmos de Inteligencia Artificial (IA). 

El documento primero reconoce cómo la IA es una de las áreas de mayor crecimiento en todo el mundo, estando detrás de muchas aplicaciones cotidianas que involucran el reconocimiento de imágenes, sistemas de recomendación, chatbots, diagnósticos o predicciones. 

Luego plantea estas preguntas: 

• ¿Es esta inteligencia artificial confiable y segura?
• ¿La IA realiza la función que se espera de ella?
• ¿El uso de la IA aporta el valor agregado esperado?
• ¿Los datos de entrenamiento son limpios y se utilizan correctamente?
• ¿Se maneja con cuidado la gran cantidad de datos sensibles?

Los nuevos métodos de certificación desarrollados por TÜV AUSTRIA y JKU tienen como objetivo apoyar a los fabricantes en el desarrollo de modelos de aprendizaje automático seguros, confiables y de alta calidad. También ofrecerán a los usuarios un sello de calidad para sistemas de IA confiables. 

El profesor Sepp Hochreiter es director del Instituto de Aprendizaje Automático. 

“El aprendizaje automático es actualmente la tecnología habilitadora más importante y tendrá una influencia masiva en nuestro entorno técnico y en nuestras vidas, en la sociedad, a largo plazo”, dice el profesor Hochreiter. “Por lo tanto, es aún más importante fortalecer la confianza del consumidor en esta tecnología a través de la certificación de aplicaciones de aprendizaje automático. Por eso nos complace participar en la definición de los criterios de calidad necesarios”. 

El profesor Hochreiter tiene una reputación mundial en cuanto a la IA y desempeñó un papel clave en la implementación de la primera cátedra de aprendizaje automático y el primer título de IA en la JKU Linz. También es miembro de la junta de ELLIS, que es una red de excelencia de los mejores científicos europeos en el campo del aprendizaje automático. 

Certificando Aplicaciones

El primer nivel de éxito, según el libro blanco, ya se ha logrado. Las aplicaciones de aprendizaje supervisado de bajo a moderado riesgo ya pueden ser certificadas. 

DI.Dr. Stefan Haas es el director ejecutivo del Grupo TÜV AUSTRIA. 

“Hemos comenzado a realizar los primeros proyectos de certificación, donde las aplicaciones se encuentran principalmente en el entorno industrial, pero también en el sector de consumo. En las próximas fases de la cooperación de desarrollo, se ampliarán los enfoques actuales para poder certificar aplicaciones de seguridad crítica, basadas en un espectro más amplio de métodos de aprendizaje automático”, dice DI.Dr. Haas. “Nos complace especialmente tener al lado al Instituto de Aprendizaje Automático de la JKU como un socio altamente competente y reconocido a nivel internacional para esta tarea desafiante”. 

La certificación implica que los modelos de aprendizaje automático y sus procesos de desarrollo se verifican en detalle en varias dimensiones. Esto significa que no solo se examinan las funciones y la confiabilidad de los modelos entrenados, sino también la seguridad del software y su proceso de desarrollo. También se examina cómo se manejan los datos personales de manera confidencial y otros temas éticos.