Nuevo documento técnico establece metodología de certificación para algoritmos de inteligencia artificial

Un nuevo documento técnico de TÜV AUSTRIA y el Instituto de Aprendizaje Automático de la Universidad Johannes Kepler (JKU) ha establecido una metodología de certificación para algoritmos de Inteligencia Artificial (IA).

El documento reconoce primero cómo la IA es una de las áreas de crecimiento más rápido en todo el mundo, estando detrás de muchas aplicaciones cotidianas que involucran reconocimiento de imágenes, sistemas de recomendación, chatbots, diagnósticos o predicciones.

Luego plantea las siguientes preguntas:

• ¿Es esta inteligencia artificial confiable y segura?
• ¿El IA realiza la función esperada de él?
• ¿El uso de IA aporta el valor agregado esperado?
• ¿Los datos de entrenamiento son limpios y se utilizan correctamente?
• ¿Se maneja con cuidado la gran cantidad de datos sensibles?

Los nuevos métodos de certificación desarrollados por TÜV AUSTRIA y JKU tienen como objetivo apoyar a los fabricantes en el desarrollo de modelos de aprendizaje automático seguros, confiables y de alta calidad. También ofrecerán a los usuarios un sello de calidad para sistemas de IA confiables.

El profesor Sepp Hochreiter es director del Instituto de Aprendizaje Automático.

“El aprendizaje automático es actualmente la tecnología habilitadora más importante y tendrá una influencia masiva en nuestro entorno técnico y en nuestras vidas, en la sociedad, a largo plazo”, dice el profesor Hochreiter. “Por lo tanto, es aún más importante fortalecer la confianza del consumidor en esta tecnología a través de la certificación de aplicaciones de aprendizaje automático. Es por eso que estamos encantados de ayudar a definir los criterios de calidad necesarios”.

El profesor Hochreiter tiene una reputación mundial en lo que respecta a la IA y desempeñó un papel clave en la implementación de la primera cátedra de aprendizaje automático y el primer título de IA en la JKU Linz. También es miembro de la junta de ELLIS, que es una red de excelencia de los mejores científicos europeos en el campo del aprendizaje automático.

Certificación de aplicaciones

El primer nivel de éxito, según el documento técnico, ya se ha logrado. Las aplicaciones de aprendizaje supervisado de bajo a moderado riesgo ya pueden ser certificadas.

El Dr. Stefan Haas es el director ejecutivo del Grupo TÜV AUSTRIA.

“Hemos comenzado a realizar los primeros proyectos de certificación, donde las aplicaciones se encuentran principalmente en el entorno industrial, pero también en el sector de consumo. En las próximas fases de la cooperación de desarrollo, los enfoques actuales se ampliarán para poder certificar aplicaciones de seguridad crítica, basadas en un espectro más amplio de métodos de aprendizaje automático”, dice el Dr. Haas. “Estamos particularmente complacidos de tener al Instituto de Aprendizaje Automático de la JKU a nuestro lado como un socio altamente competente y reconocido a nivel internacional para esta tarea desafiante”.

La certificación implica que los modelos de aprendizaje automático y sus procesos de desarrollo se verifican en detalle en varias dimensiones. Esto significa que no solo se examinan las funciones y la confiabilidad de los modelos entrenados, sino también la seguridad del software y su proceso de desarrollo. También se examina cómo se manejan los datos personales de manera confidencial y otros temas éticos.