Novo Whitepaper Estabelece Metodologia de Certificação para Algoritmos de IA

Um novo whitepaper da TÜV AUSTRIA e do Instituto de Aprendizado de Máquina da Universidade Johannes Kepler (JKU) estabeleceu uma metodologia de certificação para algoritmos de Inteligência Artificial (IA). 

O artigo primeiro reconhece como a IA é uma das áreas de conhecimento de crescimento mais rápido em todo o mundo, estando por trás de muitas aplicações do dia a dia que envolvem reconhecimento de imagens, sistemas de recomendação, chatbots, diagnósticos ou previsões. 

Em seguida, levanta as seguintes questões: 

• Essa inteligência artificial é confiável e segura?
• O IA executa a função esperada dele?
• O uso do IA traz o valor agregado esperado?
• Os dados de treinamento são limpos e usados corretamente?
• A grande quantidade de dados sensíveis é tratada com cuidado?

Os novos métodos de certificação desenvolvidos pela TÜV AUSTRIA e JKU visam apoiar os fabricantes no desenvolvimento de modelos de aprendizado de máquina seguros, confiáveis e de alta qualidade. Eles também oferecerão aos usuários um selo de qualidade para sistemas de IA confiáveis. 

O Professor Sepp Hochreiter é Diretor do Instituto de Aprendizado de Máquina. 

“O aprendizado de máquina é atualmente a tecnologia habilitadora mais importante e terá uma influência massiva em nosso ambiente técnico e em nossas vidas, na sociedade, a longo prazo”, afirma o Professor Hochreiter. “Portanto, é ainda mais importante fortalecer a confiança do consumidor nessa tecnologia por meio da certificação de aplicações de aprendizado de máquina. É por isso que estamos ansiosos para ajudar a definir os critérios de qualidade necessários.” 

O Professor Hochreiter tem uma reputação mundial quando se trata de IA e desempenhou um papel fundamental na implementação da primeira cadeira de aprendizado de máquina e do primeiro grau de IA na JKU Linz. Ele também é membro do conselho da ELLIS, que é uma rede de excelência dos melhores cientistas europeus na área de aprendizado de máquina. 

Certificando Aplicações

O primeiro nível de sucesso, de acordo com o whitepaper, já foi alcançado. Aplicações de aprendizado supervisionado de baixo a médio risco já podem ser certificadas. 

O DI.Dr. Stefan Haas é CEO do Grupo TÜV AUSTRIA. 

“Nós começamos a realizar os primeiros projetos de certificação, nos quais as aplicações são principalmente encontradas no ambiente industrial, mas também no setor de consumo. Nas próximas fases da cooperação de desenvolvimento, as abordagens atuais serão expandidas para que possamos certificar aplicações críticas de segurança, com base em um espectro mais amplo de métodos de aprendizado de máquina”, afirma o DI.Dr. Haas. “Estamos particularmente satisfeitos em ter o Instituto de Aprendizado de Máquina da JKU ao nosso lado como um parceiro altamente competente e internacionalmente reconhecido para essa tarefa desafiadora.”

A certificação envolve a verificação detalhada dos modelos de aprendizado de máquina e seus processos de desenvolvimento em várias dimensões. Isso significa que não apenas as funções reais e a confiabilidade dos modelos treinados são examinadas, mas também a segurança do software e seu processo de desenvolvimento. Há também um exame de como os dados pessoais são tratados de forma confidencial e outras questões éticas.