新的白皮书为人工智能算法建立了认证方法论

一份新的白皮书由TÜV AUSTRIA和约翰内斯·开普勒大学（JKU）机器学习研究所共同发布，建立了人工智能（AI）算法的认证方法论。

该论文首先承认，人工智能是全球增长最快的领域之一，许多日常应用都依赖于图像识别、推荐系统、聊天机器人、诊断或预测等技术。

然后，它提出了以下问题：

• 这种人工智能是否值得信赖和安全？
• 人工智能是否能够完成预期的功能？
• 使用人工智能是否能带来预期的价值？
• 训练数据是否干净和正确使用？
• 大量敏感数据是否被仔细处理？

由TÜV AUSTRIA和JKU开发的新认证方法旨在支持制造商开发安全、可靠和高质量的机器学习模型。它们还将为用户提供可信任的AI系统的质量标志。

机器学习研究所所长塞ップ·霍赫赖特教授表示：

“机器学习目前是最重要的启用技术，并将对我们的技术环境和整个生活、社会产生巨大的影响。因此，通过机器学习应用的认证来加强消费者对该技术的信心更加重要。这就是为什么我们很高兴能够参与定义必要的质量标准的工作。”

霍赫赖特教授在人工智能领域享有世界声誉，并在实施奥地利第一台机器学习椅和JKU林茨的第一人工智能学位方面发挥了关键作用。他也是ELLIS董事会成员，ELLIS是欧洲机器学习领域最优秀科学家的卓越网络。

认证应用

根据白皮书，第一级成功已经实现。低至中等风险的监督学习应用已经可以认证。

TÜV AUSTRIA集团首席执行官斯蒂芬·哈斯博士表示：

“我们已经开始进行首批认证项目，应用主要在工业环境中，但也在消费者领域。下一阶段的开发合作将扩展当前的方法，以便能够认证安全关键应用，基于更广泛的机器学习方法。”哈斯博士说：“我们特别高兴有JKU机器学习研究所作为我们这一具有挑战性的任务的高度合格和国际公认的合作伙伴。”

认证涉及机器学习模型及其开发过程在多个维度上进行详细检查。这意味着不仅要检查训练模型的实际功能和可靠性，还要检查软件安全性及其开发过程。还有对个人数据如何被保密处理以及其他道德问题的检查。