2023年如何进行人工智能审计

人工智能审计是指评估人工智能系统，以确保它们按预期工作，而无需 偏见 或歧视，并符合道德和法律标准。 人工智能在过去十年中经历了指数级增长。 因此，与人工智能相关的风险已成为组织关注的问题。 正如埃隆·马斯克所说：

“人工智能是一种罕见的情况，我认为我们需要积极主动地进行监管，而不是被动地进行监管。”

组织必须为使用人工智能的员工制定治理、风险评估和控制策略。 人工智能问责制在风险较高的决策中变得至关重要，例如在一个地区而不是在另一地区部署警务、雇用和拒绝候选人。

本文将介绍人工智能审计的概述、人工智能审计的框架和法规，以及审计人工智能应用程序的清单。

注意事项

• 合规性：与人工智能系统遵守法律、监管、道德和社会考虑相关的风险评估。
• 技术：与技术能力相关的风险评估，包括机器学习、安全标准、模型性能等。

审计人工智能系统面临的挑战

• 偏见：人工智能系统可能会放大其训练数据中的偏见，并做出不公平的决策。 认识到这个问题，斯坦福大学的一个研究问题研究所——以人为中心的人工智能（HAI）成立了 设计更好的人工智能审计的 71,000 美元创新挑战。 这一挑战的目标是禁止人工智能系统中的歧视。
• 复杂性：人工智能系统，尤其是那些采用深度学习的系统，非常复杂且缺乏可解释性。

人工智能审计的现有法规和框架

法规 框架充当审计人工智能的北极星。 下面讨论一些重要的审计框架和法规。

审计框架

1. COBIT框架（信息及相关技术的控制目标）：是企业IT治理和管理的框架。
2. IIA（内部审计师协会）的人工智能审计框架：该人工智能框架旨在评估人工智能系统的设计、开发和工作及其与组织目标的一致性。 IIA 人工智能审计框架的三个主要组成部分是战略、治理和人为因素。 它有七个要素，如下：

• 网络弹性
• 人工智能能力
• 数据质量
• 数据架构和基础设施
• 衡量绩效
• 伦理
• 黑匣子

3. COSO ERM 框架：该框架为评估组织中人工智能系统的风险提供了参考框架。 它有五个内部审计组成部分：

• 内部环境：确保组织的治理和管理能够管理人工智能风险
• 目标设定：与利益相关者合作制定风险策略
• 事件识别：识别人工智能系统中的风险，例如意外偏差、数据泄露
• 风险评估：风险会产生什么影响？
• 风险响应：组织将如何应对风险情况，例如数据质量不佳？

法规

《通用数据保护条例》(GDPR) 是欧盟法规中的一项法律，规定组织有使用个人数据的义务。 它有七个原则：

• 合法、公平、透明：个人数据处理必须遵守法律
• 目的限制：仅将数据用于特定目的
• 数据最小化：个人数据必须充足且有限
• 准确性：数据应该准确且最新
• 存储限制：不再存储不再需要的个人数据
• 完整性和保密性：个人数据得到安全处理
• 责任：控制者按照合规性负责任地处理数据

其他法规包括 CCPA 和 皮派达.

AI 审计清单

数据源

识别和审查数据源是审计人工智能系统的首要考虑因素。 审计员检查数据质量以及公司是否可以使用这些数据。

交叉验证

确保模型得到适当的交叉验证是审核员的清单之一。 验证数据不应用于训练，验证技术应确保模型的通用性。

安全托管

在某些情况下，人工智能系统使用个人数据。 评估托管或云服务是否满足信息安全要求（例如 OWASP（开放式 Web 应用程序安全项目）指南）非常重要。

可解释的AI

可解释的AI 指解释和理解人工智能系统做出的决策及其影响因素。 审核员使用 LIME 和 SHAP 等技术检查模型是否可以充分解释。

模型输出

公平性是审计人员在模型输出中确保的第一件事。 当性别、种族或宗教等变量发生变化时，模型输出应保持一致。 此外，还评估了使用适当评分方法的预测质量。

社会反馈

人工智能审计是一个持续的过程。 一旦部署，审计人员应该看到人工智能系统的社会影响。 应根据反馈、使用、后果和影响（无论是积极还是消极）对人工智能系统和风险策略进行相应的修改和审核。

审计人工智能管道和应用程序的公司

审计人工智能的五家主要公司如下：

• 德勤：德勤是全球最大的专业服务公司，提供审计、税务和财务咨询相关服务。 德勤利用 RPA、人工智能和分析来帮助组织对其人工智能系统进行风险评估。
• 普华永道：按收入计算，普华永道是第二大专业服务网络。 他们开发了审计方法来帮助组织确保问责制、可靠性和透明度。
• 安永：2022年，安永 宣布投资1亿美元 在人工智能技术平台上提供高质量的审计服务。 人工智能驱动的公司在审计人工智能系统方面拥有丰富的信息。
• 毕马威：毕马威是第四大会计服务提供公司。 毕马威在人工智能治理、风险评估和控制方面提供定制服务。
• Grant Thronton：他们帮助客户管理与人工智能部署以及遵守人工智能道德和法规相关的风险。

审计人工智能系统的好处

• 风险管理：审计可以预防或减轻与人工智能系统相关的风险。
• 透明度：审核可确保人工智能应用程序不存在偏见和歧视。
• 合规性：审核人工智能应用程序意味着系统遵循法律和法规合规性。

人工智能审计：未来会怎样

组织、监管机构和审计人员应密切关注人工智能的进步，认识到其潜在威胁，并经常修改法规、框架和策略，以确保公平、无风险和合乎道德的使用。

2021年，193个成员国 联合国教科文组织 通过了关于人工智能道德的全球协议。 人工智能是一个不断发展的生态系统。

想要更多人工智能相关内容吗？ 访问 团结.ai.