AI事件数据库旨在让AI算法更安全

任何足够大的系统都会有错误，纠正这些错误的一部分是建立一个数据库，可以分析其影响和潜在原因。 就像 FDA 维护药物不良反应数据库，或者国家运输安全委员会维护航空事故数据库一样， 人工智能事件数据库 是一个数据库 旨在对人工智能系统的故障进行分类 并帮助人工智能研究人员设计避免这些失败的新方法。 人工智能事件数据库（AIID）的创建者希望它能够帮助人工智能公司开发更安全、更道德的人工智能。

AIID是什么？

AIID是AI合作伙伴（PAI）组织的产物。 PAI 最初由 Facebook、苹果、亚马逊、谷歌、IBM 和微软等大型科技公司的人工智能研究团队成员于 2016 年创立。 从那时起，该组织已经从更多组织招募了成员，其中包括各种非营利组织。 2018年，PAI着手为人工智能故障创建一致的分类标准。 然而，没有任何人工智能事件的集合可以作为这种分类的基础。 为此，PAI 创建了 AIID。

根据科技谈话，AIID 的格式是根据国家运输安全委员会维护的航空事故数据库的结构确定的。 自 1996 年开始收集报告以来，商业航空旅行系统通过对事件进行归档和分析，成功提高了航空业的安全性。 希望类似的人工智能事件存储库能够使人工智能系统更安全、更道德、更可靠。 AIID 还从常见漏洞和暴露数据库中汲取了灵感，该数据库是跨越各种不同行业和学科的著名软件故障的存储库。

Sean McGregor 是 IBM Watson AI XPRIZE 的首席技术顾问。 McGregor 还负责监督 AIID 实际数据库的开发。 McGregor 解释说，AIID 的最终目标是防止人工智能系统造成伤害，或者至少降低不良事件的严重程度。正如麦格雷戈指出的那样，机器学习系统比传统软件系统更加复杂和不可预测，因此无法像其他软件那样进行测试。机器学习系统可以以意想不到的方式改变它们的行为。麦格雷戈指出，深度学习系统的学习能力意味着，当它们进入非结构化世界时，“故障更可能、更复杂、更危险”。

记录了 1,000 多起与 AI 相关的事件

自 AIID 最初创建以来，已有 1,000 多起与 AI 相关的事件记录到数据库中。 在数据库中的所有事件中，涉及人工智能公平性的问题是最常见的不良事件类型。 其中许多公平事件都涉及政府机构使用面部识别算法。 麦格雷戈还指出，涉及机器人技术被添加到数据库中的事件越来越多。

数据库的访问者可以执行查询，根据关键字、事件 ID、来源或作者等条件在数据库中搜索事件。 例如，搜索“Deepfake”会返回 7 个报告，而搜索“robots”会返回 158 个报告。

人工智能故障和意外运行事件的集中数据库可以帮助研究人员、工程师和伦理学家监督人工智能系统的开发和部署。 科技公司的产品经理可以在使用人工智能推荐系统之前使用 AIID 来查看是否存在任何潜在问题，或者人工智能工程师可以了解在创建人工智能应用程序时需要纠正的潜在偏见。 同样，风险官员可以使用数据库来确定与人工智能模型相关的潜在负面影响，使他们能够提前计划并制定措施来减轻潜在危害。

AIID 的底层架构应该是灵活的，因为这使得能够创建新工具来查询数据库并提取有意义的见解。 人工智能合作伙伴关系和麦格雷戈将合作设计一个灵活的分类法，可用于对所有不同形式的人工智能事件进行分类。 该团队希望，一旦创建了灵活的分类法，它就可以与自动记录人工智能事件的自动化系统相结合。

“人工智能社区已经开始相互共享事件记录，以激励对其产品、控制程序和研究计划进行更改，” 麦格雷戈通过 TechTalks 进行了解释。 “该网站于 XNUMX 月公开发布，因此我们才刚刚开始意识到该系统的优势。”