AI故障数据库旨在使AI算法更安全

任何足够大的系统都会出现错误，纠正这些错误的一部分就是拥有一个可以分析其影响和潜在原因的错误数据库。就像FDA维护一个不良药物反应数据库，或者国家运输安全委员会维护一个航空事故数据库一样，AI故障数据库是一个数据库，旨在编目AI系统的故障，并帮助AI研究人员开发新的方法来避免这些故障。AI故障数据库（AIID）的创造者希望它能够帮助AI公司开发更安全、更道德的AI。

什么是AIID？

AIID是由Partnership on AI（PAI）组织创建的。PAI最初由2016年大型科技公司的AI研究团队成员创立，包括Facebook、Apple、Amazon、Google、IBM和Microsoft。从那时起，组织已经招募了来自许多其他组织的成员，包括各种非营利组织。2018年，PAI开始创建一个用于分类AI故障的标准。然而，没有一个AI故障的集合来作为这个分类的基础。因此，PAI创建了AIID。

根据TechTalks，AIID的格式是由国家运输安全委员会维护的航空事故数据库的结构所启发的。自从1996年开始收集报告以来，商业航空系统已经通过存档和分析事故提高了航空业的安全性。希望一个类似的AI故障仓库可以使AI系统更安全、更道德、更可靠。AIID还从Common Vulnerabilities and Exposures数据库中汲取了灵感，这是一个跨不同行业和学科的著名软件故障仓库。

Sean McGregor是IBM的Watson AI XPRIZE的首席技术顾问。McGregor还负责监督AIID数据库的开发。McGregor解释说，AIID的最终目标是防止AI系统造成伤害，或者至少减少不良事件的严重性。正如McGregor指出的，机器学习系统比传统软件系统更复杂、不可预测，因此不能像其他软件一样进行测试。机器学习系统可以以意想不到的方式改变其行为。McGregor指出，深度学习系统的学习能力意味着“故障更可能发生、更复杂、更危险”当它们进入一个非结构化的世界时。

已记录超过1,000起AI相关事件

自从AIID最初创建以来，已经有超过1,000起AI相关事件被记录到数据库中。在数据库中的所有事件中，涉及AI公平性的问题是最常见的不良事件类型。其中许多公平性事件涉及政府机构使用面部识别算法。McGregor还指出，数据库中正在增加涉及机器人技术的事件数量。

访问数据库的用户可以执行查询，根据关键字、事件ID、来源或作者等标准搜索数据库。例如，运行“Deepfake”搜索将返回7份报告，而搜索“机器人”将返回158份报告。

一个用于记录AI系统故障和意外行为的集中数据库可以帮助研究人员、工程师和伦理学家监督AI系统的开发和部署。科技公司的产品经理可以使用AIID来查看是否有任何潜在问题，然后再使用AI推荐系统，或者AI工程师可以通过查看数据库来了解创建AI应用程序时需要纠正的潜在偏见。同样，风险官员可以使用数据库来确定AI模型的潜在负面影响，并提前计划和制定措施来减轻潜在的危害。

AIID的底层架构旨在灵活，这使得可以创建新的工具来查询数据库并提取有意义的见解。Partnership on AI和McGregor将合作开发一个可以用于分类所有不同类型AI事件的灵活分类法。团队希望，一旦创建了灵活的分类法，就可以将其与一个自动记录AI事件的系统结合起来。

“AI社区已经开始与彼此分享事件记录，以激励他们的产品、控制程序和研究计划发生变化，”McGregor通过TechTalks解释。“该网站于11月公开发布，因此我们刚刚开始体验到该系统的好处。”