Jonathan Dambrot，Cranium AI 的 CEO 和联合创始人 – 采访系列

Jonathan Dambrot 是 Cranium AI 的 CEO 和联合创始人，Cranium AI 是一家帮助网络安全和数据科学团队了解人工智能对其系统、数据或服务的影响的企业。

Jonathan 曾是 KPMG 的合伙人，网络安全行业领袖和先驱。在加入 KPMG 之前，他曾领导 Prevalent 成为第三方风险管理领域的 Gartner 和 Forrester 行业领袖，后来于 2016 年末被 Insight Venture Partners 收购。2019 年，Jonathan 将 Prevalent 的 CEO 职位交给了新领导层。他曾被多家媒体引用，并经常向客户讲述 IT、信息安全和合规性趋势的话题。

您能否分享 Cranium AI 的创立故事？

我在 2021 年 6 月份，当时我是 KPMG 领导第三方安全服务的合伙人时，想出了 Cranium 的想法。我们正在为一些最大的客户构建和交付人工智能驱动的解决方案，但我发现我们没有采取任何措施来保护它们免受对抗性威胁。所以，我问了我们最大的客户的网络安全领导者相同的问题，我得到的答案同样糟糕。许多安全团队甚至从未与数据科学家交谈过——他们在技术方面使用完全不同的语言，最终对整个企业中运行的人工智能系统没有任何可见性。所有这些，加上法规的不断发展，促使我构建一个可以为人工智能提供安全性的平台。我们开始与 KPMG Studio 孵化器合作，并将一些最大的客户作为设计合作伙伴来指导开发，以满足这些大型企业的需求。在今年 1 月，Syn Ventures 完成了种子轮融资，我们在 3 月份独立于 KPMG 并于 2023 年 4 月从隐身状态中脱颖而出。

什么是 Cranium AI 卡，以及它能提供什么关键见解？

Cranium AI 卡允许组织高效地收集和与客户和监管机构共享其人工智能模型的可信度和合规性的信息，并对其供应商的人工智能系统的安全性有所了解。最终，我们旨在为安全性和合规性团队提供人工智能安全性和合规性的可视化和监控能力，确保其人工智能系统符合当前和即将到来的合规性要求和框架，并轻松地证明其人工智能系统的安全性和可信度。

人们对人工智能有什么信任问题，而这些问题是通过这个解决方案解决的？

人们通常想知道他们正在使用的人工智能背后的内容，尤其是随着人工智能在某种方式上影响他们的日常工作流程。我们旨在为客户提供回答他们将从自己的客户那里收到的问题的能力，例如“这是如何管理的？”，“采取了什么措施来保护数据和模型？”，以及“这些信息是否已被验证？”。人工智能卡为组织提供了一种快速的方式来解决这些问题，并展示其人工智能系统的透明度和可信度。

2022 年 10 月，白宫科学和技术政策办公室（OSTP）发布了人工智能权利法案的蓝图，该蓝图为人工智能的负责任使用提供了非约束性的路线图。您能否讨论您对该法案的利弊的个人观点？

虽然白宫采取这一第一步来定义人工智能负责任使用的指导原则非常重要，但我们认为这还不够，以便为组织提供指导，而不仅仅是为担心人工智能决策的个人提供指导。未来的监管指导不仅应该针对人工智能系统的提供者，还应该让使用者能够以安全和可靠的方式使用和利用这一技术。最终，人工智能系统将变得更安全、更具包容性和更透明。然而，没有风险为基础的框架来帮助组织为未来的监管做好准备，就有可能减慢创新步伐，特别是在满足透明度和可解释性要求在技术上不可行的情况下。

Cranium AI 如何帮助公司遵守人工智能权利法案？

Cranium 企业帮助公司开发和交付安全可靠的系统，这是人工智能权利法案中的第一个关键原则。另外，人工智能卡帮助组织满足通知和解释的原则，允许他们分享其人工智能系统的工作原理和使用的数据的详细信息。

什么是 NIST 人工智能风险管理框架，它将如何帮助企业实现人工智能合规义务？

NIST 人工智能风险管理框架是组织管理与人工智能相关的个人、组织和社会风险的框架。它遵循与其他 NIST 框架类似的结构，概述了人工智能风险管理计划的成功结果。我们将人工智能卡映射到该框架中，以支持组织跟踪其人工智能系统与该框架的对齐情况，并且由于我们的企业平台已经收集了大量此类信息，我们可以自动填充和验证一些字段。

EU 人工智能法案是近年来最重要的人工智能立法之一，为什么非 EU 公司应该遵守它？

与数据隐私的 GDPR 类似，人工智能法案将从根本上改变全球企业开发和运营其人工智能系统的方式。非 EU 公司仍需要关注并遵守这些要求，因为任何使用或影响欧洲公民的人工智能系统，无论公司的管辖权如何，都将受到这些要求的约束。

Cranium AI 如何为 EU 人工智能法案做准备？

在 Cranium，我们从一开始就跟踪了人工智能法案的发展，并根据公司的需求设计了人工智能卡产品。我们认为我们有很好的先发优势，因为我们很早就意识到了人工智能法案及其演变过程。

为什么负责任的人工智能应该成为企业的优先事项？

人工智能被嵌入到每个商业流程和功能中的速度意味着，如果不负责任地做到这一点，事情可能会迅速失控。现在优先考虑负责任的人工智能将使企业能够更有效地扩展，并避免以后出现重大障碍和合规性问题。

您对 Cranium AI 未来的愿景是什么？

我们希望 Cranium 成为安全可靠的人工智能的真正类别王者。虽然我们无法解决所有问题，例如复杂的挑战，如伦理使用和可解释性，但我们旨在与其他负责任的人工智能领域的领袖合作，推动一个生态系统，使我们的客户能够轻松地涵盖负责任的人工智能的所有领域。我们还希望与创新的人工智能解决方案的开发者合作，以支持这些功能的安全性和可信度。我们希望 Cranium 能够使全球公司能够以安全可靠的方式继续创新。

感谢这次精彩的采访，希望了解更多的读者可以访问 Cranium AI。