戴维·马赫（David Maher），Intertrust 首席技术官 – 采访系列

戴维·马赫（David Maher） 担任 Intertrust 的执行副总裁和首席技术官。拥有超过 30 年的分布式系统、安全系统和风险管理经验，戴维领导了研发工作，并在公司的子公司中担任了关键领导职务。他曾是 Seacert Corporation 的前总裁，这是一家为数字媒体和物联网提供证书颁发机构的公司，也是 whiteCryption Corporation 的总裁，这是一家开发软件自卫系统的公司。他还曾担任马林信托管理组织（Marlin Trust Management Organization，MTMO）的联合主席，该组织监督着世界上唯一的独立数字版权管理生态系统。

Intertrust 开发了能够使分布式操作系统在开放网络上安全地管理和控制数据和计算的创新技术，从而获得了可信分布式计算的基础专利。

最初，Intertrust 根植于研究，现已发展成为一家产品导向的公司，提供统一设备和数据操作的可信计算服务，特别适用于物联网和人工智能。其市场包括媒体分发、设备身份验证、数字能源管理、分析和云存储安全等。

如何弥合人工智能信任鸿沟，解决公众日益增长的对人工智能安全性和可靠性的担忧？

我认为透明度是解决日益增长的对人工智能安全性和可靠性的担忧的最重要的品质。透明度包括帮助消费者和技术人员了解人工智能机制的特点，例如人工智能模型的训练方式、使用的数据、开发中应用的政策以及为确保安全性和可靠性而采取的其他保障措施。通过提高透明度，我们可以解决真正的风险和问题，而不是被不合理的恐惧和猜测所分散注意力。

元数据认证在确保人工智能输出的可靠性方面扮演着什么角色？

元数据认证有助于提高我们对人工智能模型或其他机制的可靠性和安全性的信心。人工智能模型卡就是元数据集合的一个例子，可以帮助评估人工智能机制（模型、代理等）用于特定目的的可靠性和安全性。我们需要为模型卡的清晰度和完整性建立标准，包括量化测量和关于性能、偏差、训练数据属性等的认证断言。

组织如何减轻大型语言模型（LLM）中人工智能偏差和幻觉的风险？

红队测试是一种解决这些和其他风险的通用方法，适用于模型的开发和发布前阶段。最初用于评估安全系统，这种方法现在正成为人工智能系统的标准方法。它是一种涵盖系统整个生命周期的风险管理方法，从初始开发到现场部署，包括整个开发供应链。特别重要的是对用于模型训练的数据进行分类和认证。

公司可以采取什么步骤来提高人工智能系统的透明度，减少与“黑盒”问题相关的风险？

了解公司将如何使用模型以及可能在部署中产生什么样的责任，包括内部使用或客户使用，无论是直接还是间接。然后，了解我所说的 AI 机制的“血统”，包括模型卡上的断言、红队测试结果、公司特定使用的差异分析、正式评估结果以及其他人对该模型的经验。内部测试使用全面测试计划在现实环境中进行是绝对必要的。最佳实践在这个新兴领域不断演变，因此保持更新至关重要。

如何设计人工智能系统以遵循道德准则，跨不同行业又会面临什么挑战？

这是一个研究领域，很多人认为，道德和当前的人工智能版本是矛盾的，因为道德是概念性的，而人工智能机制主要是数据驱动的。例如，简单的规则，如“不要作弊”，对人类来说很容易理解，但很难确保人工智能机制遵循这些规则。然而，通过仔细分析目标和目标冲突，排除可疑数据和虚假信息，并建立规则以要求使用输出过滤器来强制执行道德原则，例如测试输出内容是否提倡或同情使用暴力，可以帮助解决这个问题。同样，严格测试偏差可以帮助使模型更符合道德原则。再次强调，许多方法都是概念性的，因此必须小心测试给定方法的影响，因为人工智能机制不会像人类一样“理解”指令。

人工智能在未来面临的主要风险和挑战是什么，特别是当它与物联网系统更加集成时？

我们希望使用人工智能来自动优化关键基础设施流程。例如，我们知道可以使用虚拟电厂来优化能源分配和使用，虚拟电厂可以协调成千上万个能源生产、存储和使用的元素。这只有通过大量的自动化和使用人工智能来辅助分钟级决策才是可能的。系统将包括具有相互冲突的优化目标的代理（例如，消费者和供应商的利益）。人工智能的安全性和可靠性在此类系统的广泛部署中将至关重要。

为了在人工智能系统中安全地识别和验证实体，需要什么样的基础设施？

我们需要一个强大且高效的基础设施，使得人工智能系统和其部署的所有方面的实体能够发布关于人工智能系统的权威和真实的声明，包括其血统、可用的训练数据、传感器数据的来源、安全事件和事件等。该基础设施还需要使用户能够高效地验证关于人工智能系统的声明和断言，以及人工智能模型和优化器的输出所做出的决定。

您能否与我们分享您在 Intertrust 的工作以及它如何与我们讨论的内容相关？

我们正在研究和设计能够提供前面提到的信任管理基础设施的技术。我们特别解决了物联网系统中包含人工智能组件时出现的可扩展性、延迟、安全性和互操作性问题。

Intertrust 的公钥基础设施（PKI）服务如何保护物联网设备，它的可扩展性如何满足大规模部署的需求？

我们的公钥基础设施专门为包括设备和数字内容治理在内的信任管理而设计。我们已部署了数十亿个密钥和证书，以确保符合标准。我们的当前研究解决了大规模工业自动化和关键基础设施所需的规模和保证问题，包括“零信任”部署和可以适应数万亿个传感器和事件生成器的设备和数据认证的最佳实践。

是什么激励您加入 NIST 的人工智能计划，您的参与如何为开发可靠和安全的人工智能标准做出贡献？

NIST 在安全系统方面有丰富的经验和成功的标准和最佳实践开发经验。作为 Intertrust 的首席研究员，我可以倡导开发包含人工智能机制的信任管理系统的重要标准和最佳实践。通过过去的经验，我特别赞赏 NIST 在促进创造力、进步和工业合作的同时，帮助制定和宣传促进互操作性的重要技术标准的方法。这些标准可以促进有益技术的采用，同时解决社会面临的风险。

感谢这次精彩的采访，希望了解更多的读者可以访问 Intertrust。