最小化是人工智能治理的最佳方法吗？

随着组织将人工智能（AI）融入业务运营，需要明确的方法来管理其开发和使用所带来的风险。有效的治理能够提供监督，但复杂的流程可能耗费资源并拖慢实施进度。最小化或许能让治理更加适度：在保留问责机制和保障措施的同时，限制不必要的数据使用。

人工智能治理为何重要

人工智能治理通过制定政策、明确职责并实施监督，为组织开发、部署和使用人工智能系统提供指引。它有助于组织识别风险、明确决策权限，并建立监测性能和处理问题的流程。

组织在采用人工智能时必须考虑多种风险，包括隐私泄露、安全漏洞、偏见导致的结果、输出不准确以及透明度有限。如果缺乏适当的控制措施，人工智能生成的决策可能会对客户、员工及其他利益相关者产生难以纠正的影响。治理还有助于组织满足适用的法律要求，并使人工智能的使用与业务目标保持一致。

国际隐私专业人士协会报告称，在受访组织中，77%于2025年正在开展人工智能治理工作。这一发现表明，组织对这一议题给予了广泛关注，不过，开展治理工作并不一定意味着组织已经完成或全面实施了相关框架。

明确职责并持续监测，有助于组织发现新出现的问题、调查意外结果，并在系统发生变化时调整控制措施。有效的治理还可以增强利益相关者的信任，因为这表明组织会考虑人工智能使用所带来的影响，并对自身决策负责。

人工智能治理面临的挑战

尽管治理有助于组织管理人工智能风险，但建立并维持有效监督并非易事。要明确监督范围，组织必须确定哪些人工智能系统、活动和依赖关系需要纳入治理。

为了明确人工智能治理的范围，组织可以参考 ISO/IEC 42001。该标准规定了建立和维护人工智能管理体系的要求。遵循这些要求有助于提升模型性能，从而推动人工智能更快速、更安全地发展。它还有助于组织确定其运营中的哪些部分属于人工智能管理体系的范围。这些标准会考虑地域覆盖范围、与其他系统的连接情况以及人工智能活动的范围。

其他主要挑战包括：

• 人工智能系统的复杂性：人工智能应用可能依赖相互连接的模型、数据集、第三方工具和自动化决策。这些依赖关系可能使追溯输出、识别漏洞以及确定需要在哪些环节采取控制措施变得困难。
• 数据隐私与安全：组织必须在数据收集、模型训练、部署和持续使用的整个过程中保护敏感信息。
• 偏见与透明度有限：缺乏代表性的训练数据可能导致不公平的结果，而模型行为不透明则可能使决策难以解释、评估或质疑。
• 不断变化的法规和标准：在多个司法管辖区开展业务的组织可能会面对不同或不断变化的法律要求。治理流程必须满足相关义务，同时避免不必要的重复工作。
• 资源和运营限制：专业技能、文档编制、审查和持续监测都需要投入时间和资金。
• 在监督与创新之间取得平衡：过多的审批要求可能拖延项目，而控制措施不足则可能使重大风险得不到处理。

这些挑战凸显了减少不必要复杂性的价值。不过，精简治理也必须包括建立控制措施，以保护个人和信息，并确保组织承担责任。

例如，纽约州审计长发现，纽约市各机构在人工智能监督方面采取的做法并不一致，其中一些机构缺少评估偏见和准确性的政策。这些发现表明，降低复杂性需要明确且一致的治理标准来维持问责机制。

人工智能治理中的最小化意味着什么

人工智能治理中的最小化，是指在保留管理风险所需措施的同时，减少不必要的数据使用和行政负担。它主要包括两个方面：数据最小化和治理最小化。两者都旨在使人工智能实践与其目的及潜在影响更加相称。

数据最小化

数据最小化是指将信息的收集、保留、处理和共享限制在满足 AI 系统特定目的所需的范围内。组织可以通过限制对敏感信息的访问，并在适当情况下使用匿名化数据或合成数据来落实这一原则。

减少不必要的数据可以降低隐私暴露风险，也能减少组织需要保护的信息量。不过，数据最小化需要审慎判断。删除相关信息可能削弱模型的准确性、降低对不同群体的代表性，或增加识别偏见结果的难度。组织必须确定哪些数据是实现预期目的、支持可靠且公平结果所必需的。

治理最小化

治理最小化着重于简化监督流程。组织可以整合重复的审查，并在适当情况下重复利用评估结果。组织还可以明确决策权限，取消无法切实加强风险防护的审批层级。

这些调整有助于降低行政成本、减少延误，同时明确各团队的职责。不过，治理最小化不应取消必要的文档记录、独立审查、人工监督或强制性控制措施。其目标是在维持问责的同时提高监督效率。

AI 治理的最小化策略

当组织根据各个应用场景的风险，调整数据实践和监督要求时，最小化方法可以提高 AI 治理效率。采取多项措施可以减少不必要的复杂性，同时维持问责、可靠的性能和适当的保障措施。

采取基于风险的方法

组织可以根据 AI 系统的预期用途、潜在影响和数据敏感性对其进行分类。美国国家标准与技术研究院的 AI 风险管理框架提供了一套用于通过四项职能管理 AI 风险的框架，这四项职能包括治理、映射、测量和管理。组织可以利用这些职能识别风险、评估风险的重要程度，并确定适当的应对措施。

明确数据要求

每个 AI 系统都应在开始收集数据之前明确其用途。随后，组织可以确定必要的数据类别、删除无关字段、限制访问权限，并设定适当的数据保留期限。测试应确认，精简后的数据集仍能支持准确且公平的结果。

优化模型和计算资源

模型优化、高效算法和节能硬件有助于减少不必要的计算需求。企业可以探索联邦学习，它能够减少传输大量信息的需求。这些做法可以在保护数据隐私的同时，降低计算成本和能源消耗。 

简化治理工作流程

组织可以整合重复的审查，重复利用涵盖相同风险的评估结果，明确职责，并根据风险等级设置审批流程。标准化流程有助于团队高效处理常规应用，同时将更复杂的案例交由适当的专家处理。

保留必要的保障措施

最小化方法必须保留隐私和安全保护措施、偏见评估、适当的人工监督、审计追踪以及事件响应程序。组织还应确认，简化后的流程仍符合适用的法律和监管义务。

监控性能并重新评估控制措施

随着 AI 系统不断发展、服务新用户或支持更多任务，其治理要求可能发生变化。组织应在系统部署后监控准确性、公平性和隐私风险。随着情况变化，组织还应重新审视数据要求和监督程序。

让最小化方法切实服务于 AI 治理

将最小化纳入基于风险的治理策略，才能最有效地发挥其作用。不过，适当的最小化程度会因 AI 系统的用途、复杂性和潜在影响而异。通过在效率与适当的保障措施、问责和持续评估之间取得平衡，组织可以简化 AI 治理，同时确保 AI 的使用负责任且可靠。