Adobe 的高级总监格雷斯·伊（Grace Yee）- 采访系列：人工智能伦理和无障碍创新

格雷斯·伊 是 Adobe 的高级总监，负责人工智能伦理和无障碍创新，她领导全球范围内的伦理工作，开发流程、工具、培训和其他资源，以确保 Adobe 的人工智能创新持续演进，符合公司的核心价值观和伦理原则。格雷斯推进 Adobe 致力于负责任地建设和使用技术，优先考虑伦理和包容性。在此工作中，格雷斯监督 Adobe 的人工智能伦理委员会和审查委员会，为指导 Adobe 的开发团队提供建议，并审查新的人工智能功能和产品，以确保它们符合 Adobe 的问责、责任和透明度原则。这些原则有助于我们在推出人工智能功能时减轻有害和偏见的结果。格雷斯还与政策团队合作，推动倡导，帮助塑造人工智能的公共政策、法律和法规，以造福社会。

作为 Adobe 致力于无障碍的一部分，格雷斯确保 Adobe 的产品对所有用户都是包容和可访问的，以便任何人都可以创建、交互和参与数字体验。在她的领导下，Adobe 与政府团体、贸易协会和用户社区合作，促进和推进无障碍政策和标准，推动行业解决方案。

您能否告诉我们关于 Adobe 在过去五年中的人工智能伦理之旅？什么是定义这一演变的关键里程碑，特别是在像生成式人工智能这样的快速进步面前？

五年前，我们通过建立人工智能伦理原则——问责、责任和透明度，正式启动了我们的人工智能伦理流程，这些原则是我们人工智能治理流程的基础。我们组建了一个多元化的、跨职能的 Adobe 员工团队，来自世界各地，开发可以经受住时间考验的可行原则。

从那里，我们开发了一个强大的审查流程，以便在人工智能开发周期的早期识别和减轻潜在风险和偏见。这个多部分评估帮助我们识别和解决可能延续有害偏见和刻板印象的功能和产品。

随着生成式人工智能的出现，我们调整了我们的人工智能伦理评估，以解决新的伦理挑战。这个迭代过程使我们能够在潜在问题出现之前保持领先地位，确保我们的人工智能技术以负责任的方式开发和部署。我们致力于持续学习和与公司各个团队的合作，对于保持我们人工智能伦理计划的相关性和有效性至关重要，最终提高我们为客户提供的体验并促进包容性。

Adobe 的人工智能伦理原则——问责、责任和透明度——如何转化为日常运营？您能否分享这些原则如何指导 Adobe 人工智能项目的例子？

我们通过实施强大的工程实践来遵守 Adobe 的人工智能伦理承诺，确保负责的创新，同时不断从我们的员工和客户那里收集反馈，以实现必要的调整。

新的人工智能功能经过彻底的伦理评估，以识别和减轻潜在的偏见和风险。当我们推出 Adobe Firefly 时，我们的生成式人工智能模型家族，它经过了评估，以减轻生成可能延续有害刻板印象的内容的风险。这个评估是一个迭代过程，基于与产品团队的密切合作，融入反馈和经验教训，以保持相关性和有效性。我们还与产品团队进行风险发现练习，以了解潜在的设计影响，并制定适当的测试和反馈机制。

Adobe 如何解决人工智能中偏见的问题，特别是在全球多样化用户群使用的工具中？您能否提供一个例子，说明偏见如何在特定人工智能功能中被识别和减轻？

我们不断演变我们的人工智能伦理评估和审查流程，与我们的产品和工程团队密切合作。几年前我们有的人工智能伦理评估与现在不同，我预计未来会有更多变化。这种迭代方法使我们能够融入新的经验教训，并解决新兴的伦理问题，例如 Firefly 等技术的演变。

例如，当我们为 Firefly 添加多语言支持时，我的团队注意到它没有提供预期的输出，一些单词被无意中屏蔽。为了减轻这一点，我们与国际化团队和母语者密切合作，扩展我们的模型以涵盖国家特定的术语和内涵。

我们致力于随着技术进步而演变我们的评估方法，这有助于 Adobe 平衡创新与伦理责任。通过培养包容和响应的流程，我们确保我们的人工智能技术达到最高的透明度和完整性标准，赋予创作者使用我们的工具的信心。

在您参与塑造公共政策方面，Adobe 如何处理人工智能法规和创新之间的快速变化的交叉点？Adobe 在塑造这些法规方面扮演什么角色？

我们积极与政策制定者和行业团体接触，帮助塑造平衡创新与伦理考虑的政策。我们与政策制定者讨论的重点是我们的方法和人工智能的重要性，用于增强人类体验。监管机构寻求解决当前挑战的实际解决方案，通过提出我们的人工智能伦理原则——我们共同制定并在人工智能功能中一致应用的原则——我们促进了更有成效的讨论。向桌面上提供具体示例至关重要，展示我们的原则如何在行动中发挥作用，并展示现实世界的影响，而不是讨论抽象的概念。

Adobe 在为人工智能模型获取训练数据时优先考虑哪些伦理考虑？它如何确保使用的数据集既有道德性又足以满足人工智能的需求？

在 Adobe，我们在为人工智能模型获取训练数据时优先考虑几个关键的伦理考虑。作为我们设计 Firefly 商业安全的一部分，我们在 Adobe Stock 和公共领域内容（其版权已过期）上进行了训练。我们还专注于数据集的多样性，以避免在我们的模型输出中强化有害偏见和刻板印象。为了实现这一点，我们与多元化的团队和专家合作，审查和策划数据。通过遵循这些做法，我们努力创造不仅强大有效，而且具有伦理和包容性的人工智能技术，适用于所有用户。

您认为在向用户传达 Adobe 的人工智能系统（如 Firefly）如何训练以及使用什么数据时，透明度有多重要？

在向用户传达 Adobe 的生成式人工智能功能（如 Firefly）如何训练以及使用什么数据时，透明度至关重要。这建立了对我们技术的信任和信心，确保用户了解我们人工智能开发背后的流程。通过开放地讨论我们的数据来源、训练方法和我们实施的伦理保障，我们赋予用户做出明智的决定的能力，告诉他们如何与我们的产品进行交互。这一透明度不仅符合我们的核心人工智能伦理原则，还与我们的用户建立了合作关系。

随着人工智能的不断发展，特别是生成式人工智能，您认为像 Adobe 这样的公司将面临哪些最重大的伦理挑战？

我相信像 Adobe 这样的公司将面临的最重大的伦理挑战是减轻有害偏见、确保包容性和维持用户信任。人工智能可能无意中延续刻板印象或生成有害和误导性内容的潜力是一个需要持续警惕和强大的保障措施的担忧。例如，最近在生成式人工智能方面的进步使得“不良行为者”比以往任何时候都更容易创建欺骗性内容、传播虚假信息和操纵公众舆论，从而破坏信任和透明度。

为了解决这个问题，Adobe 于 2019 年创立了内容真实性计划（CAI），以建立一个更值得信赖和透明的数字生态系统供消费者使用。CAI 实施了我们的在线建立信任和真实性解决方案——内容凭证。内容凭证包括“成分”或重要信息，例如创建者的姓名、图像创建的日期、用于创建图像的工具以及沿途进行的任何编辑。这样，用户就可以创建数字信任和真实性链。

随着生成式人工智能的不断发展，推广内容凭证的广泛采用将变得更加重要，以恢复对数字内容的信任。

您会给那些刚刚开始思考人工智能开发的伦理框架的其他组织什么建议？

我的建议是首先建立清晰、简单、可行的原则来指导您的努力。经常，我看到公司或组织专注于理论上看起来很好的东西，但他们的原则在实践中不可行。我们的原则之所以经受住了时间的考验，是因为我们设计了它们，使其可行。当我们评估我们的人工智能功能时，我们的产品和工程团队知道我们在寻找什么标准，我们期望他们达到什么标准。

我还建议组织在进入这个过程时要知道它将是迭代的。我可能不知道 Adobe 在五年或十年后会发明什么，但我知道我们将根据这些创新和我们收到的反馈来演变我们的评估。感谢您这次精彩的采访，希望读者可以通过访问 Adobe 来了解更多信息。