伦理
微软扩展内容完整性工具以支持全球选举，应对生成性人工智能问题
2024 年将成为全球选举的重要一年，欧盟将在夏季举行议会选举，约半数欧洲国家将举行国家或地区选举。随着这一民主实践的展开，生成性人工智能的快速发展引发了人们对其对选举和更广泛的信息生态系统影响的担忧。人们对该技术生成多样化内容的能力以及其在传播虚假信息方面的潜在用途表示担忧。
微软的公告
鉴于这些发展，微软 宣布 将其内容完整性工具的私人预览扩展到欧盟的政治党派和竞选活动，以及全球的新闻组织。该公司表示，这些工具旨在帮助组织告知选民关于他们在线遇到的内容的来源。
内容完整性工具允许组织将安全的 “内容凭证” 附加到其原始媒体，提供有关谁创建或发布内容、内容创建的位置和时间、是否由人工智能生成以及媒体自创建以来是否被编辑或修改的信息。通过支持广泛采用的 内容凭证标准，微软旨在使这些工具在各个平台上可访问和互操作。
内容完整性工具的工作原理
微软的内容完整性工具由三个主要组件组成。首先，有一个可供政治竞选、新闻组织和选举官员访问的 Web 应用程序，允许他们向内容添加内容凭证。其次，一个由微软与 Truepic 合作开发的私人移动应用程序，允许用户通过从智能手机实时添加内容凭证来捕获安全和经过验证的照片、视频和音频。第三，一个公共网站可供事实核查人员和公众查看图像、音频和视频的内容凭证。
内容凭证标准提供了一种验证媒体和告知用户其来源的方法。然而，值得注意的是，该标准因元数据可以轻松从内容中删除而受到批评。另外，目前尚无可靠的方法来检测人工智能生成的文本，这是打击虚假信息的持续挑战。
第一张图像已应用内容凭证。 (来源：微软)
微软更广泛的选举保护工作
微软承认，内容完整性工具并不是解决选举中欺骗性媒体问题的完整解决方案。该公司强调，这些工具是对抗人工智能生成内容滥用的更广泛防御战略的一部分。
今年早些时候，微软加入了 Tech Accord to Combat Deceptive Use of AI，与其他 20 家公司一起。这一举措旨在解决人工智能生成的视频、音频和图像篡改政治候选人和选举官员外貌、声音或行为的问题。微软还与全球政治党派合作，提供有关应对选举中人工智能挑战的支持和培训。此外，公司通过其竞选成功团队和 AccountGuard 计划提供网络安全协助，以帮助保护选举免受国家网络攻击的影响。
保护选举完整性的关键一步
随着 2024 年全球选举的临近，微软扩展内容完整性工具代表了保护民主进程完整性的一项关键步骤，面对不断演变的技术挑战。通过为政治党派、竞选活动和新闻组织提供验证其媒体和告知选民关于在线内容来源的方法，微软为创建更透明和可信的信息生态系统做出了贡献。
然而，必须认识到内容完整性工具只是打击选举中生成性人工智能潜在滥用的一个部分。元数据可以轻松从内容中删除以及目前缺乏可靠的方法来检测人工智能生成的文本，凸显了在这一领域继续研究、合作和警惕的必要性。
微软致力于通过诸如 Tech Accord、对政治党派的支持以及网络安全协助等举措来保护全球选举，表明该公司认识到这一挑战的多面性。随着技术的不断进步和威胁格局的演变，行业领袖、政策制定者和民间社会将需要共同努力，开发和实施保护数字时代民主进程完整性的综合战略。
