伦理
微软扩展内容完整性工具以支持全球选举，应对生成人工智能的担忧
2024 年将是全球选举的重要一年，欧盟将在今年夏天举行议会选举，大约一半的欧洲国家正在准备国家或地区投票。随着这一民主实践的展开，生成式人工智能的快速发展引发了人们对其对选举和更广泛的信息生态系统的潜在影响的质疑。人们对该技术高速生成多样化内容的能力及其传播虚假信息的潜在用途表示担忧。
微软的公告
鉴于这些发展，微软 已公布 其内容完整性工具的扩展为欧盟的政党和竞选活动以及世界各地的新闻机构提供私人预览。该公司表示，这些工具旨在帮助组织告知选民他们在网上遇到的内容的来源。
内容完整性工具允许组织将安全的“内容凭证”附加到其原始媒体，提供有关内容创建者或发布者、创建地点和时间、是否由人工智能生成以及媒体是否经过编辑或发布的信息。自创建以来已发生变化。通过支持广泛采用的 内容凭证标准微软的目标是让这些工具能够跨平台访问和互操作。
内容完整性工具如何工作
Microsoft 的内容完整性工具由三个主要组件组成。首先，有一个可供政治竞选活动、新闻机构和选举官员访问的 Web 应用程序，允许他们将内容凭证添加到其内容中。其次，与以下公司合作开发的私人移动应用程序： 真图，使用户能够通过智能手机实时添加内容凭证来捕获安全且经过身份验证的照片、视频和音频。第三，一个 公共网站 可供事实检查人员和公众检查图像、音频和视频是否存在内容凭证。
内容凭证标准提供了一种对媒体进行身份验证并告知用户其来源的方法。然而，值得注意的是，该标准因从内容中删除元数据相对容易而受到批评。此外，目前还没有可靠的方法来检测人工智能生成的文本，这给打击虚假信息带来了持续的挑战。
三张图像中的第一张应用了内容凭据。 （来源：微软）
微软更广泛的选举保护工作
Microsoft 承认，仅靠内容完整性工具并不能完全解决选举中的欺骗性媒体问题。该公司强调，这些工具是针对滥用人工智能生成内容的更广泛防御策略的一部分。
今年早些时候，微软加入了 打击人工智能欺骗性使用的技术 以及其他 20 家公司。该倡议旨在解决滥用视频、音频和图像来改变政治候选人和选举官员的外表、声音或行为的问题。微软还与全球政党合作，提供支持和培训，以应对人工智能在选举中带来的挑战。此外，该公司还通过其竞选成功团队和 AccountGuard 计划提供网络安全援助，以帮助防止针对选举的民族国家网络攻击。
保护选举完整性的关键一步
随着 2024 年全球选举的临近，微软内容完整性工具的扩展代表着在面对不断变化的技术挑战时维护民主进程完整性的关键一步。通过为政党、竞选活动和新闻机构提供验证其媒体并告知选民在线内容来源的方法，Microsoft 正在为创建更加透明和值得信赖的信息生态系统做出贡献。
然而，重要的是要认识到，内容完整性工具只是打击选举中潜在滥用生成人工智能的难题之一。元数据可以轻松地从内容中删除，而且目前缺乏可靠的方法来检测人工智能生成的文本，这凸显了在这一领域持续研究、协作和保持警惕的必要性。
微软致力于通过技术协议、对政党的支持和网络安全援助等举措来保护全球选举，这表明该公司认识到这一挑战的多方面性。随着技术的不断进步和威胁形势的演变，行业领导者、政策制定者和民间社会共同努力制定和实施全面战略，以维护数字时代民主进程的完整性至关重要。
