AI 浏览器工具旨在识别深度伪造和其他虚假媒体

科技公司近期加大了打击虚假信息和虚假内容的努力，随着 DeepFakes 等先进的虚假内容生成技术变得更容易使用和更精致。为了帮助人们检测和打击深度伪造，一个即将推出的尝试是 RealityDefender，由 AI 基金会 制作，后者致力于开发道德 AI 代理和助手，用户可以训练它们完成各种任务。

AI 基金会最著名的项目是一个允许人们创建自己的数字化身的平台，这些数字化身看起来像他们，并在虚拟聚会空间中代表他们。AI 基金会由全球 AI 委员会监督，作为他们的职责，他们必须预测 AI 平台可能带来的负面影响，然后尝试解决这些问题。 VentureBeat 报道，AI 基金会创建的用于检测深度伪造的工具之一被称为 Reality Defender。Reality Defender 是一个可以在网页浏览器中使用的工具，它将分析视频、图像和其他类型的媒体，以检测媒体是否被伪造或以某种方式修改。希望该工具可以帮助抵消互联网上日益增加的深度伪造，根据一些估计，过去六个月中，深度伪造的数量大约增加了一倍。

Reality Defender 通过使用各种基于 AI 的算法来检测图像或视频可能被伪造的线索。AI 模型检测微妙的欺骗和操纵迹象，模型检测到的假阳性由工具的用户标记为不正确。然后使用这些数据来重新训练模型。创建非欺骗性深度伪造的 AI 公司将其内容标记为“诚实 AI”标签或水印，这样人们就可以轻松识别 AI 生成的伪造品。

Reality Defender 只是 AI 基金会试图创建的一套工具和整个 AI 责任平台的一部分。AI 基金会正在开发 Guardian AI，一种责任平台，基于这样的理念：个人应该可以访问为他们工作的个人 AI 代理，并且可以帮助防止他们被不良行为者利用。基本上，AI 基金会旨在同时扩大 AI 在社会中的影响范围，将其带给更多的人，同时也防范 AI 的风险。

Reality Defender 并不是唯一一个旨在减少美国虚假信息的新 AI 驱动产品。一个类似的产品是 SurfSafe，由加州大学伯克利分校的两名本科生 Rohan Phadte 和 Ash Bhat 创建。 The Verge 报道，SurfSafe 通过允许用户点击他们感兴趣的媒体来运行反向图像搜索，并尝试从互联网上的各种可信来源找到类似的内容，标记已知被篡改的图像。

目前尚不清楚这些解决方案在长期内将如何有效。达特茅斯学院教授和法医专家 Hany Farid 被 The Verge 引用，他说他“极度怀疑”像 Reality Defender 这样的系统将以有意义的方式发挥作用。Farid 解释说，检测虚假内容的关键挑战之一是媒体并不纯粹是虚假或真实的。Farid 解释说：

“这是一个连续体；一个处理问题的令人难以置信的复杂范围。有些更改是无意义的，而有些从根本上改变了图像的性质。假装我们可以训练 AI 来发现差异是非常天真的。并且假装我们可以众包它更加天真。”

此外，加入众包元素（如标记假阳性）是困难的，因为人类通常很糟糕地识别虚假图像。人类经常犯错误，错过标记图像为虚假的微妙细节。目前尚不清楚如何处理那些在标记内容时恶意滥用的行为者。

似乎很可能，为了最大限度地发挥作用，虚假检测工具将不得不与数字素养教育相结合，教人们如何在线处理内容。