人工智能浏览器工具旨在识别 Deepfakes 和其他虚假媒体

近年来，随着像 DeepFakes 这样复杂的虚假内容生成技术变得更容易使用和更加完善，科技公司正在加紧努力解决错误信息和虚假内容。 RealityDefender 是一项即将推出的帮助人们检测和打击深度伪造的尝试，由 人工智能基金会致力于开发有道德的人工智能代理和助手，用户可以训练它们来完成各种任务。

人工智能基金会最著名的项目是一个平台，允许人们创建自己的数字角色，这些角色看起来像他们，并在虚拟聚会空间中代表他们。 人工智能基金会由全球人工智能理事会监督，作为其职责的一部分，他们必须预测人工智能平台可能产生的负面影响，然后努力解决这些问题。 据 VentureBeat 报道人工智能基金会创建的用于协助检测深度伪造的工具之一被称为“现实卫士”。 Reality Defender 是一个人们可以在网络浏览器中使用的工具（检查一下），它将分析视频、图像和其他类型的媒体，以检测媒体被伪造或以某种方式更改的迹象。 人们希望该工具将有助于抵消互联网上不断增加的深度伪造流量，根据一些估计，在过去六个月中，深度伪造流量大约增加了一倍。

Reality Defender 的运作方式是利用各种基于人工智能的算法，这些算法可以检测表明图像或视频可能被伪造的线索。 人工智能模型会检测到欺骗和操纵的微妙迹象，并且模型检测到的误报会被工具的用户标记为不正确。 然后使用该数据重新训练模型。 创造非欺骗性深度赝品的人工智能公司会在其内容上贴上“诚实的人工智能”标签或水印，让人们可以轻松识别人工智能生成的赝品。

Reality Defender 只是 AI 基金会试图创建的一套工具和整个 AI 责任平台之一。 AI 基金会正在寻求创建 Guardian AI，这是一个责任平台，其建立的原则是个人应该能够使用为他们工作的个人 AI 代理，并帮助防止他们被不良行为者利用。 从本质上讲，人工智能基金会的目标是扩大人工智能在社会中的影响力，将其带给更多人，同时防范人工智能的风险。

Reality Defender 并不是唯一一个旨在减少有关美国的错误信息的人工智能驱动的新产品。 类似的产品名为 SurfSafe，由加州大学伯克利分校的两名本科生 Rohan Phadte 和 Ash Bhat 创建。 根据边缘SurfSafe 的运作方式是，允许用户单击他们感兴趣的媒体，该程序将执行反向图像搜索，并尝试从互联网上的各种可信来源查找类似内容，并标记已知的图像篡改了。

目前还不清楚这些解决方案的长期效果如何。 达特茅斯学院教授和法医学专家 The Verge 援引 Hany Farid 的话 他表示，他“非常怀疑”像 Reality Defender 这样的计划系统能否发挥有意义的作用。 法里德解释说，检测虚假内容的关键挑战之一是媒体并不纯粹是虚假的或真实的。 法里德解释说：

“有一个连续体； 需要处理一系列极其复杂的问题。 有些改变是毫无意义的，有些则从根本上改变了图像的本质。 假装我们可以训练人工智能来发现差异是非常天真的。 假装我们可以众包，情况更是如此。”

此外，很难包含众包元素，例如标记误报，因为人类通常不擅长识别假图像。 人类经常会犯错误并错过将图像标记为假的微妙细节。 目前还不清楚如何处理标记内容时进行恶意攻击的恶意行为者。

为了发挥最大效果，假货检测工具似乎必须与数字素养工作相结合，以教会人们如何推理他们在线互动的内容。