亚历克斯·芬克，科技高管，Otherweb 的创始人兼首席执行官 – 采访系列

亚历克斯·芬克 是一位科技高管，也是 Otherweb 的创始人兼首席执行官，Otherweb 是一家公共福利公司，利用人工智能帮助人们阅读新闻和评论，收听播客和搜索网络，而无需支付墙、点击诱饵、广告、自动播放视频、联盟链接或其他“垃圾”内容。Otherweb 可以作为应用程序（iOS 和 Android）、网站、新闻通讯或独立浏览器扩展使用。在 Otherweb 之前，亚历克斯是 Panopteo 的创始人兼首席执行官，也是 Swarmer 的联合创始人兼董事长。

您能否提供有关 Otherweb 及其创建无垃圾新闻空间的使命的概述?

Otherweb 是一家公共福利公司，旨在改善人们消费的信息质量。

我们的主要产品是一款新闻应用程序，利用人工智能过滤掉垃圾内容，并允许用户进行无限的自定义 – 控制应用程序使用的每个质量阈值和每个排序机制。

换句话说，当世界其他地方创建黑盒算法以最大化用户参与度时，我们希望在尽可能短的时间内为用户提供尽可能多的价值，并使一切可定制。我们甚至使我们的 AI 模型和数据集公开源代码，以便人们可以看到我们正在做什么以及我们如何评估内容。

是什么激发了您专注于使用人工智能打击虚假信息和虚假新闻?

我出生在苏联，并亲眼见证了当一个社会中的每个人都消费宣传时会发生什么，而没有人知道世界上正在发生什么。我对父母在 4 点钟醒来、锁在衣柜里并打开收音机收听美国之音的记忆仍然非常鲜活。当然，这是违法的，这就是为什么他们在夜晚这样做并确保邻居无法听到。但这让我们获得了对真实信息的访问权限。结果，我们在一切崩溃、战争爆发在我的家乡之前三个月就离开了那里。

我实际上记得看到我长大的街上的坦克照片，并想着“这就是真实信息的价值”。

我希望更多的人能够获得真实的、高质量的信息。

深度伪造，尤其是在影响选举的背景下，构成了多大的威胁？您能否分享一些深度伪造被用来传播虚假信息以及其影响的具体例子?

从短期来看，这是一个非常严重的威胁。

选民不知道视频和音频录音不再可信。他们认为视频是某事发生的证据，两年前这仍然是正确的，但现在显然不再是这样了。

今年，在巴基斯坦，伊姆兰·汗的选民接到了伊姆兰·汗本人的电话，亲自要求他们抵制选举。当然，这是假的，但很多人相信了。

意大利的选民看到一位女政客出现在色情视频中。当然，这是假的，但在揭露伪造之前，损害已经造成了。

甚至在亚利桑那州，我们看到一份通讯宣传自己，展示了一段由卡里·莱克主演的推荐视频。当然，她从未推荐过，但通讯仍然获得了成千上万的订阅者。

所以，我认为今年十一月，我们几乎可以肯定会看到至少一个虚假的爆炸性新闻。并且很可能会在选举前夕发布，选举后才会被揭露为假 – 当时损害已经造成了。

当前的人工智能工具在识别深度伪造方面有多有效？您预见未来会有哪些改进?

过去，识别假图像的最佳方法是放大并寻找图像创建者倾向于做出的特征性错误（也称为“伪影”）。不正确的照明、缺少阴影、某些物体的不均匀边缘、物体周围的过度压缩等等。

基于 GAN 的编辑（也称为“深度伪造”）的问题在于，这些常见的伪影都不再存在。该过程的工作方式是，一种人工智能模型编辑图像，另一种人工智能模型寻找伪影并指出它们 – 然后这个循环反复重复，直到没有伪影为止。

因此，一般来说，无法通过查看内容本身来识别一段制作精良的深度伪造视频。

我们必须改变我们的思维方式，开始假设内容只有在我们可以将其来源追溯到原始来源时才是真实的。可以把它想象成指纹。看到指纹在谋杀武器上是不够的。你需要知道谁找到了谋杀武器，谁把它带回了储存室等 – 你需要能够追踪它每次更改所有权并确保它没有被篡改。

政府和科技公司可以采取哪些措施来防止在选举等关键时期传播虚假信息?

对抗虚假信息的最佳解药是时间。如果您看到某些东西可能会改变一切，请不要急于发布 – 花一两天时间来验证它是否真的属实。

不幸的是，这种方法与媒体的商业模式相冲突，媒体的商业模式即使材料被证明是错误的，也会奖励点击次数。

Otherweb 如何利用人工智能来确保其聚合的新闻的真实性和准确性?

我们发现，正确性和形式之间存在很强的相关性。那些想要说真话的人往往使用某种语言来强调克制和谦逊，而那些无视真相的人则试图吸引尽可能多的注意力。

Otherweb 的最大关注点不是事实核查。它是形式核查。我们选择避免吸引注意力的语言、为每个声明提供外部参考、陈述事实并不使用说服技巧的文章。

这种方法当然不是完美的，并且在理论上，一个坏人可以以我们的模型奖励的风格编写一个虚假信息。但在实践中，这种情况并不会发生。那些想要撒谎的人也想要很多注意力 – 这就是我们教我们的模型检测和过滤掉的东西。

随着真实和虚假图像的区分越来越困难，像 Otherweb 这样的平台如何帮助恢复用户对数字内容的信任?

帮助人们消费更好的内容的最佳方法是从每个方面采样、选择最好的内容并且要有很大的克制心。这些天来，大多数媒体都急于发布未经验证的信息。我们能够从数百个来源交叉引用信息并专注于最好的项目，这使我们能够保护我们的用户免受大多数形式的虚假信息的影响。

元数据（如 C2PA 标准）在验证图像和视频的真实性方面起到了什么作用?

这是唯一可行的解决方案。C2PA 可能是或不是正确的标准，但很明显，验证视频是否反映现实中实际发生的唯一方法是 a）确保用于捕获视频的相机只用于捕获，而不是编辑，并且 b）确保视频离开相机后没有被编辑。实现此目的的最佳方法是关注元数据。

您预见在反对虚假信息和深度伪造的斗争中会有哪些未来发展?

我认为，在未来 2-3 年内，人们将适应新的现实并改变他们的思维方式。在 19 世纪之前，最佳的证明形式是目击者证词。深度伪造可能会导致我们回到这些经过验证的标准。

更广泛地来说，我认为我们需要对虚假信息采取更细致入微的看法，并将虚假信息（即故意制造的虚假信息）与垃圾（即为赚钱而制造的信息，无论其真实性如何）区分开来。

对抗垃圾的解药是一种过滤机制，使垃圾不太可能传播。这将改变使垃圾像野火一样传播的激励结构。虚假信息仍然会存在，就像它一直存在一样。我们在 20 世纪能够应对它，我们也将能够在 21 世纪应对它。

我们需要担心的是垃圾的泛滥，因为这就是我们目前无法应对的部分。这就是人类需要解决的主要问题。

一旦我们改变了激励措施，互联网的信噪比就会为每个人提高。

感谢这次精彩的采访，希望了解更多的读者可以访问 Otherweb 网站，或在 X 或 LinkedIn 上关注他们。