Sean Gourley，Primer 的 CEO 和创始人 – 采访系列

Sean Gourley 是 Primer 的 CEO 和创始人，Primer 是一家为政府机构、金融机构、财富 50 强公司和许多其他组织提供工业级自然语言处理（NLP）应用程序的企业。

Primer 的主要用例之一是帮助人们检测、理解和应对虚假信息活动。为了增强这些服务，Primer 最近收购了 Yonder，以增强其打击虚假信息攻击的能力。

我们与 Sean 坐下来讨论了最近在拉斯维加斯举行的 Ai4 会议上的虚假信息问题。Sean 是一个关于虚假信息活动和政府宣传的信息宝库。以下是我们的采访。

是什么最初吸引你去学习和理解整个虚假信息生态系统？

那么，我谈了一点关于高频交易，这很有趣。我正在研究这个领域，有一个算法空间，试图理解世界上是否发生了某事，然后交易它。这很原始。这是在 2012 年，我们正在收集噪音。

他们在读取或误解信号时会出错。然后有一条推文出现，据称 AP 被黑客攻击。他们的 Twitter 账户说：“突发：白宫爆炸，巴拉克·奥巴马受伤。”然后市场对该信息做出反应，掉了大约 1300 亿美元。我不知道这是否是故意操纵市场，还是只是为了制造混乱，或者是为了做其他事情，但那时我就想：“哇。”这就像蝴蝶扇动翅膀，造成了这么大的影响，因为它利用了一组算法行为者，它们实际上并不聪明。

所以我看到了这一点，然后我开始挖掘… 然后我看到了很多墨西哥机器人，墨西哥账户声称记者没有被毒枭杀害。这是在 2013 年，我当时想：“我的天啊，你有非国家行为者，毒枭，参与这件事，制造一个叙事战役。看起来他们正在赢。”我当时想：“这些甚至不是国家行为者。”那时我就想：“如果一个国家行为者获得了这些能力，会是什么样子？会有什么影响？”然后我在 2015 年的 Wired 杂志上发表了一篇文章。它实际上是在 2014 年底写的，但它是关于 2015 年的预测。我说：“今年将是机器人接管和控制选举的一年。”

而且它变得非常有先见之明，因为那篇文章通过后，可能比我最初想象的还要有影响力。但是，当时我只是看到技术的这种弧线。一方面，我们也看到这些技术有多么原始。所以所有这些开始汇聚在一起，然后我们进入了这样的空间，即“哇，你可以通过重复接触信息来控制叙事，只需从你现在消费的信息流中获取信息。”

你相信有一个选举受到这种虚假信息的影响，或者未来的选举可能会受到这种虚假信息的影响吗？

从某种意义上说，我们对此采取了非常狭隘的看法，即虚假信息并不是真实的。我认为这太过狭隘。我们需要将其扩展到谁控制着叙事。现在，叙事可能是真实的，但它可能并不那么重要。

我们可以拿一个故事，如果你担心犯罪，我们可以广播所有犯罪到所有渠道，你会回来，并认为你的城市经历了最可怕的犯罪浪潮。但你所做的只是把所有以前没有在你雷达上的犯罪都放到了你的系统中。现在你会开始相信犯罪率远远高于实际上。它并没有改变，但你更容易接触到它。所以，这不是犯罪是否发生的问题，而是它是否在争夺你的注意力。所以，这是一个方面。我们陷入了“它是否发生了还是没有”的争论，就好像这是战斗一样。但战斗实际上是为了人们的世界观。所以，这是一个方面。

第二个方面是，你可以多大程度上影响这些东西？如果你没有关于疫苗是否会让你失去 37 分智商的看法，或者你以前没有认为疫苗和智力有关的看法。如果我告诉你它们确实有关，你现在更有可能相信这一点，而不是有人告诉你疫苗会降低你的智商。所以，谁先提出这个观点，谁就有最好的机会让你持有这种观点，如果你以前没有对某事物有意见。

这是人类大脑中的偏见容易受到这种影响吗？

这是人类大脑中的偏见。第二点，即使你知道信息是错误的，如果你接触到它，你更有可能相信它，即使你知道它是错误的。所以，有信息的重复，还有第一次接触信息的时候，你以前没有对某事物的意见。还有一个我们知道的方面是，如果你从独立来源获得信息，你会更信任它，如果你从朋友网络中的人那里获得信息，你会更信任它，这成为了一种隶属关系的方法。我们知道，大约 25% 是一个转折点，如果 25% 的人开始相信某事物，它会创造一个巨大的转折点，使得 75% 或 80% 的人开始相信它变得非常有可能。

所有这些都归结为意见形成的世界，以及群体如何形成共识的机制。物理学中有一个子分支，即计算物理学，它一直在研究这些模型，你可以进入文献，了解这些模型如何形成、传播和被采纳。

你可以设计这些系统，如果你选择这样做，这就是人们开始做的事情。我不认为他们非常高明。但是，看看中国，它是一个人工智能超级大国。他们知道赢得信息战争对于台湾的动态至关重要。我们应该期待他们采取所有技术允许的步骤来参与和赢得这场冲突。

我们知道人类如何容易受到这种影响，但人工智能如何检测根源真相？

我们需要摆脱“什么是真实的”这种观念，我指的是这不是关于让事实核查员来验证一切。因为我们说过，这不是关于让人工智能来确定某事是否发生，而是确定是否有人试图积极地影响你相信某一方面或另一方面。

人工智能的任务不是确定台湾是否属于中国的真相。人工智能的任务是确定是否有人试图积极地影响你相信某一方面或另一方面。这些都是人工智能可以增强的技术，人工智能也可以防御这些技术。但是，我们需要摆脱“人工智能能否确定真相”的观念，因为往往真相并不那么重要，叙事之战才是真正重要的。

Primer 如何帮助这一点？

所以，主要是监视和检测。一件事出现了，我们经常在六个月后才第一次听到有关虚假信息活动的消息。

这意味着我们永远无法实时捕捉到这一点吗？

好吧，这不是实时的。如果我们处于动态环境中，导弹已经发射到美国边境，六个月后，我们才意识到它们已经发射了。这就是我们的处境。我们在虚假信息或信息行动的监视和侦察方面有一个巨大的空白需要填补。如果进行了信息行动，我们需要实时或近实时地了解它的样子、动机和操纵，并将其放在一个位置，我们可以开始关闭这些机器人网络或限制信息的传播。

您对中国在世界上的最终威胁有什么看法？

这是一个大问题。我们知道我们正在与中国进行人工智能军备竞赛，因为赢家将在军事上对第二名占有显著优势。所以，中国将非常积极地追求人工智能的组成部分。第二个方面是芯片制造和高级 GPU 的重要性，台湾拥有这些。并且我认为，如果中国能够获得台湾的芯片制造厂、设施和工厂，他们将在人工智能军备竞赛中占有非常强大的地位。

如果中国通过武力占领台湾，他们可能会摧毁这些能力，或者这些能力会被台湾摧毁，这对中国来说不是问题。如果他们能完整地占领台湾，那将是他们的一个巨大优势。并且他们将通过信息行动实现这一点，就像我们在香港看到的那样。他们会说：“你是我们的一部分。”并且他们会说服世界其他国家，台湾是中国的一部分。如果他们能做到这一点，那么中国就能占据上风。

所以，我们将看到中国对世界其他国家，包括台湾，进行全球影响行动，以说服他们，台湾是中国的一部分。如果他们能做到这一点，那么中国就能控制叙事。并且美国，如果它想参与，就需要拥有同样的技能来对抗信息行动。

您认为 YouTube、Facebook、Twitter 和 TikTok 等推荐引擎在放大虚假叙事方面发挥了多大的作用？

一件事我们知道关于中国的是，他们阻止了 Facebook 进入中国。Facebook 进入中国，2012 年马克·扎克伯格说：“我要学习普通话。这是关于中国的。”中国说：“我们不让你进来，然后我们说再见。”

因为中国说：“我们不让美国公司控制我们人口的信息流。我们已经努力控制我们人口获得的信息。这是我们做的事情，我们很擅长这一点。我们让你进来，我们从你那里学习，但之后你就离开了。”所以现在 Facebook 不在那里了。

所以，中国共产党就信息控制做出了明确的决定。现在，作为一个专制政体，你有这种控制。作为一个自由民主国家，我们必须参与辩论和思想的交流，在一个相对自由和开放的空间中。当然，有一定的限制。但是，中国，我认为，能够控制信息。美国不能做到同样的程度，因为我们是一个民主国家，我们必须让信息的混乱自行解决。这就是为什么我们容易受到这些类型的信息攻击。

我认为我们低估了信息行动的力量。我认为中国一直在密切关注，并且我认为我们将看到这一点在台湾以及世界其他国家对台湾的看法中体现出来。并且美国，如果它想参与，就需要拥有同样的技能来对抗信息行动。

您是否有任何最后的话要分享关于 Primer？

我们致力于支持美国及其盟友，将最好的技术交到战士手中，我认为我们希望更多的技术公司加入这场战斗。

感谢这次启发性的采访，希望了解更多的读者可以访问 Primer。