Primer 首席执行官兼创始人 Sean Gourley – 采访系列

Sean Gourley 是 Primer 的首席执行官兼创始人，Primer 是一家为政府机构、金融机构、财富 50 强公司和许多其他组织提供工业级自然语言处理（NLP）应用程序的企业。

Primer 的主要用途之一是帮助人们检测、理解和应对虚假信息活动。为了增强这些服务，Primer 最近收购了 Yonder 以提高其抵御虚假信息攻击的能力。

我们与 Sean 坐下来讨论了最近在拉斯维加斯举行的 Ai4 会议上的虚假信息问题。Sean 是一个关于虚假信息活动和政府宣传的信息宝库。以下是我们的采访。

是什么最初吸引你去学习和理解整个虚假信息生态系统？

所以，我谈到了高频交易，很有趣。我正在研究这个领域，发现了一个算法空间，试图了解世界上发生了什么，并在此基础上进行交易。这很原始，这是在 2012 年，我们只是在收集噪音。

他们在读取或解释信号时会出错。然后有一条推文出现，据称 AP 被黑客攻击。他们的 Twitter 账户说：“突发新闻：白宫爆炸，巴拉克·奥巴马受伤。”然后市场对这一信息做出反应，损失了大约 1300 亿美元。现在我不知道这是否是故意要影响市场，还是只是为了制造混乱，或者是为了做其他事情，但这只是当时的联系，我当时想：“哇。”这就像蝴蝶扇动翅膀，造成了这么大的影响，因为它利用了一组算法行为者，他们实际上并不聪明。

我看到了这一点，这让我开始挖掘，然后我发现了很多墨西哥机器人，墨西哥账户，声称记者不是被毒品卡特尔杀害的。而这大约是在 2013 年。我当时想：“我的天啊，你有非国家行为者，毒品卡特尔，参与这场制造叙事战的活动。看起来他们正在赢。”我当时想：“这些甚至不是国家行为者。”然后我在 2014 年底写了一篇文章，发表在 2015 年的《连线》杂志上。它实际上是关于 2015 年的预测，我说：“今年将是机器人接管和控制选举的一年。”

这篇文章变得非常有先见之明，甚至比我最初想象的更为如此。但是，这只是看到技术的发展轨迹。同一时间，我们也看到这些技术有多么原始。它很简单。所有这些开始汇聚在一起，我们最终进入了这样一个领域，即你可以仅通过反复向人们提供信息来控制叙事。

您是否相信有过一次选举受到这种虚假信息的影响，或者将来可能会受到这种虚假信息的影响？

从某种意义上说，我们采取了一个很狭隘的视角，即虚假信息并不是真实的。而我认为这太过狭隘。我们需要扩大它，以了解谁在控制叙事。现在，叙事可能是真实的，但它可能并不重要。

我们可以拿一个故事，如果你担心犯罪，我们可以广播所有犯罪到所有渠道，你会回来并认为你的城市经历了最可怕的犯罪浪潮。但是你所做的只是把所有曾经报告过的犯罪放入你的系统中。

现在你会开始相信犯罪率比实际上更高。它并没有改变，但你被更多地暴露在它面前。所以，这不是犯罪是否发生的问题，而是它是否在争夺你的注意力。所以，这是一个方面。

第二个方面是，你可以影响多少？好吧，如果你没有对某事物的看法，你不会相信疫苗会让你失去 37 分钟的智商，或者你没有先前的信念认为疫苗和智力有关。如果我告诉你它们确实有关，你会比如果有人告诉你疫苗会降低你的智商更有可能相信这一点。如果你以前没有对某事物的看法，谁先传达给你信息，谁就有最好的机会让你持有这种看法。

这是人类大脑中的偏见容易受到这种影响吗？

这是人类大脑中的偏见。第二点，即使你知道信息是错误的，如果你被反复暴露在它面前，你更有可能相信它，即使你知道它是错误的。所以，有反复信息的重复，还有你以前没有对某事物的看法的第一条信息。还有我们知道的另一件事是，如果你从独立来源获得它，你会更信任它，如果你从朋友网络中获得它，你会更信任它，这变成了一个归属方法论。我们知道，大约 25% 是一个临界点，如果 25% 的人开始相信某事，它会产生巨大的临界点，使得 75% 或 80% 的人开始相信它变得非常有可能。

所以所有这些都归结为意见形成的世界和群体如何达成共识的机制。物理学中有一个子分支，即计算物理学，已经在研究这些模型，你可以深入研究这些模型，了解意见如何形成、传播和被采纳。

如果你愿意，你可以设计这些系统。人们开始这样做了。我不认为他们非常成熟。但是，看看中国，中国是一个人工智能超级大国。他们知道，赢得人工智能竞赛的人将在军事上对第二名拥有显著优势。所以，中国将非常积极地追求人工智能的组成部分。第二个部分是芯片制造和先进 GPU 的重要性，台湾拥有这些。并且我认为，如果中国能够获得台湾的芯片制造设施和工厂，他们将在人工智能竞赛中占据非常有利的位置。

现在，如果中国通过武力获得台湾，那么他们可能会摧毁这些能力，或者这些能力会被台湾或其他人摧毁，这将是对中国来说可以接受的。将会有巨大的全球混乱，但这并不一定会为中国带来太大的问题。如果他们能够完整地获得台湾，那么这将对他们来说是一个巨大的优势。并且他们将通过说“你们是我们的一部分”来实现这一点，就像我们在香港看到的那样，你知道，“你们是我们的一部分”。并且他们将说服世界，台湾是他们的一部分。如果他们能够做到这一点，那么中国就能既吃到蛋糕又能保留蛋糕。

所以，我们将看到中国将投射出关于台湾是中国的一部分的叙事信息操作。并且这是被美国众议院情报委员会所认可的。他们已经制定了情报授权法案，特别提到了检测中国在加勒比海、南美洲、中央美洲的影响操作的方法。情报授权法案还提到了采用人工智能、使用商业现成技术以及在这些组织中部署无代码环境的能力。来自国会的有些内容非常有趣，关于对抗中国虚假信息活动，特别是在南美洲、中央美洲和加勒比海的国家。

您认为 YouTube、Facebook (META ) 、Twitter 和 TikTok 等推荐引擎在放大这种虚假叙事方面发挥了多大的作用？

我们知道中国停止了 Facebook 的进入。Facebook 进入了中国。2012 年，马克·扎克伯格说：“我要学习普通话。这都是关于中国的。”中国说：“我们让你进来，现在再见。”

因为中国说：“我们不会让一家美国公司控制我们人口的信息流。我们已经努力控制我们人口获得的信息。这是我们擅长的。我们会让你进来，我们会从你那里学习。但是之后，你就走吧。”所以 Facebook 现在不在那里了。

所以，中国共产党做出了一个明确的决定，关于如何控制信息。作为一个专制政权，你有这种控制。作为一个自由民主国家，我们必须参与辩论和思想交流的能力，在一个相对自由和开放的空间中。有一些限制，但它们都在边缘。所以，中国，我认为，能够控制信息。美国不能在同样的程度上做到这一点，因为我们是一个民主国家。我们必须让信息的混乱自行解决，这就是我们容易受到这种信息攻击的原因。系统中存在很大的不对称性。“你想启用讨论的自由？好吧，我们会破坏它。你不能对我们这样做，因为我们对信息系统有很好的锁定。”

我认为这是我们将要纠结的事情。并且这是第一个协议，即快速识别信息操作是否正在平台上运行，提醒系统，最少的是限制信息的扩散，但也要快速地关闭非机器人网络。如果推荐引擎被恶意使用… 这并不是美国公司所为。我不认为这是他们的做法。外部公司是否可以恶意使用它？是的，可能。如果你与某人交战，他们控制着一个向你的人口提供叙事的信息网络，你会相信他们是公平和无偏见的吗？

我们已经知道了 VK 和俄罗斯发生了什么，VK 是社交网络。他们说：“你不能发布我们在乌克兰杀害的死者图片。这被禁止。我们将建立一个信息屏障，以阻止西方网络向我们的网络传播信息。”所以，当冲突开始时，人们会建立屏障，阻止对其人口的影响控制。

我认为教科书式的例子是 VK 花了三到四周的时间来做到这一点。有一段时间，我认为它相对开放，但后来他们关闭了它，因为他们意识到，如果你不控制人口的叙事，如果你让他们看到导弹和袭击对乌克兰平民造成的损害，他们可能不想再战斗了。

我认为我们都对乌克兰的回应感到惊讶。我们没有料到他们会如此强烈地反击。我不认为我们错了，认为这可能是一场很快的战争，如果乌克兰的人民放下武器。但是，相反发生了什么。他们回到这个国家，拿起卡拉什尼科夫枪，开始战斗。这是因为叙事发生了转变，这个转变发生在一些关键的事情上。基辅幽灵，蛇岛，口袋里装着向日葵种子的女人对士兵说：“当你死去时，向日葵就会长出来。”这些时刻，表情包，在整个人口中产生了共鸣。

现在，其中很多都不是真的。或者它们是人为制造的。基辅幽灵和蛇岛被放大了。他们幸存下来，但被当作说“去你的”然后被杀掉的烈士。这是一场信息战的典范，创造了战斗精神，不仅是在乌克兰，也是在北约成员国和美国。我们看到乌克兰国旗在各处飘扬，人们说：“我们需要关心这个。”这不一定会发生。赢得战争最简单的方法是让对手不想战斗。这是俄罗斯和普京所下的赌注，他们错了。他们错了，因为我们以前从未见过像乌克兰这样的信息战来赢得叙事战。我认为我们低估了信息操作的力量。我认为中国已经非常密切地关注了这一点，我认为我们将会看到这一点在台湾和世界其他地方如何展开。美国如果想要参与，就需要拥有同样的技能来对抗信息操作。

您是否有任何最后的话要分享关于 Primer？

我们正在执行一项使命，以支持美国及其盟友，将最好的技术交到战士手中，我认为我们希望更多的技术公司加入这场战斗。

感谢这次启发性的采访，希望了解更多的读者可以访问 Primer。