火星人埃坦·金斯伯格 – 采访系列

埃坦·金斯伯格是火星人（Martian）的联合创始人，火星人是一个可以动态地将每个提示路由到最好的大型语言模型（LLM）的平台。通过路由，火星人实现了比任何单个提供商（包括GPT-4）更高的性能和更低的成本。该系统建立在公司独特的模型映射技术之上，该技术将LLM从复杂的黑盒子中解析为更易于解释的架构，使其成为机制可解释性的第一个商业应用。

埃坦从中学开始编码、设计网站和为客户建立电子商务业务。作为一名多才多艺的人，埃坦是世界记忆锦标赛的竞争者，并在中国深圳的世界速度阅读锦标赛中获得第二名。

他是一名黑客马拉松竞争者。过去的奖项包括Tech Crunch SZ的第三名、普林斯顿黑客马拉松的前七名和耶鲁黑客马拉松的三项行业奖。

您曾经是两家创业公司的创始人，这两家公司是哪些，您从这段经历中学到了什么？

我的第一家公司是美国忍者勇士运动的第一个推广和发展平台。2012年，我认为美国忍者勇士运动是一个地下运动（类似于90年代的混合武术），我创建了第一个平台，人们可以在那里购买蓝图、订购障碍物和找到训练馆。我为想要开设自己的训练馆的公司提供咨询，包括帮助美国特种部队创建一个训练课程，并将一个设施从草图扩展到第一季度收入300,000美元。尽管我当时在高中，但我第一次体验到了管理20多名员工的感觉，并学到了有效的管理和人际关系知识。

我的第二家公司是一家我在2017年创立的另类资产管理公司，在加密货币ICO浪潮之前。这是我第一次接触自然语言处理（NLP），我们使用社交媒体数据的情感分析作为投资策略。

我学到了很多关于创业的硬技能和软技能——从如何管理团队到NLP的技术方面。我也学到了很多关于自己的东西和自己想从事什么。我相信最成功的公司是由有更广泛愿景或目标的创始人创立的。我在2017年离开了加密货币领域，专注于NLP，因为增强和理解人类的智慧是真正驱动我的事情。我很高兴发现了这一点。

您在宾夕法尼亚大学期间进行了一些人工智能研究，具体来说您研究了什么？

我们的研究最初专注于构建大型语言模型的应用。特别地，我们致力于大型语言模型在教育领域的应用，并正在构建第一个大型语言模型驱动的认知导师。结果相当不错——我们在初步实验中看到学生的成绩提高了0.3个标准差——我们的系统已被宾夕法尼亚大学和不丹大学使用。

您能否讨论这项研究如何导致您联合创立火星人？

因为我们是最早在大型语言模型上构建应用的人之一，我们也遇到了构建应用时面临的问题。例如，我们很早就开始在更大的模型（如GPT-3）的输出上对较小的模型进行微调，并对专门的数据源进行微调，以完成编程和数学问题解决等任务。这最终导致我们关注模型行为和模型路由的问题。

火星人的名称和与智能的关系也很有趣，您能否分享一下这个名称的由来？

我们的公司名称源自一群被称为“火星人”的匈牙利裔美国科学家。这群科学家生活在20世纪，包括一些有史以来最聪明的人：

• 其中最著名的是约翰·冯·诺伊曼，他发明了博弈论、现代计算机架构、自动机理论，并在其他领域做出了许多基本贡献。
• 保罗·埃尔德什是有史以来最多产的数学家，发表了1500多篇论文。
• 西奥多·冯·卡门建立了空气动力学的基本理论，并帮助创立了美国太空计划。人为定义的地球和外太空之间的边界被称为“卡门线”，以纪念他的工作。
• 利奥·西拉德发明了原子弹、放射治疗和粒子加速器。

这些科学家和其他14位科学家（包括氢弹的发明者、现代物理学中群论的引入者以及组合数学、数论、数值分析和概率论的基本贡献者）共享了一个显著的相似之处——他们都出生在布达佩斯的同一地区。这导致人们质疑：是什么源泉造就了如此多的智慧？

作为回应，西拉德开玩笑说：“火星人已经在这里了，他们自称匈牙利人！”实际上……没人知道。

今天，人类面临着一个类似的局面，面对一组新的可能超级智能的思维：人工智能。人们知道模型可以非常聪明，但不知道它们是如何工作的。

我们的使命是回答这个问题——理解和利用现代超级智能。

您有着令人难以置信的记忆壮举，您是如何开始参与这些记忆挑战的，这些知识又如何帮助您理解火星人的概念？

在大多数运动中，专业运动员的表现可以比普通人好2-3倍（比较一下普通人可以踢多远的场地球或投掷多快的快速球，专业运动员可以做得更好）。记忆运动很有趣，因为顶级运动员可以记住100倍或甚至1000倍多的信息，所需的训练比大多数运动还少。另外，这些人通常具有平均的自然记忆力，他们的表现归功于任何人都可以学习的特定技术。我想最大化人类的知识，因此我将世界记忆锦标赛视为一个被低估的洞察力，了解如何推动人类智力的非凡回报。

我想将记忆技术部署到整个教育系统中，所以我开始探索NLP和LLM如何帮助减少阻止大多数有效教育方法被广泛使用的设置成本。Yash和我创建了第一个LLM驱动的认知导师，这导致我们发现了LLM部署的问题，我们现在正在解决这些问题。

火星人本质上是抽象掉了选择哪个大型语言模型（LLM）使用的决定，对于开发人员来说，这目前为什么是一个痛点？

创建语言模型变得越来越容易——计算成本正在降低，算法变得更加高效，更多开源工具可用于创建这些模型。因此，更多公司和开发人员正在创建定制模型，训练定制数据。由于这些模型具有不同的成本和能力，因此使用多个模型可以获得更好的性能，但测试它们所有并找到合适的模型很困难。我们为开发人员解决了这个问题。

您能否讨论一下系统如何理解哪个LLM最适合每个特定任务？

良好的路由本质上是一个关于理解模型的问题。为了有效地在模型之间路由，您需要能够理解是什么导致它们失败或成功。通过模型映射，我们可以在不必运行模型的情况下确定任何给定模型在请求上的性能。因此，我们可以将请求发送到将产生最佳结果的模型。

您能否讨论一下优化LLM使用可以带来的成本节约类型？

我们允许用户指定他们如何在成本和性能之间进行权衡。如果您只关心性能，我们可以在openai/evals上超越GPT-4。如果您正在寻找特定的成本以使您的单位经济工作，我们允许您指定请求的最大成本，然后找到最好的模型来完成该请求。如果您想要更动态的东西，我们允许您指定您愿意为更好的答案支付多少钱——这样，如果两个模型具有相似的性能但成本差异很大，我们可以让您使用更便宜的模型。一些客户通过我们的优化实现了多达12倍的成本降低。

您对火星人的未来有什么展望？

每次我们提高对模型的基本理解时，都会导致人工智能领域的范式转变。微调是由对输出的理解驱动的范式。提示是由对输入的理解驱动的范式。我们对模型的理解的这种单一差异是传统机器学习（“让我们训练一个回归器”）和现代生成人工智能（“让我们提示一个婴儿AGI”）之间的许多区别的关键部分。

我们的目标是不断提供可解释性的突破，直到人工智能被完全理解，我们拥有一个像逻辑或微积分理论一样强大的智能理论。

对我们来说，这意味着建设。它意味着创建很棒的AI工具并将其交到人们手中。它意味着发布那些打破常规、以前从未有人做过、最重要的是有趣且有用的东西。

用弗朗西斯·培根的话来说，“知识就是力量”。因此，确保我们理解人工智能的最佳方法是发布强大的工具。我们很高兴地建立它，发展它，并将其交到人们手中。

这是我们未来几个月将发布的许多工具中的第一个。为了发现人工智能的美丽理论，为了使新的AI基础设施成为可能，为了帮助为人类和机器建设一个更加光明的未来——我们迫不及待地想与您分享这些工具。

感谢这次精彩的采访，希望了解更多的读者可以访问火星人。