超出预期：AI 代理和工作的下一章

AI 代理，或称自主代理，仍处于早期阶段。非常早期——可以说是第一局的开始。这个领域正在创新，从开创性的研究到概念验证到实际应用——所有这些都暗示着 AI 的巨大潜力。

毫无疑问，自主代理将会改变每一个行业，它们的能力将超越简单的任务自动化，重新设计工作流程，模拟复杂场景，并减少人类在各种过程中的干预。我们正在展望一个（近期）未来，代理可以运行大规模模拟，重新设计营销活动，甚至自动化复杂的研发测试过程。

波士顿咨询集团（BCG）强调了从大型语言模型（LLM）到自主代理的演化飞跃，这些代理被设计为执行任务、监控结果、适应和使用工具以实现目标。它们代表着迈向真正的人工智能的重大步骤，能够独立运行而无需持续的人类监督。

在市场规模方面，自主 AI 和自主代理在 2023 年的估值为 48 亿美元，预计在 2023 年至 2028 年之间的复合年增长率超过 43%，到 2028 年将达到 285 亿美元。很明显，我们正处于一个范式转变的前沿——一个充满期待、兴奋、怀疑和务实评估的阶段。这一转变不仅仅是关于技术进步；它是关于重新定义我们对工作、生产力和创新方法的理解。几乎每个投资者、创始人、开发者和科技爱好者都在尝试理解这项技术将如何影响我们在一生中和更远的时间范围内的工作方式，以及对他们的运营和战略目标的影响。

然而，目前我们缺乏全面理解这种大规模转变的能力。我们所能做的就是推测。这篇文章就是我的推测——关于自主代理的展开动态及其对创始人、投资者和更广泛的经济的影响。我将讨论我们在 Forum Ventures 如何思考和投资这个领域，以及提供一个市场地图，包括我们认为正在探索这一领域的公司。

我们现在的位置

尽管在研究和概念验证方面取得了显著进展，但我们仍然在尝试理解和预测如何利用 AI 代理的全部能力。到目前为止，有三个趋势的汇聚：

1. AI 能力和效率的进步，扩展了可能性的边界。
2. 行动能力的成本降低，例如 ChatGPT 4.0，使得更多的人能够使用 AI 代理，导致更广泛的采用和对这项技术的接受。
3. 对 AI 的访问民主化，无论是开源还是非开源，使得更多的实体能够探索和实施 AI 解决方案，从而加速创新步伐。

如同任何新技术，尤其是像这次这么大规模的转变一样，正在被解决的一系列挑战。以下是其中的两个主要挑战：

1. 安全性和准确性

人们越来越关注开发必要的基础设施，以确保 AI 代理的安全和道德部署。对于许多行业和企业来说，不能容忍任何错误。如果一个大型语言模型的幻觉率仅为 0.1%，它就永远不能被信任在任何关键过程中，这个错误率对于一个 10 步或 100 步的过程来说需要更低。解决这个问题对于广泛采用至关重要，许多公司在等待解决这个问题之前不会采用大型语言模型，无论是作为他们的技术栈的一部分还是作为一种完全新的运营方式。

正在建立用于监控准确性和安全性的工具，通过可观察性和用户许可，以及道德框架，以促进对 AI 集成的负责任方法。我们已经看到一些公司做得很好，PrivateAI就是其中之一。他们使用推理来确保公司不会在私人数据上进行训练，以免数据泄露。我们也对新公司进入市场感到兴奋，例如 SafeguardAI——一个自主 AI 代理，保护免受幻觉的影响，允许企业更快地部署生成式 AI 使用。

此外，正在开发自动评估指标、人工评估框架和诊断数据集，以帮助评估和改进大型语言模型的准确性。这些工具帮助研究人员和开发人员识别大型语言模型的优势和劣势，并指导该领域的进一步进步。

2. 人机交互

这里的挑战是人类应该与自主软件交互到什么程度。人们担心 AI 系统在没有足够的人类控制的情况下运行的潜在风险，例如，人类应该在多大程度上参与其中，什么程度的人类交互可以创造更多的安全性，同时限制偏见和降低人类错误的可能性。我们还没有很好的答案，至少在任何合理的规模上都没有。

从乐观的角度来看，我希望我们能够定义一个新的范式，让自主软件在人类的控制下运行，以便人类可以监控和观察它，以防止可能发生的“致命”事件，例如经济中的闪崩。我的意见是，能够建立这一点的人将会获胜并带来变革性的机会。

从任务导向到目标导向的转变

没有任何行业或工作领域能够不受 AI 代理的影响，很多变化将会在近期发生。在我看来，AI 代理将产生的最深远影响之一就是从任务导向到目标导向的转变。今天，你输入一些内容到计算机中，例如“为我写一篇关于 AI 代理的社论”，计算机会给你一些东西，你然后采取行动。这是一个非常任务导向的提示，仍然需要用户根据代理的目标和语气进行训练。然而，这是有限的，输出在很大程度上取决于训练输入的质量，以及用户预先确定的（可能有限的）目标，这仍然严重依赖于人类的行动。

AI 代理的潜力在于目标导向的工作。未来将不再是逐步的过程描述或复杂的提示工程。公司和领导者应该改变他们对自主规则的构建和使用的思维方式，目标被规定，代理确定实现该结果的最佳路径（伴有适当的人类干预）。一个例子可能是，“为我在纽约市预订一个活动，邀请 100 名专业人士学习如何使用 AI 渗透美国医疗保健市场的知识”。在这种情况下，AI 将被用来使战略性思维运营化，超越简单任务的有限范围。

这是一个全新的思考和工作方式。几乎没有我们目前正在追求的目标不会以完全不同的方式被追求。这将是我们如何定位自己以及如何构想和执行工作的根本性变化。

货币化和市场动态

随着 AI 成为商业模式的重要组成部分，传统的货币化策略正在被重新评估。例如，在企业软件中，客户目前购买席位和使用权。在消费者端，人们进行应用内购买。我们的假设是，这将转变为软件公司能够出售结果，而不是工具。人们和企业是否会为结果付费？为实现他们的目标？我们还不确定。但我们认为这是价值导向型参与的更广泛趋势的反映。然而，预测盈利能力和管理成本存在挑战，特别是考虑到 AI 技术的计算密集型性质。

决定在最早阶段投资谁和什么

当我们在这个早期阶段投资时，创始人是我们做出的最大赌注之一——同时考虑创始人与市场的契合度和创始人的个性。对于 AI 代理来说，这个视角变得更加重要，因为有这么多未知数，今天构建的解决方案可能不会是明天构建的解决方案，但创始人会保持不变。因此，我们不仅看创始人与市场的契合度，还看他们对问题的依恋，他们如何与现有的范式不同，他们是否愿意接受未知，并且他们是否具有足够的灵活性来跟上市场的变化。

在创始人之后，我们看市场是否有一个大规模可寻址市场和一个可信的路径来实现 10 亿美元的收入机会。我们开放地接受既有的市场，如房地产技术和供应链，也接受更前瞻性的、灵活的市场，如金融技术和电子商务，只要初创公司的解决方案或工具能够为旧的方式带来质的飞跃。

我们在评估 AI 代理解决方案时的第三个焦点是工具是否能够在以 AI 为中心的软件未来中兼容。换句话说，拟议的解决方案是否能够无缝地集成并增强我们对未来软件格局和市场中的软件栈的看法。

我们目前无法做出基于成本的预测。目前，AI 业务在根本上不如 SaaS 业务盈利。AI 系统中处理和分析数据的成本可能会迅速积累。需要在近期内取得进展，以提高 AI 的效率和降低运营成本，才能进行这种评估。理想情况下，会有类似摩尔定律的进展，AI 领域的计算能力和芯片成本会因投资而降低。如果我们能够找到一个平衡点，使 AI 不仅创新，而且在经济上可持续，那么我们就成功了。但仍然有太多的未知数，大多数人都在猜测（可以说是做出明智的猜测）。

一个充满可能性的大胆新世界

大多数人认为 ChatGPT 的出现是 AI 的“iPhone 时刻”。然而，我不认为我们已经到达那里……至少还没有。到目前为止，这些聊天界面并没有做太多事情，只是简化了我们的当前工作流程。虽然这些工具无疑使任务更容易管理，但我们的方法仍然在根本上是任务导向的。更广泛的愿景是完全改变这种动态，AI 将能够使战略性思维运营化并执行复杂的输出，需要的输入甚至更少。真正的“iPhone 时刻”可能是 AI 代理作为默认的 B2B 应用程序集的推出，这将对工作的未来产生巨大的影响。

十年后，我们将回头仰望，惊叹于我们过去曾经使用待办事项清单而不是设定战略目标并让 AI 帮助我们迭代和完善这些目标的想法。这种向目标导向工作环境的转变代表着不仅是技术的进化，也是我们如何概念化和处理工作的转变。

前进的道路充满了不确定性，但 AI 革命化行业、放大人类潜能、推动有意义的进步和带来持久价值的潜力是不可否认的。我们的承诺是要在这些不确定性中找到方向，识别、投资和支持早期的 AI 计划，以及那些将他们的愿景变为现实的杰出人才。