超出预期：AI代理和工作的下一章

AI 代理，或称自主代理，仍处于早期阶段。非常早期——可以说是第一局下半场的开始。这个领域正在创新，涵盖了开创性的研究、概念验证和实际应用——所有这些都暗示了 AI 的巨大潜力。

毫无疑问，自主代理将会改变每一个行业，其能力将超越简单的任务自动化，重新设计工作流程，模拟复杂场景，并减少人类在各个过程中的干预。我们正在期待一个（近期）的未来，代理可以运行大规模模拟，重新设计营销活动，甚至自动化复杂的研发测试过程。

波士顿咨询公司（BCG）强调了从大型语言模型（LLM）到自主代理的演化飞跃，这些代理被设计为端到端执行任务、监控结果、适应和使用工具以自主实现目标。它们代表着朝向真正的人工智能迈出的一大步，能够独立运行而无需持续的人类监督。

在市场规模方面，自主 AI 和自主代理在 2023 年的估值为 48 亿美元，预计在 2023 年至 2028 年之间的复合年增长率超过 43%，到 2028 年将达到 285 亿美元。很明显，我们正处于一个范式转变的前沿——一个充满期待、兴奋、怀疑和务实评估的阶段。这一转变不仅仅是关于技术进步；它是关于重新定义我们对工作、生产力和创新的整个方法。几乎每个投资者、创始人、开发者和科技爱好者都试图理解这项技术将如何在我们的一生中和更远的未来影响我们的工作方式，并评估其对他们的运营和战略目标的影响。

然而，目前，我们缺乏完全理解这次大规模转变的能力。我们只能推测。这篇文章就是我的推测，关于自主代理的展开动态及其对创始人、投资者和更广泛的经济的影响。我将讨论我们在 Forum Ventures 如何思考和投资这个领域，以及提供一个市场地图，其中包括我们认为正在领导探索的公司。

我们当前的状态

尽管在研究和概念验证方面取得了显著进展，我们仍然都在尝试理解和预测如何利用 AI 代理的全部能力。到目前为止，有三个趋势的汇聚：

1. AI 能力和效率的进步，扩展了可能性的边界。
2. 行动能力的成本降低，例如 ChatGPT 4.0，使得更多的人能够使用 AI 代理，并导致更广泛的采用和对这项技术的接受。
3. 对 AI 的访问民主化，无论是开源还是非开源，允许更多的实体探索和实施 AI 解决方案，从而加速创新步伐。

和任何新技术一样，尤其是像这次这么大的转变，有一系列的挑战正在被解决。以下是最重要的两个：

1. 安全性和准确性

人们越来越关注开发必要的基础设施，以确保 AI 代理的安全和道德部署。对于许多行业和企业，错误是不能被容忍的。如果一个大型语言模型的幻觉率仅为 0.1%，它就不能被信任用于任何关键过程，这个错误率对于 10 步或 100 步的过程需要更低。解决这个问题对于广泛采用至关重要，许多公司正在等待直到他们可以信任大型语言模型作为他们的技术栈的一部分或作为一种完全新的运营方式。

正在建立工具来通过可观察性和用户许可监控准确性和安全性，以及道德框架，以促进 AI 集成的负责任方法。我们已经看到一些公司做得很好，PrivateAI就是其中之一。他们使用推理确保公司不会在私人数据上训练模型，以免数据泄露。我们也非常兴奋地看到新公司进入市场，如 SafeguardAI——一个自主 AI 代理，可以防止幻觉，让企业能够更快地部署生成式 AI。

此外，正在开发自动评估指标、人工评估框架和诊断数据集等工具，以帮助评估和改进大型语言模型的准确性。这些工具帮助研究人员和开发者识别大型语言模型的优势和劣势，并指导该领域的进一步进步。

2. 人机交互

这里的挑战是人类应该与自主软件交互到什么程度。人们担心 AI 系统在没有足够的人类控制下运行的潜在风险，例如如何避免过多的自主性。但我们也需要弄清楚我们希望人类在多大程度上参与这个过程，以及什么程度的人类交互可以创造更多的安全性，同时限制偏见和降低人类错误的可能性。我们目前还没有很好的答案，至少在合理的规模上没有。

从机会主义者的角度来看，我希望我们能够定义一个新的范式，让自主软件在人类的控制下运行，以便被监控和观察，这样人类就可以阻止可能发生的“致命”事件，例如经济中的大规模闪崩。我的意见是，能够建立这一点的人将会赢得并带来变革性的机会。

从任务导向到目标导向的转变

不会有任何行业或工作领域不受 AI 代理的影响，很多变化将会在近期发生。在我的看法中，AI 代理将产生的最深远的影响之一就是从任务导向到目标导向的转变。今天，你输入一些内容到计算机中，例如“为我写一篇关于 AI 代理的社论”，计算机会给你一些输出，你然后采取行动。这是一个非常任务导向的提示，仍然需要用户根据代理的目标和语气来训练代理。然而，这是有限的，输出在很大程度上取决于训练输入的质量，以及用户预先确定的（可能有限的）目标，这仍然严重依赖于人类的行动。

AI 代理的潜力在于目标导向工作的力量。未来将不再是死板的步骤式过程描述或复杂的提示工程。公司和领导者应该改变他们对如何构建和使用自主规则式过程的思考方式，即目标被规定，代理确定最佳路径来实现该结果（伴随适当的人类干预）。例如，可能是“在纽约市为 100 名专业人士预订一个活动，他们希望学习如何使用 AI 渗透美国医疗保健市场的知识”。在这种情况下，AI 将被用来超越简单任务的局限，实现战略性思考的运营化。

这是一个全新的思考和工作方式。几乎没有我们当前正在追求的目标不会以完全不同的方式被追求。这将是我们如何定位自己以及如何构思和执行工作的根本性变化。

货币化和市场动态

随着 AI 成为商业模式的重要组成部分，传统的货币化策略正在被重新评估。例如，目前在企业软件中，客户通常购买席位和使用权。在消费者端，人们进行应用内购买。我们的假设是，这将转变为软件公司能够出售结果，而不是工具。人们是否会为结果付费？为实现目标付费？我们还不确定。但我们认为这是朝着价值导向型参与的更广泛趋势的反映。然而，在预测盈利能力和管理成本方面存在挑战，特别是考虑到 AI 技术的计算密集型性质。

决定在最早阶段投资谁和什么

每当我们在这个最早阶段投资时，创始人是我们做出的最大的赌注——同时考虑创始人与市场的契合度和创始人的个性。对于 AI 代理来说，这个视角变得更加重要，因为有这么多的未知数，今天构建的解决方案可能不会是明天构建的解决方案，但创始人会保持不变。因此，我们不仅看创始人与市场的契合度，还看他们对问题的依恋，他们如何以与现有范式不同的方式看待问题集，他们是否愿意接受未知，并且他们是否具有足够的灵活性来跟上这个变化如此之大的市场的步伐。

在创始人之后，我们关注市场和是否存在一个大型的可-addressable 市场以及一个可信的路径来实现 10 亿美元的收入机会。我们对既有的市场（如房地产技术和供应链）和更前瞻性的、灵活的市场（如金融技术和电子商务）都持开放态度，只要初创公司的解决方案/工具能够比旧方式带来阶跃式的改进。

我们在评估 AI 代理解决方案时的第三个关注点是工具是否能够在 AI 为中心的软件未来中兼容。换句话说，提出的解决方案是否能够无缝地集成并增强我们看到的未来软件景观和栈中的市场。

我们目前无法做出适当的基于成本的预测。目前，AI 业务在根本上不如 SaaS 业务盈利。与 AI 系统中的数据处理和分析相关的成本可能会迅速增加。需要在近期内取得进展，以提高 AI 的效率并降低运营成本，才能进行这种评估。理想情况下，会有类似摩尔定律在 AI 领域的进展，权力和芯片成本会因投资增加而降低。如果我们能够找到一个平衡点，使 AI 不仅创新，而且在经济上可持续，那么我们就成功了。但是，仍然有太多的未知数，大家都在猜测（用更好的说法，就是做出明智的推测）。

一个“勇敢新世界”的可能性

大多数人认为 ChatGPT 的引入是 AI 的“iPhone 时刻”。然而，我不认为我们已经到达那里……至少现在还没有。到目前为止，这些聊天界面并没有做更多的事情，只是简化了我们的当前工作流程。虽然这些工具无疑使任务更容易管理，但我们的方法仍然在根本上是任务导向的。更广泛的愿景是完全改变这种动态，AI 将能够运营化战略性思考，并执行复杂的输出，需要更少的人类输入。真正的“iPhone 时刻”可能是 AI 代理作为默认的 B2B 应用程序集的推出，这将对工作的未来产生不成比例的影响。

十年后，毫无疑问，我们将回头惊叹于过去我们曾经基于待办事项清单而不是设定战略目标并让 AI 帮助我们迭代和完善这些目标的工作方式。向目标导向型工作环境的转变不仅代表着技术的演进，也代表着我们对工作的概念和方法的转变。

前进的道路充满了不确定性，但 AI 革命化行业、放大人类潜能、推动有意义的进步和带来持久价值的潜力是不可否认的。我们的承诺是导航这些不确定性，识别、押注和支持早期的 AI 计划，以及支持那些将愿景变为现实的杰出人才。