超出预期：人工智能代理和工作的下一章

人工智能代理，或者说自主代理，正处于发展初期。非常早期——还处于第一局的末期。这个领域充满了创新，从突破性的研究到概念验证，再到实际应用——所有这些都暗示着人工智能的巨大潜力。 

毫无疑问，自主代理将改变每个行业，其功能不仅仅限于任务自动化，还包括重新设计工作流程、模拟复杂场景以及减少各种流程中人工干预的需要。我们正在展望（近期）未来，代理可以运行大规模模拟、重新设计营销活动，甚至自动化复杂的研发测试流程。

波士顿咨询集团（BCG） 凸显进化的飞跃 从大型语言模型 (LLM) 到旨在端到端执行任务、监控结果、自主调整和使用工具来实现目标的自主代理。它们代表了迈向真正人工智能的重要一步，能够在没有持续人类监督的情况下独立运行。 

在 市场规模4.8年，自主人工智能和自主代理的估值为2023亿美元，预计43年至2023年期间的复合年增长率将超过2028%，达到28.5亿美元。显然，我们正处于范式转变的风口浪尖—— 充满期待的阶段、兴奋、怀疑和务实的评估。这种转变不仅仅关乎技术进步；它关乎重新定义我们的工作方式、生产力和创新方式。几乎每一位投资者、创始人、开发者和技术爱好者都在试图理解这项技术将如何影响我们今生及未来的工作方式，并评估其对其运营和战略目标的影响。 

然而，到目前为止，我们还没有能力完全理解这将导致的质量转移的严重程度。我们所能做的就是猜测。这篇文章就是我对自主代理不断发展的动态及其对创始人、投资者和更广泛的经济的影响的猜测。我将谈论我们 Forum Ventures 如何思考和投资该领域，并提供 市场地图 与我们认为正在引领探索的公司合作。 

我们今天的处境

尽管研究和概念验证取得了长足的进步，我们仍在努力理解并规划如何充分利用人工智能代理的全部功能。目前，主要有三种趋势：

1. 人工智能能力和效率的进步，拓展了可能性的界限。 
2. 例如，ChatGPT 4.0 等行动功能的成本不断降低，使得更多人更容易使用人工智能代理，并导致该技术得到更广泛的采用和全面接受。
3. 无论开源与否，人工智能访问的民主化使更广泛的实体能够探索和实施人工智能解决方案，从而加快创新的步伐。

与任何新技术一样，尤其是像这样的重大变革，我们正在解决一系列挑战。以下是前两个：

1. 安全性和准确性

人们越来越重视开发必要的基础设施，以确保人工智能代理的部署安全且合乎道德。对于许多行业和企业来说，容不得半点差错。如果 LLM 的错觉率哪怕只有 0.1%，它在任何关键流程中都无法被信任，而对于 10 步或 100 步的流程，这个错误率甚至需要更低。解决这个问题对于 AI 的广泛应用至关重要，许多公司仍在观望，等待 LLM 作为其技术栈的一部分或作为一种全新的运营方式。 

通过可观察性和用户许可以及道德框架来监控准确性和安全性的工具正在建立，以促进负责任的人工智能集成方法。我们看到一些公司在这方面做得很好 私人人工智能 成为其中之一。他们使用推理来确保公司不会对私人数据进行培训，以免泄露。我们也对像 SafeguardAI 这样的新公司进入市场感到非常兴奋，这是一种自主人工智能代理，可以防止幻觉，使企业能够更快地部署生成式人工智能。

此外，自动评估指标、人工评估框架和诊断数据集等工具正在开发中，以协助评估和提升法学硕士（LLM）的准确性。这些工具可帮助研究人员和开发人员识别法学硕士（LLM）的优势和劣势，并指导该领域的进一步发展。

2. 人机交互

这里的挑战是人类应该在多大程度上与自主软件交互。人们担心人工智能系统在没有足够人类控制的情况下运行存在潜在风险，即多少自主权就太多了。但我们还需要弄清楚我们有多希望人类参与其中，以及什么程度的人类互动可以创造更多安全，同时限制偏见并减少人为错误的机会。我们对此还没有任何合理规模的良好答案。

从机会主义的角度来看，我希望我们能够为自主软件定义一种新的范式，使其在人类的控制下运行，并以一种受到监视和观察的方式运行，以便人类能够阻止潜在的“致命”事情发生，就像更大的事情一样。经济闪崩的版本。在我看来，那些能够实现这一点的人将赢得并提供转型机会。 

从面向任务到面向目标的流程的转变

任何行业或工作领域都会受到人工智能代理的影响，而且许多变化将在不久的将来发生。在我看来，o人工智能代理将产生的最深远的影响之一 是从以任务为导向到以目标为导向的过程的转变。今天，你向计算机输入一些内容，例如“给我写一篇关于人工智能代理的专栏”，计算机就会向你返回一些内容，然后你就可以采取行动。这是一个非常面向任务的提示，仍然需要用户根据人的目标和语气来训练代理。然而，它仅限于此，因此输出很大程度上取决于训练输入的质量，加上用户的预定（可能是有限的）目标，这仍然严重依赖于人类行为。 

人工智能代理未充分利用的力量在于以目标为导向的工作。未来将不再是死记硬背的一步一步的流程描述或复杂的流程即时工程。公司和领导者应该转变他们对如何构建和使用基于规则的自主流程的思考，其中规定目标，代理确定实现该结果的最佳路径（通过适当的人为干预）。例如，“为我在纽约预订一场活动，有 100 名专业人士参加，他们希望从我们的一位演讲者那里了解人工智能如何渗透美国医疗保健市场”。在这种情况下，人工智能将被用来实施战略思维，超越简单任务所能完成的有限可能性范围。

这是一种全新的思维和工作方式。我们目前在计算机上追求的几乎所有目标都将以截然不同的方式实现。这将是我们如何定位自己以及如何构思和执行工作的根本性变化。 

货币化和市场动态

随着人工智能越来越融入商业模式，传统的货币化策略正在被重新评估。例如，目前在企业软件中，客户通常购买席位和使用量。在消费者方面，人们进行应用内购买。我们的假设是，这种情况将会发生变化，软件公司将越来越能够销售结果，而不是工具。人们和企业会为结果买单吗？为了达到他们的目标？我们还不确定。但我们认为这反映了基于价值的参与的更广泛趋势。然而，预测盈利能力和管理成本存在挑战，特别是考虑到人工智能技术的计算密集型性质。 

尽早决定投资谁以及投资什么

每当我们在早期阶段进行投资时，创始人都是我们最大的赌注之一——同时考虑创始人与市场的契合度和创始人的个性。有了人工智能代理，这个镜头就变得更加重要，因为有很多未知因素，今天构建的解决方案可能不是明天构建的，但创始人将保持不变。因此，我们不仅关注创始人与市场的契合度，还关注他们对问题的执着，他们如何以不同于现有范式的方式看待问题集，他们愿意拥抱未知，并且他们具有可塑性和灵活性跟上瞬息万变的市场步伐。 

在创始人之后，我们会关注市场，看看是否存在庞大的总目标市场以及获得 1 亿美元收入机会的可靠途径。我们对传统市场（如房地产科技和供应链）以及更具前瞻性、灵活的市场（如金融科技和电子商务）持开放态度，只要启动解决方案/工具能够比旧方式提供阶跃功能改进。

在评估人工智能代理解决方案时，我们的第三个重点是该工具是否与以人工智能为中心的软件未来兼容。换句话说，所提出的解决方案是否能够无缝集成并增强我们对该市场中未来软件格局和堆栈的看法。

我们还无法做出基于成本的正确预测。目前，人工智能业务的利润根本上低于 SaaS 业务。人工智能系统中处理和分析数据的相关成本会迅速累积。在我们进行此类评估之前，需要在提高人工智能效率和降低运营成本方面取得近期进展。理想情况下，有一些进步可以反映 摩尔定律 在AI领域，由于投资的增加，功耗和芯片成本都降低了。如果我们能够找到平衡点，使人工智能不仅具有创新性，而且在经济上可持续，那么我们就成功了。但仍然有很多未知因素，我们大多数人都在猜测（说得好听一点，是做出有根据的猜测）。

充满可能性的“美丽新世界”

大多数人认为ChatGPT的推出是AI的“iPhone时刻”。然而，我认为我们还没有到那一步。迄今为止，这些聊天界面除了简化我们当前的工作流程之外没有做更多的事情。虽然这些工具无疑使任务更易于管理，但我们的方法从根本上仍然以任务为导向。更广泛的愿景是彻底改变这种动态，人工智能将能够实施战略思维并执行复杂的输出，而人类的输入甚至更少。因此，真正的 iPhone 时刻可能是人工智能代理作为默认 B2B 应用程序集的推出，这反过来将对未来的工作产生巨大影响。 

十年后，毫无疑问，当我们回顾过去时，我们将会惊叹于我们过去根据待办事项列表进行操作的想法，而不是设定战略目标并让人工智能帮助我们迭代和完善这些目标。这种向以目标为导向的工作环境的转变不仅代表了技术的演变，而且代表了我们概念化和处理工作方式的转变。 

前进的道路充满了不确定性，但人工智能彻底改变行业、放大人类潜力、推动有意义的进步和提供持久价值的潜力是不可否认的。我们的承诺是应对这些不确定性，并识别、押注和支持早期的人工智能计划以及将愿景变为现实的杰出人才。