Unite.AI

智能体AI如何变革企业——来自Forum Ventures报告的洞见

Forum Ventures，一家早期B2B SaaS基金、加速器和AI风险工作室，今日发布了其最新的综合报告“2024：企业中智能体AI的崛起“。该报告详细分析了智能体AI的现状和未来轨迹，为企业、投资者和初创公司提供了宝贵的见解。报告基于对美国100名高级IT决策者的调查以及对领先AI创新者的访谈，重点阐述了在企业环境中采用AI智能体所面临的挑战、机遇和战略重点。智能体AI的崛起——即能够自主推理和执行复杂任务而无需人工干预的自主AI驱动系统——标志着企业技术的重大转变。这些通常基于大语言模型的系统，有潜力通过自动化工作流程、减少手动任务和提高效率来改变企业运营。然而，尽管潜力巨大，AI智能体在企业层面的采用仍处于早期阶段，许多组织采取谨慎态度，等待技术成熟。报告揭示了AI采用准备度的差异：虽然只有29%的企业领导团队制定了近期（1-3年）实现企业级AI采用的愿景（定义为AI成为至少五个核心功能的关键部分），但更大比例——46%——预计在更长期（3年或更长时间）达到这一采用水平。Forum Ventures的调查还发现，48%的企业已经开始采用AI智能体系统，另有33%正在积极探索这些解决方案。这种日益增长的兴趣反映了人们相信AI智能体可以带来显著的运营改进，尽管企业仍在努力应对性能、安全性和信任等挑战。信任是采用AI智能体的核心障碍报告的核心发现之一是，信任仍然是企业广泛采用AI智能体的最大障碍。对数据隐私、AI输出准确性以及这些系统整体可靠性的担忧被强调为主要障碍。49%的受访者将与性能（14%）、数据隐私（10%）、准确性（8%）、伦理问题（5%）和太多未知因素（12%）相关的担忧列为他们对采用AI智能体犹豫不决的首要原因。Forum Ventures的普通合伙人兼首席运营官Jonah Midanik强调了企业与AI系统之间存在的信任鸿沟：“信任鸿沟是巨大的。虽然AI智能体可以以惊人的效率执行任务，但它们的输出是基于统计概率，而非内在真理。”包括Personal AI联合创始人兼首席技术官Sharon Zhang和Sierra Ventures管理合伙人Tim Guleri在内的AI领域领军人物强调，透明度、安全性和合规性将是弥合这一信任鸿沟的关键驱动力。Zhang在开发AI驱动的员工“数字孪生”方面的工作凸显了隐私优先解决方案的重要性，尤其是在受监管的行业。Zhang解释了隔离用户数据以确保其不被混合或用于更广泛训练，对于建立企业信任至关重要。Tim Guleri补充道：“企业需要确信其数据保持安全，并且AI智能体符合其价值观和政策。没有这些保证，企业将犹豫是否全面部署AI智能体，尤其是当这些系统变得更加自主时。”针对这些担忧，报告概述了建立企业客户信任的三种关键方法： 优先考虑透明度：企业希望了解AI智能体如何做出决策。提供清晰的文档和可解释AI框架来分解决策过程至关重要。定期更新审计跟踪并确保数据流透明度将进一步增强信任。 确保合规性与安全性：安全性是首要关注点，31%的受访者将其视为决定投资AI智能体时最重要的因素。初创公司必须整合强大的数据保护措施，并遵守GDPR、CPRA和HIPAA等法规。 构建人在回路框架：通过使用人在回路框架进行人工监督，在企业AI采用中仍然至关重要，尤其是在受监管的行业。报告指出，23%的受访者强调了在高风险环境中保持对AI智能体进行人工控制的必要性。AI解决方案应根据任务的敏感性，提供不同程度的人工控制，从完全自动化到“副驾驶模式”。 初创公司在AI智能体采用中的机遇尽管面临信任和合规性挑战，为企业开发AI智能体的初创公司仍有大量机会可以利用。51%的决策者表示愿意与初创公司合作，特别是那些提供大型现有厂商可能无法提供的定制化、创新解决方案的初创公司。报告为希望驾驭企业AI智能体采用的初创公司制定了路线图： 教育企业：初创公司面临的关键挑战之一是教育企业客户了解智能体AI的全部潜力。许多组织仍然将AI智能体与聊天机器人等简单工具混为一谈。 展示防御性：创始人需要通过强调专有数据、知识产权或深厚的行业专业知识来展示其解决方案的防御性。企业寻找的不仅是创新，而且是长期具有防御性的解决方案，拥有独特的深度和专有数据集，使其与竞争对手区分开来。 展示深厚专业知识：专注于垂直领域AI智能体（为金融服务、保险或医疗保健等特定行业设计的解决方案）的初创公司更有可能成功。Fortive高级总监Sam Strickling建议初创公司展示在单一行业的深厚专业知识，展示其解决方案如何应对行业特定挑战。 使用合成数据证明潜力：在销售流程早期，初创公司很难获得企业数据。通过使用模拟企业将提供的数据的合成数据，初创公司可以展示其解决方案的潜力，并克服关于数据共享和合规性的初步担忧。 展示快速扩展的便捷性：企业看重能够在各部门快速扩展的解决方案。Tim Guleri强调了构建具有模块化架构的AI智能体的重要性，这些架构可以轻松集成到现有系统中，提供灵活的API并确保与常见企业平台的兼容性。 对智能体AI未来的预测随着智能体AI的不断发展，报告预测了几个将塑造未来企业运营和技术的关键趋势： 专业化与代码生成系统：Differential Ventures合伙人David Magerman预测，AI智能体将演变成高度专业化的工具，能够处理代码生成等复杂任务，并在特定环境中充当专家问题解决者。...