余苏，NeoCognition联合创始人兼CEO – 采访系列

余苏，NeoCognition联合创始人兼CEO，是一位长期从事人工智能研究的专家，他的职业生涯跨越学术界、企业人工智能和高级代理系统。在领导NeoCognition的同时，他还担任俄亥俄州立大学的副教授和创新学者，他的工作重点是人工智能代理、推理系统和机器学习。他还曾在微软担任高级研究员超过六年，在那里他与包括Percy Liang在内的领先研究人员合作，使用语义解析技术开发Outlook的对话式人工智能系统。在微软、学术界和研究机构（如IBM T.J. Watson Research Center）等多个角色中，余苏建立了推进能够推理、学习和与复杂数字环境交互的AI系统的声誉，帮助弥合了尖端研究和实际应用之间的差距。

NeoCognition是一家专注于开发“专用智能”的AI代理研究公司——能够通过经验持续学习和改进的AI系统。由领先的AI研究人员创立，该公司旨在超越静态的大型语言模型，开发能够在特定领域发展深入专业知识的代理。其研究重点包括持续学习、推理、规划、工具使用和多代理协作，目标是创建能够随时间变得更加有能力和可靠的AI系统。通过将机器学习的进步与结构化推理和自适应学习技术相结合，NeoCognition旨在帮助塑造下一代能够处理日益复杂的实际任务的AI代理。

许多公司急于发布通用AI副驾驶，但我们越来越多地听到人们对这些系统在实际生产环境中可靠性的担忧。您为什么认为当前的AI代理在实际环境中会遇到困难?

大多数当前的AI代理在生产中遇到困难，因为它们仍然是基本的通用代理，缺乏对其工作环境的深刻理解。它们可以在演示中完成一次任务，但这与在实际操作系统中发展可重复的判断力是不同的。

今天的模型是令人印象深刻的模式匹配器，但它们仍然缺乏人类成为可靠专家的机制。人类不通过记忆孤立的任务来变得可靠。我们通过学习特定世界的结构来专攻：定义一个职业或组织的工作流程、约束、关系、工具、优先级和后果。随着时间的推移，我们建立了对该环境的内部工作模型，这个模型使得良好的决策变得一致和可重复。

大多数AI代理今天没有建立这种运营理解。它们严重依赖提示、检索或编排层来帮助它们完成孤立的操作，但它们仍然在每次遇到新情况时即兴发挥。这就是为什么一旦环境改变，尤其是在环境变得混乱、动态或高风险时，性能往往会恶化的原因。

缺失的部分是专攻。人类在能够适应不断变化的环境并通过持续学习在其中成为专家方面表现出色。我们认为AI代理需要类似的能力：在特定领域深入学习当地结构，以便在其中运作具有真正的熟练程度。

NeoCognition将其愿景描述为建立能够像人类一样持续学习和适应的代理。与许多企业今天依赖的静态微调或检索式方法相比，这在技术上看起来是什么样的?

大多数企业AI系统今天通过微调模型或在推理时检索相关信息来提高性能。这些方法可能有用，但它们并不能从根本上使代理在特定领域发展出不断演进的专业知识。

微调通常是在训练后静态的。检索系统有助于提供信息，但检索知识与发展领域专业知识或根据时间经验适应行为是不同的。在许多情况下，代理仍然缺乏对其操作环境的持续模型。

当一个人加入一家公司时，他们不仅仅因为可以搜索文档而变得有效。他们逐渐通过了解组织的实际运作方式来发展判断力，专业知识从不断完善内部模型中产生。

我们认为下一代代理需要类似的学习机制。在NeoCognition，我们专注于使代理能够形成这些不断演进的运营模型，以便它们可以在特定领域内持续专攻和改进，而不是反复从头开始或依赖于持续的人类重新工程。

似乎在AI实验和运营信任之间存在日益增长的差距。企业可能在内部成功原型化代理，但在规模上部署它们是一个完全不同的挑战。组织在这个转变中低估了什么?

许多组织低估了实际运营环境的动态性。具有85%准确率的代理在测试中可能看起来很强大，但在企业规模上，这仍然意味着一连串的错误和恢复情况需要人类团队来管理。挑战变得更加显著，在多步骤工作流中，故障在系统和任务中累积，使监督、干预和问责变得比许多组织最初预期的更加困难。

企业仍然将部署视为编排或提示问题，而实际上这是一个学习问题。困难的部分不仅仅是让代理执行任务，而是使系统在动态运营环境中发展持久的能力和判断力。

自定义、提示、监督和重新工程的负担仍然主要由人类团队承担。这通常是系统仍然缺乏运营理解的迹象；它们每次都被手动引导。这不是通往规模或信任的道路。

AI行业中出现的一个主要主题是治理、防护栏和政策执行。然而，NeoCognition认为治理本身是不够的。为什么您认为可靠性最终需要能够持续适应其环境的系统，而不是仅仅遵循静态规则?

治理和防护栏非常重要，但静态规则本身无法完全解决复杂环境中的可靠性问题。

生产级运营系统不断变化。工作流程演变，工具更新，政策转变，意外情况出现，无法始终预先预测。如果代理只知道遵循预定义的规则，而不理解其操作环境，它最终会遇到这些规则没有预见的情况。

人类的可靠性来自判断力，而不是仅仅遵循脚本，而是因为我们通过了解周围世界的结构和约束来发展判断力。我们学习何时升级，何时某事物看起来异常，何时上下文改变了正确的行动方案。

我们认为AI代理需要类似的适应和环境理解能力。更安全的系统将来自使它们在明确定义的运营世界中变得更加有能力和专门化。这种系统观察其自身环境和自身输出，跟踪其失败并更新其行为。

AI行业经常强调更大的模型和更广泛的能力，但NeoCognition似乎专注于专攻和上下文学习。您是否认为企业AI代理的未来将更像高度专门的数字工作者，而不是通用助手?

我们坚信未来将由专攻驱动。该行业自然专注于越来越普遍的模型，因为广泛的能力令人印象深刻。但在企业环境中，真正的挑战不是代理是否可以做一点点所有事情，而是它是否可以在特定角色中可靠地发挥作用并表现出良好的判断力。我们的优势不在于我们天生就是每个环境的专家，而在于我们可以深入地学习特定世界的结构，以便在其中有效地运作。

在NeoCognition，我们相信未来不会是一个可以做所有事情的超级代理，而是一大批专门的代理，每个代理都能深入地学习特定世界，以便在其中运作具有专家级的熟练程度、判断力和可靠性。它们的目的是不替代人类的专业知识，而是使其更加丰富：将最先进的能力放入更多人的手中，提高任何人或组织可以做的事情的基准。

关于自主代理的一个最大担忧是，当环境发生意外变化时，它们会如何表现。环境意识和适应能力在防止故障、幻觉或不安全行为方面有多重要?

这是绝对至关重要的。没有环境意识，代理可能会继续自信地行动，即使它们对情况的理解已经过时或不完整。这就是运营故障经常出现的地方。

我们认为可靠性需要代理持续学习其操作环境的局部结构，并随着时间的推移更新其理解。可靠性会随着时间的推移而变化和演变：九月份看起来可靠的东西可能在五月份看起来不一样。代理对其周围的系统、约束、工作流程和关系的理解越深，它就越能够识别出条件何时发生变化或不确定性何时需要升级。

您认为行业距离部署能够通过与实际运营环境的持续交互真正改进自身的AI系统有多远?

我们仍处于建设能够实现可靠持续学习和自我改进的基本学习机制的早期阶段，但行业距离这一转变比许多人意识到的要近。我们生活在一个压缩的时间轴中。下一次技术突破的成分已经准备就绪。它可能很快就会发生。

重要的不是抽象的自我改进，而是特定环境中的结构化专攻。这意味着以稳定、可管理和对灾难性遗忘具有抵抗力的方式学习工作流程、约束、关系和成功行为模式。这是我们在NeoCognition关注的问题。

展望未来几年，您认为什么最终将可靠的企业AI代理与当前市场上实验系统的浪潮区分开来?

成功的系统将是那些看起来不像玩具场景，而更像可靠的操作员的系统。

原始模型能力本身将不够。企业最终将关心代理是否可以在其实际环境中一致地运作，是否理解本地工作流程和约束，是否尊重边界和权限，是否可以安全地适应并随着时间的推移提供可重复的结果。

企业AI的未来赢家不会仅仅是能够回答最广泛问题的系统。它们将是能够在特定运营世界中深入学习以便在其中运作具有真正的熟练程度、判断力和可靠性的系统。

感谢这次精彩的采访，希望了解更多的读者可以访问NeoCognition。