Arjun Harindranath 是一名基于哥伦比亚麦德林的自由记者，他为全球观众报道有关冲突、移民和科技的故事。之前的报道包括 Al Jazeera, TechCrunch, The Next Web, 和纽约时报。
在20世纪初，英国哲学家吉尔伯特·赖尔（Gilbert Ryle）创造了“机器中的幽灵”（ghost in the machine）这个术语。在他的著作《心灵的概念》（The Concept of Mind）中，赖尔使用这个隐喻来反对心身二元论，即认为心灵和身体是两个独立的实体。对于赖尔来说，这种区分是错误的，因为认知和身体行动是不可分割的，属于同一个系统，而不是两个相互作用的部分。随着人工智能的出现，当谈到使用人工智能工具来提高生产力时，一个类似的隐喻出现了：常用的“人在回路”（human-in-the-loop）。如果人类和智能系统现在比以往任何时候都更加紧密地融合在一起，我们是在构建一个无缝的融合，还是仅仅创造了一个对控制的方便幻觉？初创公司非常依赖这个概念来讨论他们的工具。虽然它承诺创新和安慰，但现实往往更复杂。责任可以很容易地变得模糊，问责变得更难追踪。随着人工智能系统深入到教育、战争等敏感领域，赌注不再是抽象的。人工智能中的“人在回路”真正意味着什么？这只是一个委婉的说法，当他们完全消失时使用吗？1. 人在回路作为责任的盾牌如果粗心使用，“人在回路”这个术语可以成为一种轻松地转移责任而不真正参与其中的方式。正如许多人注意到的，过程结束时的签名并不保证道德完整性，特别是如果底层系统设计不良或不充分理解。Maysa Hawwash，Scale X的创始人和首席执行官，写过关于责任滑坡的文章，并坦率地谈到了这个概念经常被部署的方式。“这实际上与其他方式的负担转移没有什么不同，”Hawwash告诉Startup Beat，使用了人力资源经理如何使用签署政策来将公司从责任中移除的例子。“如果你有这样的政策，人们阅读并签署它，那么作为一家公司，你技术上来说不再承担责任，对吗？”她说。出现的模式在企业系统中很常见，即责任被转移而不是消除。Hawwash认为这是懒惰的方式，避免了批判性思维或理解它可能影响人们或社区的领域。“所以，你正在转移负担，然后人们是否理解政策就无关紧要了，政策是否有意义也无关紧要。”在这种框架中，“人在回路”有可能变成一种程序上的掩护，而不是有意义的干预。这里的危险不仅仅是语义上的。当监督被简化为签署时，人类的角色变得象征性而不是实质性的。Hawwash引用了最近的一次军事暴行——伊朗米纳布的学校——在那里，人类批准了袭击，但人类决策者的存在并不一定等同于道德清晰或充分的审议。“当你处于战争中或进行复杂的手术时，你没有时间使用人在回路作为盾牌。”2. 为责任而设计，而不仅仅是监督替代方案不是放弃人在回路系统，而是认真对待设计承诺。这意味着超越象征性的监督，朝着故意的责任结构迈进。“现在有一个大赛要将更多的人工智能推向市场。从设计角度来看，没有太多思考关于对社区、人们或最终用户的下游影响，”Hawwash说。速度已经成为主导的竞争变量。在这种竞争中，责任往往被推迟而不是内嵌。结果是一个反应式的道德模型，即问题的解决发生在部署之后，而不是在开发过程中预测它们。可访问性可能会加速采用，但也会导致后果的放大。系统不再仅限于技术用户，因为它们可以为具有不同理解和背景的人们做出决定。在这样的环境中，责任不能被外包给最终用户。3. 人在回路作为准确性和问责Abhay Gupta，Frizzle的联合创始人，提供了一个更具操作性的视角——一个建立在人工监督既实用又必要的系统上的视角。他的公司源自一个特定的问题：过度劳累的教师。“在城市中，你听说过银行家和顾问每周工作70个小时，但你听不到教师工作这么多。出于好奇，我们采访了数百名教师，结果显示，评分是他们最大的时间浪费。”自动评分似乎很直接，但手写数学的复杂性为人工智能带来了真正的限制。“这里有一个准确性的问题。人工智能并不完美，所以我们建立了一个人在回路的系统。如果人工智能不确定——比如字迹很糟糕——它会将其标记为教师审查和批准或拒绝。”在这里，人类的角色并不是装饰性的。系统明确地确定了自己的不确定性，并将这些情况路由到人类。“对于我们来说，这是关于准确性的问题。总会有边缘情况——可能是1-3%——人工智能会挣扎，所以人类需要介入。”这种方法重新定义了人在回路作为质量控制的机制。但Gupta更进一步：“在其核心，人工智能并不100%准确——它可以产生幻觉或错误输出。人在回路作为最终的质量检查，在结果到达最终用户之前。它也关乎责任。有人必须对输出负责，目前这仍然必须是一个人类。”重要的是，人类的角色也保留了某种更难以量化的东西：教学的关系方面。“这也关乎保留教学的人性化方面。教师有不同的风格，所以我们允许他们自定义如何提供反馈。”重新定义人在回路“人在回路”这个短语带有一种令人安心的简单性。它暗示着，无论我们的系统变得多么先进，人类仍然控制着一切，我们并不是仅仅是“机器中的幽灵”。但是，当初创公司越来越多地在高风险环境中部署人工智能时，这种安慰需要审查。更深层次的问题是设计。如果系统的风险被不充分地理解或故意低估，在末端插入一个人类并不能纠正根本缺陷。重要的是，它也意味着定义人类的角色不是作为一个后备，而是作为系统运作的不可分割的一部分。人在回路中不应仅仅批准结果。初创公司应该努力让员工能够塑造他们，挑战他们，并在必要时用权威覆盖他们。
创业可能不是儿童游戏，但一批新晋的年轻创始人在 AI 领域正在挑战这一假设。随着构建软件的成本继续下降，AI 工具也大大降低了原型设计的门槛，创始人的平均年龄正在变得更年轻。创新领域的旧守门者——机构资质、昂贵的基础设施、数十年的行业经验——正在失去控制。但仅仅依靠年轻并不能带来捷径；年轻的创始人仍然需要应对关于经验的老套偏见，以及他们如何应对这些压力，这是很有启发性的。一个基于三个支柱的游戏规则已经出现：结构化的纪律、快速的模式识别和社区驱动的学习——这正在帮助年轻的创业者消除基于年龄的摩擦。早起的结构优势创办公司的经济学已经发生了戏剧性的变化。One Way Ventures 的创始合伙人 Semyon Dukach 解释说：“建立一个软件公司的成本已经下降了几十年。当我年轻的时候，仅仅开始就需要 1000 万美元和大量的基础设施。”“今天，AI 意味着原型设计变得更便宜，你可以更快地尝试新的想法，”他继续说。这种成本和时间的比较对年轻的创始人有着不成比例的好处，因为他们有较少的传统假设需要抛弃，有更好的机会接触到最新的工具，并且通常有更多的时间在职业压力完全到来之前进行迭代。9 岁的 Bob Chopra 就是一个例子，他创办了 Ivyschool.ai，一个为 5 至 18 岁的儿童提供 AI 教育的在线平台。在 7 岁时，他的父母给了他一个选择：寄宿学校或使用他日益增长的编码专业知识构建一个产品。...
回顾2024年，Bill Gates 预测，人工智能可能会颠覆法律行业，使工人“比现在更高效四倍”。快进到2026年，Anthropic的新Claude插件可能会实现这一目标，因为它旨在让法律团队从简单的“法律聊天机器人”转向强大的法律基础设施。专门为内部法律顾问设计，该工具自动化合同审查、NDA处理和合规工作流程。通过分析协议、标记风险和总结义务，它直接集成到现有的法律技术栈中，以增强日常运营。在一个由精确度、责任和计费时间定义的职业中，Anthropic的新法律工具承诺不仅仅是一个生产力提升，而是一个结构性的转变。但是，这种转变是否只是增强现有的法律软件生态系统，还是开始取代它?传统法律的担忧当该插件发布时，市场注意到了这一点。 根据Business Insider的报道，Thomson Reuters和RELX（LexisNexis的母公司）在二月初的消息发布后，其股票价格大约下跌了15%。Thomson Reuters和LexisNexis是现代法律基础设施的传统机构。他们的数据库、引用工具、合规工具和工作流软件位于世界各地的律师事务所、法院和内部法律部门的核心。尽管这种下跌是短暂的，但它表明投资者们被Anthropic的举动所震惊，这似乎直接针对了长期以来主导法律研究和合规数据库的现有企业。然而，法律软件的颠覆永远不仅仅是更好的技术。法律是一个容错率很低的行业。一个虚构的条款、一个误解的法规或一个漏掉的合规标志可能会带来监管处罚或过失责任。金融、医疗保健和公开市场的主要客户要求可靠性、可审计性和可解释性。LegalOn Tech的Daniel Lewis 建议采取谨慎的态度。“现在还为时过早，宣称这是一个重大的颠覆，”他告诉我们。“人工智能的进步很快，过去两年中出现了许多新的形式来向用户交付它。这应该被视为另一种形式，并且应该根据其优点来判断。”Lewis认为，最好问问结果是否准确，该工具是否易于使用，以及它是否建立在安全可靠的内容上。“这些是法律技术客户会问的问题。初步反馈表明，这还没有完全通过这些问题的考验。”从智能合约的炒作到人工智能的承诺对于那些记得“智能合约”讨论的人来说，今天的人工智能热潮可能会让人感到熟悉。区块链的拥护者曾经承诺，代码将取代法律起草，去中心化协议将消除对可信中介的需求。这个想法很诱人：在一个没有模糊性的世界中实现无摩擦的执行。据说，律师将被自动化掉。Legal Karma的首席战略官Patrick Hicks 强调了两者之间的明显区别。“智能合约的炒作依赖于一个无摩擦世界的神话——一个没有灰色地带的世界，法律体系可以像技术一样快速演变。这样的世界并不存在。我们已经见证了几十年的法律技术，它承诺如果世界稍微不同的话就能改变世界，专注于‘可能’而不是‘现实’。”Anthropic的创新是不同的，Hicks认为，因为它们在今天复杂的、高摩擦的法律现实中提供了立即的潜力。“这种潜力并不依赖于改变我们法律体系的基本原则；相反，它反映了在今天的体系中实现有意义的进步的机会。这不是一个生活在虚构世界中的创新；它是一个为现实世界的成功而打造的工具。”尽管如此，Hicks也指出了市场可能低估的一个变量：监管机构。“仍然需要看到监管机构如何回应。这种情况是否会成为促使监管机构超越被动的等待态度的催化剂？Anthropic的新工具具有巨大的潜力，因为它是为现实世界的法律体系而打造的，但它也可能引发长期以来需要建设一个真正现代化体系的监管变革。”改变法律的体验超越竞争和合规性，存在着更深层次的结构性转变。Making Sense的Mariano Jurich 认为，瓶颈不是技术本身，而是工作流程设计。“大多数律师事务所今天并不是被技术的缺乏所限制；它们被为非人工智能环境而设计的工作流程所限制。传统的做法遵循线性路径：收集文件、解释文件、做出决定。人工智能重塑了这种顺序：信息以信号的形式到来，软件执行第一层的推理，律师监督和验证结论，然后才做出决定。因此，法律软件正在从文档存储转向决策支持。”这种转变对法律体验的未来性质有着影响。“人工智能也将迫使法律价值的衡量方式发生变化。随着任务执行时间的减少，软件将跟踪风险降低、结果概率和谈判杠杆，而不是工作时间。同时，客户将获得显示预计成本、和解范围和案件轨迹的透明仪表盘。法律平台将成为律师和客户之间的共享智能环境，而不是内部公司工具。”“在很长一段时间里，法律并不是一个以深层次技术创新著称的领域。大多数工具只是数字化了现有的流程，但并没有从根本上改变法律推理或咨询工作的交付方式，”The Precedent的CEO Nirbhay Bakshi 说。“随着大型语言模型的出现，这种情况已经发生了变化。软件现在可以真正地摄取、解释和生成复杂的法律文本。”他认为，这种转变已经揭示了法律并不是一个整体，而是一个由高度专业化的工作流组成的网络，每个工作流都足以维持自己的目的性工具。那么，Anthropic是否只是为LegalTech敲响了丧钟？可能还没有——至少现在还没有。但是，它可能已经加速了已经开始的转变：从文档存储到推理平台，从研究工具到决策引擎，从传统主导地位到人工智能本地竞争。传统数据库无疑仍然强大，但挑战者们却很敏捷，深度技术巨头已经注意到了这一点。决定因素将不仅仅是炒作；它将关乎信任、准确性、集成以及人工智能是否能够不仅仅按照法律的字母，还要按照法律的精神运作。
传统咨询业长期以来意味着缓慢的提案、漫长的分析周期和庞大的演示文稿，而这些文稿往往在情况变化后才到来。在快速变化的时代，这种方法已经跟不上时代的步伐。这就是为什么许多人认为Agentic AI可能会改变传统咨询业的运作方式。Agentic AI系统不仅仅分析数据或按需生成洞察力，它们更像自主合作伙伴，通过定义问题、构建假设、运行分析和不断适应新数据的出现。根据NexStrat联合创始人兼首席执行官Arda Ecevit的说法，这种转变对战略工作的执行方式有着深远的影响。“NexStrat是一个支持业务用户（从高管到管理顾问本身）的Agentic AI平台，用于决策、战略开发和行动计划的制定，”Ecevit说。“它支持从战略到执行的整个过程。”从周期性咨询到持续战略Ecevit对咨询业非常熟悉。他在管理咨询行业工作了近15年，然后转到一家主要的电子商务和食品配送平台担任首席战略和转型官。在那里，他接触到了该行业的一个结构性局限性：传统的咨询业具有周期性。“传统咨询不是可扩展的，它不是持续的，”他解释道。“你需要大预算，项目需要几个月才能开始，一旦你得到报告，你就不能真正地迭代它们，因为新的数据变得可用。”Agentic AI提供了一个根本不同的模型。与周期性接触不同，像NexStrat这样的平台提供始终在线的战略支持。用户可以重新审视假设、更新分析和修订战略，几乎实时地进行，这些都是使用仅人类顾问无法做到的。“在传统模型中，你可能需要六个月才能得到答案，”Ecevit说。“使用Agentic AI，你可以在几分钟内开始生成假设并迭代它们。”重塑咨询业的核心结构这种趋势不仅仅是关于速度，它已经在重塑咨询公司的核心结构。Martín Lewit，Nisum公司的高级副总裁，负责企业发展，Nisum是一家为《财富》500强公司提供数字咨询服务的公司，他说：“传统的智能自动化带来成本节约，但Agentic AI引入了新的工作方式。对于领导者来说，问题不再是‘如何优化现有流程？’而是‘AI驱动的解决方案可以解锁哪些新能力？’”Nate MacLeitch，QuickBlox公司的首席执行官，QuickBlox公司提供AI辅助聊天和视频API和SDK，他强调了AI如何成为数字流程的重要组成部分。“我们现在使企业能够构建和集成AI助手，自动化数据收集，提供行政支持，并提供个性化体验。这一转变表明AI正在从可选的附加功能转变为工作流程中的核心能力。”波士顿全球论坛 最近强调了人工智能如何破坏咨询公司的传统金字塔模型，在这种模型中，大量的初级分析师进行研究和综合，而少数高级合伙人解释洞察力并制定战略。AI系统现在通过数据收集、建模和初步分析自动化了大量的初级工作。这些可以比人类团队更快、更便宜地提供结果。这迫使公司重新思考人员配备模型和交付结构，而不是简单地将AI添加到旧流程中。这种见解与Ecevit在市场中看到的相吻合：“AI可以进行重型分析工作，这样人类就可以专注于更高层次的判断和领导力，”他说。结果不仅仅是速度优势，而是咨询价值链本身的转变，从劳动密集型的资源模型转变为以AI增强的专业知识为中心的模型。更快、更敏捷的决策速度仍然是Agentic AI最直接的优势之一。NexStrat反映了顶级战略公司使用的假设驱动问题解决方法：阐明目标和约束，构建假设，制定分析计划，运行数据工作，并完善结论。“不同之处在于，你可以在可能一百倍的速度内完成所有这些，”Ecevit说。这种敏捷性在商业环境中至关重要，这种环境以波动性、监管变化、竞争举动、供应链中断和技术驱动的市场变化为特征。NexStrat的代理可以不断扫描新的发展并重新评估策略，因为情况正在演变。“如果一项新法规通过或主要成本驱动因素发生变化，你可以几乎瞬间修订你的策略，”Ecevit指出。“这种持续适应的能力是一个真正的游戏规则改变者。”更广泛和不断增长的用例集NexStrat同时为企业和咨询公司提供服务，在每个领域都有很强的采用率。该平台已经被主要银行、500强公司、科技公司和全球咨询公司使用，并且已经与世界上最大的四家咨询公司之一成功完成了试点。特别是，NexStrat是精品咨询公司和独立专家的强大倍增器，使他们能够在现有资源的基础上显著扩大交付能力和有效性，同时腾出时间专注于专家判断、关键战略洞察、客户交付和业务增长。“只要AI被训练成像顾问一样思考——使用结构化流程、框架和正确的分析工具——它就可以支持人类决策者和顾问跨越许多不同的问题，”Ecevit说。除了战略之外，NexStrat还使用Agentic AI几乎瞬间将策略和决策转化为可执行的计划和目标。该平台可以制定详细的行动计划，定义KPI和所有者，并作为“教练”来监控进度，识别延迟，并在目标未达到时分析根本原因。咨询业新时代的开始Agentic AI不会使顾问过时，但它 将重新定义咨询的含义。战略变得更快、更迭代、更深入地融入日常运营。随着像NexStrat这样的平台成熟，它们指向了一个未来，AI处理重型分析工作，而人类专注于判断、领导和变化，同时咨询业的旧结构让位于更精简、更敏捷的模型。在这种意义上，Agentic AI不仅改变了咨询的交付方式，还改变了 为什么 和 哪里 人类专业知识增加了价值。这种转变可能是最深刻的。重塑而非取代尽管与咨询工作有相似之处，Ecevit明确表示Agentic AI 并非完全取代人类顾问。“我们并不是说这是一个完全的替代，”他说。“在涉及高风险或不可逆转的决策时，或者当公司陷入困境时，人类顾问仍将具有价值。”Lewitt也强调了人类在AI决策中的重要性。“在Nisum，我们使用技术来扩大人们的能力，”Lewit说。“AI不仅仅是一个工具，它构成了我们交付模型的每个部分。通过将其与人类判断相结合，我们帮助人们做出更明智的决策，而不是更少的决策。”Ecevit认为，会发生变化的是价值所在。随着AI接管分析和研究密集型任务，人类顾问的优势将转向机器难以复制的领域：实施、执行、利益相关者管理、沟通和领导组织变革。“这些人类方面的工作将变得越来越重要，”Ecevit说。Asparuh Koev，Transmetrics公司的首席执行官，Transmetrics是一家物流AI公司，他指出，“即使系统可以自动运行，我们仍然无法想象没有飞行员在驾驶舱的情况。AI将接管重复性工作和电子表格，但人类专家仍然对于监督、指导和在需要时干预至关重要。”在实践中，Agentic AI甚至可能改变外部顾问何时进入流程。公司可以使用AI开发强大的内部假设和行动计划，然后在后期引入外部顾问来验证决策、管理风险或支持实施。让人类牢牢掌握控制权随着自主权的增加，责任也增加了——Ecevit强调了人类监督的必要性。“在开发过程中，人类需要确保AI以道德方式进行训练，”他说。“在部署期间，应用程序必须设计为具有透明度、控制和治理机制，以便人类保持控制。”在高影响力决策中，AI应该标记推荐以供人类审查，而不是单方面行动。用户还需要了解如何得出结论。“人们需要了解战略方向背后的推理和假设，”Ecevit说。“他们应该能够追踪洞察力来自哪里以及AI如何得出这些结论。”
2025 年的编码不再是苦苦挣扎于代码片段或花费数小时进行调试。它是一个完全不同的氛围。 AI 生成的代码 将成为未来产品中的主要代码，并且已经成为现代开发人员的必备工具。被称为“氛围编码”，使用像 Github Copilot、Amazon CodeWhisperer 和 Chat GPT 这样的工具生成的代码将成为常态，而不是例外，以减少构建时间和提高效率。但是，AI 生成的代码的便利性是否会带来更大的安全威胁？是否存在增加安全架构漏洞的风险，还是开发人员可以安全地进行“氛围编码”?“由于 AI 生成的代码中的漏洞导致的安全事件是今天最少讨论的话题之一，”DeepSource 的创始人 Sanket Saurav 说。 “像 Copilot 或 Chat GPT 这样的平台仍然会生成很多没有经过人工审查的代码，安全漏洞可能会对受影响的公司造成灾难性的后果。”作为一个使用静态分析进行代码质量和安全性的开源平台的开发者，Saurav 引用了2020...
