
思想领袖
-

思想领袖智能体式 AI 需要更多测试人员,而非更少
智能体式 AI 正在改写软件交付的方式。助手起草拉取请求,智能体发起迁移,而审查机器人声称某项变更安全,此时人类甚至还没喝完咖啡。业界常把这种发展描绘成减少质量领域人手的途径。这种看法恰恰弄反了。当机器编写的代码占据代码库越来越大的比例时,稀缺的技能不是代码生成,而是独立验证。2025 年的 Stack Overflow 开发者调查发现,84% 的受访者正在使用或计划在开发中使用 AI 工具,51% 的专业开发者每天都会使用这些工具。对 AI 持正面态度的比例降至 60%;积极不信任 AI 准确性的开发者(46%)多于信任它的开发者(33%)。66% 的受访者指出,最令人沮丧的是那些几乎正确、却又不完全正确的解决方案。Google Cloud 2025 年的DORA 研究报告显示,软件开发专业人士中的 AI 采用率达到 90%,超过 80% 的人表示...
作者 Suprajyotsna Dasari, 软件质量工程师,Cognizant
-

思想领袖电商应用正如何从店面转变为一套系统
应用开发仍在很大程度上沿用过时的流程:先设计、开发、上线,随后再交接出去,由另一套工具负责分析、个性化和后续营销活动。然而,如今人工智能正彻底改变应用能为顾客做什么,也改变着这对企业意味着什么。对许多品牌而言,从采用人工智能到真正从中受益,还有很长的路要走。人工智能正在压缩应用的构建周期,缩短数据与决策之间的距离,也在改变应用本身的含义。是时候不再把应用视为适配移动设备的店面,而是将其视为一个不断演进的系统,为购物者打造直观、个性化且响应迅速的体验了。下面来看看这种转变在实践中是什么样子,以及它对负责管理这一切的团队意味着什么。认识人工智能在创建环节中的作用从构想到最终完成应用,通常要经历多次交接:先有品牌构想,再由设计方案获批,随后开发人员将其转化为代码,接着进行质量保证测试和原型制作,最后上线。然而,每一次交接都会耗费宝贵时间,而且原始意图被遗漏或误解的可能性也在不断增加。人工智能正成为创建环节中重要的一部分。人工智能采用率超过 50%的组织表示,在开发早期阶段的工作中,节省的时间更多。某些任务中的效果尤为明显,例如收集需求、撰写用户故事和构思创意。而这些恰恰是上游工作,可能需要数周、甚至数月,之后才能开始构建第一个界面。人工智能还为开发人员腾出了宝贵时间,让他们能够专注于功能和逻辑,而不是重复性的实现工作。创意、定制功能和逻辑不必再因为需要漫长等待才能判断一个想法是否值得推进而停滞不前。人工智能代理让人们得以开展“氛围式工作”:没有深厚技术训练的人也能亲自快速试验、构建并测试想法。人工智能系统可以根据 Figma 设计稿生成相匹配的布局和组件,因此每次迭代都不再需要手动重建整个设计流程。这并不能取代受过专业训练的开发人员在架构设计或运营需求方面所作的判断,但确实意味着更少的想法需要等到进入开发阶段后,才能判断是否值得推进。设计和工程团队可以腾出时间和精力,投入应用中较难标准化的部分,例如结账逻辑、集成、品牌专属功能和个性化。这意味着不再把精力都花在常规的实现工作上,也就是将获批的布局转化为可用组件。人工智能不只是又一项分析功能应用上线后,更棘手的问题通常在于组织和运营,而非纯粹的技术问题。性能数据、营销活动工具和客户信息往往分散在不同系统中,团队必须在这些系统之间来回切换,才能了解发生了什么,并决定接下来该采取什么行动。人工智能对于弥合这一差距正变得愈发重要。根据德勤近期的一份报告,60% 的高管如今经常使用人工智能辅助决策。人工智能可以帮助商家迅速抓住重点,不仅能探究转化率为何下滑或预测下季度收入,还能根据这些洞察采取行动。缩短从洞察到行动的间隔,对于跟上瞬息万变的市场和客户需求至关重要。比如,可以据此创建购物车遗弃营销活动,或把握重新吸引客户的机会。洞察与执行不再是分别通过不同工具处理的两个独立步骤;人工智能在其中的作用也不再局限于汇报已发生的情况,而是开始积极影响决策及后续行动。不过,能够使用并不意味着实际使用。在采用人工智能代理的公司中,68% 的公司表示,每天工作中会与代理互动的员工占一半或更少。从广泛采用走向真正融入日常工作、发挥实用价值并赋能决策,需要周密考虑和充分准备。每位购物者都应获得个性化体验大多数移动电商应用往往为所有访客展示几乎相同的首页,之后再通过推荐组件叠加个性化内容。人工智能正推动个性化更早发生:从购物者打开应用的那一刻起,就影响他们看到的内容,而不只是等他们开始浏览后再向其推送内容。BCG 关于客户体验的研究指出,品牌已无法再完全掌控客户旅程,尽管消费者可能仍会以品牌能够掌控整个旅程为前提来评价品牌。这使得千篇一律或前后脱节的应用内体验,比以往更容易带来负面影响。其背后的机制是,用户的行为信号——例如他们浏览过什么、放弃了什么,或之前买过什么——如今可以实时影响应用的布局和内容,而无需向应用商店推送新版本。回头客如果购物车里还留着商品,就不必像首次访问的用户一样看到相同的通用横幅。这与决定向某个细分群体展示哪条横幅是不同的设计问题,也意味着产品和设计团队需要规划能够根据用户调整的界面,而不是让界面作为固定店面的一部分保持静态。展望未来电商应用不是一次交付后便固定不变的产品,而是需要持续构建、运营和完善的系统。人工智能参与其中的每个阶段:将设计转化为可运行的应用体验,推动团队从洞察走向行动,并根据每位购物者使用应用时的体验作出调整。这些应用方式各不相同,但都指向同一个目标:借助人工智能打造、运营并个性化适配应用,使其成为一个能够不断调整的系统。不要把人工智能视为后来叠加的一项功能。它正逐渐成为电商应用体验背后基础设施的重要组成部分,这改变了应用的管理方式,也改变了扩大规模前需要采取的步骤。实现人工智能自动化之前,必须先做好数据准备。瓶颈往往在底层数据,而不在于加入工作流程的人工智能。希望扩大智能体驱动部署规模的技术负责人和团队,应先审查自己的数据架构。在扩大自主运行范围之前,必须建立治理机制。即便在广泛采用智能体的公司,智能体在日常使用中的情况仍然参差不齐,因此,明确哪些决策可以由系统在无人监督的情况下作出,哪些需要人工审核,是不可或缺的第一步。只有将设计和开发节省下来的时间用于战略性工作,这种节省才有价值。如果人工智能承担了应用构建中的常规工作,那么新增的产能只有在团队制定了明确的投入计划时才真正有用,例如将其用于定制逻辑和集成。个性化策略需要从决定向特定细分群体展示哪条横幅,转向设计能够让每位访客感受到不同体验、看到不同界面的会话。这对设计系统和质量保证流程有重大影响,它们都需要能够适应多种变化。而且,应用并不只是客户看到的界面。对技术负责人而言,关注点正从界面本身转向其背后的技术能够创建、理解和调整什么。人工智能正同时进入所有这些环节,缩短应用的构建过程,打通数据与决策,并让店面能够根据使用者作出响应,而不再向所有人展示相同的内容。不过,这并不意味着可以在决策过程中排除人的判断,无论是在治理方面,还是在确定哪些决策确实应由系统作出方面。尽管如此,由三个不同团队分别负责构建、发布和优化这三个独立阶段的模式,正逐渐让位于一种更简洁、更紧密衔接的模式。未来的关键不在于发布一个已经完成的应用,而在于将其视为一个需要持续管理、不断演进的系统。
作者 Atul Poharkar, 首席执行官,Appmaker
-

思想领袖一项政策,数千个智能体:为何企业级 AI 治理在规模化时会失效
关于采用自主式 AI 智能体的讨论,大多聚焦于治理这一关键挑战,而且这确实有其道理。Gartner 最近预测,40% 的企业将在 2027 年前降级或停用其自主式 AI 智能体——并非因为技术失败,而是因为治理失灵。Gartner 高级总监分析师 Shiva Varma 指出,问题根源在于“二元治理”:把智能体视为要么完全封锁,要么完全信任,二者之间没有任何中间地带。目前,许多组织要么倾向于全面禁止使用 AI 工具,要么部署缺乏充分防护措施的智能体。这两种做法都难以有效扩展。即使 IT 部门禁止使用外部 AI 工具,影子 AI 仍然会出现。开发者自然而然地希望构建产品、解决问题;如果治理流程显得过于官僚,他们就会绕过管控措施,使用未经测试的工具来推动工作。相反,防护措施不足会使组织面临安全、合规和运营风险,而这些风险会随着时间推移不断累积。挑战在于,AI 智能体无法采用统一方式进行治理,也不能依靠静态、适用于所有情况的方法。千篇一律的治理时代正在结束,因为这些系统的风险状况并不相同:它们在底层软件、功能、访问权限和自主程度方面各有差异。将工业时代的静态管控措施应用于以机器速度运行的软件,行不通。有效的治理取决于组织能否了解每个智能体背后的软件供应链,并根据其引入的风险采取相应的管控措施。治理智能体软件开发环境真正的管控意味着有效管理构成智能体的所有软件要素。许多团队错误地将这些智能体视为“可靠且值得信赖”,忽略了影响其功能和安全性的标准组成要素。每个自主式 AI 智能体都由一套常见的技术栈构建而成:基础模型、用于将其连接到公司数据和外部系统的 MCP 服务器(模型上下文协议)、用于扩展其功能的插件,以及用于指示其行为方式的技能文件。IT...
作者 Paul Davis, 现场首席信息安全官, JFrog
-

思想领袖背景:为智能体 AI 构建可信的数据基础
背景信息是沟通的关键。脱离背景的言论,听起来可能与原意完全相反。在不了解背景的情况下遇见某人,我们可能都难以认出对方。背景信息如同黏合剂,维系着人际关系,也让我们得以理解社交互动的意义。AI 智能体也是如此。背景信息能帮助智能体消除歧义,例如区分 Apple(科技公司)、Apple(唱片公司)和 apple(水果)。这种消歧至关重要,因为企业级 AI能够以闪电般的速度做出决策并采取行动:标记交易、批准信贷、触发警报。如果智能体不了解其工作流程中涉及的实体,它们仍会继续行动,但可以肯定的是,它们会犯错。一些估算认为,到今年年底,一家典型的大型企业将使用多达1,600 个智能体,这些错误很快就会成倍扩大。解决数字身份问题的复杂性智能体 AI 理应令人振奋,但在智能体真正理解其数据集中的实体之前,我们仍有可能是在沙地上筑城。这并非易于解决的问题。例如,同一位客户可能以不同的形式出现在各种企业数据库中(J. Bloggs、Jane Bloggs、Bloggs 等)。同样,一个企业实体也可能在其多个子公司中被分别标记。智能体如何才能知道,这些看似不同的实体实际上都对应同一个档案?目前,它们往往做不到。这与智能体的构建方式有关。智能体本质上是一种接收输入并返回输出的系统。但究竟应该向智能体提供多少数据?研究表明,过长的上下文窗口会导致智能体产生幻觉。反过来,如果提供的数据太少,智能体就会自信地做出决定,并依据不准确的信息采取行动。企业需要谨慎把握分寸,为系统提供恰到好处的背景信息,既不能多,也不能少。数据整合至关重要数据量只是挑战的一部分。企业还需要考虑数据质量和整合。数据连接不畅会造成背景信息失真。当智能体做出决策所需的数据,分散在一系列彼此隔离的数据库、应用程序和业务部门中时,就可能产生幻觉。大约 80-90% 的业务背景信息存在于彼此隔离、缺乏结构的文件中,散落在相互割裂的系统里。如果无法访问这些信息,AI 的输出就会建立在不完整的假设之上。尽管存在这些问题,AI 智能体的部署仍在迅速推进。如果企业领导者无法信任智能体能够做出准确决策并采取正确行动,就不得不投入更多人力进行监督,远超原本所需的程度。企业最终得到的将不是他们所期待的自主、高效智能体,而是不值得信任、需要时刻照看的工具。另一种选择则是加大业务风险,并增加合规和法务团队的工作量。构建背景数据基础那么,应该怎么做?关键在于为智能体提供准确且经过验证的数据基础。这个基础能够整合来自内外部来源的碎片化数据,并对结构化和非结构化数据实施一致的治理。在此基础上,它还会补充背景信息,让输入 AI 的数据反映现实世界中的关系,而非孤立的记录。这样,智能体就能将某个人与其别名关联起来,或将某家子公司与其母公司关联起来。建立背景数据基础后,由 AI 驱动的运营将更加准确、可解释,并能够支持有把握的决策。企业可以信任智能体,而不必时刻照看它们,从而充分受益于智能体自动化,无需过度监督。从技术角度看,实现背景信息需要两项能力。第一项是实体解析,它能将指向同一实体的记录关联起来,即使这些引用分散在不同系统和数据类型中也是如此。随后,这些记录会经过协调,汇总为关于个人、组织和资产的统一可靠视图。那些经常损害数据质量并导致 AI 产生错误结果的重复记录和歧义,也由此得以解决。第二项能力是知识图谱。知识图谱通过对实体之间的关系进行建模来补充背景信息:例如客户如何关联账户、交易如何与行为相关联,以及风险如何在网络中扩散。知识图谱与实体解析相结合,能够构建一幅准确反映现实世界数据状况的图景,为 AI 智能体提供成功大规模运行所需的基础。智能体 AI 之外的益处当然,企业中的数据使用者并不只有人工智能智能体。上下文数据基础能够确保运营人员、合规团队、业务分析师、人力资源团队以及所有其他数据使用者,同样受益于对现实情况的统一、准确认知。反过来,这有助于提升客户体验。例如,如果一家企业为同一位客户维护多个档案,不同团队就可能多次联系该客户。至少可以说,这样的经历会让客户感到沮丧。以上下文为基础的数据能够改善客户体验,因为它能帮助企业更全面地了解客户,并确保以恰当的方式与他们互动。这最终是一种以人为本的方式,也能为企业节省时间和金钱。让人工智能保持诚实Gartner预测,40%的企业应用今年将配备针对特定任务的人工智能智能体,高于2025年的不到5%。智能体人工智能时代已经到来。然而,并非所有投资这项技术的组织都能同等受益于智能体人工智能工作流。那些通过构建统一且富含上下文的数据基础来夯实基础的组织,将能够信任人工智能的输出,并迅速扩大应用规模。其他组织则会把时间和精力浪费在看护新系统上。因此,成功的关键在于从第一天起,就将一个持续演进的上下文层嵌入智能体技术栈。
作者 Dan Onions, 全球数据与 AI 高级副总裁,Quantexa
-

思想领袖谁有资格审计前沿人工智能?白宫协议中缺失的定义
本周,Google、OpenAI、Anthropic、Meta、xAI 和 Nvidia 的领导人签署了 White House Accord on Super Intelligence。这些公司承诺对前沿模型实施 四层监督:内部控制、负责验证的内部团队、独立的外部审计员或评估员,以及独立的董事会委员会。目前这些承诺是自愿的,协议表示它们最终可能被写入法律。在这四层中,外部评估的权重最大。它是唯一一层让公司外部的人员能够判断安全措施是否有效。它也是定义最少的一层。协议并未说明谁有资格成为独立评估员、他们依据何种标准进行评估、能够获得多少访问权限,或当评估员同时向其审查的公司提供服务时独立性如何保持。每家公司自行选择其评估员。在这些条款下,两家公司都可以宣布通过了独立评估,却意味着截然不同的内容。弥合这一差距需要对三个问题给出答案。应由何决定谁有资格对独立 AI 评估员的可信定义至少需要涵盖四个方面。独立性。评估员不应审查其参与设计的安全措施,也不应向其评估的同一公司出售整改或咨询服务。成熟的审计领域还会关注费用依赖性。当某一客户占评估员收入的很大比例时,评估员就会有放宽要求的动机。能力匹配岗位。 “审计”涵盖 AI 中的多种不同活动。测试模型的危险能力,例如协助网络攻击或生物武器,需要机器学习研究人员和领域专家。检查公司安全措施是否设计得当并在实践中有效,则需要有经验的控制审计员。一个在某项工作上合格的评估员并不自动在另一项上合格,评估报告应说明执行了哪种审计。访问范围。 仅查看文档的评估员只能确认纸面上存在安全措施。要验证其实际运行则需要访问系统、日志、批准记录以及人员,并在一段时间内进行检查。前沿模型在训练运行和部署之间会发生变化,因此评估员还需要明确的规则来判断何时需要重新审查。评估员的监督。 必须有人对审计员进行监督。在成熟的审计市场中,认证机构会审查评估员的工作,并在其表现不佳时剥夺其资格。这一后备机制赋予评估结论以分量。已有的基础设施 这些并不需要从零开始发明。ISO 42001,人工智能管理体系的国际标准,为组织提供了治理 AI 的框架,包含有文件化的控制、明确的责任人以及持续改进。其配套标准 ISO 42006 为审计并依据 ISO 42001...
作者 Patrick Sullivan, A-LIGN战略与创新副总裁
-

思想领袖AI 不需要再建仪表板,它需要行动授权
多年来,网络安全一直痴迷于可视性。我们希望看到更多网络,收集更多遥测数据,关联更多事件,并更早地检测威胁。因此我们构建了仪表板。随后我们构建了更好的仪表板。然后我们在这些仪表板中加入了机器学习。现在我们正在加入人工智能。但在某个时刻,我们必须提出显而易见的问题:一旦我们能够看到攻击,我们实际上准备怎么做?我认为下一个重大网络安全问题不会是检测,而是授权。AI 可能为我们提供了安全团队数十年来一直渴求的能力:识别、理解,并 以机器速度响应攻击。这很重要,因为攻击正日益以传统 SOC 模型根本跟不上的速度发生。然而,许多组织仍将 AI 部署在与以前完全相同的运营模型中。该技术可以在几秒钟内检测到异常,或许还能理解正在发生的事情并推荐适当的响应,但仍需有人批准接下来的行动。此时,你实际上并未构建真正的自主防御。你构建的是一个极其复杂的警报系统。这里存在一个我们必须面对的矛盾。我们多年一直在说安全团队不堪重负。警报过多、基础设施过多、熟练人员不足,且没有足够的时间去调查所有问题。我们抱怨人类的响应速度不够快。随后我们引入了能够比人类更快响应的技术,却拒绝赋予它行动的权限。这毫无道理。如果我没有在事发时即时响应的授权,我始终只能事后进行事后分析。检测技术多么智能都无关紧要。如果响应机制仍在等待某人做出决定,攻击者仍然占据优势。自主防御需要明确的响应授权而这并非仅仅是 AI 带来的问题。大多数组织同样没有为其人工安全团队妥善解决响应授权的问题。究竟谁被允许隔离一台机器?谁可以将服务器下线?谁有权因检测到攻击而中断生产流程?在许多组织中,这些决定仍不明确,要么在事件期间协商,要么通过层层管理上报。AI 只是暴露了该模型已变得不可持续的事实。如果我们真的想实现自主防御,授权必须来自最高层。董事会和高管团队需要在攻击发生之前决定愿意赋予其安全系统何种权限,而不是在所有人观看事态发展时才做决定。但赋予 AI 行动权限又会产生另一个问题。AI 需要资产情报和业务上下文你还必须为其提供足够的上下文以做出正确决策。设想一个 AI 系统检测到一台机器被渗透,并判断最安全的技术响应是将其隔离。从网络安全的角度来看,这可能是绝对正确的。现在设想这台机器控制着一条每小时产出一百万英镑的生产线。突然之间,技术上正确的决定可能是业务上错误的决定。也许威胁已被足够遏制,可以在数小时内进行修复而无需关闭机器。亦或是将其下线会造成的损失远大于在更严格的控制下让其暂时继续运行。除非组织向 AI 说明该资产是什么、它的功能以及若其消失业务会受到何种影响,否则 AI 无法作出此区分。这就是为什么 资产情报和业务上下文在 AI 驱动的 SOC 中变得如此重要。安全团队多年来一直在讨论资产管理,坦率地说,许多组织仍然不知道自己拥有什么。影子 IT 已经让这件事变得相当困难。业务部门在安全部门不一定知情的情况下购买服务器、部署应用并连接设备。随后我们又加入了云基础设施、远程办公、SaaS...
作者 Sebastiaan Bäck, 现场首席信息安全官,Halcyon
-

思想领袖当 AI 加速软件交付时,人类拼命抓住不放
在软件开发的大部分历史中,人类一直是控制者。开发者进行更改,另一位人员审查,更有人批准,最终部署上线。AI 正在加速整个体系,而我们仍在努力让人保持在其中。开发者现在可以在几秒钟内生成代码和更改。代理能够跨代码库、工具、基础设施及其他系统工作,所需的人为介入更少。我们的直觉是把人重新加入流程。我们审查拉取请求,批准工具调用,检查更改,并确认部署,因为我们想确保 AI 没有做它不该做的事。我们正拼命抓住不放。 这种直觉是有道理的。人工审查为我们在软件迈向生产阶段时提供了保持控制的方式。但 AI 正以人类无法再作为治理规模单元的速度和量级运行。AI 已经超越人工审查的速度生成式 AI 在软件开发中的第一波浪潮主要致力于帮助开发者更快编写代码。仅此就改变了软件交付。代码增多意味着应用、更改、基础设施和数据库的变更在测试、安全、审查、部署和生产阶段的流转增多。问题不一定在于 AI 产生的更改质量更差,而是它产生的更改更多、更快。如果要让另一个人审查所有这些新产出,最终数学上不可行。我们已经看到迹象。Anthropic 最近报告称 Claude Code 用户约有 93% 的权限提示被批准。该公司发现,重复的提示会导致批准疲劳,随着批准次数的增加,人们的注意力会下降。Anthropic 现在使用一个 自动分类器 来评估操作并阻止潜在危险的行为,而不是让人批准所有内容。想想这对人工监督意味着什么。如果有人在 93% 的情况下点击批准,再增加一次批准并不一定能提供更多控制。到某个阶段,人类本身也会成为工作流中的另一步骤。我们可以利用 AI 创造更多软件,但无法通过建立同等规模的人工审查体系来应对。AI 正从生成代码转向执行操作编码助手让...
作者 Ryan McCurdy, 营销副总裁, Liquibase
-

思想领袖你无法抽样测试一个对每个人说话方式不同的品牌
几天前,我和我的朋友 Faniprize 进行了一场相当激烈的讨论。她是我在感觉故事里隐藏着更大问题却还说不清时,会向她讲述新工作经历的人。这次讨论的是 AI 代理。不是它们是否被企业需要,这已经讨论得够多。我更感兴趣的是公司部署代理并让其开始实际工作后会发生什么,因为那时才会出现不那么明显的问题。我向她讲述了最近与一家招聘机构的项目。一个 AI 代理负责与潜在客户的部分沟通。从营销角度看,这表现不错:它了解产品和受众,语调恰当,且对话感觉更具个人化,而非模板化。单个对话看起来都不错。随后我们把多个对话放在一起比较。在非常相似的情境中,代理做出了略有不同的承诺。它给一个人一个回访时间表,给另一个人则是不同的时间表。在少数对话中,它基本上在说「我们可以在这里灵活处理」,针对个别条款,尽管公司从未赋予它同意这些条款的自由。并没有出现明显的幻觉,这使得问题更难被察觉。代理的表现完全正常。营销团队自然会花大量时间在语调和定位上。招聘公司不该像加密初创公司那样说话,银行也不该像时尚品牌那样沟通。但在品牌表达方式之下,还有另一层面:代理实际上被允许代表公司承诺什么?即使信息写得再好看,如果客户后来发现所讨论的条款根本不存在,也帮不上忙。到那时,这已不再是沟通问题,而是声誉问题。我们已经让代理的语气与公司保持一致。现在需要检查它们的决策是否也与公司保持一致。为何常规审查会忽视这一点常规检查 是阅读少量对话。产品信息是否正确?代理是否遵循指示?它是否说了奇怪的话?但即使是五段随机对话看起来都很不错,仍可能隐藏严重不一致。个性化本身就让每段对话设计上各不相同:有的客户直接提问,有的详细说明,有的进行谈判,有的不断施压。这些例子并不可比。在招聘案例中,一切看似正常,直到我们不再问「这是否是一个好答案?」而改问「代理在这里作出了什么决定?」。我随后采取的做法如果真实对话无法提供清晰的对比,我们就自行创建。我选取一个业务情境,让代理执行八到十次。重要事实保持不变,但 对方的角色会变化:更温和、更直接、今天就准备签约、提及竞争对手。随后我审视业务决策。代理是否只向更强硬的客户提供折扣?时间承诺是否因情况不同或仅仅因为对话转向而改变?它是否被允许讨论特殊条款?如果措辞保持不变,我会感到担忧。应该保持稳定的是公司的立场,如果出现变化,必须有业务原因。最终判断必须由人来做。模型不应自行给自己的作业打分。无论是创始人、销售主管还是商务总监,只要拥有该决策权,都必须说明其是否可接受。我实际关注的内容我始终围绕四个问题展开。首先,如果重要条件保持不变,决策是否保持一致?这正是招聘案例出现裂痕的地方。其次,代理是否仍在公司真实规则范围内运作?我曾见过类似的人为案例。一位销售经理自行向客户提供 20% 折扣。公司并没有统一的 20% 折扣政策,这类折扣需要管理层批准。他并非想损害业务,而是想达成销售,结果在不知不觉中越过了自己认为可以决定的界限。代理也会出现同样的情况。第三,改变的决策背后是否有真实理由?情境固然重要,但理解情境与 被说服去做某事 是不同的。如果唯一的变化是某位客户更为坚持,我不希望代理悄悄变得更慷慨。第四,代理是否了解 它的权力界限在哪里?有时正确的做法就是:我需要与人确认。这也是一个完全合理的答案。测试有时会揭示公司的问题你 带回 有争议的决定给团队,询问代理本应怎么做,而 人们给出不同的答案。销售有一种观点。市场营销有另一种观点。创始人说:“好吧,通常我们不这么做,但有时会。”一位经理记得去年有三例例外。所有这些最终都会体现在我们提供给代理的材料中。如果公司尚未就逻辑达成一致,模型就会从混乱的现实中学习。有时它并未产生矛盾。它只是让它变得可见。于是 AI 测试几乎在不经意间变成了业务审计。谁可以批准折扣?销售人员在不询问的情况下可以承诺什么?哪些规则是真正的规则,哪些只是习惯?如果人们每周都这样做,例外仍然是例外吗?也许代理需要像人一样的培训我们仍然把 AI 代理当作软件来对待:配置它们,设置提示,然后让它们工作。我觉得我们赋予它们的责任越多,这种做法就越不合理。我们不会在周一把一本品牌手册交给新任销售经理,就假设他们已经准备好应对所有客户。会有人聆听他们的通话,讨论棘手案例,并在他们走得太远时纠正他们。这就是他们学习公司逻辑的方式。为什么要指望 AI 代理仅凭一次提示就学会这些?一旦它处理真实对话,我认为我们需要通过案例和反馈来训练它,几乎就像我们对人进行辅导一样。这改变了我对品牌一致性的理解。一个对十个人说话方式完全相同的代理将是一个糟糕的代理。它应该根据对方、文化和情境进行调整。不应随意变化的是其背后的逻辑:公司会承诺什么,不会承诺什么,以及何时需要停下来询问。如果你的代理明天对同一场困难对话有十个略有不同的版本,它还能表现得像同一家公司吗?
作者 Olga Belkovich, 首席执行官 & 联合创始人,U (in) AI
-

思想领袖下一场 AI 分水岭:为何中型物流公司必须先完善基础设施才能利用 AI
围绕 AI 的讨论常常 专注于获取,假设一旦公司获得了合适的模型和工具,接下来的挑战就是弄清如何使用它们。对于中型物流公司来说,问题并不一定从这里开始。在众多仓库和第三方物流供应商(3PL)中,差距很少是系统缺失。大多数已经拥有 仓库管理系统(WMS)、企业资源规划软件(ERP)或会计套件、承运商连接以及与大型客户的 EDI。问题在于这些系统之间发生了什么。点对点的连接会随时间累积。一个客户或交易伙伴以一种方式连接,另一个伙伴以另一种方式连接,最终没有人能完整地了解各系统之间的通信情况。集成还取决于人员,例如有人需要从客户门户重新录入订单,或每天早晨在电子表格中对昨日的发货进行对账。3PL 可能直到客户打电话询问订单位置时才发现交易失败。这些都不会出现在 IT 资产清单上,这也是人们容易低估问题的原因。问题出在交接环节最大的运营问题往往发生在交接环节,即订单、收货或发货从一个系统或公司转移到另一个系统或公司时: 迟到或格式错误的入库订单可能导致错过拣货波次和发货日期。 提前发货通知与实际到货不符时,员工需检查每个托盘,可能导致收货中止。 如果发货确认未到达客户系统,可能导致账单延迟,并引发退款扣款,即零售商因合规失误而扣除罚金。 对于 3PL 来说,这些问题会成倍增加,因为每个客户都有各自的格式、规则和期望。仓库现场通常运转良好,但信息流通却出现中断。随着企业在运营中引入 AI,这一点变得更加重要,因为 AI 只能使用可获取的信息。将聊天机器人或副驾驶连接到单一系统或许能做演示,但并未让该系统了解跨多个系统的整体运营。在物流领域,有价值的问题常常跨越这些边界,因此关于订单的答案可能需要来自 WMS、ERP 以及运输或客户系统的信息。只能看到流程一部分的 AI 工具只能基于不完整的图景工作。在基础设施能够 允许 AI 使用所需的信息的公司与系统仍然脱节的公司之间,差距正在扩大,这正是下一场 AI...
作者 Suresh Chappidi, 总裁兼首席执行官,SC Codeworks
-

思想领袖建筑业的下一个竞争优势:智能工地
人工智能已成为建筑行业讨论的核心,无论是适应数据中心需求的激增,还是集成 AI 系统在规划、执行和报告建设中的作用。现场数据的利用方式对于了解生产力需求至关重要。这种转变是关于超越仅仅购买人工智能解决方案,转而处理并实施洞察。 建筑 AI 正在从孤立的工具转向 互联智能生态系统。 该技术捕获、管理并分析工地信息,从被动的单点接触演变为全面的工地智能解决方案,集成于所有环节,实现主动的项目管理。与其作为独立系统运行,工地智能解决方案更像是统一的环境,在此数据、上下文和决策在各工作流之间共享。这关乎与人员协同工作,为负责人提供高效执行所需的工具。直观的技术是有效人工智能工具的基石,使从现场团队到项目高管的所有工作人员都具备使用这些系统所需的理解。 下一代系统——由 AI 驱动并规模化——将不仅仅展示信息。它们将识别风险、推荐措施、协调工作流,并日益成为与员工并肩的主动参与者。未来不只是更互联的工地,而是智能工地。弥合建筑智能差距一项 最近的报告显示,尽管 59% 的建筑高管报告称已实现全面或广泛的技术整合,但只有 30% 认为他们已达到更广泛的技术成熟度标准。此差距凸显了一个关键区别:采用更多技术并不一定意味着从中获得更多价值。那么,脱节发生在何处?在实施技术与从技术洞察中获得真正价值之间仍然存在差距。AI 系统的根本目标是通过自动化和规模化提升生产力,充当承包商的额外“眼睛”和“耳朵”,弥补其无法遍及现场的不足。这通过为所有经验水平的用户——从初学者到数字原住民——提供清晰、易获取且易于理解的捕获数据视图来实现。 建筑行业的 AI 采用挑战并非仅在于技术本身,而在于其实施的碎片化。虽然这些工具能够产生价值,但它们常常孤立运行,导致组织难以最大化数据的全部潜力。解决方案是采用更具可扩展性的 AI 方法,并倾向于使用从数据捕获到洞察应用和行动的完整工地智能解决方案系统。通过工地智能理解并拓展视野真正的问题是,什么是工地智能,它的价值何在? 简而言之,工地智能是一种完全整合的硬件驱动软件解决方案,能够捕获视觉数据,并使用专门训练的 AI 对数据进行处理和汇总,然后通过通知推送给最需要的团队。例如,自动化的晨会简报评估工地条件是否适合作业,实时的跌落风险警报发送至主管手机,提升整体工地安全。行业正向能够汇聚全工地数据集、提供实时鸟瞰工地状况的解决方案迈进。随着这些系统的成熟,它们日益将运营数据直接关联到成本、风险和生产力模型。谁将受益?建筑现场团队是受益最大的群体。借助集成且直观的工地智能解决方案,这些团队能够获得更清晰的可视性、加快进度,并实现此前不可想象的效率水平。智能工地的未来在于利用 AI 驱动的洞察,识别风险、突出延误并共享关键信息,从而帮助建筑领袖强化决策。现在行动的公司正在释放即时的效率提升,同时培养一支能够在更数据驱动、互联的建筑环境中引领的劳动力。
作者 John Daley, 首席技术官 & 联合创始人,Sensera Systems
-

思想领袖AI 代理需要不可被重写的安全边界
把 Hugging Face 的故事解读为 AI 代理失控的时刻很诱人。但实际情况并非如此,细节很重要。这些是进行评估的网络安全研究代理,在评估中故意关闭了防护措施,以便研究人员观察模型的能力。没有哪个公司的客服机器人会在某天早上醒来决定攻击公司。但这种背景并不能让任何人免除责任。一个代理超出了它本应待在的边界,使用了运营者从未授权的凭证和工具,最终进入了属于他人的系统。这正是每个安全团队应关注的部分。路透社报道,代理早在 5 月就对 Hugging Face 进行探测,尽管研究人员表示他们没有发现任何证据表明早期的活动单独导致了泄露。7 月则不同。OpenAI 表示其模型绕过了隔离控制,访问了互联网,并且连同 Hugging Face 系统一起危及了其自身研究基础设施的部分。Hugging Face 自己的说明描述了一次由自主代理系统全程运行的入侵,该系统利用了其数据处理管道,收集了凭证,并在内部集群之间移动。令人不安的部分是这些代理在履行它们的职责。它们在追逐被赋予的目标。这也是为何此事远超一家研究实验室的原因。企业代理同样追逐目标。它们持有凭证、调用工具,并且比任何人审查的速度都快。即使是动机完全良好的代理也可能造成真实的危害,而被劫持的代理则可以以攻击者的身份使用完全相同的权限。因此,无论模型听起来多么自信或其声明的目的看起来多么无害,安全都必须监管系统实际能够执行的操作。确保行动安全,而不仅仅是模型大多数早期的代理程序将精力倾注于模型本身。团队测试提示、调优拒绝机制、添加第二个模型来检查第一个模型,并监控推理轨迹以寻找不良意图的迹象。所有这些都不是浪费。但这一切都是概率性的,因为它依赖于另一个模型做出判断。生产环境中的安全边界必须是确定性的,并且必须围绕工具、凭证、网络和事务进行设定。我想提出的具体问题是:这个代理在现实世界中到底能实现什么?起草付款请求是一件事,实际放款则是另一件事。准备数据库变更与在生产环境中执行它,或者标记符合保留规则的记录与删除它们,同样适用。即使在两种情况下使用相同的模型,其风险也会因所在的那一侧而大相径庭。最近 Unite AI 对能力控制的概述划定了相同的界限,将风险关联到数据、工具、权限、自治以及代理运行的环境。我喜欢这种框架,因为它让我们超越了诸如“安全模型”和“不安全模型”之类的模糊标签。它促使团队追踪每一条从代理决策到实际后果的路径。为每个代理赋予身份和狭窄的授权代理绝不应在开发者账户上运行,也不应继承人类用户拥有的全部权限。共享身份会抹去归属追踪。长期有效的凭证会让攻击者有更多时间进行滥用。而宽泛的服务账户则会让小型工作流进入其本不该触及的数据和系统。NIST 现在将软件和 AI 代理身份视为其自身的架构问题。其概念文件探讨了代理如何证明其对特定操作的授权、代理的身份如何追溯至人类的授权,以及组织如何保持对意图与实际发生情况的防篡改记录。实践中,这指向一种简洁的设计。每个代理拥有唯一身份、一个所有者(个人或团队)、明确的用途,以及针对当前任务的权限范围。凭证应快速失效,并且仅适用于特定资源和操作。网络访问应从严格的白名单开始。如果代理需要查询某个已批准的数据库,它不应同时获得通用 shell、开放的互联网访问或生成新凭证的权限。随着工作在一系列代理和工具之间传递,权限应在每一步都变得更窄,而不是更宽。NIST 也警告不要共享凭证和过度宽泛的访问,这一警告值得重视,因为代理具有机会主义特征。如果一条路径被阻断,它们可能会尝试其他工具、在其环境中探索,或偶然发现某人遗忘的令牌。收集的凭证也是...
作者 Kevin Surace, CEO,Token
-

思想领袖单一信号不足:为何端到端 AI 是供应链风险管理的未来
人工智能已几乎等同于供应链转型。组织正在使用 AI 来预测需求、优化库存、监控运输、自动化质量检查、对产品进行分类,并识别合规问题。单独来看,这些应用带来了可衡量的改进。然而,尽管许多组织在 AI 上投入巨资,仍持续遭遇代价高昂的中断,原因出奇地简单。大多数 AI 项目侧重于解决孤立的问题,而不是了解风险在整个产品生命周期中的演变。延迟的发货很少仅仅是物流问题。工厂审计失败可能最终导致采购延迟。一系列小的质量偏差可能在数月后演变为产品召回。错误的产品分类可能引发海关延误,扰乱整个销售季。这些事件在各自系统中看似无关,但合在一起却讲述了一个更大的故事。供应链管理中 AI 的下一步演进不是构建更智能的单一应用,而是将先前相互独立的职能之间的信号连接起来,以在风险演变为业务问题之前识别新出现的风险。风险并非孤立存在全球供应链变得比以往更加相互关联且更具波动性。地缘政治紧张、关税变动、环境法规变化、强迫劳动执法、气候相关的中断以及日益复杂的供应商生态系统,已创造出组织必须不断适应的环境。根据 World Economic Forum’s Global Risks Report,供应链中断仍是全球组织面临的关键业务风险之一。挑战在于,大多数公司仍使用从未设计为相互通信的系统来管理这些风险。例如: 产品生命周期管理团队负责设计变更 采购团队评估供应商 质量团队跟踪检查 合规团队监控法规 物流团队专注于运输绩效 每个职能都会产生有价值的信息,但这些洞察常常被局限在部门应用中,导致可视性碎片化。AI 只能识别其可访问数据中的模式。当信息被孤立时,AI 只会发现局部优化,而非全企业范围的风险。AI 的真正价值在于连接上下文当今关于 AI 的讨论大多强调自动化。虽然自动化确实重要,但...
作者 Angela Rhea, 产品副总裁兼行业顾问,TradeBeyond
-

思想领袖贵公司的记忆应当比其 AI 模型更持久
人们常常询问是哪种模型为我的公司提供动力。答案很重要:它决定了质量、成本和限制,我也乐于花一小时来探讨。我还想了解第二件事:当模型更换时,组织仍然拥有的东西是什么。把它设想成一个日期。如果你的供应商在星期二把价格翻倍,或者停用了你所使用的端点,你在星期三早晨还能拥有些什么?对许多公司而言,坦率的答案是:一个 API 密钥、一张发票,以及一段存放在他人服务器上、遵循他人保留计划的极长对话历史。我的背景是化学。我花了多年时间为化工厂构建灰盒模型,连接到 SCADA、实验室结果以及操作员的笔记。这项工作快速教会了我一条规则:没有条件的数字不是结果。如果有人上周更换了传感器,却没有记录下来,屏幕上的读数毫无意义。那是实验室笔记本的问题。它现在表现为采购问题,却很少出现在决定 AI 预算的表格上。三个问题合而为一地得到答案更大的上下文窗口让模型在单次请求中使用更多信息。持久存储决定了哪些内容在请求之间得以保留。可移植性决定了当供应商更换时,这些信息是否仍可使用。这些是独立的架构问题,而百万标记的窗口却促使大家把它们视为同一问题。Google 自己的文档提供了 直接的类比:“对上下文窗口的类比是短期记忆。”请字面理解。短期记忆就是你会失去的东西。因此,每个出售巨大窗口的供应商也会提供用于持久化状态的独立方案。请仔细阅读这些层级的官方说明,并记录每一层实际覆盖的内容。OpenAI 默认将 Response 对象存储 30 天;会话对象及其项目不受该 TTL 限制。Amazon 的 30 天删除政策适用于 该 Bedrock Session Management API,且仅覆盖该 API。Anthropic 的 客户端内存工具展示了一个有用的边界:模型请求内存操作,应用程序控制存储,而同一公司还为其托管代理提供...
作者 Ilia Razvin, 创始人, IOSYA





