Connect with us

Unite.AI

思想领袖

思想领袖

2026年8月18日 2026年8月18日
作者 Jonathan Angle, 通信与运营安全总监，Quantus

AI 正在加速量子威胁。防御仍面临协同问题
作者 Jonathan Angle, 通信与运营安全总监，Quantus
当 Google Quantum AI 在七月报告称它已经教会量子计算机“从错误中学习”时，显而易见的故事是更好的错误纠正。量子计算机是极其敏感的装置。环境中的微小变化会使其失调并产生错误，这可能迫使研究人员停止计算并重新校准硬件。Google 的 AI 系统在机器仍在运行时学会进行部分调整。测试中，当研究人员故意使其失调时，系统的稳定性提升了 3.5 倍，并在人工专家已经校准后进一步将错误率降低了 20%。有用的量子计算可能最终需要连续运行数天甚至数月。因此，保持机器的稳定而不反复停止计算变得至关重要。Google 将其比作在演奏音乐时调音乐器。持续的稳定性也是未来量子计算机运行 Shor 算法、足以攻击广泛使用的公钥密码学所必需的。更具意义的发展在于 AI 正在加快量子研究本身的速度。错误纠正、线路设计、校准和密码分析过去是相对独立的时间线。AI 正在一次性压缩这些研究循环。量子研究如今正以软件开发的速度前进。密码迁移则在更慢的时钟上运行，由已部署的硬件、供应商、治理和用户决定。Large-scale cryptographic attacks remain beyond current hardware, yet...
2026年8月18日 2026年8月18日
作者 Harjiv Singh, 创始人兼首席执行官，CambrianEdge.ai

协作层: 为何每个企业 AI 战略都需要它
作者 Harjiv Singh, 创始人兼首席执行官，CambrianEdge.ai
科学的进步，和所有重大的人人类成就一样，是通过协作加速的。1665 年，伦敦创立了《Philosophical Transactions》，成为全球首本科学期刊。它确立了一条改变一切的原则: 主张应由社区评估，而非仅由个人断言。科学推理与开放协作相结合，使知识得以快速累积，因为判断变成了社会化和协作性的。企业运营中的转型幻觉一种常见的说法认为运营效率是自主编排的问题。软件供应商承诺提供一个环境，使代理能够无缝相互通信，交接任务、评估数据集并在无需人工干预的情况下执行复杂工作流。企业领袖因此投入大量资源于自主工具，期待这些系统在后台顺畅运行整个部门。营销运营清晰地展现了这种紧张关系。波士顿咨询集团（BCG）于 2026 年 6 月对 300 位全球首席营销官的调查显示出显著的脱节: 96% 报告实现了端到端的 AI 转型，但仍有 42% 将 AI 使用局限于离散的单项任务。该BCG 对代理营销转型的研究揭示了企业营销中高层愿景与基层执行之间的深层运营鸿沟。组织出现了“转型幻觉”，即领导层假设流程已实现自动化，而前线团队却将 AI 作为孤立的点状解决方案使用。营销运营清晰地展现了这种紧张关系。波士顿咨询集团（BCG）于 2026 年 6 月对 300...
2026年8月18日 2026年8月18日
作者 Chris Bevil, 主任，全球网络韧性与人工智能，Commvault

别让网络犯罪分子得分: 世界杯教会我们的防骗技巧
作者 Chris Bevil, 主任，全球网络韧性与人工智能，Commvault
世界杯最近落幕，球迷们仍沉浸在一个月比赛的激动之中。对网络犯罪分子而言，这意味着别的东西:一个开放的机会窗口，而现在比赛已结束，值得回顾。2026 年的赛事是迄今为止规模最大的世界杯，48 支球队在加拿大、墨西哥和美国进行 104 场比赛。FIFA 报告称，西班牙对阵阿根廷的决赛吸引了超过 6600 万观众——这是美国有史以来观看足球比赛的最高电视观众人数。这种关注度对广播公司、赞助商、主办城市、酒店服务商、旅行公司以及当地企业都极具价值。对网络犯罪分子同样如此。每一次关注的激增都会带来机会的激增。但球迷在此期间看到的诈骗并非在哨声吹响时才开始。许多情况下，网络犯罪分子提前数月准备，注册相似域名、创建虚假社交资料、本地化钓鱼内容，并且创建欺诈支付或客服流程。一旦赛事启动，这些计划便从准备转为执行，数据也证实了这一点。网络犯罪是大生意网络犯罪分子并不把世界杯等大型赛事视为偶然的机会，而是视作一种商业模式。他们研究日程，洞悉情绪，了解球迷何时最可能快速行动:球队晋级、比赛售罄、旅行计划变更、临时出现的票务，或有人急于在开赛前找到直播。这正是这些诈骗得手的原因。攻击者利用同样驱动世界杯的因素:民族自豪感、紧迫感、稀缺性以及错失恐惧。假票务网站、欺诈旅行报价、虚假直播链接或冒充客服的账号，都能在球迷恰好需要时出现，因而显得可信。对于与赛事相关的组织而言，风险同样真实。赞助商、酒店集团、旅行服务商、主办城市企业、媒体公司以及有员工前往观赛的雇主，都成为更大数字生态系统的一部分。攻击者无需直接侵入 FIFA 即可造成损害，他们可以锁定活动周边的薄弱环节，同样伤害球迷、品牌和业务运营。人工智能让旧诈骗更快、更精细、更可信人工智能并未改变欺诈的基本原理，它消除了阻力。过去因语法错误、拗口翻译或糟糕网站而容易被识别的诈骗，如今可以通过 AI 打磨、本地化并大规模发布。攻击者可利用 AI 用多语言撰写可信信息，生成逼真的社交内容，制造虚假招聘信息，支持假冒客服聊天，甚至可能模仿可信声音或与旅行、票务、酒店或媒体机会相关的面孔。这很重要，因为许多人已被训练去寻找明显的警示信号。问题在于，这些明显的警示信号正变得越来越难以辨认。诈骗可能看起来非常专业。信息可能听起来合情合理，时机可能恰到好处。这正是此时此刻与过去大型活动不同之处。球迷能从中学到什么回顾过去，给球迷的最重要建议很简单:放慢脚步。在世界杯等赛事期间，这很难做到。人们想抢在票售罄前买票，想在价格上涨前预订旅行，想在开赛前观看比赛。但正是这种紧迫感正是攻击者所利用的。球迷应直接访问官方网站和可信供应商，而不是点击赞助链接、社交媒体广告、私信或转发的短信。他们应对临时优惠、票务截图、异常付款请求以及任何制造紧迫感的报价保持怀疑。如果某事好得令人难以置信，可能就不真实。二维码也需要格外小心。人们已习惯于不加思索地扫描代码，尤其在餐厅、机场、体育场和活动现场。但二维码只是另一扇门。如果它指向欺诈网站，就可能被用于窃取凭证、付款信息或其他敏感数据。球迷应像对待链接一样对待二维码:在信任目标之前先核实来源。组织应汲取的教训对组织而言，这不仅是消费者认知问题，更涉及品牌、欺诈、客户信任和韧性问题，并预示了未来重大全球事件可能出现的情况。与这些活动相关的公司应假设攻击者可能冒充其品牌、高管、客服渠道、票务或预订流程，甚至员工。这意味着组织需要监控相似域名、加强电子邮件身份验证、准备明确的客户沟通、培训员工识别与活动相关的钓鱼邮件，并确保欺诈报告能够快速上报。他们还应审查围绕活动的第三方和运营依赖。旅行合作伙伴、酒店供应商、支付处理商、呼叫中心、本地供应商和营销机构都可能成为攻击面的一部分。在全球性活动期间，攻击者会寻找最容易的入口，而不一定是最显眼的。最重要的是，组织应超越预防。安全控制可以降低风险，但韧性决定了在出现漏洞时公司的响应能力。这意味着要验证事件响应计划、测试备份与恢复流程、审查业务连续性程序，并确保关键系统和数据能够快速、干净地恢复。目标并不是假装每一次诈骗或网络事件都能被阻止，而是防止一次错误点击、一次账户被盗、一个欺诈域名或一次供应商问题演变成更大的业务中断。终场哨声并未结束教训世界杯是球迷的盛宴，对网络犯罪分子而言，则是商业机会。如今赛事已结束，模式变得清晰。随着比赛从小组赛进入淘汰赛，紧迫感和诈骗只会加剧。球迷争抢临时座位、旅行变更、直播渠道、周边商品以及一次性体验。公司则面对更高的客户流量、更多询问、更多交易以及更大的快速响应压力。这正是攻击者玩转时间的时刻。但球迷和组织并非束手无策，同样的教训同样适用于下一个重大全球事件。准备、教育和韧性能显著降低风险。在一个以速度、情绪和势头为特征的赛事中，最安全的做法就是最简单的:暂停、核实，确保一时的兴奋不会演变为网络事件。
2026年8月18日 2026年8月18日
作者 Dr. James Gupta, CEO & Founder, Synap

AI时代的监考：为何考试设计仍居首位
作者 Dr. James Gupta, CEO & Founder, Synap
在需求增长和隐私法规收紧的背景下，为在线考试做好未来保障。
2026年8月17日 2026年8月17日
作者 Daniel Dines, 创始人和首席执行董事，UiPath

新企业宪章：AI治理的15条规则
作者 Daniel Dines, 创始人和首席执行董事，UiPath
这些文章本应讨论架构。回读它们并注意它们实际做了什么：不断发布规则。批准不是数据；验证才是。以结果为依据治理。不要宣传模型；宣传工作流。如果后果不改变下一次运行，那只是一次事件，而不是学习。直接陈述的规则不是提示，而是条款。而且在写作的某处，结论不再是可选的：一个打算在 AI 上运行的企业需要一部宪章。AI 实验室比我们其他人更早得出这一结论。Anthropic 为其模型撰写了一部宪章——系统被训练遵守的明确原则声明——基于一种适用于模型训练之外的理论：没有文档的指引最终无处落脚。现在看看部署这些模型的企业。大多数只有试点项目，政策散落在安全审查中，且依赖于上一次供应商简报的直觉。模型拥有书面的原则，运行它们的机构却没有。为什么要制定宪章，而不是另一份政策？政策是为技术而写，而技术每个季度都会变化；宪章是为机构而写，阐明在所有底层变化时仍然有效的内容。而且，政策会层层叠加，最终无人能掌控；宪章则足够简短，管理者可以随身携带参加会议。宪章还允许修订——公开、基于证据——而政策只能不断累积。所以这是我的宪章：十五条款，分为三节。仅列出条文——每条背后的推理以及最有力的反对意见都需要比一篇短文更大的篇幅。我现在就把它们公布出来，先于更长的阐述，以便大家进行辩论。I. 工作运行方式第1条. 结果是价值单位。 AI 项目通过工作产生的结果来评估：更快、错误更少、成本更低、人工投入更少，以及保持控制。统计这些指标，不要统计部署的代理数量。第2条. AI 提议，人类决定，自动化执行。代理读取上下文，处理变异，收集证据并进行准备。人类掌握带来后果的决策以及随之而来的问责。自动化执行已批准的变更。第3条. 不要在不需要智能的工作上耗费智慧。只要工作可以书面化并检查，就应以自动化方式执行——无需模型参与，无需按运行付费，每次结果相同。模型仅用于判断、语言和变异处理。第4条. 编排将工作串联在一起。跨越人员、代理、自动化和系统的工作由声明的结构进行协调，该结构负责进度、状态和恢复。已知路径时应明确声明。将目标寻求的自由留给真正超越既定路径的结果——并在此处最严格约束。第5条. 权限来源于工作，而非授予模型。代理可以在提供的上下文上协助任何人。它仅在对已知上下文的工作——已描述、受限并有书面限制——拥有真实权限，并且只有在证据累积时才获得。性能下降时，权限会自动收缩。第6条. 为异常工厂而设计。顺畅路径是流程图所展示的；异常才是公司真正运营的地方。仅处理顺畅路径的设计会自动化那易于实现的八成工作，却在那二成成本高昂的异常上崩溃。升级、回滚和恢复应在设计阶段决定，而非在生产中临时发现。II. 机构构建与保留的内容第7条. 边进行边构建地图和轨道。每一次 AI 部署都应留下两样东西：对实际工作运行方式的更佳映射，以及对已证明稳定部分的自动化。两者应与 AI 同时构建，从首个项目开始——而不是事后作为独立项目。第8条....
2026年8月17日 2026年8月17日
作者 Mike Pappas, 联合创始人兼CEO，Modulate

AI的隐藏成本: “黑箱”模型如何侵蚀信任、预算和环境
作者 Mike Pappas, 联合创始人兼CEO，Modulate
AI行业面临模型设计问题。企业已经在成本、性能和可靠性方面感受到其影响。
2026年8月17日 2026年8月17日
作者 Rob Zwiebach, 首席产品官，BillingPlatform

AI 变现：企业如何最大化业务增长的现代框架
作者 Rob Zwiebach, 首席产品官，BillingPlatform
AI 已迅速从竞争差异化因素转变为软件公司的一项基本预期。然而，它也已成为软件史上每个行业细分中最昂贵的“免费功能”。这是为什么？将 AI 能力嵌入产品的软件公司正花费 12–23%的收入用于交付这些功能所需的基础设施和开发，但拥有 AI 功能的 71% 供应商仍未对其收费，这意味着只有 29%能够从这项投资中获得收入。这并非产品问题的结果；而是变现问题的结果。事实上，我亲眼看到公司免费嵌入 AI 能力后，难以收回利润。事实是，每家构建 AI 软件能力的公司都难以为技术带来的无形价值定价，例如改进的结果或更深入的洞察。因此，AI 推高了客户期望，却也侵蚀了利润率。我们正进入一个阶段，AI 的胜者将不再仅凭能力决定，而是取决于经济设计。公司面临的挑战是如何最佳地变现这项技术。然而，根据我的经验，阻碍 AI 动能的最快方式是过早尝试变现，在客户尚未信任价值之前就收费。公司需要确保客户理解价值，从而避免成为摩擦点。然而，在这一挑战中蕴含着前所未有的机遇，因为率先解决 AI 变现的公司将在高价定价、建立更深层次的客户关系以及获取更多收入方面拥有显著竞争优势。此外，当 AI 变现与信任和可衡量的价值相匹配时，它不再是成本中心，而成为增长引擎。在本文中，我提供了一个实用框架，帮助将 AI 从成本消耗转变为可扩展的收入驱动，无论你是刚开始将...
2026年8月17日 2026年8月17日
作者 Danny Manimbo, 管理总监和 ISO & AI 实践领袖，Schellman

超越合规：为何仍在等待AI监管明确性的公司已经落后
作者 Danny Manimbo, 管理总监和 ISO & AI 实践领袖，Schellman
大多数组织都知道需要建立AI治理，但许多组织仍在为同一个问题苦恼：在监管环境不断变化的情况下，如何构建治理项目？在联邦优先事项不断演变、州立法碎片化日益增多以及行业期望变化的背景下，难以判断哪些要求会持久并最终塑造AI合规性。因此，许多组织将治理投资推迟，直至监管更加明朗。尽管不确定性仍在持续，推迟建立AI治理的组织将面临始终处于防御状态的风险，被迫对每一次新的监管动向作出反应，而不是构建持久的治理能力。领先的组织不再围绕单一法律设计治理项目，而是通过构建可适应的治理框架，使其能够随需求变化而演进。重点应从预测哪些监管会存续转向建立治理结构、问责机制、风险评估和监督流程，这些在监管环境如何演变都将保持价值。在不断变化的监管格局中航行美国的AI监管速度显著加快，为开发或部署AI系统并希望建立治理的组织创造了复杂的合规环境。到2025年底，所有50个州都已提出至少一项AI法案，并且已有超过145项已被通过。在2026年，45个州的立法者提出了超过1,500项额外的AI相关法案，超过了仅两年前的立法总量。科罗拉多是监管格局快速变化的一个例子。在其AI Act生效之前，立法者废除了该法案并以更为狭窄的法律取代，主要聚焦于自动决策系统的透明度和披露。各州并未围绕单一监管模型趋同，而是采取多种方式，从针对高风险AI系统的综合法律，到基础模型监管以及针对算法招聘、AI透明度、深度伪造和AI生成语音克隆的行业特定要求。与此同时，联邦层面的AI监管方式也在不断演变。2026年6月，特朗普政府发布了一项行政命令，建立了一个自愿框架，以在特定前沿AI模型上与AI开发者合作，强化网络安全并支持安全的AI开发。同时，各州继续制定、修订和推出自己的AI法律，进一步强化组织必须应对的碎片化且快速演变的监管格局。这些发展共同凸显了一个重要现实：当今的要求可能并不符合明日的期望，围绕单一法律或司法管辖区构建的治理项目将很快过时。组织应当构建能够随监管格局演进的可适应治理能力，而不是试图预测每一次监管变化。为不断变化的目标设计治理问题在于，这些可适应的治理能力应当包括哪些内容。虽然监管要求持续演变，但底层的治理期望却异常一致。跨司法管辖区，组织需要建立明确的问责制、文件化的监督、风险评估、透明度、人为监督以及明确定义的决策流程。这些能力共同确保AI系统公平、透明、负责任，并接受适当的人为监督，从而支持AI的负责任开发和使用，无论单个法律如何变化。组织不应围绕特定法规构建治理项目，而应建立基于原则的治理框架，使其在最终生效的法律如何变化时仍保持有效。专注于构建核心治理能力的组织将在监管格局每次变化时无需重新设计项目，从而更具适应性。建立有效AI治理背后的运营模型可适应的AI治理不仅需要政策和程序，还需要一个运营模型，明确治理决策的制定方式、责任人以及监督如何嵌入日常业务运营。这首先要明确所有权，创建跨职能治理委员会，记录AI使用案例，维护AI系统清单，定义审查和批准流程，并将治理嵌入现有业务运营。这些基础要素在组织内部创造一致性，同时提供灵活性，以便在新监管要求出现时及时纳入。当治理成为决策方式的一部分，而不是一堆合规文件时，适应监管变化将变得更加可控。技术在AI治理中扮演重要角色，但仅靠技术无法决定AI是否被负责任地使用。有效的治理需要对使用的AI系统、使用方式以及其风险有可见性。组织应维护AI系统清单，并根据潜在影响评估每个使用案例，使治理工作与风险相匹配。高影响的AI系统，例如处理敏感数据、影响金融或就业决策、或支撑关键业务运营的系统，需要比低风险应用更严格的监督。在确定并优先排序AI使用案例后，组织可以建立具有明确决策授权的治理流程。每个治理项目都应指定对AI系统在整个生命周期内进行评估、批准、监控和定期重新评估的责任。同时，还应明确谁有权批准新使用案例、确定可接受的风险水平、升级问题以及监督持续绩效。如果没有明确分配责任，治理将分散在法律、合规、安全、IT、采购和业务团队之间，导致决策不一致、工作重复以及对最终责任人的不确定性。有效的AI治理依赖于一种结构，使问责清晰、一致且可复制。超越传统风险管理许多组织在AI治理之旅的起点是借鉴现有的安全、风险或合规项目。虽然这些项目提供了坚实的基础，但AI带来了超出传统风险管理范围的治理挑战，需要全新的能力。网络安全侧重于保护系统和信息。AI治理还必须关注自动决策的制定方式、适当的人为监督层级、公平性和透明度的评估方式，以及组织如何评估AI系统对员工、客户和社会可能产生的影响。随着AI引入新的运营、法律和伦理风险，治理必须成为持续的决策过程，而不是一次性的合规演练。目标不仅是记录控制措施，更是建立一个可重复的框架，以在技术、业务目标和监管期望不断演进的过程中评估AI。AI治理正成为业务需求仅等待监管明确性还忽视了另一重要现实。对AI治理的需求正日益由客户、采购团队、业务合作伙伴以及其他利益相关者驱动，他们希望确保AI的开发和使用是负责任的。组织在供应商评估、采购审查和合同谈判中开始遇到AI治理问题。诸如Microsoft’s Supplier Security and Privacy Assurance (SSPA) Program现在要求供应商提供AI治理的认证或其他证据，表明买方期望看到实际的治理表现，而非仅仅声明。无法提供此类证据的组织可能在竞争性采购和供应商评估中处于不利地位。对许多组织而言，这些业务期望将在正式监管执行之前就已显现。因此，AI治理正成为一种竞争差异化因素，能够增强客户信任并支持长期的业务关系。基于成熟治理框架构建接下来的问题是，组织如何在技术、业务优先级和监管不断演变的情况下，将这些治理原则落地并保持可持续性。许多组织发现，诸如ISO/IEC 42001等已建立的框架提供了基础。与其专注于单一法规的合规，这些框架在跨司法管辖区内建立了针对问责、风险管理、监督和持续改进的一致治理实践。围绕已认可的框架构建治理，在不断变化的环境中提供了稳定性。组织无需在每次出现新要求时重新设计治理项目，而是可以将新的法律义务纳入既有治理模型，同时随着时间的推移不断提升治理能力。在AI治理方面领先的组织认识到，这不仅是一次合规演练。他们将治理视为构建信任、强化问责并实现业务全域负责任采用AI的基石。实现这种成熟度需要在人、流程和技术方面持续投入，并承诺在AI能力、业务优先级和监管期望演进时不断审视和完善治理。监管格局将继续演变，组织不能等到完全明确后才采取行动。最有力的做法是现在就投资于那些无论监管要求如何发展都仍具价值的治理能力。建立治理结构、定义AI使用案例、开展风险与影响评估、记录决策并嵌入持续监督，能够构建一个能够随期望变化而适应的基础。问责、监督、风险管理、文件化的决策以及持续改进并非仅仅是合规要求。它们是负责任AI治理的持久能力。今天构建这些能力的组织，将在满足未来监管义务、满足日益增长的客户期望以及更有信心地部署AI方面处于更有利的位置。
2026年8月14日 2026年8月14日
作者 Chetan Saundankar, 创始人兼CEO，Coditation

AI 的最佳投资回报率目前是修复旧代码，而不是编写新代码
作者 Chetan Saundankar, 创始人兼CEO，Coditation
我参加的每个 AI 产品演示都以相同的方式开始：一个空白的提示框，一个用简单英语的请求，几分钟后就有一个可用的应用程序。这是一个真正令人印象深刻的技巧。但是我认为，这是目前企业 AI 领域中最不令人感兴趣的事情。更重要的工作发生在一个远不那么光鲜的地方：在十五年前的代码库中，没有人愿意触碰，代码是由十年前离开公司的工程师编写的，业务逻辑是没有人完全理解的。绝大多数 AI 报道都把这个问题搞反了。遗留代码不是技术债务，它是积累的业务智慧：几十年的决策，以软件的形式编码，做出这些决策的人早已离开了公司。绿地开发占据了主导地位。旧代码得到的资金是勉强的，而且通常没有足够的理解来有效地使用它。真正的短缺不是开发人员，而是记忆这不是一个孤立的问题。2025 年的一项 Pegasystems 研究，由 Savanta 公司在全球 500 多名 IT 决策者中进行，估计平均每个全球企业每年浪费超过 $370 万来尝试高效地现代化遗留系统，其中近 134 万美元与缓慢、资源密集的转型项目有关。我们最近与一家电池分销公司合作，该公司运行着超过 15 个遗留应用程序，这种情况是二十年来通过并购、一次性集成和工程师解决今天的问题而积累起来的。在这些代码中，有定价规则、库存阈值和分销约束，代表了多年的机构决策，这些决策只在没有人完全绘制的逻辑中写下来。很容易把这称为一个人才问题：雇佣更多的开发人员，迁移得更快。但是，你不能仅仅通过雇佣更多的人来解决这样一个问题：理解为什么一个模块以某种方式工作的那个人在 2014 年离开了公司。大多数企业都面临着记忆短缺的问题，而不是人才短缺的问题。直到最近，还没有真正的方法来解决这个问题。AI 实际改变了什么我们没有将代码生成工具指向旧代码库，并告诉它重写一切；这大致是你如何默默地删除你不知道存在的业务逻辑。相反，我们使用...
2026年8月14日 2026年8月14日
作者 Zuzana Drotárová, 区域能力负责人，阿文加

当人工智能正确而流程错误时
作者 Zuzana Drotárová, 区域能力负责人，阿文加
想象一下金融服务中常见的场景。一个团队部署人工智能来审查合同：数百页，重复的条款和通常需要员工数天才能完成的例行工作。模型识别出风险和正确的段落引用。然而，输出结果却不正确。原来问题出在合同文件夹中，文件名为contract_v1.docx、contract_v2.docx、contract_final.docx、contract_final2.docx和contract_finalfinal_THIS_ONE.docx。人工智能选择了最近保存的文件。但是，那个文件是一个较旧的版本，某人上周不小心打开并自动保存了它。模型做了它被设计来做的事情。然而，流程却让它失望了。当模型不是问题时在我之前的文章中，我认为人工智能失败往往始于模型之外——在围绕它的治理、所有权和决策结构中。但是，治理只是问题的一部分。即使是一个治理良好的人工智能系统，如果其下的流程依赖于过时的文档、非正式的异常或为较慢的工作速度设计的批准路径，也会挣扎。当人工智能系统产生一个糟糕的结果时，模型通常是第一个嫌疑人。也许它产生了幻觉、误解了任务或接收到一个弱的提示。但是，有时模型做了它应该做的事情。失败发生在提供其信息的流程中或无法对其输出采取行动的组织中。部署人工智能揭示了始终存在但从未可见的流程问题——就像一个诊断工具。它暴露了人们以前通过不经思考的方式弥补的弱点：缺失的上下文、不明确的所有权和从未记录的非正式变通方法。没有容量的速度人工智能不仅加速输出，还加速了升级、决策请求和问题发现。模型实时标记一个异常，而不是在星期五下午有人终于有时间查看日志时。组织不适应这种速度。批准流程、升级路径、决策权——所有这些都是针对人类速度进行的校准。当人工智能产生的输出速度超过组织可以吸收的速度时，可能会发生三种情况：人工智能等待决策，消除了效率增益。员工忽略其输出，返回到他们认为有效的旧流程。员工在没有适当检查的情况下推进决策，因为他们感到有压力去维持速度。一些员工返回到手动检查，因为它们感觉更安全。其他人在没有时间验证的情况下批准结果，因为他们感到有压力去维持技术所承诺的速度。在这两种情况下，组织为更快的输出付费，但没有变得更快地做出负责任的决定。所有权也可能变得模糊。谁负责审查标记的异常、决定模型是否错误以及在多个团队参与时升级问题？没有明确的答案，人工智能继续在后台运行，产生没有人真正拥有的输出。这反映了更广泛的组织问题。正如Forbes分析从2025年底观察到的，当技术改变工作流程的速度超过组织可以吸收的速度时，结果不是效率；而是过度工作。人工智能可能加速一个过程的某个阶段，但其价值仍然取决于周围的组织是否能够吸收和对其产生的内容采取行动。没有写下的沉默知识想象一下，马丁知道公司与供应商的合同包括一个关于低于2000欧元的付款的例外。它是在三年前口头同意的，但从未被记录下来。当公司部署人工智能来自动化付款批准时，系统阻止了付款——根据书面合同，这是正确的。这是默示知识：组织知识存在于人们的头脑中，而不是在系统中。每家公司都有它。大多数公司不知道自己有多少这样的知识。人工智能只能使用已使其可访问的知识。马丁的例外从系统的角度来看是不存在的。没有这种背景，其决策可能在技术上是正确的，但在操作上是错误的。麦肯锡已经在代理人工智能部署中确定了同样的挑战。构建有效的代理人工智能需要公司编纂可能存在于标准程序中的专家实践——或者仅仅存在于员工的头脑中的默示知识。换句话说：人工智能部署可能是组织第一次看到流程依赖于马丁所知道的东西。虚假的真相来源人工智能输出中最危险的不是总是明显错误的输出。它可能是一个可信的、专业呈现的答案，产生自过时的信息。多年来，许多部门都使用了同一份文档的多个版本，因为法律部门的简总是知道哪一个是权威的。遗憾的是，人工智能并不这样认为。除非它被给予区分版本的规则，否则系统没有理由质疑它收到的文档。因此，人工智能审查运行正确——但是在错误的文档上。这可能比没有审查更糟糕，因为输出看起来是可信的。一位经验丰富的员工可能知道真相在哪里，可以在混乱中找到方向。然而，系统需要一种可靠的方法来确定哪些信息是当前的、批准的和相关的。默示知识、不可靠的文档和为人类速度输出设计的批准流程似乎是独立的问题。但是，它们共享同样的根源。它们都不是由人工智能创造的，但人工智能使它们更难以忽视。在构建代理之前需要回答的问题在部署人工智能代理之前，组织应该能够回答三个问题。哪些决策依赖于从未被记录的知识？这意味着要确定经验丰富的员工应用的异常、捷径和判断调用，而没有明确描述它们。仅仅依靠采访可能无法揭示所有这些知识。组织可能需要观察工作实际如何执行，并将其与官方流程进行比较。系统如何识别当前、批准和相关的信息？给代理访问更多文档并不能解决问题，如果它无法区分批准的合同和草稿，或是活动政策和过时的政策。版本控制、所有权、批准状态和保留规则必须足够清晰，以便系统能够确定哪个来源应该支配其决策。现有的批准和升级流程是否能够吸收其输出的数量和速度？团队应该估计代理可以完成的工作量，不仅要估计它可能创建的审查、异常和升级数量。 NIST人工智能风险管理框架建议明确定义人工智能系统的人类监督角色和职责。这些需要在系统部署之前设计为预期的数量——而不是在员工被其淹没之后。这些问题不是回答一次就忘记的问题。流程会改变，文档会过时，未记录的异常会再次积累。因此，准备就绪不仅需要在启动之前建立，还需要在整个过程中维持。人工智能准备从流程开始人工智能准备不仅仅是对技术的测试。它是对组织是否使其流程足够明确以便技术能够在其中运行的测试。因此，为组织准备人工智能涉及的不仅仅是选择一个模型或构建一个代理。它意味着阐明所有权、识别权威信息、记录异常并重新设计输出的审查、升级和采取行动的方式。这是艰难的工作，但失败的部署最终会迫使组织做到这一点。唯一的变量是时间。
2026年8月14日 2026年8月14日
作者 Simone Giacomelli, 创始人和 CEO，Prem AI

从 AI 能力到 AI 控制的转变
作者 Simone Giacomelli, 创始人和 CEO，Prem AI
一系列高调的 AI 供应商事件使得企业开始思考一个问题，即当围绕其运营的技术不再完全在其控制之下时会发生什么。首先，Anthropic 因美国政府的命令而在 90 分钟内关闭。接着，Grok Build 的隐私丑闻爆发。最近，OpenAI 承认其代理自主地侵入 Hugging Face，引发了人们对 AI 系统治理的新疑问。每个事件本身都很重要，但当它们被放在一起时，它们指向了更大的问题。它们提醒我们，AI 位于政治体系、商业关系和监管环境之中，而这些环境通常对组织来说很难控制。围绕 AI 风险的讨论自然集中在隐私、合规和数据驻留上。这些问题仍然很重要，但它们不再是整个故事。更大的问题现在是依赖性。理解主权是什么以及它不是什么我注意到围绕主权的讨论在过去一年中发生了变化。客户通常会问他们的数据将被存储在哪里。今天，他们更有可能问谁实际上控制着他们的 AI 运行的系统，以及如果他们突然失去访问权限会发生什么。那是一个更难以回答的问题，因为主权超出了地理范围。在其核心，主权 AI 是关于所有权：能够部署 AI 而不引入可能威胁韧性、连续性或长期灵活性的依赖性，无论模型最初是在哪里开发的。一个解释方式是将 AI 代理与员工进行比较。他们越来越多地成为数字化的工作人员，承担了以前由人完成的任务。如果一个组织从单一的 AI 供应商租用这种工作人员，那么它也将外包其运营能力的关键部分。这并不意味着每个组织都需要拥有...
2026年8月13日 2026年8月13日
作者 Hatem Ayad, 首席技术官，Clarvos

架构测试：如何区分真正的智能代理AI和重新贴标签的自动化
作者 Hatem Ayad, 首席技术官，Clarvos
打开几乎任何营销技术供应商的主页，您都会在首页上找到三个词：“由AI驱动”。这种说法已经变得如此普遍，以至于它已经失去了任何意义。Gartner已经开始称这种做法为“代理洗白”——将传统的基于规则的自动化重新包装为自主代理，以便在企业兴趣的浪潮中获利，而没有以任何有意义的方式改变底层系统。这种区别并非学术上的。企业买家正在被要求根据标签做出真正的预算决策，而标签本身已不再是架构能力的可靠指标。了解什么真正区分了代理和规则引擎——以及为什么这种区别对成本、风险和长期灵活性很重要——正在成为任何在2026年评估AI启用的软件的人的基本识读能力。划清自动化和智能代理系统之间的界限传统的自动化系统，无论其前端界面看起来多么复杂，都围绕着一个中央机制构建：一个规则引擎，它会问“给定这个输入，哪个预写的规则应该触发？”一个潜在客户超过了某个评分阈值；一封电子邮件被发送出去。一个潜在客户完成了三个特定的行为；一个序列被触发。每一个规则都是由一个人类工程师编写的，他提前预料到了确切的情景。但是，一旦你达到人类生成规则的极限，你会怎么办？这种架构可以扩展到完美地执行已知场景，但它绝对无法处理未知场景，也不能可靠地适应以前未见过的情况，除非添加规则或人类。工程师们不得不回到系统中并编写一个新规则。他们无法无限地跟上这种趋势。相比之下，智能代理系统围绕着一个完全不同的问题： “给定我的目标，我的当前上下文和可用的行动，我下一步应该做什么？”这反映了现代AI中智能代理的常用定义之一。但更重要的是，买家代表着一种有意义的机制转变，而不仅仅是营销术语。代理维护一个目标，推理可用的工具和信息，评估其行为的后果，并在计划失败时改变方向——迭代地，不需要人类每次意外发生时都重写其逻辑。在实践中，大多数生产智能代理平台结合了确定性编排、策略执行和目标导向推理，而不是仅仅依赖自主规划；规则自动化人员提前做出的决定。为什么我们现在要问这个问题？看看企业采用率的步伐就能理解为什么这个问题对买家来说如此紧迫。 Gartner预测，到2026年底，40%的企业应用程序将集成特定任务的AI代理，从2025年的不到5%大幅增加。 IDC预测，同样的嵌入式代理使用将在2027年增加十倍，而推理需求——衡量代理在组织工作流程中的集成程度——将在同一时期增加一千倍。这种增长曲线和需求时间表解释了为什么“代理洗白”问题会泛滥。如果买家不小心，当需求超过供应（真正有能力的解决方案）时，市场会立即充斥着带有新标签的重新包装的旧产品，买家会为他们已经知道如何构建的系统支付过高的价格。企业炒作和交付价值之间日益扩大的差距也许更重要的是，考虑一下炒作和实际部署的能力之间的差距有多大。2025年7月，麻省理工学院的NANDA计划的一项广泛引用的研究发现， 95%的生成AI试点项目未能带来可衡量的利润和损失影响，尽管组织总共投入了300-400亿美元用于AI系统。然而，这项研究中有趣的是，研究人员如何将集成确定为试点项目失败的原因，而不是模型质量。每家公司都在测试他们无法合理地自己托管的大型模型，但很少有公司将它们架构到工作流程中，这些工作流程是这些模型设计用来理解的。因此，他们无法学习组织背景并随着时间的推移而改进。 Gartner也对智能代理项目本身做出了类似的预测：如果组织在扩大规模之前不将治理和投资回报率对齐，他们可能会看到 2027年底之前取消超过40%的智能代理AI项目。很好，生成AI——特别是代理——正在推向市场。但采用今天可用的技术并不意味着它被深思熟虑地部署或正确地部署在您的组织中。为什么智能代理专用化是一个技术和架构选择一个决定将每一个持久的智能代理实现与“代理洗白”类别区分开来：是否要构建一个系统来处理一切，还是构建一组专门的代理，通常被称为“代理团队”——拥有工作流程的狭窄垂直部分。因此，许多企业架构采用了一个规划代理，它将工作委托给狭窄范围的执行代理。专家模型与通用模型不同，它们是在更窄、更相关的数据上训练的；就像肺科医生与家庭医生不同。通用模型可以写作、规划。但是，它们没有被训练成每个品牌的特定色彩调色板、出版商的像素比率或昨天在其受众的信息流中流行的主题。这并不意味着域适应和微调是完美的解决方案。对微调、域适应的语言模型的研究发现，在新域特定信息上微调的模型并不总是可靠地推理新材料，并且在被推到它们在训练期间记忆的模式之外时仍然会产生幻觉。这里的架构教训不是“我们只需要微调一次并相信它”。而是要围绕每个专家代理构建工具——检索基础、狭窄的预测窗口、人类审批网关——无论您如何狭窄地专门化它。进一步：智能代理数据流向哪里？专用化还反映在一个较少讨论的论点中，即故意托管的专用模型与您在公共互联网上查询的大型模型之间的差异：数据暴露。发送到外部托管模型的提示会离开组织的直接基础设施边界，除非部署在私有企业环境中。供应商的保证是客户数据不会用于培训，但这描述的是政策，而不是架构——政策可以改变。这不是耸人听闻。向公共聊天机器人提示半导体源代码就是三星工程师在2023年意外地在内部工具中暴露了专有算法和代码。最近的调查数据表明，根本行为仍然很常见：研究人员估计，大约4.7%的员工将机密信息粘贴到公共LLM中，约11%的所有员工提交的内容被归类为机密。没有任何内部政策可以完全关闭这个差距，如果每个员工都是最后一道防线的话。监管正在赶上这一现实。运行高风险AI系统的美国公司有一个需要关注的合规截止日期。最近，2026年8月2日，欧盟AI法案的大部分剩余义务生效。该法规自2025年2月以来分阶段推出，这个日期标志着下一个重大波浪——有一个值得注意的例外。第6条（1），它管理高风险分类规则，直到2027年8月才生效，因此该部分比法案的其他高风险规定有一个单独的、较晚的时间表。无法记录其AI系统处理哪些数据以及数据去向的企业现在面临直接的合规风险，而不是理论风险。私人托管的专用模型不会消除治理工作，但它们确实消除了最大的暴露来源：一个默认情况下将内部数据流式传输到第三方的实时管道。或者更直接地说：问问供应商你的数据会去哪里。如果他们犹豫或声称“它留在云上”——开始问别人。认真地。治理属于架构，而不是审查队列我想讨论的最后一个关于智能代理系统的误解是，治理发生在终点。太多的组织将AI输出与他们处理产生的LLM响应的方式相同——作为绝对需要人类审查者的事情，直到它变得太贵以至于无法在规模上证明合理。虽然在最后一刻阻止糟糕的输出比什么都不做要好，但有一个原因，智能代理供应商会吹嘘他们的治理框架：他们将其置于推理层的核心。治理本身应该是可观察的，暴露政策评估、批准事件和约束违规作为操作信号设计良好的智能代理系统具有约束——预测的定义边界——可观察性工具可以用来追溯每个输出到产生它的数据，并且已将其准确性与现实世界的独立第三方标准进行了基准测试，而不是仅仅依赖内部排行榜。修复输出到达最终用户后发生的错误是好的治理。防止大量错误自动发生更好。考虑到这一点，买家真正应该问的是：目标与规则。系统在遇到它没有明确设计来处理的输入时会做什么？规则引擎会指向一个后备规则。代理会描述重新评估其目标和权衡可用操作。模型托管和专用化。底层模型是否专门为该领域设计，并且它们在哪里运行？这回答了一个功能问题和一个数据隐私问题。记忆和上下文。系统是否在交互之间保留组织上下文，还是将每个会话视为新的？在治理边界内保持的持久记忆是允许代理在没有工程师在每个边缘情况后重写其规则的情况下改进的原因。幻觉处理。系统如何检测和限制输出到达实时流程之前的不正确输出，而不是简单地希望专用模型产生的幻觉较少？可审计性。每个输出是否可以追溯到其背后的推理和数据，并且性能是否已由独立的第三方进行了基准测试？可观察性。随着组织将智能代理系统部署到生产环境中，可观察性变得与推理一样重要。没有对决策、记忆、工具使用和策略执行的可见性，企业无法像传统软件一样自信地运行AI系统。企业经济学也是原因谈到供应商锁定，价格论点总是被遗漏在这些功能与标签比较中。但经济学完全符合这里的能力。大的供应商将能够收取指数级的订阅价格，因为他们提供基于令牌的API。每个新一代模型。每次迭代您需要解决可接受的输出。每个复杂的多步骤营销活动自动化任务需要完成的令牌都会被消耗掉。这些相同的订阅层级带有使用上限，这会在您开始依赖AI进行类似于大多数工作流程的工作时创建巨大的运营瓶颈。当您自己构建和托管专用模型时，您用类似基础设施成本的东西替换了可变的使用成本和不可预测的生成成本。在规模上，这是一个与上述技术选择一样具有复合性的经济选择。结论——标签从来不是重点“AI驱动”将被贴在每个供应商的主页上，从现在开始，直到我们正在讨论的模型的哪一代失去其炒作周期的动力。但是，重要的不是形容词，而是架构。推理发生在哪里？你的数据会去哪里？这些系统的专用化程度如何？治理是在架构阶段考虑的，还是事后补充的？这些关键特征将决定你是否获得真正的竞争优势，还是仅仅获得了一件很贵的涂料。
2026年8月13日 2026年8月13日
作者 Ramkumar Pichandi, CEO, Rytsense

医院采用人工智能之前没有完全理解他们所采用的内容
作者 Ramkumar Pichandi, CEO, Rytsense
医院并没有在一个刻意的时刻采用人工智能。它是通过不同的部门、不同的需求和不同的预算进入的：一个图像算法、一个文档助手、一个人员预测、一个患者信息生成器、一个拒绝预测模型、一个排班工具。每个产品都进入了不同的部门，满足了不同的需求，并根据不同的预算进行了评估。这种分散的方式使得采用感觉是可以管理的。它也掩盖了医院实际上采用的内容。人工智能产品不仅仅是一个软件应用程序。它是一个可能影响判断、重新分配工作、改变责任、从不断变化的数据中学习并产生难以在事后重建的输出的系统。医院经常在建立必要的语言、治理和运营纪律来理解这些后果之前就购买了这种能力。通过与医疗组织密切合作，我看到人工智能采用的最困难部分很少从模型本身开始。它始于技术进入一个从未为其设计的工作流程，并且人们必须决定如何在其输出周围放置信心、权威和责任。这不是反对采用的论点。医疗保健需要更好的工具，人工智能已经创造了真正的价值。这是对采用的更成熟定义的论点——一种从采购之后开始而不是结束的定义。人工智能通过“效率”门进入早期的医院人工智能案例是实际的。行政工作量在增加，劳动力压力在加剧，临床医生在非临床判断任务上花费了太多时间。这种需求只会增长。2026年，美国医学会报告称，81%的受访医生在实践中使用人工智能，高于2023年的两倍。这种吸引力是可以理解的。医院面临着提高可及性、减少倦怠、管理成本和加快信息流动的压力。一个可以草拟笔记、优先处理队列、预测延迟或总结图表的工具可能看起来像是一个狭窄的运营改进。但是人工智能很少在进入工作流程后仍然保持狭窄。一个文档系统改变了记录中捕获的内容。一个优先级模型改变了首先看到的案例。一个预测工具改变了人员配备决策。一个患者沟通助手改变了如何将临床意图转化为语言。即使最初的目的是行政的，运营效应也可能达到护理交付。因此，医院采用了不仅仅是效率。他们采用了新的影响决策、顺序、注意力和责任的形式。第一个误解：将人工智能视为传统软件传统软件通常根据其是否可靠地执行定义的功能来判断。人工智能需要更广泛的问题。哪些数据塑造了模型？性能在哪里削弱？输出如何随着本地工作流程与测试环境的不同而改变？谁审查结果？模型更新时会发生什么？当决策被质疑几个月后，哪些证据被保留？这些问题正在成为正式的医疗技术政策的一部分。国家医疗信息技术协调办公室的HTI-1规则为认证的医疗信息技术中的预测算法引入了透明度要求，包括帮助用户评估公平性、适当性、有效性和安全性的信息。这种语言很重要，因为它将评估从工具演示的可行性转变为这里、针对这个人群、在这个工作流程中、在这些条件下、由这些人负责输出的可行性。医院需要知道它是否适用于这里、这个人群、这个工作流程、这些条件和这些人负责其输出。这是一个非常不同的采购问题。它不能仅仅通过功能列表或供应商演示来回答。第二个误解：假设人工监督可以解决一切问题“人在环路中”已经成为医疗保健人工智能中一个令人放心的短语。它表明一个人仍然控制着并且可以纠正机器。在实践中，人工监督只有在人类有时间、权威、背景和明确的理由来质疑输出时才有意义。一名接收到数百个人工智能辅助推荐的临床医生不会从第一原则审查每一个。一个高容量队列的工作人员可能会接受建议的优先级，因为界面将其作为默认值呈现。审查者可能在技术上有权覆盖模型，但缺乏了解模型产生其结果的原因所需的信息。世界卫生组织关于健康人工智能的指导将自主性、责任、透明度、安全性和公平性置于实施的中心。这些原则并不能仅仅因为一个人点击了最终按钮就得到满足。人工监督必须被设计为一个运营功能。医院应该定义哪些输出需要审查、审查者看到什么证据、什么时候升级是强制的、如何记录不同意见以及审查输出的人是否实际上能够干预。考虑一个患者信息助手，它在出院后草拟随访说明。临床医生可能仍然负责批准，但实际的安全措施取决于工作流程。草稿是否明确标记为机器生成的？审查者是否看到生成它的临床原始材料？工作人员是否能够识别出语言中省略了警告或夸大了确定性？如果信息在繁忙的班次中被批准并后来引起混淆，责任不能仅仅归咎于一个人点击了“发送”按钮。审查过程的设计与审查者的存在一样重要。第三个误解：认为验证是一个一次性的事件许多组织在启动前验证人工智能，然后将该系统视为稳定。这种方法反映了传统的实施思维：测试、批准、部署、维护。人工智能的性能可能会由于周围环境的变化而发生变化。患者人群会改变。编码实践会改变。临床文档会改变。新设备被引入。工作人员适应了工具。供应商更新了模型。数据接口会悄悄地中断。一个在启动时性能可以接受的系统可能会在没有明显故障消息的情况下变得不那么可靠。NIST人工智能风险管理框架将风险管理视为一个围绕治理、映射、测量和管理风险的持续生命周期活动。医院应该在运营中应用同样的原则。部署后监控不应仅限于正常运行时间。它还应包括按患者群体、覆盖模式、异常输出分布、工作流延迟、用户投诉、下游更正和工作人员以从未预期的方式依赖系统的迹象进行的性能监控。模型可以在技术上可用和运营上不安全的同时。第四个误解：将监管批准与机构准备混淆美国食品和药物管理局维护着一个人工智能启用的医疗设备清单，这些设备已满足了适用的预市场要求。这是对受监管产品的重要保证层，但监管授权和医院准备回答了不同的问题。监管机构可能会确定设备对于其预期用途来说是足够安全和有效的。医院仍然需要确定其自身的数据、人员、基础设施、培训、升级路径和患者人群是否支持负责任的使用。同样的区别也适用于非设备人工智能。安全审查不能确立临床适当性。隐私审查不能确立工作流安全性。法律批准不能确立用户能力。成功的试点不能确立企业就绪性。医院需要一个统一的决策过程，将这些问题结合起来，而不是让每个部门批准风险的一个部分。医院实际上采用人工智能时会发生什么一个成熟的组织应该认识到，每个人工智能实施都会同时引入至少五件事情：决策影响：即使人工智能不做出最终决定，也会影响人们注意、优先或相信什么。数据依赖：系统继承了周围数据的优势、缺陷、偏见和不稳定性。工作流重设计：任务在人员、系统和部门之间移动，通常以微妙的方式改变责任。监控义务：部署后必须观察性能，而不是假设来自预部署证据的性能。信任关系：患者和工作人员需要了解人工智能的存在和作用。这种更广泛的定义解释了为什么医院可以部署数十种人工智能工具，但仍然感到没有准备。该组织已经获得了能力，但不一定建立了必要的连接组织来治理它们作为一个组合。从人工智能库存到人工智能问责第一个实际步骤不是另一个策略文件。它是一个可靠的库存。一些医院仍然缺乏对人工智能当前操作位置的完整视图，因为它嵌入在更大的平台中，通过部门购买引入，或者以更柔和的术语描述，例如自动化、智能、预测、优化或决策支持。库存应该记录每个系统的目的、它影响的决策、使用的数据、影响的人口、供应商和模型版本、人类所有者、审查过程、升级路径和批准所用证据。但是，库存本身并不是治理。问责开始于每个系统都有一个命名的执行所有者和运营所有者。执行所有者接受是否使用案例仍然合适的责任。运营所有者了解系统在日常工作中的行为，并且可以识别出何时现实与政策发生偏差。新的标准：在扩大规模之前了解医院不需要在实现完美确定之前暂停每个人工智能计划。完美确定在医疗保健或技术中是不存在的。他们需要用证据驱动的扩大取代热情驱动的扩大。这意味着从特定问题开始，定义人工智能的可接受角色，测试本地环境，记录限制，衡量真实结果，并且只有当组织能够解释利益和风险时才扩大规模。最重要的问题不再是“这个工具是否使用人工智能？”这个问题太宽泛了，无法提供有用的信息。更好的问题是：它影响什么判断？当它出错时会发生什么？谁会注意到？谁可以阻止它？什么证据将证明扩大其角色的合理性？最近的世界卫生组织关于健康人工智能的政策指南也提出了类似的论点，主张明智的决策，超越炒作，检查安全性、偏见、治理、监管和信任。医院应该期望领导团队具备与技术团队相同的知识水平。真正的机会是机构学习从人工智能中受益最大的医院不一定是那些采用了最多工具的医院。他们将是那些从每次部署中学习最快的医院。他们将实施视为机构知识的来源：数据质量在哪里中断，工作流程在哪里抵制自动化，工作人员在哪里需要更清晰的界限，患者在哪里需要更大的透明度，以及治理在哪里必须变得更加具体。这种学习不能仅仅停留在创新办公室。它必须传达给临床领导、运营、合规、技术、财务、质量和董事会。人工智能现在已经太分散了，无法仅仅由一小群专家来管理，也太重要了，无法仅仅被理解为一个技术主题。医院在完全理解他们所采用的内容之前就采用了人工智能。这在快速技术变革时期并不罕见。更重要的问题是他们在差距变得明显时会做什么。负责任的回应不是撤退。它是建立理解人工智能的能力：在决策、工作流程、关系和机构中实际运行。只有这样，采用才会成为准备就绪。
2026年8月12日 2026年8月12日
作者 Alex Connor, 产品副总裁，WestCX

医疗保健的隐性可及性问题：来电负担
作者 Alex Connor, 产品副总裁，WestCX
医疗保健提供者和支付者已经开始采用人工智能技术；现在他们需要迈出人工智能编排的步伐。在实践中，我们看到这种脱节体现在患者接入方面。提供者进行了投资，部署了解决方案，但患者仍然面临着接入医疗保健的摩擦。我们经常被问到 – 我们和我们的患者如何从这项新技术中获得承诺的价值?对于一些人来说，人工智能正在发挥作用。我们合作的支持和护理团队描述了真正的、可衡量的缓解：更多的容量、顶级许可焦点和与患者的时间 – 少了行政拖累。飞利浦的2026年未来健康指数确认了我们在地面上听到的：71%的临床医生报告了改善的工作流程效率，人工智能使他们能够看到更多的患者。收益是真实的，但它们掩盖了一个不会消失的问题。该行业的人工智能对话继续混淆参与和编排。在这种混淆中，它放弃了医疗保健的第一个接触点：电话。尽管多年来数字化投资，提供者仍然难以承受来电的重担。这给患者带来了自行创建接入的负担，持续的碎片化和医疗保健的障碍。这不再是一个技术问题；这是一个编排问题。高呼叫量表明患者参与度碎片化碎片化遵循一个模式：患者错过预约；提醒永远不会到达，因为它发送到了过时的电子邮件地址。随访护理说明到达；患者无法遵循，因为它们是错误的语言。诊断程序需要重新安排；订购提供者必须获得预先授权。实验室结果通知引起焦虑；患者必须等待听到临床医生的解释。故障点不同，但下一步是固定的：患者拿起电话。医疗保健认识到这一点，并在数字工具上进行了大量投资，旨在防止这种情况。患者门户、在线预约、参与平台和现在的人工智能助手 – 该行业以真正的方式致力于数字化。医疗保健以超过经济更广泛范围内人工智能采用的两倍速率部署人工智能。然而，我们一致观察到许多患者仍然依赖电话进行常规问题、转诊和预约。工具没有消除呼叫，也没有使呼叫的答案更有影响力。当患者呼叫时，几乎从不因为他们更喜欢电话。他们呼叫时，是因为他们的数字体验中的一些上游内容没有提供他们所需的东西；然后他们发现当他们呼叫时所得到的东西不比导致他们呼叫的东西更好。对于提供者或健康计划来说，高呼入呼叫量警告患者体验碎片化。医疗保健中的碎片化遵循提供者、支付者和组织之间缺乏协调。我们看到这种系统性脱节使患者感到沮丧，为提供者创造了低效率，并侵蚀了患者所需的医疗保健服务的可及性。当患者收到门户消息、短信或自动电话呼叫，包含混乱或不完整的信息时，他们的第一反应是拿起电话并呼叫提供者。碎片化发生在这种数字脱节使患者有更多的问题而不是答案时。在规模上，我们看到这成为一个复合问题。患者关于预约、转诊、账单和护理说明的问题呼叫创建了一个后台日程，增长速度快于员工能够吸收。这里的反直觉部分是：添加更多的参与工具不会解决这个问题。没有编排的更多技术增加了员工的负担：每个外联都创建了一个需要人类通过电话回答的问题。因此，前台或支持部门必须管理新的工作流程。当决策者引入新的点解决方案来简化新的工作流程时，恶性循环继续。数字脱节降低运营效率并损害提供者的利润数据强化了我们在地面上观察到的内容。根据健康事务学者，几乎72%的患者通过电话预约医疗预约。这不包括患者关于护理问题的来电数量。每一个可以避免的呼叫都将员工拉离了顶级许可：直接患者护理、复杂问题解决和需要他们培训和专业知识的人际交互。碎片化以多种方式损害提供者的运营效率。护士大约花费 10%的时间执行可委托和非护理任务，例如处理简单问题和患者提醒。这是他们无法回馈给患者的时间。另外，碎片化导致了医生倦怠 – 一个如此严重的问题，它是医疗保健的四重目标的一部分，并且在五重目标中持续存在。这种摩擦的财务影响与运营影响一样显著。当患者在其旅程中遇到混乱或不完整的沟通时，他们脱节 – 取消预约或根本不出现。我们看到的是，无故缺席往往是一个沟通问题。数字反映了这一点：根据一些估计，全国无故缺席率约为18%，每年为组织带来约 1500亿美元的损失。脱节损害了患者的体验和基本上损害了医疗保健的可及性。但是解决数字脱节的方法并不是简单地增加员工或实施更多技术。为了真正解决脱节并改善患者的可及性，提供者和支付者必须减少不必要的来电次数 – 通过解决导致这些呼叫的护理旅程中的摩擦点。答案很简单：编排。...
2026年8月12日 2026年8月12日
作者 Andrew Frost Moroz, 创始人，阿罗哈浏览器

欧盟人工智能法案没有告诉创始人的关于训练数据的事
作者 Andrew Frost Moroz, 创始人，阿罗哈浏览器
欧盟人工智能法案第50条要求人工智能系统披露用户正在与机器交谈的事实。但是，它没有说明在披露后会发生什么。基于基础模型构建产品的创始人关注准确性和价格。用户数据在离开他们的产品并被第三方模型处理后会发生什么，这个问题很少在选择供应商时被提及。该规定于2026年8月2日开始执行，不遵守的罚款最高可达1500万欧元或全球年度营业额的3%，以较高者为准。数据保留和训练完全不在其范围内。如果您的应用程序将用户对话发送到第三方模型，则该提供商的数据处理成为您的产品的一部分，无论您是否打算如此。行业的默认设置是训练，而不是询问斯坦福大学人机交互人工智能研究所的研究人员审查了六家主要美国人工智能开发商的隐私政策，包括亚马逊、Anthropic、谷歌、Meta、微软和OpenAI，发现他们都使用客户聊天数据来训练他们的模型，一些甚至无限期保留这些数据。首席研究员詹妮弗·金恩在被问及是否应该担心人工智能聊天系统的隐私时直言不讳，回答说“绝对是”。因此，除非提供商的文档另有说明，否则应将训练视为默认假设。然而，细节因提供商而异，值得在提交之前密切关注。曾经因其注重隐私而受到赞扬的Anthropic更改了其消费者条款，使得与Claude的对话现在默认用于训练，用户可以选择退出。这说明了供应商的训练政策可能会迅速改变，即使最初的推销是注重隐私的。在其他模型中，选择退出并不完全起作用。谷歌将Gemini对话由人工注释员审查长达三年，关闭Gemini应用程序活动设置并不能阻止人工审查。一旦对话被标记为人工审查，它将无论用户后续采取何种行动而保持在谷歌的系统中。Character.AI默认训练用户对话，并且只为EEA和英国的用户提供选择退出，这使得其数据处理政策处于宽松的一端。另外，该公司面临着法律和声誉挑战。2026年1月，Character.AI和谷歌同意原则上和解一系列诉讼，这些诉讼声称该平台的聊天机器人与未成年人互动造成了伤害，这与其数据训练政策无关。谷歌因其与Character.AI创始人的联系而被列为共同被告，尽管没有承认任何责任，条款也没有公开披露，但该案例表明，人工智能供应商的法律责任可能会延伸到支持它的公司。数据保留窗口、人工审查触发器和分包商访问权限很少出现在隐私政策的细则之外。经常将这些API集成的公司通常需要彻底调查才能了解用户数据在审查或被谁查看期间保留多久。几乎没有这些细节会传达给最终用户，这意味着一家公司可以继承供应商的数据处理政策并将相同的风险传递给另一方，而双方都没有意识到这一点。这是创始人的问题，而不仅仅是政策辩论如果您的产品通过启用默认训练的基础模型路由用户对话，您已经代表用户接受了数据政策，即使您没有打算这样做。第50条并不要求您披露这一决定，因为它只涵盖了用户正在与人工智能交谈的事实。第三方访问进一步扩大了这一风险。模型提供商经常将数据注释和安全审查外包给分包商。2026年5月，德克萨斯州检察长肯·帕克斯顿对Meta的AI眼镜发起调查，原因是位于肯尼亚的分包商Sama的数据注释员据称能够访问用户私人时刻的视频，包括浴室访问。Meta辩称这并不反映其做法的全部，但调查仍在进行。虽然这个例子涉及可穿戴相机，但同样的问题也可能适用于对话式人工智能。一个公司不出售您的数据的承诺，并不表明谁可以在内部读取它，然后再进入训练管道。选择供应商之前需要检查的事项在将基础模型连接到真实用户数据之前，创始人应该回答几个问题。数据处理协议是一个好的起点。该协议是管理用户数据的处理的文件，值得完整阅读。合同本身也值得关注。供应商通常在企业或API合同中提供比消费者聊天产品更严格的无训练条款，因此请书面确认哪些条款适用于您的特定集成。许多公司经常错误地假设企业级别的隐私语言默认适用于他们。选择退出条款也值得检查。谷歌的Gemini设置说明了为什么如此，因为在该模型中，禁用活动跟踪并不能阻止人工审查。供应商应该能够明确说明选择退出是否停止训练、人工审查或两者。最后，需要绘制数据在供应商下游的流向。注释和安全审查通常被外包，因此供应商自己的隐私承诺并不自动扩展到该链中的每个分包商。这些问题都不应该被视为一次性练习。供应商的条款可能会更改，有时会很快，去年您签约的供应商可能不再按照相同的规则运营。市场可以设定监管尚未达到的标准第50条不太可能是欧盟关于人工智能数据治理的最后一句话，创始人不应该等待下一轮监管来填补它留下的空白。公司现在可以通过在自己的用户数据上建立明确和可见的训练选择来领先于这一空白。改进模型和默默地利用用户信任之间存在一条明确的界线。许多人工智能服务仍然跨越了这一界线，使用对话来训练而不征求明确的知情同意。现在划出这一界线的创始人将来不会需要改装合规性。这是一个有先例的举动。加密的即时通讯应用程序和密码管理器没有等待监管机构将强大的默认设置标准化，他们自己做出了选择并将其转化为市场地位。人工智能产品有相同的机会。那些在强制之前划出界线的创始人将被信任处理用户的下一次敏感对话。

More Posts

Page 1 of 9612 3 4 5 Next ›Last »