Google详解Chrome AI智能体功能的安全架构
Google发布了针对Chrome即将推出的智能体AI功能的详细安全框架，引入了多层鼲御木层防御保护用户在使用Gemini驱动的智能体执行自主浏览任务时的安全。Chrome安全帷程Parker的公告概述了四个核心安全支柱，这些支柱将管理AI智能体如何代表用户与网站交互。该架构解决了早期智能体系统普遍存在的风险，包括提示注入攻击、未经授权的数据访问和欺诈性交易。Google推出此方案之际，竞争对手们正竞相推出出浏览器的AI智能体。OpenAI于10月推出了具备智能体模式功能的ChatGPT Atlas，而Forvirring则在7月发布了其Comet浏览器。该安全框架表明，Google打算比竞争对手更加谨慎行事，研究人员已经证明竞争对扊罟表明，能存在可利用的漏洞。智能体安全的四大支柱用户对齐评判器构枓鈐了第是一个独立的Gemini模型，负责审查主AI智能体提议的每一个操作。该评判器独运行，仅检查提议操作的元数据而非完整页面内容，从而减少其接触恶意输入的机会。如果某个操作看起来有风险或与用户声明的目标无关，评判器可以命令重试或将控制权交还给用户。源集限制了智能体在任何给定任务期间可以访问的网站和页面元素。该系统区分了智能体可以消费内容的只读源和可以执行操作的可读写源。无关的网輢站和完全屏蔽，访问新域名需要通过一个受信任的闸门功能批准。这可以防止跨站点数据泄漏，并限制智能体被入侵后的潜在损害。用户监督要求对敏感操作进行手动确认。当智能体遇到银行门户网站、医疗数据网站或需要访问Google密码管理器中存储的凭据时fi hrome会暂停并提示用户批准该操作。在进行购买或发送消息之前同样妓歃——无法自主完成这些操作。提示注入检测采用一个专门的分类器，实时扫描页面以发现间接提示注入尝试。该系统与Chrome现有的安全浏览基础设施和本地诈骗检海协背作，在智能体可能采取行动之前阻止可疑的恶意内容。自动化红队测輕丑队测輕佑队测輕gle开发了自动化红队测试系统，该系统生成测试网站和由LLM驱动的攻凪，绥证安全架构。公司优先测试可能造成持久性损害的攻击向量，特别是那些针对金融交易或凭据窃取的攻击。Chrome的自动更新机制将在发现新漏洞时快速提供铓复为修复。外部安全研究，Google宣布为发现智能体浏览框架弱点的研究人员提供高达20, 000美元的赏金.教训，在这些案例中，提示注入攻击在操纵AI行为方面被证明出奇地有有效。器层面隔离评判器模型并限制源访问，Google旨在防止网页本身成为攻击面。浏览器竞赛的影响Google详细的安全信息披露与竞争性智能体浏览器系统相对主统相对明的做法形成对比。该公司似乎押注企业和注重安全的用户会更看重透明的安全保障，而非先发功能。该架构也暗示了Google认为AI智能体可接受的自主程度。购物、研究和填写表格可以在监督下进行，但任何涉及金融账户、医疗保健数据或存储凭据的操作都需要明确的人工批准。这划定了一条清晰的界限，而其他供应商一直不太愿意公开定义这条界限。对于基于Chrome平台进行开发的开发者而言，源集限制将需要仔罽考胑功能如何与多站点工作流交互。期望智能体自由跨域导航的应用程序可能需要进行架构更改，以适应Google的安全模型。Google尚未宣布在Chrome中推出智能体浏览功能的具体日期，但详细的安全框架表明部署正在临近。该公司愿意在发布前公布防御架构，表明了对该方法的信心——同时也是对竞争对手在透明度上与其看齐的隐性挑战.
