观点
AI 正在进入我们的 PC——但它能看到什么,由谁来掌控?

要点本地AI处理并不能自动保证设备上代理的隐私或安全。
查看更多
- 本地AI处理并不能自动保证设备上代理的隐私或安全。
- 代理必须在最小权限访问下运行,且权限仅限于每个特定工作流所需的范围。
- 用户需要对代理能看到什么和做什么拥有透明且可撤销的控制权。
AI 代理正逐渐走出聊天窗口,进入人们日常使用的操作系统、应用程序和文件。
近几个月发布的新款 Windows PC 和软件,正为普通用户带来多步骤自主 AI 工作流的新时代,并将其引入企业环境;这一转变已不再只是技术预测。
NVIDIA 的 搭载 RTX 的 Windows PC 支持在本地运行 AI 代理,而 Perplexity 已扩展其代理功能,使其能够在兼容的 Windows 电脑上运行,从而支持涉及本地文件和已连接应用程序的工作流。与此同时,Microsoft 正在开发安全措施,以控制代理访问资源和采取行动的方式。
但自主性越强,安全风险也越大。10月19日,Microsoft 安全事务执行副总裁 Hayete Gallot 警告称,各组织必须加大力度保护“代理式内部人员”,并指出 AI 代理往往拥有过多权限,能够在关键流程中做出决策的同时,访问敏感数据、工具和系统。
Microsoft 的 Windows 安全策略以隔离、权限限制和有限监督为基础,同时,人们也越来越担心代理出错造成的后果可能远超简单的回答错误。代理可能泄露敏感信息、修改关键文件,或在业务应用程序中执行不必要的操作。
本地 AI 不等于自动实现隐私保护
在 PC 上使用 AI 代理有助于减少传输到云服务的敏感数据量,但本地处理并非万无一失的安全保障。
即使是设备端模型,也可能访问过多文件、安全性不足,或与其他应用程序建立不安全的连接。
iData Global 首席执行官兼联合创始人 Bayron Quintero 表示,问题并不总出在 AI 模型上,往往出在组织治理方面。该公司专注于为美洲地区提供 AI 解决方案。
他向 Unite AI 表示,企业可能给予数据、应用程序和业务流程过多或过少的访问权限。代理获得的权限可能与预期赋予它们的职责不相符。
Quintero 表示:“挑战在于确保代理遵循最小权限原则,只能访问特定工作流所需的数据、系统并执行所需操作。”这意味着,只授予其访问特定工作流所需数据和系统以及执行所需操作的权限。
他指出,明确的数据所有权、基于角色的访问控制,以及对代理与内部系统和第三方系统交互情况的持续监控,都是必不可少的安全措施。
Quintero 强调,并不存在绝对安全的本地 AI。
权限过多、加密薄弱、监控不足和集成不安全,都可能使设备端代理的风险与云端代理不相上下,甚至更高。
安全问题不仅关乎系统模型运行在哪里,也关乎系统如何配置和管理。
新的边界在于权限
对普通用户来说,关键问题是 AI 代理获得的访问权限是否适合其所执行的任务。
如果只要求代理总结一份文档,它就不应该扫描整个硬盘。照片整理工具不应自动读取财务数据,也不应具备发送消息的能力。权限必须严格、透明且可撤销。
Microsoft 的代理账户与工作区模式是将代理活动与个人会话分离的一步。不过,这些保护措施必须在演示环境之外也能发挥作用。
Microsoft 的 Windows 代理安全指南要求获得用户授权、记录活动日志,并采用一种机制,将代理限制在其所需的访问范围内。雇主和开发者需要监控代理如何应对文档、网站或消息中的误导性指令。
在执行获授权的任务时,代理可能会遇到不可信内容。如果代理把恶意文本当作命令,由于信息很容易被访问,这可能造成严重的安全问题。
对于敏感操作,人工审批和最小权限访问必须与隔离措施相辅相成。
便利性需要明确的界限
评估 AI PC 时,不仅要看代理能够自动完成多少工作,也要看用户是否信任它、愿意与其分享个人和职业数据。
在本地处理时,代理式 AI可以提升速度并减少某些数据暴露,但这并不能免除设置权限和进行监督的必要性。
原则应该很简单:代理只能访问完成工作所必需的内容,用户则应能够理解、追踪并阻止代理的行为。
随着电脑越来越能够代我们采取行动,控制不能成为事后才考虑的问题,而必须纳入设计之中。












