确保医疗保健领域自主人工智能的弹性安全性

激烈的数据泄露战争给全球医疗保健机构带来了日益严峻的挑战。根据目前的统计数据，数据泄露的平均成本目前高达 4.45 百万美元 在全球范围内，为美国境内患者提供服务的医疗保健提供商的支出增长了一倍多，达到 9.48 万美元。现代组织内部和组织间数据激增的现象，进一步加剧了这一本已令人畏惧的问题。一个令人担忧的 40% 的已披露违规行为 涉及分布在多个环境中的信息，大大扩展了攻击面并为攻击者提供了许多进入途径。

生成式人工智能日益增强的自主性，将引领一个变革的时代。因此，随着这些先进的智能代理从理论走向医疗卫生等多个领域的实际部署，随之而来的是日益加剧的安全风险。为了负责任地扩展人工智能，并增强组织抵御各种网络攻击（无论是恶意软件威胁、数据泄露，还是精心策划的供应链攻击）的能力，理解并缓解这些新的威胁至关重要。

设计和实施阶段的弹性

组织必须采取全面、渐进的主动防御策略来应对人工智能带来的日益增加的安全风险，尤其是在医疗保健领域，其风险既涉及患者的健康，也涉及对监管措施的遵守。

这需要一种系统而精细的方法，从人工智能系统的开发和设计开始，并持续到这些系统的大规模部署。

• 组织需要采取的第一步也是最关键的一步是规划并构建其整个AI流程的威胁模型，从数据提取到模型训练、验证、部署和推理。此步骤有助于精确识别所有潜在的暴露点和漏洞，并根据影响和可能性确定风险粒度。
• 其次，创建安全的架构来部署使用大型语言模型（LLM）的系统和应用程序非常重要，包括那些 代理人工智能 能力。这涉及仔细考虑各种措施，例如容器安全性、安全 API 设计以及敏感训练数据集的安全处理。
• 第三，组织需要理解并执行各种标准/框架的建议。例如，遵守 NIST的 人工智能风险管理框架，用于全面识别和缓解风险。他们还可以考虑 OWASP的建议 关于 LLM 应用程序引入的独特漏洞，例如提示注入和不安全的输出处理。
• 此外，经典的威胁建模技术也需要发展，以有效地管理由 Gen AI 产生的独特而复杂的攻击，包括威胁模型完整性的阴险数据中毒攻击以及在 AI 输出中生成敏感、有偏见或不适当内容的可能性。
• 最后，即使在部署之后，组织仍需要保持警惕，通过定期进行严格的红队演习和专门的人工智能安全审计，专门针对偏见、稳健性和清晰度等来源，以不断发现和减轻人工智能系统中的漏洞。

值得注意的是，在医疗保健领域创建强大的人工智能系统的基础是从根本上保护整个人工智能生命周期，从创建到部署，同时清楚地了解新的威胁并遵守既定的安全原则。

运营生命周期内的措施

除了初始的安全设计和部署之外，稳健的人工智能安全态势还需要在整个人工智能生命周期中密切关注细节并积极防御。这需要持续监控内容，利用人工智能驱动的监控技术即时检测敏感或恶意输出，同时遵守信息发布政策和用户权限。在模型开发和生产环境中，组织需要同时主动扫描恶意软件、漏洞和对抗活动。当然，这些都是对传统网络安全措施的补充。

为了增强用户信任并提高人工智能决策的可解释性，必须谨慎使用 可解释的AI （XAI）工具来了解AI输出和预测的根本原理。

自动数据发现和智能数据分类（采用动态变化的分类器）也有助于提升控制力和安全性，从而提供对不断变化的数据环境的关键且最新的视图。这些举措源于实施强大安全控制的必要性，例如细粒度的基于角色的访问控制 (RBAC) 方法、用于保护传输中和静态信息的端到端加密框架，以及用于隐藏敏感数据的有效数据屏蔽技术。

所有处理人工智能系统的商业用户都必须接受全面的安全意识培训，因为它建立了一个关键的人工防火墙来检测和消除可能的社会工程攻击和其他与人工智能相关的威胁。

保障 Agentic AI 的未来

面对不断演变的人工智能安全威胁，保持持续韧性的基础在于所提出的多维度、持续性方法，即密切监控、主动扫描、清晰解释、智能分类和严格保护人工智能系统。当然，这还需建立广泛的以人为本的安全文化，并建立成熟的传统网络安全控制机制。随着自主人工智能代理被纳入组织流程，对强大安全控制的需求日益增加。如今的现实是，公共云数据泄露事件时有发生，平均造成 5.17 百万美元 ，明确强调了对组织财务和声誉的威胁。

除了革命性的创新之外，人工智能的未来还取决于其韧性，其基础是嵌入式安全性、开放的运营框架和严格的治理程序。建立对这些智能代理的信任最终将决定它们被广泛而持久地接受，并塑造人工智能变革潜力的走向。