确保自主人工智能在医疗保健领域的安全韧性

数据泄露的激烈战争对全球医疗保健组织构成了日益增长的挑战。根据当前的统计数据，数据泄露的平均成本现在达到 $4.45 million 全球，美国的医疗服务提供者为患者提供服务的成本超过 $9.48 million。另外，现代现象的内部和外部数据扩散增加了这个已经令人生畏的问题。令人担忧的是，40% 的公开泄露涉及跨多个环境的信息，极大地扩大了攻击面，为攻击者提供了许多入口。

自主人工智能的增长带来了一个变革的时代。因此，它带来了额外的安全风险，因为这些高级智能代理从理论转向在多个领域（如医疗保健领域）的部署。了解和减轻这些新威胁对于负责任地扩大人工智能和增强组织对任何类型的网络攻击的韧性至关重要，无论是由于恶意软件威胁、数据泄露还是精心策划的供应链攻击。

设计和实施阶段的韧性

组织必须采用全面和演化的主动防御策略来应对人工智能带来的日益增长的安全风险，特别是在医疗保健领域，风险不仅涉及患者的健康，也涉及遵守监管措施。

这需要系统化和详细的方法，从人工智能系统的开发和设计开始，到这些系统的大规模部署。

• 组织需要采取的第一步也是最关键的一步是绘制和建模整个人工智能管道，从数据摄取到模型训练、验证、部署和推理。这一步可以精确地识别所有潜在的暴露点和漏洞，根据影响和可能性进行风险细化。
• 其次，创建大型语言模型（LLM）和具有 Agentic AI 能力的系统和应用程序的安全架构至关重要。这涉及仔细考虑各种措施，例如容器安全、安全 API 设计和敏感训练数据集的安全处理。
• 第三，组织需要了解和实施各种标准/框架的建议。例如，遵循 NIST 的人工智能风险管理框架，进行全面风险识别和缓解。他们还可以考虑 OWASP 关于 LLM 应用程序引入的独特漏洞的建议，例如提示注入和不安全的输出处理。
• 此外，经典的威胁建模技术也需要演变，以有效地管理由 Gen AI 生成的独特和复杂攻击，包括阴险的数据中毒攻击，威胁模型的完整性，以及在人工智能输出中生成敏感、有偏见或不恰当内容的潜力。
• 最后，即使在部署后，组织也需要保持警惕，通过定期和严格的红队演习和专门的人工智能安全审计，针对诸如偏差、鲁棒性和清晰度等来源，持续发现和缓解人工智能系统中的漏洞。

值得注意的是，在医疗保健领域创建强大的人工智能系统的基础是从创建到部署整个人工智能生命周期，具有对新威胁的清晰理解和对既定安全原则的遵守。

操作生命周期期间的措施

除了最初的安全设计和部署，强大的人工智能安全态势需要在整个人工智能生命周期中保持细致的关注和主动防御。这需要持续监测内容，利用人工智能驱动的监视来立即检测敏感或恶意输出，同时遵守信息发布政策和用户权限。在模型开发和生产环境中，组织需要积极扫描恶意软件、漏洞和对抗性活动，这些都是传统网络安全措施的补充。

为了鼓励用户信任和提高人工智能决策的可解释性，使用 Explainable AI（XAI）工具来理解人工智能输出和预测的根本理由至关重要。

改进的控制和安全性也可以通过自动数据发现和智能数据分类实现，具有动态变化的分类器，可以提供对不断变化的数据环境的关键和最新视图。这些举措源于强制实施强大的安全控制的必要性，例如细粒度的基于角色的访问控制（RBAC）方法、端到端加密框架来保护传输和存储中的信息，以及有效的数据屏蔽技术来隐藏敏感数据。

所有处理人工智能系统的业务用户也需要进行彻底的安全意识培训，这可以建立关键的人类防火墙来检测和中和可能的社会工程攻击和其他人工智能相关威胁。

确保 Agentic AI 的未来安全

在面对不断演变的人工智能安全威胁时，持续的韧性基础在于提出的多维和持续的方法，包括密切监测、主动扫描、清晰解释、智能分类和严格保护人工智能系统。当然，这是在建立广泛的人员导向安全文化和成熟的传统网络安全控制的基础上。随着自主人工智能代理被纳入组织流程，强大的安全控制的必要性增加。今天的现实是，公共云中的数据泄露确实会发生，平均成本为 $5.17 million，这明显强调了对组织财务和声誉的威胁。

除了革命性的创新，人工智能的未来还取决于开发具有嵌入式安全性、开放操作框架和严格的治理程序的韧性。建立对这些智能代理的信任最终将决定它们将被如何广泛和持久地接受，从而塑造人工智能变革潜力的进程。