确保自主人工智能在医疗保健领域的安全性

数据泄露的激烈战争对全球医疗保健组织构成了日益增长的挑战。根据当前的统计数据，数据泄露的平均成本现在达到 $4.45 million 全球，美国医疗服务提供者为患者提供服务的成本更是高达 $9.48 million。另外，现代现象的跨组织和内部组织数据扩散也增加了这一已经令人生畏的问题。令人担忧的是，40% 的泄露 涉及跨多个环境的信息，极大地扩大了攻击面，并为攻击者提供了许多入口途径。

自动生成人工智能的日益增长的自主性带来了一个变革的时代。因此，它带来了额外的安全风险，因为这些先进的智能代理从理论转向多个领域的部署，例如医疗保健领域。了解和减轻这些新威胁对于负责任地扩大人工智能和增强组织对任何类型的网络攻击的弹性至关重要，无论是恶意软件威胁、数据泄露还是精心策划的供应链攻击。

设计和实施阶段的弹性

组织必须采用全面和进化的主动防御策略来应对人工智能带来的日益增长的安全风险，特别是在医疗保健领域，风险不仅涉及患者的健康，还涉及遵守监管措施。

这需要系统化和详尽的方法，从人工智能系统的开发和设计开始，直到这些系统的大规模部署。

• 组织需要采取的第一步也是最关键的一步，是绘制和建模整个人工智能流水线，从数据摄取到模型训练、验证、部署和推理。这一步可以精确地识别所有潜在的暴露点和漏洞，根据影响和可能性进行风险细分。
• 第二，创建大型语言模型（LLM）部署的安全架构至关重要，包括具有 Agentic AI 能力的模型。这涉及仔细考虑各种措施，例如容器安全、安全 API 设计和敏感训练数据集的安全处理。
• 第三，组织需要了解和实施各种标准/框架的建议。例如，遵循 NIST 的人工智能风险管理框架，进行全面风险识别和缓解。他们还可以考虑 OWASP 关于大型语言模型应用程序引入的独特漏洞的建议，例如提示注入和不安全的输出处理。
• 此外，经典的威胁建模技术也需要演变，以有效地管理由通用人工智能生成的复杂攻击，包括对模型完整性构成威胁的隐蔽数据中毒攻击，以及在人工智能输出中生成敏感、有偏见或不恰当内容的潜力。
• 最后，即使在部署后，组织也需要保持警惕，通过定期和严格的红队演练和专门的人工智能安全审计，特别针对偏差、鲁棒性和清晰度等方面，持续发现和缓解人工智能系统的漏洞。

值得注意的是，在医疗保健领域创建强大的人工智能系统的基础是从创建到部署整个人工智能生命周期的基础上，保护它免受新威胁和已确立的安全原则的影响。

运营生命周期期间的措施

除了最初的安全设计和部署，强大的人工智能安全态势还需要在整个人工智能生命周期中细致地关注和积极的防御。这需要通过利用人工智能驱动的监视来持续监测内容，立即检测敏感或恶意输出，同时遵守信息发布政策和用户权限。在模型开发和生产环境中，组织需要积极扫描恶意软件、漏洞和对抗性活动，同时也需要传统的网络安全措施。

为了鼓励用户信任和提高人工智能决策的可解释性，使用 可解释人工智能 (XAI) 工具来理解人工智能输出和预测的根本理由至关重要。

改进的控制和安全性也通过自动数据发现和智能数据分类得以实现，后者使用动态更改的分类器，提供了对不断变化的数据环境的关键和最新的视图。这些举措源于实施强有力的安全控制的必要性，例如细粒度的基于角色的访问控制（RBAC）方法、端到端加密框架以保护传输和存储中的信息，以及有效的数据屏蔽技术以隐藏敏感数据。

所有处理人工智能系统的业务用户都需要进行彻底的安全意识培训，因为这建立了一个至关重要的人类防火墙，以检测和中和可能的社会工程攻击和其他人工智能相关威胁。

确保Agentic AI的未来

在面对不断演变的人工智能安全威胁时，持续的弹性基础在于提出的多维和持续的方法，即密切监测、积极扫描、清晰解释、智能分类和严格保护人工智能系统。这当然是除了建立广泛的人员导向安全文化和成熟的传统网络安全控制之外的。随着自主人工智能代理被纳入组织流程中，对强有力的安全控制的需求增加了。今天的现实是，公共云中的数据泄露确实会发生，并且平均成本为 $5.17 million，这清楚地表明了对组织财务和声誉的威胁。

除了革命性的创新，人工智能的未来还取决于开发具有嵌入式安全性、开放的运营框架和严格的治理程序的弹性。建立对这些智能代理的信任最终将决定它们被采用的广泛性和持久性，从而塑造人工智能变革潜力的整个轨迹。