自治型AIを用いたヘルスケアにおける堅牢なセキュリティの確保

データ漏洩に対する戦いは、世界中のヘルスケア組織に増加する課題をもたらしています。現在の統計によると、データ漏洩の平均コストは、$4.45 million に達し、アメリカ合衆国で患者を治療するヘルスケア提供者の場合、コストは $9.48 million に上昇します。この既に難しい問題に加えて、組織内外のデータ増加現象が現代の現象として生じています。懸念されるのは、40% の公開されたデータ漏洩 が複数の環境にわたる情報を伴い、攻撃の表面を大幅に拡大し、攻撃者に多くの侵入経路を提供しています。

生成的なAIの成長は、急速な変化の時代をもたらします。したがって、それに伴う新しいセキュリティリスクも増大します。これらの高度な知能エージェントは、理論から実践への移行により、ヘルスケアなどの複数のドメインで展開されます。これらの新しい脅威を理解し、軽減することは、AIを責任を持って拡大し、組織のサイバー攻撃に対する耐性を高めるために不可欠です。

設計および実装段階での耐性

組織は、特にヘルスケアにおいて、AIによる増加するセキュリティリスクに対処するために、包括的かつ進化するプロアクティブな防御戦略を採用する必要があります。

これには、AIシステムの開発と設計から大規模な展開まで、体系的かつ緻密なアプローチが必要です。

• 組織が最初に取り組むべき最も重要なステップは、データの取り込みからモデルトレーニング、検証、展開、推論までの全AIパイプラインをマッピングし、脅威モデルを作成することです。このステップにより、潜在的な脆弱性とリスクを正確に特定できます。
• 2番目に、Large Language Models (LLMs) を使用するシステムとアプリケーションの展開に安全なアーキテクチャを作成することが重要です。これには、コンテナセキュリティ、セキュアなAPI設計、機密的なトレーニングデータセットの安全な取り扱いなど、さまざまな対策を慎重に検討する必要があります。
• 3番目に、組織は、NIST のAIリスク管理フレームワークなどのさまざまな標準/フレームワークの推奨事項を理解し、実装する必要があります。これにより、包括的なリスク特定と軽減が可能になります。また、OWASP のLLMアプリケーションによって導入される独自の脆弱性、たとえばプロンプトインジェクションやセキュアな出力の取り扱いに関するアドバイスを検討することもできます。
• さらに、クラシックな脅威モデリング技術も、Gen AIによって生成される独自で複雑な攻撃を効果的に管理するために進化する必要があります。これには、データの毒性攻撃や、AIの出力で機密性、偏り、または不適切なコンテンツが生成される可能性などの脅威が含まれます。
• 最後に、展開後も、組織は、レッドチームの演習や、偏り、ロバスト性、明確性を対象とする特別なAIセキュリティ監査を実施することで、AIシステムの脆弱性を継続的に発見し、軽減する必要があります。

注目すべきは、ヘルスケアにおける強力なAIシステムを作成するための基盤は、創造から展開までの全AIライフサイクルを、セキュリティの原則を理解し、遵守することで保護することです。

運用ライフサイクル中の措置

初期のセキュアな設計と展開に加えて、堅牢なAIセキュリティ姿勢を維持するには、AIライフサイクル全体で細部に注意し、積極的な防御が必要です。これには、AI駆動の監視を利用して、機密性または悪意のある出力をすぐに検出することによって、コンテンツの継続的な監視が必要です。モデル開発と生産環境では、同時にマルウェア、脆弱性、敵対的な活動をスキャンする必要があります。これらは、従来のサイバーセキュリティ対策の補足です。

ユーザーの信頼を促進し、AIの意思決定の解釈可能性を向上させるために、Explainable AI (XAI) ツールを慎重に使用して、AIの出力と予測の根底にある理由を理解することが不可欠です。

自動データ発見とスマートデータ分類を使用して、動的に変化する分類子を提供することで、コントロールとセキュリティが強化されます。これにより、常に変化するデータ環境の重要で最新のビューが提供されます。これらの取り組みは、強力なセキュリティコントロールの施行、たとえば、ファイングレインのロールベースアクセス制御 (RBAC) 方法、情報を転送および保存するためのエンドツーエンドの暗号化フレームワーク、および機密データを隠すためのデータマスキング技術の必要性に基づいています。

AIシステムを扱うすべてのビジネスユーザーによる徹底的なセキュリティ認識トレーニングも不可欠です。これにより、人間のファイアウォールが確立され、社会工学攻撃やその他のAI関連の脅威を検出して無効化できます。

Agentic AIの将来のセキュリティ

進化するAIセキュリティ脅威に対する持続可能な耐性の基盤は、提案された多次元的かつ継続的な方法で、AIシステムを密接に監視し、積極的にスキャンし、明確に説明し、知的に分類し、厳格にセキュリティを確保することです。これは、人間中心のセキュリティ文化と成熟した従来のサイバーセキュリティコントロールを確立することに加えて行われます。自律型AIエージェントが組織のプロセスに組み込まれるにつれて、堅牢なセキュリティコントロールの必要性が増大します。今日の現実は、パブリッククラウドでのデータ漏洩が発生し、平均で $5.17 million のコストがかかり、組織の財務と評判に脅威をもたらします。

革新的なイノベーションに加えて、AIの未来は、組み込まれたセキュリティ、オープンな運用フレームワーク、および厳格なガバナンス手順を基盤とする耐性の開発に依存しています。これらの知的エージェントに対する信頼を確立することは、最終的に、どの程度、どのくらいの期間にわたってこれらのエージェントを受け入れるかを決定し、AIの変革的な潜在性の進路を形作ります。