ヘルスケアにおけるAIの懐疑主義に対処する：安全なコミュニケーションを実現するための障害の克服

ヘルスケアのリーダーたちは、AIを採用することで競合他社や他の業界との差を埋め、効率性を高め、患者経験を向上させたいと考えています。しかし、ヘルスケアのリーダーのうち77%のみが、ビジネスに利益をもたらすためにAIを信頼しています。

AIチャットボットは、ルーチンタスクの処理、データの分析、情報の要約などで優れていますが、厳しく規制されたヘルスケア業界では、AIに与えられるデータの信頼性と正確性が最も懸念されています。適切な使用と従業員のトレーニングが行われていない場合、データ漏洩が重大な脅威となります。

それでも、95%のヘルスケアリーダーは、2025年にAIの予算を最大30%増やす予定です。特に、大規模言語モデル（LLM）が最も信頼されるツールとして登場しています。LLMが成熟するにつれ、53%のヘルスケアリーダーはすでにチームがこれらに適応するための正式なポリシーを導入しており、さらに39%のリーダーは近くポリシーを導入する予定です。

AIを使用してコミュニケーションサービスをストリームライン化したいヘルスケアプロバイダーにとって、最も一般的な障害を克服するための推奨事項は以下の通りです。

1. 信頼できる医療ソースでAIをトレーニングする

ヘルスケアリーダーは、AIのトレーニングに直接関与しない場合でも、その実施を監督する上で重要な役割を果たさなければなりません。チャットボットプロバイダーが信頼できるソースでAIをトレーニングし、定期的に更新していることを確認する必要があります。

電子ヘルスレコード（EHR）によって収集される構造化された豊富なデータは、AIアルゴリズムのトレーニングの基礎となるデジタルヘルスデータの巨大なリポジトリを提供します。高度なLLMは、医療研究、技術分析、文献レビュー、批判的評価を理解できます。ただし、これらのツールをすべてのデータで一度にトレーニングするのではなく、新しい証拠は、AIのパフォーマンスを最大化しながらトレーニングコストを低く抑えるために、より小さな交差点に焦点を当てることを示しています。

2. HIPAA準拠のデータ処理を確保する

健康保険携帯性及び責任法（HIPAA）は、機密性の高い患者健康情報（PHI）の保護に関する基準を定めています。ヘルスケアリーダーは、第三者ベンダーが以下の条件を満たしていることを確認する必要があります。

• チャットボットの目的を達成するために必要な最小限のPHIを収集します。
• 強力なパスワードと認証ポリシーを持つ承認された人員のみにPHIへのアクセスを許可します。
• PHIを保護するために、強力な暗号化技術を使用します（保存中と転送中の両方で）。
• 必要なデータをHIPAA準拠のサーバーに保存し、強力なアクセス制御を実施します。
• HIPAAに準拠するために、事業者契約（BAAs）を締結します。
• セキュリティインシデントに対する対応計画を求めます。

ヘルスケアリーダーは、AIツールを使用する際に、患者から明確な同意を得て、患者データの収集と使用について患者に通知する必要があります。

3. ワークフローを改善する、設計の優れたインターフェース

EHRの導入時に、技術の使いやすさが最大の障害でした。医師たちは、複雑なワークフローに慣れるのに多くの時間を費やし、専門家としての焼き場を高めるリスクと、患者ケアに影響を与えるミスのリスクが高まりました。

第三者ベンダーと協力する際には、デモと第二の意見を求める前に、AIプラットフォームまたはソフトウェアソリューションを選択する必要があります。現在のプログラムに適応するようにカスタマイズできる機能が利用できるかどうかを確認し、ワークフローに最も適した機能を統合する必要があります。

ユーザー中心の設計と標準化されたデータ形式およびプロトコルは、ヘルスケア技術とAIプラットフォーム間の情報交換を容易にします。こうした標準が整備されると、AIアルゴリズムは、さまざまなヘルスケア設定での臨床ケアに有意義に統合できます。確立されたプロトコルは、ツールのパフォーマンスを向上させるために、相互運用性を促進し、大規模で多様なデータセットへのアクセスを可能にします。

4. 適切な使用と従業員トレーニング

2024年の研究によると、人間の医師とAIによって提供される医療アドバイスは、人間の医師だけによって提供されるアドバイスよりも包括的ですが、共感的ではありません。ヘルスケアリーダーは、AIの能力と限界を理解し、適切な人間の監督と介入を確保する必要があります。

ヘルスケアリーダーは、ウェブサイトや患者アプリにチャットボットを埋め込むことで、ユーザーが医療情報に即座にアクセスできるようにし、自己診断と健康教育を支援できます。これらのツールは、患者が処方薬を再処方するためのタイムリーなリマインダーを送信して、治療計画の遵守を支援できます。さらに、患者の状態の重篤度に基づいて患者の分類を支援し、ヘルスケアプロバイダーがケースの優先順位付けとリソースの割り当てを効率的に行えるようにします。

しかし、これらのツールはまだ「ホールシネーション」（hallucination）を起こす可能性があり、複雑なタスクには人間のバリデータの関与が不可欠です。第三者専門家と協力して、AIコミュニケーションツールのビジョンを定義し、望ましいワークフローを作成します。用途を合意したら、従業員のオンボーディングと最終的に患者結果の向上を支援するための、運用的および文化的変化管理プロセス（例：コッターの8ステップ変化プロセス）が提供されます。

5. チャットボットにミスを捕捉させる

どのビジネスリーダーもミスを犯したくないと思いますが、ヘルスケア業界は、高いリスクの環境であり、ささいな過失でも深刻な結果をもたらす可能性があります。ただし、最も優れた臨床医でも、医療ミスには免れられません。AIは、ミスを捕捉し、ギャップを埋めることで、患者ケアの向上に有力なツールとなり得ます。

2023年の調査では、GPT-4を使用して、患者と臨床医の会話を書き起こし、要約し、その後チャットボットを使用して会話のミスを確認しました。検証の際、チャットボットは、患者さんのBMIに関するミスの発見に成功しました。また、チャットボットは、患者さんの記録に、血液検査の注文やその理由が記載されていないことも発見しました。

この例は、AIが医師がAIの「ホールシネーション」、「オミッション」、およびミスを捉えるのを支援するための補助ツールとして使用できることを示しています。

ヘルスケアAIは、医師や看護師を支援し、ワークフローを合理化し、患者ケアへのアクセスを改善し、過失を最小限に抑えることを目的としています。人間のヘルスケアプロバイダーがもたらす共感、直感、現実世界の経験を完全に代替することはできませんが、これらのツールは優れた分析と時間節約のメリットを提供します。ヘルスケアリーダーがHIPAA規制、患者との透明なコミュニケーション、適切な従業員トレーニングへの注意深い対応を確実に実施する場合、これらのツールを安全かつ自信を持って導入できます。