マシュー・クロウソン博士、ウォルターズ・クルワー・ヘルスAI/GenAI製品管理ディレクター – インタビュー・シリーズ

マシュー・クロウソン博士は、ヘルスケア技術のリーダーであり、実践的な外科医です。彼は、ウォルターズ・クルワー・ヘルスのAI/Generative AI製品のディレクターであり、エビデンス・シンセシスとリアルワールド・データ分析の改善を主導しています。以前は、デロイトのヘルスケア・プロバイダーAIプラクティスを率いて、文書化、収益サイクル、研究を強化するためのジェネレーティブAIソリューションを開発しました。また、ハーバード・メディカル・スクールの助教授でもあり、90以上のピアレビュー済み出版物を著しています。

ウォルターズ・クルワーは、専門情報、ソフトウェア、サービスを提供するグローバル企業であり、ヘルスケア、税務・会計、法律・規制、金融コンプライアンス、ESGの分野でクライアントをサポートしています。オランダに本拠を置く同社は、業界の深い知識と先進技術を活用して、ワークフローを合理化し、コンプライアンスを確保し、重要な意思決定をサポートするツールを提供しています。同社の事業は180以上の国に及んでおり、ヘルス、税務・会計、法律・規制、金融・コーポレート・コンプライアンス、コーポレート・パフォーマンス・ESGなどの部門にわたって提供しています。

まず、外科医としての役割とAI製品リーダーとしての役割のバランスについてお話しください。臨床での経験は、ヘルスケアにおけるAIのあり方についてどのように見ているか?

正直に言えば、時間管理とコーヒーが重要です。診療時間は患者ケアのスキルを維持するのに役立ちますが、残りの時間は患者ケアの痛み点を製品仕様に変えることに費やしています。2つの役割は相互に補完し合います。患者のケアを提供することで、AIの開発に役立つ洞察を得ることができます。

AIプロジェクトは、誰もが痛み点を感じていない場合に失敗します。私たちのFuture Ready Healthcare Surveyによると、80%のリーダーがワークフローの最適化を最優先事項としています。しかし、63%のみがGenAIでそれを実現する準備ができていると考えています。これは、戦略と実行のギャップであり、ドメインの専門家が臨床的な「なぜ」を問い、コードを書く前に解決することで解決できます。

私の臨床的な視点は、ミッションを実用的であり続けることを保証します。フロントラインのスタッフは、スタッフ不足を解消すること（82%）、管理オーバーヘッドを削減すること（77%）、バーンアウトを軽減すること（76%）を最優先事項として挙げました。アルゴリズムがこれらのニーズを解決しない場合は、単なる演出です。臨床医はすぐに興味を失います。

その視点はまた、AIが侵食すべきではない領域についても慎重に考えることを促しています。実際、57%の専門家がGenAIへの過度の依存が臨床判断を損なう可能性があると心配していますが、18%のみが組織がガイドラインを公開したと述べています。ガバナンスが追いつくまで、課題は明確です。文書化を自動化し、思考を自動化しないことです。

したがって、私にとってのバランスは、コーヒーとカレンダーの問題ではなく、クリニックに足を置き、AIが誰をサポートするべきかを忘れないことであり、製品に足を置き、知識が実現されることを保証することです。そうすれば、カフェインは素敵なボーナスになります。

ウォルターズ・クルワーのFuture Ready Healthcare Survey Reportは、GenAIの熱狂と実行の間にある大きなギャップを強調しています。どの結果が最も驚いたですか? 何が最も印象に残りましたか?

私は全く驚きませんでした。私は、自動化に反対する臨床医には出会ったことがありません。展開が遅れるのは、ヘルスケアの運用の日常的な苦労です。調査はその現実を明確に示しています。8人のうち7人のリーダーがワークフロー最適化を最優先事項としているのに対し、6人のうち5人だけがGenAIでそれを実現する準備ができていると考えています。その差は、私が見ているものと同じです。法的責任の地雷、データがデータ・レイクではなくジャンク・ドロワーのように見える、効率よりもボリュームを重視する金融的インセンティブなど、他の障害もあります。

私にとって最も印象的なのは、障害がどれほど平凡であるかです。スタッフ不足、管理の負担、バーンアウトが心配事のリストを支配していますが、組織の18%のみが正式なGenAIポリシーを持っています。エントゥシアズムは死にます。

調査によると、ヘルスケアの専門家の過半数が、GenAIが臨床判断力を損なう可能性があることを心配しています。心配は妥当ですか、それともAIシステムにおける信頼と透明性についてのより深い懸念を反映していますか?

ある程度の不安は実際ですが、それはAIの恐怖よりも、むしろ説明責任の問題です。ツールが診断の差を数秒で提供する場合、透明性が必要です。推奨事項はどこから来ているのか、誰が承認するのか、どのように監査されるのか。現在、組織の少数派のみが正式なGenAIガバナンスを持っています。臨床医は慎重になります。

私は歴史的な観点からこの問題を見ています。財務部門にスプレッドシートが導入されたとき、会計士の一部は分析能力が衰えることを心配しました。代わりに、スプレッドシート・ソフトウェアは精度の基準を高めました。ヘルスケアは同様の飛躍が必要です。私たちは、ケアの変化に多くの患者を失っています。医療ミスは引き続き主要な傷害と死亡の原因です。GenAIの超能力は、ガイドライン、禁忌、外れ値を人間がチャートを調べるよりも速く表面化することによって、エラーバーを狭めることです。しかし、自律的な意思決定者ではなく、補助的なものでなければなりません。

したがって、心配は妥当ですが、解決可能です。透明性のあるデータセット、監査トレイル、人間によるチェックポイントにより、「AIの侵食」は「AIの増強」に変わります。臨床医に追跡可能な推奨事項と明確な説明責任を与えると、57%は消えます。これは、専門知識を置き換えることではなく、より良いツールで増強することです。

調査によると、組織の18%のみがGenAIについて明確なポリシーを持っていることが示されています。ガバナンスがなければGenAIツールを展開することの潜在的なリスクは何ですか?

新しい薬を投与ラベルなしで発売することを考えてみましょう。ヘルスケア・データは非常に機密性が高く、GenAIモデルは保護されたヘルス・インフォメーション（PHI）を吸収することでのみ賢くなります。データ管理の厳格なポリシーがなければ、誰が情報をアップロードできるか、データがどのようにログされるか、どこにデータが保存されるかがわかりません。組織は、プライバシー違反の危険性にさらされています。

責任も地雷です。アルゴリズムが推奨される用量を妄想する場合、誰が過失請求を負いますか。ベンダー、病院、またはボタンを押した臨床医ですか。現在、答えは曖昧です。ベンダー、病院、または臨床医のうち誰かが請求を負う可能性があります。規制が明確でない場合、法律家は通常、最も深いポケットを持つ人に責任を負わせます。その不確実性 alone でイノベーションが停滞します。

ガバナンスは、モデル・ドリフトやサイレント・バイアスなどのリスクからも保護します。ガイドラインの古いバージョンで訓練された腫瘍ボットは、ケアをエビデンス・ベースのレールから外す可能性があります。バージョン管理、成果物の監視、サンセット・トリガーを義務付けるポリシーは、アルゴリズムが安全性の危険物になるのを防ぎます。

最後に、信頼が懸かかっています。臨床医は、GenAIへの過度の依存が臨床判断力を損なう可能性があることを心配しています。透明性のないツールを展開すると、その心配が確実になります。明確なガバナンス、データの出典の透明性、検証プロトコル、人間によるチェックポイントにより、「ブラックボックス」の不安は、AIが補助的なチームメンバーであり、自律的なレジデントではないことを確認する信頼に変わります。

ウォルターズ・クルワーと手術室でのあなたの仕事に基づいて、ヘルスケアにおけるGenAIの最も現実的な近期の使用例は何ですか?

ロボット外科医を忘れてください。次の3年間で、GenAIのキラー・アプリケーションは、管理の破壊です。2つのレーンはすでに自分自身を証明しています。

1. フロント・オブ・ハウスのノート・テイキング。 周辺のリスニング・ツールは、医師が患者と話している間に進捗ノートを書き込み、電子ヘルス・レコード（EHR）に直接ドロップします。私たちの調査によると、41%の回答者はこれをGenAIのウィッシュリストに挙げており、技術はすでに初期導入者のヘルスシステムで利用可能です。いくつかの研究は、周辺のDictationシステムが認知負荷を51%、夜間の「パジャマ時間」を60%以上削減できることを示しています。これは、ハードなROIです。すぐに感じることができます。
2. バック・オフィスの収益保護。 次のドミノは、事前の承認パケット、拒否の控訴書、収益サイクルのスラッジなどのものです。参照として、67%のリーダーは事前の承認が単独で生産性を妨げていると述べており、62%はEHR管理の負担を指摘しています。チャートを読み、这些フォームを自動で埋めることができる大規模言語モデルは、請求書を短縮し、スタッフをより高価値の仕事に解放することですでに日数を節約しています。

なぜこれら2つか? これらは、低い臨床リスク、高い労働者救済、明確なドルとセントの正当化の3つの条件を満たしています。スタッフ・コストがトップの財務プレッシャーであると68%の幹部が挙げている市場では、ケア・プランを変更せずに時間を返すツールは、最も簡単な「はい」です。自律的な診断は後で来ます。現在、GenAIはクリップボードを消すことでその価値を証明します。

調査によると、データは最もリスクの高いものとして挙げられていません。これは、データのプライバシーがヘッドラインで頻繁に話題になることとは対照的です。臨床医や管理者はどのようなリスクを最も心配していますか?

私は驚かされませんでした。ヘッドラインでは、HIPAA違反が毎晩病院のCIOを目覚めさせているように思われます。しかし、私たちのデータは、56%の専門家がプライバシーをトップのGenAIリスクとして挙げている一方で、57%のスライスが「臨床判断を鈍らせる」ことを心配していることを示しています。これは、最前線の心配がハッカーではなく、説明責任であることを示しています。

ここに臨床医や管理者が心配しているものがあります。

• 責任のルーレット。 アルゴリズムがケアを軌道から外す場合、誰が過失請求を負いますか。規制や基準が明確でない場合、法的な爆発の危険性は実際です。
• 規制の鞭打ち。 76%のリーダーはすでにメディケアやメディケイドの規制の変化に振り回されていると感じており、不透明なGenAIを重ねると、実行は難しいです。
• モデル・ドリフトとバイアス。 55%が未訓練モデルからのバイアスを重要なリスクとして挙げており、古いデータは欠落しているデータと同じくらい危険であることを思い出させます。

短いと、ほとんどの組織はファイアウォールが妥当であると想定しています。ただし、LLMの出力がケア・プランに含まれる場合、明確な説明責任の連鎖が欠けているため、GenAIの展開は停止します。

GenAIツールは最終的に臨床医の自主性を強化するでしょうか、それとも希薄にしますか? どうすれば決定を支援するシステムを設計できますか?

GenAIは、臨床医の自主性を拡大する可能性が高いです。現在、多くの自主性は、インボックスの整理、事前の承認の書類作業、EHRの体操によって妨げられています。驚くことではありませんが、フロントラインのスタッフは、GenAIの最優先事項として「ワークフローの最適化」（80%の優先度）を挙げていますが、63%のみが技術的に準備ができていると考えています。薬剤師やアライド・ヘルス・プロフェッショナルは、すでにプラスの側面に賭けています。41%と47%は、GenAIが管理の脂肪を削減して、支援スタッフのニーズを減らすことができると考えています。臨床医からデータ入力を解放することで、患者との面会時間が増えるということです。那は、誰もが望む自主性です。

しかし、調査は、57%の回答者がGenAIへの過度の依存が臨床判断力を鈍らせる可能性があることを心配していることも思い出させます。解決策は、思慮深い設計であり、スローダウンではありません。システムは、出典、引用、信頼度スコアを示すことで人間が最終的な判断者であることを保証する必要があります。バージョン管理と展開後の監視により、サイレント・モデル・ドリフトがケア・パスを毒する前に捕捉されます。また、「常に表示されるオーバーライド」ボタンにより、アルゴリズムが補助であり、主治医ではないことが明確になります。

ガバナンスは最後の1マイルです。18%の専門家のみが組織に明確なGenAIポリシーがあると述べています。透明性のある説明責任の連鎖がなければ、最も優れたユーザー・エクスペリエンスでも法的なLimboに陥ります。厳格なポリシーは、データの管理、監査トレイル、役割の区分を明確に定める必要があります。これらは、医師、看護師、ボタンを押す医師のアシスタントにわたって社会化される必要があります。ガイドレールとワークフロー・ネイティブ・デザインを組み合わせると、GenAIは自主性への脅威ではなく、臨床医が求めていたコ・パイロットのように感じます。

GenAIの採用を妨げているのは何ですか? 技術的制限、規制の不確実性、ワークフローへの摩擦、または文化的抵抗などの根本的なものですか?

実行の欠如に包まれたビジョンです。ほとんどのヘルスシステムのリーダーは、すでにスムーズなGenAIビジョンを述べることができます。しかし、運用の筋肉は追いついていません。調査は、80%の回答者がワークフローの最適化を最優先事項としているのに対し、63%のみがGenAIでそれを実現する準備ができていると考えています。ビジョンは安いですが、統合エンジニア、変更管理のプレイブック、GPUの予算はそうではありません。

ガバナンスは次の地雷です。18%の専門家のみが病院に明確なGenAIポリシーがあると述べています。データの使用、検証、責任の明確な規則がなければ、どのプロミスなパイロットでもコンプライアンスの地雷になります。その法的不確実性は、変化するメディケアやメディケイドの規制によって増幅されます。

次に、トレンチレベルの摩擦があります。幹部のほぼ半数が汚れたデータやEHR統合の悪夢を主要な障害として挙げており、42%のみがGenAIツールを既存のワークフローに組み込むプロセスを持っています。モデルがチャートを見たり、クリックを追加したりしない場合、臨床医はそれを放棄します。

最後に、「パイロット・リムボ」があります。外部の研究によると、AIパイロットがエンタープライズ・スケールに到達する成功率は約1割です。取締役会はデモを祝い、プレスリリースを発行し、次に進みます。ただし、誰も次の地味な配管作業を資金提供しません。GenAIは、ソフトウェアを以前出荷したことがある製品所有者が病院に配置されるまで、パワーポイントの約束のまま残ります。

短いと、テクノロジーと文化は別々のブロッカーではありません。融合しています。説明責任のあるリーダーシップ、実際の統合予算、明確なガイドレールを解決すれば、GenAIへの関心はその期待に応えます。

あなたは、実用的な、エビデンスに基づいた成果に焦点を当てたAIシステムを構築しました。ヘルスケアのリーダーがハYPEと有益なAI投資を切り分けようとしている場合、あなたはどのようなアドバイスをしますか?

デモではなく、診断から始めます。ハンマーが釘を探す前に、釘を量ります。手術室の利用率が2四半期連続で8%下がっている場合、否認の控訴が滞留し、収益を失っている場合、または看護師が1シフトで2時間をEHRの「トグル・タイム」に費やしている場合に、正しいツールが現れます。問題が明確になると、ビジネス・ケースが明確になります。

問題を特定したら、CFOのようにビジネス・ケースを追及します。ハードな数字を要求します。基準メトリック、予測されるデルタ、ボードルームの嗅ぎ回しテストに耐えるペイバック・ウィンドウ。約1割のAIパイロットのみがエンタープライズ・スケールに到達することを覚えておいてください。ベンダーが、心配しているKPIを移動した実際の顧客を示すことができない場合、歩き続けてください。

次に、購入、構築、またはパートナーシップを決定します。購入すると時間を節約できますが、バズワードに包まれたヴァポウェアに注意してください。構築するとコントロールが得られますが、以前から機械学習を出荷したことがある利益と損失の所有者が必要です。ハイブリッド・パートナーシップは、バランスをとることが多いです。データはあなたのものですが、モデルは彼らのものです。利益とリスクは共有されます。

最後に、小規模で職能を超えたチームを優先し、明確な説明責任を持ちます。CMO、CIO、データ・エンジニアリングの責任者、フロントラインのチャンピオンを含む2枚のピザのチームを考えてみましょう。大きなステアリング委員会ではなく、インセンティブを長期的な成果目標に合わせ、専用のインフラストラクチャ予算（GPU、データ・エンジニアリング、MLOps）を与え、プロジェクトがパイロット段階を超えて進むようにします。

最後に、5年後の病院での完全に統合されたGenAIシステムの姿を想像してください。そこまで達成するために、どのような里程標がありますか?

医師がキーボードに回すことなく会話が流れるクリニックを想像してみましょう。会話が流れ、周辺のリスニング・エージェントがダイアログをキャプチャし、ノートを起草し、ガイドラインに基づいたオーダーをキューションし、事前の承認パケットを生成します。早期のパイロットはすでにこの概念を証明しています。41%の臨床医はこれが次に欲しいGenAI機能であると述べています。

そのシーンを可能にするものは、ロボティクスではなく、データの統合、リアルタイムのオーケストレーション・レイヤー、ガバナンス・アズ・コードの不可視アーキテクチャです。まだ課題があります。ギャップを埋めるには、まずデータの配管を考えてください。次に、ガイドレールを組み込んでください（ボルトオンではなく）。そうすれば、ハYPEが習慣になります。

里程標は、基盤が整ったら自然に現れます。1年目では、データ・ファブリックを接続し、エンタープライズ全体のGenAIガイドラインを公開し、MLOpsパイプラインを構築することをお勧めします。展開の2年目では、アンビエント・ドキュメンテーションを外来診療クリニックに拡大し、ドキュメンテーション時間と夜間の「パジャマ時間」を測定します。3年目では、GenAIで拒否の控訴と事前の承認パケットを起草します（67%のリーダーはその負担を除去することを望んでいます）。4年目と5年目では、リアルタイムの臨床意思決定サポートに進化し、最終的に会話ベースのケア・プランニングでシステムが発注された瞬間に発注を実行します。

素晴らしいインタビュー、ありがとうございました。読者がもっと知りたい場合は、ウォルターズ・クルワーを訪ねるか、Future Ready Healthcare Survey Reportを読んでください。