AIモデルは放射線科の核心的な問題を解決しない理由

今日の放射線科におけるほとんどのAIの仕事は、診断モデルに中心されています。焦点は、より多くのデータでトレーニングし、モデルを洗練することで精度を向上させることです。このアプローチは、放射線科を主に視覚認識タスクとして扱い、より良い検出が全体のシステムを改善することが期待されます。最初の見方では、これは妥当なようです。検出が改善されると、診断の品質も改善されるはずです。この見方は、主な問題を見逃しています。

放射線科の核心的な問題は、診断自体がどのように構造化されているかです。これは、パターン認識の限界ではなく、仕事がどのように組織化され、決定がどのように行われるかです。モデルを改善しても、これを解決しません。以下では、为什么これが起こるのか、そしてモデル精度を超えて何が必要かを見ていきます。

構造的な問題

CVモデルは画像内のパターンを認識するのに役立ちます。制御された研究では、放射線科医と同等のパフォーマンスを達成でき、AUCは0.90以上となり、特定のスクリーニング設定では専門家のパフォーマンスに匹敵または上回ることがあります。多くのドメインでは、検出の能力はもはや主な制約ではありません。

同時に、彼らは画像データのみで動作します。彼らは可能な検出を強調しますが、診断プロセス自体には参加しません。彼らはさまざまな入力を単一の診断に組み合わせたり、決定の方法を導いたりしません。多くのドメインでは、検出の能力はもはや主な制約ではありません。彼らはパターンを認識するように設計されていますが、診断プロセスとして参加するように設計されていません。

実践では、これは構造が変わらないことを意味します。放射線科医は結果を確認し、最終的な決定を下す責任を負い、AIの出力は追加の検証を必要とします。責任は医師に残ります。ワークフローは変わりません。ボトルネックは残ります。各研究はまだ単一の放射線科医に割り当てられ、確認、解釈、検証、報告することが期待されます。研究 によると、臨床医のパフォーマンスはまだAIのエラーの扱い方に大きく依存しており、不正確な出力は決定に悪影響を及ぼす可能性があります。

モデルは自身の決定を再検討することはできません。如果モデルが間違いを犯すと、追加のコンテキストでケースを再検討する方法はありません。結果は固定されますが、実際の診断では連続的な調整が必要です。モデル出力は静的ですが、臨床的推論は本質的に反復的です。

結果として、ボトルネックは残り、変動は続き、プロセスは依然として単一の放射線科医に依存します。画像ボリュームが増加すると、1つの専門家あたりのケースで構築されたシステムは必然的に限界に達します。

信頼の危機

放射線科におけるAIはまた、信頼の問題を提起します。

放射線科医はモデル出力のみを疑問視しません。彼らは、特にAIが彼らが制御できるツールではなく、代替として提示される場合、モデルを裏付けるシステムを疑問視します。モデルへの信頼は不安定です。経験の少ない医師はそれに過度に頼り、エラーを見逃す可能性があります。より経験豊富な医師は、1つのミス後に使用を停止する可能性があります。これらの2つのパターン — 過度の依存と非参加 — は両方とも新たなリスクを引き起こし、リスクを軽減するのではなく、代わりに増大させます。

エラーの後、モデルは決定プロセスから除外されます。ツールとして使用されるのではなく、単に無視されます。これにより、連続性が破壊され、実用的価値が制限されます。実践では、これはワークフローへの安定した統合ではなく、一貫性のない使用につながります。

これは、医学がどのように機能するかとの根本的な矛盾を反映しています。放射線科医は診断の責任をシステムに移譲することはできません。臨床的および法的責任は医師に残ります。AIを代替として扱うことは、医学の実践の構造に反します。

これにより、構造的な矛盾が生じます。モデルは示唆しますが、医師は検証しなければなりません。認識は自動化できます。責任は移譲できない。責任が移譲できない限り、モデルの出力は検証されなければならず、ワークロードを削減する能力が制限されます。

効率性の幻想

AIは放射線科医の仕事を取り除きません。管理の層を追加します。医師はまだ研究を解釈し、モデル出力を検証しなければなりません。これにより、時間を節約するのではなく、二重の仕事が生じます。努力を排除するのではなく、AIは検証と修正の追加ステップに仕事を再配分します。

システムはより速く見えるかもしれませんが、実際には時間は削減されるのではなく、追加のチェックにシフトします。時間の経過とともに、ツールの蓄積は根本的に診断がどのように行われるかを改善するのではなく、運用上のオーバーヘッドを増大させます。

AIはまた、断片化を導入します。ほとんどのモデルは狭いタスクに構築されています。特定の解剖学的領域、モダリティ、または病理です。実際の臨床的ニーズをカバーするには、診療所は複数のモデルを使用する必要があります。統一されたシステムではなく、断片化されたツールのセットにつながります。

各モデルには独自のインターフェイス、統合、メンテナンス要件があります。これにより、システムの複雑さが増し、インタラクションのポイントが増えます。

結果として、システムは管理が困難になり、核心的な診断プロセスは依然として変わりません。

AIのスケーラビリティの限界

各モデルの新しいバージョンで、信頼を再構築する必要があります。ワークフローはモデルに適応し始め、医師をサポートするのではなく、ツールに適応します。これにより、システム自体の改善から、個々のツールへの適応への焦点がさらにシフトします。

これは、ほとんどのモデルの狭い焦点によってさらに困難にします。各モデルは特定のタスクまたは解剖学的領域に設計されています。実践では、これは診療所が同時に複数のモデルを必要とすることを意味し、各モデルには独自の制約、統合、コストがあります。システムはより操作が困難になります。

同時に、AIが今日最も影響を与える場所が明らかになります。画像の解釈ではなく、周囲のシステムの改善 — 研究のルーティング、キューの管理、ケースの適切な専門家への割り当て、ワークロードの予測 — です。これらの領域は、単独の予測ではなく、調整から利益を得ます。

実践での経過

私たちの診療所ネットワークでは、年間100万を超えるMRIとCT研究を3カ国にわたる40以上の診療所で実施し、FDA承認ソリューションを含む複数のAIモデルを実装しました。設定はシンプルでした。モデルは画像研究を分析し、報告書を生成し、放射線科医はそれを確認しました。期待される結果は、ターンアラウンドの高速化とエラーの削減でした。

実践では、経験豊富な放射線科医はモデル出力を見た後に各研究を自分で解釈し続けました。生成されたテキストを操作することは、元から書くよりも多くの労力が必要でした。プロセスは速くなりませんでしたが、多くの場合、より遅くなりました。いくつかのケースでは、モデルとやり取りすることは価値よりも摩擦を生み出しました。

ユーザーの行動もリスクを生み出しました。モデルがエラーを犯すと、経験豊富な放射線科医は信頼を失い、使用を停止する傾向がありました。経験の少ない医師はシステムに過度に依存し、エラーを見逃す可能性が高まり、臨床的および法的リスクが増大しました。

これらの観察は、より深い問題を指しています。個々のツールを改善しても、システムの動作を変えることはできません。ボトルネックは、研究を開始から終了まで単一の放射線科医が扱うように構築されたワークフローにあります。これらの制約により、ツールのみを追加することでシステムを改善することは困難です。

DICOでは、異なるアプローチで取り組みました。既存のワークフローにAIを追加するのではなく、構造自体に焦点を当てました。ケースはパーツに分割でき、各パーツは関連する専門家によって直接画像データ内で処理されます。最終的な報告書はこれらの入力から構成され、AIは調整をサポートします。診断は、このモデルでは、1人の医師によって書かれるのではなく、複数の貢献から構成されます。

これらはモデル品質の問題ではありませんでした。構造の問題でした。

診断システムの再考

現代の放射線科は単一の仮定に基づいて構築されています。1つの研究、1人の放射線科医。これにより、ボトルネック、変動、スケーラビリティの限界が生じます。主な問題は、モデルがエラーを犯すことではありません。システムはそれらと連携するように構築されていません。非スケーラブルな基盤に構築されています。

反復的でないツールが、反復に依存するプロセスに配置されます。臨床実践では、放射線科は単一のパスでの決定ではありません。研究 によると、初期と2回目の解釈間の意見の相違は約30%の症例で発生し、臨床的に重要な相違は約18〜20%の症例で管理に影響を及ぼす可能性があります。2次的な意見は例外ではなく、診断作業の通常の部分です。

より広範にわたって、医学全体で、2次的な意見は診断の変更につながることがあります。設定によっては、10〜62%の症例で診断の変更につながる可能性があります。

再検討、調整、コンテキストで再評価する能力がなければ、モデル出力は静的ままです。実際の診断では、連続的な調整が必要です。

次のステップは、より正確なモデルではありません。診断システムの再設計です。

シフトは、個別のAIツールから、診断を管理する統一された方法へのシフトです。診断は、単一の決定ではなく、複数のステップを経てルーティングおよび解釈されるプロセスです。制限は、知的モデルが不足していることではなく、診断作業をプロセスとして調整できるシステムが不足していることです。