ヘルスケア1 year ago
医療分野でAIを避けるべき時
新たな技術的進歩が業界に登場するたびに、その輝く新玩具を業界のあらゆる病弊への特効薬として祭り上げたくなる誘惑があります。医療分野におけるAIはその好例です。技術が進歩を続ける中、創薬、ケアの調整、支払い請求など、さまざまなユースケースで採用されてきました。医療分野には、現在利用可能な他のどの選択肢よりもはるかに優れている、正当なAIのユースケースが数多く存在します。しかし、現状のAIが優れているのは、膨大なデータを理解したり、明確に定義されたルールに基づいて判断を下したりするなど、特定のタスクに限られます。特に、適切な判断を下すために追加の文脈が不可欠な状況は、AIには適していません。いくつかの例を探ってみましょう。請求とケアの拒否請求であれケアであれ、拒否は複雑な判断であり、あまりにも重要であるため、AI単独で処理することはできません。請求やケアを拒否する際には、最大限の注意を払って行うという明白な道徳的要請があり、今日のAIの能力を考えると、そこには人間のインプットが必要です。道徳的な要素を超えて、健康保険プランは、拒否決定を下す際にAIに過度に依存することで自らを危険にさらします。保険プランは、請求を拒否するためにAIを不適切に使用したとして訴訟に直面する可能性があり、実際に直面しており、訴訟では、医師による審査の最低要件を満たしていないと非難されています。その理由は、AIが代わりに使用されたからです。過去の決定に依存すること過去にどのように決定を下したかだけに基づいてAIに判断を委ねることには、明白な欠陥があります。過去の一つの誤った決定が、他の決定に影響を与え続けることになるのです。さらに、AIに情報を提供するポリシールールは、しばしば複数のシステムに分散していたり、人間によって不完全にコード化されていたりするため、AIシステムはこれらのポリシーを不正確に理解し、採用し、そして永続化させてしまう可能性があります。これを避けるためには、組織はポリシーの真実を単一の情報源として作成する必要があります。そうすれば、AIは信頼できるデータセットを参照し、そこから学習することができます。レガシーシステムの上に構築すること比較的新しい技術として、AIは可能性をもたらします。多くの健康保険プランのデータサイエンスチームは、既存のエンタープライズプラットフォームに組み込まれているAIツールを活用することで、その可能性に迅速にアクセスしようと躍起になっています。問題は、医療請求処理は非常に複雑であり、エンタープライズプラットフォームはその複雑さを理解していないことが多いということです。これらのレガシープラットフォームの上に、万能の解決策（請求審査に影響を与える様々な要因をすべて考慮していない解決策）としてAIを貼り付けることは、より効率的なプロセスを生み出すどころか、混乱と不正確さを引き起こす結果になります。古いデータに依存することAIの最大の利点の一つは、学習するにつれてタスクの調整がますます上手くなることですが、その学習は、AIが何を間違えたのかを理解し、それに応じて調整できるようにする一貫したフィードバックループがあって初めて可能になります。そのフィードバックは、一貫しているだけでなく、クリーンで正確なデータに基づいていなければなりません。結局のところ、AIは、それが学習するデータと同じ程度にしか優れていないのです。医療分野でAIが有益である場合医療のようにその結果が重大である分野でのAIの使用には確かに注意が必要ですが、AIが理にかなっているユースケースがないわけではありません。一つには、医療分野にはデータが不足していません（一人の患者の医療記録が数千ページに及ぶ可能性があることを考えてみてください）。そして、そのデータ内のパターンは、疾病の診断、請求の正しい審査などについて多くのことを教えてくれます。これはAIが優れている分野であり、パターンを探し、そのパターンに基づいて人間の審査者が実行できるアクションを提案します。AIが優れているもう一つの分野は、請求がどのように支払われるかを規定するポリシーとルールのカタログ化と取り込みです。生成AI（GenAI）を使用して、このポリシーコンテンツをさまざまな形式から機械可読コードに変換し、すべての患者の請求に一貫して適用することができます。GenAIはまた、情報を要約し、人間がレビューしやすい読みやすい形式で表示するためにも使用できます。これらすべてのユースケースに通底する重要な点は、AIが単独で主導権を握るのではなく、それを監督する人間のコパイロットとして使用されているということです。組織がAIを実装する際にこの考え方を念頭に置き続ける限り、AIによって医療が変革されつつあるこの時代において、成功する立場に立つことができるでしょう。
