ヘルスケアにおけるAIの使用を避けるべき時

どのような新しい技術的な進歩が業界に導入されても、業界のすべての問題に対する解決策としてその新しい技術を導入する誘惑に駆られることがあります。ヘルスケアにおけるAIはその良い例です。技術が進化を続けるにつれて、薬剤開発、ケアの調整、報酬など、いくつかのユースケースで採用されてきました。ヘルスケアにおけるAIの有効なユースケースは多数存在し、そこでは技術が現在利用可能な代替手段よりもはるかに優れています。

しかし、現在のAIは、特定のタスク、例えば大量のデータを理解し、明確に定義されたルールに基づいて判断を下すことだけに優れています。他の状況、特に追加のコンテキストが正しい決定を下すために不可欠な状況では、AIは適していません。いくつかの例を探ってみましょう。

請求書とケアの拒否

請求書やケアの拒否は、どちらも複雑な決定であり、AIだけで処理するには重要度が高すぎます。請求書やケアを拒否する際には、最大の注意を払って行う道徳的な義務があり、現在のAIの能力では、それには人間の入力が必要です。

道徳的な側面を超えて、ヘルスプランはAIに頼りすぎると、請求書の拒否決定を下す際にリスクを負います。プランは、訴訟に直面し、請求書を拒否するためにAIを不適切に使用したことを理由に、訴訟を起こされています。

過去の決定に頼る

AIが過去の決定に基づいてのみ決定を下すことを信頼することは、明らかな欠点があります。過去の1つの誤った決定が他の決定に影響を与えます。また、AIに情報を提供するポリシールールは、システムに分散しているか、人間によって不完全にコード化されていることが多いため、AIシステムはこれらのポリシーの不正確な理解を採用し、永続させることができます。そうしないようにするには、組織はAIが信頼できるデータセットを参照して学習できるように、ポリシーの単一の真実源を作成する必要があります。

レガシーシステムを基に構築する

比較的新しい技術であるAIは、可能性を感じさせ、多くのヘルスプランのデータサイエンスチームは、既存のエンタープライズプラットフォームに組み込まれたAIツールを活用して、その可能性をすぐに活用したいと考えています。問題は、ヘルスケアの請求書プロセスが非常に複雑であり、エンタープライズプラットフォームはその複雑さを理解していないことが多いということです。請求書の判断に影響を与えるさまざまな要因を考慮していない、ワンサイズフィットオールの解決策として、これらのレガシープラットフォームの上にAIを配置すると、プロセスをより効率的にするのではなく、混乱と不正確さを生み出します。

古いデータに頼る

AIの最大の利点の1つは、タスクの調整に際して、学習するにつれてますます優れてくことです。しかし、その学習は、AIが何を間違えたかを理解し、調整するためのフィードバックループが存在する場合にのみ発生します。そのフィードバックは、継続的であるだけでなく、クリーンで正確なデータに基づいている必要があります。AIは、学習するデータの質だけが得ることができるものです。

ヘルスケアにおけるAIの有効性

ヘルスケアのような、出力が非常に重要な分野でのAIの使用には、慎重さが必要ですが、それはAIの有効なユースケースがないことを意味しません。

1つの例として、ヘルスケアにおけるデータは不足していません(1人の医療レコードが何千ページにもなる可能性があることを考えると)。そのデータ内のパターンは、疾患の診断、請求書の正確な判断など、多くのことを教えてくれます。ここがAIの強みです。パターンを探し、それに基づいて行動を提案するという点で、人間のレビューアーが活用できるものです。

AIが優れているもう1つの分野は、請求書の支払いを規定するポリシーとルールのカタログ化とインジェストです。生成的なAI（GenAI）は、さまざまな形式のポリシーコンテンツを、機械が読み取ることができるコードに変換し、それをすべての患者の請求書に一貫して適用できます。GenAIは、情報を要約して人間が読みやすい形式で表示することもできます。

これらのユースケースを通底する重要な点は、AIが人間のコピロットとして使用されていることです。人間がAIを監督し、AIが主導するのではなく、AIを実装する組織がこの考えを念頭に置けば、ヘルスケアがAIによって変革されるこの時代に成功する立場に立てるでしょう。