Dr. Tim Wetherill, チーフクリニカルオフィサー、Machinify Dr. Tim Wetherill チーフクリニカルオフィサー、Machinify

ヘルスケアでAIを避けるべき時

新しい技術が業界に導入されるたびに、その業界のすべての問題を解決するための新しい技術を導入する誘惑に駆り立てられることがあります。ヘルスケアにおけるAIもその例外ではありません。技術が進化を続けるにつれて、薬剤開発、ケア調整、請求など、さまざまな用途で採用されてきました。ヘルスケアにおけるAIの有効な用途は多数存在し、その技術は現在利用可能な代替手段よりも遥かに優れています。しかし、AIは現在、特定のタスク、例えば大量のデータを理解し、明確に定義されたルールに基づいて判断を下すことにのみ優れています。他の状況、特に正しい判断を下すために追加のコンテキストが必要な状況では、AIは適していません。いくつかの例を探ってみましょう。請求およびケアの拒否請求またはケアの拒否は複雑な決定であり、AIだけで処理するには重要度が高すぎます。請求またはケアを拒否する場合、最大の慎重さで行うべき道徳的義務があり、現在のAIの能力では、それには人間の入力が必要です。道徳的側面を超えて、ヘルスプランはAIに頼りすぎると、請求またはケアの拒否決定を下す際にリスクを負います。ヘルスプランは、訴訟に直面し、AIを使用して請求を不当に拒否したとして非難されています。過去の決定に頼るAIが過去の決定に基づいてのみ決定を下すことを信頼することは、明らかな欠点があります。過去の1つの間違った決定は、他の決定に影響を与え続けるからです。また、AIに情報を提供するポリシールールは、システムに分散しているか、人間によって不完全にコード化されていることが多いため、AIシステムはこれらのポリシーの不正確な理解を採用し、永続させる可能性があります。そうしないようにするには、組織はポリシーの真実の単一のソースを作成し、AIが信頼できるデータセットから参照し、学習できるようにする必要があります。レガシーシステムを構築する比較的新しい技術であるAIは、可能性をもたらすものであり、多くのヘルスプランのデータサイエンスチームは、既存のエンタープライズプラットフォームに組み込まれたAIツールを使用して、その可能性を迅速に活用しようとしています。問題は、ヘルスケアの請求プロセスが非常に複雑であり、エンタープライズプラットフォームはその複雑さを理解していないことが多いことです。レガシープラットフォームの上にAIを一サイズフィットオールのソリューションとして組み込むと、請求プロセスをより効率的にするのではなく、混乱と不正確さを生み出すことになります。古いデータに頼るAIの最大の利点の1つは、タスクを実行する際に学習し、改善されることです。しかし、その学習は、AIが何を間違えたかを理解し、適応できるようにするための継続的なフィードバックループがある場合にのみ発生します。そのフィードバックは、不正確または古いデータに基づいてはならず、正確なデータに基づいて行われる必要があります。AIは、学習するデータの質だけがその限界です。ヘルスケアでAIが有益である場合ヘルスケアのような、出力が重大な結果をもたらす分野でAIを使用することは、慎重さを必要とします。しかし、AIを使用する意味のある用途は存在します。例えば、ヘルスケアにおけるデータは豊富 (1人の医療レコードが何千ページにも及ぶ可能性があることを考えると) であり、そのデータ内のパターンは、疾患の診断、請求の正確な処理などについて多くのことを教えてくれます。これがAIの強みです。人間のレビューアーが活用できるパターンを探し出し、行動を提案することができます。AIが優れているもう1つの分野は、ポリシーとルールのカタログ化とインジェストです。これらのポリシーとルールは、請求が支払われる方法を規定しています。 ジェネレーティブAI (GenAI) を使用して、さまざまな形式のポリシーコンテンツを機械が読み取ることができるコードに変換し、すべての患者請求に一貫して適用できます。GenAIは、情報を要約して人間が簡単に読み取ることができる形式で表示することもできます。これらのユースケースを通底する重要な考え方は、AIが人間の監督者と協力して使用されることです。AIが独自にショーを運営するのではなく、人間がAIを監督します。組織がこの考え方を実装する際に念頭に置くことができれば、ヘルスケアがAIによって変革されるこの時代に成功する立場に立てるでしょう。