インタビュー
コドクソのDr. Musheer Ahmed、PhD、創設者兼CEO – インタビューシリーズ
Dr. Musheer Ahmed、PhD、コドクソの創設者兼CEOは、ヘルスケアにおけるシステム的な非効率性を解決するために人工知能を適用することに焦点を当てたテクノロジストおよび起業家です。彼は、ジョージア工科大学での博士課程の研究に基づいてコドクソを設立しました。そこで、彼は医療請求における不正、浪費、および乱用の検出のための特許取得済みのAIアプローチの基礎を構築しました。彼のリーダーシップの下、同社は、ヘルスケア組織がリスクを早期に特定し、反応的な監査から予防的なコスト包含への移行を支援する、AI駆動の支払い完全性ソリューションの提供者に成長しました。以前、VeriSignでのセキュリティインテリジェンスでの経験は、複雑なデータ環境での潜在的なサイバー脅威と脆弱性を特定することに焦点を当てており、先進的な分析と機械学習を使用して隠れたパターンを発見することに焦点を当てました。
コドクソは、Forensic AIプラットフォームを通じて、ヘルスケアシステム全体で非効率性と不要なコストを削減することに焦点を当てたヘルスケアAI企業です。プラットフォームは、特許取得済みのアルゴリズムと機械学習を使用して膨大な請求データを分析し、疑わしい動作、請求の不正、および新しい不正パターンを従来のシステムよりも早期に特定します。ヘルスケアの支払い者、政府機関、および薬剤福利管理者が請求プロセスの前に、またはその間に介入できるようにすることで、コドクソは業界を、反応的な回復ではなく、予防的な支払い完全性への移行にします。そのより広い統一されたコスト包含プラットフォームは、データマイニング、提供者教育、監査ワークフロー、およびケースマネジメントを統合し、組織が精度を向上させ、過払いを削減し、運用を合理化しながら、毎年不正、浪費、および乱用によって失われる推定数百億ドルに取り組みます。
あなたは、ジョージア工科大学での博士課程の研究に基づいて、ヘルスケア不正検出のためにコドクソを設立しました。不正、浪費、および乱用がヘルスケアシステムでどのように検出されるかを根本的に変えることができるという信念に至ったのは、いつからですか?
私は、単一の瞬間ではなく、既存のアプローチがどれほどひどく失敗していたかを直面したことで、それに気づきました。米国におけるヘルスケア不正は、約3300億ドルの年間損失を表します。那は、国で他のすべての保険不正を合わせたよりも多く、しかし、主な検出方法は、すでに知られている不正スキームに反応するだけでした。AIが登場したときも、ほとんどのアプローチは反応的で、既知の不正スキームにパターンマッチングするだけで、新しくなったものを表面化することができませんでした。私を確信させた瞬間は、不正が静的な問題ではないことを認識したときでした。悪い行為者は適応します。彼らはフラグをトリガーする方法を学び、回避します。固定ルールに基づくシステムは、定義上、常に後ろにいます。
AIは、誰も予めプログラムしなかったパターンを表面化する能力を提供します。ジョージア工科大学での私の博士論文の作業中に、私は、提供者の全請求履歴を横断して、行動上の異常を特定し、人間の分析者またはルールエンジンがリンクすることができない信号を接続することができるモデルを構築していました。JASON諮問グループは、米国政府に対する科学技術に関する諮問を行うグループは、その作業を、支払い完全性のために使用されるヘルスケアデータの実際の構造的なギャップに対処するものとして認識しました。那は、私に問題が深刻であることを示し、会社を構築する価値があることを示しました。
私を当時駆り立てた核心的な信念は、現在コドクソで構築しているものと同じです。ヘルスケア請求データには、不正を捉えるために必要な信号が含まれていますが、それを抽出するには、ボックスをチェックするのではなく、全体像を迅速に正確に見ることができるAIが必要です。
ヘルスケア不正は長年にわたって数十億ドル規模の問題でしたが、生成的なAIはそれを劇的に加速しているようです。不正のための信憑性のある臨床文書と診断画像を生成できるツールの登場は、保険会社と支払い完全性チームにとっての脅威の風景をどのように変えましたか?
それは根本的に変わりました。業界はまだその変化の重大性を完全に吸収していません。古いモデルでは、文書化された不正は手動で行われていました。不正行為者は、1つずつノートを偽造し、画像を個別に変更し、検証に耐えるレベルの記録を作成する必要がありました。その摩擦により、どのスキームにも天井がありました。
生成的なAIは、その天井を取り除きました。今日、誰でも大規模な言語モデルに、5分以内に50のセラピー会話ノートを生成するように依頼できます。そのノートは、適切な臨床用語を使用し、妥当な物語構造に従い、内部的に一貫性があります。ほとんどの不正検出システムは、文書が本物か合成かを評価するように設計されていませんでした。請求コードが正しく適用されているか、既知のパターンをフラグするか、既存の不正シグネチャと一致するかを確認するように設計されていました。したがって、合成文書は、AIコンポーネントを含む一部のシステムを通過します。
私たちは、診断画像でも同様のことを見ています。1つの正当なX線写真を使用して、別の偽造された患者に提出される数十のAI生成されたバリエーションを作成できます。画像比較機能がないシステムは、50のユニークなケースを検出しますが、現実は、1つの実際のスキャンと49の合成された複製です。脅威の風景は、技術的な専門知識が不要な、拡張可能で繰り返し実行可能なスキームを実行できる個人から、孤立した悪い行為者に移行しました。
伝統的な不正検出システムは、ルールベースのモデルと手動レビューに依存しています。これらのアプローチは、AI生成された医療レコードや操作された診断画像を扱う場合に、どのようにして効果が低下するようになりましたか?
ほとんどの不正検出アプローチは、ルールベースまたは以前のAIに基づいており、現在、基本的に欠陥のある仮定に基づいて動作しています。つまり、システムに入力されるすべての文書が、通常の臨床プロセスに従った人間によって作成されたということです。文書が合成された場合、その検出アプローチは壊れます。
ルールエンジンは、不可能なコードの組み合わせ、1日に存在する時間よりも多くの時間を請求する提供者、または死亡した患者に対して行われた手術をフラグすることができます。これらはすべて実際的で有用なキャッチです。しかし、ルールベースのロジックは、進行ノートが実際に患者を見た医師によって書かれたものか、医師を経験したことのないAIモデルによって生成されたものかを判断することはできません。2つの出力は構造的に同一である可能性があります。
手動レビューにも同じ天井があります。研究によると、約34%の人々しか、深い偽物を検出できないことが示されています。SIU調査官は、偽造されたテキストを検出するための専門的な法医学トレーニングを受けておらず、画像比較ツールもありません。さらに、すべての請求についてそのレベルのスクラッチを行う時間がないため、包括的な手動レビューは不可能です。量の問題だけが、手動レビューを不可能にします。それは、生成的なAIが偽造された文書の量と複雑さを加速する前に真実でした。
評価されるべき新しい脅威もあります。研究者は、それを「トロイの深い偽物エンジン」と呼んでいます。これらは、検出ソフトウェアを無効にするために設計された、ウイルスに似たエージェントです。画像分析の妨害や悪意のあるプロンプトの再エンジニアリングなどの戦術を使用します。したがって、対立的なダイナミクスは、不正行為者が偽物を生成するだけではありません。場合によっては、検出ツールを破壊しようとしているのです。静的な検出アプローチが常に後ろにいる理由は、防御が攻撃と同じくらい適応性が必要であるためです。
コドクソは、Deepfake Detectionを立ち上げて、この新しいリスクに対処しました。高レベルで、技術は医療文書と画像を分析して、コンテンツがAIによって生成または操作された可能性があるかどうかを判断する方法は何ですか?
コアデザインの原則は、Deepfake Detectionをヘルスケア文書のために特別に設計したことです。つまり、モデルはヘルスケア固有の信号に基づいてトレーニングされており、他の業界やユースケース向けに設計されたツールから適応されてはいません。その違いは重要です。医療レコードまたは診断画像で合成コンテンツを示す信号は、他のドメインで関連する信号とは異なります。
高レベルでは、システムは医療文書と画像を分析し、請求の全文脈で、数秒以内に複数の次元を同時に分析します。疑わしいコンテンツの指標を検索し、支払者の請求履歴全体でクローニングと複製のパターンを確認し、文書と提供者の歴史的なパターンの間の行動の一貫性を評価します。
システムが操作できるフォーマットの幅は注目に値します。PDF、Word、XMLのテキスト文書、スプレッドシート、医療画像、さらには手書きのノートを処理します。そのことが実践的には重要です。なぜなら、偽造された文書は1つの整ったフォーマットで到着しないからです。検出システムが受け取るもののうちの1つだけをカバーするシステムは、複雑な不正行為者が最終的に見つけるギャップを残します。
分析の結果、システムは0から100のスケールでリスクスコアを生成し、スコアがどの信号によって駆り出されたかを示す詳細な説明が付随します。検証者は、スコアがなぜ生成されたかを理解できます。各ステップでの目標は、アラートではなく、実行可能な出力を生成することであり、それをより一般化されたシステムよりも迅速に、より正確に実行することです。スピードは重要です。なぜなら、支払いが行われる前に不正を防止することが、不正の経済学を実際に変える唯一の介入ポイントだからです。
あなたのプラットフォームは、クローニング検出、部分的なAI生成の特定、請求履歴との行動のクロスリファレンスなどの機能を強調しています。検証者にとって有意義なリスクスコアを生成するために、これらの信号はどのように組み合わさるのでしょうか?
各機能は、異なる不正パターンに対処します。リスクスコアは、それらが特定のケースでどのように相互作用するかを反映します。
クローニングと複製の検出は、1つの正当なレコードが複数の偽造された患者に複製されたシナリオに対処します。人間の分析者またはルールエンジンがリンクすることはできない信号が、レコードの表面ではユニークに見えるが、請求の全人口を比較すると、レコードのセットが共通のソースからの派生物であることがわかるため、検出が難しいです。
部分的なAI生成の検出は重要です。複雑な不正行為者は、常にレコードを完全に偽造するわけではありません。より一般的で難しいパターンは、ブレンドです。つまり、合法的な患者レコードを取り、AIを使用して追加のサービスまたは手順を追加することです。正当なセクションは文書を信頼性のあるものに見せますが、追加されたセクションは、提供されなかったケアの請求を表します。システムは、こうしたインスタンスを見つけるように特に調整されています。
行動のクロスリファレンスは、検証されている文書を提供者の全請求履歴に接続します。文書が提供者が類似のケースを文書化した方法と一貫性のない臨床的な物語を提示する場合、またはサポートレコードのボリュームとパターンが基準から逸脱する場合、それらの不一致は信号です。個別に、それらは決定的なものではありません。重み付けされ、リスクスコアの出力で説明されているとき、それらは検証者に、手動で開発するには数時間または数日かかる開始点を提供します。コンテンツ分析だけでは、ブレンドされた文書を逃す可能性があります。行動分析だけでは、以前のパターンがない初めての不正行為者を見逃す可能性があります。3つの層の交差は、他のAIシステムでは検出できないものを検出します。
あなたの観点からすると、保険会社や規制当局が次の数年で注目すべき、ディープフェイクを使用したヘルスケア不正の最も心配されるスキームは何ですか?
私が最も心配しているシナリオは、スケールと妥当性を組み合わせて、検出が難しい方法で組み合わせるものです。
行動ヘルスケアは、実際的な脆弱性です。セラピーのサービスに対する文書化は、主に物語的です。セッションのノート、治療計画、進捗の要約が含まれます。検証するためのラボ値や画像はありません。偽の提供者が汎用的な言語モデルにアクセスできる場合、臨床的に妥当な行動ヘルスケアの文書化を、想像を絶するボリュームで生成できます。実行可能な検出方法は、文書化が合成されたかどうかを評価できるAIを使用することです。
診断画像の不正も、私が注目しているもう1つの領域です。無料で利用できるAIツールは、1つのシード画像から現実的な医療画像のバリエーションを生成できます。ツールが改善されると、合成出力は、画像のフォレンジック機能がないシステムでは、現実的なスキャンと区別がつかなくなります。請求データで画像を受け取る支払者は、信頼して画像が実際であると想定しています。
また、AI生成の文書が、偽の提供者登録または医療上必要でないサービスに対する事前の承認を支援する、アイデンティティおよび資格情報の不正に関する懸念が生じています。これらのスキームは、不正が請求データではなく、取り込みプロセスに組み込まれているため、検出が難しいです。支払いが行われる前に既に損害が発生しています。
ヘルスケア請求には、多くの場合、膨大な量の文書とサポート証拠が伴います。AIシステムは、支払いが行われる前に不正な請求を停止するために、情報をどのように迅速に評価しますか?
スピードは、実際にはコアデザインの要件です。Deepfake Detectionは、請求パイプラインのスピードで動作しない限り、実用的には役に立ちません。分析が数時間かかる場合、または人間がレビューのキューを開始する必要がある場合、請求の前でのウィンドウをすでに逃しており、システムから金が出た後に回復作業に戻っています。
システムは、分析を数秒以内に完了するように設計されています。文書がレビューのために提出されると、AIは並列に評価を実行します。合成コンテンツの分析、複製のチェック、および行動のクロスリファレンスは、連鎖的にではなく同時に実行されます。出力は、リスクスコアと詳細な説明です。検証者は、生の信号を解釈する必要はありません。優先度の付いた、実行可能な結果が得られます。並列アーキテクチャは、より迅速かつ正確に実行できるようにするため、重要な要素です。3つの信号層を同時に実行することで、リスクスコアはケースの全体像を反映し、手動で開発するには数時間または数日かかるものになります。
より広い点では、コドクソの全体的な作業で推進しているシフト、Point Zeroと呼ばれるものは、支払い完全性の介入を可能な限り上流に移動することです。不正な請求を支払い前に捉えることは、事後の過払いを回復するよりもはるかに効率的です。回復は、高価で、遅く、そして往々にして不完全です。防止は、全体的な問題の経済学を変えます。
不正検出ツールは、検証者、監査員、および規制当局にとって説明可能でなければなりません。不正検出ツールは、AI生成されたリスクスコアが、SIUおよび支払い完全性チームによって信頼され、理解されるようにするために、どのようにして保証しますか?
説明可能性は、このドメインでは必須です。SIU調査官がスコアに基づいて行動する場合、請求を保持する、ケースを開く、または起訴のためにリファレンスを構築する場合、システムが何を見つけたか、またなぜ見つけたかを説明する必要があります。ブラックボックスの出力は、法的および規制上の説明責任が伴うワークフローでは役に立ちません。
システムが生成する各リスクスコアには、スコアを駆り出した信号、特定されたパターン、および表面化された不一致が含まれています。検証者は、スコアから証拠までの推論をたどることができます。説明のレベルは、基礎となる検出がヘルスケア文書のために特に設計されていることによってのみ可能です。
また、カスタムプロンプト機能もあります。調査官は、特定の調査シナリオとユニークな不正パターンに分析を適合させることができます。実践では、システムが汎用的な分析を実行し、調査官が汎用的な出力を解釈するのではなく、特定のケースで何を探しているかに基づいて、システムを調整できるため、重要です。結果は、より正確に実行可能で、法的または規制上の手続きで説明しやすいものになります。
規制上の観点から、OIG、CMS、および州機関は、組織が不正防止にAIを使用する方法に関する検査を強化しています。検出方法が解釈可能で監査可能であることを示すことは、責任ある展開のコンポーネントであり、コンプライアンスリスクを軽減するものです。
生成的なAIが進化を続けるにつれて、不正行為者はより洗練されたものになるでしょう。コドクソは、新しい形式の合成医療文書が現れるにつれて、モデルをどのように設計していますか?
課題は、不正が対立的な性質を持っていることです。検出が改善されると、反対側の戦術が進化します。1度トレーニングされた静的な検出アプローチは、不正行為者がそれをトリガーする方法を学び、調整するにつれて、時間の経過とともに劣化します。ツールの洗練度は関係ありません。基礎となるアーキテクチャが、脅威と同じくらい迅速に進化することができない限り、静的な検出アプローチは不十分です。
私たちのアプローチは、検出を継続的に更新可能な機能として扱うことです。不正パターンがシステムに表面化し、AI生成技術が進化するにつれて、それらのパターンはモデル改善にフィードバックされます。システムは、存在していた不正のみではなく、現れる新しい脅威をよりよく検出するように設計されています。これは、生成的なAIが進化しているペースと、不正行為者が新しいアプローチを試しているスピードを考えると、重要です。特に、検出を妨害するように設計されたトロイの深い偽物エンジンなどの対立的なテクニックもあります。
これは、継続的な対決です。最終的な解決策はありません。私たちが約束したのは、検出能力を脅威と同期させることです。エージェントアーキテクチャが、それを大規模に可能にするものです。
将来を見て、ディープフェイク検出は、金融における反_money_洗浄システムのように、ヘルスケアインフラストラクチャの標準コンポーネントになるでしょうか? それとも、医療データの信頼性と検証に対する新しいアプローチが必要になるでしょうか?
私は、ディープフェイク検出が標準インフラストラクチャになるだろうと考えています。タイムラインは、業界の多くの人々が予想するよりも短いです。AMLフレームワークが金融サービスで標準になる前に、業界はルールベースの検出と手動レビューに大きく依存していました。変化は、脅威が反応的な検出が明らかに不十分であるスケールに達したときに起こり、規制環境が金融機関にシステム的で継続的に更新されるコントロールを備えていることを規定しました。ヘルスケアは、類似の転換点に近づいています。
すでに起こっていることは、ディープフェイク検出を展開している支払い者は、規制が必要であるという理由ではなく、脅威が現実的で存在するという理由でそれを行っていることです。初期の展開が損失を防止する証拠を生成し、AI生成の不正スキームが執行措置や公的報告でより目立つようになると、業界全体で期待が広がります。
将来を見ると、生成的なAIが進化を続けるにつれて、業界は、文書の真正性が作成時にどのように確立されるかを再考する必要があるかもしれません。つまり、EHRレベルでの臨床レコードの暗号化の証明、文書化ワークフローへの提供者IDの統合、または文書の起源を追跡可能にする他のメカニズムが必要になる可能性があります。請求レベルの検出は、現在の脅威に対する必要な対応です。しかし、持続可能な解決策には、医療レコードが作成および送信されるインフラストラクチャに検証をより深く組み込む必要があるかもしれません。
素晴らしいインタビュー、詳細を知りたい読者はコドクソを訪問してください。
