AIは健康格差を改善するための友か敵か。どのようにして有益なものにするか

医療における格差や偏見は、社会経済的、人種的、性別の隔たりを超えて広く存在しています。私たちとしては、道徳的、倫理的、経済的にこれらの格差を埋め、すべての人々が公平で安価な医療サービスを受けられるようにする責任があります。

人工知能（AI）はこれらの格差を解決するために役立ちますが、同時に両刃の剣でもあります。確かに、AIは医療の提供を合理化し、大規模な個別化医療を可能にし、画期的な発見を支援するために既に活用されています。しかし、データ、アルゴリズム、ユーザーに内在する偏見により、慎重にしないと問題を悪化させる可能性があります。

つまり、AIを利用した医療ソリューションを開発・導入する私たちには、AIが意図せず既存の格差を拡大しないように注意し、規制機関や専門組織には、偏見を回避または軽減するためのガイドラインを設ける役割があります。

ここで、AIを利用して格差を埋める代わりに拡大する方法を紹介します。

臨床試験における公平性の達成

新薬や治療の臨床試験は、歴史的に設計において偏りがありました。たとえば、1993年まで、女性をNIHが資金提供する臨床研究に参加させることが法律で義務付けられていませんでした。最近では、COVIDワクチンは意図的に妊婦で試験されませんでした — ワクチン接種時の妊娠については、試験参加者が知らないうちに妊娠していたために安全であることがわかりました。

研究における課題は、わからないことをわからないということです。ただし、AIは人口データを分析し、人口統計の不均衡や表現のギャップを検出することで、偏ったデータセットを発見するのに役立ちます。ターゲットとなる集団を正確に表すデータでAIモデルをトレーニングし、多様な表現を確保することで、AIは包摂性を高め、害を軽減し、成果を最適化するのに役立ちます。

公平な治療の確保

黒人妊婦が分娩時の痛みや合併症を経験することが多く、医療従事者によって無視されることが多いため、黒人女性の母体死亡率は非ヒスパニック白人女性の3倍であることはよく知られています。問題は、主に内在する偏見によって引き起こされています。医療従事者の中には、黒人は白人よりも痛みの耐性が高いという誤った認識を持っている人もいます。

アルゴリズムの偏見は問題を悪化させる可能性があります。ハーバード大学の研究者は、一般的なアルゴリズムが黒人やヒスパニック系の女性が帝王切開後の正常分娩（VBAC）に成功する可能性が低いと予測していることを発見しましたが、これは医師が色の人種に基づいてより多くの帝王切開を行った可能性があります。しかし、研究者は「この関連性は生物学的妥当性によって支持されていない」と述べています。つまり、人種は「健康への影響を与える他の変数の代理人」となり得るということです。アルゴリズムは後に、リスクを計算する際に人種や民族を除外するように更新されました。

これは、AIが暗黙の偏見を排除し、以前に見過ごされていたケアパスを証拠に基づいて提案するための理想的な応用例です。従来の「標準ケア」の実践を続けるのではなく、AIを利用して、ベストプラクティスがすべての女性、特に白人女性だけの経験に基づいているかどうかを判断できます。AIは、医療の進歩と技術の発展から最も多く得られる患者を含むデータ基盤を確保するのに役立ちます。

人種や民族が重要な要素となる状況があるかもしれませんが、いつそれらを考慮し、いつ歴史的な偏見に基づいて認識を形成しているのかを注意深く判断する必要があります。

公平な予防戦略の提供

AIソリューションは、潜在的な偏見に対する注意深い考慮なしに、疎外されたコミュニティの特定の状態を見落とす可能性があります。たとえば、退役軍人局は、心臓病や心臓発作の兆候を予測・検出するための複数のアルゴリズムを開発中です。これには、命を救う潜在性がありますが、これらの研究の多くは歴史的に多くの女性を含んでおらず、心臓病は女性の死因の第1位です。したがって、これらのモデルが女性にとって同等に効果的であるかどうかは不明です。

このデータセットに女性を比例的に含めることで、年間320万件の心臓発作や50万件の心臓関連死を、早期発見と介入によって予防することができます。同様に、新しいAIツールは、歴史的に黒人、ヒスパニック、ネイティブアメリカンの除外につながった腎臓疾患のスクリーニングにおける人種ベースのアルゴリズムを削除しています。

疎外された個人を除外するのではなく、AIは実際に疎外された集団の健康リスクを予測し、介入をよりよくターゲットにするために個別のリスク評価を可能にすることができます。データはすでに存在するかもしれません。モデルの「調整」のみが必要です。人種、性別、その他の人口統計要因が結果に影響を与えるかどうかを判断するためです — もし影響を与えるのであれば。

行政タスクの合理化

患者の結果に直接影響を与えるだけでなく、AIは、格差を減らすために裏方でワークフローを加速する可能性もあります。たとえば、企業や提供者はすでにAIを利用して、請求コードのギャップを埋め、診断コードを医師のノートに対して検証し、一般的な診断手順の事前承認プロセスを自動化しています。

これらの機能を合理化することで、運用コストを大幅に削減し、提供者の事務所がより効率的に運営され、スタッフが患者と過ごす時間が増えることで、ケアを指数関数的により安価でアクセスしやすくすることができます。

私たちには重要な役割がある

私たちがこれらの素晴らしいツールを利用できるという事実は、偏見を排除し、克服するためにそれらを利用することをさらに重要にします。残念ながら、アメリカには、医療提供の「偏見をなくす」ための取り組みを規制する認定機関はありません。ガイドラインを発表した組織もありますが、それに従うための規制上のインセンティブはありません。

したがって、AIプラクティショナー、データサイエンティスト、アルゴリズムクリエーター、ユーザーとして、私たちには、AIツールと洞察の使用において包括性、データの多様性、公平性を確保するための意識的な戦略を開発する責任があります。

それを行うには、正確な統合と相互運用性が不可欠です。ウェアラブル、第三者ラボおよび画像提供者、一次ケア、ヘルス情報交換、入院記録など、多数のデータソースがあるため、これらのすべてのデータを統合して、重要なピースが含まれるようにする必要があります。業界では、基本的な患者データが含まれるように、データの正規化、標準化、IDのマッチングが必要です。さまざまな文化や言語に基づく名前の綴りや命名規則に関係なくです。

また、AIの開発プロセスに多様性の評価を組み込み、メトリクスの「ドリフト」を時間の経過とともに監視する必要があります。AIプラクティショナーには、モデルパフォーマンスを人口統計サブグループ全体でテストし、偏見の監査を実施し、モデルが決定を下す方法を理解する責任があります。人種に基づく仮定を超えて、分析が対象とする集団を表すことを確認する必要があるかもしれません。たとえば、アリゾナ州のギラリバー保留地に住むピマインディアン族のメンバーは、2型糖尿病の発症率が非常に高いですが、同じ部族のメンバーでメキシコのシエラマドレ山脈に住む人は、肥満や糖尿病の発症率が著しく低いことがわかっています。これは、遺伝子だけが要因ではないことを示しています。

最後に、アメリカ医師会、ヘルス情報技術の国家調整官事務局、産婦人科、アメリカ小児科学会、アメリカ心臓病学会など、専門組織が協力して、データ交換と精度のための基準とフレームワークを設定し、偏見を防ぐために働く必要があります。

ヘルスデータの共有を 標準化し、HTI-1およびHTI-2を拡大して、開発者が認定機関と協力することを要求することで、コンプライアンスを確保し、過去の不平等の誤りを修正することができます。さらに、完全で正確な患者のデータへのアクセスを民主化することで、偏見を永続させた盲点を取り除き、より包括的で客観的な洞察を通じてケアの格差を解決するためにAIを利用することができます。