アルゴリズムは、適切にトレーニングされた場合、ヘルスケアにおける人種的偏見を解決できる

スタンフォード大学、ハーバード大学、シカゴ大学の研究チームは、膝のX線を使用して関節炎を診断するアルゴリズムをトレーニングしました。 アルゴリズムのトレーニングデータとして患者報告書を使用した場合、アルゴリズムは黒人患者記録の分析で放射線科医よりも正確でした。

アルゴリズミックバイアスの問題

医療分野における機械学習アルゴリズムの使用は、様々な病気を患っている患者にとっての結果を改善する可能性があります。しかし、患者を診断するためにAIアルゴリズムを使用することに関する問題もあります。展開されたAIモデルに関する研究は、アルゴリズミックバイアスに関するいくつかの注目すべき事件を発見しました。これらには、アルゴリズムが白人患者よりも少数民族患者に心臓病学部門への紹介を少なくするものが含まれます。すべての症状は同じでした。

研究の著者である研究のZiad Obermeyer教授は、カリフォルニア大学バークレー校の公衆衛生学校で、X線の診断と患者が報告した痛みの量の差を調査するためにAIを使用しました。黒人患者と低所得患者は痛みのレベルが高かったですが、X線の解釈は一般人口と同じでした。痛みのレベルのデータはNIHから来ました。研究者は、人間の医者がデータの分析で何かを見逃しているかどうかを調べたいと思っていました。

Wiredによると、これらの差の潜在的な原因を特定するために、Obermeyerと他の研究者はNIHのデータを使用してコンピュータビジョンモデルを設計しました。アルゴリズムはX線を分析し、画像に基づいて患者が報告した痛みのレベルを予測するように設計されました。ソフトウェアは、患者が報告した痛みのレベルと強く相関する画像内のパターンを見つけることができました。

アルゴリズムが未知の画像を提示されると、モデルは患者が報告した痛みのレベルの予測を返します。モデルによって返される予測は、放射線科医によって割り当てられたスコアよりも、実際の患者が報告した痛みのレベルとより密接に一致していました。特に黒人患者にとってはそうでした。Obermeyerは、コンピュータビジョンアルゴリズムが黒人患者とより一般的に関連している現象を検出できることをWiredに説明しました。

システムを適切にトレーニングする

X線を評価する基準は、もともと1957年にイングランド北部で行われた小規模な研究の結果に基づいて開発されました。骨関節炎評価基準を開発するために使用された初期の人口は、現代のアメリカ合衆国の非常に多様な人口とは大きく異なります。したがって、多様な人々を診断する際に間違いが生じることは驚くことではありません。

新しい研究は、AIアルゴリズムが適切にトレーニングされた場合、偏見を軽減できることを示しています。トレーニングは、専門家の意見ではなく、患者自身のフィードバックに基づいていました。Obermeyerと同僚は、以前に、広く使用されているAIアルゴリズムが黒人患者よりも白人患者を優先することを実証しました。しかし、Obermeyerは、機械学習システムを適切なデータでトレーニングすることで偏見を防ぐことができることも示しました。

研究の注目すべき注意点は、多くの機械学習研究者に馴染みがあるものです。研究チームによって開発されたAIモデルはブラックボックスであり、研究チーム自身はアルゴリズムがX線で検出している特徴を知らないため、医師に何を見逃しているかを教えることができません。

他の放射線科医や研究者は、ブラックボックスの中のパターンを掘り下げて、医師が何を見逃しているかを理解することを目指しています。エモリー大学の放射線科医で教授であるJudy Gichoyaは、AIモデルをトレーニングするために、より広範で多様なX線のセットを収集しています。Gichoyaは、放射線科医がこれらのX線について詳細なノートを作成するようにします。これらのノートは、アルゴリズムの出力と比較して、アルゴリズムによって検出されたパターンが明らかになるかどうかを確認するために使用されます。