医療分野における人工知能の活用は機会とともにリスクももたらす

人工知能（AI）には、医療分野で診断を改善し、新しい効果的な薬を発見するための巨大な潜在能力がある。しかし、Scientific Americanの記事によると、AIが医療分野に急速に浸透することで、新しい課題とリスクも多く生じる。

過去5年間で、米国食品医薬品局（FDA）は40以上のAI製品を承認した。しかし、Scientific Americanによると、米国で販売されているこれらの製品のうち、ランダム化比較試験で性能が評価されたものは存在しない。多くのAI医療ツールは、FDAの承認を必要としない。

Evan Topolは、Scientific Americanに、「Deep Medicine：How Artificial Intelligence Can Make Healthcare Human Again」という本の著者であると同時に、「AI製品の多くは、病気を診断するタスクで有効であると主張しているが、実際には厳格なテストを受けていない」と述べた。さらに、多くのテクノロジー企業は、研究論文を査読付きジャーナルに公開していない。

適切にテストされ、管理されたAIシステムは、医療専門家が気づかない症状を検出するための強力なツールとなり、健康の成果を改善することができる。

例えば、糖尿病性眼疾患を検出するためのAIツールは、数百名の患者を対象にテストされ、信頼性が証明された。開発した企業は、製品を改良するためにFDAと8年以上にわたって協力した。IDx-DRという名称のこのテストは、糖尿病性網膜症の早期兆候を検出できる可能性があるため、初期診療クリニックで使用される可能性がある。

しかし、十分なテストと管理が行われていないAIシステムは、医療専門家が診断と治療を導くために使用する場合、害を及ぼす可能性がある。

Scientific Americanの記事は、AIを使用して疾患を診断する際の潜在的な問題を指摘している。例えば、胸部X線を分析し、肺炎の可能性を検出するAIシステムが、ニューヨークのマウントシナイ病院でテストされた際には正確性が高かったが、他の病院でテストされた際には失敗した。研究者は、AIが、移動式X線システムで撮影された画像と、放射線科で撮影された画像を区別していたことを発見した。医師は、ベッドから出られない患者に、移動式胸部X線システムを使用することが多く、これらの患者は肺炎のリスクが高い。

誤報も懸念される。DeepMindは、入院患者が48時間以内に急性腎不全を発症する可能性を予測するAIモバイルアプリを開発した。しかし、報告によると、このシステムは、1つの予測に対して2つの誤報を出していた。誤報は有害である可能性があるため、医師が不要なテストや治療を注文したり、処方を変更したりする可能性がある。

別の事例では、AIシステムは、肺炎を患っている患者が、喘息を患っている場合、生存率が高いと誤って結論付けた。これにより、医師が喘息患者に対する治療を変更する可能性がある。

1つの病院で開発されたAIシステムは、別の病院で使用された場合、性能が低下することが多い。原因は複数あるが、1つの原因は、AIシステムが電子健康記録でトレーニングされることが多く、電子健康記録は不完全または不正確なことがあるためである。例えば、KHNの調査によると、患者記録には、医療ではなく請求を目的としたものが多く、致命的なエラーが含まれていることがある。また、疾患は複雑であり、医療システムも複雑であることが多く、AIエンジニアや科学者が予測することが難しい。

AIがさらに普及するにつれて、AI開発者が医療当局と協力して、AIシステムが徹底的にテストされることを保証し、規制当局がAI診断ツールの信頼性のための基準を設定し、遵守することが重要となる。