医療におけるAIのリスクを軽減する方法を調査した論文

人工知能プログラムは、さまざまな方法で医療を改善することができます。たとえば、AIアプリケーションは、X線やMRIの画像から病気を診断するためにコンピュータビジョンを使用できます。機械学習アルゴリズムは、医療データから人間が見つけることができない微妙なパターンを抽出することで、偽陽性率を低減するのに役立ちます。しかし、可能性が増えるにつれて、新しい課題も生じます。最近、Science誌に、医療における機械学習技術の潜在的なリスクと規制戦略を調査した論文が掲載されました。

医療におけるAIの応用の拡大

AIは医療分野での応用が急速に拡大しています。医療分野での最近の発展は、AIによって推進されており、新しい製薬会社がAIを使用して新薬を開発しようとしています。さらに、AI駆動のリモートヘルスセンサーと、CTスキャンやX線を分析するコンピュータビジョンアプリも開発されています。

具体的には、Genesis Therapeuticsは、AIを使用して薬剤発見のプロセスを高速化し、病気の重症度を軽減する薬剤を開発しようとしています。Genesis Therapeuticsは、AIを使用して新しい薬剤を研究している170以上の企業の1つです。さらに、iRhythm (IRTC ) とフランスのAIスタートアップCardiologsは、AIアルゴリズムを使用してEEGデータを分析し、心臓病のある人の健康状態を監視しています。ソフトウェアは、血流の乱れによって引き起こされる心臓の異常な音を検出できます。

最近の研究では、コンピュータビジョンが医療画像にどのように適用できるかを調査し、コンピュータビジョンシステムは、脳内出血を検出するためにCTスキャンを検査する際に、専門の放射線科医と同等かそれ以上の性能を示したことがわかりました。アルゴリズムは、CTスキャンを1秒間だけ検査した後、予測を出力することができました。コンピュータビジョンシステムは、脳内出血の位置も特定することができました。

したがって、医療におけるAIの潜在的な利点は明らかですが、医療分野でAIを使用することによって生じる新しい課題とリスクは、まだ明らかではありません。

拡大する分野の規制

TechXploreによると、医療におけるAIの潜在的な欠点を評価するために、研究者グループがScience誌に論文を発表しました。この論文では、AIの使用によって生じる可能性のある問題と、それに対する潜在的な解決策を探りました。医療分野でAIを使用することによって生じる可能性のある問題には、治療の不適切な推奨によるけが、プライバシーに関する懸念、アルゴリズムの偏り/不平等などがあります。

FDAは、信頼性の高い結果を生み出す「ロックされたアルゴリズム」のみを承認しています。しかし、AIの潜在的な利点の多くは、学習し、新しい入力に反応する能力にあります。FDAの承認を得るために、「適応アルゴリズム」を使用するために、論文の著者は、アルゴリズムの更新に関連するリスクを軽減する方法を詳しく調べました。

著者は、機械学習エンジニアと研究者が、モデルを展開するライフサイクル全体で継続的にモニタリングすることに焦点を当てるべきだと主張しています。提案されたAIシステムのモニタリングツールの1つは、AI自体で、AIの動作について自動的に報告を提供することができます。さらに、複数のAIデバイスが互いにモニタリングすることも可能です。

「リスクを管理するには、規制当局は、将来のアルゴリズムの変更を計画するよりも、継続的なモニタリングとリスク評価に重点を置くべきです」と論文の著者は述べています。

論文の著者は、規制当局が、新しい方法を開発してリスクを特定、監視、評価、管理することに重点を置くべきだと推奨しています。この論文では、FDAが他の医療技術を規制するために使用したテクニックを多く適用しています。

論文の著者は次のように述べています。

「私たちの目標は、医療AI/MLシステムがその環境に反応したり適応したりする際に予期せぬ変更から生じる可能性のあるリスクを強調することです。微妙で、しばしば認識されていないパラメータの更新や新しいタイプのデータは、大きなコストのかかるミスにつながる可能性があります。」