医学におけるAIの使用のリスクを減らす方法を調査する論文

人工知能プログラムは、さまざまな方法で医療を改善することができます。たとえば、AIアプリケーションは、コンピュータビジョンを使用して、X線とFMRIsから状態を診断するのに医師を支援することができます。機械学習アルゴリズムも、人間が見つけることができない医療データから微妙なパターンを抽出することで、偽陽性率を減らすのに役立ちます。ただし、可能性が増えるにつれて、新しい課題も生じます。最近、Science誌に、医療用機械学習技術の可能なリスクと規制戦略を調査した論文が掲載されました。

医療におけるAIの応用の拡大

AIは医療分野での応用が急速に拡大しています。医療分野での最近の発展は、AIによって推進されており、新薬の開発を目的とした新薬会社の創設、AI駆動の遠隔ヘルスセンサー、CTスキャンとX線を分析するコンピュータビジョンアプリの開発などが含まれます。

より具体的に言うと、Genesis Therapeuticsは、AIを使用して薬剤発見のプロセスを高速化し、障害の重症度を軽減する薬剤を開発することを目指すスタートアップです。Genesis Therapeuticsは、新薬の研究にAIを使用する約170の企業の1つです。 한편、ヘルスモニタリングデバイスについては、iRhythmとフランスのAIスタートアップCardiologsが、AIアルゴリズムを使用してEEGデータを分析し、心臓病の合併症のリスクがある人の健康状態を監視しています。企業によって設計されたソフトウェアは、血流の乱れによって引き起こされる心臓の異常な音を検出できます。

最後に、医療画像にコンピュータビジョンを適用する方法を調査した最近の研究では、コンピュータビジョンシステムは、脳出血を検出するためにCTスキャンを検査する際に、専門の放射線科医と同等かそれ以上の性能を発揮することがわかりました。研究で使用されたアルゴリズムは、CTスキャンを1秒間だけ検査した後、予測を出すことができました。コンピュータビジョンシステムはまた、脳内での出血を特定することができました。

したがって、医療でAIを使用することの潜在的な利点は明らかですが、医療分野でAIを使用することによって生じる新しい課題やリスクがどのようなものになるかは、まだ明らかではありません。

医療におけるAIの規制

TechXploreが報告したように、医療でAIを使用することの潜在的な欠点を評価するために、研究者グループは最近、Science誌に論文を掲載しました。この論文では、AIと医療の潜在的な問題に対する潜在的な解決策を探ることを目的としています。医療分野でAIを使用することによって生じる可能性のある問題には、治療の不適切な推奨によるけが、プライバシーに関する懸念、アルゴリズムの偏り/不平等などがあります。

FDAは、「ロックされたアルゴリズム」を使用する医療用AIのみを承認しています。ロックされたアルゴリズムとは、毎回同じ結果を信頼的に生成するアルゴリズムです。ただし、AIの多くの潜在的な利点は、学習し、新しい入力に応答する能力にあります。FDAの承認を受けるために、「適応型アルゴリズム」をより多く使用できるようにするために、論文の著者は、アルゴリズムを更新することに関連するリスクを軽減する方法を詳細に調査しました。

著者は、機械学習エンジニアや研究者が、モデルの展開期間中の継続的なモニタリングに焦点を当てるべきであると主張しています。AIシステムをモニタリングするために提案されたツールの1つは、AI自体で、AIの動作について自動的に報告を提供することができます。また、複数のAIデバイスが互いにモニタリングすることも可能です。

「リスクを管理するには、規制当局は、将来のアルゴリズムの変更の計画よりも、継続的なモニタリングとリスク評価に重点を置くべきです」と、論文の著者は述べています。

論文の著者は、規制当局が、新しい方法を開発して、リスクを特定、監視、評価、管理することに重点を置くことを推奨しています。この論文では、FDAが他の医療技術を規制するために使用した多くの技術が適用されています。

論文の著者は次のように述べています。

「私たちの目標は、医療用AI/MLシステムが環境に反応したり適応したりすることによって生じる可能性のあるリスクを強調することです。微妙な、しばしば認識されていないパラメータの更新や新しいタイプのデータは、大きなコストのかかるミスを引き起こす可能性があります。」