イッタイ・ダヤン、MD、Rhino Healthの共同創設者兼CEO – インタビュー・シリーズ

イッタイ・ダヤン、MDは、Rhino Healthの共同創設者兼CEOです。彼の背景は、人工知能と診断の開発、および臨床医学と研究です。彼は、BCGのヘルスケア部門の元コアメンバーであり、病院の幹部です。現在、ヘルスケアとライフサイエンス業界における安全で、公平で、影響力のある人工知能の開発に貢献することに焦点を当てています。Rhino Healthでは、分散コンピューティングとフェデレーテッドラーニングを使用して、患者のプライバシーを保護し、ヘルスケアの断片化された景観を超えてコラボレーションを促進しています。

彼は、IDFの特殊部隊で奉仕し、世界最大の学術医療センターに基づくトランスレーショナルAIセンターを率いました。彼は、AIの開発と商業化の専門家であり、長距離ランナーでもあります。

Rhino Healthの創設の背景を共有してください。

私のAIへの旅は、医師兼研究者として、精神障害の治療反応を測定するための初期のデジタルバイオマーカーを使用したときに始まりました。後で、Mass General BrighamのCenter for Clinical Data Science（CCDS）で、数十の臨床AIアプリケーションの開発を主導し、AI製品の開発とトレーニングに必要なデータへのアクセスと「活性化」に関連する根本的な課題を直接見ました。

ヘルスケアAIの進歩にもかかわらず、開発から製品の市場への導入までの道は長く、 souvent に難しいものです。ソリューションは、臨床的に展開されると（またはただ失敗する）、そしてAIのフルライフサイクルをサポートすることは、継続的な臨床データへのアクセスなしにはほぼ不可能です。課題は、モデルを作成することから、モデルを維持することに移りました。 この課題に答えるために、私はMass General Brighamシステムに、複数の商業開発者のアルゴリズムをテストするための「特殊なCRO for AI」（CRO = 臨床研究機関）の価値を説きました。

しかし、問題は残りました – ヘルスケアデータはまだ非常に断片化されており、1つのネットワークからの大量のデータだけでは、医療AIの狭いターゲットに十分に対処することはできません。2020年の夏、私は（NVIDIA (NVDA ) のMona Flores博士と共に）、当時の世界最大のヘルスケアフェデレーテッドラーニング（FL）研究であるEXAMを開始し、主導しました。私たちは、FLを使用して、世界中のデータを利用してCOVIDの結果を予測するモデルを作成しましたが、データを共有しません。 ネイチャー・メディシンに掲載されたこの研究は、多様で異なるデータセットを利用することの重要性と、ヘルスケアにおけるフェデレーテッドラーニングのより広範な使用の可能性を強調しました。

しかし、この経験は、いくつかの課題を明らかにしました。这些には、協力サイト間のデータの調整、データの追跡可能性と適切な特性の確保、および各機関のIT部門が従来使用していない最新の技術を学ぶ必要性が含まれます。これにより、ノベルな「分散データ」コラボレーションをサポートするための新しいプラットフォームが必要になりました。私は私の共同創設者、Yuval Barorと組んで、プライバシーを保護するコラボレーションをサポートするためのエンドツーエンドのプラットフォームを作成することにしました。そのプラットフォームがRhino Healthプラットフォームです。FLとエッジコンピューティングを利用しています。

AIモデルがヘルスケア設定で予想される結果を達成できないことが多いのは、なぜですか?

医療AIは、通常、狭いデータセット（たとえば、1つの機関または地理的地域からのデータセット）でトレーニングされます。その結果、モデルはトレーニングデータセットと同じタイプのデータに対してのみ優れたパフォーマンスを発揮します。アルゴリズムが、トレーニングデータセットと異なる患者またはシナリオに適用されると、パフォーマンスは大幅に低下します。

Andrew Ngは、この概念をよく捉えました。彼は、「スタンフォード病院からデータを収集して…人間の放射線科医と比較できる[アルゴリズム]を公開することができます…。[しかし]同じモデル、同じAIシステムを、街の下にある古い病院に持ち込んで、古い機械で、技術者が少し異なる画像プロトコルを使用していると、データドリフトによりAIシステムのパフォーマンスが大幅に低下します。」

簡単に言えば、ほとんどのAIモデルは、現実世界でのパフォーマンスが悪い「実世界」データでトレーニングされていないため、十分に多様で高品質のデータでトレーニングされていません。この問題は、サイエンスやポリティコなどの科学的および一般的な媒体でよく文書化されています。

さまざまな患者グループに対するテストの重要性は?

さまざまな患者グループに対するテストは、結果として得られるAI製品が効果的でパフォーマンスが良く、安全であることを保証するために不可欠です。十分に多様な患者グループでトレーニングまたはテストされていないアルゴリズムは、アルゴリズム的バイアスに苦しむ可能性があります。これはヘルスケアとヘルスケア技術における深刻な問題です。そうしたアルゴリズムは、トレーニングデータに存在していたバイアスを反映するだけでなく、バイアスを悪化させ、ヘルスケアにおける既存の人種、民族、宗教、性別などの不平等を増幅させます。さまざまな患者グループに対するテストを怠ると、危険な製品が生まれる可能性があります。

最近発表された研究⁵では、Rhino Healthプラットフォームを使用して、1つのサイトで開発された脳動脈瘤を検出するAIアルゴリズムのパフォーマンスを、さまざまなスキャナータイプの4つのサイトで調べました。結果は、さまざまなスキャナータイプのサイトでのパフォーマンスの大きい変動を強調し、さまざまなデータセットでトレーニングおよびテストすることの重要性を示しました。

サブポップレーションが表現されていない場合にそれを特定する方法は?

一般的なアプローチは、さまざまなデータセットの変数の分布を個別に、または組み合わせて分析することです。これにより、開発者は「トレーニング」データセットと検証データセットの準備時に情報を得ることができます。Rhino Healthプラットフォームを使用すると、ユーザーはモデルのパフォーマンスをさまざまなコホートで見ることができ、汎用性と持続可能なパフォーマンスを確保することができます。

フェデレーテッドラーニングとは何か、それがこれらの問題をどのように解決するのかについて説明してください。

フェデレーテッドラーニング（FL）は、AIモデルがトレーニングされ、異なるデータを使用して改善されるプロセスとして定義できますが、データを共有または集中化する必要はありません。これはAI開発における大きな進歩です。歴史的に、複数のサイトとコラボレーションするユーザーは、データをプールする必要があり、法的、リスク、コンプライアンス上の多くの面倒で時間のかかる作業が必要でした。

今日、Rhino Healthプラットフォームのようなソフトウェアを使用して、FLはヘルスケアとライフサイエンスにおける日常の現実になりました。フェデレーテッドラーニングにより、ユーザーは、データがローカルサーバーに残るまま、データを探索、キュレーション、検証できます。コンテナ化されたコード（たとえば、AI/MLアルゴリズムまたは分析アプリケーション）は、ローカルサーバーに配布され、コードの実行（たとえば、AI/MLアルゴリズムのトレーニングまたは検証）が「ローカル」で実行されます。データは、常に「データ管理者」が管理します。

病院は、特に、敏感な患者のデータを集めることに関連するリスクについて心配しています。これにより、データの使用について正確に理解せずに、業界とヘルスケア組織がコラボレーションすることを制限し、ヘルスケア業界全体の製品の品質とR&Dを遅らせる状況が生じています。FLはこれを緩和し、コラボレーションのリスクを制御しながら、以前とは比べものにならないコラボレーションを可能にします。

Rhino Healthの、より多様なデータを使用してモデルを作成するためのビジョンを共有してください。

私たちは、AI開発者とユーザーが、規制の境界を尊重しながら、恐れや制限なくコラボレーションできるエコシステムを想像しています。コラボレーターは、地理的区域を超えて必要なトレーニングおよびテストデータを迅速に特定し、データにアクセスおよび相互作用し、モデル開発を繰り返して、汎用性、パフォーマンス、および安全性を確保することができます。

この中核には、Rhino Healthプラットフォームがあり、AI開発者が大量で多様なデータセットを構築し、AIアルゴリズムをトレーニングおよび検証し、展開されたAI製品を継続的に監視および維持できる「ワンストップショップ」を提供しています。

Rhino Healthプラットフォームは、AIバイアスを防ぎ、AIの説明可能性を提供する方法を教えてください。

データコラボレーションを解放し、ストリームライン化することで、AI開発者は、トレーニングとテストのために、より大規模で多様なデータセットを利用できます。より堅牢なデータセットの結果は、単一の機関または狭いデータセットのバイアスに悩まされていない、より汎用的な製品です。AIの説明可能性をサポートするために、私たちのプラットフォームは、開発プロセス全体で利用されるデータに関する明確な視点を提供し、データの起源、値の分布、およびその他の重要なメトリックを分析して、データの多様性と品質を確保する機能を提供します。

AIへの過度の依存が、独立して検証されていない偏った結果につながる可能性があるという心配を持つ医師にどう応えるのですか?

私たちはこの懸念に共感し、現在の市場にあるいくつかのアプリケーションが実際に偏っている可能性があることを認識しています。私たちの回答は、業界として、患者安全を第一に考えるヘルスケアコミュニティとして、バイアスを防ぎ、安全で効果的なAIアプリケーションを確保するためのポリシーと手順を定義する必要があるということです。AI開発者は、ヘルスケア専門家と患者からの信頼を得るために、市場に出したAI製品が独立して検証されることを保証する責任があります。Rhino Healthは、安全で信頼できるAI製品をサポートすることに尽力しており、臨床設定での展開前にAIアプリケーションの独立した検証を可能にし、ストリームライン化するためのパートナーと協力しています。

ヘルスケアにおけるAIの将来のビジョンを教えてください。

Rhino Healthのビジョンは、AIがヘルスケアでその全潜在力を達成した世界です。私たちは、透明性を生み出し、コラボレーションを促進することで、プライバシーを主張することでこの世界を実現するために勤勉に取り組んでいます。私たちは、ファイアウォール、地理、規制の制限によって制限されないヘルスケアAIを想像しています。AI開発者は、強力で汎用的なモデルを構築し、継続的に監視および改善するために必要なすべてのデータに制御されたアクセスを持ちます。プロバイダーと患者は、データの管理権を失わず、データが善意のために使用されていることを確認できることを安心して知ることができます。規制機関は、製薬およびデバイス開発におけるモデルの中核となる効果をリアルタイムで監視できます。公共の健康機関は、AIの進歩から利益を得る一方で、患者とプロバイダーはプライバシーが保護されていることを安心して知ることができます。

素晴らしいインタビュー、詳しく知りたい読者はRhino Healthを訪問してください。