イッタイ・ダヤン、MD、Rhino Healthの共同創設者兼CEO – インタビュー・シリーズ

イッタイ・ダヤン、MDは、Rhino Healthの共同創設者兼CEOです。彼の背景は、人工知能と診断の開発、および臨床医学と研究です。彼は、BCGのヘルスケア部門の元コアメンバーであり、病院の幹部です。現在、ヘルスケアとライフサイエンス業界における安全で、公平で、影響力のある人工知能の開発に貢献することに焦点を当てています。Rhino Healthでは、分散コンピューティングとフェデレーテッドラーニングを使用して、患者のプライバシーを保護し、ヘルスケアの断片化された景観を超えてコラボレーションを促進しています。

彼は、IDFの特殊部隊で奉仕し、学術医療センターに設置された世界最大のトランスレーショナルAIセンターを率いました。彼は、AIの開発と商業化の専門家であり、長距離ランナーでもあります。

Rhino Healthの創設の背景を共有してください。

私のAIへの旅は、医師兼研究者として、精神障害の治療反応を測定するための初期のデジタルバイオマーカーを使用したときに始まりました。その後、Mass General BrighamのCenter for Clinical Data Science（CCDS）を率い、数十の臨床AIアプリケーションの開発を監督し、規制基準を満たすAI製品の開発とトレーニングに必要なデータへのアクセスと「活性化」に関連する根本的な課題を直接見ました。

ヘルスケアAIの進歩にもかかわらず、開発から製品の市場への導入までの道は長く、しばしば困難なものです。ソリューションは臨床導入後に動かなくなったり、単に期待外れだったりします。そしてAIのフルライフサイクルをサポートすることは、大量の臨床データへの継続的なアクセスなしにはほぼ不可能です。課題は、モデルを作成することから、モデルを維持することに移りました。 この課題に答えるために、私はMass General Brighamシステムに、複数の商業開発者のアルゴリズムをテストするための「特殊なCRO for AI」（CRO = 臨床研究機関）の価値を説きました。

しかし、問題は残りました – ヘルスケアデータはまだ非常に断片化されており、1つのネットワークからの大量のデータだけでは、医療AIの狭いターゲットに十分に対処することはできません。2020年の夏、私は（NVIDIA (NVDA ) のMona Flores博士と共に）、当時の世界最大のヘルスケアフェデレーテッドラーニング（FL）研究であるEXAMを開始し、主導しました。私たちは、FLを使用して、世界中のデータを利用してCOVIDの結果を予測するモデルを作成しましたが、データを共有しません。 ネイチャー・メディシンに掲載されたこの研究は、多様で異なるデータセットを利用することの良い効果と、ヘルスケアにおけるフェデレーテッドラーニングのより広範な使用の可能性を強調しました。

しかし、この経験は、いくつかの課題を明らかにしました。これには、協力機関間のデータの調整、データの追跡可能性と適切な特性の確保、および各機関のIT部門が従来使用していない最新の技術を学ぶ必要性が含まれます。これにより、新しい「分散データ」コラボレーションをサポートするための新しいプラットフォームが必要になりました。私は私の共同創設者、Yuval Barorと組んで、プライバシーを保護するコラボレーションをサポートするためのエンドツーエンドのプラットフォームを作成することにしました。そのプラットフォームがRhino Healthプラットフォームです。FLとエッジコンピューティングを利用しています。

AIモデルがヘルスケア設定で予想される結果を達成できないことが多いのは、なぜですか?

医療AIは、通常、狭いデータセット（たとえば、1つの機関または地理的地域からのデータセット）でトレーニングされます。その結果、モデルはトレーニングデータセットと同じタイプのデータに対してのみ優れたパフォーマンスを発揮します。アルゴリズムが、トレーニングデータセットと異なる患者またはシナリオに適用されると、パフォーマンスは大幅に低下します。

Andrew Ngは、この概念をよく捉えました。彼は、「スタンフォード病院からデータを収集して…特定の疾患の発見でアルゴリズムが人間の放射線科医に匹敵することを示す論文を公開できます…。[しかし]同じモデル、同じAIシステムを、街の下にある古い病院に持ち込んで、古い機械で、技術者が少し異なる画像プロトコルを使用していると、データドリフトによりAIシステムのパフォーマンスが大幅に低下します。」³

簡単に言えば、ほとんどのAIモデルは十分に多様で高品質のデータで訓練されていないため、現実世界での性能が低くなります。この問題は、サイエンスやポリティコなどの科学的および一般的な媒体でよく文書化されています。

さまざまな患者グループに対するテストの重要性は?

さまざまな患者グループに対するテストは、結果として得られるAI製品が効果的でパフォーマンスが良く、安全であることを保証するために不可欠です。十分に多様な患者グループでトレーニングまたはテストされていないアルゴリズムは、アルゴリズム的バイアスに苦しむ可能性があります。これはヘルスケアとヘルスケア技術における深刻な問題です。そうしたアルゴリズムは、トレーニングデータに存在していたバイアスを反映するだけでなく、バイアスを悪化させ、ヘルスケアにおける既存の人種、民族、宗教、性別などの不平等を増幅させます。さまざまな患者グループに対するテストを怠ると、危険な製品が生まれる可能性があります。

最近発表された研究⁵では、Rhino Healthプラットフォームを使用して、一つの機関で開発された脳動脈瘤を検出するAIアルゴリズムのパフォーマンスを、さまざまなスキャナータイプの四つの機関で調べました。結果は、さまざまなスキャナーを使う機関でのパフォーマンスの大きい変動を強調し、さまざまなデータセットでトレーニングおよびテストすることの重要性を示しました。

部分集団がデータに含まれていない場合にそれを特定する方法は?

一般的なアプローチは、さまざまなデータセットの変数の分布を個別に、または組み合わせて分析することです。これにより、開発者は「トレーニング」データセットと検証データセットの準備時に情報を得ることができます。Rhino Healthプラットフォームを使用すると、ユーザーはモデルのパフォーマンスをさまざまなコホートで見ることができ、汎化能力と持続可能なパフォーマンスを確保することができます。

フェデレーテッドラーニングとは何か、それがこれらの問題をどのように解決するのかについて説明してください。

フェデレーテッドラーニング（FL）は、AIモデルがトレーニングされ、異なるデータを使用して継続的に改善されるプロセスとして定義できますが、データを共有または集中化する必要はありません。これはAI開発における大きな進歩です。歴史的に、複数の機関とコラボレーションするユーザーは、データをプールする必要があり、法的、リスク、コンプライアンス上の多くの面倒で費用と時間のかかる作業が必要でした。

今日、Rhino Healthプラットフォームのようなソフトウェアを使用して、FLはヘルスケアとライフサイエンスにおける日常の現実になりました。フェデレーテッドラーニングにより、ユーザーは、データがローカルサーバーに残るまま、データを探索、キュレーション、検証できます。コンテナ化されたコード（たとえば、AI/MLアルゴリズムまたは分析アプリケーション）は、ローカルサーバーに配布され、コードの実行（たとえば、AI/MLアルゴリズムのトレーニングまたは検証）が「ローカル」で実行されます。データは、常に「データ管理者」が管理します。

病院は特に、機微な患者データを集約するリスクを懸念します。医療機関がデータの用途を正確に理解しないまま企業と協力していたと判明し、困惑を招いた事例もありました。そのため企業や学術研究者との協力が制限され、研究開発が遅れ、医療業界全体の製品品質にも影響します。FLはこれを緩和し、協力に伴うリスクを管理しつつ、かつてないデータ連携を可能にします。

Rhino Healthの、より多様なデータを使用してモデルを迅速に作成するためのビジョンを共有してください。

私たちは、AI開発者とユーザーが、規制の境界を尊重しながら、恐れや制限なくコラボレーションできるエコシステムを想像しています。コラボレーターは、地理的区域を超えて必要なトレーニングおよびテストデータを迅速に特定し、データにアクセスおよび相互作用し、モデル開発を繰り返して、汎化能力、パフォーマンス、および安全性を確保することができます。

この中核には、Rhino Healthプラットフォームがあり、AI開発者が大量で多様なデータセットを構築し、AIアルゴリズムをトレーニングおよび検証し、展開されたAI製品を継続的に監視および維持できる「ワンストップショップ」を提供しています。

Rhino Healthプラットフォームは、AIバイアスを防ぎ、AIの説明可能性を提供する方法を教えてください。

データコラボレーションを解放し、ストリームライン化することで、AI開発者は、トレーニングとテストのために、より大規模で多様なデータセットを利用できます。より堅牢なデータセットの結果は、単一の機関または狭いデータセットのバイアスに悩まされていない、より高い汎化能力を持つ製品です。AIの説明可能性をサポートするために、私たちのプラットフォームは、開発プロセス全体で利用されるデータに関する明確な視点を提供し、データの起源、値の分布、およびその他の重要なメトリックを分析して、データの多様性と品質を確保する機能を提供します。さらに、単にデータを一か所に集めるだけでは不可能な機能もあります。既存のデータ点から計算した変数などを追加し、因果推論を研究して交絡因子の影響を減らせます。

AIへの過度の依存が、独立して検証されていない偏った結果につながる可能性があるという心配を持つ医師にどう応えるのですか?

私たちはこの懸念に共感し、現在の市場にあるいくつかのアプリケーションが実際に偏っている可能性があることを認識しています。私たちの回答は、業界として、患者安全を第一に考えるヘルスケアコミュニティとして、バイアスを防ぎ、安全で効果的なAIアプリケーションを確保するためのポリシーと手順を定義する必要があるということです。AI開発者は、ヘルスケア専門家と患者からの信頼を得るために、市場に出したAI製品が独立して検証されることを保証する責任があります。Rhino Healthは、安全で信頼できるAI製品をサポートすることに尽力しており、臨床設定での展開前にAIアプリケーションの独立した検証を可能にし、必要な検証データへのアクセス障壁を取り除いて簡素化するため、パートナーと協力しています。

ヘルスケアにおけるAIの将来のビジョンを教えてください。

Rhino Healthのビジョンは、AIがヘルスケアでその全潜在力を達成した世界です。私たちは、透明性を生み出し、コラボレーションを促進することで、プライバシーを確保することでこの世界を実現するために勤勉に取り組んでいます。私たちは、ファイアウォール、地理、規制の制限によって制限されないヘルスケアAIを想像しています。AI開発者は、強力で汎化可能なモデルを構築し、リアルタイムのデータの流れで継続的に監視・改善するために必要なすべてのデータに制御されたアクセスを持ちます。プロバイダーと患者は、データの管理権を失わず、データが善意のために使用されていることを確認できることを安心して知ることができます。規制機関は、製薬およびデバイス開発におけるモデルの有効性をリアルタイムで監視できます。公共の健康機関は、AIの進歩から利益を得る一方で、患者とプロバイダーはプライバシーが保護されていることを安心して知ることができます。

素晴らしいインタビュー、詳しく知りたい読者はRhino Healthを訪問してください。