의사 이타이 다얀, Rhino Health 공동 설립자 겸 CEO — 인터뷰 시리즈

의사 Ittai Dayan은 Rhino Health의 공동 설립자이자 CEO다. AI와 진단 기술 개발, 임상 의학과 연구에 경험이 있다. BCG 의료 부문 핵심 팀원과 병원 임원을 지냈다. 현재 의료 및 생명과학 산업에서 안전하고 공정하며 실질적 효과가 있는 AI 개발에 기여한다. Rhino Health는 분산 컴퓨팅과 연합학습으로 환자 개인정보를 지키고 분절된 의료 환경의 협력을 촉진한다.

이스라엘 방위군 특수부대에서 복무했고, 학술 의료기관에 기반을 둔 세계 최대의 중개연구 AI 센터를 이끌었다. AI 개발과 상용화 전문가이며 장거리 달리기 선수다.

Rhino Health의 설립 과정을 소개해 주시겠습니까?

의사이자 연구자로 일하면서 정신질환의 치료 반응을 측정하기 위해 초기 형태의 디지털 바이오마커를 사용한 것이 AI 여정의 시작이었습니다. 이후 Mass General Brigham의 임상 데이터 과학 센터(CCDS)를 이끌며 수십 개의 임상 AI 앱 개발을 감독했습니다. 규제 기준을 충족하는 AI 제품을 개발하고 훈련하는 데 필요한 데이터에 접근하고 이를 활용하는 근본적인 어려움을 직접 보았습니다.

의료 AI는 많이 발전했지만 개발에서 시장 출시까지는 길고 험난합니다. 임상 도입 후 작동이 실패하거나 실망스러운 결과를 내기도 합니다. 광범위한 임상 데이터에 계속 접근하지 못하면 전체 AI 생애주기를 지원하기가 거의 불가능합니다. 과제가 모델 생성에서 유지관리로 바뀌었습니다. 그래서 여러 상용 개발자의 알고리즘을 시험할 자체 AI 전문 임상연구기관(CRO)을 두는 가치에 관해 Mass General Brigham을 설득했습니다.

그러나 의료 데이터는 여전히 고립되어 있었고, 한 네트워크의 많은 데이터만으로는 점점 세분화되는 의료 AI의 목표를 다룰 수 없었습니다. 2020년 여름 NVIDIA의 Mona Flores 박사와 함께 (NVDA ) 당시 세계 최대 의료 연합학습 연구 EXAM을 시작하고 이끌었습니다. 데이터를 공유하지 않고 전 세계의 데이터로 코로나19 결과 예측 모델을 만들었습니다. 이후 Nature Medicine에 발표된 연구는 다양하고 서로 떨어진 데이터셋을 활용하는 긍정적 효과와 의료 연합학습의 광범위한 활용 가능성을 보여 주었습니다.

동시에 여러 과제도 드러났습니다. 협력 기관 간 데이터를 조율하고 추적성과 적절한 특성 설명을 확보해야 했으며, 각 기관 IT 부서는 낯선 첨단 기술을 배워야 했습니다. 새로운 분산 데이터 협력을 지원할 플랫폼이 필요했습니다. 공동 설립자 Yuval Baror와 개인정보를 보호하는 협력을 위한 전 과정 플랫폼을 만들기로 했습니다. 그것이 연합학습과 엣지 컴퓨팅을 활용하는 Rhino Health Platform입니다.

의료 AI 모델이 기대한 결과를 자주 내지 못하는 이유는 무엇입니까?

의료 AI는 한 기관이나 지역 등 작고 제한된 데이터셋으로 훈련되는 경우가 많아, 보았던 유형의 데이터에서만 잘 작동합니다. 훈련 데이터와 다른 환자나 상황에 적용하면 성능이 크게 떨어집니다.

Andrew Ng는 이를 이렇게 설명했습니다. “Stanford 병원의 데이터로 특정 질환을 찾는 알고리즘이 방사선과 의사에 필적한다는 논문을 발표할 수 있습니다. 그러나 같은 모델과 AI 시스템을 근처의 오래된 병원으로 가져가 오래된 장비를 쓰고 기사가 조금 다른 영상 프로토콜을 사용하면, 데이터 분포의 변화로 성능이 크게 떨어집니다.”³

간단히 말해, 대부분의 AI 모델은 충분히 다양하고 질 좋은 데이터로 훈련되지 않아 현실에서 성능이 좋지 않습니다. 과학계와 일반 매체 모두에서 잘 기록된 문제로, Science와 Politico 등이 다루었습니다.

다양한 환자 집단으로 시험하는 것이 얼마나 중요합니까?

효과적이고 성능이 좋을 뿐 아니라 안전한 제품을 보장하려면 매우 중요합니다. 충분히 다양한 환자로 훈련하거나 시험하지 않은 알고리즘에는 편향이 있을 수 있으며, 이는 의료와 의료 기술에서 심각한 문제입니다. 훈련 데이터의 편향을 반영할 뿐 아니라 이를 악화시키고 인종, 민족, 종교, 성별 등에 따른 기존 불평등까지 키웁니다. 다양한 환자 시험을 하지 않으면 위험한 제품이 나올 수 있습니다.

최근 발표된 연구⁵는 Rhino Health Platform을 이용해 한 기관에서 개발한 뇌동맥류 검출 AI를 여러 종류의 스캐너를 쓰는 네 기관에서 평가했습니다. 장비 종류가 다른 기관 사이에 상당한 성능 차이가 나타나, 다양한 데이터로 훈련하고 시험하는 중요성을 강조했습니다.

어떤 하위집단이 대표되지 않았는지 어떻게 파악합니까?

보통 서로 다른 데이터셋의 변수 분포를 개별적으로, 그리고 함께 분석합니다. 개발자가 훈련과 검증 데이터를 준비할 때 도움이 됩니다. Rhino Health Platform에서 이를 할 수 있고, 여러 코호트의 모델 성능도 확인해 하위집단 전반의 일반화 가능성과 지속적인 성능을 보장할 수 있습니다.

연합학습은 무엇이고 이런 문제를 어떻게 해결합니까?

연합학습(FL)은 떨어져 있는 데이터를 공유하거나 중앙에 모을 필요 없이 AI 모델을 훈련하고 지속적으로 개선하는 과정입니다. AI 개발의 큰 진전입니다. 과거에는 여러 기관과 협력하려면 데이터를 한데 모아야 했고, 번거롭고 비싸며 시간이 드는 법률, 위험관리, 규제 준수 문제가 많이 생겼습니다.

오늘날 Rhino Health Platform 같은 소프트웨어로 FL이 의료와 생명과학의 일상이 되고 있습니다. 데이터가 협력자의 로컬 서버에 있는 상태에서 탐색하고 정리하고 검증할 수 있습니다. AI/ML 알고리즘이나 분석 앱처럼 컨테이너화된 코드를 로컬 서버로 보내 훈련이나 검증 등을 그곳에서 실행합니다. 데이터는 항상 데이터 관리 주체에게 남습니다.

특히 병원은 민감한 환자 데이터를 모으는 위험을 우려합니다. 의료기관이 자기 데이터의 용도를 정확히 이해하지 못한 채 기업과 협력했다는 사실이 드러난 곤란한 사례도 있었습니다. 그래서 산업계와 학술 연구자의 협력이 제한되고, 연구개발이 늦어지며 의료산업 전체의 제품 품질에도 영향을 줍니다. FL은 이를 완화하고 협력 위험을 통제하면서 전에 없던 데이터 협력을 가능하게 합니다.

더 다양한 데이터로 모델을 빠르게 만드는 Rhino Health의 비전은 무엇입니까?

규제의 경계를 존중하면서 두려움이나 제약 없이 협력하는 AI 개발자와 사용자의 생태계를 생각합니다. 여러 지역에서 필요한 훈련·시험 데이터를 빨리 찾고, 접근해 활용하며, 충분한 일반화 가능성과 성능, 안전성을 위해 모델을 반복적으로 개선할 수 있습니다.

그 중심에 Rhino Health Platform이 있습니다. 개발자가 방대하고 다양한 데이터셋을 구성하고 AI 알고리즘을 훈련·검증하며, 배포된 제품을 계속 감시하고 유지관리하는 원스톱 서비스를 제공합니다.

플랫폼은 AI 편향을 어떻게 예방하고 설명 가능성을 제공합니까?

데이터 협력의 장벽을 없애고 과정을 간소화하면 개발자가 더 크고 다양한 데이터로 앱을 훈련하고 시험할 수 있습니다. 더 견고한 데이터셋은 한 기관이나 제한된 데이터의 편향에 얽매이지 않는, 더 잘 일반화하는 제품을 만듭니다. 설명 가능성을 위해 개발 전반에 쓰인 데이터를 명확히 보여 주고 출처, 값 분포, 핵심 지표를 분석해 다양성과 품질을 확인할 수 있게 합니다. 또 단순히 데이터를 한데 모아서 할 수 없는 기능도 제공합니다. 예를 들어 기존 데이터에서 계산한 추가 변수로 데이터셋을 보강해 인과 추론을 연구하고 교란요인의 영향을 줄일 수 있습니다.

AI에 지나치게 의존하면 독립적으로 검증되지 않은 편향된 결과가 나올까 우려하는 의사에게 어떻게 답합니까?

그 우려에 공감하며 현재 일부 앱에 실제 편향이 있을 수 있음을 인정합니다. 환자 안전을 최우선으로 여기는 의료 공동체와 산업계가 함께 편향을 예방하고 안전하고 효과적인 AI를 보장할 정책과 절차를 정해야 합니다. 개발자는 의료인과 환자의 신뢰를 얻기 위해 판매하는 AI 제품이 독립 검증을 받도록 할 책임이 있습니다. Rhino Health는 안전하고 신뢰할 수 있는 제품을 지원합니다. 필요한 검증 데이터에 대한 접근 장벽을 없애, 임상 도입 전에 독립 검증을 가능하게 하고 간소화하도록 협력자들과 일합니다.

의료 AI의 미래에 대한 비전은 무엇입니까?

AI가 의료에서 잠재력을 완전히 실현한 세계가 Rhino Health의 비전입니다. 개인정보를 보호해 투명성과 협력을 촉진하며 그런 세계를 만들고자 합니다. 방화벽, 지리, 규제 제한에 얽매이지 않는 의료 AI를 생각합니다. 개발자는 강력하고 일반화 가능한 모델에 필요한 모든 데이터에 통제된 방식으로 접근하고, 실시간 데이터 흐름으로 계속 감시·개선할 수 있습니다. 의료 제공자와 환자는 자기 데이터에 대한 통제권을 잃지 않으며 좋은 목적으로 쓰인다는 확신을 가질 수 있습니다. 규제기관은 약물과 기기 개발에 쓰이는 모델의 효과를 실시간으로 감시할 수 있습니다. 공중보건 기관도 혜택을 누리고 환자와 의료 제공자는 개인정보가 보호됨을 알고 안심할 수 있습니다.

좋은 인터뷰 감사합니다. 더 알아보려는 독자는 Rhino Health를 방문하시기 바랍니다.