Ittai Dayan, MD, Rhino Health’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Tıp doktoru Ittai Dayan, Rhino Health şirketinin kurucu ortağı ve CEO’sudur. Geçmişi yapay zekâ ve tanı geliştirme ile klinik tıp ve araştırmayı kapsar. Daha önce BCG’nin sağlık biriminde çekirdek ekip üyesi ve hastane yöneticisiydi. Şimdi sağlık ve yaşam bilimleri sektörlerinde güvenli, adil ve etkili yapay zekâ gelişimine katkıda bulunmaya odaklanıyor. Rhino Health, hasta mahremiyetini korumak ve parçalanmış sağlık ekosisteminde işbirliğini desteklemek için dağıtılmış hesaplama ve federatif öğrenme kullanıyor.

İsrail Savunma Kuvvetleri özel kuvvetlerinde görev yaptı ve akademik bir tıp merkezinde bulunan, dünyanın en büyük translasyonel AI merkezini yönetti. AI geliştirme ve ticarileştirme uzmanı, aynı zamanda uzun mesafe koşucusudur.

Rhino Health’in kuruluş hikâyesini paylaşabilir misiniz?

AI yolculuğum, hekim ve araştırmacı olarak ruhsal bozukluklarda tedavi yanıtını ölçmek için dijital biyobelirtecin erken bir biçimini kullandığımda başladı. Daha sonra Mass General Brigham’de Klinik Veri Bilimi Merkezi’ni (CCDS) yönettim. Onlarca klinik AI uygulamasının geliştirilmesini denetledim. Düzenleyici kurumların gerekliliklerini karşılayan AI ürünleri geliştirmek ve eğitmek için gereken verilere erişme ve bunları kullanıma açmanın temel zorluklarını doğrudan gördüm.

Sağlık AI’sindeki ilerlemelere rağmen geliştirmeden pazara çıkışa uzanan yol uzun ve çoğu zaman engebeli. Çözümler klinikte kullanıldıklarında çökebiliyor veya yalnızca hayal kırıklığı yaratabiliyor. Çok miktarda klinik veriye sürekli erişim olmadan tüm AI yaşam döngüsünü desteklemek neredeyse imkânsız. Zorluk, modelleri oluşturmaktan onları sürdürmeye kaydı. Buna yanıt olarak Mass General Brigham’i, farklı ticari geliştiricilerin algoritmalarını test etmek üzere kendi AI’ye özel klinik araştırma kuruluşuna, yani CRO’ya sahip olmanın değerine ikna ettim.

Ancak sağlık verileri hâlâ ayrı silolardaydı. Tek bir ağdan çok veri gelmesi bile tıbbi AI’nin giderek daralan hedeflerini karşılamaya yetmiyordu. 2020 yazında NVIDIA’dan Dr. Mona Flores ile (NVDA ) o dönemin dünyadaki en büyük sağlık federatif öğrenme (FL) araştırması EXAM’ı başlattım ve yönettim. Verileri paylaşmadan, dünyanın dört yanından gelen verilerle COVID sonucunu öngören bir model geliştirdik. Daha sonra Nature Medicine dergisinde yayımlanan çalışma, farklı ve ayrı veri kümelerinden yararlanmanın olumlu etkisini ve FL’nin sağlıkta daha yaygın kullanılma potansiyelini gösterdi.

Bu deneyim çeşitli güçlükleri de açığa çıkardı: işbirliği yapan merkezlerdeki verileri koordine etmek, izlenebilirliği ve doğru tanımlamayı sağlamak, ayrıca her kurumun BT birimine alışık olmadıkları ileri teknolojileri öğrenme yükü getirmek. Bu yeni dağıtılmış veri işbirliklerini destekleyecek bir platform gerekiyordu. Kurucu ortağım Yuval Baror ile mahremiyeti koruyan işbirlikleri için uçtan uca bir platform geliştirmeye karar verdim. Bu, FL ve uç bilişimden yararlanan Rhino Health Platform’dur.

AI modelleri neden sağlıkta sık sık beklenen sonuçları veremiyor?

Tıbbi AI çoğunlukla tek kurum veya coğrafi bölge gibi küçük, dar veri kümeleriyle eğitiliyor. Sonuçta model yalnızca daha önce gördüğü veri türlerinde iyi çalışıyor. Eğitim verisinden farklı hastalara veya durumlara uygulandığında performansı ciddi biçimde düşüyor.

Andrew Ng bunu şöyle anlatmıştı: “Stanford Hastanesi’nden veri topladığımızda, algoritmaların bazı durumları saptamada insan radyologlarla karşılaştırılabilir olduğunu gösteren çalışmalar yayımlayabiliyoruz. Ancak aynı modeli, aynı AI sistemini sokağın aşağısındaki daha eski bir hastaneye götürdüğünüzde, eski bir cihaz ve biraz farklı görüntüleme protokolü kullanan teknisyen nedeniyle veri dağılımı değişiyor ve sistemin performansı önemli ölçüde düşüyor.”³

Kısacası çoğu AI modeli yeterince çeşitli ve kaliteli veriyle eğitilmiyor; bu da gerçek dünyada zayıf performansla sonuçlanıyor. Bu sorun hem bilimsel yayınlarda hem genel medyada, örneğin Science ve Politico yayınlarında iyi belgelenmiştir.

Farklı hasta gruplarında test yapmak ne kadar önemli?

Ortaya çıkan AI ürününün yalnızca etkili ve yüksek performanslı değil, güvenli de olması için çok önemli. Yeterince çeşitli hasta gruplarında eğitilmeyen veya test edilmeyen algoritmalar, sağlıkta ve sağlık teknolojisinde ciddi bir sorun olan algoritmik yanlılıktan etkilenebilir. Bunlar eğitim verisindeki yanlılığı yansıtmakla kalmaz; onu ve ırk, etnik köken, din, cinsiyet gibi etkenlere bağlı mevcut sağlık eşitsizliklerini de artırır. Çeşitli hasta gruplarında test yapılmaması tehlikeli ürünler doğurabilir.

Yakın zamanda yayımlanan bir araştırma⁵, Rhino Health Platform’u kullanarak tek merkezde geliştirilen beyin anevrizması saptama algoritmasının farklı tarayıcı türleri kullanan dört merkezdeki performansını inceledi. Sonuçlar, farklı tarayıcı kullanan merkezler arasında büyük performans farkları gösterdi; çeşitli verilerle eğitim ve testin önemini vurguladı.

Bir alt nüfus grubunun temsil edilmediğini nasıl belirliyorsunuz?

Yaygın yöntem, farklı veri kümelerindeki değişkenlerin dağılımlarını ayrı ayrı ve birlikte incelemektir. Bu, hem eğitim hem doğrulama verilerini hazırlarken geliştiricilere yol gösterir. Rhino Health Platform bunu sağlar. Kullanıcılar ayrıca modelin farklı kohortlardaki performansını görerek alt gruplar arasında genellenebilirliği ve sürdürülebilir performansı kontrol edebilir.

Federatif öğrenme nedir ve bu sorunları nasıl çözüyor?

Federatif öğrenme (FL), AI modellerinin ayrı verilerle, verileri paylaşmadan veya merkezileştirmeden eğitilmesi ve zaman içinde geliştirilmeye devam etmesidir. AI geliştirmede büyük bir ilerlemedir. Geçmişte birden fazla merkezle çalışmak isteyen herkesin verileri bir araya getirmesi gerekiyordu. Bu da ağır, pahalı ve zaman alıcı hukuk, risk ve mevzuata uyum sorunları yaratıyordu.

Bugün Rhino Health Platform gibi yazılımlarla FL, sağlık ve yaşam bilimlerinde günlük bir gerçekliğe dönüşüyor. Kullanıcılar, veriler ortakların yerel sunucularında kalırken bunları inceleyebiliyor, düzenleyebiliyor ve doğrulayabiliyor. AI/ML algoritması veya analiz uygulaması gibi konteynerleştirilmiş kod yerel sunucuya gönderiliyor; algoritmanın eğitimi ya da doğrulanması gibi işlemler orada gerçekleştiriliyor. Veriler her zaman veri sorumlusunda kalıyor.

Özellikle hastaneler hassas hasta verilerini toplamanın risklerinden kaygılı. Sağlık kuruluşlarının verilerinin nasıl kullanıldığını tam anlamadan endüstriyle çalıştığının ortaya çıktığı utandırıcı durumlar yaşandı. Bunun sonucunda hem endüstri hem akademik araştırmacıların işbirliği sınırlanıyor; Ar-Ge yavaşlıyor ve tüm sağlık sektöründe ürün kalitesi etkileniyor. FL, bu sorunları hafifletip riskleri denetleyerek daha önce görülmemiş veri işbirlikleri sağlayabilir.

Daha çeşitli verilerle hızlı model geliştirme konusundaki vizyonunuzu paylaşır mısınız?

Mevzuatın sınırlarına saygı duyarak korku ve kısıtlama olmadan işbirliği yapan AI geliştiricileri ve kullanıcılarından oluşan bir ekosistem düşünüyoruz. Ortaklar gerekli eğitim ve test verilerini farklı coğrafyalardan hızla belirleyebilir, bu verilere erişip onlarla çalışabilir ve yeterli genellenebilirlik, performans ve güvenlik için modelleri tekrar tekrar geliştirebilir.

Merkezde Rhino Health Platform bulunuyor: büyük ve çeşitli veri kümeleri oluşturmak, AI algoritmalarını eğitip doğrulamak, kullanıma alınmış ürünleri sürekli izlemek ve sürdürmek için tek noktadan çözüm sunuyor.

Platform AI yanlılığını nasıl önlüyor ve açıklanabilirliği nasıl destekliyor?

Veri işbirliğinin önündeki engelleri kaldırıp süreçleri kolaylaştırarak geliştiricilerin eğitim ve testte daha büyük ve çeşitli veriler kullanmasını sağlıyoruz. Sağlam veri kümeleri, tek kurum veya dar verinin yanlılığıyla yüklenmeyen, daha genellenebilir bir ürün sağlıyor. Açıklanabilirlik için platform, geliştirme boyunca kullanılan verilere açık bir bakış sunuyor; kaynakları, değer dağılımlarını ve temel ölçümleri inceleyerek yeterli çeşitlilik ve kalite kontrol edilebiliyor. Ayrıca yalnızca verileri birleştirerek elde edilemeyen işlevler sağlıyor. Örneğin mevcut veri noktalarından hesaplanan yeni değişkenler eklenerek nedensel çıkarım araştırılabiliyor ve karıştırıcı etkenlerin etkisi azaltılabiliyor.

AI’ye aşırı güvenmenin bağımsız doğrulanmamış yanlı sonuçlar üretebileceğinden endişelenen hekimlere ne dersiniz?

Bu kaygıyı anlıyor, piyasadaki bazı uygulamaların gerçekten yanlı olabileceğini kabul ediyoruz. Önceliği hasta güvenliği olan sağlık topluluğu ve sektör olarak birleşip, bu yanlılıkları önleyecek ve güvenli, etkili AI uygulamalarını sağlayacak politika ve süreçler belirlemeliyiz. Geliştiriciler, sağlık çalışanları ve hastaların güveni için pazarladıkları ürünlerin bağımsız doğrulanmasını sağlamakla sorumlu. Rhino Health güvenli ve güvenilir AI ürünlerini destekliyor. Klinik kullanımdan önce bağımsız doğrulamayı mümkün ve kolay kılmak için ortaklarla çalışarak gerekli doğrulama verilerine erişimin önündeki engelleri kaldırıyor.

Sağlıkta AI’nin geleceğine ilişkin vizyonunuz nedir?

Rhino Health’in vizyonu, AI’nin sağlıkta tüm potansiyeline ulaştığı bir dünya. Bunun için mahremiyeti güvence altına alarak şeffaflık ve işbirliği yaratmaya çalışıyoruz. Güvenlik duvarları, coğrafya veya mevzuat sınırlamalarına takılmayan sağlık AI’si düşünüyoruz. Geliştiriciler güçlü ve genellenebilir modeller kurmak için gereken tüm verilere kontrollü erişebilecek; gerçek zamanlı veri akışıyla bunları sürekli izleyip iyileştirebilecek. Sağlık hizmeti sağlayıcıları ve hastalar verilerinin kontrolünü kaybetmediklerini ve iyi amaçlarla kullanıldığını bilecek. Düzenleyiciler ilaç ve cihaz geliştirmede kullanılan modellerin etkililiğini gerçek zamanlı izleyebilecek. Kamu sağlığı kuruluşları bu ilerlemelerden yararlanırken hastalar ve sağlayıcılar mahremiyetin korunduğunu bilerek rahat edecek.

Bu güzel röportaj için teşekkürler. Daha fazla bilgi isteyenler Rhino Health sitesini ziyaret edebilir.