Ittai Dayan, MD, Rhino Health’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Ittai Dayan, MD, Rhino Health’in kurucu ortağı ve CEO’sudur. Arka planı, yapay zeka ve tanı geliştirme, klinik tıp ve araştırma konularındadır. Daha önce BCG’nin sağlık uygulamasının çekirdek üyesi ve hastane yöneticisiydi. Şu anda, sağlık ve yaşam bilimleri endüstrisinde güvenli, adil ve etkili Yapay Zeka geliştirilmesine katkıda bulunmaya odaklanıyor. Rhino Health’te, dağıtılmış hesaplama ve Federated Learning, hasta gizliliğini korumak ve parçalanmış sağlık hizmeti manzarasında işbirliğini teşvik etmek için bir araç olarak kullanılıyor.

İsrail Savunma Kuvvetleri’nde özel kuvvetlerde görev yaptı, dünyanın en büyük akademik-tıbbi merkezli translasyonel AI merkezini yönetti. AI geliştirme ve ticarileştirme uzmanı ve uzun mesafe koşucusudur.

Rhino Health’in arkasındaki oluşum hikayesini paylaşabilir misiniz?

AI ile ilgili yolculuğum, bir klinisyen ve araştırmacı olarak, zihinsel bozuklukların tedavi yanıtını ölçmek için bir tür “dijital biyobelirteç” kullanarak başladı. Daha sonra, Mass General Brigham’deki Klinik Veri Bilimi Merkezi’nin (CCDS) yöneticisi oldum. Orada, dozens of klinik AI uygulamalarının geliştirilmesini denetledim ve verilerin geliştirilmesi ve eğitimi için gerekli olan verilere erişimin temel zorluklarını bizzat gördüm.

Sağlık hizmetleri AI’sinde birçok ilerleme rağmen, bir ürünü geliştirmekten piyasaya sürmeye giden yol uzun ve souvent bumpy. Çözümler klinik olarak dağıtıldığında çökebilir veya hayal kırıklığı yaratabilir ve AI yaşam döngüsünü desteklemek neredeyse imkansızdır. Sorun, modelleri yaratmaktan, onları korumaya geçmiştir. Bu soruna cevap vermek için, Mass General Brigham sistemine, birden fazla ticari geliştiriciden algoritmaları test edecek kendi “özel CRO”sunun değerini anlattım.

Ancak, sorun devam etti – sağlık verileri hala çok parçalanmış ve tek bir ağdan gelen büyük miktarda veri, tıbbi AI’nin giderek daralan hedeflerini karşılamak için yeterli değil. 2020 yazında, Dr. Mona Flores ile birlikte, o zamanlar dünyanın en büyük sağlık Federated Learning (FL) çalışması olan EXAM’ı başlattım ve yönettim. FL’yi kullanarak, veri paylaşılmadan COVID sonuçlarını öngörme modeli oluşturduk. Nature Medicine’de yayımlanan bu çalışma, çeşitli ve farklı verilerin kullanımının olumlu etkisini gösterdi ve sağlık hizmetlerinde federated öğrenmenin daha yaygın kullanımının potansiyelini vurguladı.

Bu deneyim, birçok zorluğu ortaya çıkardı. Bunlar, işbirliği yapan siteler arasında veri koordine etme, veri izlenebilirliğini ve uygun karakterizasyonu sağlama ve her kurumun IT departmanlarına yüklenen yükü içeriyordu. Bu, dağıtılmış veri işbirliğini destekleyecek yeni bir platform gerektiriyordu. Rhino Health Platform’u oluşturmak için ortak kurucu Yuval Baror ile işbirliği yaptım.

Sağlık hizmeti ortamında AI modellerinin beklenen sonuçları sağlamada neden sık sık başarısız olduklarını düşünüyorsunuz?

Tıbbi AI genellikle dar ve küçük veri kümeleri ile eğitilir, bu da modelin yalnızca eğitim verilerine benzer verilerde iyi performans göstermesine neden olur. Model, eğitim verileri ile farklı olan hastalara veya senaryolara uygulandığında, performans ciddi şekilde etkilenir.

Andrew Ng, bu durumu şöyle ifade etti: “Stanford Hastanesi’nden veri topladığımızda… yayınladığımız makaleler, algoritmaların belirli koşulları tespit etmede insan radyologlarla karşılaştırılabilir olduğunu gösteriyor… Ancak aynı modeli, aynı AI sistemini, başka bir hastaneye, daha eski bir makineye ve slightly farklı bir görüntüleme protokolü kullanan bir teknisyene götürdüğümüzde, veri kayması nedeniyle AI sisteminin performansı önemli ölçüde düşer.”

Basitçe söyleyebiliriz ki, çoğu AI modeli, gerçek dünya performansını sağlamak için yeterli çeşitlilikte ve kaliteli veri ile eğitilmez. Bu sorun, bilimsel ve ana akım çevrelerde iyi belgelenmiştir.

Farklı hasta gruplarında test etmenin ne kadar önemli olduğunu düşünüyorsunuz?

Farklı hasta gruplarında test etmek, oluşan AI ürününün yalnızca etkili ve performanslı değil, aynı zamanda güvenli olmasını sağlamak için çok önemlidir. Yeterince çeşitli hasta gruplarında eğitilmeyen veya test edilmeyen algoritmalar, algoritmik önyargıdan muzdarip olabilir. Bu, sağlık hizmetlerinde ve sağlık teknolojilerinde ciddi bir sorundur. Böyle algoritmalar, yalnızca eğitim verisindeki önyargıyı yansıtmakla kalmaz, ayrıca mevcut ırksal, etnik, dini, cinsiyet gibi sağlık hizmetlerindeki eşitsizlikleri artırabilir.

Çok yakın zamanda yayımlanan bir çalışmada, Rhino Health Platform’u kullanarak, bir sitede geliştirilen bir AI algoritmasının dört farklı sitede, çeşitli tarayıcı tiplerinde beyin anevrizmaları tespit etme performansını araştırdık. Sonuçlar, çeşitli tarayıcı tiplerindeki sitelerde önemli performans değişkenliğini gösterdi ve eğitim ve test için çeşitli veri kümelerinin kullanımının önemini vurguladı.

Bir alt popülasyonun temsil edilmediğini nasıl belirleyebilirsiniz?

Çok kullanılan bir yaklaşım, farklı veri kümelerindeki değişkenlerin dağılımlarını analiz etmektir. Bu, geliştiricilere hem “eğitim” veri kümeleri hem de doğrulama veri kümeleri hazırlarken yardımcı olabilir. Rhino Health Platformu, bu analizi yapmanıza olanak tanır ve ayrıca, modelin çeşitli kohortlarda nasıl performans gösterdiğini görmenizi sağlar, böylece genelleme ve sürdürülebilir performans sağlanabilir.

Federated Learning nedir ve bu sorunların bazılarını nasıl çözer?

Federated Learning (FL), AI modellerinin, veri paylaşılmadan, dağıtılmış veri kullanılarak eğitilmesi ve geliştirilmesi sürecidir. Bu, AI geliştirme için büyük bir adımdır. Historically, herhangi bir kullanıcı, birden fazla site ile işbirliği yapmak isterse, veri havuzuna ihtiyaç duyar, bu da birçok zorluk getirir. Bugün, Rhino Health Platform gibi yazılımlar ile FL, sağlık hizmetleri ve yaşam bilimleri alanında günlük bir gerçeklik haline geliyor.

Federated Learning, kullanıcıların, işbirliği yapan sitelerde veri kalması koşuluyla, veri keşfetmesine, küratörlüğüne ve doğrulamasına olanak tanır. Konteynırlaşmış kod, yerel sunucuda çalıştırılır ve veri, her zaman “veri emanetçisi” ile kalır.

Rhino Health’in, daha çeşitli veri kullanarak hızlı model oluşturmayı sağlayan vizyonunu paylaşabilir misiniz?

Bizim vizyonumuz, AI geliştiricileri ve kullanıcılarının, korku veya kısıtlama olmadan işbirliği yapabileceği bir ekosistemi içerir. İşbirlikçiler, coğrafi bölgeler arasında gerekli eğitim ve test verilerini hızla tanımlayabilir, bu verilere erişebilir ve model geliştirmeyi đảmalamak için gerekli adımları atabilir.

Bu vizyonun merkezinde, AI geliştiricilerinin büyük ve çeşitli veri kümelerini oluşturmasına, AI algoritmalarını eğitime ve doğrulamaya tabi tutmasına ve sürekli olarak AI ürünlerini izlemesine ve korumalarına olanak tanıyan Rhino Health Platform’u yer almaktadır.

Rhino Health platformu, AI önyargısını nasıl önler ve AI açıklanabilirliğini sağlar?

Veri işbirliğini açığa çıkaran ve kolaylaştıran Rhino Health Platformu, AI geliştiricilerinin daha büyük ve çeşitli veri kümelerini kullanmasına olanak tanır. Bu, daha genel ve güvenli AI ürünlerinin geliştirilmesini sağlar. AI açıklanabilirliği için, platform, geliştirme sürecinde kullanılan verilerin net bir görünümünü sağlar ve veri kökenlerini, değer dağılımlarını ve diğer önemli ölçümleri analiz etmeyi mümkün kılar.

AI’ye aşırı bağımlılığın, bağımsız olarak doğrulanmamış önyargılı sonuçlara yol açabileceğinden endişe duyan doktorlara nasıl cevap verirsiniz?

Bu endişeyi anlıyor ve bazı mevcut uygulamaların gerçekten önyargılı olabileceğini kabul ediyoruz. Endüstrinin, sağlık profesyonelleri ve hastalar için güvenli ve güvenilir AI uygulamalarını güvence altına almak için politika ve prosedürler belirlemesi gerektiğini düşünüyoruz. AI geliştiricileri, pazarlanan AI ürünlerinin klinik ortamlarda dağıtılmadan önce bağımsız olarak doğrulanmasından sorumludur. Rhino Health, güvenli ve güvenilir AI ürünlerini desteklemeye kendini adamıştır ve bağımsız doğrulama için gerekli doğrulama verilerini açığa çıkarmak için ortaklarla birlikte çalışmaktadır.

Sağlık hizmetlerindeki AI’nin geleceği ile ilgili vizyonunuz nedir?

Rhino Health’in vizyonu, AI’nin sağlık hizmetlerinde tam potansiyelini gerçekleştirdiği bir dünyadır. Bu dünyayı yaratmak için şeffaflık ve işbirliğini teşvik ederek gizliliği korumaya çalışıyoruz. AI geliştiricilerinin, güçlü ve genellemeye açık modeller oluşturmak ve bunları sürekli olarak geliştirmek için gerekli tüm verilere kontrollü erişimine sahip olacağı bir dünya hayal ediyoruz. Sağlayıcılar ve hastalar, verilerinin kontrolünü kaybetmeden ve bunları iyi kullanım için kullanabildiklerinden emin olabileceklerdir. Düzenleyiciler, ilaç ve cihaz geliştirme süreçlerindeki modellerin etkinliğini gerçek zamanlı olarak izleyebileceklerdir. Kamu sağlık kuruluşları, AI’deki bu gelişmelerden yararlanacak ve hastalar ve sağlayıcılar, gizliliklerinin korunduğunu bilerek rahatlayacaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Rhino Health‘i ziyaret edebilir.