Ittai Dayan, MD, Rhino Health’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Ittai Dayan, MD, Rhino Health‘in kurucu ortağı ve CEO’sudur. Arka planı, yapay zeka ve tanı geliştirme, klinik tıp ve araştırma konularında yer almaktadır. Daha önce BCG’nin sağlık uygulamasının çekirdek üyesi ve hastane yöneticisi olarak görev yapmıştır. Şu anda, sağlık ve yaşam bilimleri endüstrisinde güvenli, adil ve etkili Yapay Zeka geliştirilmesine katkıda bulunmaya odaklanmaktadır. Rhino Health’te, dağıtılmış hesaplama ve Federated Learning, hasta gizliliğini korumak ve parçalanmış sağlık hizmeti manzarasında işbirliğini teşvik etmek için bir araç olarak kullanılmaktadır.

İsrail Savunma Kuvvetleri’nde özel kuvvetlerde görev yaptı, dünyanın en büyük akademik-tıbbi merkezli çevirici AI merkezini yönetti. AI geliştirme ve ticarileştirme uzmanı ve uzun mesafe koşucusudur.

Rhino Health’in doğuş hikayesini paylaşabilir misiniz?

AI ile olan yolculuğum, bir klinisyen ve araştırmacı olarak, zihinsel bozuklukların tedavi yanıtını ölçmek için bir ‘dijital biyobelirtecini’ kullandığım zaman başladı. Daha sonra, Mass General Brigham’de Klinik Veri Bilimi Merkezi’nin (CCDS) geliştirilmesini yönettim. Orada, dozens of klinik AI uygulamalarının geliştirilmesini denetledim ve veri geliştirme ve eğitim için gerekli verilere erişme ve ‘etkinleştirme’ ile ilgili temel zorlukları ilk elden gördüm.

Sağlık AI’sinde birçok ilerleme olmasına rağmen, geliştirme ile piyasaya sürme arasındaki yol uzun ve souvent çukur dolu. Çözümler klinik olarak dağıtıldığında çöker veya (sadece) hayal kırıklığı yaratır ve AI yaşam döngüsünü desteklemek neredeyse sürekli klinik verilere erişimi olmadan imkansızdır. Sorun, modelleri oluşturmadan, bakımını yapma sorununa dönüşmüştür. Bu soruyu cevaplamak için, Mass General Brigham sistemine, birden fazla ticari geliştiriciden algoritmaları test edecek kendi ‘özel CRO için AI’ (CRO = Klinik Araştırma Org)’nın değerini anlattım.

Ancak, sorun devam etti – sağlık verileri hala çok parçalıdır ve bir ağdan gelen büyük miktarda veri, tıbbi AI’nın her zaman daha dar hedeflerini yenmek için yeterli değildir. 2020 yazında, NVIDIA’dan Dr. Mona Flores ile birlikte, o zamanların en büyük sağlık Federated Learning (FL) çalışması olan EXAM’ı başlattım ve yönettim. FL’yi kullanarak, dünya genelindeki verilerden paylaşılmayan herhangi bir veri olmadan COVID sonuçlarını öngörme modeli oluşturduk. Daha sonra Nature Medicine‘de yayımlanan bu çalışma, çeşitli ve farklı veri kümelerinin kullanımının olumlu etkisini gösterdi ve sağlık hizmetlerinde daha yaygın olarak Federated Learning kullanımının potansiyelini vurguladı.

Bu deneyim, jedoch, bir dizi zorluğu açığa çıkardı. Bunlar, işbirliği yapan siteler arasındaki verileri koordine etme, verilerin izlenebilirliğini ve uygun karakterizasyonunu sağlama ve her kurumun BT departmanlarına, alışık olmadıkları yenilikçi teknolojileri öğrenmek zorunda kalma yükünü içeriyordu. Bu, bu yeni ‘dağıtılmış veri’ işbirliklerini destekleyecek bir platform gerektiriyordu. Rhino Health Platform’u oluşturmak için ortak kurucu Yuval Baror ile birlikte çalışmaya karar verdim. Bu platform, FL ve edge-compute kullanarak gizlilik koruyan işbirliklerini destekleyen bir uçtan uca platformdur.

AI modellerinin sağlık hizmeti ortamında beklenen sonuçları sağlamada neden souvent başarısız olduğunu düşünüyorsunuz?

Tıbbi AI genellikle küçük, dar veri kümeleri üzerinde eğitilir, bu da tek bir kurum veya coğrafi bölgeden gelen veri kümeleri gibi, ve sonuçta ortaya çıkan model sadece gördüğü veri türlerinde iyi performans gösterir. Algoritma, eğitim veri kümesinden farklı olan hastalara veya senaryolara uygulandığında, performans ciddi şekilde etkilenir.

Andrew Ng, bu kavramı iyi bir şekilde yakaladı when dedi ki, “Stanford Hastanesi’nden veri topladığımızda…yayımlanan makaleler, algoritmaların belirli koşulları tespit etmekte insan radyologlarla karşılaştırılabilir olduğunu gösteriyor. … [Aynı modeli, aynı AI sistemini] sokak下的 daha eski bir hastaneye, daha eski bir makineye ve teknisyenin slightly farklı bir görüntüleme protokolü kullandığı yere götürdüğünüzde, veri kayması AI sisteminin performansını önemli ölçüde düşürür.”

Kısaca söylemek gerekirse, çoğu AI modeli, gerçek dünyada zayıf performans gösteren, yeterli çeşitlilikte ve kaliteli veri üzerinde eğitilmez. Bu sorun, hem bilimsel hem de ana akım çevrelerde iyi belgelenmiştir, Örneğin Science ve Politico gibi.

Çeşitli hasta gruplarında test etme ne kadar önemlidir?

Çeşitli hasta gruplarında test etme, ortaya çıkan AI ürününün sadece etkili ve performanslı değil, aynı zamanda güvenli olmasını sağlamak için çok önemlidir. Yeterince çeşitli hasta gruplarında eğitilmeyen veya test edilmeyen algoritmalar, ciddi bir sağlık hizmeti ve sağlık teknolojisi sorunu olan algoritmik önyargıdan muzdarip olabilir. Böyle algoritmalar, yalnızca eğitim verisindeki önyargıyı yansıtmakla kalmaz, aynı zamanda mevcut ırksal, etnik, dini, cinsiyet vb. sağlık hizmetlerindeki eşitsizlikleri artırır ve kötüleştirir. Çeşitli hasta gruplarında test etmeme, tehlikeli ürünlerin ortaya çıkmasına neden olabilir.

Son zamanlarda yayımlanan bir çalışmada, Rhino Health Platform’u kullanarak, bir sitede geliştirilen bir AI algoritmasının dört farklı sitede çeşitli tarayıcı tipleriyle beyin anevrizmaları tespit etme performansını araştırdık. Sonuçlar, çeşitli tarayıcı tiplerine sahip sitelerde önemli performans değişkenliği gösterdi ve çeşitli veri kümeleri üzerinde eğitim ve test etme önemini vurguladı.

Bir alt popülasyonun temsil edilmediğini nasıl tespit edersiniz?

Bir yaklaşım, farklı veri kümelerinin değişken dağılımlarını analiz etmektir, hem ‘eğitim’ veri kümeleri hem de doğrulama veri kümeleri için. Bu, geliştiricilere veri kümelerini hazırlarken ve doğrulama veri kümelerini hazırlarken bilgi verebilir. Rhino Health Platform’u kullanarak, kullanıcılar ayrıca modelin çeşitli kohortlarda nasıl performans gösterdiğini görebilir ve genellemeyi ve çeşitli alt popülasyonlar boyunca sürdürülebilir performansı sağlamak için bu bilgileri kullanabilir.

Federated Learning nedir ve bu sorunların bazılarını nasıl çözer?

Federated Learning (FL), AI modellerinin, merkezi bir sunucuda toplanmadan, çeşitli verilerin kullanılarak eğitildiği ve zamanla geliştirildiği bir süreç olarak tanımlanabilir. Bu, AI geliştirme için büyük bir adımdır. Geçmişte, birden fazla site ile işbirliği yapmak isteyen herhangi bir kullanıcı, bu verileri bir araya getirmek zorundadır, bu da birçok zor, pahalı ve zaman alan yasal, risk ve uyum sorunlarına neden olur.

Bugün, Rhino Health Platform gibi yazılımlar ile FL, sağlık hizmetleri ve yaşam bilimleri alanında günlük bir gerçeklik haline geliyor. Federated Learning, kullanıcıların verileri yerel sunucularında kalırken, verileri keşfetmelerine, küratelerine ve doğrulamalarına olanak tanır. Konteynerleştirilmiş kod, Örneğin bir AI/ML algoritması veya analitik bir uygulama, yerel sunucuya gönderilir ve orada yürütülür, Örneğin AI/ML algoritmasının eğitimi veya doğrulaması. Veriler, her zaman ‘veri koruyucu’ olan işbirliği yapan kurumun yerel sunucusunda kalır.

Hastaneler, özellikle de duyarlı hasta verilerini birleştirme risklerinden endişe duymaktadır. Bu, sağlık kurumlarının endüstrilerle işbirliği yaparken verilerinin kullanımını tam olarak anlamadıkları durumlar ortaya çıkarmıştır. Bu da, endüstri ve akademik araştırmacıların yapabileceği işbirliğini sınırlamış, Ar-Ge’yi yavaşlatmış ve sağlık hizmetleri endüstrisi genelinde ürün kalitesini etkilemiştir. FL, bunu hafifletebilir ve daha önce hiç olmadığı kadar veri işbirliklerini sağlayabilir ve bu işbirlikleriyle ilgili riskleri kontrol edebilir.

Rhino Health, daha çeşitli veri kullanarak hızlı model oluşturmayı nasıl sağlar?

Birbirleriyle işbirliği yapan AI geliştiricileri ve kullanıcıları içeren bir ekosistem hayal ediyoruz. İşbirlikçiler, coğrafyalar boyunca gerekli eğitim ve test verilerini hızla tanımlayabilir, bu verilere erişebilir, bu verilere etkileşebilir ve model geliştirmelerini, yeterli genellemeyi, performansı ve güvenliği sağlamak için yineleyebilir.

Bunun merkezinde, AI geliştiricilerinin büyük ve çeşitli veri kümelerini oluşturmasına, AI algoritmalarını eğitime ve doğrulamaya, ve sürekli olarak dağıtılan AI ürünlerini izlemesine ve bakımını yapmasına olanak tanıyan bir ‘tek durak’ olarak Rhino Health Platform’u bulunmaktadır.

Rhino Health platformu AI önyargısını nasıl önler ve AI açıklanabilirliğini sağlar?

Veri işbirliklerini açığa çıkaran ve kolaylaştıran AI geliştiricileri, daha büyük, daha çeşitli veri kümelerini uygulamalarının eğitim ve testinde kullanabilir. Daha güçlü veri kümelerinin sonucu, tek bir kurum veya dar veri kümesindeki önyargılardan muzdarip olmayan, daha genel bir ürün olur. AI açıklanabilirliğini desteklemek için, platformumuz, geliştirme sürecinde kullanılan verilerin net bir görünümünü sağlar, veri kökenlerini, değer dağılımlarını ve diğer önemli metrikları analiz etme yeteneği ile birlikte, yeterli veri çeşitliliği ve kalitesini sağlamak için.

AI’ye aşırı bağımlılığın, bağımsız olarak doğrulanmayan önyargılı sonuçlara yol açabileceğinden endişe duyan doktorlara nasıl cevap verirsiniz?

Bu endişeyle empati kuruyoruz ve bazı piyasada bulunan uygulamaların gerçekten önyargılı olabileceğini kabul ediyoruz. Cevabımız, endüstri olarak, sağlık profesyonelleri ve hastalar için güvenliği primeiro olarak düşünerek, bu önyargıları önlemek ve güvenli, etkili AI uygulamalarını sağlamak için politika ve prosedürler tanımlamamız gerektiğidir. AI geliştiricileri, pazarlanan AI ürünlerinin klinik ortamlarda dağıtılmadan önce bağımsız olarak doğrulandığından emin olmak için sorumluluk taşır. Rhino Health, güvenli, güvenilir AI ürünlerine adanmıştır ve işbirlikçileriyle birlikte, dağıtılmadan önce AI uygulamalarının bağımsız doğrulamasını sağlamak için gerekli doğrulama verilerine erişimi açığa çıkarmak için çalışmaktadır.

Gelecek için sağlık hizmetlerindeki AI vizyonunuz nedir?

Rhino Health’in vizyonu, AI’nin sağlık hizmetlerinde tam potansiyelini gerçekleştirdiği bir dünyadır. Bu dünyayı yaratmak için şeffaflık oluşturmak ve işbirliğini teşvik etmek için gizliliği korumaya çalışıyoruz. Sağlık AI’sinin, yangın duvarları, coğrafyalar veya düzenleyici kısıtlamalar tarafından sınırlı olmadığı bir dünya hayal ediyoruz. AI geliştiricileri, güçlü, genel modele sahip modeller oluşturmak ve sürekli olarak izlemek ve geliştirmek için gerekli tüm verilere kontrolsüz erişim sağlayacaktır. Sağlayıcılar ve hastalar, verilerinin kontrolünü kaybetmediklerini ve iyi kullanıldığını bilerek güvenebileceklerdir. Düzenleyiciler, ilaç ve cihaz geliştirme kullanılan modellerin etkinliğini gerçek zamanlı olarak izleyebileceklerdir. Kamu sağlığı organizasyonları, AI’deki bu gelişmelerden yararlanacak ve sağlayıcılar ve hastalar, gizliliklerinin korunduğunu bilerek rahatlayacaktır.

Harika röportaj için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular Rhino Health ziyaret edebilir.