Gradient Health CEO’su Josh Miller – Röportaj Serisi

Josh Miller, sağlık hizmetlerinin adil ve herkes için erişilebilir olması için otomatik teşhisin gerekli olduğu fikriyle kurulan Gradient Health şirketinin CEO’sudur. Gradient Health; düzenlenmiş, etiketlenmiş ve erişilebilir verilerle otomatik yapay zeka teşhisini hızlandırmayı amaçlıyor.

Gradient Health’in kuruluş hikayesini paylaşabilir misiniz?

Kurucu ortağım Ouwen ve ben, tarımda kullanılan pestisit miktarını azaltmak için bilgisayarlı görüden yararlanan ilk girişimimiz FarmShots’tan yeni ayrılmıştık ve sıradaki zorluğumuzu arıyorduk.

Bizi her zaman, teknolojiyle çözülebilecek ve hem dünyada büyük bir iyilik yapma fırsatı sunan hem de sağlam bir işletmeye dönüşebilen zor bir problem bulma isteği motive etti. Ouwen tıp eğitimi alıyordu. Bilgisayarlı görü deneyimimiz düşünüldüğünde tıbbi görüntüleme bizim için doğal bir seçimdi. Meme kanserinin yıkıcı etkisi nedeniyle mamografiyi olası ilk uygulama olarak seçtik. “Nereden başlayacağız? Veriye ihtiyacımız var. Bin mamogram gerekiyor. Bu ölçekte veriyi nereden bulabiliriz?” dedik. Cevap “Hiçbir yerden” oldu. Veri bulmanın gerçekten zor olduğunu hemen fark ettik. Aylar sonra bu hayal kırıklığı bizim için felsefi bir soruna dönüştü. “Bu alanda iyilik yapmaya çalışan hiç kimse, hayat kurtaran algoritmalar geliştirmek için gereken veriyi elde etmek uğruna mücadele etmek zorunda kalmamalı” diye düşündük. Ardından “Belki de çözmemiz gereken asıl sorun budur” dedik.

Piyasada temsili olmayan verilerden kaynaklanan mevcut riskler nelerdir?

Sayısız çalışma ve gerçek örnekten biliyoruz ki yalnızca ABD’nin batı kıyısından gelen verilerle bir algoritma geliştirip onu güneydoğuya götürürseniz çalışmaz. Geliştirildiği kuzeydoğudaki hastanede harika çalışan, başka bir yerde kullanıldığında ise doğruluğu %50’nin altına düşen yapay zeka hikayelerini defalarca duyuyoruz.

Bence yapay zekanın etik açıdan temel amacı sağlık eşitsizliklerini azaltmak olmalı. Amaç, kaliteli bakımı uygun maliyetli ve herkes için erişilebilir kılmaktır. Ancak kötü verilere dayanarak geliştirirseniz eşitsizlikleri artırırsınız. Yalnızca kıyı bölgelerindeki beyaz erkeklerde çalışmasına izin verirsek sağlık yapay zekasının görevini yerine getiremeyiz. Yeterince temsil edilmeyen gruplardan insanlar sonuçta daha az değil, daha fazla ayrımcılığa uğrar.

Gradient Health verileri nasıl temin ediyor?

Dünyanın dört bir yanındaki her tür sağlık sistemiyle ortaklık kuruyoruz. Bu sistemlerin verileri aksi halde saklanıyor, maliyete yol açıyor ve kimseye yarar sağlamıyor. Verilerden kimlik belirleyici bilgileri kaynağında kapsamlı biçimde çıkarıyor, ardından verileri araştırmacılar için dikkatle düzenliyoruz.

Gradient Health verilerin tarafsız ve mümkün olduğunca çeşitli olmasını nasıl sağlıyor?

Bunun birçok yolu var. Veri toplarken büyük hastanelerin yanı sıra, çoğu zaman daha temsili veriler sağlayan çok sayıda toplum kliniğini dahil ediyoruz. Ayrıca çok sayıda klinik merkezden veri alıyoruz. Olabildiğince geniş bir nüfus yelpazesinden mümkün olduğunca çok merkeze ulaşmaya çalışıyoruz. Yalnızca merkez sayısı değil, bunların coğrafi ve sosyoekonomik çeşitliliği de önemli. Bütün merkezleriniz şehir merkezindeki hastanelerse veriler yine temsili değildir, değil mi?

Bunları doğrulamak için tüm veri kümelerinde istatistiksel analizler yapıyor ve müşteriye göre uyarlıyoruz. Böylece hem teknoloji hem de demografik özellikler açısından çeşitli veriler almalarını sağlıyoruz.

Bu düzeyde veri kontrolü, sağlam yapay zeka algoritmaları geliştirmek için neden bu kadar önemli?

Yapay zekanın gerçek dünyada karşılaşabileceği birçok değişken var. Amacımız algoritmayı mümkün olduğunca sağlam kılmak. Basitleştirmek için verilerimizde beş temel değişken düşünüyoruz. İlki “ekipman üreticisi”. Açık bir örnek ama yalnızca GE tarayıcılarından gelen verilerle geliştirdiğiniz algoritma, örneğin Hitachi’de aynı derecede iyi çalışmaz.

Buna benzer bir diğer değişken “ekipman modeli”. Sağlık eşitsizliği açısından oldukça ilginçtir. Büyük ve iyi finanse edilen araştırma hastaneleri genellikle en yeni ve en iyi tarayıcılara sahiptir. Yapay zekalarını yalnızca kendi 2022 modelleriyle eğitirlerse, sistem 2010’dan kalma daha eski bir modelde aynı derecede iyi çalışmaz. Bu eski sistemler tam da daha az varlıklı ve kırsal bölgelerde bulunur. Dolayısıyla yalnızca yeni modellerin verilerini kullanmak, bu topluluklardan insanlara karşı istemeden ek yanlılık oluşturur.

Diğer temel değişkenler cinsiyet, etnik köken ve yaştır. Verilerimizin bunların hepsinde orantılı biçimde dengeli olmasını sağlamak için büyük çaba gösteriyoruz.

MedTech şirketleri hangi düzenleyici engellerle karşılaşıyor?

FDA’nın veri kümelerindeki yanlılığı gerçekten incelemeye başladığını görüyoruz. Araştırmacılar bize gelip “FDA algoritmamızı reddetti çünkü %15’lik Afrikalı Amerikalı nüfus temsili eksikti” dediler. Bu, Afrikalı Amerikalıların ABD nüfusundaki yaklaşık payıdır. Bir geliştiriciye eğitim verilerine %1 oranında Hawaii ve Pasifik adaları kökenli insanları dahil etmesi gerektiğinin söylendiğini de duyduk.

FDA, yalnızca tek bir hastanede eğitilen bu algoritmaların gerçek dünyada çalışmadığını fark etmeye başlıyor. Gerçek şu ki CE işareti ve FDA izni istiyorsanız nüfusu temsil eden bir veri kümesi sunmalısınız. Küçük veya temsili olmayan bir grupta yapay zeka eğitmek artık haklı olarak kabul edilemiyor.

MedTech şirketleri açısından risk, teknolojilerini düzenleyici izne hazır olduğunu düşündükleri noktaya getirmek için milyonlarca dolar harcamalarıdır. Sonrasında izin alamazlarsa hiçbir zaman geri ödeme veya gelir elde edemezler. Sonuçta hem ticarileşme hem de sağlık hizmetleri üzerinde istedikleri yararlı etkiyi yaratma yolu, verilerdeki yanlılığı önemsemelerini gerektirir.

Veri açısından bu engelleri aşmak için hangi seçenekler var?

Son yıllarda veri yönetim yöntemleri gelişti. Yapay zeka geliştiricilerinin artık her zamankinden fazla seçeneği var. Veri aracılarından ve ortaklardan federatif öğrenme ve sentetik verilere kadar bu engellere yönelik yeni yaklaşımlar bulunuyor. Hangi yöntemi seçerlerse seçsinler, geliştiricileri verilerinin ürünü kullanacak nüfusu gerçekten temsil edip etmediğini düşünmeye teşvik ediyoruz. Veri temininin açık ara en zor kısmı budur.

Gradient Health’in sunduğu Gradient Label nedir ve büyük ölçekte veri etiketlemeyi nasıl mümkün kılıyor?

Tıbbi görüntüleme yapay zekası yalnızca veriye değil, uzman açıklamalarına da ihtiyaç duyar. Şirketlerin, radyologlardan gelenler dahil, bu uzman etiketlemelerini edinmelerine yardımcı oluyoruz.

Sağlık hizmetlerinde yapay zeka ve verilerin geleceğine ilişkin vizyonunuz nedir?

Parmak uçlarından ayak parmaklarının uçlarına kadar her şeyi inceleyen binlerce yapay zeka aracı zaten var. Bunun süreceğini düşünüyorum. Tıp ders kitabındaki her hastalık için en az 10 algoritma olacağını düşünüyorum. Her hastalık için klinisyenlerin en iyi bakımı sağlamasına yardımcı olacak, muhtemelen birbiriyle rekabet eden birden fazla araç bulunacak.

Bir insanı tarayıp baştan ayağa olası her sorunu ele alan Star Trek tarzı bir Tricorder göreceğimizi sanmıyorum. Bunun yerine her alt alan için uzmanlaşmış uygulamalarımız olacak.

Gradient Health hakkında paylaşmak istediğiniz başka bir şey var mı?

Gelecek beni heyecanlandırıyor. Sağlık hizmetlerinin ucuz, eşit ve herkes için erişilebilir olduğu bir noktaya ilerlediğimizi düşünüyorum. Gradient’in bunu gerçekleştirmede temel bir rol oynama fırsatı bulmasını istiyorum. Buradaki tüm ekip bu misyona gerçekten inanıyor. Her şirkette bulamayacağınız ortak bir tutku var. Bunu seviyorum!

Bu güzel röportaj için teşekkürler. Daha fazla bilgi edinmek isteyen okuyucular Gradient Health sitesini ziyaret edebilir.