Josh Miller, CEO of Gradient Health – Interview Series

Josh Miller adalah CEO dari Gradient Health, sebuah perusahaan yang didirikan berdasarkan ide bahwa diagnostik otomatis harus ada untuk kesehatan yang adil dan tersedia untuk semua orang. Gradient Health bertujuan untuk mempercepat diagnostik AI otomatis dengan data yang terorganisir, diberi label, dan tersedia.

Apakah Anda bisa berbagi cerita tentang asal-usul Gradient Health?

Saya dan rekan pendiri saya Ouwen baru saja keluar dari startup pertama kami, FarmShots, yang menggunakan visi komputer untuk membantu mengurangi jumlah pestisida yang digunakan dalam pertanian, dan kami sedang mencari tantangan berikutnya.

Kami selalu termotivasi oleh keinginan untuk menemukan masalah yang sulit untuk dipecahkan dengan teknologi yang a) memiliki kesempatan untuk melakukan banyak kebaikan di dunia, dan b) menghasilkan bisnis yang solid. Ouwen sedang mengerjakan gelar medisnya, dan dengan pengalaman kami dalam visi komputer, pencitraan medis adalah pilihan alami untuk kami. Karena dampak yang menghancurkan dari kanker payudara, kami memilih mammografi sebagai aplikasi potensial pertama. Jadi kami berkata, “Ok, dari mana kita memulai? Kita membutuhkan data. Kita membutuhkan seribu mammogram. Di mana kita bisa mendapatkan skala data seperti itu?” dan jawabannya adalah “Tidak ada”. Kami menyadari segera, itu sangat sulit untuk menemukan data. Setelah beberapa bulan, frustrasi ini berkembang menjadi masalah filosofis bagi kami, kami berpikir “siapa pun yang mencoba melakukan kebaikan di ruang ini tidak harus berjuang dan berusaha untuk mendapatkan data yang mereka butuhkan untuk membangun algoritma penyelamat hidup”. Dan jadi kami berkata “hey, mungkin itu sebenarnya masalah yang harus kita pecahkan”.

Apa risiko saat ini di pasar dengan data yang tidak representatif?

Dari berbagai studi dan contoh dunia nyata, kami tahu bahwa jika kami membangun algoritma, menggunakan hanya data dari pantai barat, dan Anda membawanya ke tenggara, itu tidak akan bekerja. Berulang kali kami mendengar cerita tentang AI yang bekerja dengan baik di rumah sakit timur laut tempat itu dibuat, dan kemudian ketika mereka menerapkannya di tempat lain, akurasi turun menjadi kurang dari 50%.

Saya percaya bahwa tujuan fundamental AI, pada tingkat etika, adalah bahwa itu harus mengurangi kesenjangan kesehatan. Tujuannya adalah untuk membuat perawatan berkualitas terjangkau dan tersedia untuk semua orang. Tapi masalahnya adalah ketika Anda membangunnya di atas data yang buruk, Anda sebenarnya meningkatkan kesenjangan. Kami gagal dalam misi AI kesehatan jika kami membiarkannya hanya bekerja untuk pria kulit putih dari pantai.

Apakah Anda bisa membahas bagaimana Gradient Health mendapatkan data?

Tentu, kami bermitra dengan semua jenis sistem kesehatan di seluruh dunia yang data mereka disimpan, menghabiskan uang, dan tidak menguntungkan siapa pun. Kami sepenuhnya menghilangkan identitas data mereka di sumber dan kemudian kami dengan hati-hati mengaturinya untuk peneliti.

Bagaimana Gradient Health memastikan bahwa data tersebut tidak bias dan sediversifikasi mungkin?

Ada banyak cara. Misalnya, ketika kami mengumpulkan data, kami memastikan bahwa kami menyertakan banyak klinik masyarakat, di mana Anda sering memiliki data yang lebih representatif, serta rumah sakit yang lebih besar. Kami juga mendapatkan data kami dari sejumlah besar situs klinis. Kami berusaha untuk mendapatkan sebanyak mungkin situs dari berbagai populasi yang berbeda. Jadi tidak hanya memiliki jumlah situs yang tinggi, tetapi juga memiliki mereka yang geografis dan sosio-ekonomis beragam. Karena jika semua situs Anda berasal dari rumah sakit pusat kota, itu masih tidak representatif, bukan?

Untuk memvalidasi semua ini, kami menjalankan statistik di seluruh dataset, dan kami menyesuaikannya untuk klien, untuk memastikan mereka mendapatkan data yang beragam dalam hal teknologi dan demografi.

Mengapa kontrol data ini sangat penting untuk merancang algoritma AI yang kuat?

Ada banyak variabel yang mungkin dihadapi AI di dunia nyata, dan tujuan kami adalah untuk memastikan algoritma tersebut sekuat mungkin. Untuk menyederhanakan hal-hal, kami memikirkan lima variabel kunci dalam data kami. Variabel pertama yang kami pikirkan adalah “pembuat peralatan”. Ini jelas, tetapi jika Anda membangun algoritma hanya menggunakan data dari pemindai GE, itu tidak akan berfungsi sebaiknya di pemindai Hitachi, misalnya.

Seperti halnya variabel “model peralatan”. Ini sebenarnya cukup menarik dari perspektif kesetaraan kesehatan. Kami tahu bahwa rumah sakit penelitian besar dan terdidik cenderung memiliki versi terbaru dan terhebat dari pemindai. Dan, jika mereka hanya melatih AI mereka pada model 2022 mereka sendiri, itu tidak akan berfungsi sebaiknya pada model 2010 yang lebih lama. Sistem yang lebih lama ini adalah sistem yang tepat ditemukan di daerah pedesaan dan kurang mampu. Jadi, dengan hanya menggunakan data dari model yang lebih baru, mereka secara tidak sengaja memperkenalkan bias lebih lanjut terhadap orang-orang dari komunitas ini.

Variabel kunci lainnya adalah jenis kelamin, etnis, dan usia, dan kami melakukan segala upaya untuk memastikan bahwa data kami seimbang secara proporsional di seluruh variabel tersebut.

Apa beberapa hambatan regulasi yang dihadapi perusahaan MedTech?

Kami mulai melihat FDA secara serius menyelidiki bias dalam dataset. Kami telah memiliki peneliti datang kepada kami dan mengatakan “FDA telah menolak algoritma kami karena itu kekurangan 15% populasi Afrika-Amerika” (persentase yang tepat dari Afrika-Amerika yang merupakan bagian dari populasi AS). Kami juga mendengar tentang pengembang yang diberitahu bahwa mereka perlu menyertakan 1% penduduk asli Hawaii Pasifik dalam data pelatihan mereka.

Jadi, FDA mulai menyadari bahwa algoritma ini, yang hanya dilatih di rumah sakit tunggal, tidak bekerja di dunia nyata. Fakta bahwa jika Anda ingin memiliki tanda CE & FDA, Anda harus datang dengan dataset yang mewakili populasi. Ini, dengan tepat, tidak lagi dapat diterima untuk melatih AI pada grup kecil atau tidak representatif.

Risiko bagi MedTech adalah bahwa mereka menginvestasikan jutaan dolar untuk mendapatkan teknologi mereka ke tempat di mana mereka pikir mereka siap untuk persetujuan regulasi, dan kemudian jika mereka tidak bisa mendapatkannya, mereka tidak akan pernah mendapatkan penggantian atau pendapatan. Pada akhirnya, jalur menuju komersialisasi dan jalur menuju memiliki dampak yang bermanfaat pada kesehatan yang mereka inginkan memerlukan mereka untuk peduli dengan bias data.

Apa beberapa pilihan untuk mengatasi hambatan ini dari perspektif data?

Selama beberapa tahun terakhir, metode manajemen data telah berkembang, dan pengembang AI sekarang memiliki lebih banyak pilihan daripada sebelumnya. Dari perantara data dan mitra hingga pembelajaran federasi dan data sintetis, ada pendekatan baru untuk hambatan ini. Apa pun metode yang mereka pilih, kami selalu mendorong pengembang untuk mempertimbangkan apakah data mereka benar-benar representatif dari populasi yang akan menggunakan produk tersebut. Ini adalah aspek yang paling sulit dari sumber data.

Sebuah solusi yang ditawarkan oleh Gradient Health adalah Gradient Label, apa solusi ini dan bagaimana itu memungkinkan pelabelan data pada skala besar?

AI pencitraan medis tidak hanya memerlukan data, tetapi juga anotasi ahli. Dan kami membantu perusahaan mendapatkan anotasi ahli tersebut, termasuk dari radiolog.

Apa visi Anda untuk masa depan AI dan data di kesehatan?

Sudah ada ribuan alat AI di luar sana yang melihat segala sesuatu dari ujung jari Anda hingga ujung kaki Anda, dan saya pikir ini akan terus berlanjut. Saya pikir akan ada setidaknya 10 algoritma untuk setiap kondisi dalam buku teks medis. Masing-masing akan memiliki beberapa alat, mungkin kompetitif, untuk membantu klinisi memberikan perawatan terbaik.

Saya tidak berpikir kita akan berakhir melihat Tricorder gaya Star Trek yang memindai seseorang dan menangani setiap masalah yang mungkin dari kepala ke kaki. Sebaliknya, kita akan memiliki aplikasi spesialis untuk setiap subset.

Apakah ada yang lain yang ingin Anda bagikan tentang Gradient Health?

Saya bersemangat tentang masa depan. Saya pikir kita bergerak menuju tempat di mana kesehatan murah, adil, dan tersedia untuk semua, dan saya ingin Gradient mendapatkan kesempatan untuk memainkan peran mendasar dalam membuat ini terjadi. Seluruh tim di sini benar-benar percaya pada misi ini, dan ada semangat bersatu di antara mereka yang tidak Anda dapatkan di setiap perusahaan. Dan saya menyukainya!

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Gradient Health.