Josh Miller, CEO Gradient Health – Seri Wawancara

Josh Miller adalah CEO Gradient Health, sebuah perusahaan yang didirikan berdasarkan ide bahwa diagnostik otomatis harus ada untuk kesehatan yang adil dan tersedia untuk semua orang. Gradient Health bertujuan untuk mempercepat diagnostik AI otomatis dengan data yang terorganisir, diberi label, dan tersedia.

Apakah Anda bisa membagikan cerita di balik Gradient Health?

Saya dan rekan saya Ouwen baru saja keluar dari start-up pertama kami, FarmShots, yang menggunakan visi komputer untuk membantu mengurangi jumlah pestisida yang digunakan dalam pertanian, dan kami sedang mencari tantangan berikutnya.

Kami selalu termotivasi oleh keinginan untuk menemukan masalah yang sulit untuk dipecahkan dengan teknologi yang a) memiliki kesempatan untuk melakukan banyak kebaikan di dunia, dan b) menghasilkan bisnis yang solid. Ouwen sedang mengerjakan gelar medisnya, dan dengan pengalaman kami dalam visi komputer, citra medis adalah pilihan alami bagi kami. Karena dampak yang menghancurkan dari kanker payudara, kami memilih mammografi sebagai aplikasi pertama yang potensial. Jadi kami berkata, “Ok, dari mana kita memulai? Kita membutuhkan data. Kita membutuhkan seribu mammogram. Di mana Anda bisa mendapatkan skala data seperti itu?” dan jawabannya adalah “Tidak ada”. Kami menyadari segera, ini sangat sulit untuk menemukan data. Setelah beberapa bulan, frustrasi ini berkembang menjadi masalah filosofis bagi kami, kami pikir “siapa saja yang mencoba melakukan kebaikan di ruang ini tidak harus berjuang dan berjuang untuk mendapatkan data yang mereka butuhkan untuk membangun algoritma penyelamat hidup”. Dan jadi kami berkata “hey, mungkin itu sebenarnya masalah yang kita harus pecahkan”.

Apa risiko saat ini di pasar dengan data yang tidak representatif?

Dari berbagai studi dan contoh dunia nyata, kami tahu bahwa jika kami membangun algoritma menggunakan hanya data dari pantai barat, dan Anda membawanya ke tenggara, itu tidak akan bekerja. Berulang kali kami mendengar cerita tentang AI yang bekerja dengan baik di rumah sakit timur laut tempat mereka dibuat, dan kemudian ketika mereka menerapkannya di tempat lain, akurasi turun menjadi kurang dari 50%.

Saya percaya tujuan fundamental AI, pada tingkat etika, adalah bahwa itu harus mengurangi kesenjangan kesehatan. Tujuannya adalah membuat perawatan kualitas yang terjangkau dan tersedia untuk semua orang. Tapi masalahnya adalah ketika Anda memiliki itu dibangun pada data yang buruk, Anda sebenarnya meningkatkan kesenjangan. Kami gagal dalam misi AI kesehatan jika kami membiarkannya hanya bekerja untuk pria kulit putih dari pantai.

Bagaimana Gradient Health mendapatkan data?

Tentu, kami bermitra dengan semua jenis sistem kesehatan di seluruh dunia yang data mereka disimpan, menghabiskan uang, dan tidak menguntungkan siapa pun. Kami mengidentifikasi data mereka secara menyeluruh di sumber dan kemudian kami mengatur dengan hati-hati untuk peneliti.

Bagaimana Gradient Health memastikan bahwa data tidak bias dan sediversifikasi mungkin?

Ada banyak cara. Misalnya, ketika kami mengumpulkan data, kami memastikan kami termasuk banyak klinik komunitas, di mana Anda sering memiliki data yang lebih representatif, serta rumah sakit yang lebih besar. Kami juga mendapatkan data kami dari sejumlah besar situs klinis. Kami mencoba mendapatkan sebanyak mungkin situs dari berbagai populasi yang mungkin. Jadi tidak hanya memiliki jumlah situs yang tinggi, tetapi juga memiliki mereka yang geografis dan socio-ekonomi yang beragam. Karena jika semua situs Anda dari rumah sakit pusat kota, itu masih tidak merupakan data yang representatif, bukan?

Untuk memvalidasi semua ini, kami menjalankan statistik di seluruh dataset ini, dan kami menyesuaikannya untuk klien, untuk memastikan mereka mendapatkan data yang beragam dalam hal teknologi dan demografi.

Mengapa tingkat kontrol data ini sangat penting untuk merancang algoritma AI yang kuat?

Ada banyak variabel yang AI mungkin temui di dunia nyata, dan tujuan kami adalah memastikan algoritma tersebut sekuat mungkin. Untuk menyederhanakan hal-hal, kami memikirkan lima variabel kunci dalam data kami. Variabel pertama yang kami pikirkan adalah “pabrikan peralatan”. Ini jelas, tetapi jika Anda membangun algoritma hanya menggunakan data dari pemindai GE, itu tidak akan berfungsi sebaiknya pada pemindai Hitachi, misalnya.

Sejalan dengan itu adalah variabel “model peralatan”. Ini sebenarnya cukup menarik dari perspektif kesetaraan kesehatan. Kami tahu bahwa rumah sakit penelitian besar dan dibiayai dengan baik cenderung memiliki versi terbaru dan terhebat dari pemindai. Dan, jika mereka hanya melatih AI mereka pada model 2022 mereka sendiri, itu tidak akan berfungsi sebaiknya pada model 2010 yang lebih tua. Sistem yang lebih tua ini adalah yang tepat yang ditemukan di daerah yang kurang mampu dan pedesaan. Jadi, dengan hanya menggunakan data dari model yang lebih baru, mereka secara tidak sengaja memperkenalkan bias lebih lanjut melawan orang-orang dari komunitas ini.

Variabel kunci lainnya adalah jenis kelamin, etnis, dan usia, dan kami melakukan upaya besar untuk memastikan data kami seimbang proporsional di seluruh variabel ini.

Apa risiko saat ini yang dihadapi perusahaan MedTech?

Kami mulai melihat FDA menyelidiki bias dalam dataset. Kami telah memiliki peneliti datang kepada kami dan mengatakan “FDA telah menolak algoritma kami karena itu kehilangan 15% populasi Afrika-Amerika” (persentase yang tepat dari Afrika-Amerika yang merupakan bagian dari populasi AS). Kami juga mendengar tentang pengembang yang diberitahu mereka perlu memasukkan 1% penduduk Kepulauan Hawaii Pasifik dalam data pelatihan mereka.

Jadi, FDA mulai menyadari bahwa algoritma ini, yang hanya dilatih di rumah sakit tunggal, tidak bekerja di dunia nyata. Fakta adalah, jika Anda ingin memiliki tanda CE & FDA, Anda harus datang dengan dataset yang mewakili populasi. Ini, dengan benar, tidak lagi dapat diterima untuk melatih AI pada grup kecil atau tidak representatif.

Risiko bagi MedTech adalah bahwa mereka menginvestasikan jutaan dolar untuk mendapatkan teknologi mereka ke tempat di mana mereka pikir mereka siap untuk persetujuan regulasi, dan kemudian jika mereka tidak bisa mendapatkannya, mereka tidak akan pernah mendapatkan pengembalian atau pendapatan. Pada akhirnya, jalur menuju komersialisasi dan jalur menuju memiliki dampak yang bermanfaat pada kesehatan yang mereka inginkan memerlukan mereka untuk peduli dengan bias data.

Apa pilihan untuk mengatasi hambatan ini dari perspektif data?

Metode manajemen data telah berkembang selama beberapa tahun terakhir, dan pengembang AI sekarang memiliki lebih banyak pilihan daripada sebelumnya. Dari perantara data dan mitra hingga pembelajaran federasi dan data sintetis, ada pendekatan baru untuk hambatan ini. Apa pun metode yang mereka pilih, kami selalu mendorong pengembang untuk mempertimbangkan apakah data mereka benar-benar representatif dari populasi yang akan menggunakan produk tersebut. Ini adalah aspek paling sulit dari mendapatkan data.

Salah satu solusi yang ditawarkan oleh Gradient Health adalah Gradient Label, apa solusi ini dan bagaimana itu memungkinkan pelabelan data pada skala besar?

AI citra medis tidak hanya memerlukan data, tetapi juga anotasi ahli. Dan kami membantu perusahaan mendapatkan anotasi ahli, termasuk dari radiolog.

Apa visi Anda untuk masa depan AI dan data di kesehatan?

Sudah ada ribuan alat AI di luar sana yang melihat segala sesuatu dari ujung jari ke ujung kaki, dan saya pikir ini akan terus berlanjut. Saya pikir akan ada setidaknya 10 algoritma untuk setiap kondisi dalam buku teks medis. Masing-masing akan memiliki beberapa alat yang kompetitif untuk membantu klinisi memberikan perawatan terbaik.

Saya tidak pikir kita akan berakhir dengan melihat Tricorder gaya Star Trek yang memindai seseorang dan menangani setiap masalah yang mungkin dari kepala ke kaki. Sebaliknya, kita akan memiliki aplikasi spesialis untuk setiap subset.

Apakah ada yang ingin Anda bagikan tentang Gradient Health?

Saya bersemangat tentang masa depan. Saya pikir kita menuju ke tempat di mana kesehatan itu murah, setara, dan tersedia untuk semua, dan saya ingin Gradient mendapatkan kesempatan untuk memainkan peran fundamental dalam membuat ini terjadi. Seluruh tim di sini benar-benar percaya pada misi ini, dan ada semangat bersatu di antara mereka yang tidak Anda dapatkan di setiap perusahaan. Dan saya menyukainya!

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Gradient Health.