จอช มิลเลอร์ CEO ของ Gradient Health – สัมภาษณ์ซีรีส์

จอช มิลเลอร์ เป็น CEO ของ Gradient Health บริษัทที่ก่อตั้งขึ้นบนแนวคิดที่ว่าการวินิจฉัยอัตโนมัติต้องมีอยู่ในระบบสุขภาพเพื่อให้สามารถเข้าถึงและเป็นธรรมสำหรับทุกคน Gradient Health มีเป้าหมายที่จะเร่งการวินิจฉัย AI อัตโนมัติด้วยข้อมูลที่จัดระเบียบ มีฉลาก และพร้อมใช้งาน

คุณสามารถแบ่งปันเรื่องราวการก่อตั้ง Gradient Health ได้หรือไม่?

ผู้ร่วมก่อตั้ง Ouwen และฉันเพิ่งออกจากสตาร์ทอัพแรกของเรา FarmShots ซึ่งใช้การมองเห็นของคอมพิวเตอร์เพื่อช่วยลดปริมาณยาฆ่าแมลงในเกษตรกรรม และเรากำลังมองหาความท้าทายครั้งใหม่

เรามีแรงจูงใจที่จะหาปัญหาที่ยากที่จะแก้ไขด้วยเทคโนโลยีที่มีโอกาสทำดีในโลก และนำไปสู่ธุรกิจที่ดี Ouwen กำลังศึกษาปริญญาแพทยศาสตร์ และด้วยประสบการณ์ของเราที่มีต่อการมองเห็นของคอมพิวเตอร์ การถ่ายภาพทางการแพทย์เป็นเรื่องที่เหมาะสมสำหรับเรา เนื่องจากผลกระทบที่รุนแรงของมะเร็งเต้านม เราจึงเลือกการถ่ายภาพเต้านมเป็นแอปพลิเคชันแรกที่เป็นไปได้ ดังนั้นเราจึงพูดว่า “ตั้งแต่เริ่มต้น เราต้องการข้อมูล เราต้องการมามโมกราฟ 1,000 ภาพ จากที่ไหน?” และคำตอบคือ “ไม่มีที่ไหน” เราเข้าใจทันทีว่ามันแทบจะเป็นไปไม่ได้ที่จะหาข้อมูล หลังจากหลายเดือน ความคับข้องใจของเราก็กลายเป็นปัญหาทางปรัชญาสำหรับเรา เราคิดว่า “ใครก็ตามที่พยายามทำดีในพื้นที่นี้ไม่ควรต้องต่อสู้และดิ้นรนเพื่อให้ได้ข้อมูลที่พวกเขาต้องการเพื่อสร้างอัลกอริทึมที่ช่วยชีวิต” และดังนั้นเราจึงพูดว่า “เฮ้ บางทีนั่นอาจเป็นปัญหาของเราในการแก้ไข”

มีความเสี่ยงใดๆ ในตลาดที่มีข้อมูลที่ไม่เป็นตัวแทนของประชากร?

จากการศึกษานับไม่ถ้วนและตัวอย่างในโลกแห่งความเป็นจริง เรารู้ว่าหากเราสร้างอัลกอริทึมโดยใช้ข้อมูลจากชายฝั่งตะวันตก และคุณนำไปใช้ที่ชายฝั่งตะวันออกเฉียงใต้ มันจะไม่ทำงาน เมื่อเวลาผ่านไปเรามีเรื่องราวของ AI ที่ทำงานได้ดีในโรงพยาบาลทางตะวันออกเฉียงเหนือที่สร้างขึ้น และเมื่อพวกเขานำไปใช้ที่อื่น ความแม่นยำจะลดลงเหลือ ต่ำกว่า 50%

ฉันเชื่อว่าจุดประสงค์พื้นฐานของ AI ในระดับจริยธรรมคือการลดความแตกต่างด้านสุขภาพ จุดมุ่งหมายคือการทำให้การดูแลสุขภาพมีราคาไม่แพงและสามารถเข้าถึงได้ทุกคน แต่ปัญหาคือเมื่อคุณสร้างขึ้นจากข้อมูลที่ไม่ดี คุณจะเพิ่มความแตกต่าง เรากำลังล้มเหลวในการปฏิบัติภารกิจของ AI ในด้านสุขภาพ หากเราปล่อยให้มันทำงานเฉพาะสำหรับผู้ชายผิวขาวจากชายฝั่ง ผู้คนจากกลุ่มที่มีตัวแทนในข้อมูลน้อยจะทนทุกข์ทรมานจากการเลือกปฏิบัติมากขึ้น ไม่น้อยลง

คุณสามารถพูดถึงวิธีการที่ Gradient Health ได้รับข้อมูลได้หรือไม่?

ใช่ เราเป็นพันธมิตรกับระบบสุขภาพทั่วโลก ซึ่งข้อมูลของพวกเขามักถูกเก็บไว้โดยมีค่าใช้จ่ายและไม่ได้เป็นประโยชน์ต่อใคร เราลบข้อมูลระบุตัวบุคคลออกจากข้อมูลของพวกเขาอย่างละเอียด ณ แหล่งต้นทาง และจากนั้นจัดระเบียบข้อมูลสำหรับนักวิจัย

Gradient Health รับประกันว่าข้อมูลไม่มีอคติและหลากหลายที่สุดได้อย่างไร?

มีหลายวิธี ตัวอย่างเช่น เมื่อเรารวบรวมข้อมูล เราจะแน่ใจว่าเรารวมคลินิกชุมชนหลายแห่ง ซึ่งมักจะมีข้อมูลที่เป็นตัวแทนมากขึ้น เช่นเดียวกับโรงพยาบาลขนาดใหญ่ เรายังรวบรวมข้อมูลจากหลายๆ สถานที่ทางคลินิก เราพยายามที่จะรับข้อมูลจากหลายๆ สถานที่ที่หลากหลายที่สุดในหลายๆ ประชากร เราไม่ได้ต้องการเพียงจำนวนสถานพยาบาลที่มาก แต่ต้องการความหลากหลายทางภูมิศาสตร์และเศรษฐกิจสังคมด้วย เพราะหากข้อมูลทั้งหมดมาจากโรงพยาบาลใจกลางเมือง ก็ยังไม่เป็นตัวแทนของประชากรใช่ไหม เพื่อยืนยันเรื่องนี้ เราวิเคราะห์สถิติในชุดข้อมูลทั้งหมดและปรับให้เหมาะกับลูกค้า เพื่อให้มั่นใจว่าข้อมูลมีความหลากหลายทั้งด้านเทคโนโลยีและประชากรศาสตร์

ทำไมการควบคุมข้อมูลในระดับนี้จึงสำคัญต่อการออกแบบอัลกอริทึม AI ที่มั่นคง?

มีตัวแปรหลายตัวที่ AI อาจพบในโลกแห่งความเป็นจริง และเป้าหมายของเราคือการทำให้อัลกอริทึมมีความแข็งแกร่งที่สุดเท่าที่จะเป็นไปได้ เพื่อให้เราสามารถลดความเสี่ยงของการเกิดอคติได้ เราคิดถึงตัวแปรหลัก 5 ตัวในข้อมูลของเรา ตัวแปรแรกที่เราคิดคือ “ผู้ผลิตอุปกรณ์” ซึ่งเห็นได้ชัดว่าหากคุณสร้างอัลกอริทึมโดยใช้ข้อมูลจากเครื่องสแกนเนอร์ GE เท่านั้น มันจะไม่ทำงานได้ดีบนเครื่องสแกนเนอร์ Hitachi

ในทำนองเดียวกัน คือตัวแปร “รุ่นอุปกรณ์” ซึ่งจริงๆ แล้วมีความน่าสนใจจากมุมมองของความไม่เท่าเทียมกันทางสุขภาพ เรารู้ว่าโรงพยาบาลวิจัยขนาดใหญ่ที่ได้รับการสนับสนุนดี มักจะมีรุ่นล่าสุดและดีที่สุดของเครื่องสแกนเนอร์ และหากพวกเขาเทรน AI ของตนโดยใช้ข้อมูลจากเครื่องสแกนเนอร์รุ่น 2022 ของตนเท่านั้น มันจะไม่ทำงานได้ดีบนเครื่องสแกนเนอร์รุ่น 2010 ซึ่งเป็นเครื่องสแกนเนอร์ที่พบได้ในพื้นที่ชนบทและพื้นที่ที่มีรายได้น้อยกว่า ดังนั้นโดยการเทรน AI ของตนโดยใช้ข้อมูลจากเครื่องสแกนเนอร์รุ่นใหม่เท่านั้น พวกเขากำลังนำอคติเข้ามาโดยไม่ตั้งใจต่อผู้คนจากชุมชนเหล่านี้

ตัวแปรสำคัญอื่นๆ คือ เพศ ชาติพันธุ์ และอายุ และเราทำทุกวิธีเพื่อให้แน่ใจว่าข้อมูลของเรามีความสมดุลในแง่ของตัวแปรเหล่านี้

มีข้อขัดข้องด้านกฎระเบียบใดๆ ที่บริษัท MedTech ต้องเผชิญหรือไม่?

เริ่มเห็นแล้วว่า FDA กำลังตรวจสอบอคติในเซตข้อมูล เรามีนักวิจัยมาและบอกว่า “FDA ปฏิเสธอัลกอริทึมของเราเพราะไม่มีประชากรชาวแอฟริกันอเมริกัน 15%” (ประมาณ 15% ของประชากรสหรัฐฯ ที่เป็นชาวแอฟริกันอเมริกัน) เรายังได้ยินเกี่ยวกับนักพัฒนาที่ถูกบอกว่าต้องรวม 1% ของชาวฮาวายแปซิฟิกเข้าไปในข้อมูลการเทรน

ดังนั้น FDA จึงเริ่มรับรู้ว่าอัลกอริทึมเหล่านี้ซึ่งถูกเทรนในโรงพยาบาลเดียวไม่ทำงานในโลกแห่งความเป็นจริง ความจริงคือ หากคุณต้องการ CE Marking และการรับรอง FDA คุณต้องมีข้อมูลที่เป็นตัวแทนของประชากร มันไม่ยอมรับได้อีกต่อไปที่จะเทรน AI บนกลุ่มเล็กๆ หรือกลุ่มที่ไม่เป็นตัวแทนของประชากร

ความเสี่ยงสำหรับ MedTech คือการลงทุนหลายล้านเหรียญเพื่อให้เทคโนโลยีของตนพร้อมสำหรับการรับรอง แต่ถ้าพวกเขาไม่สามารถผ่านการรับรองได้ พวกเขาจะไม่ได้รับการชดเชยหรือรายได้ สุดท้ายเส้นทางสู่การค้าและการมีผลกระทบเชิงบวกต่อสุขภาพที่พวกเขาต้องการต้องให้พวกเขาดูแลเรื่องข้อมูลที่มีอคติ

มีทางเลือกใดๆ ในการเอาชนะอุปสรรคเหล่านี้จากมุมมองของข้อมูล?

ในช่วงไม่กี่ปีที่ผ่านมา วิธีการจัดการข้อมูลได้พัฒนาไป และนักพัฒนา AI มีตัวเลือกให้เลือกมากกว่าเดิม มีตัวเลือกใหม่ๆ เช่น ผู้จัดหาข้อมูลและพันธมิตร การเรียนรู้แบบสหพันธ์ และข้อมูลสังเคราะห์ ไม่ว่าพวกเขาจะเลือกวิธีใด เราจะแนะนำให้พิจารณาว่าข้อมูลของพวกเขามีความเป็นตัวแทนของประชากรที่จะใช้ผลิตภัณฑ์จริงหรือไม่ นี่เป็นส่วนที่ยากที่สุดของการจัดหาข้อมูลอย่างชัดเจน

วิธีแก้ปัญหาที่ Gradient Health เสนอคือ Gradient Label คืออะไร และมันช่วยให้สามารถทำฉลากข้อมูลได้ขนาดใหญ่?

AI ในการถ่ายภาพทางการแพทย์ต้องการไม่เพียงแต่ข้อมูล แต่ยังต้องการการทำฉลากโดยผู้เชี่ยวชาญด้วย และเราช่วยให้บริษัทต่างๆ ได้รับการทำฉลากเหล่านี้ รวมถึงจากรังสีแพทย์

คุณมีภาพอนาคตสำหรับ AI และข้อมูลในสุขภาพอย่างไร?

มีเครื่องมือ AI หลายพันเครื่องที่มองหาทุกอย่างตั้งแต่ปลายนิ้วจนสุดปลายเท้า และฉันคิดว่ามันจะดำเนินต่อไป ฉันคิดว่าจะมีอัลกอริทึมอย่างน้อย 10 อัลกอริทึมสำหรับแต่ละสภาวะในตำราสุขภาพ แต่ละสภาวะจะมีเครื่องมือหลายอย่าง ซึ่งน่าจะแข่งขันกันเพื่อช่วยให้แพทย์ให้การดูแลที่ดีที่สุด

ฉันไม่คิดว่าเราจะเห็น Tricorder ในแบบ Star Trek ที่สแกนบุคคลและแก้ไขปัญหาได้ทุกประการ แต่เราจะมีการใช้งานเฉพาะสำหรับแต่ละส่วน

คุณมีอะไรที่ต้องการแบ่งปันเกี่ยวกับ Gradient Health อีกหรือไม่?

ฉันรู้สึกตื่นเต้นเกี่ยวกับอนาคต ฉันคิดว่าเรากำลังจะเข้าสู่จุดที่การดูแลสุขภาพมีราคาไม่แพง เท่าเทียม และสามารถเข้าถึงได้ทุกคน และฉันอยากให้ Gradient ได้รับโอกาสที่จะเล่นบทบาทพื้นฐานในการทำให้สิ่งนี้เกิดขึ้น ทีมงานที่นี่เชื่อมั่นในภารกิจนี้อย่างแท้จริง และมีความหลงใหลที่ไม่เหมือนใครที่คุณไม่พบในบริษัททุกแห่ง และฉันรักมัน!

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Gradient Health