นพ. Ittai Dayan ผู้ร่วมก่อตั้งและซีอีโอของ Rhino Health – ชุดบทสัมภาษณ์

นพ. Ittai Dayan เป็นผู้ร่วมก่อตั้งและซีอีโอของ Rhino Health เขามีประสบการณ์ด้านการพัฒนาปัญญาประดิษฐ์และการวินิจฉัย รวมถึงเวชปฏิบัติและการวิจัย เคยเป็นสมาชิกหลักของหน่วยธุรกิจสุขภาพของ BCG และผู้บริหารโรงพยาบาล ปัจจุบันมุ่งส่งเสริม AI ที่ปลอดภัย เป็นธรรม และสร้างผลกระทบในอุตสาหกรรมสุขภาพและชีววิทยาศาสตร์ Rhino Health ใช้การประมวลผลแบบกระจายและการเรียนรู้แบบสหพันธ์เพื่อรักษาความเป็นส่วนตัวของผู้ป่วยและสนับสนุนความร่วมมือในระบบสุขภาพที่แยกส่วน

เขาเคยรับราชการในหน่วยรบพิเศษของกองกำลังป้องกันอิสราเอล และเป็นผู้นำศูนย์ AI เชิงแปลผลการวิจัยสู่การใช้จริงที่ตั้งอยู่ในศูนย์การแพทย์วิชาการ ซึ่งมีขนาดใหญ่ที่สุดในโลก เขาเชี่ยวชาญการพัฒนาและนำ AI สู่เชิงพาณิชย์ และเป็นนักวิ่งระยะไกล

ช่วยเล่าเรื่องราวการก่อตั้ง Rhino Health ได้ไหม?

ผมเริ่มทำงานด้าน AI ขณะเป็นแพทย์และนักวิจัย โดยใช้ตัวบ่งชี้ทางชีวภาพดิจิทัลรุ่นแรกเพื่อวัดการตอบสนองต่อการรักษาความผิดปกติทางจิต ต่อมาผมเป็นผู้นำ Center for Clinical Data Science (CCDS) ที่ Mass General Brigham ดูแลการพัฒนาแอปพลิเคชัน AI ทางคลินิกหลายสิบรายการ และเห็นปัญหาการเข้าถึงและนำข้อมูลมาใช้เพื่อพัฒนาและฝึกผลิตภัณฑ์ AI ที่ได้มาตรฐานตามข้อกำหนดของหน่วยงานกำกับดูแลโดยตรง

แม้ AI ด้านสุขภาพจะก้าวหน้ามาก แต่เส้นทางจากการพัฒนาถึงการวางตลาดยังยาวและขรุขระ ระบบอาจล้มเหลวหรือทำให้ผิดหวังเมื่อใช้จริงทางคลินิก และแทบเป็นไปไม่ได้ที่จะสนับสนุนวงจรชีวิต AI ทั้งหมดโดยไม่เข้าถึงข้อมูลคลินิกจำนวนมากอย่างต่อเนื่อง ปัญหาเปลี่ยนจากการสร้างโมเดลไปสู่การบำรุงรักษาโมเดล ผมจึงโน้มน้าว Mass General Brigham ให้เห็นคุณค่าของการมีองค์กรวิจัยทางคลินิกที่เชี่ยวชาญ AI ของตนเอง หรือ CRO เพื่อทดสอบอัลกอริทึมของผู้พัฒนาเชิงพาณิชย์หลายราย

แต่ข้อมูลสุขภาพยังแยกเป็นส่วนๆ แม้มีข้อมูลมากจากเครือข่ายเดียว ก็ไม่เพียงพอต่อเป้าหมาย AI ทางการแพทย์ที่เฉพาะเจาะจงขึ้นเรื่อยๆ ในฤดูร้อนปี 2020 ผมเริ่มและเป็นผู้นำการศึกษา EXAM ร่วมกับ ดร. Mona Flores จาก NVIDIA (NVDA ) ซึ่งเป็นการศึกษาเรียนรู้แบบสหพันธ์ด้านสุขภาพที่ใหญ่ที่สุดในโลกขณะนั้น เราสร้างโมเดลทำนายผลลัพธ์ของโควิดจากข้อมูลทั่วโลกโดยไม่แบ่งปันตัวข้อมูล งานนี้ตีพิมพ์ภายหลังใน Nature Medicine แสดงประโยชน์ของข้อมูลที่หลากหลายและแยกกันอยู่ และศักยภาพของการเรียนรู้แบบสหพันธ์ในวงกว้าง

ประสบการณ์นี้ยังเผยความท้าทายในการประสานข้อมูลระหว่างสถานที่ร่วมวิจัย การทำให้ตรวจสอบย้อนกลับและอธิบายข้อมูลได้ถูกต้อง รวมถึงภาระของฝ่าย IT แต่ละสถาบันที่ต้องเรียนรู้เทคโนโลยีล้ำหน้าซึ่งไม่คุ้นเคย จึงต้องมีแพลตฟอร์มใหม่รองรับความร่วมมือแบบข้อมูลกระจาย ผมร่วมกับ Yuval Baror ผู้ร่วมก่อตั้ง สร้างแพลตฟอร์มครบวงจรสำหรับความร่วมมือที่รักษาความเป็นส่วนตัว นั่นคือ Rhino Health Platform ซึ่งใช้การเรียนรู้แบบสหพันธ์และการประมวลผลที่ขอบเครือข่าย

ทำไมโมเดล AI จึงมักไม่ให้ผลลัพธ์ตามคาดในงานสุขภาพ?

AI ทางการแพทย์มักฝึกด้วยข้อมูลขนาดเล็กและจำกัด เช่น จากสถาบันหรือภูมิภาคเดียว จึงทำงานดีเฉพาะข้อมูลแบบที่เคยเห็น เมื่อใช้กับผู้ป่วยหรือสถานการณ์ที่แตกต่าง ประสิทธิภาพจะลดลงมาก

Andrew Ng อธิบายไว้ว่า “เมื่อรวบรวมข้อมูลจากโรงพยาบาล Stanford เราอาจตีพิมพ์งานที่แสดงว่าอัลกอริทึมตรวจพบภาวะบางอย่างได้เทียบเท่ารังสีแพทย์ แต่เมื่อนำโมเดลและระบบ AI เดิมไปยังโรงพยาบาลเก่าที่อยู่ใกล้กัน ใช้เครื่องรุ่นเก่า และช่างเทคนิคใช้โพรโทคอลถ่ายภาพต่างออกไปเล็กน้อย การเปลี่ยนแปลงของข้อมูลทำให้ประสิทธิภาพ AI ลดลงอย่างมาก”³

กล่าวง่ายๆ โมเดลส่วนใหญ่ไม่ได้ฝึกด้วยข้อมูลที่หลากหลายและมีคุณภาพพอ จึงทำงานไม่ดีในโลกจริง ปัญหานี้มีหลักฐานทั้งในแวดวงวิทยาศาสตร์และสื่อทั่วไป เช่น Science และ Politico

การทดสอบกับกลุ่มผู้ป่วยหลากหลายสำคัญเพียงใด?

สำคัญอย่างยิ่งเพื่อให้ผลิตภัณฑ์ AI ไม่เพียงมีประสิทธิผลและประสิทธิภาพ แต่ปลอดภัยด้วย อัลกอริทึมที่ฝึกหรือทดสอบกับผู้ป่วยไม่หลากหลายพออาจมีอคติ ซึ่งเป็นปัญหาร้ายแรงในสุขภาพและเทคโนโลยีสุขภาพ ไม่เพียงสะท้อนอคติในข้อมูลฝึก แต่ยังขยายอคติและความเหลื่อมล้ำด้านเชื้อชาติ ชาติพันธุ์ ศาสนา เพศ และอื่นๆ การไม่ทดสอบกับผู้ป่วยหลากหลายอาจทำให้ได้ผลิตภัณฑ์อันตราย

งานวิจัยที่เพิ่งตีพิมพ์⁵ ใช้ Rhino Health Platform ตรวจสอบอัลกอริทึมตรวจหลอดเลือดสมองโป่งพองที่พัฒนาในแห่งเดียว โดยทดสอบในสี่แห่งซึ่งมีเครื่องสแกนหลายประเภท ผลแสดงความแตกต่างของประสิทธิภาพอย่างมากระหว่างสถานที่ที่ใช้เครื่องต่างกัน ตอกย้ำความสำคัญของข้อมูลฝึกและทดสอบที่หลากหลาย

ระบุอย่างไรว่ากลุ่มย่อยใดไม่มีตัวแทนในข้อมูล?

วิธีทั่วไปคือวิเคราะห์การกระจายของตัวแปรในแต่ละชุดข้อมูล ทั้งแยกและรวมกัน เพื่อช่วยเตรียมข้อมูลฝึกและข้อมูลตรวจสอบ Rhino Health Platform ทำเช่นนี้ได้ และผู้ใช้ยังดูผลการทำงานของโมเดลในแต่ละกลุ่ม เพื่อให้แน่ใจว่าใช้ได้กับประชากรหลากหลายและรักษาประสิทธิภาพอย่างต่อเนื่อง

อธิบายการเรียนรู้แบบสหพันธ์และวิธีแก้ปัญหาเหล่านี้ได้ไหม?

การเรียนรู้แบบสหพันธ์ หรือ FL คือการฝึกและปรับปรุงโมเดล AI อย่างต่อเนื่องด้วยข้อมูลจากหลายแหล่งโดยไม่ต้องแบ่งปันหรือรวมศูนย์ข้อมูล ถือเป็นความก้าวหน้าครั้งใหญ่ เดิมผู้ที่จะร่วมมือกับหลายแห่งต้องรวมข้อมูลเข้าด้วยกัน ทำให้เกิดภาระทางกฎหมาย ความเสี่ยง และการปฏิบัติตามข้อกำหนดที่ยุ่งยาก แพง และใช้เวลามาก

ปัจจุบันซอฟต์แวร์อย่าง Rhino Health Platform ทำให้ FL เป็นเรื่องประจำวันในสุขภาพและชีววิทยาศาสตร์ ผู้ใช้สำรวจ คัดสรร และตรวจสอบข้อมูลได้ขณะที่ข้อมูลยังอยู่บนเซิร์ฟเวอร์ของคู่ร่วมงาน โค้ดในคอนเทนเนอร์ เช่น อัลกอริทึม AI/ML หรือแอปวิเคราะห์ ถูกส่งไปทำงานบนเซิร์ฟเวอร์นั้น เช่น ฝึกหรือตรวจสอบอัลกอริทึมในพื้นที่ ข้อมูลจึงอยู่กับผู้ดูแลข้อมูลตลอดเวลา

โรงพยาบาลกังวลเป็นพิเศษต่อความเสี่ยงในการรวมข้อมูลละเอียดอ่อนของผู้ป่วย เคยมีกรณีน่าอายที่องค์กรสุขภาพร่วมมือกับอุตสาหกรรมโดยไม่เข้าใจการใช้ข้อมูลอย่างชัดเจน จึงจำกัดความร่วมมือของทั้งภาคอุตสาหกรรมและนักวิชาการ ชะลอการวิจัยและพัฒนา และกระทบคุณภาพผลิตภัณฑ์ทั้งอุตสาหกรรม FL ช่วยบรรเทาปัญหาและเปิดความร่วมมือทางข้อมูลอย่างที่ไม่เคยมีมาก่อน พร้อมควบคุมความเสี่ยงของความร่วมมือนั้น

Rhino Health มีวิสัยทัศน์อย่างไรในการสร้างโมเดลรวดเร็วขึ้นด้วยข้อมูลหลากหลาย?

เรามองเห็นระบบนิเวศของนักพัฒนาและผู้ใช้ AI ที่ร่วมมือกันโดยไม่กลัวหรือมีข้อจำกัด แต่เคารพขอบเขตกฎระเบียบ คู่ร่วมงานค้นหาข้อมูลฝึกและทดสอบที่ต้องการจากหลายภูมิภาคได้รวดเร็ว เข้าถึงและทำงานกับข้อมูลนั้น และปรับปรุงโมเดลซ้ำเพื่อให้ใช้ได้ทั่วไป มีประสิทธิภาพ และปลอดภัยเพียงพอ

หัวใจคือ Rhino Health Platform ซึ่งเป็นจุดบริการครบวงจรสำหรับสร้างชุดข้อมูลขนาดใหญ่และหลากหลาย ฝึกและตรวจสอบอัลกอริทึม AI และติดตามบำรุงรักษาผลิตภัณฑ์ที่ใช้งานอยู่ต่อเนื่อง

แพลตฟอร์มป้องกันอคติและสนับสนุนการอธิบาย AI อย่างไร?

การขจัดอุปสรรคและทำให้ความร่วมมือด้านข้อมูลคล่องตัว ช่วยให้ผู้พัฒนาใช้ข้อมูลขนาดใหญ่และหลากหลายกว่าในการฝึกและทดสอบ ผลคือผลิตภัณฑ์ที่ใช้ได้กับสถานการณ์กว้างขึ้นและไม่แบกรับอคติจากสถาบันเดียวหรือข้อมูลจำกัด เพื่อสนับสนุนการอธิบาย AI แพลตฟอร์มแสดงข้อมูลที่ใช้ตลอดการพัฒนาอย่างชัดเจน วิเคราะห์ที่มา การกระจายของค่า และตัวชี้วัดอื่นเพื่อให้แน่ใจว่าข้อมูลหลากหลายและมีคุณภาพพอ นอกจากนี้ยังรองรับสิ่งที่ทำไม่ได้ด้วยการรวมข้อมูลอย่างเดียว เช่น เพิ่มตัวแปรที่คำนวณจากจุดข้อมูลเดิม เพื่อศึกษาการอนุมานเชิงสาเหตุและลดอิทธิพลของตัวแปรกวน

ตอบแพทย์ที่กังวลว่าพึ่ง AI มากเกินไปอาจได้ผลลัพธ์มีอคติและไม่ได้ตรวจสอบอย่างอิสระอย่างไร?

เราเข้าใจความกังวลนี้และยอมรับว่าบางแอปในตลาดอาจมีอคติจริง อุตสาหกรรมและชุมชนสุขภาพที่ให้ความสำคัญกับความปลอดภัยผู้ป่วยต้องร่วมกันกำหนดนโยบายและวิธีปฏิบัติเพื่อป้องกันอคติและรับรองว่าแอป AI ปลอดภัยและมีประสิทธิผล ผู้พัฒนารับผิดชอบให้ผลิตภัณฑ์ที่วางตลาดผ่านการตรวจสอบอิสระ เพื่อได้รับความเชื่อถือจากบุคลากรสุขภาพและผู้ป่วย Rhino Health สนับสนุนผลิตภัณฑ์ปลอดภัยและเชื่อถือได้ และร่วมกับพันธมิตรทำให้การตรวจสอบแอปอย่างอิสระก่อนใช้จริงทางคลินิกเป็นไปได้และง่ายขึ้น โดยขจัดอุปสรรคต่อข้อมูลตรวจสอบที่จำเป็น

มองอนาคตของ AI ด้านสุขภาพอย่างไร?

Rhino Health มองโลกที่ AI บรรลุศักยภาพเต็มที่ในสุขภาพ เราทำงานเพื่อความโปร่งใสและความร่วมมือผ่านการคุ้มครองความเป็นส่วนตัว เพื่อทำให้โลกนั้นเกิดขึ้น เรามอง AI ที่ไม่ถูกจำกัดด้วยไฟร์วอลล์ ภูมิศาสตร์ หรือข้อจำกัดด้านกฎระเบียบ ผู้พัฒนาเข้าถึงข้อมูลจำเป็นอย่างมีการควบคุมเพื่อสร้างโมเดลที่ทรงพลังและใช้ได้ทั่วไป พร้อมติดตามปรับปรุงต่อเนื่องด้วยข้อมูลไหลเข้าแบบเวลาจริง ผู้ให้บริการและผู้ป่วยมั่นใจว่าไม่สูญเสียการควบคุมข้อมูล และตรวจสอบได้ว่าถูกใช้เพื่อประโยชน์ที่ดี หน่วยงานกำกับดูแลติดตามประสิทธิผลของโมเดลในการพัฒนายาและอุปกรณ์ได้แบบเวลาจริง องค์กรสาธารณสุขได้รับประโยชน์จากความก้าวหน้านี้ ขณะที่ผู้ป่วยและผู้ให้บริการวางใจว่าความเป็นส่วนตัวได้รับการคุ้มครอง

ขอบคุณสำหรับการสัมภาษณ์ ผู้อ่านที่ต้องการข้อมูลเพิ่มเติมสามารถเยี่ยมชม Rhino Health