อิตตัย เดยัน MD ผู้ร่วมก่อตั้งและซีอีโอของ Rhino Health – ซีรีส์สัมภาษณ์

อิตตัย เดยัน MD เป็นผู้ร่วมก่อตั้งและซีอีโอของ Rhino Health โดยมีพื้นหลังในการพัฒนาแพลตฟอร์มปัญญาประดิษฐ์และการวินิจฉัย รวมถึงการแพทย์ทางคลินิกและวิจัย เขาเป็นสมาชิกหลักของบริษัทที่ปรึกษาด้านการแพทย์ และผู้บริหารโรงพยาบาล ปัจจุบันเขามุ่งเน้นในการมีส่วนร่วมในการพัฒนาแพลตฟอร์มปัญญาประดิษฐ์ที่ปลอดภัย ยุติธรรม และมีประสิทธิภาพในอุตสาหกรรมสุขภาพและชีวิตวิทยาศาสตร์ ที่ Rhino Health พวกเขากำลังใช้การประมวลผลแบบกระจายและ Federated Learning เพื่อรักษาความเป็นส่วนตัวของ患者และอำนวยความสะดวกในการทำงานร่วมกันในภูมิทัศน์การดูแลสุขภาพที่กระจัดกระจาย

เขา曾รับใช้ในกองทัพอิสราเอล – กองกำลังพิเศษ และเป็นผู้นำศูนย์กลางการวิจัยและพัฒนาปัญญาประดิษฐ์ทางคลินิกที่ใหญ่ที่สุดในโลก เขาเป็นผู้เชี่ยวชาญในการพัฒนาและเชิงพาณิชย์ปัญญาประดิษฐ์ และเป็นนักวิ่งระยะไกล

คุณสามารถแบ่งปันเรื่องราวเกี่ยวกับ Rhino Health ได้หรือไม่?

การเดินทางของฉันในการพัฒนาแพลตฟอร์มปัญญาประดิษฐ์เริ่มต้นเมื่อฉันเป็นแพทย์และนักวิจัย โดยใช้เครื่องหมายทางดิจิทัลเพื่อวัดผลตอบสนองต่อการรักษาในผู้ป่วยโรคจิต หลังจากนั้น ฉันไปเป็นผู้นำศูนย์กลางการวิจัยและพัฒนาปัญญาประดิษฐ์ทางคลินิกที่ Mass General Brigham ที่นั่น ฉัน监督การพัฒนาแอปพลิเคชันปัญญาประดิษฐ์ทางคลินิกหลายสิบตัว และได้เห็นความท้าทายที่เกิดขึ้นในการเข้าถึงและ “กระตุ้น” ข้อมูลที่จำเป็นในการพัฒนาและฝึกอบรมผลิตภัณฑ์ปัญญาประดิษฐ์ที่มีคุณภาพ

尽管มีการพัฒนาแพลตฟอร์มปัญญาประดิษฐ์ทางคลินิกมากมาย แต่การเดินทางจากการพัฒนาไปสู่การเปิดตัวผลิตภัณฑ์ในตลาดยังคงเป็นเรื่องที่ยากและซับซ้อน ผลิตภัณฑ์อาจล้มเหลวหรือไม่ประสบความสำเร็จเมื่อใช้งานในทางคลินิก และการสนับสนุนชีวิตวงจรของปัญญาประดิษฐ์เป็นเรื่องที่ยากมากหากไม่มีการเข้าถึงข้อมูลทางคลินิกอย่างต่อเนื่อง ความท้าทายได้เปลี่ยนจาก “การสร้าง” โมเดลไปเป็น “การบำรุงรักษา” โมเดลเหล่านั้น เพื่อตอบสนองความท้าทายนี้ ฉันเชื่อมั่นว่าระบบ Mass General Brigham มีคุณค่าในการมี “CRO พิเศษสำหรับ AI” (CRO = องค์กรวิจัยทางคลินิก) เพื่อทดสอบอัลกอริทึมจากผู้พัฒนาเชิงพาณิชย์หลายราย

แต่ปัญหายังคงอยู่ – ข้อมูลสุขภาพยังคงถูกเก็บอยู่ในซิลโล และแม้แต่ข้อมูลจำนวนมากจากเครือข่ายเดียวกันก็ไม่เพียงพอในการต่อสู้กับเป้าหมายการแพทย์ที่แคบลงเรื่อยๆ ในฤดูร้อนปี 2020 ฉันเริ่มต้นและเป็นผู้นำ (ร่วมกับ Dr. Mona Flores จาก NVIDIA) การศึกษาการเรียนรู้แบบกระจาย (Federated Learning) ที่ใหญ่ที่สุดในโลกในขณะนั้น คือ EXAM เราใช้ Federated Learning เพื่อสร้างโมเดลการทำนายผลลัพธ์ของโควิด โดยใช้ข้อมูลจากทั่วโลก โดยไม่ต้องแบ่งปันข้อมูลใดๆ การศึกษานี้ได้รับการตีพิมพ์ใน Nature Medicine และแสดงให้เห็นถึงผลกระทบเชิงบวกของการใช้ข้อมูลที่หลากหลายและกระจัดกระจาย และเน้นย้ำถึงศักยภาพในการใช้การเรียนรู้แบบกระจายในวงกว้างในอุตสาหกรรมสุขภาพ

ประสบการณ์นี้ทำให้ฉันเห็นความท้าทายหลายประการ รวมถึงการประสานข้อมูลระหว่างไซต์ที่ร่วมมือ การรับรองความถูกต้องและลักษณะของข้อมูล และภาระที่เกิดขึ้นกับแผนก IT ของสถาบันต่างๆ ที่ต้องเรียนรู้เทคโนโลยีล้ำสมัยที่พวกเขาไม่คุ้นเคย ซึ่งทำให้จำเป็นต้องมีแพลตฟอร์มใหม่ที่จะสนับสนุนการทำงานร่วมกันแบบ “ข้อมูลกระจาย” นี้ ฉันตัดสินใจร่วมมือกับ我的ผู้ร่วมก่อตั้ง Yuval Baror เพื่อสร้างแพลตฟอร์มแบบ end-to-end สำหรับการสนับสนุนการทำงานร่วมกันแบบ “ข้อมูลกระจาย” นั้น แพลตฟอร์มที่เรียกว่า “Rhino Health Platform” โดยใช้ Federated Learning และการประมวลผลแบบ edge

คุณเชื่อว่าทำไมโมเดลปัญญาประดิษฐ์จึงล้มเหลวในการให้ผลลัพธ์ที่คาดหวังในสถานพยาบาล?

ปัญญาประดิษฐ์ทางคลินิกมักถูกฝึกอบรมด้วยชุดข้อมูลขนาดเล็กและแคบ ซึ่งเช่น ชุดข้อมูลจากสถาบันเดียวหรือภูมิภาคเดียว ซึ่งทำให้โมเดลที่ได้ผลลัพธ์ที่ดีเฉพาะในข้อมูลที่มีลักษณะคล้ายกับชุดข้อมูลที่ใช้ในการฝึกอบรม เมื่ออัลกอริทึมถูกนำไปใช้กับผู้ป่วยหรือสถานการณ์ที่แตกต่างจากชุดข้อมูลที่ใช้ในการฝึกอบรม ผลลัพธ์จะถูกกระทบกระเทือนอย่างมาก

Andrew Ng ได้กล่าวถึงแนวคิดนี้ไว้ว่า “เมื่อเรารวบรวมข้อมูลจากโรงพยาบาล Stanford… เราสามารถตีพิมพ์เอกสารวิจัยที่แสดงให้เห็นว่าอัลกอริทึมเหล่านี้สามารถเทียบเท่ากับแพทย์ผู้เชี่ยวชาญด้านรังสีวิทยาในการตรวจจับโรคบางอย่าง… แต่เมื่อเรานำโมเดลเดียวกันนั้นไปใช้ที่โรงพยาบาลเก่าๆ ที่มีเครื่องมือเก่าๆ และผู้ปฏิบัติงานใช้โพรโทคอลการถ่ายภาพที่แตกต่างเล็กน้อย ข้อมูลจะเปลี่ยนแปลงไปและทำให้ผลลัพธ์ของระบบปัญญาประดิษฐ์ลดลงอย่างมาก”

โดยสรุป โมเดลปัญญาประดิษฐ์ส่วนใหญ่ไม่ได้รับการฝึกอบรมด้วยข้อมูลที่หลากหลายและคุณภาพสูง ทำให้ไม่สามารถให้ผลลัพธ์ที่ดีในโลกแห่งความเป็นจริงได้ ปัญหานี้ได้รับการบันทึกไว้ในทั้งวงการวิทยาศาสตร์และสื่อกระแสหลัก เช่น ใน Science และ Politico

การทดสอบบนกลุ่มผู้ป่วยที่หลากหลายมีความสำคัญแค่ไหน?

การทดสอบบนกลุ่มผู้ป่วยที่หลากหลายมีความสำคัญอย่างยิ่งในการรับรองว่าผลิตภัณฑ์ปัญญาประดิษฐ์ที่ได้ผลลัพธ์ที่ดีและปลอดภัย อัลกอริทึมที่ไม่ได้รับการฝึกอบรมหรือทดสอบบนกลุ่มผู้ป่วยที่หลากหลายอาจมีปัญหาเรื่องความเอนเอียงของอัลกอริทึม ซึ่งเป็นปัญหาที่ร้ายแรงในอุตสาหกรรมสุขภาพและเทคโนโลยีสุขภาพ ไม่เพียงแต่อัลกอริทึมเหล่านี้จะสะท้อนความเอนเอียงที่มีอยู่ในข้อมูลที่ใช้ในการฝึกอบรม แต่ยังทำให้ความเอนเอียงนั้นรุนแรงขึ้นและเพิ่มความไม่เท่าเทียมกันในด้านสุขภาพที่มีอยู่แล้ว การทดสอบบนกลุ่มผู้ป่วยที่หลากหลายจึงมีความสำคัญอย่างยิ่งในการป้องกันผลิตภัณฑ์ที่อันตราย

การศึกษาที่ตีพิมพ์ไม่นานมานี้⁵ โดยใช้แพลตฟอร์ม Rhino Health เพื่อตรวจสอบผลลัพธ์ของอัลกอริทึมการตรวจจับแอนยูริซึมในสมองโดยพัฒนาโดยหนึ่งไซต์บนไซต์ต่างๆ ที่มีเครื่องสแกนเนอร์หลายประเภท ผลลัพธ์แสดงให้เห็นว่ามีความแปรผันของผลลัพธ์ที่สำคัญบนไซต์ที่มีเครื่องสแกนเนอร์หลายประเภท ซึ่งเน้นย้ำถึงความสำคัญของการฝึกอบรมและทดสอบบนชุดข้อมูลที่หลากหลาย

คุณสามารถอธิบายวิธีการระบุว่ากลุ่มย่อยไม่ได้รับการแทนได้หรือไม่?

วิธีการทั่วไปคือการวิเคราะห์การกระจายตัวของตัวแปรในเซตข้อมูลต่างๆ ทั้งแบบแยกและรวมกัน ซึ่งสามารถให้ข้อมูลแก่นักพัฒนาได้ทั้งในการเตรียมชุดข้อมูลฝึกอบรมและชุดข้อมูลทดสอบ แพลตฟอร์ม Rhino Health ช่วยให้ผู้ใช้สามารถทำเช่นนี้ได้ และนอกจากนี้ยังช่วยให้ผู้ใช้สามารถดูว่าโมเดลทำงานได้ดีบนกลุ่มต่างๆ เพื่อให้แน่ใจว่ามีการทั่วไปและผลลัพธ์ที่ยั่งยืนในกลุ่มย่อย

คุณสามารถอธิบายสิ่งที่เป็น Federated Learning และวิธีการแก้ปัญหาเหล่านี้ได้หรือไม่?

Federated Learning (FL) สามารถอธิบายได้ว่าเป็นกระบวนการที่โมเดลปัญญาประดิษฐ์ถูกฝึกอบรมและปรับปรุงอย่างต่อเนื่องโดยใช้ข้อมูลที่กระจัดกระจายโดยไม่ต้องแบ่งปันหรือรวมข้อมูล นี่เป็นขั้นตอนสำคัญในการพัฒนาแพลตฟอร์มปัญญาประดิษฐ์ ในอดีต ผู้ใช้ที่ต้องการร่วมมือกับหลายไซต์ต้องรวมข้อมูลเข้าด้วยกัน ซึ่งทำให้เกิดปัญหาหลายอย่างทั้งในด้านกฎหมาย ความเสี่ยง และการปฏิบัติตามข้อกำหนด

ปัจจุบัน ด้วยซอฟต์แวร์เช่นแพลตฟอร์ม Rhino Health Federated Learning ได้กลายเป็นความเป็นจริงในอุตสาหกรรมสุขภาพและชีวิตวิทยาศาสตร์ Federated Learning ช่วยให้ผู้ใช้สามารถสำรวจ คัดเลือก และตรวจสอบข้อมูลได้โดยที่ข้อมูลยังคงอยู่บนเซิร์ฟเวอร์เฉพาะของพวกเขา โค้ดแบบ containerized เช่น อัลกอริทึมปัญญาประดิษฐ์/การเรียนรู้ของเครื่อง หรือแอปพลิเคชันการวิเคราะห์ จะถูกส่งไปยังเซิร์ฟเวอร์เฉพาะที่ที่โค้ดจะถูกดำเนินการ “ที่นั่น” ข้อมูลจึงยังคงอยู่กับ “ผู้ดูแลข้อมูล” ทั้งหมด

โรงพยาบาลโดยเฉพาะมีความกังวลเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับการรวบรวมข้อมูลผู้ป่วยที่ไวต่อความเสี่ยง ซึ่งทำให้เกิดสถานการณ์ที่น่าอายเมื่อเป็นที่ชัดเจนว่าองค์กรสุขภาพได้ร่วมมือกับอุตสาหกรรมโดยไม่เข้าใจการใช้ข้อมูลของตนอย่างถูกต้อง ซึ่งทำให้การทำงานร่วมกันระหว่างอุตสาหกรรมและนักวิจัยทางวิชาการช้าลง และส่งผลกระทบต่อคุณภาพผลิตภัณฑ์ทั่วทั้งอุตสาหกรรมสุขภาพ Federated Learning สามารถบรรเทาปัญหาเหล่านี้ได้ และทำให้การทำงานร่วมกันทางข้อมูลเป็นไปได้มากขึ้นโดยควบคุมความเสี่ยงที่เกี่ยวข้องกับการทำงานร่วมกันเหล่านั้น

คุณสามารถแบ่งปันความมุ่งมั่นของ Rhino Health ในการสร้างโมเดลที่รวดเร็วโดยใช้ข้อมูลที่หลากหลายมากขึ้นได้หรือไม่?

เรามองเห็นระบบนิเวศของนักพัฒนาและผู้ใช้ปัญญาประดิษฐ์ที่ทำงานร่วมกันโดยไม่มีข้อจำกัดหรือความกลัว ในขณะเดียวกันก็เคารพขอบเขตของกฎระเบียบ ผู้ร่วมมือสามารถระบุและเข้าถึงข้อมูลที่จำเป็นสำหรับการฝึกอบรมและทดสอบโมเดลได้อย่างรวดเร็ว และพัฒนามอเดลให้สมบูรณ์แบบเพื่อให้แน่ใจว่ามีการทั่วไปและความปลอดภัย

จุดศูนย์กลางของสิ่งนี้คือแพลตฟอร์ม Rhino Health ซึ่งให้บริการ “ร้านค้าครบวงจร” สำหรับนักพัฒนาแพลตฟอร์มปัญญาประดิษฐ์ในการสร้างชุดข้อมูลขนาดใหญ่และหลากหลาย ฝึกอบรมและทดสอบอัลกอริทึมปัญญาประดิษฐ์ และติดตามและบำรุงรักษาผลิตภัณฑ์ปัญญาประดิษฐ์ที่ติดตั้งไว้

แพลตฟอร์ม Rhino Health ป้องกันความเอนเอียงของปัญญาประดิษฐ์และให้ความสามารถในการอธิบายได้อย่างไร?

โดยการปลดล็อกและทำให้การทำงานร่วมกันทางข้อมูลเป็นไปอย่างราบรื่น นักพัฒนาแพลตฟอร์มปัญญาประดิษฐ์สามารถใช้ข้อมูลที่หลากหลายและคุณภาพสูงในการฝึกอบรมและทดสอบแอปพลิเคชันของตนได้ ผลลัพธ์ของชุดข้อมูลที่มีคุณภาพสูงกว่าคือผลิตภัณฑ์ที่มีการทั่วไปและไม่ได้รับผลกระทบจากความเอนเอียงของสถาบันหรือชุดข้อมูลเดียว ในการสนับสนุนความสามารถในการอธิบายปัญญาประดิษฐ์ แพลตฟอร์มของเรามอบมุมมองที่ชัดเจนเกี่ยวกับข้อมูลที่ใช้ตลอดกระบวนการพัฒนา โดยมีความสามารถในการวิเคราะห์ต้นกำเนิดของข้อมูล การกระจายตัวของค่า และเมตริกสำคัญอื่นๆ เพื่อให้แน่ใจว่ามีความหลากหลายและคุณภาพของข้อมูลที่เพียงพอ นอกจากนี้ แพลตฟอร์มของเรายังช่วยให้ผู้ใช้สามารถเพิ่มข้อมูลของตนเองด้วยตัวแปรเพิ่มเติม เช่น ตัวแปรที่คำนวณจากจุดข้อมูลที่มีอยู่ เพื่อตรวจสอบการอนุมานและการลดความซับซ้อน

คุณตอบสนองต่อแพทย์ที่กังวลว่าการพึ่งพาปัญญาประดิษฐ์มากเกินไปอาจนำไปสู่ผลลัพธ์ที่มีความเอนเอียงและไม่ได้รับการตรวจสอบอย่างอิสระได้อย่างไร?

เรารู้สึกเห็นใจกับความกังวลนี้และตระหนักว่าหลายแอปพลิเคชันที่มีอยู่ในตลาดอาจมีความเอนเอียงจริงๆ คำตอบของเราคือเราต้องมารวมตัวกันเป็นอุตสาหกรรมและชุมชนสุขภาพที่ให้ความสำคัญกับความปลอดภัยของผู้ป่วยเป็นอันดับแรก เพื่อกำหนดนโยบายและขั้นตอนในการป้องกันความเอนเอียงเหล่านี้และรับรองว่าแอปพลิเคชันปัญญาประดิษฐ์ที่ปลอดภัยและประสิทธิผล นักพัฒนาแพลตฟอร์มปัญญาประดิษฐ์มีความรับผิดชอบในการรับรองว่าผลิตภัณฑ์ปัญญาประดิษฐ์ที่พวกเขาต้องการจะวางจำหน่ายได้รับการตรวจสอบอย่างอิสระเพื่อให้ได้รับความไว้วางใจจากผู้เชี่ยวชาญด้านสุขภาพและผู้ป่วย Rhino Health มุ่งมั่นที่จะสนับสนุนผลิตภัณฑ์ปัญญาประดิษฐ์ที่ปลอดภัยและเชื่อถือได้ และกำลังทำงานร่วมกับคู่ค้าเพื่ออำนวยความสะดวกและทำให้กระบวนการตรวจสอบผลิตภัณฑ์ปัญญาประดิษฐ์เป็นไปอย่างราบรื่น

คุณมองเห็นอนาคตของปัญญาประดิษฐ์ในอุตสาหกรรมสุขภาพอย่างไร?

Rhino Health มองเห็นโลกที่ปัญญาประดิษฐ์ได้ทำตามศักยภาพที่เต็มที่ในอุตสาหกรรมสุขภาพ เรากำลังทำงานอย่างขยันขันแข็งเพื่อสร้างความโปร่งใสและอำนวยความสะดวกในการทำงานร่วมกันโดยการยืนยันความเป็นส่วนตัวเพื่อให้ได้โลกนั้น เรามองเห็นปัญญาประดิษฐ์ทางสุขภาพที่ไม่ได้ถูกจำกัดโดยไฟร์วอลล์ ภูมิภาค หรือข้อจำกัดด้านกฎระเบียบ นักพัฒนาแพลตฟอร์มปัญญาประดิษฐ์จะมีการเข้าถึงข้อมูลที่พวกเขาต้องการในการสร้างโมเดลที่มีประสิทธิผลและทั่วไป และสามารถติดตามและปรับปรุงโมเดลเหล่านั้นได้อย่างต่อเนื่องผ่านการไหลของข้อมูลในเวลาจริง ผู้ให้บริการและผู้ป่วยจะมั่นใจว่าไม่สูญเสียการควบคุมข้อมูลของตนและสามารถรับรองได้ว่าข้อมูลนั้นถูกใช้เพื่อประโยชน์ที่ดี องค์กรกำกับดูแลจะสามารถติดตามประสิทธิผลของโมเดลที่ใช้ในกระบวนการวิจัยและพัฒนายาและอุปกรณ์อย่างต่อเนื่อง องค์กรสาธารณสุขจะได้รับประโยชน์จากความก้าวหน้าเหล่านี้ในด้านปัญญาประดิษฐ์ ในขณะที่ผู้ให้บริการและผู้ป่วยสามารถมั่นใจได้ว่าความเป็นส่วนตัวได้รับการคุ้มครอง

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Rhino Health