साक्षात्कार
इत्ताई दयान, एमडी, राइनो हेल्थ के सह-संस्थापक और सीईओ – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
इत्ताई दयान, एमडी राइनो हेल्थ के सह-संस्थापक और सीईओ हैं। उनकी पृष्ठभूमि कृत्रिम बुद्धिमत्ता और निदान विकसित करने में है, साथ ही साथ क्लिनिकल चिकित्सा और अनुसंधान में भी। वह बीसीजी के स्वास्थ्य अभ्यास के पूर्व मुख्य सदस्य और अस्पताल कार्यकारी हैं। वह वर्तमान में स्वास्थ्य सेवा और जीवन विज्ञान उद्योग में सुरक्षित, समान और प्रभावी कृत्रिम बुद्धिमत्ता के विकास में योगदान देने पर ध्यान केंद्रित कर रहे हैं। राइनो हेल्थ में, वे वितरित गणना और संघीय सीखने का उपयोग रोगी गोपनीयता बनाए रखने और स्वास्थ्य सेवा परिदृश्य में सहयोग को बढ़ावा देने के लिए कर रहे हैं।
उन्होंने आईडीएफ – विशेष बलों में सेवा की, दुनिया के सबसे बड़े अकादमिक-चिकित्सा केंद्र स्थित अनुवादक कृत्रिम बुद्धिमत्ता केंद्र का नेतृत्व किया। वह कृत्रिम बुद्धिमत्ता विकास और व्यावसायीकरण में एक विशेषज्ञ हैं, और एक दूरस्थ धावक हैं।
आप राइनो हेल्थ के पीछे की उत्पत्ति की कहानी साझा कर सकते हैं?
मेरी कृत्रिम बुद्धिमत्ता में यात्रा तब शुरू हुई जब मैं एक चिकित्सक और शोधकर्ता था, और मैं मानसिक विकारों में उपचार प्रतिक्रिया को मापने के लिए एक प्रारंभिक रूप से ‘डिजिटल जैव सूचक’ का उपयोग कर रहा था। बाद में, मैं मैसाचुसेट्स जनरल ब्रिगहम में क्लिनिकल डेटा विज्ञान केंद्र (सीसीडीएस) का नेतृत्व करने गया, जहां मैंने दर्जनों क्लिनिकल कृत्रिम बुद्धिमत्ता अनुप्रयोगों के विकास की देखरेख की, और मैंने स्वयं देखा कि नियामक-ग्रेड कृत्रिम बुद्धिमत्ता उत्पादों को विकसित और प्रशिक्षित करने के लिए आवश्यक डेटा तक पहुंच और ‘सक्रिय’ करने से जुड़ी मूलभूत चुनौतियां।
स्वास्थ्य सेवा कृत्रिम बुद्धिमत्ता में कई प्रगति के बावजूद, विकास से लेकर बाजार में एक उत्पाद लॉन्च करने तक का रास्ता अक्सर लंबा और अक्सर खराब होता है। समाधान नैदानिक रूप से तैनात होने पर दुर्घटनाग्रस्त हो जाते हैं (या बस निराश करते हैं), और पूरे कृत्रिम बुद्धिमत्ता जीवन चक्र का समर्थन करना लगभग असंभव है बिना निरंतर क्लिनिकल डेटा तक पहुंच के। चुनौती मॉडल बनाने से लेकर मॉडल को बनाए रखने तक है। इस चुनौती का जवाब देने के लिए, मैंने मैसाचुसेट्स जनरल ब्रिगहम प्रणाली को अपने स्वयं के ‘विशेषज्ञ सीआरओ के लिए एआई’ (सीआरओ = क्लिनिकल अनुसंधान संगठन) के मूल्य को समझाने के लिए मना लिया, ताकि वे विभिन्न व्यावसायिक विकासकर्ताओं से एल्गोरिदम का परीक्षण कर सकें।
हालांकि, समस्या बनी रही – स्वास्थ्य डेटा अभी भी बहुत सिलो में है, और एक नेटवर्क से बड़ी मात्रा में डेटा भी चिकित्सा कृत्रिम बुद्धिमत्ता के बढ़ते लक्ष्यों से निपटने के लिए पर्याप्त नहीं है। 2020 के ग्रीष्म में, मैंने (एनवीडिया के डॉ मोना फ्लोरेस के साथ) दुनिया के सबसे बड़े स्वास्थ्य सेवा संघीय सीखने (एफएल) अध्ययन, एक्जाम की शुरुआत की और इसका नेतृत्व किया। हमने एफएल का उपयोग कोविड परिणाम की भविष्यवाणी करने वाले मॉडल बनाने के लिए किया, दुनिया भर से डेटा का लाभ उठाते हुए, बिना किसी डेटा को साझा किए। बाद में नेचर मेडिसिन में प्रकाशित, इस अध्ययन ने विविध और विभिन्न डेटासेट का लाभ उठाने और स्वास्थ्य सेवा में संघीय सीखने के अधिक व्यापक उपयोग की संभावना को रेखांकित किया।
(NVDA )यह अनुभव, हालांकि, कई चुनौतियों को उजागर करता है। इनमें सहयोगी साइटों भर में डेटा को समन्वयित करना, डेटा की निशानability और उचित चरित्रीकरण सुनिश्चित करना, साथ ही साथ प्रत्येक संस्थान के आईटी विभागों पर बोझ शामिल है, जिन्हें उन्हें सीखने के लिए कटिंग-एज प्रौद्योगिकियों का सामना करना पड़ता है जो वे उपयोग नहीं करते हैं। इसके लिए एक नई मंच की आवश्यकता थी जो इन नए ‘वितरित डेटा’ सहयोग का समर्थन करेगी। मैंने अपने सह-संस्थापक, युवाल बारोर के साथ मिलकर एक अंत-से-अंत मंच बनाने का फैसला किया जो गोपनीयता-संरक्षण सहयोग का समर्थन करेगा। वह मंच राइनो हेल्थ प्लेटफ़ॉर्म है, जो एफएल और एज-कंप्यूट का लाभ उठाता है।
आप क्यों मानते हैं कि एआई मॉडल अक्सर स्वास्थ्य सेवा सेटिंग में अपेक्षित परिणाम प्रदान करने में विफल रहते हैं?
चिकित्सा कृत्रिम बुद्धिमत्ता अक्सर छोटे, संकीर्ण डेटासेट पर प्रशिक्षित होती है, जैसे कि एक संस्थान या भौगोलिक क्षेत्र से डेटासेट, जो परिणामस्वरूप मॉडल को केवल उन प्रकार के डेटा पर अच्छा प्रदर्शन करने का कारण बनता है जिसे उन्होंने देखा है। एक बार जब एल्गोरिदम को रोगियों या परिदृश्यों पर लागू किया जाता है जो संकीर्ण प्रशिक्षण डेटासेट से भिन्न होते हैं, तो प्रदर्शन गंभीर रूप से प्रभावित होता है।
एंड्रू एनजी, ने इस धारणा को अच्छी तरह से कब्जा कर लिया जब उन्होंने कहा, “यह पता चलता है कि जब हम स्टैनफोर्ड अस्पताल से डेटा इकट्ठा करते हैं … हम पेपर प्रकाशित कर सकते हैं जो दिखाते हैं [एल्गोरिदम] मानव रेडियोलॉजिस्ट की तुलना में कुछ स्थितियों का पता लगाने में तुलनीय हैं। … [जब] आप उसी मॉडल को लेते हैं, उसी एआई सिस्टम को एक पुराने अस्पताल में ले जाते हैं, एक पुरानी मशीन के साथ, और तकनीशियन एक थोड़ा अलग इमेजिंग प्रोटोकॉल का उपयोग करता है, तो डेटा ड्रिफ्ट का कारण एआई सिस्टम के प्रदर्शन में काफी गिरावट आती है। “
साधारण शब्दों में, अधिकांश एआई मॉडल पर्याप्त रूप से विविध और उच्च गुणवत्ता वाले डेटा पर प्रशिक्षित नहीं होते हैं, जिसके परिणामस्वरूप ‘वास्तविक दुनिया’ में खराब प्रदर्शन होता है। यह मुद्दा वैज्ञानिक और मुख्यधारा के सर्कल दोनों में अच्छी तरह से प्रलेखित किया गया है, जैसे कि विज्ञान और पोलिटिको में।
विविध रोगी समूहों पर परीक्षण कितना महत्वपूर्ण है?
विविध रोगी समूहों पर परीक्षण परिणामी एआई उत्पाद को प्रभावी और प्रदर्शनकारी होने के साथ-साथ सुरक्षित होने के लिए आवश्यक है। जिन एल्गोरिदम को पर्याप्त विविध रोगी समूहों पर प्रशिक्षित या परीक्षण नहीं किया जाता है, उनमें एल्गोरिदमिक पूर्वाग्रह का खतरा होता है, जो स्वास्थ्य सेवा और स्वास्थ्य प्रौद्योगिकी में एक गंभीर मुद्दा है। न केवल ऐसे एल्गोरिदम प्रशिक्षण डेटा में मौजूद पूर्वाग्रह को प्रतिबिंबित करेंगे, बल्कि उस पूर्वाग्रह को बढ़ाएंगे और मौजूदा स्वास्थ्य सेवा में नस्लीय, जातीय, धार्मिक, लिंग आदि असमानताओं को बढ़ावा देंगे। विविध रोगी समूहों पर परीक्षण में विफलता खतरनाक उत्पादों के परिणामस्वरूप हो सकती है।
हाल ही में प्रकाशित एक अध्ययन में, राइनो हेल्थ प्लेटफ़ॉर्म का लाभ उठाया गया, जिसने एक साइट पर विकसित एक मस्तिष्क एन्यूरिज्म का पता लगाने वाले एआई एल्गोरिदम के प्रदर्शन की जांच की, जिसमें विभिन्न स्कैनर प्रकार के साथ चार अलग-अलग साइटों पर परीक्षण किया गया। परिणामों ने विभिन्न स्कैनर प्रकार वाली साइटों पर महत्वपूर्ण प्रदर्शन परिवर्तनशीलता को प्रदर्शित किया, जो विविध डेटासेट पर प्रशिक्षण और परीक्षण के महत्व पर जोर दिया।
आप कैसे निर्धारित करते हैं कि एक उप-संस्कृति का प्रतिनिधित्व नहीं किया गया है?
एक सामान्य दृष्टिकोण विभिन्न डेटा सेटों में चर के वितरण का विश्लेषण करना है, व्यक्तिगत रूप से और संयुक्त रूप से। यह विकासकर्ताओं को दोनों ‘प्रशिक्षण’ डेटा सेट और सत्यापन डेटा सेट तैयार करते समय सूचित कर सकता है। राइनो हेल्थ प्लेटफ़ॉर्म आपको ऐसा करने की अनुमति देता है, और इसके अलावा, उपयोगकर्ता देख सकते हैं कि मॉडल विभिन्न समूहों पर कैसा प्रदर्शन करता है ताकि सामान्यता और टिकाऊ प्रदर्शन को सुनिश्चित किया जा सके।
आप संघीय सीखने को क्या परिभाषित करेंगे और यह कुछ मुद्दों को कैसे हल करता है?
संघीय सीखने (एफएल) को व्यापक रूप से एक प्रक्रिया के रूप में परिभाषित किया जा सकता है जिसमें कृत्रिम बुद्धिमत्ता मॉडल प्रशिक्षित होते हैं और फिर विभिन्न डेटा का उपयोग करके समय के साथ बेहतर होते रहते हैं, बिना डेटा को साझा या केंद्रीकृत किए। यह कृत्रिम बुद्धिमत्ता विकास में एक बड़ा कदम है। ऐतिहासिक रूप से, कोई भी उपयोगकर्ता जो कई साइटों के साथ सहयोग करना चाहता था, उसे डेटा को एक साथ पूल करना पड़ता था, जिससे कई कठिन, महंगे और समय लेने वाले कानूनी, जोखिम और अनुपालन होते थे।
आज, राइनो हेल्थ प्लेटफ़ॉर्म जैसे सॉफ़्टवेयर के साथ, एफएल स्वास्थ्य सेवा और जीवन विज्ञान में दैनिक वास्तविकता बन रहा है। संघीय सीखने की अनुमति देता है उपयोगकर्ताओं को डेटा का अन्वेषण करने, क्यूरेट करने और सत्यापित करने की अनुमति देता है, जबकि डेटा स्थानीय सर्वर पर रहता है। कंटेनरीकृत कोड, जैसे कि एक एआई/एमएल एल्गोरिदम या एक विश्लेषणात्मक अनुप्रयोग, स्थानीय सर्वर पर भेजा जाता है जहां कोड का निष्पादन, जैसे कि एआई/एमएल एल्गोरिदम का प्रशिक्षण या सत्यापन, स्थानीय रूप से किया जाता है। डेटा इस प्रकार डेटा के संरक्षक के साथ रहता है।
अस्पताल, विशेष रूप से, संवेदनशील रोगी डेटा को एकत्रित करने से जुड़े जोखिमों के बारे में चिंतित हैं। इससे पहले से ही ऐसे अपमानजनक स्थितियां हुई हैं जहां यह स्पष्ट हो गया है कि स्वास्थ्य सेवा संगठनों ने उद्योग के साथ सहयोग किया है बिना यह जाने कि उनके डेटा का उपयोग कैसे किया जा रहा है। इसके परिणामस्वरूप, वे उद्योग और शैक्षणिक शोधकर्ताओं द्वारा की जाने वाली सहयोग की मात्रा को सीमित करते हैं, जो स्वास्थ्य सेवा उद्योग में अनुसंधान और विकास को धीमा कर देता है और उत्पाद की गुणवत्ता को प्रभावित करता है। एफएल इसे कम कर सकता है और डेटा सहयोग को पहले की तरह कभी नहीं देखा जा सकता है, जबकि इन सहयोगों से जुड़े जोखिमों को नियंत्रित करता है।
राइनो हेल्थ की विविध डेटा का उपयोग करके तेजी से मॉडल निर्माण को सक्षम करने की दृष्टि साझा करें?
हम एक पारिस्थितिकी तंत्र की कल्पना करते हैं जिसमें एआई विकासकर्ता और उपयोगकर्ता सहयोग कर सकते हैं बिना किसी भय या प्रतिबंध के, जबकि वे नियमों की सीमाओं का सम्मान करते हैं। सहयोगकर्ता विभिन्न भौगोलिक क्षेत्रों से आवश्यक प्रशिक्षण और परीक्षण डेटा की पहचान करने में सक्षम हैं, उस डेटा तक पहुंच और बातचीत कर सकते हैं, और मॉडल विकास पर Iterating कर सकते हैं ताकि पर्याप्त सामान्यता, प्रदर्शन और सुरक्षा सुनिश्चित हो सके।
इसके केंद्र में राइनो हेल्थ प्लेटफ़ॉर्म है, जो एआई विकासकर्ताओं के लिए एक ‘वन-स्टॉप-शॉप’ प्रदान करता है ताकि वे विशाल और विविध डेटासेट का निर्माण कर सकें, एआई एल्गोरिदम को प्रशिक्षित और सत्यापित कर सकें, और निरंतर निगरानी और तैनात एआई उत्पादों को बनाए रख सकें।
राइनो हेल्थ प्लेटफ़ॉर्म एआई पूर्वाग्रह को कैसे रोकता है और एआई व्याख्या की पेशकश करता है?
डेटा सहयोग को अनलॉक और स्ट्रीमलाइन करके, एआई विकासकर्ता अपने अनुप्रयोगों के प्रशिक्षण और परीक्षण में बड़े और अधिक विविध डेटासेट का लाभ उठा सकते हैं। अधिक मजबूत डेटासेट के परिणामस्वरूप एक अधिक सामान्य उत्पाद होता है जो एक संस्थान या संकीर्ण डेटासेट के पूर्वाग्रह से ग्रस्त नहीं है। एआई व्याख्या के समर्थन में, हमारा प्लेटफ़ॉर्म विकास प्रक्रिया के दौरान उपयोग किए गए डेटा में एक स्पष्ट दृष्टिकोण प्रदान करता है, जिसमें डेटा मूल, मूल्यों के वितरण और अन्य प्रमुख मेट्रिक्स का विश्लेषण करने की क्षमता शामिल है ताकि पर्याप्त डेटा विविधता और गुणवत्ता सुनिश्चित की जा सके। इसके अलावा, हमारा प्लेटफ़ॉर्म उपयोगकर्ताओं को अपने डेटासेट को अतिरिक्त चर जैसे कि मौजूदा डेटा बिंदुओं से गणना किए गए चर के साथ बढ़ाने की अनुमति देता है, ताकि कारण संबंध और पूर्वाग्रह को कम किया जा सके।
आप उन चिकित्सकों को कैसे जवाब देते हैं जो चिंतित हैं कि एआई पर過 अधिक निर्भरता पूर्वाग्रहित परिणामों की ओर ले जा सकती है जो स्वतंत्र रूप से सत्यापित नहीं हैं?
हम इस चिंता के साथ सहानुभूति रखते हैं और मानते हैं कि बाजार में कई अनुप्रयोग वास्तव में पूर्वाग्रहित हो सकते हैं। हमारा जवाब है कि हमें एक उद्योग के रूप में मिलकर काम करना चाहिए, एक स्वास्थ्य सेवा समुदाय के रूप में जो पहले और सबसे महत्वपूर्ण रूप से रोगी सुरक्षा के साथ चिंतित है, ताकि हम ऐसे पूर्वाग्रहों को रोकने और सुरक्षित, प्रभावी एआई अनुप्रयोगों को सुनिश्चित करने के लिए नीतियों और प्रक्रियाओं को परिभाषित कर सकें। एआई विकासकर्ताओं को यह सुनिश्चित करने की जिम्मेदारी है कि उनके बाजार में उत्पाद स्वतंत्र रूप से सत्यापित हैं। राइनो हेल्थ सुरक्षित और विश्वसनीय एआई उत्पादों को समर्थन देने के लिए समर्पित है और नैदानिक सेटिंग्स में तैनाती से पहले एआई अनुप्रयोगों के स्वतंत्र सत्यापन को सक्षम और सुविधाजनक बनाने के लिए भागीदारों के साथ काम कर रहा है।
स्वास्थ्य सेवा में एआई के भविष्य के लिए आपकी दृष्टि क्या है?
राइनो हेल्थ की दृष्टि एक ऐसी दुनिया की है जहां एआई ने स्वास्थ्य सेवा में अपनी पूरी क्षमता हासिल कर ली है। हम पारदर्शिता बनाने और सहयोग को बढ़ावा देने के लिए गोपनीयता को प्राथमिकता देने के लिए काम कर रहे हैं ताकि यह दुनिया संभव हो सके। हम स्वास्थ्य सेवा में एआई की कल्पना करते हैं जो फायरवॉल, भौगोलिक सीमाओं या नियामक प्रतिबंधों से सीमित नहीं है। एआई विकासकर्ता उन सभी डेटा तक नियंत्रित पहुंच प्राप्त करेंगे जिनकी उन्हें सामान्य और सुरक्षित मॉडल बनाने की आवश्यकता है, और वे उन्हें वास्तविक समय में निरंतर मॉनिटर और सुधार करने में सक्षम होंगे। प्रदाता और रोगी यह जानकर आश्वस्त रहेंगे कि वे अपने डेटा पर नियंत्रण खो नहीं रहे हैं और यह सुनिश्चित कर रहे हैं कि इसका उपयोग अच्छे के लिए किया जा रहा है। नियामक स्वास्थ्य सेवा और जीवन विज्ञान में उपयोग किए जाने वाले मॉडलों की प्रभावशीलता की निगरानी करने में सक्षम होंगे। सार्वजनिक स्वास्थ्य संगठन एआई में प्रगति से लाभान्वित होंगे जबकि रोगी और प्रदाता यह जानकर आराम करेंगे कि गोपनीयता संरक्षित है।
धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें राइनो हेल्थ पर जाना चाहिए।
