इत्ताई दयान, एमडी, राइनो हेल्थ के सह-संस्थापक और सीईओ – साक्षात्कार श्रृंखला

इत्ताई दयान, एमडी राइनो हेल्थ के सह-संस्थापक और सीईओ हैं। उनकी पृष्ठभूमि कृत्रिम बुद्धिमत्ता और निदान विकसित करने में है, साथ ही साथ क्लिनिकल चिकित्सा और अनुसंधान में भी। वह बीसीजी के स्वास्थ्य सेवा विभाग के पूर्व मुख्य सदस्य और अस्पताल कार्यकारी हैं। वह वर्तमान में स्वास्थ्य सेवा और जीवन विज्ञान उद्योग में सुरक्षित, समान और प्रभावी कृत्रिम बुद्धिमत्ता के विकास में योगदान देने पर ध्यान केंद्रित कर रहे हैं। राइनो हेल्थ में, वे वितरित गणना और फेडरेटेड लर्निंग का उपयोग रोगी गोपनीयता बनाए रखने और खंडित स्वास्थ्य सेवा क्षेत्र में सहयोग को बढ़ावा देने के लिए कर रहे हैं।

उन्होंने आईडीएफ – विशेष बलों में सेवा की, दुनिया के सबसे बड़े अकादमिक-चिकित्सा केंद्र स्थित अनुसंधान को व्यवहार में लाने वाले ट्रांसलेशनल AI केंद्र का नेतृत्व किया। वह कृत्रिम बुद्धिमत्ता विकास और व्यावसायीकरण में एक विशेषज्ञ हैं, और लंबी दूरी के धावक हैं।

आप राइनो हेल्थ के पीछे की उत्पत्ति की कहानी साझा कर सकते हैं?

मेरी कृत्रिम बुद्धिमत्ता में यात्रा तब शुरू हुई जब मैं एक चिकित्सक और शोधकर्ता था, और मैं मानसिक विकारों में उपचार प्रतिक्रिया को मापने के लिए एक प्रारंभिक रूप से ‘डिजिटल जैव सूचक’ का उपयोग कर रहा था। बाद में, मैं Mass General Brigham में क्लिनिकल डेटा विज्ञान केंद्र (सीसीडीएस) का नेतृत्व करने गया, जहां मैंने दर्जनों क्लिनिकल कृत्रिम बुद्धिमत्ता अनुप्रयोगों के विकास की देखरेख की, और उन मूलभूत चुनौतियों को स्वयं देखा जो नियामकीय मानकों वाले AI उत्पादों को विकसित और प्रशिक्षित करने के लिए आवश्यक डेटा तक पहुँचने और उसे उपयोग में लाने से जुड़ी थीं।

स्वास्थ्य सेवा कृत्रिम बुद्धिमत्ता में कई प्रगति के बावजूद, विकास से लेकर बाजार में एक उत्पाद लॉन्च करने तक का रास्ता लंबा और अक्सर कठिन होता है। समाधान नैदानिक रूप से तैनात होने पर दुर्घटनाग्रस्त हो जाते हैं (या बस निराश करते हैं), और पूरे कृत्रिम बुद्धिमत्ता जीवन चक्र का समर्थन करना लगभग असंभव है बिना बड़ी मात्रा में क्लिनिकल डेटा तक निरंतर पहुँच के। चुनौती मॉडल बनाने से उन्हें बनाए रखने तक है। इस चुनौती का जवाब देने के लिए, मैंने Mass General Brigham प्रणाली को अपने स्वयं के AI-विशेषज्ञ क्लिनिकल अनुसंधान संगठन (सीआरओ = क्लिनिकल अनुसंधान संगठन) के मूल्य को समझाने के लिए मना लिया, ताकि वे विभिन्न व्यावसायिक विकासकर्ताओं से एल्गोरिदम का परीक्षण कर सकें।

हालांकि, समस्या बनी रही – स्वास्थ्य डेटा अभी भी बहुत सिलो में है, और एक नेटवर्क से बड़ी मात्रा में डेटा भी चिकित्सा AI के लगातार अधिक विशिष्ट होते लक्ष्यों से निपटने के लिए पर्याप्त नहीं है। 2020 के ग्रीष्म में, मैंने (एनवीडिया के डॉ. मोना फ्लोरेस (NVDA ) के साथ) उस समय दुनिया के सबसे बड़े स्वास्थ्य सेवा संबंधी फेडरेटेड लर्निंग (एफएल) अध्ययन, एक्जाम की शुरुआत की और इसका नेतृत्व किया। हमने एफएल का उपयोग कोविड परिणाम की भविष्यवाणी करने वाले मॉडल बनाने के लिए किया, दुनिया भर से डेटा का लाभ उठाते हुए, बिना किसी डेटा को साझा किए। बाद में नेचर मेडिसिन में प्रकाशित, इस अध्ययन ने विविध और अलग-अलग डेटासेट इस्तेमाल करने के सकारात्मक प्रभाव को दिखाया और स्वास्थ्य सेवा में फेडरेटेड लर्निंग के अधिक व्यापक उपयोग की संभावना को रेखांकित किया।

यह अनुभव, हालांकि, कई चुनौतियों को उजागर करता है। इनमें सहयोगी साइटों भर में डेटा को समन्वयित करना, डेटा की खोजनीयता और स्रोत का पता लगाने की क्षमता और उचित चरित्रीकरण सुनिश्चित करना, साथ ही साथ प्रत्येक संस्थान के आईटी विभागों पर बोझ शामिल है, जिन्हें अपरिचित अत्याधुनिक तकनीकें सीखनी पड़ीं। इसके लिए एक नए मंच की आवश्यकता थी जो इन नए वितरित डेटा सहयोगों का समर्थन करेगा। मैंने अपने सह-संस्थापक, युवाल बारोर के साथ मिलकर एक अंत-से-अंत मंच बनाने का फैसला किया जो गोपनीयता-संरक्षण सहयोग का समर्थन करेगा। वह मंच राइनो हेल्थ प्लेटफ़ॉर्म है, जो एफएल और एज-कंप्यूट का लाभ उठाता है।

आप क्यों मानते हैं कि एआई मॉडल अक्सर स्वास्थ्य सेवा सेटिंग में अपेक्षित परिणाम प्रदान करने में विफल रहते हैं?

चिकित्सा कृत्रिम बुद्धिमत्ता अक्सर छोटे, संकीर्ण डेटासेट पर प्रशिक्षित होती है, जैसे कि एक संस्थान या भौगोलिक क्षेत्र से डेटासेट, जो परिणामस्वरूप मॉडल को केवल उन प्रकार के डेटा पर अच्छा प्रदर्शन करने का कारण बनता है जिसे उन्होंने देखा है। एक बार जब एल्गोरिदम को रोगियों या परिदृश्यों पर लागू किया जाता है जो संकीर्ण प्रशिक्षण डेटासेट से भिन्न होते हैं, तो प्रदर्शन गंभीर रूप से प्रभावित होता है।

एंड्रू एनजी, ने इस धारणा को अच्छी तरह से कब्जा कर लिया जब उन्होंने कहा, “यह पता चलता है कि जब हम स्टैनफोर्ड अस्पताल से डेटा इकट्ठा करते हैं … हम पेपर प्रकाशित कर सकते हैं जो दिखाते हैं [एल्गोरिदम] मानव रेडियोलॉजिस्ट की तुलना में कुछ स्थितियों का पता लगाने में तुलनीय हैं। … [जब] आप उसी मॉडल को लेते हैं, उसी एआई सिस्टम को एक पुराने अस्पताल में ले जाते हैं, एक पुरानी मशीन के साथ, और तकनीशियन एक थोड़ा अलग इमेजिंग प्रोटोकॉल का उपयोग करता है, तो डेटा के वितरण में बदलाव से AI प्रणाली का प्रदर्शन काफी गिर जाता है। “³

साधारण शब्दों में, अधिकांश एआई मॉडल पर्याप्त रूप से विविध और उच्च गुणवत्ता वाले डेटा पर प्रशिक्षित नहीं होते हैं, जिसके परिणामस्वरूप ‘वास्तविक दुनिया’ में खराब प्रदर्शन होता है। यह मुद्दा वैज्ञानिक और मुख्यधारा के सर्कल दोनों में अच्छी तरह से प्रलेखित किया गया है, जैसे कि Science और Politico में।

विविध रोगी समूहों पर परीक्षण कितना महत्वपूर्ण है?

विविध रोगी समूहों पर परीक्षण परिणामी एआई उत्पाद को प्रभावी और प्रदर्शनकारी होने के साथ-साथ सुरक्षित होने के लिए आवश्यक है। जिन एल्गोरिदम को पर्याप्त विविध रोगी समूहों पर प्रशिक्षित या परीक्षण नहीं किया जाता है, उनमें एल्गोरिदमिक पूर्वाग्रह का खतरा होता है, जो स्वास्थ्य सेवा और स्वास्थ्य प्रौद्योगिकी में एक गंभीर मुद्दा है। न केवल ऐसे एल्गोरिदम प्रशिक्षण डेटा में मौजूद पूर्वाग्रह को प्रतिबिंबित करेंगे, बल्कि उस पूर्वाग्रह को बढ़ाएंगे और मौजूदा स्वास्थ्य सेवा में नस्लीय, जातीय, धार्मिक, लिंग आदि असमानताओं को बढ़ावा देंगे। विविध रोगी समूहों पर परीक्षण में विफलता खतरनाक उत्पादों के परिणामस्वरूप हो सकती है।

हाल ही में प्रकाशित एक अध्ययन⁵ में, राइनो हेल्थ प्लेटफ़ॉर्म का लाभ उठाया गया, जिसने एक संस्थान में विकसित एक मस्तिष्क एन्यूरिज्म का पता लगाने वाले एआई एल्गोरिदम के प्रदर्शन की जांच की, जिसमें विभिन्न स्कैनर प्रकार के साथ चार अलग-अलग संस्थानों पर परीक्षण किया गया। परिणामों ने विभिन्न स्कैनर प्रकार वाली संस्थानों में महत्वपूर्ण प्रदर्शन परिवर्तनशीलता को प्रदर्शित किया, जो विविध डेटासेट पर प्रशिक्षण और परीक्षण के महत्व पर जोर दिया।

आप कैसे निर्धारित करते हैं कि किसी उप-जनसंख्या का प्रतिनिधित्व नहीं किया गया है?

एक सामान्य दृष्टिकोण विभिन्न डेटा सेटों में चर के वितरण का विश्लेषण करना है, व्यक्तिगत रूप से और संयुक्त रूप से। यह विकासकर्ताओं को दोनों ‘प्रशिक्षण’ डेटा सेट और सत्यापन डेटा सेट तैयार करते समय सूचित कर सकता है। राइनो हेल्थ प्लेटफ़ॉर्म आपको ऐसा करने की अनुमति देता है, और इसके अलावा, उपयोगकर्ता देख सकते हैं कि मॉडल विभिन्न समूहों पर कैसा प्रदर्शन करता है ताकि सामान्यीकरण क्षमता और लगातार अच्छे प्रदर्शन को सुनिश्चित किया जा सके।

आप फेडरेटेड लर्निंग को क्या परिभाषित करेंगे और यह कुछ मुद्दों को कैसे हल करता है?

फेडरेटेड लर्निंग (एफएल) को व्यापक रूप से एक प्रक्रिया के रूप में परिभाषित किया जा सकता है जिसमें कृत्रिम बुद्धिमत्ता मॉडल प्रशिक्षित होते हैं और फिर विभिन्न डेटा का उपयोग करके समय के साथ बेहतर होते रहते हैं, बिना डेटा को साझा या केंद्रीकृत किए। यह कृत्रिम बुद्धिमत्ता विकास में एक बड़ा कदम है। ऐतिहासिक रूप से, कोई भी उपयोगकर्ता जो कई साइटों के साथ सहयोग करना चाहता था, उसे डेटा को एक साथ पूल करना पड़ता था, जिससे कई कठिन, महंगे और समय लेने वाले कानूनी, जोखिम तथा अनुपालन संबंधी समस्याएँ पैदा होती थीं।

आज, राइनो हेल्थ प्लेटफ़ॉर्म जैसे सॉफ़्टवेयर के साथ, एफएल स्वास्थ्य सेवा और जीवन विज्ञान में दैनिक वास्तविकता बन रहा है। फेडरेटेड लर्निंग उपयोगकर्ताओं को डेटा की खोज, छँटाई और सत्यापन करने देता है, जबकि डेटा स्थानीय सर्वर पर रहता है। कंटेनरीकृत कोड, जैसे कि एक एआई/एमएल एल्गोरिदम या एक विश्लेषणात्मक अनुप्रयोग, स्थानीय सर्वर पर भेजा जाता है जहां कोड का निष्पादन, जैसे कि एआई/एमएल एल्गोरिदम का प्रशिक्षण या सत्यापन, स्थानीय रूप से किया जाता है। डेटा इस प्रकार डेटा के संरक्षक के साथ रहता है।

अस्पताल, विशेष रूप से, संवेदनशील रोगी डेटा को एकत्रित करने से जुड़े जोखिमों के बारे में चिंतित हैं। इससे पहले से ही ऐसे अपमानजनक स्थितियां हुई हैं जहां यह स्पष्ट हो गया है कि स्वास्थ्य सेवा संगठनों ने उद्योग के साथ सहयोग किया है बिना यह जाने कि उनके डेटा का उपयोग कैसे किया जा रहा है। इसके परिणामस्वरूप, वे उद्योग और शैक्षणिक शोधकर्ताओं द्वारा की जाने वाली सहयोग की मात्रा को सीमित करते हैं, जो स्वास्थ्य सेवा उद्योग में अनुसंधान और विकास को धीमा कर देता है और उत्पाद की गुणवत्ता को प्रभावित करता है। एफएल इसे कम कर सकता है और डेटा सहयोग को पहले की तरह कभी नहीं देखा जा सकता है, जबकि इन सहयोगों से जुड़े जोखिमों को नियंत्रित करता है।

राइनो हेल्थ की विविध डेटा का उपयोग करके तेजी से मॉडल निर्माण को सक्षम करने की दृष्टि साझा करें?

हम एक पारिस्थितिकी तंत्र की कल्पना करते हैं जिसमें एआई विकासकर्ता और उपयोगकर्ता सहयोग कर सकते हैं बिना किसी भय या प्रतिबंध के, जबकि वे नियमों की सीमाओं का सम्मान करते हैं। सहयोगकर्ता विभिन्न भौगोलिक क्षेत्रों से आवश्यक प्रशिक्षण और परीक्षण डेटा की पहचान करने में सक्षम हैं, उस डेटा तक पहुंच और बातचीत कर सकते हैं, और मॉडल विकास को बार-बार सुधार सकते हैं ताकि पर्याप्त सामान्यीकरण क्षमता, प्रदर्शन और सुरक्षा सुनिश्चित हो सके।

इसके केंद्र में राइनो हेल्थ प्लेटफ़ॉर्म है, जो एआई विकासकर्ताओं के लिए एक ‘वन-स्टॉप-शॉप’ प्रदान करता है ताकि वे विशाल और विविध डेटासेट का निर्माण कर सकें, एआई एल्गोरिदम को प्रशिक्षित और सत्यापित कर सकें, और निरंतर निगरानी और तैनात एआई उत्पादों को बनाए रख सकें।

राइनो हेल्थ प्लेटफ़ॉर्म एआई पूर्वाग्रह को कैसे रोकता है और AI की व्याख्येयता की पेशकश करता है?

डेटा सहयोग को अनलॉक और स्ट्रीमलाइन करके, एआई विकासकर्ता अपने अनुप्रयोगों के प्रशिक्षण और परीक्षण में बड़े और अधिक विविध डेटासेट का लाभ उठा सकते हैं। अधिक मजबूत डेटासेट के परिणामस्वरूप अधिक व्यापक परिस्थितियों में काम करने वाला उत्पाद होता है जो एक संस्थान या संकीर्ण डेटासेट के पूर्वाग्रह से ग्रस्त नहीं है। AI की व्याख्येयता के समर्थन में, हमारा प्लेटफ़ॉर्म विकास प्रक्रिया के दौरान उपयोग किए गए डेटा में एक स्पष्ट दृष्टिकोण प्रदान करता है, जिसमें डेटा मूल, मूल्यों के वितरण और अन्य प्रमुख मेट्रिक्स का विश्लेषण करने की क्षमता शामिल है ताकि पर्याप्त डेटा विविधता और गुणवत्ता सुनिश्चित की जा सके। इसके अलावा, हमारा प्लेटफ़ॉर्म उपयोगकर्ताओं को अपने डेटासेट को अतिरिक्त चर जैसे कि मौजूदा डेटा बिंदुओं से गणना किए गए चर के साथ बढ़ाने की अनुमति देता है, ताकि कारणात्मक निष्कर्षों का अध्ययन और भ्रमित करने वाले कारकों का प्रभाव कम किया जा सके। ये ऐसी सुविधाएँ हैं जो केवल डेटा एकत्र करने से संभव नहीं होतीं।

आप उन चिकित्सकों को कैसे जवाब देते हैं जो चिंतित हैं कि AI पर अत्यधिक निर्भरता पूर्वाग्रहित परिणामों की ओर ले जा सकती है जो स्वतंत्र रूप से सत्यापित नहीं हैं?

हम इस चिंता के साथ सहानुभूति रखते हैं और मानते हैं कि बाजार में कई अनुप्रयोग वास्तव में पूर्वाग्रहित हो सकते हैं। हमारा जवाब है कि हमें एक उद्योग के रूप में मिलकर काम करना चाहिए, एक स्वास्थ्य सेवा समुदाय के रूप में जो पहले और सबसे महत्वपूर्ण रूप से रोगी सुरक्षा के साथ चिंतित है, ताकि हम ऐसे पूर्वाग्रहों को रोकने और सुरक्षित, प्रभावी एआई अनुप्रयोगों को सुनिश्चित करने के लिए नीतियों और प्रक्रियाओं को परिभाषित कर सकें। एआई विकासकर्ताओं को यह सुनिश्चित करने की जिम्मेदारी है कि उनके विपणन किए गए उत्पाद स्वतंत्र रूप से सत्यापित हों, ताकि स्वास्थ्य पेशेवरों और मरीजों का विश्वास मिले। राइनो हेल्थ सुरक्षित और विश्वसनीय एआई उत्पादों को समर्थन देने के लिए समर्पित है और नैदानिक सेटिंग्स में तैनाती से पहले एआई अनुप्रयोगों के स्वतंत्र सत्यापन को सक्षम और सुविधाजनक बनाने के लिए आवश्यक सत्यापन डेटा तक पहुँच की बाधाएँ दूर करके भागीदारों के साथ काम कर रहा है।

स्वास्थ्य सेवा में एआई के भविष्य के लिए आपकी दृष्टि क्या है?

राइनो हेल्थ की दृष्टि एक ऐसी दुनिया की है जहां एआई ने स्वास्थ्य सेवा में अपनी पूरी क्षमता हासिल कर ली है। हम पारदर्शिता बनाने और सहयोग को बढ़ावा देने के लिए गोपनीयता को प्राथमिकता देने के लिए काम कर रहे हैं ताकि यह दुनिया संभव हो सके। हम स्वास्थ्य सेवा में एआई की कल्पना करते हैं जो फायरवॉल, भौगोलिक सीमाओं या नियामक प्रतिबंधों से सीमित नहीं है। एआई विकासकर्ता उन सभी डेटा तक नियंत्रित पहुंच प्राप्त करेंगे जिनकी उन्हें शक्तिशाली और सामान्यीकरण कर सकने वाले मॉडल बनाने की आवश्यकता है, और वे उन्हें वास्तविक समय में निरंतर मॉनिटर और सुधार करने में सक्षम होंगे। प्रदाता और रोगी यह जानकर आश्वस्त रहेंगे कि वे अपने डेटा पर नियंत्रण खो नहीं रहे हैं और यह सुनिश्चित कर रहे हैं कि इसका उपयोग अच्छे के लिए किया जा रहा है। नियामक दवाओं और उपकरणों के विकास में उपयोग होने वाले मॉडलों की प्रभावशीलता की वास्तविक समय में निगरानी कर सकेंगे। सार्वजनिक स्वास्थ्य संगठन एआई में प्रगति से लाभान्वित होंगे जबकि रोगी और प्रदाता यह जानकर आराम करेंगे कि गोपनीयता संरक्षित है।

धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें राइनो हेल्थ पर जाना चाहिए।