जुज़ाना स्टामिरोव्स्का, पाथवे के सह-संस्थापक और सीईओ – साक्षात्कार श्रृंखला

जुज़ाना स्टामिरोव्स्का, पाथवे के सह-संस्थापक और सीईओ, एक शोधकर्ता हैं जो पहले उभरते घटनाओं और बड़े पैमाने पर नेटवर्क विकास पर काम करते थे। उनके परियोजनाओं को यूएस नेशनल एकेडमी ऑफ साइंसेज द्वारा मान्यता प्राप्त थी, और उन्हें जटिल प्रणालियों में पीएचडी है। जुज़ाना के साथ-साथ सीटीओ जान चोरोव्स्की और सीएसओ एड्रियन कोसोव्स्की एक टीम का नेतृत्व करते हैं जिसने पहले से ही 62,000 से अधिक सितारों के साथ गिटहब पर खुले एआई टूल्स बनाए हैं।

पाथवे एआई मॉडल को फिर से कल्पना कर रहा है ताकि वे निरंतर और अनुकूलनशील रूप से काम करें, न कि बैच में। पीछे की ओर, इसके टूलिंग और आर्किटेक्चर मॉडल को वास्तविक समय में प्रसंस्करण, सीखने और विकास करने की अनुमति देते हैं। कंपनी ने लुकास्ज़ कैसर (ट्रांसफॉर्मर के सह-आविष्कारक) और प्रमुख वेंचर फ़र्म जैसे प्रमुख लोगों से समर्थन प्राप्त किया है।

आपको पाथवे लॉन्च करने के लिए क्या प्रेरित किया, और आपकी जटिल प्रणालियों, गेम थ्योरी और उभरते घटनाओं की पृष्ठभूमि ने कंपनी के दृष्टिकोण और तकनीकी दिशा को कैसे आकार दिया?

हमने मानवों की तरह सोचने और अनुकूलन करने वाले एआई बनाने की कोशिश की। हमें एहसास हुआ कि इसका मतलब है कि एआई प्रणालियों (गहरे शिक्षण मॉडल, या बड़ी संख्या में ईंटों से निर्मित मशीन लर्निंग पाइपलाइन) जो निरंतर आधार पर डेटा से सीखने में सक्षम होंगे, अनुभव के साथ बेहतर होंगे, और कभी-कभी अपने पिछले विश्व के दृष्टिकोण को “सुधार” करेंगे। हमने वास्तव में “मशीन अनलर्निंग” विषय पर काफी कवरेज प्राप्त किया। मॉडल के अलावा, ऐसी प्रणालियों को पूरे इंजीनियरिंग की एक पूरी परत की आवश्यकता थी, ताकि डेटा को स्रोत पर कब्जा कर लिया जा सके और इसे तुरंत गतिशील प्रणालियों में खिलाया जा सके।

जटिल नेटवर्क में उत्पन्न होने पर मैंने कई परिकल्पनाओं का विकास किया, जिन्हें हमने बीडीएच में सीधे या लगभग सीधे लागू किया। मजाकिया बात यह है कि मैंने अपने सहयोगियों (एड्रियन, सीएसओ, और जान, सीटीओ) के साथ कुछ दांव लगाए और मैंने कुछ बोतलें जीतीं जो वास्तव में अच्छी कॉग्नेक थीं। पहले, हमने माना कि प्राकृतिक बुद्धिमत्ता मस्तिष्क में न्यूरॉन्स और सिनैप्स की उत्पन्न संरचना और क्रिया का परिणाम है (यह स्पष्ट है, कोई दांव नहीं)। दूसरा, मेरे पिछले शोध से, मुझे पता था कि सामान्य रूप से, कार्य नेटवर्क को आकार देता है (मैंने इस दांव जीता)। पिछले काम में, मैंने इसका पता लगाया था कि व्यापार के लिए, और तंत्रिका विज्ञानियों ने चूहों आदि में तंत्रिकाओं और इंद्रियों के लिए इसका अध्ययन किया था। तीसरा, यह तथ्य था कि इस नेटवर्क संरचना को आकार देना कुछ बहुत स्थानीय नियमों का पालन करना चाहिए जो इतने कहे जाने वाले “पड़ोस” से जुड़े हुए हैं (इस मामले में एक नोड एक न्यूरॉन है) (मैंने इस दांव जीता)। अन्य बिट्स कण इंटरैक्शन प्रणालियों से आए – जैसे कि चुंबकत्व – जहां कण बाहरी क्षेत्र के लिए अपने स्पिन को समायोजित करते हैं और कुछ प्रकार का “स्पॉन्टेनियस ऑर्डर” बनाते हैं। यह वह गणित था जिसका मैं ग्राफ़ पर गेम थ्योरी पर काम करते समय उपयोग करता था।

जब आपने 2020 में कंपनी शुरू की, तो आपके शुरुआती अनुमान क्या थे कि भविष्य के एआई प्रणालियों को अलग तरह से क्या करना चाहिए, और वे दृष्टिकोण कैसे विकसित हुए हैं?

हमारे पास शुरू से ही एक मजबूत conviction थी कि एआई को जीवित, अनुकूलनशील और बड़े पैमाने पर प्रक्रियाओं में एकीकृत होना चाहिए। यह स्रोत से सीधे सीखना चाहिए, जितना संभव हो उतना कच्चा डेटा हो।

पहले हमने यह अधिक पारंपरिक मशीन लर्निंग दृष्टिकोण के लिए किया, और साथ ही हमने ऐसी प्रणालियों को वास्तविक दुनिया में आसानी से तैनात करने की अनुमति देने वाले इंजीनियरिंग की परतें बनाईं। अब, हमने इस दृष्टिकोण को गहरे शिक्षण में लाया है।
हमें पता था कि समय और संरचना (नेटवर्क) के तत्व एआई की प्रगति के लिए महत्वपूर्ण होंगे। हमने 2020 के अपने संस्थापक दस्तावेजों में इसे लिखा है।

आप “पोस्ट-ट्रांसफॉर्मर” आर्किटेक्चर के बारे में हमें बता सकते हैं जिसे आप पेश कर रहे हैं और यह वर्तमान ट्रांसफॉर्मर-आधारित प्रणालियों से कैसे अलग है?

हमारा नया आर्किटेक्चर, जिसे बेबी ड्रैगन हैचलिंग (बीडीएच) कहा जाता है,正式 रूप से बताता है कि ट्रांसफॉर्मर कैसे जानकारी संसाधित करते हैं और मस्तिष्क में तर्क कैसे उत्पन्न होता है।
बीडीएच एक भौतिक प्रणाली की तरह व्यवहार करता है: एक मस्तिष्क जैसा कंप्यूटिंग मॉडल जिसमें न्यूरॉन्स एक साथ मिलकर अगले, सबसे प्रासंगिक तथ्य की खोज करते हैं। संदर्भ तर्क ट्रांसफॉर्मर की तय संदर्भ लंबाई जैसी इंजीनियरिंग सीमाओं से सीमित नहीं है, बल्कि मॉडल के न्यूरॉन्स की संख्या के साथ स्केल करता है।

इसे अधिक तकनीकी शब्दों में, ट्रांसफॉर्मर के विपरीत, बीडीएच में हमारे पास रैखिक ध्यान, दुर्लभ कुंजी-प्रश्न वेक्टर और संदर्भ विंडो के आकार पर कोई सीमा नहीं है।

यह दृष्टिकोण उन प्रणालियों के लिए दरवाजा खोलता है जो प्रदर्शन करते समय सीखते हैं, लंबी तर्क श्रृंखला बनाए रखते हैं और संदर्भ में निरंतर अनुकूलन करते हैं।

प्रणाली की एक मुख्य विशेषता स्थानीयता है: महत्वपूर्ण डेटा उन साइटों के बगल में स्थित है जहां यह संसाधित किया जा रहा है। यह संचार को कम करता है और तर्क मॉडल के लिए सबसे दर्दनाक बोतलनेक को समाप्त करता है: मेमोरी-टू-कोर बैंडविड्थ।

आपका दृष्टिकोण मानव तर्क से कैसे प्रेरित है, विशेष रूप से अनुकूलन और निरंतर सीखने की अनुमति देने में?

बीडीएच प्राकृतिक बुद्धिमत्ता और प्राकृतिक बुद्धिमत्ता को करीब लाता है।

यह आर्किटेक्चर मस्तिष्क में न्यूरॉन्स और सिनैप्स के काम करने के तरीके से प्रेरित है। यह जैविक ध्यान तंत्र को मशीन लर्निंग में ध्यान की गणनात्मक धारणा से जोड़ता है, ट्रांसफॉर्मर और मस्तिष्क के बीच एक मापनीय पुल बनाता है।

बीडीएच ध्यान को मॉडल पैरामीटर के करीब लाता है, उन्हें एक ही मस्तिष्क जैसी प्रणाली गतिविधि के दो प्रतिबिंब के रूप में प्रस्तुत करता है, ध्यान तर्क के दौरान नए तथ्यों के प्रकट होने पर तेजी से बदलता है, और मॉडल पैरामीटर धीमी गति से बदलते हैं क्योंकि प्रणाली अपनी लंबी अवधि की आदतों को बदलती है। यह मस्तिष्क में तर्क के काम करने के तरीके के करीब है।

हम बीडीएच को मानव तर्क से जुड़ी विशेषताओं जैसे मध्य-कार्य में तर्क, अनुभव के साथ सुधार और पुनः प्रशिक्षण के बिना अनुकूलन के साथ एआई प्रणालियों के डिजाइन की ओर एक मील का पत्थर के रूप में देखते हैं।

एआई में एक चुनौती स्थिरता के साथ अनुकूलन को संतुलित करना है – आप कैसे सुनिश्चित करते हैं कि प्रणालियां वास्तविक समय में सीख सकती हैं बिना पिछले ज्ञान को खोए?

बीडीएच अपनी स्केल-फ्री संरचना और स्थानीयकृत न्यूरॉन राज्यों पर भरोसा करता है ताकि लंबे समय तक तर्क बनाए रखा जा सके, स्थिरता और नए ज्ञान और अवलोकनों को एकीकृत करने की क्षमता के बीच संतुलन बना सके। यह प्राकृतिक स्वास्थ्य संतुलन मॉडल के जीवनकाल में निकालने और इसका पालन करने में आसान है।

बीडीएच के साथ हम तर्क को बुद्धिमत्ता का कोने का पत्थर बना रहे हैं। वर्तमान काम के साथ, हम बड़े भाषा मॉडल में ज्ञान की भूमिका के बारे में एक परिकल्पना पर प्रगति करते हैं: यह इतना नहीं है कि क्या “सच” है, बल्कि क्या एक दिए गए संदर्भ में एक दिए गए तर्क श्रृंखला में “उपयोगी” है। उदाहरण के लिए, यदि ज्ञान संदर्भित किया जाता है, तो अचानक हमारे दुनिया प्रकृति के नियमों का पालन करने और हमें एक लोककथा के अस्तित्व को स्वीकार करने के बीच कोई विरोधाभास नहीं है जो परियों और जादू को स्वीकार करता है। उसी तरह, एक मॉडल के लिए कई अलग-अलग पूर्वानुमान гипотезों पर विचार करना संभव है, जिसमें अधिक और कम आशावादी धारणाएं हैं, एक ही सोच में।

बीडीएच पर आधारित मॉडल अपने जीवनकाल में संदर्भित तरीके से नए तथ्य प्राप्त करते हैं। वे स्वयं-सुधार कर सकते हैं क्योंकि इसके लिए। न्यूरॉन गतिविधि के आंकड़ों और संदर्भ से मॉडल पैरामीटर में ज्ञान हस्तांतरण पर विस्तृत नियंत्रण को प्रस्तुत करके, वास्तुकला “पुराने” संदर्भों के अनुचित क्षण में पुनः प्रकट होने के जोखिम को कम करने में मदद करती है।

इन क्षमताओं को बड़े पैमाने पर बनाए रखने में इंजीनियरिंग व्यापार क्या हैं?

पाथवे की उद्यम पेशकश बाजार में सबसे तेज़ डेटा प्रसंस्करण इंजन पर निर्भर करती है। यह इंजन हमारी वास्तविक समय इनपुट को संभालने और नए जानकारी के लिए कम विलंबता के साथ प्रतिक्रिया करने की क्षमता को आधार बनाता है। बीडीएच के साथ वर्तमान सफलता के साथ, हम यह सुनिश्चित करते हैं कि यह वास्तविक समय अनुकूलन मूल रूप से उपयोग में लाई गई एआई मॉडल तक बढ़ जाता है। बड़े पैमाने पर तैनाती के लिए हमारा सर्वोपरि लक्ष्य स्थिर अनुकूलन से दूर जाना है और लंबे क्षितिज के तर्क को संभालने में सक्षम बुनियादी ढांचे का निर्माण करना है।

वास्तव में इस अगले चरण के एआई की मांग करने वाले सबसे प्रेरक उपयोग मामले क्या हैं, और वर्तमान ट्रांसफॉर्मर-आधारित प्रणालियां कहां कम पड़ती हैं?

जेनरेटिव एआई को जल्दी से नए जानकारी के अनुकूल और ‘कार्य पर समय’ पर गहराई से निर्भर करने के लिए कई नवाचारों ने इसकी कार्यक्षमता का विस्तार किया है, लेकिन अभी तक कुछ भी एक अत्यधिक प्रतिभाशाली व्यक्ति को नियुक्त करने की जगह नहीं ले सकता है।

तेजी से और सीधा उत्तर यह है कि हम उन कार्यों के बारे में बात कर रहे हैं जिनमें वर्तमान में मानव विशेषज्ञ से 2 घंटे और 17 मिनट का सुसंगत काम की आवश्यकता होती है। यह जीपीटी 5 की सीमा है मीटर के अनुसार।

हमने उद्यम में डिज़ाइन भागीदारों के साथ बहुत अच्छी चर्चा की है जिन्हें गहरे व्यक्तिगतकरण, नौकरी से सीखने वाले मॉडल, और तैनाती की सुरक्षा की आवश्यकता है।

बीडीएच यह एक उद्यम के लिए अपेक्षाकृत सीधा बनाता है जो जटिल प्रक्रियाओं जैसे कि:

• एक सार्वजनिक कंपनी के लिए एक तिमाही बंद करना
• उच्च जोखिम वाले वातावरण में अगले सर्वोत्तम कार्रवाई के निर्देशों का गतिशील रूप से उत्पन्न करना बिक्री और रक्षा दोनों में बहुत प्रासंगिक है।
• निवेश प्रबंधन

नाटो पहले से ही पाथवे की प्रौद्योगिकी का उपयोग सैन्य और सामाजिक डेटा को संसाधित करने के लिए कर रहा है, जो योजना प्रणालियों को सक्षम बनाता है जो स्थितियों के विकसित होने के साथ अनुकूलन करते हैं। ला पोस्टे पाथवे के लाइव एआई का उपयोग करके अपने संचालन को वास्तविक समय में गतिशील रूप से प्रबंधित कर रहा है। वित्त और स्वास्थ्य सेवा जैसे उद्योग, जहां डेटा दुर्लभ या संवेदनशील है, मॉडल से लाभान्वित हो सकते हैं जिन्हें कम डेटा की आवश्यकता होती है लेकिन गहरे अंतर्दृष्टि और अधिक विश्वसनीय निर्णय प्रदान करते हैं।

क्या आप बता सकते हैं कि नाटो, ला पोस्टे, या फॉर्मूला 1 जैसे संगठनों ने आपकी प्रौद्योगिकी का कैसे उपयोग किया है और इसका क्या प्रभाव पड़ा है?

नाटो, ला पोस्टे, और फॉर्मूला 1 टीम पाथवे प्रौद्योगिकी के शुरुआती अपनाने वाले हैं।

पाथवे नाटो को खुले स्रोत डेटा को जोड़ने के लिए मजबूत और नवीन डेटा प्रसंस्करण प्रौद्योगिकी प्रदान करता है। हमारे कार्यात्मक प्रदर्शक, रीनफोर्समेंट एनेबलमेंट सिमुलेशन टूल (आरईएसटी), के साथ, हमने नाटो के लिए एआई-समर्थित समाधानों के आगे विकास के लिए एक आधार बनाया। नाटो के लिए 2020 के दशक में सफलतापूर्वक संचालित करने के लिए आवश्यक स्तर पर स्थिति जागरूकता को बढ़ाने के लिए पाथवे का उपयोग करके खुले स्रोत डेटा को जोड़ने से गति मिली।

ला पोस्टे पाथवे फ्रेमवर्क का उपयोग अपनी परिवहन इकाइयों से संबंधित प्रक्रियाओं में सुधार के लिए करता है। पाथवे के साथ, ला पोस्टे अपने संचालन को वास्तविक समय में स्वचालित रूप से अनुमानित करता है और अपने परिवहन संचालन का लाइव गुणात्मक विश्लेषण उत्पन्न करता है। पाथवे के साथ, कंपनी अपने लॉजिस्टिक्स को गतिशील रूप से अनुकूलित करने में सक्षम रही है, ईटीए, प्रोसेसिंग समय/लीड समय को कम किया है, और विश्वसनीयता बढ़ाई है। इसके अलावा, उन्होंने संचालन लागत में महत्वपूर्ण कमी (कुछ मामलों में 50% कमी टीसीओ) हासिल की है।

फॉर्मूला 1 रेसिंग टीम पाथवे का उपयोग उच्च दबाव वाली वास्तविक समय स्थितियों में रणनीति को अनुकूलित करने के लिए करती है। कंपनी ने एक मंच बनाने की मांग की थी जिस पर अंतिम उपयोगकर्ता स्वतंत्र रूप से यूजर-डिफाइंड फंक्शन (यूडीएफ) बना सकें, और ई-स्पोर्ट्स/सिम-रेसिंग से लेकर कार और फॉर्मूला रेसिंग तक विभिन्न व्यवसायिक आवश्यकताओं को खिलाएं। पाथवे का लाइव डेटा फ्रेमवर्क उन्नत डेटा परिवर्तनों को फॉर्मूला 1 रेसिंग टीम में सबसे कम विलंबता (90 गुना तेजी से प्रसंस्करण गति) पर सक्षम बनाता है।

स्वास्थ्य सेवा या रक्षा जैसे उद्योगों में अनुकूलन प्रणालियों को तैनात करने में सबसे बड़ी बाधाएं क्या हैं, और आप उन्हें कैसे संबोधित करते हैं?

डिजाइन द्वारा, वर्तमान एलएलएम कंटेंट उत्पन्न करते हैं जो “नया” है बिना वास्तविक निर्णय लिए – इसे ‘जेन’ जेन एआई कहें। कई उच्च नियंत्रित उद्योगों को परिभाषा द्वारा शासन की आवश्यकता होती है, और वे अक्सर एआई-संचालित व्यवसाय प्रक्रियाओं को तैनात करने से हिचकिचाते हैं जिनमें पुनरावृत्ति, विश्वास, और अवलोकनीयता नहीं है। विडंबना यह है कि एआई तैनात करने के लिए, ये उद्यम अक्सर कार्यक्षमता को “मूर्ख” बनाने और अनुपालन के लिए अतिरिक्त जटिलता पेश करने के लिए जाते हैं।

डिजाइन द्वारा, बीडीएच एक उद्यम को मॉडल के अंदर क्या हो रहा है यह देखने और अनुकूलन करने में सक्षम बनाता है। यह दीर्घकालिक ‘तर्क’ की अवलोकनीयता उद्यम को लंबे समय तक, अधिक जटिल व्यवसाय प्रक्रियाओं को संभालने में विश्वास दिलाती है। बीडीएच डिजाइन द्वारा दोनों अवलोकनीय और व्यवसाय-प्रक्रिया जागरूक है। कोई आवश्यकता नहीं है सीखने के लिए एकदम सही और विशाल डेटा सेट की, कोई आवश्यकता नहीं है अवलोकनीयता के लिए अत्यधिक लंबे संदर्भ विंडो या गोंद तर्क की।

एआई प्रणालियों के वास्तविक समय में सीखने और अनुकूलन करने के रूप में कौन से नैतिक विचार या सुरक्षा उपाय आवश्यक हैं?

वास्तव में अनुभव के साथ सीखने वाली प्रणालियों में सुरक्षा के बेहतर मौके होते हैं niż वर्तमान ट्रांसफॉर्मर-आधारित लोग। एक तत्व यह है कि निरंतर सीखने के साथ वे अपने पूर्वाग्रहों को स्वयं-सुधार और अद्यतन करने का मौका है।

इन प्रणालियों की सुरक्षा सुनिश्चित करने के लिए, उन्हें समय के साथ प्रतिक्रिया मिलनी चाहिए। जिसका अर्थ है कि हमें उन्हें ताज़ा डेटा खिलाना जारी रखना होगा, और संभावित रूप से यह सुनिश्चित करना होगा कि उन्हें अपने स्वयं के कार्य के प्रभावों को समझने के लिए प्रतिक्रिया लूप मिलें। यह रीनफोर्समेंट लर्निंग के करीब है।

दूसरा, बीडीएच पर आधारित मॉडल व्याख्या की पेशकश करता है जो मानवों को उन पर बेहतर नियंत्रण देता है।

एक “पोस्ट-ट्रांसफॉर्मर” परिदृश्य के लिए एआई समुदाय भर में मुख्यधारा बनने के लिए क्या आवश्यक होगा?

एक मॉडल जो बाजार में है जो अत्यधिक उपयोगी है और जिसमें अनुमान की लागत काफी कम है और तेजी से है। हम मानते हैं कि उद्यम में एक बाजार जीत हासिल करने के लिए है।

धन्यवाद महान साक्षात्कार के लिए, पाठक जो और जानना चाहते हैं उन्हें पाथवे पर जाना चाहिए।