बड़े भाषा मॉडल (एलएलएम) को वास्तविक दुनिया के व्यवसायिक अनुप्रयोगों में ले जाना

बड़े भाषा मॉडल हर जगह हैं। प्रत्येक ग्राहक बातचीत या वीसी पिच में एलएलएम तकनीक कितनी तैयार है और यह भविष्य के अनुप्रयोगों को कैसे चलाएगी, इसके बारे में प्रश्न शामिल हैं। मैंने इस पर कुछ पैटर्न अपने पिछले पोस्ट में कवर किया है। यहां मैं फार्मा उद्योग में एक अनुप्रयोग के लिए कुछ वास्तविक दुनिया के पैटर्न के बारे में बात करूंगा जिस पर परसिस्टेंट सिस्टम्स ने काम किया है।

बड़े भाषा मॉडल और मुख्य ताकत

एलएलएम भाषा को समझने में अच्छे हैं, यह उनकी ताकत है। हम जो सबसे आम पैटर्न देख रहे हैं वह रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी) है, जहां ज्ञान को बाहरी स्रोतों से संकलित किया जाता है और एलएलएम को एक प्रॉम्प्ट के रूप में प्रदान किया जाता है ताकि यह एक प्रतिक्रिया को फिर से लिख सके। इस मामले में, सुपर-फास्ट सर्च मैकेनिज्म जैसे वेक्टर डेटाबेस और एलास्टिकसर्च-आधारित इंजन पहली पंक्ति के रूप में कार्य करते हैं। फिर सर्च परिणामों को एक प्रॉम्प्ट में संकलित किया जाता है और एलएलएम को मुख्य रूप से एक एपीआई कॉल के रूप में भेजा जाता है।

एक अन्य पैटर्न है संरचित डेटा पर एक प्रश्न उत्पन्न करना एलएलएम को एक डेटा मॉडल के रूप में प्रॉम्प्ट देकर और एक विशिष्ट उपयोगकर्ता प्रश्न देकर। इस पैटर्न का उपयोग एसक्यूएल डेटाबेस जैसे स्नोफ्लेक और ग्राफ डेटाबेस जैसे नियो4जे के लिए एक उन्नत “अपने डेटा से बात करें” इंटरफ़ेस विकसित करने के लिए किया जा सकता है।

वास्तविक दुनिया के अंतर्दृष्टि के लिए एलएलएम पैटर्न का लाभ उठाना

परसिस्टेंट सिस्टम्स ने हाल ही में ब्लास्ट मोशन के लिए एक पैटर्न की जांच की, एक खेल टेलीमेट्री कंपनी (बेसबॉल, गोल्फ आदि के लिए स्विंग विश्लेषण), जहां हमने खिलाड़ियों के सारांश के समय श्रृंखला डेटा का विश्लेषण किया ताकि सिफारिशें प्राप्त की जा सकें।

अधिक जटिल अनुप्रयोगों के लिए, हमें अक्सर एलएलएम अनुरोधों को बीच में प्रसंस्करण के साथ श्रृंखला बनाने की आवश्यकता होती है। एक फार्मा कंपनी के लिए, हमने एक स्मार्ट ट्रायल्स ऐप विकसित किया जो नैदानिक परीक्षण दस्तावेज से निकाले गए मानदंडों के आधार पर नैदानिक परीक्षणों के लिए रोगियों को फिल्टर करता है। यहां हमने एलएलएम श्रृंखला दृष्टिकोण का उपयोग किया। सबसे पहले हमने एक एलएलएम विकसित किया जो परीक्षण पीडीएफ दस्तावेज पढ़ सकता है और आरएजी पैटर्न का उपयोग करके समावेशन और बहिष्करण मानदंड निकाल सकता है।

इसके लिए, एक अपेक्षाकृत सरल एलएलएम जैसे जीपीटी-3.5-टर्बो (चैटजीपीटी) का उपयोग किया गया था। फिर हमने इन निकाले गए इकाइयों को स्नोफ्लेक में रोगियों के एसक्यूएल डेटाबेस के डेटा मॉडल के साथ जोड़कर एक प्रॉम्प्ट बनाया। यह प्रॉम्प्ट एक अधिक शक्तिशाली एलएलएम जैसे जीपीटी4 को खिलाया जाता है, जो स्नोफ्लेक पर चलने के लिए तैयार एसक्यूएल प्रश्न देता है। चूंकि हम एलएलएम श्रृंखला का उपयोग करते हैं, हम प्रत्येक श्रृंखला के चरण के लिए कई एलएलएम का उपयोग कर सकते हैं, जिससे हम लागत को प्रबंधित कर सकते हैं।

अधिक उन्नत उपयोग के मामलों को शक्ति प्रदान करना

एक अधिक उन्नत मामले के लिए, हम एजेंट जैसे रिएक्ट का उपयोग कर सकते हैं ताकि एलएलएम को एक विशिष्ट उपयोगकर्ता प्रश्न के लिए चरण-दर-चरण निर्देश बनाने के लिए प्रॉम्प्ट किया जा सके। इसके लिए जीपीटी4 या कोहेरे या क्लाउड 2 जैसे उच्च-अंत एलएलएम की आवश्यकता होगी। हालांकि, फिर मॉडल को एक गलत कदम उठाने का जोखिम होगा जिसे गार्डरेल का उपयोग करके सत्यापित करने की आवश्यकता होगी। यह श्रृंखला के नियंत्रित लिंक में बुद्धिमत्ता को स्थानांतरित करने या पूरी श्रृंखला को स्वायत्त बनाने के बीच एक व्यापार है।

आज, जैसे ही हम जनरेटिव एआई के युग की ओर बढ़ रहे हैं, उद्योग एलएलएम अनुप्रयोगों को अपना रहा है जो पूर्वानुमानित श्रृंखला के साथ आते हैं। जैसे ही यह अपनाना बढ़ता है, हम जल्द ही इन श्रृंखलाओं के लिए एजेंटों के माध्यम से अधिक स्वायत्तता के साथ प्रयोग करना शुरू कर देंगे। यही एजीआई पर बहस का विषय है और हम देखने के लिए उत्सुक हैं कि यह सब समय के साथ कैसे विकसित होता है।