Backboard.io ने कुशलता, उद्यम नियंत्रण और संप्रभु तैनाती पर केंद्रित एआई इंफ्रास्ट्रक्चर स्टैक लॉन्च किया

कृत्रिम बुद्धिमत्ता को अपनाने के लिए संगठनों की दौड़ में, बातचीत बढ़ती हुई रॉ मॉडल प्रदर्शन से एक अधिक व्यावहारिक प्रश्न में बदल गई है: कैसे उद्यमों को कम लागत पर एआई चलाने के साथ-साथ अपने डेटा पर नियंत्रण बनाए रखना है? ऑटावा स्थित Backboard.io मानता है कि उत्तर बड़े जीपीयू क्लस्टर में नहीं है, बल्कि मौजूदा एआई इंफ्रास्ट्रक्चर को काफी अधिक कुशल बनाने में।

कैनेडा दिवस पर, कंपनी ने मॉडल संपीड़न, एआई-सहायता प्रोग्राम विकास, मल्टी-मॉडल एआई एक्सेस, और लंबी अवधि की एआई मेमोरी सहित चार प्रमुख प्रौद्योगिकियों की घोषणा की। जबकि घोषणा कंपनी की कनाडाई जड़ों पर प्रकाश डालती है, व्यापक कहानी उन उद्यमों के लिए बुनियादी ढांचे के बारे में है जो एआई लागत को कम करना चाहते हैं और संवेदनशील कार्यभार को अपने स्वयं के वातावरण में रखना चाहते हैं।

मौजूदा जीपीयू को आगे बढ़ाना

शायद सबसे तकनीकी रूप से महत्वपूर्ण घोषणा BackboardQuant (BBQ) है, एक मॉडल संपीड़न प्रौद्योगिकी जो कंपनी का दावा है कि एआई मॉडल के आकार को 70% तक कम कर सकती है जबकि लगभग समान आउटपुट गुणवत्ता बनाए रख सकती है।

मॉडल संपीड़न एआई अनुसंधान का एक बढ़ता हुआ क्षेत्र बन गया है क्योंकि संगठन अनुमान की बढ़ती लागत से जूझ रहे हैं। छोटे मॉडल कम मेमोरी की खपत करते हैं, कम हार्डवेयर संसाधनों की आवश्यकता होती है, और अक्सर तेजी से निष्पादित कर सकते हैं, जिससे संगठनों को उन्नत मॉडल को तैनात करने की अनुमति मिलती है बिना लगातार जीपीयू क्षमता का विस्तार किए।

Backboard.io के अनुसार, आंतरिक परीक्षण से पता चलता है कि बीबीक्यू 2.7x तेज़ अनुमान दे सकता है, प्रभावी रूप से एक जीपीयू को एक ही काम करने की अनुमति देता है जो अन्यथा कई त्वरक की आवश्यकता हो सकती है। मौजूदा फाउंडेशन मॉडल को बदलने के बजाय, प्रौद्योगिकी को उत्पादन तैनाती के लिए उन्हें अनुकूलित करने के लिए डिज़ाइन किया गया है।

एआई-सहायता प्रोग्राम विकास में प्रतिस्पर्धा

कंपनी ने Backboard Studio भी पेश किया, एक एआई कोडिंग प्लेटफ़ॉर्म जो आज के सबसे प्रतिस्पर्धी एआई बाज़ारों में से एक पर लक्षित है।

अपने स्वयं के फ्रंटियर भाषा मॉडल विकसित करने के बजाय, Backboard एक अलग वास्तुकला दृष्टिकोण लेता है। प्लेटफ़ॉर्म मौजूदा मॉडल के शीर्ष पर बैठता है, जबकि ऑर्केस्ट्रेशन, संदर्भ प्रबंधन, पुनरावृत्ति कार्य प्रवाह, और टोकन अनुकूलन के माध्यम से कुशलता में सुधार करने का प्रयास करता है। डेवलपर्स अग्रणी व्यावसायिक मॉडल या ओपन-सोर्स विकल्पों में से चुन सकते हैं, जबकि प्लेटफ़ॉर्म परियोजना संदर्भ, कार्य प्रवाह निष्पादन, और उत्पादन-उन्मुख कोड जनरेशन का प्रबंधन करता है।

Backboard दावा करता है कि प्लेटफ़ॉर्म बेंचमार्क परिणाम हासिल करता है जो अग्रणी कोडिंग सहायकों को पार करता है, जबकि टोकन उपयोग को 30% तक कम कर देता है, एक बढ़ती महत्वपूर्ण विचार के रूप में उद्यमों को एआई परिचालन लागत का प्रबंधन करने की कोशिश कर रहे हैं।

कंपनी उद्यम तैनाती लचीलेपन पर भी जोर देती है। Backboard Studio या तो एक क्लाउड सेवा के रूप में या एक संगठन के अपने बुनियादी ढांचे के भीतर काम कर सकता है, जिससे प्रोप्राइटरी सोर्स कोड को तीसरे पक्ष के एआई प्रदाताओं को प्रसारित किए बिना कॉर्पोरेट वातावरण के भीतर रहने दिया जा सकता है।

नैश हज़ारों एआई मॉडल को एकजुट करता है

घोषणा का एक तीसरा घटक नैश है, एक एकीकृत चैट एप्लिकेशन जो एक ही इंटरफ़ेस के माध्यम से हज़ारों पाठ और छवि एआई मॉडल तक पहुंच प्रदान करता है।

यह अवधारणा एक बढ़ती उद्यम चिंता को संबोधित करती है जिसे “शैडो एआई” के रूप में जाना जाता है, जहां कर्मचारी स्वीकृत कॉर्पोरेट प्रणालियों के बाहर उपभोक्ता एआई टूल को स्वतंत्र रूप से अपनाते हैं। Backboard नैश को एक केंद्रीकृत प्लेटफ़ॉर्म के रूप में स्थिति में रखता है जो संगठनों को व्यापक मॉडल तक पहुंच प्रदान करता है, जबकि उपयोगकर्ता डेटा और संगठनात्मक स्मृति पर शासन को बनाए रखता है।

अंतर्निहित बुनियादी ढांचा ब्रिंग योर ओन की (BYOK), अनुकूली संदर्भ प्रबंधन, और एक ही प्लेटफ़ॉर्म के माध्यम से हज़ारों मॉडल के पार रूटिंग का भी समर्थन करता है।

स्मृति को एआई इंफ्रास्ट्रक्चर के रूप में मानना

Backboard का एक परिभाषित तकनीकी फोकस इसके लॉन्च के बाद से स्थायी एआई स्मृति रहा है।

बड़े भाषा मॉडल मूल रूप से राज्यहीन रहते हैं, जिसका अर्थ है कि बातचीत, वरीयताएं, और ऐतिहासिक संदर्भ आमतौर पर तब तक गायब रहते हैं जब तक कि डेवलपर्स उन्हें अतिरिक्त बुनियादी ढांचे के साथ नहीं घेरते। Backboard ने खुद को एक समर्पित स्मृति परत के रूप में स्थापित किया है जो विभिन्न एआई मॉडल और अनुप्रयोगों के साथ काम करती है, न कि उपयोगकर्ताओं को एक ही पारिस्थितिकी तंत्र में बंद करती है।

कंपनी का दावा है कि इसकी मेमोरी सिस्टम वर्तमान में LoCoMo और LongMemEval बेंचमार्क पर पहले स्थान पर है, जो दो व्यापक रूप से संदर्भित मूल्यांकन हैं जो लंबे संदर्भ तर्क और स्थायी स्मृति प्रदर्शन को मापते हैं। इस साल की शुरुआत में, Backboard ने स्मृति को मॉडल पर एक और विशेषता के बजाय मूल बुनियादी ढांचे के रूप में वर्णित किया।

यह वास्तुकला संगठनों को उपयोगकर्ता इतिहास, वरीयताओं, और संदर्भ ज्ञान को संरक्षित करने की अनुमति देती है, भले ही वे विभिन्न भाषा मॉडल के बीच स्विच कर रहे हों।

एआई जो उद्यम सीमाओं के भीतर रहता है

चारों घोषणाओं में, एक सुसंगत डिज़ाइन दर्शन उभरता है: उद्यमों में एआई प्रणाली की मांग बढ़ रही है जो उनके स्वयं के शासन के तहत काम करती हैं।

Backboard का प्लेटफ़ॉर्म एक ग्राहक के निजी क्लाउड के भीतर तैनात किया जा सकता है, जिससे संगठनों को अपने डेटा का स्वामित्व बनाए रखने की अनुमति मिलती है जबकि उन्हें आधुनिक एआई क्षमताओं का उपयोग करने की अनुमति मिलती है। यह दृष्टिकोण विशेष रूप से संवेदनशील जानकारी से निपटने वाले उद्योगों के लिए प्रासंगिक है, जिनमें स्वास्थ्य सेवा, वित्तीय सेवाएं, सरकार, और महत्वपूर्ण बुनियादी ढांचा शामिल हैं, जहां नियामक आवश्यकताएं अक्सर बाहरी रूप से होस्ट की गई एआई सेवाओं के उपयोग को सीमित करती हैं।

इसके बजाय राष्ट्रीय मुद्दे के रूप में संप्रभुता को फ्रेम करने के, कंपनी की वास्तुकला उद्यम नियंत्रण पर केंद्रित है – मॉडल, स्मृति, और अनुप्रयोग डेटा को ग्राहक-प्रबंधित वातावरण के भीतर रखना।

एक बढ़ती कनाडाई एआई इंफ्रास्ट्रक्चर कहानी

हालांकि वैश्विक एआई चर्चा का अधिकांश हिस्सा अभी भी सिलिकॉन वैली फाउंडेशन मॉडल डेवलपर्स पर केंद्रित है, Backboard एक और श्रेणी का प्रतिनिधित्व करता है एआई कंपनी जो उत्पादन वातावरण के लिए मौजूदा मॉडल को अधिक व्यावहारिक बनाने पर ध्यान केंद्रित कर रही है।

रॉब इम्बोल्ट द्वारा स्थापित, जो पहले कनाडाई सप्लाई चेन सॉफ़्टवेयर कंपनी असेंट के सह-संस्थापक थे, Backboard ने उद्यम एआई की अर्थव्यवस्था और परिचालन विशेषताओं में सुधार पर ध्यान केंद्रित किया है, न कि अगले फ्रंटियर भाषा मॉडल को बनाने की प्रतिस्पर्धा में। इस साल की शुरुआत में, कंपनी ने अपने एआई इंफ्रास्ट्रक्चर प्लेटफ़ॉर्म को विकसित करने के लिए एक प्री-सीड फंडिंग राउंड जुटाया।

जैसे-जैसे उद्यम एआई परिपक्व होता है, अनुमान लागत को कम करने वाली तकनीक, स्मृति में सुधार, मल्टी-मॉडल तैनाती को सरल बनाने और स्व-होस्ट किए गए एआई वातावरण को सक्षम करने वाली तकनीकें मॉडल क्षमता में प्रगति के साथ-साथ बढ़ती महत्वपूर्ण हो सकती हैं। Backboard की नवीनतम रिलीज़ उस व्यापक बदलाव को दर्शाती है – बड़े मॉडल बनाने से लेकर उन मॉडल से अधिक मूल्य निकालने में मदद करने वाले बुनियादी ढांचे का निर्माण करने की ओर।