एक्राब का एज चिप 100B एआई मॉडल्स को स्थानीय रूप से चलाने का लक्ष्य रखता है

एक्राब, एक सिंगापुर स्टार्टअप जो जून 2026 में $350 मिलियन से अधिक के समर्थन के साथ स्टील्थ से बाहर आया, 23 जुलाई, 2026 को अपना पहला सिलिकॉन पेश किया: GΞLIX 1, एक 5-नैनोमीटर एज प्रोसेसर, एजेंट बॉक्स के साथ, जो इसके आसपास बना एक डेस्कटॉप सिस्टम है। दोनों एक ही लक्ष्य की ओर हैं – 100-बिलियन-पैरामीटर कक्षा में खुले स्रोत एआई मॉडल को हार्डवेयर पर चलाना जो एक डेस्क पर बैठ सकता है, क्लाउड सेवा के माध्यम से डेटा को रूट करने के बजाय।

यह एक प्रचलित आकार के खिलाफ एक दांव है जिसमें इस तरह के बड़े मॉडल डेटा सेंटर में रहते हैं और उपयोगकर्ता टोकन द्वारा भुगतान करते हैं; एक्राब का मामला है कि अर्थशास्त्र और गोपनीयता गणित अब स्थानीय हार्डवेयर पर खींचते हैं, जहां प्रतिक्रियाएं तेजी से लौटती हैं, डेटा डिवाइस पर रहता है, और सिस्टम तब भी काम करता है जब नेटवर्क नहीं होता है।

एक्राब का नेतृत्व डॉ केन फुआ करते हैं, जिन्होंने एशिया एप्लिकेशन इंजीनियरिंग में आर्म के साथ काम किया और बाद में आर्म चीन के सह-सीईओ के रूप में कार्य किया, और चिप उस विरासत को दर्शाती है। एक अलग त्वरक को जोड़ने के बजाय, GΞLIX 1 एक ही डाई पर सीपीयू, जीपीयू और एनपीयू को एकीकृत करता है जिसमें एक साझा मेमोरी पूल है। “100 अरब पैरामीटर कक्षा में मॉडल चलाना एक डेस्क पर बैठने के लिए पर्याप्त एक प्रणाली पर एक महत्वपूर्ण कंप्यूटिंग चुनौती प्रस्तुत करता है,” फुआ ने कहा।

सिलिकॉन के अंदर

GΞLIX 1 एक 20-कोर आर्म सीपीयू को एक मल्टीकोर न्यूरल प्रोसेसिंग यूनिट और 273 जीबी/सेकंड की एकीकृत मेमोरी बैंडविड्थ के साथ जोड़ती है, एक्राब के अनुसार, और एक बार में तीनों कंप्यूट ब्लॉक्स में एक बड़ा मॉडल फैलाने के लिए बनाया गया है। कंपनी मेमोरी बैंडविड्थ और समय-से-पहले-टोकन (एक मॉडल की प्रतिक्रिया शुरू होने से पहले की देरी) को इस स्तर पर बाध्यकारी प्रतिबंध के रूप में मानती है, और कहती है कि यह चिप को पर्याप्त शक्ति को कम रखने के लिए ट्यून किया गया है ताकि यह पूरे दिन चल सके।

एक्राब द्वारा खुलासा किया गया एकमात्र प्रदर्शन आंकड़ा एक विक्रेता संख्या है, निर्दिष्ट परीक्षण नहीं। अपने बेंचमार्किंग में, कंपनी ने एक जेमा मॉडल कॉन्फ़िगरेशन का उपयोग करके 1,416.8 टोकन प्रति सेकंड की प्रीफिल दर की सूचना दी, जिसे यह “26B A4B” लेबल करती है, एक मैक मिनी M4 प्रो की तुलना में 10,000-टोकन इनपुट के साथ 188.9, या लगभग 7.5 गुना तेज़। यह सेटअप केवल लगभग 4 बिलियन पैरामीटर को एक समय में सक्रिय रखता है, 100-बिलियन-पैरामीटर सीलिंग से काफी कम जिस पर चिप बेची जाती है, और संख्या केवल प्रीफिल को कवर करती है। एक्राब ने कोई डिकोड-गति आंकड़ा या एमएलपरफ़ रिजल्ट प्रकाशित नहीं किया, इसलिए दावा कंपनी के अपने माप पर टिका हुआ है।

एक बॉक्स जिसे आप एक बिल के बजाय खरीदते हैं

एजेंट बॉक्स प्लेटफ़ॉर्म पर बना पहला उत्पाद है, और यह एक्राब के सबसे तेज़ आर्थिक तर्क को ले जाता है। कंपनी इसे एक बार की खरीद के रूप में पेश करती है जो क्लाउड एआई के आवर्ती प्रति-टोकन शुल्क को हटा देती है: यह स्थानीय रूप से भाषा और दृष्टि मॉडल चलाती है, डिवाइस पर उपयोगकर्ता के डेटा की एक स्थायी स्मृति रखती है, और जुड़े सिस्टम पर कार्यों का समन्वय करती है। यह घरों और व्यक्तिगत कार्यस्थानों के लिए लक्षित है, और एक्राब कहती है कि यह अधिक अनुकूलित हो जाती है क्योंकि इसके संदर्भ का भंडार जमा होता है। पिच पूंजी व्यय की जगह एक संचालन बिल है – हार्डवेयर को एक बार खरीदें न कि प्रत्येक अनुरोध के लिए मीटरिंग करें।

एक्राब ने यह नहीं बताया है कि एजेंट बॉक्स की कीमत क्या है, यह कब शिप होगा, या कौन सा फाउंड्री 5-नैनोमीटर चिप बनाता है। वे संख्याएं हैं जिनकी एक खरीदार को वास्तव में तुलना चलाने की आवश्यकता होगी। जब तक कि एक मूल्य और एक डिलीवरी तिथि नहीं है, तो एक निश्चित हार्डवेयर लागत और एक खुले ऑपरेटिंग बिल के बीच व्यापार एक दावा है, न कि एक गणना है।

एक व्यापक दांव किनारे पर

पिच एक विवादित क्षेत्र में प्रवेश करती है। क्वालकॉम (QCOM ) और इंटेल (INTC ) पहले से ही एआई पीसी में न्यूरल प्रोसेसर शिप करते हैं, और एक वर्ग के एज एआई बॉक्स आज डिवाइस पर छोटे मॉडल चलाते हैं; एक्राब का दावा है कि यह परिवर्तन पैरामीटर सीलिंग को बदलता है, 100-बिलियन-कक्षा के मॉडल को एक स्थानीय प्रणाली पर स्थानांतरित करता है, न कि उन छोटे मॉडलों की तुलना में जो वर्तमान में फोन और लैपटॉप में आराम से चलते हैं। एक्राब कहती है कि GΞLIX 1 और इसका सॉफ्टवेयर स्टैक अन्य निर्माताओं के लिए एक क्षैतिज आधार के रूप में कार्य करने के लिए हैं, जिसमें एआई नेटवर्क-स्टोरेज बॉक्स, एआई पीसी, स्मार्ट वाहन, और औद्योगिक और सेवा रोबोट तक पहुंचने की योजना है। महत्वाकांक्षा तब आती है जब बुनियादी ढांचे की बातचीत प्रशिक्षण से अनुमान की ओर स्थानांतरित होती है, और जब घटक निर्माता अधिक सिलिकॉन को एज और ऑन-डिवाइस फॉर्म फैक्टर में धकेलते हैं।

कंपनी ने 2024 में अपनी स्थापना के बाद से $350 मिलियन से अधिक जुटाया है, जो कि जून 2026 में प्रकट किया गया, शुरुआती समर्थन के साथ वर्टेक्स वेंचर्स एसईए और इंडिया और वर्टेक्स ग्रोथ, टेमासेक-से जुड़े फंड्स, से प्लस एक्राब द्वारा के3 के रूप में पहचाने जाने वाले एक निवेशक। एक्राब कहती है कि GΞLIX प्लेटफ़ॉर्म को वास्तविक तैनाती में मान्य किया गया है और अपनी पहली उद्योग अपनाने और बड़े पैमाने पर उत्पादन की ओर बढ़ रहा है। जो बात यह अभी तक नहीं दिखा पाई है वह यह है कि चिप एक्राब के दावे पर निर्भर गति से 100-बिलियन-पैरामीटर मॉडल चला रही है, जिसे एक्राब के अलावा किसी और ने मापा है।