نماذج ومنصات الذكاء الاصطناعي
تكشف Cornelis عن CN6000: ماذا تعني شبكات 800G للذكاء الاصطناعي والحواسيب العملاقة
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةCornelis claims 1.6 billion messages per second but that figure is bidirectional and…
عرض المزيد
- Cornelis claims 1.6 billion messages per second but that figure is bidirectional and aggregate.
- Its 0.95 microsecond latency beat InfiniBand by approximately 21% only in an internal small-message test.
- Peak speeds matter less than whether a buyer's own workload finishes faster on a complete fabric.
Cornelis عن طرح CN6000، وهي عائلة من منتجات الشبكات بسرعة 800 جيجابت صُممت لتقليل الوقت الذي تقضيه مسرّعات الذكاء الاصطناعي والحواسيب العملاقة في انتظار البيانات. ومن أبرز ما تعلنه الشركة قدرتها على معالجة ما يصل إلى 1.6 مليار رسالة في الثانية عبر بطاقة الشبكة الفائقة Omni-Path SuperNIC. لكن فهم دلالة ذلك يتطلب التمييز بين ثلاثة مقاييس مختلفة لأداء الشبكة: عرض النطاق الترددي، ومعدل الرسائل، وزمن الاستجابة.
يعلن إعلان 12 نوفمبر عن محولات Omni-Path وEthernet، إلى جانب مبدّل Omni-Path. وتقول Cornelis إن الأجهزة متاحة للتقييم وعمليات النشر الأولية، فيما يُتوقع طرح أنظمة الشركاء في الربع الأول من عام 2027.
الهدف التجاري واضح: تحقق المعالجات الباهظة مزيدًا من العمل المفيد عندما تواكبها الشبكة. فزيادة سرعة وحدة معالجة الرسومات لا تسهم كثيرًا في تقليص مدة المهمة الموزعة ما دامت تنتظر جهازًا آخر لإرسال نتيجة.
ما الدلالة الفعلية لـ800G ومعدل 1.6 مليار رسالة؟
عنقود الذكاء الاصطناعي مجموعة من الحواسيب المتصلة التي تعمل معًا. وتنقل الشبكة كل شيء، من كتل بيانات النماذج الكبيرة إلى رسائل التنسيق الصغيرة. ولأدائها أبعاد متعددة:
| المقياس | المعنى ببساطة | أهميته |
|---|---|---|
| عرض النطاق الترددي | كمية البيانات التي يمكن نقلها في الثانية | نقل كميات كبيرة من البيانات |
| معدل الرسائل | عدد الرسائل التي تستطيع بطاقة الشبكة معالجتها في الثانية | معالجة عدد كبير من التبادلات الصغيرة |
| زمن الاستجابة | المدة التي يستغرقها الاتصال | تقليل الانتظار بين الخطوات التي يعتمد بعضها على بعض |
يعني 800G سرعة 800 جيجابت في الثانية. وبقسمة هذا الرقم على ثمانية، نحصل على سرعة اسمية تبلغ 100 جيجابايت في الثانية، قبل احتساب عبء البروتوكول والقيود العملية الأخرى. وهذا يصف سعة نقل البيانات، لا سرعة توليد روبوت المحادثة للكلمات.
يقيس معدل الرسائل نوعًا مختلفًا من الاختناقات. فإرسال الكثير من أجزاء المعلومات الصغيرة يتطلب من بطاقة الشبكة معالجة عمليات منفصلة عديدة، حتى عندما لا تشغل هذه الأجزاء كامل عرض النطاق الترددي للوصلة. ويحدد موجز منتج Omni-Path من Cornelis معدل 1.6 مليار رسالة على أنه معدل ثنائي الاتجاه. وهذه قدرة إجمالية، وليست ادعاءً بأن تطبيقًا واحدًا يُنجز هذا العدد من الطلبات المتتابعة كل ثانية.
يكتسب زمن الاستجابة أهمية عندما يتعين على الحساب التالي انتظار وصول رسالة. وفي اختبار ping-pong داخلي أجرته Cornelis باستخدام Intel MPI ورسائل بحجم 8 بايت، بلغ زمن الاستجابة المُعلن 0.95 ميكروثانية لـCN6000، مقابل 1.2 ميكروثانية لـNVIDIA InfiniBand XDR عند سرعة 800G، أي أقل بنحو 21%. وMPI، أو واجهة تمرير الرسائل، معيار يتيح للبرامج العلمية المتوازية التواصل.
يقيس هذا الاختبار تبادلًا محددًا لرسائل صغيرة. لكنه لا يثبت أن تدريبًا أو محاكاة أو خدمة استدلال ستُنجز أسرع بنسبة 21%. وتعتمد النتيجة على عدد مرات تواصل التطبيق، وأحجام عمليات النقل، والازدحام، وبقية مكونات النظام.
شرح بطاقات SuperNIC والمبدّلات وأنسجة الشبكات
تصل بطاقة واجهة الشبكة، أو NIC، الخادم بالشبكة. أما «SuperNIC» فهو المصطلح الذي تستخدمه Cornelis لمنتجاتها من بطاقات الشبكة المتخصصة عالية الأداء. ويربط المبدّل وصلات الخوادم ويوجه البيانات بينها. ويُطلق عادةً على التشكيلة الكاملة من البطاقات والمبدّلات والوصلات وبرمجيات الاتصال اسم نسيج الشبكة.
هذا التمييز مهم عند شراء عنقود حوسبة. فتركيب بطاقة شبكة عالية الأداء لا يؤدي تلقائيًا إلى ترقية كل مبدّل أو كابل أو مسار برمجي ستمر به حركة البيانات.
يوفر CN6000 خيارين لنسيج الشبكة. Omni-Path هو ربط شبكي مصمم خصيصًا من Cornelis للحوسبة المتوازية. أما Ethernet فهو أساس شبكات واسع الانتشار ومألوف لمشغلي مراكز البيانات. وتستهدف بطاقة Ethernet العملاء الراغبين في اتصالات عالية الأداء مع الإبقاء على بنية تحتية متوافقة لمبدّلات Ethernet. أما InfiniBand، وهي التقنية المستخدمة في المقارنة المعيارية، فهي نسيج شبكي آخر متخصص في الحوسبة؛ ومبدّلاتها غير قابلة للتبادل مع مبدّلات Omni-Path.
لذلك، تمثل منصة CN6000 عائلة من المكونات وخيارات النشر، لا ضمانًا بأن أي توليفة من معدات الشبكات ستحقق النتيجة نفسها.
كيف تنقل RoCE البيانات مع تقليل العبء على المعالج
تدعم بطاقة Ethernet SuperNIC تقنية RoCEv2: الوصول المباشر إلى الذاكرة عن بُعد عبر Ethernet متقارب، الإصدار الثاني. وتتيح الفكرة الأساسية، RDMA، لمعدات الشبكة نقل البيانات بين مناطق ذاكرة مصرح بها على أجهزة مختلفة من دون أن تضطر وحدة المعالجة المركزية للمضيف إلى نسخ كل حمولة بيانات عبر مسار الشبكات التقليدي.
يمكن تصور ذلك على أنه ترتيب تسليم مباشر بين موقعين معتمدين، بدلًا من تكليف وسيط باستلام المحتوى ونسخه مرارًا. ولا يزال على وحدة المعالجة المركزية دور تؤديه في إنشاء الاتصال وإدارته؛ وتتمثل الفائدة في تقليل تدخلها في عملية نقل البيانات نفسها.
توضح وثائق NVIDIA الخاصة بـ RoCE أن الإصدار الثاني ينقل حركة RDMA باستخدام ترويسات IP وUDP، ما يتيح لها عبور شبكات IP موجّهة. ويظل النشر الفعّال معتمداً على تهيئة الشبكة وسلوك الازدحام، لا على مجرد وجود موصل Ethernet.
يصف موجز منتجات Ethernet من Cornelis تفريغ المعالجة إلى العتاد، ودعم أعداد كبيرة من العمليات المتزامنة، والتحكم في التدفق ذي الأولوية. ويمكن لهذه الآلية إيقاف فئات محددة من حركة البيانات مؤقتاً للمساعدة على تجنب فقدان الحزم. ويضع الإعلان دعم Ultra Ethernet ضمن مسار تحديثات البرامج؛ لذا ينبغي للمشترين التمييز بين هذه الإمكانية المخطط لها وعرض RoCEv2 الأولي.
لماذا يتطلب استدلال الذكاء الاصطناعي نقل ذاكرة العمل
استدلال الذكاء الاصطناعي هو عملية استخدام نموذج مدرّب لإنتاج إجابة. وفي حالة النماذج اللغوية، يشمل المعالجة المسبقة، التي تعالج المطالبة، وفك الترميز، الذي ينشئ الاستجابة رمزاً واحداً في كل مرة.
تشغّل بعض أنظمة تقديم الخدمات هذه المراحل على مجموعات منفصلة من المعالجات، بحيث يمكن تحديد حجم كل مجموعة بما يلائم مهمتها. ويُسمى ذلك الاستدلال المفكك. وينشأ عن هذا الفصل تسليم للبيانات: إذ يجب أن تصل المعلومات المحسوبة أثناء قراءة المطالبة إلى المعالجات التي تولّد الإجابة.
تشمل تلك المعلومات ذاكرة التخزين المؤقت للمفاتيح والقيم، ويُختصر اسمها عادةً إلى ذاكرة KV المؤقتة. وهي تخزّن بيانات الانتباه الوسيطة كي يتمكن النموذج من إعادة استخدام العمل السابق. ولا تمثل هذه الذاكرة مجموعة أوزان النموذج بأكملها، كما أنها ليست مجرد نص محفوظ للمحادثة.
توضح وثائق Dynamo من NVIDIA تسلسل العملية: معالجة المطالبة، ثم نقل ذاكرة KV المؤقتة الخاصة بها، ثم توليد الرموز على عامل فك الترميز. وقد تجعل عمليات النقل الأسرع هذا الفصل أكثر عملية. لكن نقل الذاكرة المؤقتة يضيف عبئاً بحد ذاته، لذا يكون الاستدلال المفكك مفيداً عندما تفوق فوائد الجدولة والعتاد كلفة تسليم البيانات.
الحفاظ على انسياب حركة البيانات عند ازدحام الوصلات
في Omni-Path، يستخدم CN6000 التحكم في التدفق القائم على الاعتمادات: إذ يرسل الطرف المرسِل البيانات وفق السعة المتاحة لدى الطرف المستقبِل. ويمكن للتوجيه التكيفي توزيع حركة البيانات على المسارات المتاحة، فيما توفر مستويات الشبكة المتعددة مسارات منفصلة عبر نسيج الشبكة.
يصف موجز Omni-Path مساري بيانات مستقلين، سعة كل منهما 400G، يوفّران معاً نطاقاً ترددياً إجمالياً قدره 800G. وإذا احتاج أحد المستويين إلى الصيانة، فيمكن أن يظل الآخر متاحاً، لكن فقدان جزء من الشبكة لا يحافظ على سعتها الأصلية كاملة.
تتضمن المنصة أيضاً جذر ثقة عتادياً، وإقلاعاً آمناً، والتحقق من هوية الجهاز. وتساعد هذه الميزات على التأكد من موثوقية البرامج الثابتة وهوية الجهاز. أما استخدام التوقيعات الرقمية ما بعد الكمّية فيتعلق بالمصادقة وسلامة البيانات؛ ولا ينبغي فهمه على أنه ادعاء شامل بأن كل حمولة شبكية مشفّرة.
اعتبارات النشر تتجاوز السرعة القصوى
يأتي CN6000 امتداداً لعمل Cornelis السابق في توسيع نطاق الشبكات، بما في ذلك التعاون الموسّع مع AMD في مجال الحوسبة العلمية. وتكمن جاذبيته في الجمع بين وصلات الربط عالية الأداء وخيارات أوسع من المعالجات وبيئات الشبكات.
بالنسبة إلى المشترين، تتمثل المقارنة المفيدة في الوقت والكلفة اللازمين لإنجاز أعباء العمل الخاصة بهم. فقد تستفيد محاكاة تتبادل تحديثات صغيرة بصورة متكررة من زمن استجابة أقل ومعدلات أعلى للرسائل. أما الخدمة التي تنقل ذاكرات مؤقتة كبيرة، فقد تولي أهمية أكبر لسرعة النقل المستدامة والازدحام. ويحتاج كلاهما إلى نسيج شبكة ملائم، ودعم برمجي فعّال، وتهيئات خوادم معتمدة.
يضيف إعلان CN6000 خياراً آخر لبناء هذه الأنظمة. وتحدد أرقام الأداء القصوى إمكانات تستحق الاختبار؛ أما المكسب العملي فيتمثل في إبقاء قدر أكبر من القدرة الحاسوبية منتجاً أثناء تشغيل التطبيقات الفعلية.
