تكنولوجيا إنفينيون و د-ماتريكس تتعاونان في بنية تحتية ذكاء اصطناعي منخفضة الزمن

تكنولوجيا إنفينيون قد أعلنت عن تعاون مع د-ماتريكس يركز على تحسين أداء بنية تحتية نظام الاستدلال الاصطناعي المستخدمة في مراكز البيانات الحديثة وزيادة كفاءتها في استهلاك الطاقة. يركز التعاون على منصة كورسير لتعزيز الاستدلال الاصطناعي من د-ماتريكس ووحدات الطاقة المزدوجة أوبتيموس من إنفينيون، والتي تم تصميمها لدعم بيئات الحوسبة عالية الكثافة لتحملات العمل الاصطناعي التفاعلية.

تسلط الإعلان الضوء على تحول متزايد داخل صناعة الأجهزة الاصطناعية. في حين أن الكثير من ازدهار البنية خلال السنوات القليلة الماضية ركز على تدريب نماذج اصطناعية متزايدة الحجم، فإن الصناعة تتوسع بسرعة الآن إلى الاستدلال – عملية تشغيل النماذج في تطبيقات العالم الحقيقي مثل المحادثات، والنظم الاصطناعية، والمساعدون، والبحث، والتحليلات المالية، ودعم اتخاذ القرارات الصحية. هذه التحملات تضع متطلبات مختلفة على الأجهزة، خاصة حول الزمن، والاستجابة، واستهلاك الطاقة.

لماذا يصبح الاستدلال الاصطناعي ساحة معركة رئيسية للأجهزة

الاستدلال الاصطناعي ظهر كأحد أسرع قطاعات سوق البنية الاصطناعية نمواً لأن النظم الاصطناعية التفاعلية تتطلب استجابات في الألفية من الثانية بدلاً من الثواني. لقد قامت د-ماتريكس بتموضع كورسير بشكل خاص لهذه التحملات، مع التأكيد على انخفاض زمن الاستجابة والاستدلال الكفء في استهلاك الطاقة للنماذج اللغوية الكبيرة والوكلاء الاصطناعيين.

وفقًا لشركة د-ماتريكس، تم تصميم كورسير حول هندسة الحوسبة الرقمية في الذاكرة التي تهدف إلى تقليل عُقبات الذاكرة التي تؤخر في كثير من الأحيان استدلال النماذج الاصطناعية التوليدية. وتدعي الشركة أن المنصة يمكن أن تخفض بشكل كبير من زمن الاستجابة وتحسن الإنتاجية مقارنة بنظم الاستدلال التقليدية التي تعتمد على وحدات معالجة الرسومات، خاصة للتطبيقات التفاعلية.

يتناول التعاون مع إنفينيون تحديًا آخر يزداد أهميته بشكل متزايد: تسليم الطاقة.

كما تستمر خادمات الاصطناع في زيادة الكثافة، أصبح تسليم الطاقة إلى المعززات عاملاً مقيدًا لتحسين البنية. تم تصميم وحدات أوبتيموس TDM2254xx من إنفينيون للهياكل الرأسية لتسليم الطاقة التي تساعد على تقليل الفاقد الكهربائي وتحسين كثافة الطاقة داخل أنظمة الخادم المدمجة.

التحول نحو النظم الاصطناعية في الوقت الفعلي

تم التعبير عن التعاون بين الشركتين حول ظهور “النظم الاصطناعية التفاعلية”، حيث يجب أن تولد أنظمة الاستدلال مخرجات باستمرار مع تأخير منخفض للغاية. وتشمل ذلك النظم الاصطناعية للحوار، والوكلاء الاصطناعيين، والمنطق في الوقت الفعلي، والتطبيقات التي تتطلب توليد رموز سريعة من النماذج اللغوية الكبيرة.

قال سيد شيث، مؤسس و الرئيس التنفيذي لشركة د-ماتريكس، إن الهندسة المعمارية وراء كورسير تم بناؤها بشكل خاص لزمن استجابة رموز أقل من 2 مللي ثانية، وهو معيار أصبح أكثر أهمية مع انتقال الشركات لنظم الاصطناع من التجارب إلى بيئات تواجه العملاء.

ت开始 الصناعة الاصطناعية بشكل أوسع في الاعتراف بأن بنية تحتية الاستدلال قد تتطور بشكل مختلف عن بنية تحتية التدريب. في حين أن مجموعات وحدات معالجة الرسومات سادت المرحلة الأولى لتوسع النماذج الاصطناعية التوليدية، فإن الاستدلال يثني بشكل متزايد على الهياكل المثلى حول عرض نطاق الذاكرة، والزمن، والشبكات، و كفاءة الطاقة بدلاً من الحوسبة الخام فقط.

كفاءة الطاقة تصبح مركزية في توسع الاصطناع

أحد أكبر العوائق التي تواجهها شركات التخزين الكبيرة ومزودي السحابة الاصطناعية هو الطلب على الكهرباء. يمكن أن تعمل تحملات الاستدلال الاصطناعي بشكل مستمر عبر ملايين الطلبات يوميًا، مما يجعل الكفاءة التشغيلية حاسمة للتكاليف الإنشائية.

لقد قامت إنفينيون بتوسيع vị tríها بشكل جريء داخل بنية تحتية الاصطناع من خلال تقنيات شبه الموصلات القائمة على السيليكون، والكاربيد السيليكوني (SiC)، والنتريد الغاليوم (GaN). وقد ركزت الشركة بشكل متزايد على توفير طبقة تسليم الطاقة تحت معززات الاصطناع وبنية تحتية الخادم.

يعكس التعاون مع د-ماتريكس كيف أن شركات شبه الموصلات تصبح أكثر دمجًا مع شركات بدء تشغيل معززات الاصطناع مع بحث الصناعة عن بديل للهياكل التقليدية التي تعتمد على وحدات معالجة الرسومات بشكل كبير.

بنية تحتية الاصطناع تتوسع ما وراء وحدات معالجة الرسومات التقليدية

يأتي التعاون أيضًا في وقت موجة تجربة أوسع في أجهزة الاصطناع. هناك عدد متزايد من الشركات الناشئة التي تطور معززات متخصصة تركز بشكل خاص على الاستدلال، أو الحوسبة المتمركزة في الذاكرة، أو شبكات الاصطناع.

لقد ميزت د-ماتريكس نفسها من خلال التركيز على تقنيات الحوسبة في الذاكرة وتخفيض زمن الاستجابة للنظم الاصطناعية التوليدية. كما وسعت الشركة استراتيجيتها البنية ما وراء معززات الشريحة فقط، مؤكدة مؤخرًا على الشبكات، والبنية القابلة للتكوين، وضبط النظام الكامل لclusers الاستدلال.

كما تزداد تطبيقات الاصطناع تفاعليًا وذكيًا، من المتوقع أن تضع مزودو البنية تحتية مزيدًا من التركيز على تقليل التأخير، وتقليل استهلاك الطاقة، وتحسين الكفاءة على مستوى النظام عبر كافة مكدس مراكز البيانات بدلاً من التركيز فقط على القوة الحسابية الخام.