كيسمت سينغ، المؤسس المشارك والرئيس التنفيذي لشركة MachGen AI – سلسلة المقابلات

كيسمت سينغ، المؤسس المشارك والرئيس التنفيذي لشركة MachGen AI، هو مسؤول بنية تحتية للذكاء الاصطناعي والهندسة يتمتع بأكثر من عقدين من الخبرة في بناء أنظمة الحوسبة عالية الأداء وتعلم الآلة. قبل أن يؤسس MachGen AI، شغل سينغ منصب نائب رئيس الهندسة لأطر الذكاء الاصطناعي في Intel وكان قد شغل سابقًا مناصب هندسية رفيعة في NVIDIA وAMD وHP وغيرها من شركات التكنولوجيا. وشملت أعماله مساهمات في مكتبات التعلم العميق والمجمعات، وتحسين أطر الذكاء الاصطناعي، وتحسين مرونة التدريب على نطاق واسع. في Intel، كان مشاركًا بشكل وثيق في مبادرات PyTorch للشركة وتحدث علنًا عن جعل أطر الذكاء الاصطناعي أكثر قابلية للوصول عبر منصات الأجهزة المختلفة.

MachGen AI هي شركة بنية تحتية للذكاء الاصطناعي تركز على جعل نماذج الصور والفيديو التوليدية أسرع بكثير وأكثر اقتصادًا في التشغيل. تأسست على يد كيسمت سينغ ومانوج كريشنان، وتعمل الشركة على تطوير مجموعة استدلال وتعديل دقيقة عالية الأداء مصممة خصيصًا لنماذج الانتشار بدلاً من تعديل بنية تم بناؤها أصلاً للنماذج اللغوية الكبيرة. تقوم MachGen بتحسين مجالات تشمل حساب الانتباه، التخزين المؤقت، نوى GPU، إدارة الذاكرة، التوازي، الجدولة، والنشر لتقليل زمن استجابة التوليد مع الحفاظ على جودة النموذج. توفر منصتها واجهات برمجة تطبيقات (APIs) لتوليد النص إلى صورة، صورة إلى صورة، نص إلى فيديو، صورة إلى فيديو، وإشارة إلى فيديو، مع التقنية الأساسية التي تهدف إلى تمكين تطبيقات منخفضة الكمون مثل إنشاء المحتوى التفاعلي، الأفاتار في الوقت الحقيقي، الألعاب، والإعلانات المخصصة.

لقد قضيت أكثر من عقدين من الزمن تعمل على الفيديو، وحوسبة GPU، وأداء الذكاء الاصطناعي، بما في ذلك TensorRT في NVIDIA، وبرمجيات الذكاء الاصطناعي في Intel، وتحسين GPU في AMD، والعمل السابق على ترميز الفيديو في الوقت الحقيقي. ماذا لاحظت خلال تلك السنوات أقنعتك في النهاية بترك شركات التكنولوجيا الكبيرة وتأسيس MachGen، ولماذا اعتقدت أن استدلال الانتشار هو مشكلة البنية التحتية التي تستحق بناء شركة حولها؟

لعب شريكي المؤسس مانوج وأنا كرة الريشة في نفس الصالة الرياضية لما يقرب من 10 سنوات. خلال معظم ذلك الوقت، كنا نحاول توظيف الآخر. في النهاية قررنا أنه من الأسهل العمل معًا بدلاً من الاستمرار في توظيف بعضنا البعض.

السبب في اختيارنا لهذه المشكلة هو أننا كنا نراقب تطور مجموعة الاستدلال من الداخل. ساعدت في بناء فريق منصة الاستدلال في NVIDIA ثم قادت برمجيات الذكاء الاصطناعي في Intel. بنى مانوج بنية التدريب للنماذج الكبيرة خلف PyTorch في Meta. شاهدنا سنوات من العمل على التخزين المؤقت، التجميع، الجدولة، والنوى تحول أنظمة البحث الأولية للـ LLM إلى بنية تحتية إنتاجية تخدم تريليونات الرموز.

الانتشار هو تقريبًا ما كانت عليه استدلال الـ LLM قبل ثلاث سنوات. لقد تقدمت نماذج الصور والفيديو بسرعة، لكن الأنظمة التي تخدمها لا تزال بطيئة ومكلفة وصعبة التوسيع. تم تصميم معظم البنية التحتية الحالية للـ LLMs، مع إضافة الانتشار لاحقًا.

ثلاثة أشياء جعلت التوقيت مناسبًا: أصبحت النماذج جيدة بما يكفي لبناء منتجات حقيقية، وكانت المشكلة تتطلب بالضبط المهارات التي قضينا حياتنا المهنية في تطويرها، وكان الأثر كبيرًا بما يكفي لبناء شركة جيلية حوله. عندما يمكن توليد فيديو كان يستغرق عدة دقائق في ثوانٍ وبجزء من التكلفة، يصبح الجيل التفاعلي، والإعلانات المخصصة، والأفاتار في الوقت الحقيقي، ومنتجات إبداعية جديدة بالكامل ممكنة.

تؤكد MachGen أن العديد من التقنيات التي حولت استدلال نماذج اللغة الكبيرة لا تنتقل بشكل نظيف إلى نماذج الانتشار. ما هو الاختلاف الجوهري في خدمة نماذج الصور والفيديو، وأين تكمن أكبر عنق الزجاجة في الأداء التي تميل البنية التحتية التقليدية للذكاء الاصطناعي إلى التغاضي عنها؟

نموذج الـ LLM ونماذج الانتشار لهما أنماط حسابية مختلفة جوهريًا. الـ LLMs هي نماذج تلقائية، حيث يسبق عملية ملء مسبقة كثيفة الحوسبة يتبعها فك تشفير على أساس كل رمز ويعتمد على الذاكرة. صُممت تقنيات مثل التخزين المؤقت KV وتفكيك الملء المسبق/الفك وفقًا لهذا الهيكل.

نماذج الانتشار غير تلقائية وتظل معتمدة على الحوسبة طوال عملية إزالة الضوضاء. كما أن توليد الفيديو يتضمن كميات كبيرة من البيانات المكانية والزمنية، مما يخلق متطلبات مختلفة فيما يتعلق بالانتباه، والذاكرة، والاتصالات، والتوازي.

وبالتالي، فإن العديد من التحسينات التي تم تطويرها للـ LLMs لا تنتقل بشكل نظيف. التخزين المؤقت KV التقليدي لا يحل نفس المشكلة، ويمكن أن يضيف التوازي القياسي عبئًا كبيرًا على الاتصالات، كما أن النوى المفتوحة المصدر المتاحة أقل نضجًا بكثير. يحتاج المجدول، نموذج الذاكرة، استراتيجية التخزين المؤقت، النوى، والتوازي إلى أن تُصمم حول الانتشار نفسه. لهذا السبب بنينا MachGen بحيث يكون الانتشار مكوّنًا أساسيًا من الدرجة الأولى.

تشير تقارير MachGen إلى انخفاض زمن الاستجابة بنحو 4–6 مرات في بعض نماذج الصور وحوالي 6 مرات تحسين في عدة نماذج فيديو أثناء تشغيل النماذج الأصلية غير المقطرة. ما هي أهم الابتكارات التقنية وراء هذه المكاسب، وكيف تضمن أن تحسينات الأداء لا تأتي على حساب جودة المخرجات؟

تأتي المكاسب من عدة أجزاء من البنية تعمل معًا. تهيمن آلية الانتباه على ميزانية الحوسبة في العديد من نماذج الفيديو، لذا نركز على وصفات ذات دقة أقل، والانتباه المتناثر، والتقنيات ذات الصلة. كما طورنا أساليب التخزين المؤقت التي تستغل التكرار المكاني والزماني، ونوى محسّنة للغاية لهياكل الانتشار، وتقنيات التوازي التي تقلل من عبء التواصل.

معًا، تسمح تلك التحسينات لـ MachGen بتقديم HiDream في ثانية واحدة مقابل ست ثوانٍ وFlux في 1.5 ثانية مقابل 6.2 ثانية. بالنسبة للفيديو، يعمل Wan 2.2 في 16.5 ثانية مقابل 98 ثانية، بينما يعمل LTX 2.3 في 10.7 ثانية مقابل 67 ثانية. كما أن تكاليف الاستدلال أقل بمقدار 2–4 أضعاف لنماذج الصور و2–3 أضعاف للفيديو.

تستخدم هذه النتائج النماذج الأصلية غير المقطرة. نحن نحسن طريقة تشغيل النماذج دون التضحية بجودة المخرجات. من أجل اعتماد الإنتاج، يجب أن تتكامل السرعة والتكلفة والجودة معًا.

Trusted TV مثال مثير للاهتمام لأن تقليل زمن الإنشاء من دقائق إلى ثوانٍ يغير أكثر من مجرد فاتورة البنية التحتية. بمجرد أن يصبح إنشاء الفيديو سريعًا بما يكفي لإنتاج آلاف الحملات وتنوعات إبداعية مخصصة، ما النماذج التجارية أو تجارب المنتجات الجديدة التي تصبح ممكنة ولم تكن قابلة للتنفيذ من قبل؟

TrustedTV تساعد الشركات على إنشاء إعلانات تجارية جاهزة للبث باستخدام الذكاء الاصطناعي ونشرها عبر منصات التلفاز المتصلة مثل Prime Video وRoku وDirecTV. العديد من عملائها هم شركات صغيرة. إنشاء إعلان تجاري بالطريقة التقليدية كان يتطلب طاقم تصوير وتحرير، بتكاليف تبدأ بالآلاف وعادةً ما تصل إلى عشرات الآلاف من الدولارات. Trusted TV تجعل ذلك صفرًا. يمكن لمالك شركة صغيرة إنشاء إعلان كامل من هاتف ذكي في حوالي خمس دقائق ومشاهدته قبل دفع أي شيء. تم إنشاء أكثر من 10,000 حملة على المنصة.

إيان، الرئيس التنفيذي لـ Trusted TV، رأى معيار زمن الاستجابة لـ MachGen على Artificial Analysis ولم يصدقه. سجل نفسه لاختباره بنفسه. عادت أول عملية تصيير له في حوالي 25 ثانية دون فقدان في الجودة، وعند إجراء اختبارات التزامن، استمرت التحسينات على نطاق واسع. نقلوا سير عمل الإنتاج بالكامل إلى MachGen في أقل من 48 ساعة، والآن تشغل MachGen جميع عمليات إنشاء الفيديو الجديدة لديهم. في أحدث عملية نشر، نقترب من 10 أو 11 ثانية على ذلك النموذج، وسنستمر في تحسينه.

تأثير المنتج هو أن المعلنين يتوقفون عن إنتاج إعلان أو إعلانين عامين. يبدأ مستخدموهم في تدوير إعلانين أو ثلاثة جديدة كل أسبوع، واختبار الإبداع عبر شرائح جمهور مختلفة، والتكرار بدلاً من الالتزام. ما سيأتي بعد ذلك هو التخصيص الجغرافي وعلى مستوى الجمهور على نطاق واسع، وهو ما كان محجوزًا سابقًا للشركات ذات الميزانيات متعددة الملايين من الدولارات.

نسخة أفكر فيها شخصيًا: اليوم، أتلقى إعلانًا لأحذية رياضية تم تصويره في شارع في مانهاتن. أعيش في منطقة الخليج، لذا لا يعني لي شيء. ما أريده هو نفس الإعلان مع جبل Mission Peak في الخلفية. هذا ليس إعلانًا أرخص؛ إنه نوع مختلف من الإعلانات، ولا يصبح اقتصاديًا إلا عندما تكون عملية الإنشاء سريعة ورخيصة بما يكفي لإنتاج آلاف المتغيرات.

بالنسبة للشركات التي تدمج إنشاء الصور أو الفيديو مباشرةً في منتجاتها، كيف ينبغي لها أن تفكر في اقتصاديات الاستدلال؟ عند أي حجم يصبح تحسين استغلال وحدة معالجة الرسوميات مهمًا استراتيجيًا بدلاً من مجرد دفع مزود API مقابل كل عملية إنشاء؟

نقطة الانعطاف تأتي عندما يبدأ الاستدلال في التأثير إما على تجربة العميل أو على هوامش الشركة.

يمكن أن يكون API عام الغرض منطقيًا بينما يتحقق فريق من صحة المنتج. بمجرد أن يصبح الإنشاء مركزيًا لهذا المنتج، يحتاج الفرق إلى النظر إلى ما وراء السعر المحدد لكل مخرج. تصبح السرعة، والتزامن، والجودة، والموثوقية، واستخدام وحدة معالجة الرسوميات جميعها جزءًا من الاقتصاد.

قد يبدو الإنشاء غير مكلف، لكنه لا يزال يخلق مشكلة تجارية إذا اضطر المستخدمون للانتظار عدة دقائق وتخلي عن سير العمل. بنية تتطلب توسيع سعة وحدة معالجة الرسوميات بمعدل يوازي الاستخدام ستضع أيضًا ضغطًا متزايدًا على الهوامش.

لا يوجد عتبة واحدة لحجم الطلب لأن الحوسبة المطلوبة لمقطع قصير بدقة 540p تختلف كثيرًا عن فيديو أطول بدقة 1080p. يصبح التحسين استراتيجيًا عندما يؤدي النمو في الاستخدام إلى ارتفاع التكاليف بمعدل شبه متساوٍ، أو عندما يخلق الطلب المتذبذب طوابير انتظار، أو عندما يبدأ زمن الاستجابة في تقييد تجربة المنتج.

يعمل MachGen عبر عدة طبقات، بما في ذلك نوى GPU مخصصة، والتخزين المؤقت، وتحسين الدقة، والجدولة، والتوازي. مع استمرار تطور النماذج بسرعة، أي طبقة من طبقات مكدس الاستدلال تعتقد أنها توفر أكبر فرصة متبقية لتحقيق تحسينات دراماتيكية في السرعة والتكلفة؟

بالنسبة لإنشاء الفيديو، يمثل الانتباه أحد أكبر الفرص المتبقية لأنه يهيمن على ميزانية الحوسبة في العديد من النماذج. لا يزال هناك مجال كبير لتحسين وصفات الدقة المنخفضة، والانتباه المتناثر، ونوى الانتباه الخاصة بالانتشار.

الانتباه هو مجرد جزء من الفرصة. ستأتي أكبر المكاسب الإجمالية من الجمع بين التحسينات عبر المكدس. التخزين المؤقت هو مثال واحد. تقنيات التخزين المؤقت KV المستخدمة في نماذج اللغة الكبيرة لا تنتقل مباشرةً، لكن نماذج الانتشار تحتوي على تكرار مكاني وزمني يمكن استغلاله بالنهج المناسب.

التوازي يقدم فرصة أخرى. إضافة وحدات معالجة الرسومات لا تُنتج تلقائيًا تسريعًا متناسبًا لأن عبء التواصل يمكن أن يعوض الفائدة. نحن نطور نوى مخصصة تتداخل فيها عملية التواصل مع حسابات غير معتمدة على البيانات وتُدمجها مع عمل يعتمد على البيانات.

الانتباه، التخزين المؤقت، النوى، التوازي، الذاكرة، والجدولة كلها تؤثر على بعضها البعض. تحسين طبقة واحدة فقط سيؤدي في النهاية إلى حدوث عنق زجاجة في مكان آخر. أكبر التحسينات ستأتي من التعامل مع المكدس كنظام كامل مصمم لملف حسابات الانتشار.

مع نماذج الفيديو الأحدث التي تقرب أوقات التوليد من الوقت الحقيقي، إلى أي مدى نقترب من فيديو توليدي تفاعلي حقيقي، وما هي الحواجز التقنية التي لا يزال يتعين تجاوزها قبل أن يصبح توليد الفيديو في الوقت الحقيقي أمرًا شائعًا؟

نحن بالفعل نصل إلى سرعات تفاعلية لبعض التطبيقات. يولد MachGen فيديو Vidu Q3 Turbo مدته خمس ثوانٍ بدقة 720 بكسل في حوالي ست ثوانٍ وبدقة 540 بكسل في أقل من ثلاث ثوانٍ. هذا أسرع بما يكفي للتكرار الإبداعي السريع ويجعل الأفاتار المتجاوبة والفيديو التفاعلي في متناول اليد.

مثال على ما أعتقد أن التفاعل يعنيه. تخيل أنك تشاهد قصة، ويمكنك رؤية اتجاه النهاية، ولا تعجبك. بدلاً من الجلوس بشكل سلبي، تقوم بإعادة توجيهها: يجب أن يذهب هذان الشخصان لاكتشاف ما يخفيه الشخص الثالث، ومواجهته بدلاً من ترك الأحداث تسير. محتوى توجهه أنت بدلاً من محتوى تتلقاه. هذا ما تجعل الجيل السريع والرخيص ممكنًا، وهو يغيّر تقريبًا كل ما نستهلكه.

الوصول إلى ذلك عادةً يتطلب أكثر من معيار واحد قوي للكمون. يجب أن يظل التجربة بأكملها مستجيبة تحت حمل الإنتاج مع الحفاظ على جودة الصورة، وتناسق الإطارات، وتكلفة متوقعة. الفيديوهات الأطول، الدقات الأعلى، والطلبات المتزامنة كلها تزيد من عبء البنية التحتية، ولا يزال النظام بحاجة إلى توفير السعة، وتوجيه الطلبات، والتعافي من أعطال الأجهزة دون أن يلاحظ المستخدم.

سوف يصل ذلك حالةً بحالة. من المحتمل أن تكون المقاطع القصيرة، والأفاتار، والألعاب، وأدوات الإبداع هي الأولى لأن التوليد المقاس بالثواني يكفيها بالفعل. مع تحسن جودة النموذج وأداء الاستدلال معًا، ستتجاوز المزيد من التطبيقات هذا العتبة.

مع تزايد توليد الوكلاء الذكائيين للصور والفيديوهات بشكل مستقل بدلاً من انتظار ضغط الإنسان على زر، كيف يغيّر ذلك متطلبات البنية التحتية؟ هل تخلق أحمال العمل التي يقودها الوكيل طلبات أساسية مختلفة فيما يتعلق بالكمون، والتزامن، والتكلفة، والموثوقية؟

يقوم الوكيل بتحويل طلب مستخدم واحد إلى عشرات أو مئات من وظائف التوليد. ينشئ عدة خيارات، يقيمها، يعدل الموجه، ويكرر العملية دون أي تدخل بشري بين الخطوات.

هذا يجعل الكمون، والتزامن، والتكلفة، والموثوقية أكثر أهمية بكثير. إذا استغرق كل توليد دقائق، فإن سير عمل الوكيل يصبح بطيئًا جدًا للاستخدام. إذا كان كل محاولة مكلفة، يصبح التكرار المستقل غير عملي اقتصاديًا. كما يحتاج النظام إلى معالجة العديد من الطلبات المتزامنة بشكل موثوق لأن فشلًا واحدًا يمكن أن يقطع سلسلة العمل بأكملها.

هنا تكمن أهمية قدرات مثل توفير وحدات معالجة الرسومات، والتوسع التلقائي، وتوجيه الطلبات بقدر ما هي مهمة تحسين مستوى النموذج. طلب الوكيل يكون أكثر تقلبًا من الطلب في تطبيق إبداعي حيث ينقر الشخص على زر.

الوحدة ذات الصلة للعمل لم تعد صورة أو فيديو واحد. إنها الحلقة الكاملة لتوليد المحتوى وتقييمه وتحسينه. يجب أن تجعل البنية التحتية هذه الحلقة بأكملها سريعة، وميسورة التكلفة، وموثوقة.

هناك منافسة شديدة بين مزودي وحدات معالجة الرسومات، وسحب الاستدلال، ومطوري النماذج، ومنصات التحسين. مع تسارع الأجهزة نفسها، لماذا ستظل الشركات بحاجة إلى طبقة استدلال متخصصة مثل MachGen بدلاً من الاعتماد على التحسينات من NVIDIA أو AMD أو مزودي السحابة أو مطوري النماذج أنفسهم؟

الأجهزة الأسرع ترفع السقف. البرمجيات تحدد مقدار ما سيتم الوصول إليه من هذا السقف.

رأينا ذلك يتجسد مع نماذج اللغة الكبيرة. حسّن المعجلات الجديدة الأداء الخام في كل جيل، ولا يزال التجميع المستمر، وإدارة ذاكرة KV، وفك الترميز التخميني، والنوى المتخصصة هي ما وصل الصناعة إلى معدلات الإنتاجية والاقتصاد على مستوى الإنتاج. لم يأتِ أي من ذلك من الأجهزة.

تحسين مسار الإنتاج الكامل لتوليد الصور والفيديو بشكل مستمر هو عمل مختلف عما يفعله بائعو الأجهزة، ومزودو السحابة، ومطورو النماذج، ولا يُعد أولوية أساسية لأي منهم.

هناك عدة نهج لهذا العمل. أحدها هو نموذج السوق، حيث تُجمع النماذج وتُوجه الطلبات. لا نعتقد أن هذا مستدام على المدى الطويل، لأنه لا يوجد تحكم في الطبقة التي تكمن فيها الأداء. اخترنا بناء المكدس بأنفسنا واستضافته محليًا، وهو السبيل الوحيد لتحقيق أرقام الكمون والتكلفة التي نراها.

هذا يعني ضبط الانتباه، التخزين المؤقت، النوى، الدقة، الذاكرة، والتوازي لكل نموذج ولكل مسرّع، ودعم واجهات برمجة التطبيقات المُدارة، السحابة المخصصة، والنشر المستضاف ذاتيًا. مع زيادة عدد النماذج وخيارات الأجهزة، تزداد التعقيدات. دورنا هو استيعاب ذلك حتى يتمكن عملاؤنا من قضاء وقتهم في ما يميز منتجاتهم.

لقد وصفت نماذج العالم كجزء من رؤية MachGen طويلة الأمد، حيث تشبه العديد من خصائصها الحوسبية أعباء عمل الانتشار. كيف يجب أن يبدو البنية التحتية لنماذج العالم على نطاق الإنتاج، وما التطبيقات التي تصبح ممكنة إذا أصبح توليد ومحاكاة البيئات البصرية رخيصًا وسريع الاستجابة كما هو الحال اليوم في توليد النصوص؟

إحدى الطرق للتفكير في منصتنا هي مشابهة لنموذج لغوي عام. يستخدم نفس النموذج لصياغة اتفاقية قانونية والإجابة على سؤال حول المطاعم. بالنسبة لنا، يخدم نفس المكدس شركات أفاتار الفيديو، والإعلانات الذكية، وتوليد القصص والدراما المصغرة، وفي النهاية نماذج العالم. قطاعات مختلفة، مجموعة واحدة من مشاكل الأداء الأساسية.

نماذج العالم ليست عملنا الأساسي اليوم، لكنها ما نسعى لبنائه، ونحن نعمل عليها بنشاط. ستحتاج نماذج العالم على نطاق الإنتاج إلى معدل نقل عالي جدًا وزمن استجابة منخفض جدًا لأنها تولد وتحدّث البيئة باستمرار بدلاً من إنتاج مخرجات مفردة. كما أنها تحتاج إلى اتساق مكاني وزمني، والقدرة على الاستجابة للإجراءات، وغالبًا القدرة على محاكاة نتائج متعددة محتملة في آن واحد. هذا يخلق مشكلات صعبة في الذاكرة، حركة البيانات، التوازي، والموثوقية. لا يمكن لنموذج عالم يقود روبوتًا أو لعبة أن يستغرق دقائق لإنتاج الحالة التالية. الأداء يحدد ما إذا كانت هذه الأنظمة قابلة للاستخدام على الإطلاق.

من الناحية الحاسوبية، تشبه نماذج العالم اليوم نماذج الانتشار إلى حد كبير، لذا فإن المكدس الذي نبنيه الآن هو الأساس الطبيعي. لا توجد طبقة خدمة جاهزة للإنتاج لها بعد، مماثلة لما هو موجود للنماذج اللغوية الكبيرة. نعتزم بناؤها.

إذا أصبحت المحاكاة سريعة الاستجابة وميسورة التكلفة كما هو الحال الآن في توليد النصوص، يمكن للروبوتات أن تتدرب على مواقف نادرة قبل مواجهتها، ويمكن للألعاب توليد بيئات تستجيب للاعبين الفرديين، ويمكن للمصممين اختبار عشرات الاحتمالات قبل البناء في العالم المادي. الانتشار هو ما نكسب منه رزقنا اليوم. نماذج العالم هي نجمنا القطبي.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا MachGen AI.