كوري ساندرز، نائب الرئيس الأول لمنتجات كورويف – سلسلة مقابلات

كوري ساندرز، نائب الرئيس الأول لمنتجات كورويف، يقود استراتيجية المنتج وتنفيذها لأحد أسرع منصات السحابة التي تركز على الذكاء الاصطناعي نمواً. وهو مسؤول عن توسيع الابتكار، وتشكيل حلول مصممة خصيصاً للعملاء، وتعزيز موقع كورويف في سوق البنية التحتية للذكاء الاصطناعي. قبل انضمامه إلى كورويف، عمل ساندرز في شركة مايكروسوفت لمدة عقدين في مناصب قيادية رفيعة المستوى تشمل هندسة السحابة، والمنصات المحددة حسب الصناعة، واستراتيجية الحلول التجارية، والشراكات التجارية الكبيرة، مع خبرة عميقة في ربط التنفيذ الفني bằng استراتيجية التسويق.

(CRWV ) (MSFT )

كورويف هي موفر سحابي أصلي بالذكاء الاصطناعي مصمم خصيصاً لحسابات الحوسبة عالية الأداء والتحميلات الكبيرة للذكاء الاصطناعي. تعمل الشركة على توسيع بصمتها من مراكز البيانات بسرعة عبر الولايات المتحدة وأوروبا، وتقدم بنية تحتية وبرمجيات مدعومة بالgpu مصممة للتدريب على الذكاء الاصطناعي والاستدلال والحساب المتقدم. من خلال التركيز على الهندسة المعمارية المصممة لغرض محدد بدلاً من السحابة العامة، أصبحت كورويف شريكاً حاسماً في البنية التحتية للمختبرات والشركات التي تبحث عن الأداء وال鱗ية والكفاءة على نطاق واسع.

قضيت أكثر من 20 عاماً في شركة مايكروسوفت تعمل عبر هندسة ويندوز، واستراتيجية مبيعات السحابة، وسحابة مايكروسوفت للصناعة. ماذا تعلمت من تلك الرحلة حول ما يدفع بالفعل تبني المؤسسات، وكيف تطبق تلك الدروس اليوم في كورويف؟

تبدأ عملية تبني المؤسسات بحل مشكلة محددة للعملاء. الابتكار من أجل الابتكار فقط ليس مهمًا بشكل حقيقي للمؤسسات. إنه وضع نفسك في مكانهم لفهم ما يعاني منه حقاً — سواء كان ذلك التكلفة الداعمة أو التعقيدات التشغيلية أو الاتصال بالعملاء أو إدارة الفرق العالمية والمنتجات الجديدة — ثم تقديم خدمات تساعدهم. غالباً ما يكونون راغبين في أن يكونوا مبدعين في نهجهم، لكن الاعتبار الأكثر أهمية هو مساعدتهم على حل مشكلتهم. أكثر الأخطاء شيوعاً التي رأيتها في تصميم المنتج هو الانخراط过度 في روعة المنتج. في حين أن ذلك يحمل وزنًا في ساحة المستهلك، فإن العملاء في المؤسسات يهتمون في النهاية أكثر بالفائدة العملية من الروعة.

غالبًا ما يُوصف كورويف بأنه يقدم بنية تحتية للذكاء الاصطناعي مصممة لغرض محدد. ما يعنيه ذلك من وجهة نظر المنتج، وأين تكافح منصات السحابة العامة مع التحميلات للذكاء الاصطناعي؟

أهم فائدة لكوننا مصممين لغرض محدد هي القدرة على التركيز وتقديم خدمات دون الحاجة إلى حل كل حالة استخدام عامة. سأعطيك مثالين: أحدهما في البرمجيات والآخر في الأجهزة.

من ناحية البرمجيات، تقدم خدمتنا لتخزين الكائنات مع ذاكرة 캐ش LOTA وهي محددة خصيصاً لتحميلات الذكاء الاصطناعي. يتم تثبيتها مباشرة على عقد GPU، وتقدم نقطة نهاية S3 للتطبيق، وتنشئ استجابة لطلبات GPU عبر توسيع ذاكرة 캐ش عبر عدة عقد. هذا يزيد من الإنتاجية إلى GPU بمقدار يصل إلى 7 جيجابايت في الثانية، وهو ما يفوق ما تقدمه السحابة العامة. يمكننا تحقيق ذلك لأننا نصنع افتراضات حول تحملات الذكاء الاصطناعي، وتنسيق القراءة والكتابة، وتصميم المجموعات. إذا استخدم العميل ذلك لاستضافة قاعدة بيانات أو موقع تجاري إلكتروني، لن يكون له نفس التأثير. هذا هو تعريف البرمجيات المصممة لغرض محدد.

الexample الأجهزة مشابه. نظراً لتوسيعنا في نشر أحدث إصدارات NVIDIA (NVDA ) — والتي تحتاج إلى تبريد سائل — بنت كورويف خبرة محددة وتصاميم مراكز بيانات لدعم تلك الاحتياجات. على عكس السحابات الأكبر التي تبني من أجل التبادل ثم تضيف تبريد سائل في وقت لاحق، تبني كورويف مراكز بيانات مصممة للذكاء الاصطناعي من البداية. هذا يؤدي إلى تقليل التكاليف وزيادة التوافر لأنواع SKU الأحدث.

فيما يلي صورة لذاكرة 캐ش LOTA المذكورة.

عندما يفكر العملاء لأول مرة في توسيع نطاق الذكاء الاصطناعي، يعتقد العديد منهم أنهم يحتاجون فقط إلى الوصول إلى وحدات معالجة الرسومات. ما الذي يدركون عادة أنهم يفتقرون إليه بمجرد بدء التدريب أو تقديم النماذج على نطاق واسع؟

نظراً لتعقيد تشغيل التحميلات عبر مجموعات وحدات معالجة الرسومات الكبيرة، تصبح الخدمات المحيطة بها هي المحرك الحقيقي للنجاح. تشمل هذه الخدمات الواضحة، مثل التخزين والشبكات، ولكن أيضاً خدمات تشغيلية حاسمة مثل الرصد، وتحكم الأوركسترا، والأمان. هنا يبرز كورويف بتقديم Mission Control. يوفر للعملاء إدراكاً عميقاً لصحة العقد ووقت التشغيل عبر أسطولهم، ودمج هذه المعرفة مباشرة في محرك الأوركسترا. هذا يسمح للعميل بمعالجة البنية التحتية لا كعقد فردية، ولكن ككيان عمل موحد.

ما هي الأولويات الرئيسية للمنتج التي تركز عليها حالياً لتحسين نتائج العملاء، سواء كان ذلك الأداء أو الموثوقية أو قابلية التنبؤ بالتكلفة أو تجربة المطور؟

في المنصة الأساسية، نركز باستمرار على الأداء والموثوقية والرصد. يجب أن نضمن أن العملاء يمكنهم تشغيل الوظائف بطريقة متكررة ومتنبئة، مع الاستفادة الكاملة من كل TFLOP في كل وحدة معالجة الرسومات. إلى جانب ذلك، نعمل على تبسيط عملية التسجيل للعملاء الذين قد لا يكونون على دراية بكل ميزة في أداة مثل SLURM (التي يستخدمها الجميع، لكن الجميع يكرهها تقريباً). وأخيراً، نحن نطور خدمات إضافية ونمذج فواتير لتسهيل الابتكار والبدء بالحجم الصغير. حالياً، التجربة مفاجئة الصعوبة بسبب الحواجز العالية، مثل قيود السعة والالتزامات لمدة ثلاث سنوات والحاجة إلى خبراء متخصصين فقط للبدء. نريد إعادة سهولة الابتكار إلى منصة الذكاء الاصطناعي.

كلما انتقلت التحميلات للذكاء الاصطناعي من كونها محملة بالتدريب إلى كونها محملة بالاستدلال، كيف يؤثر ذلك على تصميم البنية التحتية وتصميم خارطة المنتج؟

يخلق ذلك فرصاً كبيرة لتطبيق التمايز الحالي لكورويف على متطلبات الاستدلال. على سبيل المثال، ذاكرة 캐ش LOTA التي ذكرتها تركز على تغذية وحدات معالجة الرسومات أثناء التدريب؛ ومع ذلك، يمكننا أخذ تلك التكنولوجيا نفسها، ودمجها في أشياء مثل KVCache، وتحويلها إلى متميزة قوية للاستدلال. بشكل مشابه، أدوات مثل Mission Control تصبح أكثر أهمية للاستدلال، حيث أن مراقبة صحة وحدة معالجة الرسومات حاسمة لتشغيل تطبيقات وكالة عالية التوافر.

على مدى السنة أو السنتين القادمين، ما الذي سيفصل القيادة في سوق السحابة للذكاء الاصطناعي، وأي قدرات سوف تهم العملاء أكثر؟

أعتقد أن القيادة سوف يتم تحديدها من خلال أمرين. الأول هو تقديم متطلبات النطاق المتزايدة للتدريب. هذا سوف يتطلب تقدمًا في الرصد ومراقبة الصحة والاستعادة التلقائية. عندما نتحرك من مئات إلى عشرات الآلاف من وحدات معالجة الرسومات الموزعة على نطاق عالمي، فإن الاستجابة اليدوية للفشل ليست قابلة للتطبيق.

الثاني هو تقديم الخدمات المناسبة لتحميلات الاستدلال والتحميلات الوكالية. هذا يتطلب قدرات النشر العالمي ونمذج أعمال تشجع على التجربة. هذا نمط الاستخدام ساعد على نمو السحابة في البداية، وهو ما فقد بعض الشيء في عصر الذكاء الاصطناعي. نحن بحاجة إلى إعادته من خلال دعم المنصة أفضل، والقدرات متعددة السحابة، وسهولة استخدام متعدد المناطق.

قادت سابقاً مبادرات سحابة محددة حسب الصناعة عبر قطاعات الرعاية الصحية والتجزئة والخدمات المالية والتصنيع والسحابة السيادية. ما هي الدروس التي تترجم مباشرة إلى بنية تحتية للذكاء الاصطناعي، وأي منها لا تترجم؟

الانقلابات الجيلية في وحدات معالجة الرسومات تroduce تعقيدات جديدة. كل إصدار جديد يأتي مع زيادة في الاتصال والذاكرة والحاجة إلى الطاقة، كل ذلك يتطلب منا إعادة النظر في افتراضاتنا حول كيفية توصيل العقد وكيفية تقديم البرمجيات. يجب أن نستمر في التركيز على هذا العمل لضمان الحفاظ على موقعنا القيادي. من ناحية أخرى، المجال الذي يتحسن بسرعة هو نطاق ما يمكن للعملاء إنجازه؛ السرعة التي يتكيفون بها مع أقدام الحوسبة الأكبر هي ممتازة.

كلما استمرت مراكز بيانات الذكاء الاصطناعي والمجموعات في التوسع، ما هي التحديات التشغيلية التي تثبت صعوبة حلها اليوم، وأي منها تحسن بسرعة؟

الانقلابات الجيلية لوحدات معالجة الرسومات تroduce تعقيدات جديدة في التصميم والبرمجيات. كل إصدار جديد يأتي مع زيادة في القدرات الاتصالية والذاكرة والحاجة إلى الطاقة، كل ذلك يتطلب منا إعادة النظر في افتراضاتنا حول كيفية توصيل العقد وكيفية إدارة الرفوف وكيفية تقديم البرمجيات. سنحتاج إلى الاستمرار في التركيز على هذا العمل لضمان الحفاظ على موقعنا القيادي. التحديات التي تحسن بسرعة هي ما يمكن للعملاء إنجازه مع نمو نطاق الحوسبة.

في بنية تحتية للذكاء الاصطناعي، لا تتجاوز الموثوقية وقت التشغيل. كيف يعرّف كورويف الموثوقية، وما هي المؤشرات التي تعكس نجاحاً من منظور العميل؟

على نطاق واسع، أكبر اعتبار للعميل هو ببساطة إنجاز الوظيفة. في العمليات الضخمة، الفشل الفردي أو البطء متوقع. المفتاح هو كيف نكتشف واستجيب تلقائياً لتلك القضايا لضمان إنجاز الوظيفة على الرغم من التحديات. هذا هو السبب في دمج Mission Control في خدمات أعلى مثل SUNK (Slurm على Kubernetes). يسمح للعملاء بالاستجابة للفشل تلقائياً دون فقدان ساعات أو أسابيع من العمل. بالنسبة لنا، النجاح ليس فقط حول وقت تشغيل العقد؛ إنه حول نجاح الوظيفة.

أمامنا، ما هو التحول الكبير في بنية تحتية للذكاء الاصطناعي الذي ما زال غير متعرف عليه، سواء كان ذلك متعلقاً بتطور الأجهزة، أو تخصيص البرامج، أو متطلبات السيادة، أو نماذج النشر الجديدة؟

أعتقد أن ظهور التعلم بالتعزيز (RL) كجزء متجدد من حزمة الذكاء الاصطناعي ما زال غير متعرف عليه. على الرغم من أنه ليس مجالاً جديداً للدراسة، إلا أنه كان مخفيًا خلال موجة التطوير الأولية للنماذج اللغوية الكبيرة. التعلم بالتعزيز يعود من جديد وسيلعب دوراً حاسماً في جعل خدمات الذكاء الاصطناعي أكثر استجابة لتغيرات بيئات مستخدميها. بسبب ذلك، نحن متحمسون جداً لتقديم التعلم بالتعزيز بدون خادم الذي لدينا اليوم.

شكراً على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة كورويف.