نيتو باتاك، المؤسس المشارك والرئيس التنفيذي لشركة Skymel – سلسلة المقابلات

نيتو باتاك، المؤسس المشارك والرئيس التنفيذي لشركة Skymel، يقود الشركة في ثورة الاستدلال الاصطناعي بتقنية NeuroSplit ™ المبتكرة. إلى جانب الرئيس التقني سوشانت تريباثي، تقود باتاك مهمة Skymel لتحسين أداء تطبيقات الاستدلال الاصطناعي مع تقليل التكاليف الحسابية.

NeuroSplit ™ هي تقنية استدلال متكيفة توزع ديناميكيًا حمولة الاستدلال الاصطناعي بين أجهزة المستخدمين وخادمات السحابة. هذا النهج يستفيد من الموارد الحسابية الخاضعة في أجهزة المستخدمين، مما يقلل من تكاليف البنية التحتية للسحابة بنسبة تصل إلى 60٪، ويتسارع سرعة الاستدلال، ويتأكد من خصوصية البيانات، ويتمكن من التوسع السلس.

من خلال تحسين القدرة الحسابية المحلية، يسمح NeuroSplit ™ لتطبيقات الاستدلال الاصطناعي بالتشغيل بكفاءة حتى على بطاقات الرسومات القديمة، مما يقلل بشكل كبير من التكاليف مع تحسين تجربة المستخدم.

ما الذي ألهمك لتأسيس Skymel، وما هي التحديات الرئيسية في بنية الاستدلال الاصطناعي التي كنت تسعى إلى حلها مع NeuroSplit؟

الوحي لتأسيس Skymel جاء من التلاقي بين خبراتنا التكميلية. خلال فترة وجوده في جوجل، اكتشف شريكي المؤسس سوشانت تريباثي أن هناك كمية هائلة من القدرة الحسابية الخاضعة على أجهزة المستخدمين، لكن معظم الشركات لم تتمكن من الاستفادة منها بشكل فعال بسبب التحديات الهندسية المعقدة لوصول إلى هذه الموارد دون المساس بتجربة المستخدم.

في غضون ذلك، أعطتني خبرتي في العمل مع الشركات والشركات الناشئة في Redis رؤية عميقة حول كيفية أهمية التأخير بالنسبة للأعمال. مع انتشار تطبيقات الاستدلال الاصطناعي، أصبح من الواضح أننا بحاجة إلى نقل المعالجة إلى مكان أقرب إلى حيث يتم إنشاء البيانات، بدلاً من نقل البيانات باستمرار إلى مراكز البيانات.

ذلك عندما أدرك سوشانت وأنا أن المستقبل ليس حول الاختيار بين المعالجة المحلية أو السحابية – بل حول إنشاء تقنية ذكية يمكنها التكيف بشكل سلس بين المعالجة المحلية أو السحابية أو الهجينة بناءً على كل طلب استدلال محدد. هذا الاكتشاف أدى بنا إلى تأسيس Skymel وتنمية NeuroSplit، متجاوزين القيود التقليدية للبنية التحتية التي كانت تعيق الابتكار في مجال الاستدلال الاصطناعي.

يمكنك شرح كيفية عمل NeuroSplit في تحسين الموارد الحسابية ديناميكيًا مع الحفاظ على خصوصية المستخدم وأداءه؟

أحد العوائق الرئيسية في الاستدلال الاصطناعي المحلي هو متطلباته الحسابية الثابتة – تقليديًا، تشغيل نموذج اصطناعي يتطلب نفس الموارد الحسابية بغض النظر عن ظروف الجهاز أو سلوك المستخدم. هذا النهج الواحد ينغمس في الواقع أن الأجهزة لديها قدرات أجهزة مختلفة، من شريحة (GPU، NPU، CPU، XPU) إلى نطاقات شبكة مختلفة، والمستخدمون لديهم سلوكيات مختلفة فيما يتعلق bằng استخدام التطبيقات ونمط الشحن.

يتم مراقبة NeuroSplit باستمرار لمختلف تيليمتريكات الجهاز – من القدرات الأجهزة إلى استخدام الموارد الحالية، وحالة البطارية، وضروف الشبكة. كما نأخذ في الاعتبار أنماط سلوك المستخدم، مثل عدد التطبيقات الأخرى التي يتم تشغيلها ونمط استخدام الجهاز النموذجي. يسمح هذا المراقبة الشامل ل NeuroSplit بتحديد ديناميكيًا كمية معالجة الاستدلال التي يمكن تشغيلها بأمان على جهاز المستخدم مع تحسين مؤشرات الأداء الرئيسية للمطورين

عندما تكون خصوصية البيانات أمرًا بالغ الأهمية، يضمن NeuroSplit أن لا تترك البيانات الخام الجهاز أبدًا، معالجة المعلومات الحساسة محليًا مع الحفاظ على الأداء الأمثل. يسمح لنا القدرة على تقسيم أو تقليص أو فك نموذج الاستدلال الاصطناعي بتشغيل 50-100 نموذج استدلال اصطناعي في مساحة الذاكرة لنموذج كمي واحد على جهاز المستخدم. في المصطلحات العملية، هذا يعني أن المستخدمين يمكنهم تشغيل تطبيقات أكثر قوة بالاستدلال الاصطناعي بشكل متزامن، معالجة البيانات الحساسة محليًا، مقارنة بالنهج الحسابية الثابتة التقليدية.

ما هي الفوائد الرئيسية لاستدلال NeuroSplit المتكيف لشركات الاستدلال الاصطناعي، خاصة تلك التي تعمل مع تقنية GPU القديمة؟

يتم تسليم NeuroSplit ثلاث فوائد تحويلية لشركات الاستدلال الاصطناعي. أولًا، يقلل بشكل كبير من تكاليف البنية التحتية من خلال آليتين: يمكن للشركات استخدام بطاقات الرسومات الأقل تكلفة والأقدم، وقدرتنا الفريدة على تشغيل كل من النماذج الكاملة والنموذج المقطوع على بطاقات الرسومات السحابية يسمح بمعدلات استخدام أعلى بكثير. على سبيل المثال، يمكن لتطبيق يحتاج عادة إلى العديد من بطاقات NVIDIA A100 بتكلفة 2.74 دولار في الساعة أن ي chạy على بطاقة A100 واحدة أو عدة V100 بتكلفة 0.83 دولار في الساعة.

ثانيًا، نحسن الأداء بشكل كبير من خلال معالجة البيانات الخام الأولية مباشرة على أجهزة المستخدمين. هذا يعني أن البيانات التي تنتقل في النهاية إلى السحابة تكون أصغر بكثير في الحجم، مما يقلل من تأخير الشبكة بشكل كبير مع الحفاظ على الدقة. هذا النهج الهجين يعطي الشركات أفضل ما في كلا العالمين – سرعة المعالجة المحلية مع قوة الحوسبة السحابية.

ثالثًا، من خلال معالجة البيانات الأولية الحساسة على جهاز المستخدم، نساعد الشركات على الحفاظ على حماية خصوصية المستخدم القوية دون المساس بالأداء. هذا يصبح أكثر أهمية مع صرامة لوائح الخصوصية وزيادة وعي المستخدمين بخصوصية البيانات.

كيف يقلل حل Skymel من تكاليف استدلال الاستدلال الاصطناعي دون المساس بتعقيد النموذج أو دقته؟

أولاً، من خلال تقسيم نموذج الاستدلال الاصطناعي الفردي، نوزع الحساب بين أجهزة المستخدمين والسحابة. يتم تشغيل الجزء الأول على جهاز المستخدم، معالجة 5٪ إلى 100٪ من الحساب الإجمالي اعتمادًا على الموارد المتاحة للجهاز. فقط الحساب المتبقي يحتاج إلى المعالجة على بطاقات الرسومات السحابية.

هذا التقسيم يعني أن بطاقات الرسومات السحابية تتعامل مع حمل حسابية مخفضة – إذا كان النموذج الأصلي يتطلب بطاقة A100 كاملة، بعد التقسيم، قد تحتاج تلك الحملة نفسها إلى 30-40٪ فقط من سعة البطاقة. هذا يسمح للشركات باستخدام مثيلات بطاقات الرسومات الأقل تكلفة مثل V100.

ثانيًا، يحدد NeuroSplit استخدام بطاقات الرسومات السحابية. من خلال ترتيب كفء لكل من النماذج الكاملة والنموذج المقطوع على نفس بطاقة الرسومات السحابية، نحقق معدلات استخدام أعلى بكثير مقارنة بالنهج التقليدية. هذا يعني أن المزيد من النماذج يمكن تشغيلها بشكل متزامن على نفس بطاقة الرسومات السحابية، مما يقلل من التكاليف لكل استدلال.

ما يميز نهج Skymel الهجين (المحلي + السحابي) عن حلول البنية التحتية للاستدلال الاصطناعي الأخرى في السوق؟

منظر الاستدلال الاصطناعي في نقطة انعطافة مثيرة. في حين يظهر آبل وسامسونج وكوالكوم قوة الاستدلال الاصطناعي الهجين من خلال ميزات نظامهم، تظل هذه الحدائق المحمية. لكن الاستدلال الاصطناعي لا ينبغي أن يقتصر على جهاز المستخدم الذي يستخدمه شخص ما.

NeuroSplit هو في الأساس جهاز مستقل، وسحابي مستقل، وشبكة عصبية مستقل. هذا يعني أن المطورين يمكنهم终于 تقديم تجارب الاستدلال الاصطناعي المتسقة بغض النظر عما إذا كان مستخدموهم على هاتف آيفون أو جهاز أندرويد أو لابتوب – أو ما إذا كانوا يستخدمون AWS أو Azure أو جوجل كلاود.

فكر في ما يعنيه هذا للمطورين. يمكنهم بناء تطبيق الاستدلال الاصطناعي مرة واحدة ويعرفون أنه سيتكيف بشكل ذكي عبر أي جهاز، أي سحابة، و أي بنية شبكة عصبية. لا يتعين عليهم بناء إصدارات مختلفة لمنصات مختلفة أو التضحية بالسمات بناءً على قدرات الجهاز.

نحن نخرج من ميزات الاستدلال الاصطناعي الهجين من الحدائق المحمية وجعلها متاحة على نطاق واسع. مع تحول الاستدلال الاصطناعي إلى جزء مركزي من كل تطبيق، هذه المرونة والاتساق ليست مجرد ميزة – بل ضرورية للابتكار.

كيف يكمّل وكلاء Orchestrator NeuroSplit، وما الدور الذي يلعبه في تحويل استراتيجيات نشر الاستدلال الاصطناعي؟

يعمل وكلاء Orchestrator (OA) و NeuroSplit معًا لإنشاء نظام نشر استدلال اصطناعي自يّ التحسين:

1. يحدد المطورون الحدود:

• القيود: النماذج المسموح بها، الإصدارات، مزودي السحابة، المناطق، قواعد الامتثال
• الأهداف: التأخير المستهدف، حدود التكلفة، متطلبات الأداء، احتياجات الخصوصية

2. يعمل OA داخل هذه القيود لتحقيق الأهداف:

• يقرر أي النماذج / واجهات برمجة التطبيقات لاستخدامها لكل طلب
• يتكيف استراتيجيات النشر بناءً على الأداء في العالم الحقيقي
• يقوم بتبادل الخيارات لتحسين الأهداف المحددة
• يمكن إعادة تكوينه على الفور مع تغيير الاحتياجات

3. يُنفذ NeuroSplit قرارات OA:

• يستخدم تيليمتريكات الجهاز في الوقت الفعلي لتحسين التنفيذ
• يقسم المعالجة بين الجهاز والسحابة عند الفائدة
• يضمن أن كل استدلال يتشغيل بشكل مثالي بالنظر إلى الظروف الحالية

إنه مثل وجود نظام استدلال اصطناعي يتحكم في نفسه تلقائيًا داخل قواعدك وهدفك المحدد، بدلاً من الحاجة إلى تحسين يدوي لكل سيناريو.

ما رأيك في كيفية تغيير وكلاء Orchestrator طريقة نشر الاستدلال الاصطناعي عبر الصناعات؟

يهز ثلاث تحديات حرجة كانت تعيق تبني الاستدلال الاصطناعي والابتكار.

أولاً، يسمح للشركات بالاحتفاظ بالتماسك مع أحدث تقدمات الاستدلال الاصطناعي بلا جهد. مع وكلاء Orchestrator، يمكنك الاستفادة الفورية من أحدث النماذج والتقنيات دون إعادة بناء البنية التحتية. هذا ميزة تنافسية كبيرة في عالم حيث يتقدم الابتكار في الاستدلال الاصطناعي بسرعة خيالية.

ثانيًا، يتيح تحسين اختيار نموذج الاستدلال الاصطناعي بشكل ديناميكي لكل طلب. يمكن لوكلاء Orchestrator دمج النماذج بشكل ذكي من النظام البيئي الكبير لتحقيق أفضل النتائج الممكنة لكل تفاعل مستخدم. على سبيل المثال، يمكن لاستدلال خدمة العملاء استخدام نموذج متخصص للأسئلة الفنية ونموذج آخر للاستفسارات المتعلقة بالفواتير، مما يؤدي إلى نتائج أفضل لكل نوع من التفاعلات.

ثالثًا، يضمن الأداء الأقصى مع تقليل التكاليف. الوكيل يوازن تلقائيًا بين تشغيل الاستدلال الاصطناعي على جهاز المستخدم أو في السحابة بناءً على ما يفيد أكثر في ذلك الوقت. عندما تكون الخصوصية مهمة، يتم معالجة البيانات محليًا. عندما يحتاج إلى قوة حسابية إضافية، يستفيد من السحابة. كل هذا يحدث خلف الكواليس، مما يخلق تجربة سلسة للمستخدمين مع تحسين الموارد للأعمال.

لكن ما يميز وكلاء Orchestrator حقًا هو كيف يسمح للأعمال بإنشاء تجارب شخصية فائقة الجودة للمستخدمين. خذ منصة تعليم إلكتروني – مع تقنيتنا، يمكنهم بناء نظام يمكنه التكيف تلقائيًا مع نهج التدريس بناءً على مستوى فهم كل طالب. عندما يبحث المستخدم عن “الاستدلال الاصطناعي”، لا يعرض النظام نتائج جينية فحسب – بل يقوم بتقييم فهمه الحالي وتخصيص التوضيحات باستخدام المفاهيم التي يعرفها بالفعل.

في النهاية، يمثل وكلاء Orchestrator مستقبل نشر الاستدلال الاصطناعي – تحولًا من البنية التحتية الثابتة إلى أوركسترا استدلال اصطناعي自يّ التحسين. ليس فقط عن جعل نشر الاستدلال الاصطناعي أسهل – بل عن جعل فئات كاملة من تطبيقات الاستدلال الاصطناعي ممكنة.

ما هو نوع الملاحظات التي تلقيتها حتى الآن من الشركات المشاركة في النسخة التجريبية الخاصة لوكلاء Orchestrator؟

كانت ردود الأفعال من المشاركين في النسخة التجريبية الخاصة رائعة! الشركات مسرورة باكتشاف أنها يمكن أن تتحرر أخيرًا من حبس البنية التحتية، سواء كانت نماذج مملوكة أو خدمات استضافة. القدرة على حماية أي قرار تنموي في المستقبل قد غير اللعبة، مما يزيل أشهر من إعادة العمل عند تغيير النهج.

كانت نتائج أداء NeuroSplit لا تقل عن الرائعة – لا نستطيع الانتظار لمشاركة البيانات علنًا قريبًا. ما يثير الإثارة بشكل خاص هو كيف أن مفهوم نشر الاستدلال الاصطناعي التكيفي قد أسر الخيال. حقيقة أن الاستدلال الاصطناعي ينشر نفسه يبدو مستقبليًا وليس شيئًا يتوقعونه الآن، لذلك مجرد فكرة التقدم التكنولوجي يثير الناس حول الإمكانيات والأسواق الجديدة التي قد تنشأ في المستقبل.

مع التقدم السريع في الاستدلال الاصطناعي التوليدي، ما هي العوائق الرئيسية التالية للبنية التحتية للاستدلال الاصطناعي التي ترى أنها تلوح في الأفق، وكيف تخطط Skymel لمواجهتها؟

نحن نتقدم نحو مستقبل لم يسبق له مثيل بعد: لن يكون هناك نموذج استدلال اصطناعي واحد مهيمن، بل مليارات النماذج. حتى لو خلقنا نموذج الاستدلال الاصطناعي العام الأكثر قوة، سنظل بحاجة إلى نسخ مخصصة لكل شخص على الأرض، لكل سياق فريد، تفضيلات، و احتياجات. هذا يعني على الأقل 8 مليارات نموذج، بناءً على عدد سكان العالم.

هذا يشير إلى تحول ثوري من النهج الشامل الحالي. المستقبل يحتاج إلى بنية تحتية ذكية يمكنها التعامل مع مليارات النماذج. في Skymel، نحن لا نحل تحديات نشر اليوم فقط – بل خطة طريق التكنولوجيا الخاصة بنا تبني بالفعل الأساس لما يأتي بعد ذلك.

كيف تتخيل تطور بنية الاستدلال الاصطناعي خلال السنوات الخمس القادمة، وما هو الدور الذي ترى Skymel تلعبه في هذا التطور؟

منظر بنية الاستدلال الاصطناعي على وشك أن يخضع لتغيير جوهري. بينما يركز اليوم على توسيع نماذج اللغة الكبيرة في السحابة، ستشهد السنوات الخمس القادمة تحول الاستدلال الاصطناعي ليكون شخصيًا ومتجاوبًا مع السياق. هذا ليس فقط عن ضبط الدقة – بل عن الاستدلال الاصطناعي الذي يتكيف مع مستخدمين محددين، أجهزة، وحالات في الوقت الفعلي.

يخلق هذا التحول تحديين بنيويين رئيسيين. أولًا، يصبح النهج التقليدي لتشغيل كل شيء في مراكز البيانات غير مستدام تقنيًا واقتصاديًا. ثانيًا، يزيد تعقيد تطبيقات الاستدلال الاصطناعي من الحاجة إلى بنية تحتية يمكنها التحسين الديناميكي عبر عدة نماذج، أجهزة، ومواقع حسابية.

في Skymel، نبني بنية تحتية تتعامل بشكل خاص مع هذه التحديات. تكنولوجيانا تمكن الاستدلال الاصطناعي من التشغيل في المكان الذي يفيد أكثر – سواء على الجهاز حيث يتم إنشاء البيانات، أو في السحابة حيث تتوفر المزيد من القدرة الحسابية، أو بتقسيمها بشكل ذكي بينهما. وأهم من ذلك، تتكيف هذه القرارات في الوقت الفعلي بناءً على الظروف والتطلبات المتغيرة.

في النهاية، لن يتم تحديد تطبيقات الاستدلال الاصطناعي الناجحة من حجم نماذجها أو كمية الحوسبة التي يمكن الوصول إليها. ستتمتع بتجارب الاستدلال الاصطناعي الشخصية والاستجابة مع إدارة الموارد بكفاءة. هدفنا هو جعل مستوى التحسين الذكي هذا متاحًا لتطبيق الاستدلال الاصطناعي كلها، بغض النظر عن الحجم أو التعقيد.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Skymel.