جيسون نايت هو المؤسس المشارك ونائب الرئيس لآلة التعلم في OctoAI – سلسلة المقابلات

جيسون نايت هو المؤسس المشارك ونائب الرئيس لآلة التعلم في OctoAI، المنصة التي توفر حزمة كاملة لصانعي التطبيقات لتشغيل وتحسين وتوسيع تطبيقات الذكاء الاصطناعي في السحابة أو على الموقع.

تم إنشاء OctoAI من قبل جامعة واشنطن من قبل المبتكرين الأصليين لآباتش تي في إم، وهي حزمة مفتوحة المصدر لذكاء الآلة والكفاءة. تتيح تي في إم للنماذج الذكية أن تعمل بكفاءة على أي خلفية أجهزة، وأصبحت جزءًا أساسيًا من هندسة الأجهزة الاستهلاكية الشهيرة مثل أمازون أليكسا.

يمكنك مشاركة الإلهام وراء تأسيس OctoAI والمشكلة الأساسية التي حاولت حلها؟

كان الذكاء الاصطناعي традиعيًا مجالًا معقدًا يمكن الوصول إليه فقط من قبل أولئك الذين يعتادون على الرياضيات والحوسبة عالية الأداء المطلوبة لإنشاء شيء به. ولكن الذكاء الاصطناعي يفتح واجهات الحوسبة النهائية، وهي النص والصوت والصورة المبرمجة بواسطة الأمثلة والتعليقات، ويجلب قوة الحوسبة الكاملة لكل شخص على الأرض. قبل الذكاء الاصطناعي، كان فقط المبرمجون能够 الحصول على أجهزة الكمبيوتر لتنفيذ ما يريدون من خلال كتابة نصوص برمجة غامضة.

تم إنشاء OctoAI لتسريع مسارنا إلى تلك الحقيقة بحيث يمكن لمزيد من الناس استخدام وفائدة من الذكاء الاصطناعي. والناس، بدورهم، يمكنهم استخدام الذكاء الاصطناعي لإنشاء مزيد من الفوائد من خلال تسريع العلوم والطب والفنون والمزيد.

مع مراعاة خبرتك في شركة إنتل، كيف أعدت وظائفك السابقة لك لتأسيس وتطوير OctoAI؟

أعطت لي إنتل والشركات الناشئة في مجال الأجهزة والتقنيات الحيوية قبلها منظورًا لرؤية مدى صعوبة الذكاء الاصطناعي حتى لأكثر الشركات التكنولوجية تطورًا، ومدى قيمته للذين تمكنوا من استخدامه. ورأيت أن الفجوة بين أولئك الذين يستفيدون من الذكاء الاصطناعي وأولئك الذين لم يستفيدوا بعد هي في الغالب فجوة في البنية التحتية والحوسبة وأفضل الممارسات – وليس السحر.

ما يميز OctoStack عن حلول نشر الذكاء الاصطناعي الأخرى المتاحة في السوق اليوم؟

OctoStack هو أول حزمة تكنولوجية كاملة مصممة خصيصًا لخدمة نماذج الذكاء الاصطناعي التوليدية في أي مكان. يوفر منصة إنتاج جاهزة توفر استدلالًا محسّنًا وتخصيصًا للنموذج وإدارة الأصول على مستوى المؤسسة.

يسمح OctoStack للشركات بالحصول على استقلالية الذكاء الاصطناعي من خلال تشغيل أي نموذج في بيئةهم المفضلة مع التحكم الكامل في البيانات والنموذج والأجهزة. كما يوفر أداءً غير مسبوق وفعاليّة التكلفة، مع توفير يصل إلى 12 مرة مقارنةً بالحلول الأخرى مثل GPT-4.

يمكنك شرح مزايا نشر نماذج الذكاء الاصطناعي في بيئة خاصة باستخدام OctoStack؟

النماذج اليوم شائعة، ولكن تجميع البنية التحتية الصحيحة لتشغيل هذه النماذج وتطبيقها على بياناتك هو حيث يبدأ عجلة القيمة التجارية حقًا. استخدام هذه النماذج على بياناتك الأكثر حساسية، ثم تحويلها إلى رؤى، وتحسين هندسة الاستدلال، وخطوط أنابيب RAG، وتحسين النماذج هو حيث يمكنك الحصول على أكبر قيمة من الذكاء الاصطناعي التوليدي. ولكن من الصعب على جميع الشركات إلا الأكثر تطورًا القيام بذلك بمفردهم، وهنا يمكن أن تساعد حلول جاهزة مثل OctoStack في تسريع وتجميع أفضل الممارسات في مكان واحد لممارسيك.

نشر نماذج الذكاء الاصطناعي في بيئة خاصة باستخدام OctoStack يوفر عدة مزايا، بما في ذلك تعزيز الأمان والتحكم في البيانات والنموذج. يمكن للعملاء تشغيل تطبيقات الذكاء الاصطناعي التوليدية داخل شبكاتهم الخاصة أو على الموقع، مما يضمن أن بياناتهم تبقى آمنة وموجودة في بيئتهم المختارة. كما يوفر هذا النهج للشركات مرونة تشغيل أي نموذج، سواء كان مفتوحًا أو مخصصًا أو مملوكًا، مع الاستفادة من خفض التكاليف وتحسين الأداء.

ما هي التحديات التي واجهتها في تحسين OctoStack لدعم مجموعة واسعة من الأجهزة، وكيف تم التغلب على هذه التحديات؟

تحسين OctoStack لدعم مجموعة واسعة من الأجهزة يتضمن ضمان التوافق والأداء عبر أجهزة مختلفة، مثل بطاقات الرسومات من إنفيديا وAMD وAWS Inferentia. تم التغلب على هذه التحديات من خلال الاستفادة من خبرة OctoAI العميقة في أنظمة الذكاء الاصطناعي، التي تم تطويرها من خلال سنوات البحث والتطوير، لإنشاء منصة تواصل وتدعم أنواع أجهزة إضافية وحالات استخدام الذكاء الاصطناعي التوليدي وأفضل الممارسات. هذا يسمح لشركة OctoAI بتقديم أداء وكفاءة التكلفة الرائدة في السوق.

إضافةً إلى ذلك، الحصول على أحدث القدرات في الذكاء الاصطناعي التوليدي، مثل التعددية، واستدعاء الوظائف، والامتثال الصارم لصيغة JSON، والاستضافة الفعالة للتحسين، والمزيد، في أيدي مطوريك الداخليين سيعجل بدخولك إلى الذكاء الاصطناعي.

OctoAI لديها تاريخ غني في استخدام Apache TVM. كيف أثرت هذه الإطار على قدرات منصتك؟

قمنا بإنشاء Apache TVM لجعل من السهل على المطورين المتقدمين كتابة مكتبات ذكاء اصطناعي فعالة لأجهزة الرسومات والمسرعين بسهولة أكبر. قمنا بذلك لأن الحصول على أفضل أداء من أجهزة الرسومات والمسرعين كان حاسمًا لاستدلال الذكاء الاصطناعي في ذلك الوقت كما هو الآن.

لقد استفدنا من نفس المنظور والخبرة لجميع حزمة خدمة الذكاء الاصطناعي التوليدي لتوفير التأتمتة لمجموعة أوسع من المطورين.

يمكنك مناقشة أي تحسينات أداء ملحوظة تقدمها OctoStack، مثل تحسين الأداء بنسبة 10 مرات في التوزيعات الكبيرة؟

OctoStack يوفر تحسينات أداء ملحوظة، بما في ذلك توفير يصل إلى 12 مرة مقارنةً بنماذج أخرى مثل GPT-4 دون التضحية بالسرعة أو الجودة. كما يوفر استفادة أفضل من بطاقات الرسومات بنسبة 4 مرات وتقليل التكاليف التشغيلية بنسبة 50٪، مما يسمح للشركات بتشغيل توزيعات كبيرة بكفاءة وتكلفة فعالة.

يمكنك مشاركة بعض الحالات الملحوظة التي تحسنت فيها OctoStack بشكل كبير نشر الذكاء الاصطناعي لعملائك؟

حالة ملحوظة هي Apate.ai، وهي خدمة عالمية لمكافحة الاحتيال الهاتفي باستخدام الذكاء الاصطناعي التوليدي. استفادت Apate.ai من OctoStack لتشغيل مجموعة نماذج اللغة بفعالية عبر جغرافيات متعددة، مستفيدة من مرونة OctoStack ومقياسها وأمانها. سمح هذا النشر لشركة Apate.ai بتسليم نماذج مخصصة تدعم لغات متعددة واللهجات الإقليمية، وتلبية متطلبات الأداء والأمان الحساسة.

إضافةً إلى ذلك، نقدم مئات من التحسينات للعميل OpenPipe. لو قاموا بتشغيل مثيلات مخصصة لكل منها، فإن حالات استخدام العملاء ستكون غير مجدية مع نموهم وتطورهم لحالات استخدامهم واعادة تدريب تحسيناتهم الفعالة للمعاملات للحصول على جودة الإخراج القصوى بأسعار فعالة.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة OctoAI.