تضيف Clairvoyance من Stardock ميزة Hivemind لمشاركة وحدات معالجة الرسومات الخاملة في تشغيل الذكاء الاصطناعي محليًا

تتيح Clairvoyance من Stardock للفرق الاستفادة من أجهزة الكمبيوتر غير المستغلة في استدلال الذكاء الاصطناعي. ويتضمن Locama، وهو مدير للنماذج المحلية، ميزة Hivemind التي توزّع سعة الاستدلال المحلي بين أجهزة الشركة، إلى جانب معيار أداء يهدف إلى توضيح كفاءة الأجهزة المحددة في تشغيل الذكاء الاصطناعي.

يقدّم إصدار 5 نوفمبر Clairvoyance 0.90 بوصفه بيئة سطح مكتب لاستخدام النماذج المحلية والسحابية معًا. ويدير Locama تثبيت النماذج المحلية وتشغيلها وتنسيقها على أنظمة Windows وmacOS وLinux؛ أما Hivemind فيوسّع هذه الفكرة لتشمل الأجهزة المتاحة للفريق بدلًا من جهاز واحد.

تستهدف Stardock الأعمال الروتينية ذات الحجم الكبير في مجالات مثل المشتريات وسلاسل الإمداد والعمليات القانونية والتمويل. وتتمثل حجتها في إمكان إنجاز بعض هذه المهام باستخدام أجهزة تملكها المؤسسة بالفعل، ما يقلل الحاجة إلى إرسال كل طلب إلى خدمة سحابية تُحاسب بحسب الاستخدام.

تحوّل Hivemind أجهزة الكمبيوتر الاحتياطية إلى سعة استدلال مشتركة

تتيح Hivemind لأعضاء الفريق إنجاز مهام الذكاء الاصطناعي باستخدام وحدات معالجة الرسومات الخاملة في أجهزة الشركة. وقد يكون ذلك مفيدًا على نحو خاص خارج ساعات العمل المعتادة، حين قد تبقى الأجهزة القادرة على تشغيل النماذج المحلية من دون استخدام.

قال براد وارديل، الرئيس التنفيذي لشركة Stardock Software: «لدى معظم الشركات أجهزة قادرة على العمل لكنها تبقى خاملة كل ليلة، وتتيح Hivemind جمع هذه الأجهزة وتشغيلها للاستفادة منها».

تصف المصطلحات التقنية التي تستخدمها الشركة Hivemind بأنها استدلال محلي مشترك بين الأجهزة النظيرة. كما تذكر على نحو منفصل أن Locama هو مضيف الاستدلال، وأن مكوّن التوجيه المسمى Concierge مسؤول عن اختيار نموذج وجهاز لكل دور.

ومن المهم التمييز بين ذلك وبين افتراض أن عدة أجهزة كمبيوتر تتحول إلى مسرّع واحد كبير. فتوزيع العمل على الأجهزة المتاحة قد يزيد السعة القابلة للاستخدام، لكن الإعلان لا يحدد ما إذا كان التنفيذ يتم بالتوازي على مستوى الموترات، أو ما إذا كانت ذاكرة وحدات معالجة الرسومات تُجمع، أو كيفية تقسيم نموذج يتجاوز حجمه سعة جهاز واحد بين الأجهزة النظيرة.

على الفريق الذي يقرر مكان تشغيل عبء عمل ما أن يطرح أسئلة مفيدة: هل يلائم النموذج الأجهزة المتاحة؟ وهل يقدم نتائج مقبولة؟ وهل يؤدي توجيه العمل إلى جهاز آخر إلى تأخير يفوق ما يوفره؟ وتعتمد فائدة Hivemind على اجتماع هذه العوامل، لا على توافر وحدات معالجة الرسومات وحده.

النماذج المحلية والسحابية في مساحة العمل نفسها

تنظّم Clairvoyance مساعدي الذكاء الاصطناعي في هيئة موظفين يحملون أسماءً، ويعملون مع ملفات المستخدم وينتجون المستندات وغيرها من المخرجات. وتوضح الوثائق كيفية إسناد مزودين مختلفين أو نماذج محلية إلى الموظفين، ما يتيح لمساحة العمل الجمع بين خيارات حوسبة متعددة.

والتمييز بين هذه الخيارات مهم. فالنموذج المحلي يعمل على أجهزة يتحكم فيها المستخدم أو المؤسسة. أما ربط أداة تابعة لمزود سحابي فيتيح الوصول عبر حساب ذلك المزود وآليات المصادقة لديه؛ ولا يعني تثبيت Clairvoyance تلقائيًا الحصول على وصول غير محدود إلى كل نموذج تجاري تدعمه.

وتشير الوثائق أيضًا إلى تفاوت قدرات استخدام الأدوات بين النماذج المحلية. فليس بالضرورة أن يكون النموذج القادر على الإجابة عن الأسئلة قادرًا على تنفيذ سير العمل الوكيلي الذي يحتاج إليه الفريق. لذلك، فإن اختيار نموذج محلي أصغر حجمًا قرار يرتبط بالمهمة، ويأخذ القدرات والسرعة في الحسبان.

وهذا يمنح المنتج دورًا عمليًا يربط بين الموظف وبيئات تشغيل النماذج الأساسية. وبدلًا من فرض استخدام الواجهة الخلفية نفسها لكل مهمة، يمكن للبيئة دعم خيارات مختلفة بحسب طبيعة العمل. ولا يقدم الإصدار قياسات مستقلة لمدى خفض تكاليف السحابة عند استخدام Hivemind.

معيار أداء للأجهزة التي يملكها الناس فعلًا

يتضمن Locama أيضًا معيار Clairvoyance المحلي للذكاء الاصطناعي. وتصف Stardock مقياسها الرئيسي، «سرعة النموذج»، بأنه يجمع الوقت الذي يستغرقه النموذج المحلي لمعالجة طلب وإرجاع إجابة كاملة. وتتوفر النتائج للعامة على clairvoyanceai.com/benchmark، كما يمكن لمستخدمي Professional إجراء اختبارات على أجهزتهم.

توضح ملاحظات الإصدار الخاصة بالمنتج أن القياسات تشمل المعالجة المسبقة للمدخلات، وفك الترميز، ووقت ظهور أول رمز، واستهلاك الذاكرة، إلى جانب اختبارات مرتبطة بمهام محددة. والمعالجة المسبقة للمدخلات هي معالجة الموجّه المُدخل والسياق المرتبط به؛ أما فك الترميز فهو توليد الإجابة. وقد تفرض هاتان المرحلتان أعباءً مختلفة على الأجهزة.

قد يجعل ظهور الرمز الأول بسرعة الواجهة تبدو سريعة الاستجابة، في حين يهم زمن الإنجاز الكلي عند تنفيذ مهمة دفعية أو مهمة وكيلة أطول. وإظهار هذه المقاييس يجعل معيار الأداء أكثر فائدة من الاعتماد على مواصفة واحدة للأجهزة.

توضح صفحة النتائج أن المشاركات مقدمة من مستخدمي Clairvoyance وتعكس أجهزتهم وإعداداتهم. وهذا يجعل قاعدة البيانات مصدرًا لأدلة مرتبطة بإعدادات محددة، لا ترتيبًا مستقلًا أُعدّ في ظروف مضبوطة. وما زالت المقارنات المفيدة تتطلب مراعاة النموذج والدقة والسياق والمهمة وبيئة التشغيل المستخدمة.

تكامل Qualcomm يضيف خيارًا آخر للحوسبة المحلية

يعود تعاون Clairvoyance مع Qualcomm إلى ما قبل هذا الإصدار. وتوثّق مقالة مطوّري Qualcomm المنشورة في 23 سبتمبر دمج GenieX، بيئة التشغيل للذكاء الاصطناعي التوليدي على الجهاز من الشركة المصنّعة للرقائق، مع وحدة المعالجة العصبية Hexagon في حواسيب Snapdragon X Series.

يوسّع هذا الدمج نطاق الاستدلال المحلي ليتجاوز وحدات معالجة الرسومات المكتبية التقليدية. وتوضح Qualcomm إمكانية اختيار النماذج وموارد الحوسبة وفقًا لمتطلبات المهمة، مع دعم سير العمل المحلي القائم على الوكلاء. لكنه لا يثبت أن كل نموذج محلي يمكنه أن يحل محل نموذج سحابي متطور في كل مهمة.

تكمن أهمية ذلك بالنسبة إلى Hivemind في الاستراتيجية الأوسع للأجهزة: إتاحة استخدام موارد الحوسبة الموجودة بالفعل من خلال بيئة عمل واحدة. فقد تختلف الأجهزة في سعة النماذج وعرض النطاق الترددي وتسريع المعالجة الذي توفره، لذا ينبغي للبرمجيات أن توائم المهمة مع الإمكانات المتاحة.

التسعير واقتصاديات إعادة استخدام الأجهزة

يجري إصدار Clairvoyance 0.90 لأنظمة Windows وmacOS وLinux. وتعرض صفحة الأسعار باقة مجانية للاستخدام الشخصي وغير التجاري، فيما تبلغ تكلفة Professional ‏20 دولارًا شهريًا، وتشمل ترخيصًا تجاريًا وHivemind وإمكانات مخصصة للفرق ومزامنة سحابية وباقة رموز ذكاء اصطناعي مضمنة. أما Enterprise، فسعرها 100 دولار لكل مقعد شهريًا، وتشمل ميزات تنظيمية إضافية وترتيبات خاصة بالكميات الكبيرة.

قد يقلل الاستدلال المحلي الإنفاق السحابي القائم على الاستخدام، لكنه يظل مصحوبًا بتكاليف، منها الطاقة واستهلاك الأجهزة والإدارة وتكلفة الفرصة البديلة لشغل جهاز. كما ينبغي أن تأخذ مقارنة التكاليف في الحسبان جودة المخرجات وأي عمل لازم لمراجعتها أو تصحيحها.

تراهن Stardock على أن قدرًا كافيًا من العمل المتكرر يمكن إنجازه وفق هذه المتطلبات على أجهزة موجودة بالفعل في متناول اليد. ويتيح Hivemind للفرق استكشاف هذا الاحتمال، فيما يوفر الاختبار المعياري نقطة انطلاق لقياس مدى ملاءمة النماذج والأجهزة المختلفة للمهمة.