Backboard.io تكشف عن حزمة بنية تحتية للذكاء الاصطناعي تركز على الكفاءة والسيطرة على الشركات والتشغيل المستقل

مع سباق المنظمات لاعتماد الذكاء الاصطناعي، تحولت المناقشة بشكل متزايد من الأداء الخام للنموذج إلى سؤال أكثر عمليًا: كيف يمكن للشركات تشغيل الذكاء الاصطناعي بتكلفة أقل مع الحفاظ على السيطرة على بياناتها؟ يعتقد Backboard.io، الذي يقع مقره في أوتاوا، أن الجواب لا يكمن في مجموعات GPU أكبر، ولكن في جعل البنية التحتية الحالية للذكاء الاصطناعي أكثر كفاءة بشكل كبير.

في يوم كندا، أعلنت الشركة عن أربعة تقنيات رئيسية تشمل ضغط النموذج، وتطوير البرمجيات بمساعدة الذكاء الاصطناعي، ووصول متعدد النماذج الاصطناعية، وذاكرة الذكاء الاصطناعي طويلة الأمد. بينما يسلط الإعلان الضوء على الجذور الكندية للشركة، القصة الأوسع هي حول البنية التحتية المصممة للشركات التي تريد خفض تكاليف الذكاء الاصطناعي مع الحفاظ على حمولة العمل الحساسة داخل بيئاتها الخاصة.

جعل وحدات معالجة الرسومات الحالية أكثر كفاءة

ربما يكون الإعلان الأكثر أهمية من الناحية الفنية هو BackboardQuant (BBQ)، وهو تقنية ضغط نموذج يزعم الشركة أنها يمكن أن تقلل من حجم نموذج الذكاء الاصطناعي بنسبة تصل إلى 70٪ مع الحفاظ على جودة الإخراج شبه متطابقة.

أصبح ضغط النموذج مجالًا متزايد الأهمية في أبحاث الذكاء الاصطناعي مع كفاح المنظمات مع ارتفاع تكلفة الاستدلال. النماذج الأصغر تستهلك moins من الذاكرة، وتتطلب موارد أقل للعتاد، ويمكن أن تنفذ بشكل أسرع في كثير من الأحيان، مما يسمح للمنظمات بنشر نماذج متقدمة دون الحاجة إلى توسيع سعة وحدات معالجة الرسومات بشكل مستمر.

وفقًا لما تقوله Backboard.io، فإن الاختبارات الداخلية تظهر أن BBQ يمكن أن توفر ما يصل إلى 2.7 مرة أسرع في الاستدلال، مما يسمح لوحدة معالجة رسومات واحدة بالقيام بالعمل الذي قد يتطلب عادةً عدة معززات. بدلاً من استبدال نماذج الأساس الحالية، تم تصميم التكنولوجيا لتحسينها لتنشر الإنتاج.

التنافس في تطوير البرمجيات بمساعدة الذكاء الاصطناعي

كما أعلنت الشركة عن Backboard Studio، وهو منصة برمجة الذكاء الاصطناعي يهدف بشكل مباشر إلى واحدة من أسواق الذكاء الاصطناعي الأكثر تنافسًا اليوم.

بدلاً من تطوير نموذج لغة الحدود الخاص به، يتبنى Backboard نهجًا معماريًا مختلفًا. تقوم المنصة بالجلوس على قمة النماذج الحالية بينما تحاول تحسين الكفاءة من خلال التوجيه، وإدارة السياق، والعمليات المتكررة، وتنظيم الرموز. يمكن للمطورين اختيار النماذج التجارية الرائدة أو البديل المفتوح بينما تدير المنصة سياق المشروع، وتنفيذ 워크فロー، وإنشاء رمز الإنتاج.

تدعي Backboard أن المنصة تحقق نتائج اختبار تتنافس مع معظم مساعدي البرمجة بينما تقلل من استخدام الرموز بنسبة تصل إلى 30٪، وهو اعتبار متزايد الأهمية مع سعى الشركات لتنظيم تكاليف تشغيل الذكاء الاصطناعي.

تؤكد الشركة أيضًا على مرونة التبعية للشركات. يمكن تشغيل Backboard Studio كخدمة سحابية أو داخل بنية المنظمة الخاصة، مما يسمح للкод المصدري الخاص بالبقاء داخل البيئات الشركية بدلاً من إرساله إلى مزودي الذكاء الاصطناعي من الطرف الثالث.

Nash توحيد آلاف النماذج الاصطناعية

مكون ثالث من الإعلان هو Nash، وهو تطبيق محادثة موحد يوفر الوصول إلى آلاف النماذج الاصطناعية للنص والصورة من خلال واجهة واحدة.

يتناول المفهوم قلقًا متزايدًا للشركات يُعرف باسم “الذكاء الاصطناعي الخفي”، حيث يعتمد الموظفون على أدوات الذكاء الاصطناعي للمستهلكين خارج الأنظمة الشركية المعتمدة. بدلاً من محاولة حظر استخدام الذكاء الاصطناعي، تضع Backboard Nash كمنصة مركزية توفر للشركات الوصول إلى مجموعة واسعة من النماذج مع الحفاظ على الحوكمة على بيانات المستخدم وذاكرة المنظمة.

دعم البنية التحتية أيضًا جلب مفتاحك الخاص (BYOK)، وإدارة السياق التكيفية، والتوجيه عبر آلاف النماذج المتاحة من خلال منصة واحدة.

علاج الذاكرة كبنية تحتية للذكاء الاصطناعي

كان أحد التركيزات الفنية المميزة لشركة Backboard منذ إطلاقها هو الذاكرة المستدامة للذكاء الاصطناعي.

تبقى نماذج اللغة الكبيرة في الأساس بدون حالة، مما يعني أن المحادثات والتفضيلات والسياق التاريخي عادة ما تختفي trừ إذا قام المطورون ببناء بنية تحتية إضافية حولها. وضعت Backboard نفسها كطبقة ذاكرة مخصصة تعمل عبر نماذج وبرامج الذكاء الاصطناعي المختلفة بدلاً من قفل المستخدمين في نظام معين.

تقول الشركة إن نظام الذاكرة الخاص بها يحتل حاليًا المرتبة الأولى في كل من اختبارات LoCoMo و LongMemEval، وهما تقييمان شائعان يقيسان استدلال السياق الطويل وأداء الذاكرة المستدامة. في وقت سابق من هذا العام، وصف Backboard الذاكرة بأنها بنية تحتية أساسية وليست مجرد ميزة طبقة على النماذج الحالية.

تسمح هذه الهندسة للشركات بحفظ تاريخ المستخدم، والتفضيلات، والمعرفة السياقية حتى عند التبديل بين نماذج اللغة المختلفة.

الذكاء الاصطناعي الذي يبقى داخل حدود الشركات

على مدار جميع الإعلانات الأربعة، يظهر فلسفة التصميم المتسقة: الشركات تريد بشكل متزايد أنظمة ذكاء اصطناعي تعمل تحت إدارةها.

يمكن تشغيل منصة Backboard داخل سحابة العملاء الخاصة، مما يسمح للشركات بالحفاظ على ملكية بياناتها بينما تستخدم قدرات الذكاء الاصطناعي الحديثة. هذا النهج ذو صلة خاصة بالصناعات التي تتعامل مع المعلومات الحساسة، بما في ذلك الرعاية الصحية والخدمات المالية والحكومة والبنية التحتية الحيوية، حيث تقيد المتطلبات التنظيمية غالبًا استخدام خدمات الذكاء الاصطناعي المضيفة الخارجية.

بدلاً من إطار السيادة فقط كقضية وطنية، تركز الهندسة على السيطرة على الشركات – الحفاظ على النماذج والذاكرة وبيانات التطبيق داخل بيئات إدارة العملاء.

قصة بنية تحتية للذكاء الاصطناعي الكندية في نمو

على الرغم من أن معظم المحادثات العالمية حول الذكاء الاصطناعي لا تزال محورها مطوري نماذج الأساس في وادي السيليكون، يمثل Backboard فئة أخرى من شركات الذكاء الاصطناعي تكتسب زخمًا: بناة البنية التحتية الذين يركزون على جعل النماذج الحالية أكثر واقعية للبيئات الإنتاجية.

تأسست من قبل Rob Imbeault، الذي كان سابقًا شريكًا共同ًا لشركة Assent الكندية لبرمجيات سلاسل التوريد، ركزت Backboard على تحسين الاقتصاد والخصائص التشغيلية للذكاء الاصطناعي للشركات بدلاً من المنافسة لإنشاء نموذج لغة الحدود التالي. في وقت سابق من هذا العام، جمعت الشركة جولة تمويل قبل البذرة لمواصلة تطوير منصة البنية التحتية للذكاء الاصطناعي.

مع نضج الذكاء الاصطناعي للشركات، قد تصبح التكنولوجيا التي تقلل من تكاليف الاستدلال وتحسن الذاكرة وتبسط نشر النماذج المتعددة وتسمح بالبيئات الذكية المضيفة الذاتية أكثر أهمية جنبًا إلى جنب مع تقدم قدرة النموذج نفسها. تعكس الإصدارات الأخيرة من Backboard هذا التحول الأوسع – من بناء نماذج أكبر إلى بناء بنية تحتية تساعد المنظمات على استخراج المزيد من القيمة من النماذج التي يستخدمونها بالفعل.