مقابلات
نيكونج باجاي، المؤسس المشارك والرئيس التنفيذي لشركة TrueFoundry – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
قبل تأسيس TrueFoundry، عملت في أبحاث التعلم الآلي، وأنظمة الذكاء الاصطناعي قيد التشغيل الفعلي لدى فيسبوك (META )، وأنظمة التوصية واسعة النطاق. ما الخبرات التي دفعتك بصورة مباشرة أكثر إلى إنشاء شركة للبنية التحتية للذكاء الاصطناعي الموجهة للمؤسسات، وما المشكلة التي شعرت بأنها ظلت دون معالجة آنذاك؟
في ميتا، كنا ننظر إلى التعلم الآلي بوصفه حالة خاصة من البرمجيات، وإلى الذكاء الاصطناعي التوليدي بوصفه حالة خاصة من التعلم الآلي. وأنتج ذلك مكدسًا تقنيًا رأسيًا تكون فيه البرمجيات في الأسفل، والتعلم الآلي في الوسط، والذكاء الاصطناعي التوليدي في الأعلى. في هذا الترتيب، إذا كنت مطورًا للتعلم الآلي، فإن النماذج التي أبنيها تتبع نمط النشر نفسه الذي تتبعه بقية البرمجيات، مما يجعل توسيع نطاق الأنظمة بسيطًا جدًا.
لكن معظم المؤسسات كانت تنشر مكدسات متوازية، أي مكدسات منفصلة للبرمجيات والتعلم الآلي والذكاء الاصطناعي التوليدي. وعندما توجد هذه المكدسات المتوازية، يصبح التوسع أكثر تعقيدًا بسبب الحاجة إلى تسليم العمل بين مجال التعلم الآلي وعالم البرمجيات.
عمل فريقنا دائمًا عند نقطة التقاء بناء نماذج التعلم الآلي والبنية التحتية اللازمة لها. ومنحتنا هذه الزاوية المميزة رؤية مفادها أننا نستطيع تقديم مكدسات رأسية مماثلة للمؤسسات وتكييفها مع متطلباتها المحددة. وفي أواخر عام 2021، كانت لدينا أيضًا فرضية بأن التعلم الآلي يقترب من نقطة تحول، وأن بلوغها سيجعل مزيدًا من الشركات بحاجة إلى مكدس متكامل رأسيًا لنشر هذه الأنظمة وتوسيع نطاقها بفاعلية. وهذا ما قادنا في النهاية إلى تأسيس TrueFoundry، وقد ثبتت صحة فرضيتنا. وتسارع تبني الذكاء الاصطناعي بعد إطلاق ChatGPT في أواخر عام 2022.
مع انتقال أنظمة الذكاء الاصطناعي من التجارب إلى العمليات اليومية، ما الذي تغير في الطريقة التي ينبغي أن تنظر بها المؤسسات إلى الموثوقية والأعطال؟
ما يكون على المحك مع الذكاء الاصطناعي التوليدي أكبر بكثير مما هو عليه مع أنظمة التعلم الآلي التقليدية. وعندما تدخل هذه الأنظمة بيئات التشغيل الفعلي، تتعامل المؤسسات مع مستويات أعلى بكثير من الغموض وعدم الحتمية، لأن النماذج اللغوية الكبيرة احتمالية بطبيعتها. وتضيف الأنظمة القائمة على الوكلاء والمبنية فوقها مزيدًا من الغموض.
كذلك، لم تعد الأعطال ثنائية الحالة. فبدلًا من أن يكون النظام إما معطلًا أو غير معطل، تظهر مشكلات كثيرة على هيئة أعطال جزئية أو تدهور غير ملحوظ. وقد يستجيب النظام مع مرور الوقت بزمن تأخير أعلى أو جودة أقل أو سلوك غير صحيح. وفي كثير من الحالات، يكون اكتشاف هذا التدهور أصعب، وقد يكون أحيانًا أشد ضررًا من انقطاع كامل للخدمة.
على المؤسسات أن تنظر إلى الموثوقية ليس من حيث مدة التشغيل المتواصل فحسب، بل أيضًا من حيث تدهور الأداء مع مرور الوقت.
أُطلق TrueFailover وسط موجة من انقطاعات الخدمات السحابية وخدمات الذكاء الاصطناعي التي حظيت باهتمام واسع. ما الأحداث الأخيرة التي أوضحت أن موثوقية الذكاء الاصطناعي انتقلت من ميزة إضافية مرغوبة إلى متطلب أساسي في تصميم البنية؟
يعالج أحد عملائنا في قطاع الرعاية الصحية طلبات المرضى المتعلقة بالوصفات الطبية في الوقت الفعلي، وهي طلبات تتطلب استجابة في الوقت المناسب. وقد تعرض لانقطاع ناتج عن عطل في أحد النماذج. وتحقق مسارات عمله آلاف الدولارات من الإيرادات في الثانية الواحدة، وأدى الانقطاع إلى تعطيل بعض هذه المسارات الحيوية. وكان هذا العميل من أوائل مستخدمي TrueFailover، لذا استطعنا مساعدته على استعادة التشغيل بسرعة واحتواء الأثر.
تطرح حوادث كهذه سؤالًا مهمًا: مع تزايد حجم ما يكون على المحك في أنظمة الذكاء الاصطناعي التوليدي، لماذا لا تزال عمليات استعادة التشغيل يدوية إلى حد كبير؟ عزز ذلك فكرة أن الأنظمة ينبغي أن تُبنى على افتراض وقوع الأعطال، وأن تُصمم لتصحيح نفسها تلقائيًا. كما يجب تضمين الموثوقية في مكدس الذكاء الاصطناعي ذاته باستخدام بوابات تتيح التوجيه المركزي، وقابلية الرصد، وضوابط الحماية، والتبديل الذكي بين نماذج مزودين مختلفين.
لا تزال انقطاعات كثيرة للذكاء الاصطناعي تُعرض بوصفها هفوات تقنية بسيطة. أين ترى التكاليف الاقتصادية والبشرية الحقيقية تبدأ في الظهور عندما تتوقف أنظمة الذكاء الاصطناعي؟
تطور الذكاء الاصطناعي في المؤسسات إلى مرحلة لم تعد فيها هذه الهفوات تؤثر على مسارات العمل الداخلية فقط. فاليوم تؤثر الانقطاعات وتدهور الأداء مباشرة وفورًا على الانطباع العام والأرباح، لأن التطبيقات قيد التشغيل الفعلي أصبحت تخدم العملاء. وهذا الانتقال من الاختبارات الداخلية إلى تطبيقات متاحة للجمهور وتترتب عليها رهانات كبيرة هو سبب تزايد الحاجة إلى اهتمام الإدارة العليا ورقابتها.
مع اندماج أنظمة الذكاء الاصطناعي بصورة أعمق في مسارات العمل التشغيلية، لم تعد الانقطاعات مجرد مشكلات تقنية. وأصبحت تترتب عليها بصورة متزايدة آثار مباشرة على الأعمال والعملاء والسمعة.
في البيئات الحيوية، مثل الصيدليات وعمليات الرعاية الصحية ودعم العملاء، ما مدى السرعة التي يمكن أن يتحول بها توقف الذكاء الاصطناعي إلى خطر تشغيلي أو خطر على السمعة؟
في البيئات الحيوية، يتفاقم الوضع على نحو شبه فوري، لأن هذه الأنظمة تدعم مسارات عمل تجري في الوقت الفعلي ويكون الالتزام بالتوقيت فيها ضروريًا. وحتى الانقطاع القصير قد يوقف عمليات حيوية، أو يؤخر تقديم الخدمات، أو يعطل أنظمة لاحقة تعتمد على تلك المخرجات، مما يولد آثارًا تشغيلية متسلسلة في أنحاء المؤسسة.
في قطاعات مثل الرعاية الصحية، يتجاوز الأثر التعطيل التشغيلي إلى تجربة العملاء ونتائج الخدمات. فإذا لم يتمكن المريض من صرف أدويته الموصوفة في الوقت المناسب، فقد تترتب على ذلك عواقب فعلية. ولا يقتصر الأمر على مشكلة للمريض، بل قد يضر أيضًا بسمعة الصيدلية أو مقدم الرعاية الصحية. وفي البيئات الحيوية التي تكون الثقة فيها مهمة، يصبح استمرار تشغيل الأنظمة أمرًا بالغ الأهمية. لذلك تدرك المؤسسات على نحو متزايد أن أنظمة الذكاء الاصطناعي يجب أن تُصمم على افتراض وقوع الأعطال، وأن آليات استعادة التشغيل ينبغي أن تعمل تلقائيًا لتقليل المخاطر إلى أدنى حد.
قلت إن فرقًا كثيرة تصمم البنية من أجل القدرات بدلًا من استمرارية التشغيل. لماذا تعتقد أن القدرة على الصمود أمام الأعطال كانت تاريخيًا أقل أولوية في تصميم أنظمة الذكاء الاصطناعي؟
يعود ذلك أساسًا إلى الحوافز داخل المؤسسات. فالقدرات الجديدة واضحة ومثيرة للاهتمام، وتتيح عروضًا توضيحية وميزات وإمكانات جديدة للمنتج تستطيع القيادة رؤيتها فورًا.
الاستمرارية غير مرئية بحكم طبيعتها عندما يعمل كل شيء جيدًا. ولهذا تميل أنظمة المكافآت إلى تفضيل إطلاق ميزات جديدة على ضمان عدم تعطل أي شيء. ونتيجة لذلك، كثيرًا ما تستثمر المؤسسات في تطوير القدرات بدرجة أكبر على نحو غير متناسب من استثمارها في هندسة الصمود أمام الأعطال.
مع تزايد اعتماد المؤسسات على النماذج وواجهات برمجة التطبيقات الخارجية، ما مواطن الضعف الجديدة التي تظهر في مكدس الذكاء الاصطناعي وقد لا يكون القادة قد أدركوا أهميتها بالكامل بعد؟
النماذج اللغوية الكبيرة موارد مشتركة في الأساس، ولا تملكها المؤسسات كما تملك البنية التحتية التقليدية. كذلك تعمل أنظمة مهمة وحيوية لأعمال المؤسسات على أنظمة خارجية لم تُختبر بعد بما يكفي على مدى الزمن. وتتطور النماذج اللغوية الكبيرة نفسها بسرعة، مما يعني أنه لا يمكن تحميل مزود النموذج مسؤولية أمور مثل زمن التأخير أو تراجع أداء النموذج قليلًا، لأنه يجري دورات متتابعة من البحث والتطوير بسرعة كبيرة.
ولأن النماذج اللغوية الكبيرة موارد مشتركة، قد يقفز زمن التأخير بسبب إجراء محدد يتخذه مستخدم آخر لها. وتؤدي الطبيعة الأساسية لهذه النماذج إلى ظهور كثير من نقاط العطل من هذا النوع، ولا تملك المؤسسات في هذا العالم الجديد سيطرة كاملة. وعندما لا تتوافر السيطرة الكاملة، يكون أفضل ما تستطيع المؤسسة فعله هو توفير قدر كافٍ من التكرار الاحتياطي في النظام لتصميم نظام قادر على الصمود.
دون التركيز على منتجات بعينها، كيف ينبغي أن تعيد المؤسسات التفكير في بنية الذكاء الاصطناعي بحيث تفترض وقوع الأعطال، بدلًا من التعامل مع الانقطاعات بوصفها حالات استثنائية نادرة؟
ينبغي أن تعود المؤسسات إلى المبادئ الأساسية لتصميم الأنظمة الموزعة. فقد بُنيت الأنظمة البرمجية على افتراض أن مكونات الشبكة والآلات ستتعطل، وأن منطقة كاملة قد تتوقف عن العمل.
ولا ينبغي أن تختلف أنظمة الذكاء الاصطناعي عن ذلك. علينا أن نفترض أن مزودي النماذج سيواجهون مشكلات في زمن التأخير أو تدهورًا أو انقطاعات، وأن ندمج التكرار الاحتياطي كي تظل التطبيقات قادرة على الصمود في سيناريوهات الأعطال المختلفة.
هل تتوقع أن تصبح قدرة الذكاء الاصطناعي على الصمود عاملًا حاسمًا في اختيار المنصة والمورد، على غرار تأثير مدة التشغيل المتواصل والتكرار الاحتياطي في قرارات البنية التحتية السحابية؟
مع انتقال مزيد من أنظمة الذكاء الاصطناعي إلى التشغيل الفعلي، ستصبح القدرة على الصمود حدًا أدنى من المتطلبات. فإذا لم يستطع المورد عرض رسوم بيانية ومقاييس لمدة التشغيل المتواصل والقدرة العامة على الصمود، فلن يؤخذ في الحسبان أصلًا. وعندما تصبح هذه القدرة توقعًا أساسيًا من جميع الموردين، ستنتقل العوامل الحاسمة إلى تجربة المستخدم وتحسين الأداء وقابلية الرصد وقدرات المنتج الأعلى مستوى. ومع مرور الوقت، ستصبح مكونات مثل بوابة الذكاء الاصطناعي وإمكانات التحويل التلقائي عند التعطل عناصر تأسيسية في البنية التحتية للذكاء الاصطناعي في المؤسسات.
بالنظر إلى المستقبل، ماذا يعني حقًا أن يكون الذكاء الاصطناعي «جاهزًا للتشغيل الفعلي» في عالم يُتوقع فيه أن يكون متاحًا باستمرار، لا أن يكون مفيدًا من حين إلى آخر فقط؟
يجب أن تكون أنظمة الذكاء الاصطناعي الجاهزة للتشغيل الفعلي قابلة للرصد والتحكم واستعادة التشغيل. ولا بد من استيفاء المتطلبات الثلاثة جميعًا.
لتحقيق قابلية الرصد في الذكاء الاصطناعي قيد التشغيل الفعلي، تحتاج الفرق إلى رؤية متعمقة لسلوك النماذج وزمن التأخير ومعدلات الأخطاء واستخدام الرموز والانجراف وأنماط الأعطال. ومن دون قابلية رصد قوية، يصعب جدًا اكتشاف التدهور قبل أن يبدأ المستخدمون بملاحظته.
تشمل قابلية التحكم في الأنظمة تشكيل حركة البيانات، وتحديد معدل الطلبات، وضوابط الحماية، وإنفاذ السياسات، والتوجيه الذكي بين النماذج والمزودين. وهنا تصبح بوابة الذكاء الاصطناعي عنصرًا أساسيًا، إذ تعمل كمستوى تحكم مركزي يفرض ضوابط الحماية، ويوفر حوكمة متسقة، ويتيح التبديل الديناميكي للنماذج عند انخفاض الأداء أو الموثوقية.
وأخيرًا، لإتاحة استعادة التشغيل، ينبغي بناء الأنظمة على افتراض أن مكوناتها قد تتعطل جزئيًا أو كليًا، سواء بسبب انقطاعات لدى المزود، أو تدهور جودة النموذج، أو حدود معدل الطلبات، أو مدخلات غير متوقعة من جهات خبيثة. ويجب أن يكون التحويل التلقائي عند التعطل وآليات الإصلاح الذاتي جزءًا مدمجًا في البنية، بدلًا من الاعتماد على إجراءات يدوية لا تبدأ إلا بعد وقوع مشكلة.
هذا هو الاتجاه الذي نعمل نحوه في TrueFoundry. فالموردون الذين يعرّفون الجاهزية للتشغيل الفعلي بهذه الطريقة، من خلال الجمع بين قابلية الرصد والتحكم المركزي واستعادة التشغيل تلقائيًا، سيكسبون ثقة العملاء على المدى الطويل وسيتمكنون من مواصلة حل المشكلات الجديدة كلما ظهرت.
شكرًا على المقابلة الرائعة. يمكن للقراء الراغبين في معرفة المزيد زيارة TrueFoundry.
