مقابلات
نيكونج باجاي، المؤسس المشارك والرئيس التنفيذي لشركة TrueFoundry – سلسلة المقابلات
أضف Unite.AI إلى مصادرك المفضلة على Google
لقد عملت عبر أبحاث التعلم الآلي، والذكاء الاصطناعي في الإنتاج في شركة فيسبوك، ونظم التوصية على نطاق واسع قبل تأسيس TrueFoundry — ما هي الخبرات التي دفعتك بشكل مباشر إلى بناء شركة بنية تحتية للذكاء الاصطناعي، وما هو الألم الذي شعرت أنه لم يتم معالجته في ذلك الوقت؟
في ميتا، رأينا التعلم الآلي كحالة خاصة من البرمجيات، والذكاء الاصطناعي التوليدي كحالة خاصة من التعلم الآلي، مما أدى إلى مكدس رأسي مع البرمجيات في الأسفل، والتعلم الآلي في الوسط، والذكاء الاصطناعي التوليدي في الأعلى. في هذا الإعداد، إذا كنت مطورًا للتعلم الآلي، فإن النماذج التي أبنيها تتبع نفس نمط النشر مثل البرمجيات الأخرى، مما يجعل توسيع الأنظمة بسيطًا جدًا.
然而، كانت معظم الشركات ت triển النماذج المتوازية، مما يعني أنها لديها نماذج منفصلة للبرمجيات والتعلم الآلي والذكاء الاصطناعي التوليدي. في لحظة وجود هذه النماذج المتوازية، يصبح التوسيع أكثر تعقيدًا بسبب عمليات التبادل المطلوبة بين عالم التعلم الآلي وعالم البرمجيات.
لقد عمل فريقنا دائمًا على تقاطع بناء نماذج التعلم الآلي وبنية تحتية التعلم الآلي، لذلك كنا لدينا وجهة نظر فريدة يمكننا أن نroughtها إلى الشركات وتنقيحها لاحتياجاتها المحددة. كنا لدينا أيضًا فرضية في نهاية عام 2021 أن التعلم الآلي كان يقترب من نقطة التحول، وعندما يفعل ذلك، ستحتاج المزيد من الشركات إلى مكدس متكامل رأسياً لنشر وتوسيع هذه الأنظمة بشكل فعال. هذا هو ما أدى في النهاية إلى تأسيس TrueFoundry، وفرضيتنا كانت صحيحة. تسارع تبني الذكاء الاصطناعي بعد إطلاق ChatGPT في أواخر عام 2022.
كيف تتغير الطريقة التي يجب على المنظمات أن تفكر بها حول الموثوقية والفشل عندما يتحرك نظام الذكاء الاصطناعي من التجربة إلى العمليات اليومية؟
المخاطر المرتبطة بأنظمة الذكاء الاصطناعي التوليدي أعلى بكثير مقارنة بأنظمة التعلم الآلي التقليدية. عندما تتحرك هذه الأنظمة إلى الإنتاج، تعامل المنظمات مع مستوى أعلى من الغموض واللاعتمادية لأن النماذج اللغوية الكبيرة هي عشوائية بالطبيعة. النظم الوكيلية المبنية عليها تضيف المزيد من الغموض.
بالإضافة إلى ذلك، لم تعد الفشلات ثنائية. بدلاً من أن تفشل الأنظمة أو لا تفشل، تظهر العديد من القضايا كفشل جزئي أو تدهور صامت. قد تستجيب الأنظمة بزمن استجابة أعلى أو جودة مخفضة أو سلوك غير صحيح مع مرور الوقت. في العديد من الحالات، يمكن أن يكون هذا التدهور أكثر صعوبة في الكشف عنه وأحيانًا أكثر ضررًا من انقطاع قوي.
يجب على المنظمات أن تفكر في الموثوقية ليس فقط من حيث وقت التشغيل ولكن أيضًا تدهور الأداء مع مرور الوقت.
تم إطلاق TrueFailover خلال موجة من انقطاعات الخدمات السحابية والذكاء الاصطناعي. ما هي الأحداث الحديثة التي جعلت من الواضح أن موثوقية الذكاء الاصطناعي قد تحولت من “ميزة لطيفة” إلى متطلب هندسي أساسي؟
كان أحد عملائنا في مجال الرعاية الصحية، الذي يعالج طلبات الوقت الحقيقي والحساسة المتعلقة بالوصفات الطبية، قد تأثر بإنقطاع بسبب فشل في النموذج. كانت تدفقات العمل الخاصة بهم تنتج آلاف الدولارات من الإيرادات كل ثانية، وinterrupted بعض هذه التدفقات الحاسمة. كعملاء مبكرين لTrueFailover، كنا قادرين على المساعدة في التعافي السريع، وتم احتواء التأثير.
تثير حوادث مثل هذه سؤالاً هاماً. مع تصاعد مخاطر أنظمة الذكاء الاصطناعي التوليدي، لماذا لا تزال عمليات الاسترداد في الغالب يدوية؟ وأكدت هذه الفكرة على أن الأنظمة يجب أن تبنى مع افتراض أن الفشل سوف يحدث، ويجب تصميمها للتصحيح التلقائي نفسها. يجب أيضًا بناء الموثوقية في مكدس الذكاء الاصطناعي نفسه من خلال استخدام بوابات الذكاء الاصطناعي، والتي يمكن أن توفر التوجيه المركزي والمراقبة والحماية والتبديل الذكي للنماذج عبر المزودين.
يتمまだ إطار العديد من انقطاعات الذكاء الاصطناعي على أنها مشاكل فنية. أين ترى التكاليف الاقتصادية والبشرية الحقيقية التي تظهر عندما تفشل أنظمة الذكاء الاصطناعي؟
لقد تطورت أنظمة الذكاء الاصطناعي في الشركات إلى الحد الذي أصبح فيه هذه الاضطرابات لا تؤثر فقط على تدفقات العمل الداخلية. اليوم، تؤثر الانقطاعات والتدهورات على الإدراك العام والأرباح بشكل مباشر وفوري، لأن حالات الاستخدام في الإنتاج هي الآن مواجهة للعملاء. هذا التحول من الاختبار الداخلي إلى تطبيقات مواجهة العملاء عالية المخاطر هو السبب في أننا نرى زيادة في الطلب على الاهتمام والرقابة التنفيذية.
مع اندماج أنظمة الذكاء الاصطناعي بشكل أعمق في تدفقات العمل التشغيلية، لم تعد الانقطاعات مشاكل فنية فقط. إنها تزيد بشكل متزايد من الآثار التجارية والعملاء والسمعة.
في بيئات حرجة مثل الصيدليات، عمليات الرعاية الصحية، أو دعم العملاء، كيف يمكن لوقت انقطاع الذكاء الاصطناعي التوسع بسرعة إلى مخاطر تشغيلية أو مخاطر سمعة؟
في بيئات حرجة، يحدث التوسع تقريبًا على الفور لأن هذه الأنظمة تدعم تدفقات العمل في الوقت الحقيقي والحساسة. حتى انقطاع قصير يمكن أن يوقف العمليات الحرجة، يؤخر تسليم الخدمة، أو يقطع الأنظمة التي تعتمد على هذه الإخراجات، مما يخلق تأثيرات تشغيلية متسلسلة عبر المنظمة.
في قطاعات مثل الرعاية الصحية، يمتد التأثير إلى ما وراء الاضطراب التشغيلي إلى نتائج الخدمة والخدمة. إذا لم يتمكن المريض من استكمال وصفته في الوقت المناسب، يمكن أن يكون هناك عواقب حقيقية. ليس فقط مشكلة للمريض، ولكن يمكن أن يضر أيضًا بسمعة الصيدلية أو مزود الرعاية الصحية. في بيئات حرجة حيث يعتبر الثقة عاملاً، من الضروري أن تبقى الأنظمة على الإنترنت. هذا هو السبب في أن المنظمات تدرك بشكل متزايد أن أنظمة الذكاء الاصطناعي يجب أن تبنى مع افتراض أن الفشل سوف يحدث وأن آليات الاسترداد تحتاج إلى تنشيط تلقائيًا لتقليل المخاطر.
لقد قلت إن العديد من الفرق تطرح القدرة بدلاً من الاستمرارية. لماذا تعتقد أن القدرة على الصمود قد تم التقليل من شأنها تاريخيًا في تصميم أنظمة الذكاء الاصطناعي؟
هذا يعود في الغالب إلى الحوافز داخل المنظمات. القدرات الجديدة مرئية ومثيرة. تقفلتها تفتح أبوابًا لتقديمات وسمات وامكانيات منتج يمكن للقيادة رؤيتها على الفور.
من ناحية أخرى، الاستمرارية بالتعريف غير مرئية عندما تعمل الأمور بشكل جيد. بسبب ذلك، تميل أنظمة المكافأة إلى الانحياز نحو شحن الميزات الجديدة بدلاً من ضمان عدم كسر أي شيء. ونتيجة لذلك، تستثمر المنظمات بشكل غير متناسب في تطوير القدرات بدلاً من هندسة الصمود.
كما تزداد الشركات التابعة بشكل متزايد على النماذج والنماذج الخارجية، ما هي الضعف الجديدة التي يتم إدخالها إلى مكدس الذكاء الاصطناعي التي قد لا يدركها القادة بعد؟
النماذج اللغوية الكبيرة هي في الأساس موارد مشتركة، ولا تملكها الشركات كما تفعل البنية التحتية التقليدية. بالإضافة إلى ذلك، تعمل أنظمة الأعمال الحرجة مع الشركات على أنظمة خارجية لم يتم اختبارها بشكل كامل. النماذج اللغوية الكبيرة نفسها تتطور بسرعة، مما يعني أن مزود النموذج لا يمكنه أن يتحمل مسؤولية أشياء مثل التأخير أو أداء النموذج الذي ينخفضض قليلاً، لأنه يطور أبحاثه بسرعة.
نظرًا لأن النماذج اللغوية الكبيرة هي موارد مشتركة، يمكن أن يزيد التأخير بسبب إجراء مستهلك آخر لبعض هذه النماذج. هناك العديد من نقاط الفشل التي تُدخل بسبب الطبيعة الأساسية للنماذج اللغوية الكبيرة، والشركات في هذا العالم الجديد لا تملك السيطرة الكاملة. بدون السيطرة الكاملة، أفضل شيء يمكن للشركة القيام به هو إنشاء đủ التكرارات النظامية لتصميم نظام متين.
بدون التركيز على منتجات محددة، كيف يجب على المنظمات إعادة التفكير في هندسة الذكاء الاصطناعي لافتراض الفشل بدلاً من معاملته كحالات حافة نادرة؟
يجب على المنظمات العودة إلى المبادئ الأساسية لتصميم الأنظمة الموزعة. تم بناء الأنظمة البرمجية على افتراض أن مكونات الشبكة والآلات سوف تفشل، وأن منطقة كاملة يمكن أن تذهب لأسفل.
يجب أن تكون أنظمة الذكاء الاصطناعي على نفس الشكل. يجب افتراض أن مزودي النماذج سوف يعانون من مشاكل التأخير أو التدهور أو الانقطاعات، ودمج التكرارات لتبقى التطبيقات متينة عبر سيناريوهات الفشل المختلفة.
هل تتوقع أن تصبح متانة الذكاء الاصطناعي عاملاً حاسماً في اختيار المنصة والبائع، مشابهاً لطريقة تأثير وقت التشغيل والتكرار على قرارات البنية التحتية السحابية؟
مع تحرك المزيد من أنظمة الذكاء الاصطناعي إلى الإنتاج، ستصبح المتانة معايير أساسية. إذا لم يتمكن البائع من عرض رسومه وأرقامه على وقت التشغيل ومتانة عامة، فلن يتم النظر إليه حتى. بمجرد أن تصبح المتانة توقعًا أساسيًا عبر البائعين، سيتحرك العوامل الحاسمة نحو تجربة المستخدم وضبط الأداء ومراقبة المستوى الأعلى من القدرات على المنتج. مع مرور الوقت، ست trở thành مكونات مثل بوابة الذكاء الاصطناعي وقدرات الفشل التلقائي عناصر أساسية في البنية التحتية للشركات للذكاء الاصطناعي.
مع النظر إلى الأمام، ماذا يعني “الجاهزية للإنتاج” الحقيقي للذكاء الاصطناعي في عالم حيث من المتوقع أن يكون الذكاء الاصطناعي متاحًا باستمرار، وليس مفيدًا فقط من وقت لآخر؟
يجب أن تكون أنظمة الذكاء الاصطناعي في الإنتاج قابلة للمراقبة ومراقبتها وقابلة للاسترداد. يجب تحقق جميع هذه الشروط.
لأنظمة الذكاء الاصطناعي في الإنتاج تكون قابلة للمراقبة، تحتاج الفرق إلى رؤية عميقة في سلوك النموذج والتأخير ومعدلات الأخطاء واستخدام الرمز والتدهور وأنماط الفشل. بدون مراقبة قوية، يصبح من الصعب جدًا الكشف عن التدهورات قبل أن يبدأ المستخدمون في ملاحظتها.
لأنظمة الذكاء الاصطناعي تكون قابلة للتحكم، يشمل ذلك تشكيل حركة المرور وضبط معدل وحدود الحماية وتنفيذ السياسات والتوجيه الذكي عبر النماذج والمزودين. هذا هو المكان الذي تصبح فيه بوابة الذكاء الاصطناعي أساسية، حيث تعمل كطائرة تحكم مركزية تفرض حدود الحماية وتوفر الحوكمة الثابتة وتمكين التبديل الديناميكي للنماذج عندما ينخفض الأداء أو الموثوقية.
وأخيرًا، عندما يتعلق الأمر بالاسترداد، يجب أن تبنى الأنظمة مع افتراض أن المكونات يمكن أن تكون مكسورة جزئيًا أو كليًا، سواء بسبب انقطاعات المزود أو جودة النموذج المتدهورة أو حدود معدل أو مدخلات غير متوقعة من الجهات الخبيثة. يجب أن تكون آليات الفشل التلقائي والاسترداد الذاتي أصيلة في الهندسة، وليس كُتلاً يدوية يتم تشغيلها بعد حدوث شيء خاطئ.
هذا هو الاتجاه الذي نعمل نحوه في TrueFoundry. البائعون الذين يحددون الجاهزية للإنتاج بهذه الطريقة، بالجمع بين المراقبة والتحكم المركزي والاسترداد التلقائي، سوف يكسبون ثقة العملاء على المدى الطويل وسوف يكونون قادرين على الاستمرار في حل مشاكل جديدة كما تظهر.
شكرًا على المقابلة الرائعة، القراء الذين يرغبون في التعلم المزيد يجب أن يزوروا TrueFoundry.
