مناقشة “تخفيض قوة” كلود ليست حول كلود. إنها حول ما يحدث عندما تعمل عملياتك على قرارات شخص آخر.

في وقت سابق من هذا العام، نشرت ستلا لورينزو، المدير التنفيذي لشركة AMD، بيانات تيليمتري من حوالي 7000 جلسة كلود كود توثق شيئًا كان المهندسون يشعرون به ولكنهم يجدون صعوبة في التعبير عنه: بين يناير ومارس، ظهرت عمق التفكير المرئي أنخفاضًا بنسبة 73٪، وازدادت مكالمات API لكل مهمة بمقدار 80 ضعفًا، وكان النموذج يقرأ عددًا أقل من الملفات قبل إجراء التعديلات. انتشرت الأرقام بسرعة. انتشرت التفسيرات بشكل أسرع.

تخالف أنثروبك الإطارات. تقول الشركة إن التغييرات تعكس قرارات المنتج المتعمدة، بما في ذلك آلية التفكير التكيفية الجديدة والتحول إلى جهد متوسط كافتراضي. كما عارض محللون مستقلون بعض أجزاء المنهجية. المناقشة لا تزال جارية، ويتفق الناس المعقولون على خلاف ما حدث بالفعل.

ولكن هنا الجزء الذي يهم إذا كنت تعمل على بناء أعمال على هذه الأنظمة: سواء كان هذا تدهورًا أو ضبطًا متعمدًا، لا يغير ما تعرضت له مشغلو الشركات. لم يتمكنوا من التنبؤ به. لم يتمكنوا من التحكم فيه. وشعر بعضهم به في الإنتاج قبل أن يفهموا ما يحدث. هذه هي القصة الحقيقية، وليس لها علاقة بأنثروبك على وجه التحديد.

هذه مشكلة تعتمد على الاعتماد، وليست مشكلة نموذج.

ما نوصف له اسم: هشاشة النموذج. وهي الحالة التي تكون فيها العمليات الحيوية متصلة بشكل وثيق بسلوك نموذج واحد، بحيث أن أي تغيير على مستوى النموذج، سواء كان قرار ضبط أو إعداد افتراضي جديد أو تحول في الطاقة أو إهمال صامت، يؤثر على الأعمال بشكل مباشر، دون حائل ولا تحذير.

هذه ليست نمطًا جديدًا. مرت GPT-4 بمرحلة من هذا النوع في عام 2023. مرت كلود 3.5 بمرحلة من هذا النوع في عام 2024. تمر كلود أوبوس بمرحلة من هذا النوع الآن. سيحدث مرة أخرى مع النموذج الحدودي التالي، والذي يليه. ليس لأن أي مورد يتصرف بسوء نية، ولكن لأن تحسين نموذج الحدود لتحقيق التكلفة والكفاءة والتناسب على مستوى العالم هو ما يجب على موردي الحدود أن يفعلوه. حوافزهم وحوافز شركة تعمل على تشغيل عمليات الإنتاج على هذه الأنظمة متعلقة. إنها ليست متطابقة. لن تكون كذلك أبدًا.

بدأنا Qurrent في عام 2023 ولدينا المعرفة التاريخية لمعرفة كيف تتحقق دورات البرمجيات الشركية: تستثمر شركة في الذكاء الاصطناعي. يعمل العرض التوضيحي. يعمل المشروع التجريبي. ثم يصبح مباشرًا، ويتغير شيء ما على مستوى النموذج، وفجأة يصبح العميل يملك المشكلة. هم الذين ي維عون سير العمل، ويطاردون الانحدارات، ويمتصون الاضطراب. لم يكن هذا يبدو لي كنموذج مستدام للعمليات الشركية.

الإصدار الشركي لهذه القصة هو تشغيلي، وليس تقنيًا.

للمطورين، الوضع الحالي غير مريح. تتحول ميزانيات الرموز بسرعة أكبر. تتوقف جلسات التشفير. تخيب آمال المقاييس. هذا مشكلة حقيقية، ولكنها قابلة للتعافي.

للشركات التي تعمل على العمليات المالية وعمليات الامتثال و حسابات القبض والدفع والعمليات المكتبية المعقدة، تكون المخاطر مختلفة. لا يمكن أن تمتص هذه العمليات أسبوعًا سيئًا. تتراكم الأخطاء. تتراكم الحجم. معايير الخدمة هي التزامات للعملاء الفعليين، وليست تفضيلات داخلية. في اللحظة التي يبدأ فيها نموذج ما في الأداء السيئ في عملية عالية المخاطر، يتراكم الضرر بشكل تلقائي سواء لاحظ ذلك أحد أم لا.

ما يجعل الأمور أكثر صعوبة هو أن معظم الشركات التي حاولت أن تتقدم في مجال الذكاء الاصطناعي من خلال بناء وكلاء داخليين على نموذج واحد اكتشفت الآن كيف كانت تلك الأسس غير كاملة. كان الوكيل الأول هو الجزء السهل. ما لم يتم بناؤه هو البنية التحتية المحيطة: إطارات تقييم لاكتشاف الانحراف السلوكي قبل أن يصل إلى العميل، و منطق الفشل التلقائي لإعادة توجيه العمل تلقائيًا عندما يبدأ نموذج ما في الأداء السيئ، والإدارة المستمرة القادرة على مواكبة منظر يغير كل ربع سنة. هذه الفجوات الثلاث لا تظل قابلة للإدارة. تتحول إلى وظيفة هندسية دائمة لا أحد يتحمل مسؤوليتها، ويتم تشغيلها من قبل أشخاص يعتبر عملهم بشكل أساسي هو مواكبة القرارات التي يتخذها موردين لا يملكون أي نفوذ عليهم.

ما يبدو عليه التحمل في الإنتاج.

في Qurrent، بنينا القوة العاملة الرقمية لتكون متوافقة مع النموذج منذ البداية، ليس كموضع تسويقي ولكن كمتطلب هندسي. كل مهمة تتم توجيهها إلى النموذج الأفضل أداءً لهذه المهمة، ويتم تقييمه بشكل مستمر. عندما يصل نموذج أفضل، يحصل العملاء عليه تلقائيًا. عندما يتراجع نموذج حالي في سير عمل معين، يتم إعادة توجيه هذا العمل في ثوان، دون تدخل بشري ودون أن يستيقظ أحد في الساعة 2 صباحًا إلى سلسلة من الرسائل على Slack.

تحت ذلك، تتم تشغيل محاكاة تلقائية على سير العمل الإنتاجي على مدار الساعة، وتقيس ما إذا كانت الإخراج تتماشى مع السلوك المتوقع. يتم اكتشاف الانحراف على مستوى البنية التحتية، قبل أن يشعر بها فريق العمليات وبعد ذلك بكثير قبل أن يشعر بها العميل. كل قرار يتخذه كل عامل رقمي مسجل وقابل للمراجعة، صندوق زجاجي كامل، لأنك لا يمكنك الحكم على ما لا يمكنك رؤيته.

هذه ليست ميزات متميزة. إنها ثمن الدخول لتشغيل الذكاء الاصطناعي في الإنتاج على مستوى الشركات. يتعلم معظم الشركات ذلك في منتصف دورة الأخبار، وهو الطريقة المكلفة لاكتشاف ذلك.

السؤال الذي يجبطرحه هذا الربع.

إذا كان النموذج الذي تعتمد عليه عملياتك أكثر من أي نموذج آخر كان لديه أسبوع سيئ في الربع التالي، كم من سير العمل سيشعر بذلك؟ كيف ستعرف؟ وكيف يمكنك التوجيه حول ذلك بسرعة؟

إذا كان الجواب على السؤال الثاني “سنتعلم من عميل”، فإن العملية ليست جاهزة للإنتاج. إنها تجربة تجريبية تعمل على نطاق واسع، والفرق مهم أكثر مما يدركه معظم القادة حتى لا يدركونه.

المناقشة الحالية، بطريقة غير مباشرة، مفيدة. كل مدير مالي ومدير تنفيذي يراقب هذا ي nhận معرضًا مجانيًا لما يبدو عليه تدهور النموذج تحت التحميل التشغيلي الفعلي، دون أن يدفع ثمنه بنفسه.

الاستجابة الصحيحة ليست لتغيير النماذج. إنها بناء عمليات لا تعتمد على نموذج واحد.

ستستمر التكنولوجيا في التغيير. هذا هو الوحيد الذي يمكننا التأكد منه في هذا السوق. الشركات التي ستخرج من هذا العقد أقوى لن تكون تلك التي اخترت النموذج الصحيح. ستكون تلك التي لا تعتمد عملياتها على نموذج واحد.