لماذا يتعطل الذكاء الاصطناعي في الشركات بعد النشر – وماذا يمكن القيام به

تحذير: المشكلة ليست في النموذج

في عام 2023، أطلقت مدينة نيويورك برنامج MyCity Chatbot لمساعدة الشركات على التنقل في اللوائح المعقدة. كانت الفكرة بسيطة: جعل المعلومات القانونية أكثر سهولة في الوصول.

في الممارسة، أنتج النظام إجابات كانت خاطئة، بل ومضللة قانونيا – من قواعد التิป إلى التمييز السكني إلى قوانين الدفع.

وجدت مراجعة لاحقة أن 71.4% من تعليقات المستخدمين كانت سلبية. بدلاً من إصلاح القضايا الأساسية، كانت الاستجابة هي إضافة تنويهات. ظل برنامج الدردشة في “النسخة التجريبية” لمدة عامين كاملين قبل إغلاقها.

الفشل لم يكن تقنيا. انهار النظام في الإنتاج لأن هناك لم يكن هناك آلية لضمان الدقة، ولا مسؤولية واضحة، ولا طريقة للتدخل عندما ت goes wrong.

هذا هو النمط وراء الذكاء الاصطناعي في الشركات اليوم: التكنولوجيا تعمل، ولكن المنظمات ليست مهيأة لتشغيلها بشكل موثوق به بمجرد أن تصبح حية.

من الطيار إلى الإنتاج: حيث ينهار كل شيء

بناء برنامج تجريبي هو أمر مباشر – اختر حالة استخدام، اختر نموذج، أعد البيانات، ابحث عن راعي. تشغيل نظام في الإنتاج هو دوري مختلف تمامًا.

الفجوة مثل الفرق بين القفز في بركة والقفز من الغلاف الجوي، كما فعل فيليكس باومغارتنر في عام 2012. نفس الفيزياء الأساسية، ظروف مختلفة تمامًا – ونتائج مختلفة تمامًا في حالة الفشل.

في الإنتاج، يدخل الذكاء الاصطناعي تدفقات اتخاذ القرارات الحقيقية، ويتفاعل مع العملاء، وينشئ عواقب قانونية وعملياتية. هذا هو المكان الذي تظهر فيه الفجوات – ليس في النموذج، ولكن في كيفية حوكمتها.

تجعل أوروبا هذا مرئيًا في وقت مبكر hơn من معظم المناطق. لا تبطئ لوائح مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي، واللوائح العامة لحماية البيانات، و NIS2، من اعتماد التكنولوجيا – بل تكشف عما إذا كانت المنظمات قادرة على تشغيل أنظمة الذكاء الاصطناعي في ظل القيود الحقيقية.

في عام 2025، كان 55% من الشركات الكبيرة في الاتحاد الأوروبي يستخدمون بالفعل الذكاء الاصطناعي. يحدث التنفيذ بالفعل على نطاق واسع. التحدي هو ما يحدث بعد النشر.

في ذلك الوقت، تبدأ الأسئلة التشغيلية الأساسية في الظهور. وعادة، لا أحد يستطيع الإجابة عليها: من هو المسؤول عن مخرجات الذكاء الاصطناعي و القرارات المستقلة؟ ماذا يحدث عندما يتصرف النظام بطريقة غير متوقعة؟ ومن سيتعامل معها قبل أن تصل إلى وسائل الإعلام؟

تقع المسؤولية مع الشركة، وليس التكنولوجيا. برنامج الدردشة التابع لشركة طيران كندا قدم لمستخدم معلومات خاطئة حول أسعار الحداد. اعتمد المستخدم عليها وتم رفضه لاحقًا للحصول على استرداد. قرر هيئة المحلفين أن شركة الطيران كانت مسؤولة – برنامج الدردشة لم يكن كيانًا منفصلًا.

نفس المشكلة، زاوية مختلفة: نظام McHire التابع لشركة ماكدونالد كشف عن بيانات حساسة من ما يقرب من 64,000 متقدم. لم تكن السبب هجمات متقدمة – استخدم تسجيل الدخول الإداري “admin” و “123456”. بدا النظام متقدمًا. الفشل كان عنصريًا.

عندما تثبت الحوكمة على نظام حي، فإنه已经 слишком متأخر. نشر نظام هو قرار تقني. تشغيله بشكل موثوق به هو قرار تنظيمي. وهذا الجزء الذي تقلله معظم الشركات.

من هو صاحب مخاطر الذكاء الاصطناعي؟ لا أحد.

هذا هو جوهر المشكلة، وبالغامض هو الأقل مناقشة. تدير إدارة تكنولوجيا المعلومات البنية التحتية. تتعامل إدارة الشؤون القانونية مع الامتثال. ت推 Teams الأعمال حالات استخدام. ولكن لا أحد يملك مخاطر الذكاء الاصطناعي من النهاية إلى النهاية.

هذا يخلق两个 مشكلة فورية. يبطئ قرار “الذهاب” – لأن لا أحد يريد أن يتحمل المسؤولية. ويبطئ قرار “التوقف” بنفس القدر – لأن لا أحد يعرف من يمكنه.

تظهر البيانات ذلك. أقل من 10% من حالات استخدام الذكاء الاصطناعي تصل من الطيار إلى الإنتاج، وتعاني معظم المنظمات في توليد تأثير تجاري قابل للقياس. وفي الوقت نفسه، يتم نشر الذكاء الاصطناعي بالفعل – ولكن وفقًا لمسح نضج الحوكمة، كان只有 7% لديهم حوكمة منظمة جيدًا ومستمرة.

لماذا يحدث هذا بانتظام؟ لأن معظم الإطارات والسياسات الشركات تحدد ما يجب أن يحدث – وليس من هو مسؤول عندما يهم.

هذا يزداد سوءًا مع النطاق. يمكن إدارة نظام واحد بشكل غير رسمي. عندما يكون لديك ثلاثين نظامًا، تتحلل المسؤولية عبر الفرق، ولا أحد لديه الصورة الكاملة.

بنك الكومونولث الأسترالي يوفر مثالًا واضحًا. استبدل البنك 45 موظفًا بخدمات العملاء بأجهزة روبوتية صوتية، متوقعًا أن ينخفض الطلب. لم ينخفض. زادت أعداد المكالمات، وتدخل المديرون لمعالجة الفائض، واضطر البنك إلى إعادة توظيف جميع الموظفين الخمسة والأربعين. عندما تم تحديه، لم يتمكن من إثبات أن التأتمتة قد خفضت العبء.

لم يكن أحد قد أعد التحقق من الافتراضات قبل النشر. لم يكن أحد يملك النتيجة عندما فشلت تلك الافتراضات. هذا ما يبدو عليه فراغ المسؤولية في الممارسة.

القيام بقواعد كافية. تحتاج إلى آلية

معظم المنظمات لا تفتقر إلى السياسات. تفتقر إلى الأنظمة التي تعمل عندما يحدث شيء ما.

تحدد السياسة ما يجب أن يحدث. تحدد الآلية ما يحدث فعلا – عندما ينتج نموذج مخرجات غير صحيحة، أو عندما يتغير مورد شيء في الخلفية، أو عندما يبدأ النظام في التصرف بطريقة غير متوقعة.

تظهر تلك الفرقة في الإنتاج – عندما يجب اتخاذ القرارات في ظل ظروف حقيقية.

تتبع تلك الأخطاء ديناميكية متسقة. في كل حالة، تظهر نفس الفجوات التشغيلية – فقط في أشكال مختلفة.

الملكية تأتي أولا

كل نظام ذكاء اصطناعي تم نشره يحتاج إلى مالك مسؤول واضح – شخص واحد، وليس فريقًا أو قسمًا، مع السلطة للموافقة على الإيقاف والغلق.

بدون ذلك، لا يمكن النشر السريع ولا التدخل الآمن. كما هو موضح في مثال بنك الكومونولث، يؤدي غياب الملكية الواضحة مباشرة إلى فشل تشغيلي.

البيانات والوضوح القانوني غالبًا ما يكونان مفقودين

يتم نشر العديد من الأنظمة بدون تدفقات بيانات وثائقية، أو أساس قانوني موثق، أو وضوح بشأن الالتزامات التي تنطبق بمجرد أن يصبح النظام في الإنتاج.

تظهر إجراءات المفتش الإيطالي ضد DeepSeek في عام 2025 ذلك بوضوح. لم تكن المشكلة جودة النموذج – بل عدم القدرة على شرح كيفية التعامل مع البيانات الشخصية. النتيجة كانت انقطاع خدمة فجائي للمستخدمين الأوروبيين.

الاختبار نادرًا ما يعكس الاستخدام في العالم الحقيقي

غالبًا ما يتم تقييم الأنظمة على سيناريوهات حيث يؤدين بشكل جيد، ولكن ليس على الحالات التي سيكون فيها الفشل أكثر أهمية.

برنامج الدردشة MyCity هو مثال واضح. لم يتم التقاط الحالات الحدية الأساسية – حول قانون العمل، والتمييز السكني، أو قواعد الدفع – قبل النشر. بمجرد تعرضه للمستخدمين الحقيقيين، أصبحت تلك الأخطاء عامة على الفور.

الاختبار ليس فقط حول الأداء – بل حول تحديد حيث يفشل النظام قبل المستخدمين، والمنظمين، أو الصحفيين.

التدخل غير واضح أو بطيء

حتى عندما تكون هناك مشاكل واضحة، غالبًا ما لا يوجد إشارة واضحة أو سلطة لإيقاف أو إغلاق النظام.

يظهر Zillow Offers ذلك على نطاق واسع. استخدم النظام خوارزمية لتحديد أسعار وشراء المنازل. عندما برد السوق في عام 2021، استمر النظام في الشراء بأسعار مبالغ فيها. لم يكن هناك آلية لاكتشاف الانحراف في الوقت المناسب، ولا نقطة واضحة لوقفها. النتيجة كانت خسائر تزيد عن 880 مليون دولار وإغلاق القسم بأكمله.

مراقبة ليست ملكية

غالبًا ما يتم تقليص المراقبة إلى لوحات تحكم، ولكن ذلك ليس ما يمنع الفشل.

ما يهم هو المسؤولية المحددة: من يتبع الإشارات، ما يؤدي إلى تصعيد، ومن المتوقع أن يتصرف.

تظهر حالة Deloitte Australia ما يحدث عندما يكون ذلك مفقودًا. تضمن تقرير حكومي مراجعات ومراجع قانونية غير صحيحة لأن لا أحد كان مسؤولاً بشكل صريح عن التحقق من المخرجات قبل التسليم. النتيجة كانت استرداد جزئي وتضرر سمعة.

الذكاء الاصطناعي العامل: ما سيأتي سيكون أكثر صعوبة

ينتج الذكاء الاصطناعي التوليدي مخرجات. يأخذ الذكاء الاصطناعي العامل إجراءات. هذا يغير المخاطر تمامًا.

بدلاً من استجابة واحدة لتقييمها، يمكن أن يؤدي توجيه واحد إلى سلسلة من القرارات عبر الأنظمة – مكالمات API، وصول إلى البيانات، ومعاملات، وتحديثات – غالبًا بدون تدخل بشري في كل خطوة.

عندما يحدث شيء ما، لم يعد المشكلة دقة. إنها قابلة للتعقب. ما هي الخطوة التي تسببت في المشكلة؟ ما هي البيانات المستخدمة؟ من أذن بالإجراء؟ في许多 الحالات، تكون هذه الأسئلة صعبة الإجابة بعد الحادث.

هذا هو المكان الذي تصبح فيه الفجوات الحالية حرجة. لا يزال عدم وضوح الملكية، والمراقبة الضعيفة، وعدم وجود آلية التدخل – بل يتراكم. يمكن تصحيح إجابة خاطئة. يمكن أن يخلق إجراء خاطئ عواقب قبل أن يلاحظ أي شخص.

الآثار المبكرة تشير بالفعل في هذا الاتجاه. تتنبأ جارتنر بأن أكثر من 40% من مشاريع الذكاء الاصطناعي العامل سوف يتم إلغاؤها بحلول عام 2027 – ليس بسبب قيود النموذج، ولكن لأن المنظمات ت투غ في السيطرة على التكلفة، والمخاطر، والنتائج. هذا هو نفس النمط الذي نراه مع الذكاء الاصطناعي التوليدي بعد النشر. فقط مع مخاطر أعلى.

تستجيب المنظمات بالفعل مع مبدأ بسيط: التأتمتة لا ترفع المسؤولية. بالنسبة للمنظمات، هذا يخلق تأثيرًا واضحًا: إذا كانت الملكية والسيطرة غير واضحتين اليوم، فإن التوسع في أنظمة الذكاء الاصطناعي العامل لن يحل المشكلة. سوف يزيد منها.

تشغيله – أو خسارته

الذكاء الاصطناعي لم يعد العائق. النماذج متاحة على نطاق واسع، وقادرة، ومتزايدة التداول. الفرق الحقيقي ليس ما إذا كانت المنظمة قادرة على بناء الذكاء الاصطناعي – بل ما إذا كانت قادرة على تشغيله بشكل موثوق به بمجرد أن يصبح حيا.

هذا هو المكان الذي يحدث فيه معظم الفشل – في كيفية تشغيل الأنظمة، وليس في كيفية بنائها. المنظمات التي تنجح لن تكون تلك التي لديها النماذج الأكثر تقدمًا. سوف تكون تلك التي لديها هيكل تشغيلي أوضح حولها.

يمكن اختبار ذلك مباشرة. خذ نظام الذكاء الاصطناعي الأكثر أهمية لديك وrespond إلى ثلاث أسئلة:

• من يمكن إيقاف تشغيله؟
• كيف تعرف عندما يفشل؟
• ماذا يحدث عندما يفعل؟

إذا كانت تلك الإجابات غير واضحة، فإن النظام ليس جاهزًا للإنتاج.

النموذج قد يكون كذلك. المنظمة ليست كذلك.