الذكاء الاصطناعي في المؤسسات بعد التجارب: ما يلزم لتوسيع نطاقه بأمان

في العديد من الشركات، انتقل الذكاء الاصطناعي من كونه أداة بحث بسيطة إلى الاستخدام الفعلي لروبوتات المحادثة والمساعدين، وتشغيل تجارب في التحليلات وخدمة العملاء. ولكن فقط عدد قليل منهم تمكنوا من تحويل هذه المبادرات إلى حلول مستقرة ومراقبة ومضمنة في عمليات العمل الأساسية. في كثير من الأحيان، تتعامل الإدارة مع التكنولوجيا كبديل للمديرين أو الأدوار الفردية، بدلا من تصميمها من البداية كجزء من هيكل العمليات وإدارة المخاطر وصنع القرار.

تقع أكبر المخاطر حيث تكلف الأخطاء ثمنا. نتحدث عن المالية والمدفوعات ومكافحة غسيل الأموال والقرارات القانونية. يمكن للذكاء الاصطناعي أن يبدو واثقا ولا يزال خاطئا. يمكن لخطأ واحد أن تنتشر عبر النظام مثل الشق في الزجاج. كما أن الأخطاء في العمليات الإدارية خطيرة أيضا: التكنولوجيا لا تحس السياق ولا تفهم سياسة الفريق الداخلي – أو كيف تتغير تلك الديناميات بمرور الوقت.

قانون الذكاء الاصطناعي الأوروبي يصنف الأنظمة التي تؤثر على السلامة والحقوق الأساسية والبنية التحتية الحيوية على أنها عالية المخاطر. هذا يفرض متطلبات خاصة على الشركات فيما يتعلق بالحوكمة والشفافية والرقابة البشرية. المنطق الأساسي هو أنك تحتاج أولًا إلى تحديد السياق بوضوح، ثم تقرر مستوى الاستقلالية المناسب ونوع النموذج.

أين يجب التحكم الصارم في الذكاء الاصطناعي

تكون العواقب الأكثر حرجة ناتجة عن الأخطاء في العمليات المالية والقانونية. الخطوة الخاطئة الواحدة في منطق الدفع يمكن أن تؤثر فورا على الربح والخسارة وتؤدي إلى مشاكل تنظيمية وتضر بالسمعة. المنظمون يحذرون صراحة من أن هذه الأخطاء يمكن أن تصبح مصدرا للخطر النظامي.

الأنظمة الحديثة للذكاء الاصطناعي أكثر تعقيدا وترابطا مع البنية التحتية للمشاريع، مما يعني أن تكلفة الأخطاء النادرة تزداد. العمليات الإدارية معرضة للخطر بنفس القدر – تقييم الأداء واتخاذ قرارات الموارد البشرية وتخصيص الميزانية. عندما يتم إدخال الذكاء الاصطناعي في ذلك النوع من سير العمل بدون تصميم دقيق، يُحدد الأهداف المرئية مع إهمال السياق البشري والديناميات الداخلية والاتفاقات غير الرسمية.

أين يجب تقييد الذكاء الاصطناعي وتنظيمه

علامات التحذير الرئيسية بسيطة: الذكاء الاصطناعي يحتاج إلى ضوابط صارمة في كل مكان لا يمكن التراجع عن القرارات، حيث يشارك المنظمون والتدقيق، وأين تهم السمعة أكثر من سرعة العملية. في جميع هذه المجالات، من المنطقي تقييد الذكاء الاصطناعي إلى دور مساعد في إعداد الخيارات وتحديد ما يتعين فحصه ودعم سير العمل، ولكن أبدا لا يضغط على الزر النهائي.

كما يحتاج إلى حوكمة أكثر صرامة عندما لا يمكن لأحد تفسير كيفية اتخاذ القرارات في المقام الأول. في ذلك النوع من البيئة، يتصرف الذكاء الاصطناعي مثل مضخم للضوضاء: لا يصلح المشكلة الأساسية، بل يزيد منها. الاستطلاعات الأخيرة تظهر أن المنظمات التي توسع الذكاء الاصطناعي بدون هيكل واضح ومسؤولية تواجه خسائر تجارية وضغطا تنظيميا.

تباين النموذج: المبتدئ الذي يجب عليك مراقبته

عامل خطر أقل وضوحا ولكن حقيقي هو التباين. اليوم، أجاب الذكاء الاصطناعي جيدا. غدا، يُجيب بشكل مختلف حتى لو كان السؤال نفسه. في بعض الأحيان يبدو ذكيا ولكنه يقول هراء. إنه مثل مبتدئ بدون خبرة سياقية: له نية حسنة ويتعب، ولكنه دائما بحاجة إلى مراجعة.

الشركات التي تتعامل بجدية مع هذا الأمر تُنشئ آليات مراقبة. يقارنون الإخراج على نفس المهام بمرور الوقت ويقيمون ليس فقط جودة الإجابة، ولكن أيضا اتساقها. عندما يبدأ النموذج في الانحراف أو التأرجح، يمكن للفرق أن يكتشف ذلك مبكرا.

في العمليات الحيوية، المنطق بسيط – الذكاء الاصطناعي يُعد ويوضح ولكن البشر يقررون ويؤكدون. الإجراء النهائي يجب أن يبقى دائما مع شخص.بالنسبة إلى العمليات عالية الخطورة، من الضروري مراجعة 100٪؛بالنسبة إلى العمليات البسيطة، يمكن أن تكون العينة كافية لأن المسؤولية لا يمكن أتمتتها.

تظل نفس الأدوار مسؤولة كما كانت قبل الذكاء الاصطناعي: ضباط مكافحة غسيل الأموال، المالية، والامتثال. الذكاء الاصطناعي لا يغير المسؤولية؛ إنه يغير السرعة. الشركات التكنولوجية الكبرى قد أضفت هذا منذ زمن بعيد في معاييرها الداخلية – على سبيل المثال، معيار Microsoft (MSFT ) للذكاء الاصطناعي المسؤول يتطلب صراحةً تحديد الأطراف المسؤولة عن الإشراف والرقابة على أنظمة الذكاء الاصطناعي وضمان الرقابة البشرية الفعّالة في ظروف التشغيل الفعلية.

الأمان كإعداد أساسي

القاعدة الأولى هنا واضحة: يجب ألا يتم إرسال البيانات الشخصية إلى نماذج خارجية. يجب تسجيل جميع إجراءات الذكاء الاصطناعي، بحيث يمكنك دائما تتبع من فعل ماذا ومتى. يجب أن يعمل الذكاء الاصطناعي داخل نطاق الشركة – الآن هذا هو المتطلب الذي يُحدد بواسطة الامتثال التنظيمي والأمن السيبراني.

تتمثل ردود فعل الموظفين على الذكاء الاصطناعي في نمط متوقع. أولاً يأتي الفضول، ثم خوف من الاستبدال، ثم التأكيد إذا كان كل شيء شفافًا. لهذا السبب، يجب أن يكون التدريب موجهًا وقصيرًا وعمليًا. لا حاجة لتعليم كيفية عمل النماذج – ما يهم هو تعليم أين يساعد الذكاء الاصطناعي وأين يجب التحكم فيه.

اتجاهات السنوات القليلة القادمة: من البوتات إلى المنصات

نظرًا إلى السنوات القليلة القادمة، فإن الخطوط العريضة واضحة بالفعل. أولاً، ستنتقل الشركات نحو منصات الذكاء الاصطناعي الموحدة بدلاً من عشرات البوتات المنفصلة. ثانياً، سيتم مزج الذكاء الاصطناعي بشكل متزايد مع القواعد والآليّة التقليدية. سيصبح ضبط الجودة وتسجيل الإجراءات افتراضيًا معيارين أيضًا. سيتحول الذكاء الاصطناعي إلى أداة خلفية: سيُعد المسودات ويتحقق ويقترح. باختصار، سيعمل الذكاء الاصطناعي مثل مساعد جيد: يسرع العمل، ولكنه لا يُوقّع الوثائق.

هذه الاتجاهات هي بالتأكيد أخبار جيدة للشركات التي لديها عمليات موثقة جيدًا، ومسؤولية واضحة ومخاطر معترف بها ومقاسة. سيكونون قادرين على توسيع الذكاء الاصطناعي بسلام وسريعًا.