قادة الفكر
الذكاء الاصطناعي للشركات ما وراء التجارب: ما يلزم لتحقيق التوسع بأمان
في العديد من الشركات، انتقل الذكاء الاصطناعي من كونه أداة بحث بسيطة إلى أداة أكثر تعقيدا: يتم استخدام المحادثات والمرافق النشطة، وتجرى تجارب في مجال التحليلات وخدمة العملاء. ولكن فقط عدد قليل من الشركات استطاع تحويل هذه المبادرات إلى حلول مستقرة ومراقبة يمكن دمجها في عمليات الأعمال الأساسية. غالبا ما يعامل الإدارة التكنولوجيا كبديل للمديرين أو الأدوار الفردية، بدلا من تصميمها من البداية كجزء من بنية العمليات وإدارة المخاطر وصنع القرار.
الأخطار الأكبر تكمن في أماكن حيث تكلف الأخطاء ثمنا. نتحدث عن المالية والمدفوعات ومكافحة غسيل الأموال والقرارات القانونية. يمكن أن يبدو الذكاء الاصطناعي واثقا ولا يزال خاطئا. يمكن أن تنتشر الخطأ الواحدة عبر النظام مثل الشق في الزجاج. الأخطاء في عمليات الإدارة أيضا محفوفة بالخطر: التكنولوجيا لا تشعر بالسياق ولا تفهم سياسة الفريق الداخلية – أو كيف تتغير تلك الديناميات مع مرور الوقت.
قانون الذكاء الاصطناعي الأوروبي يصنف الأنظمة التي تؤثر على السلامة والحقوق الأساسية والبنية التحتية الحيوية على أنها عالية المخاطر. هذا يفرض متطلبات خاصة على الشركات فيما يتعلق بالحوكمة والشفافية والرقابة البشرية. المنطق الكامن هو أنك تحتاج أولا إلى تعريف السياق بوضوح، وحدد فقط بعد ذلك مستوى الاستقلالية المناسب ونوع النموذج.
أين يجب التحكم بشكل صارم في الذكاء الاصطناعي
تظهر العواقب الأكثر حرجا نتيجة لأخطاء في العمليات المالية والقانونية. خطوة خاطئة واحدة في منطق الدفع يمكن أن تؤثر فورا على الربح والخسارة، وتسبب مشاكل تنظيمية، وتضر بالسمعة. المنظمون يحذرون صراحة أن هذه الأخطاء يمكن أن تصبح مصدرا للخطر النظامي.
النظم الحديثة للذكاء الاصطناعي أكثر تعقيدا وترابطا مع بقية البنية التحتية للشركات، مما يعني أن تكلفة الفشل النادر تزداد. عمليات الإدارة أيضا محفوفة بالمخاطر – تقييم الأداء، والقرارات الإدارية، وتخصيص الميزانية. عندما يتم إدخال الذكاء الاصطناعي في هذا النوع من سير العمل بدون تصميم دقيق، يعتمد على المقاييس المرئية بينما يفقده السياق البشري والديناميات الداخلية والاتفاقات غير الرسمية.
أين يجب تقييد الذكاء الاصطناعي وتحكمة
إشارات التحذير الرئيسية بسيطة: الذكاء الاصطناعي يحتاج إلى ضوابط صارمة في كل مكان حيث لا يمكن إصلاح القرارات، حيث يشارك المنظمون والتدقيق، وأين يهم السمعة أكثر من سرعة العملية. في جميع هذه المجالات، من المنطقي تقييد الذكاء الاصطناعي إلى دور مساعد في إعداد الخيارات، وتحديد ما يجب فحصه، ودعم سير العمل، ولكن أبدا الضغط على الزر النهائي.
كما يحتاج إلى حوكمة أكثر صرامة عندما لا يمكن لأحد تفسير كيفية اتخاذ القرارات في المقام الأول. في هذا النوع من البيئة، يعمل الذكاء الاصطناعي كمضخم للضوضاء: لا يصلح المشكلة الأساسية، بل يزيد منها. تظهر الاستطلاعات الحديثة أن المنظمات التي توسع الذكاء الاصطناعي بدون هيكل واضح ومساءلة تنتهي بمواجهة خسائر تجارية وضغط تنظيمي.
تنوع النموذج: المتدرب الذي يجب عليك فحصه مرتين
عامل خطر أقل وضوحا ولكن حقيقيا هو التباين. اليوم، أجاب الذكاء الاصطناعي جيدا. غدا، يجيب بشكل مختلف حتى لو كانت السؤال نفسها. أحيانا يبدو ذكيا ولكنه يقول هراء. إنه مثل متدرب بدون خبرة سياقية: حسن النية ومحاولا بجد، ولكنه دائما بحاجة إلى مراجعة.
الشركات التي تتعامل مع هذا الأمر بجدية ت建 آليات تحكم. يقارنون الإخراج على نفس المهام مع مرور الوقت ويقيمون ليس فقط جودة الإجابة، ولكن أيضا اتساقها. عندما يبدأ النموذج في الانحراف أو التذبذب، يمكن للفرق ملاحظته مبكرا.
في العمليات الحيوية، المنطق بسيط – الذكاء الاصطناعي يعد ويلفت الانتباه ولكن البشر يقررون ويؤكدون. الإجراء النهائي يجب أن يبقى دائما مع شخص. للعمليات عالية المخاطر، المراجعة بنسبة 100% ضرورية؛ للعمليات البسيطة، يمكن أن تكون العينة كافية لأن المساءلة لا يمكن تلقينها.
الذين يظلون مسؤولين هم نفس الأشخاص الذين كانوا مسؤولين قبل الذكاء الاصطناعي: ضباط مكافحة غسيل الأموال، المالية، والامتثال. الذكاء الاصطناعي لا يغير المساءلة؛ إنه يغير السرعة. الشركات التكنولوجية الكبيرة قد رسخت هذا في معاييرها الداخلية – على سبيل المثال، معيار Microsoft للذكاء الاصطناعي المسؤول يطلب تحديد أصحاب المصلحة المسؤولين عن الإشراف والتحكم في أنظمة الذكاء الاصطناعي وضمان الرقابة البشرية الفعّالة في ظروف التشغيل الفعلية.
الأمان كإعداد أساسي
القاعدة الأولى هنا واضحة: لا يجب إرسال البيانات الشخصية إلى نماذج خارجية. جميع إجراءات الذكاء الاصطناعي يجب تسجيلها، بحيث يمكنك دائما تتبع من فعل ماذا ولما. يجب أن يعمل الذكاء الاصطناعي داخل نطاق الشركة – الآن هو متطلب تحكمه الامتثال التنظيمي والأمن السيبراني.
تتمثل ردود أفعال الموظفين على الذكاء الاصطناعي في نمط قابل للتنبؤ. أولا يأتي الفضول، ثم خوف من الاستبدال، ثم التأكيد إذا كان كل شيء شفافا. لذلك يجب أن تكون التدريبات مستهدفة و قصيرة وعمليه. لا يوجد حاجة لتعليم كيف تعمل النماذج – ما يهم هو تعليم أين يساعد الذكاء الاصطناعي وأين يجب التحكم فيه.
اتجاهات السنوات القليلة القادمة: من البوتات إلى المنصات
نظرًا إلى السنوات القليلة القادمة، فإن الملامح واضحة بالفعل. أولا، ستنتقل الشركات نحو منصات الذكاء الاصطناعي الموحدة بدلا من عشرات البوتات غير المرتبطة. ثانيا، سيتم مزج الذكاء الاصطناعي بشكل متزايد مع القواعد والآليّة التقليدية. سيصبح التحكم في الجودة والتسجيل افتراضيا قياسيا. سيتحول الذكاء الاصطناعي إلى أداة خلفية: سوف يقوم بكتابة मसودات، ويراجع، ويقترح. بعبارة أخرى، سيعمل الذكاء الاصطناعي مثل مساعد جيد. يسرع من العمل، ولكنه لا يوقّع الوثائق.
هذه الاتجاهات هي بالتأكيد أخبار جيدة للشركات التي لديها عمليات واضحة، ومساءلة واضحة، ومخاطر معترف بها ومقاسة. سيكونون قادرين على توسيع الذكاء الاصطناعي بهدوء وسرعة.
