لماذا يمكن أن يكون الثقة العمياء في الذكاء الاصطناعي أسوأ قرار تتخذه

في عام 1979، أصدر دليل تدريبي لشركة آي بي إم تحذيرًا بسيطًا لكنه مؤثر: “لا يمكن أن يُحاسب جهاز كمبيوتر؛ لذلك، لا ينبغي لجهاز كمبيوتر أن يتخذ قرارًا إداريًا”. وحتى أكثر من 45 عامًا بعد ذلك، يبدو هذا البيان وكأنه نبوءة مخالفة.

في عام 2025، لا يساعد الذكاء الاصطناعي فقط، بل يتخذ قرارات مستقلة، وفي العديد من الحالات، لا يتخذ القرارات فقط، بل يقود. وفي الواقع، حوالي 74% من كبار المسؤولين التنفيذيين يثقون في الذكاء الاصطناعي لتقديم المشورة التجارية أكثر من زملائهم أو أصدقائهم، و 38% يثقون في الذكاء الاصطناعي لاتخاذ القرارات التجارية من أجلهم، و 44% يyield لمنطق التكنولوجيا على أفكارهم الخاصة. التغيير واضح؛ الذكاء الاصطناعي هو الغريزة الجديدة.

لكن هناك مشكلة. الثقة في الذكاء الاصطناعي ممكنة فقط إذا كان الخوارزمية تستحق الثقة. وعندما توضع الثقة بشكل أعمى، خاصة في الصندوق الأسود الذي لا نستطيع فهمه أو تدقيقه، فهي مخاطرة تتنكر في زي التقدم. كما هو الحال في القيادة البشرية، الثقة دون مساءلة خطيرة، وعندما يخطئ الذكاء الاصطناعي، من يتحمل المسؤولية؟

متى يصبح الأداة الزعيم

ما بدأ كأداة لتبسيط عمليات المكتب الخلفي يُستخدم الآن في العمليات التجارية الأساسية. ولكن الشركات لا تستخدم الذكاء الاصطناعي فقط لدعم القرارات البشرية؛ بل تثق في الذكاء الاصطناعي، خاصة الذكاء الاصطناعي التوليدي (GenAI)، لاتخاذ القرارات التجارية، من الاستراتيجية التجارية إلى خدمة العملاء، والنمذجة المالية، وغيرها.

هذا التغيير مفهوم. الذكاء الاصطناعي لا ي отвлеч، ولا ينسى التعليمات، ولا يسمح العواطف بتضليل حكمه. للعديد من الشركات، هذا يعرض علاجًا جذابًا للمخاطر المرتبطة بالخطأ البشري. ومع ذلك، تبقى سؤال رئيسي: هل يمكننا الثقة في الذكاء الاصطناعي ليتخذ القرارات بشكل مستقل؟

ليس هناك جواب مباشر، ولكن هناك طريقة لlooking في ذلك هي كيف نحكم على ثقة الناس: من خلال كفاءتهم، وموثوقيتهم، ونواياهم الواضحة. نفس المبادئ تنطبق على الذكاء الاصطناعي.

لكي يُثق في نظام الذكاء الاصطناعي، يجب أن يقدم نتائج دقيقة، وموعدة، وملائمة. ولكن مستوى الثقة وفرصة الخطأ تختلفان حسب السياق. على سبيل المثال، عند تشخيص السرطان من الصور الطبية، عتبة الفشل منخفضة للغاية. في المقابل، عند توليد أفكار لحملة تسويقية، هناك مجال أكبر للتجربة.

لقد رأينا الذكاء الاصطناعي يستخدم لاتخاذ قرارات مستقلة في مجالات مثل الموافقة على القروض، حيث تستخدم البنوك الخوارزميات لتحديد أهلية القرض في ثوان. يستخدم تجار التجزئة الذكاء الاصطناعي لإدارة المخزون والأسعار دون مدخلات بشرية. ولكننا رأينا أيضًا فشلات – مثل السيارات ذاتية القيادة التي تسيء تقدير ظروف الطريق.

يُظهر قصة تحذيرية واحدة مخاطر وضع الثقة المفرطة في الذكاء الاصطناعي دون الرقابة الكافية. ديريك موبلي – رجل أسود يزيد عمره عن 40 عامًا – قدم إلى أكثر من 100 وظيفة من خلال نظام Workday AI-driven منذ عام 2017 وتم رفضه كل مرة. زعم التمييز على أساس العمر والعرق. في مايو 2025، منحت المحكمة إجراءًا جماعيًا على مستوى الدولة. يتضمن الفصل جميع المتقدمين الذين تزيد أعمارهم على 40 عامًا الذين قدموا من خلال Workday منذ سبتمبر 2020 وتم رفضهم بناءً على توصيات الذكاء الاصطناعي.

تُظهر هذه القصة نقطة مهمة: الذكاء الاصطناعي يفتقر إلى الذكاء العاطفي، والمنطق الأخلاقي، أو الحس الطبيعي للعادل. ومنذ أن يتحرك الذكاء الاصطناعي من مساعد بشري إلى متخذ قرار مستقل، هناك فراغ في المساءلة. عندما يسمح للخوارزميات بالتشغيل دون ضوابط بشرية، يمكنها أن تتخذ قرارات سيئة وتعزز التحيزات القائمة.

السؤال حول الصندوق الأسود

الصندوق الأسود – عندما لا يكون نظام الذكاء الاصطناعي وطريقة عمله مرئيين تمامًا – يزداد شيوعًا. على الرغم من أن لديها طبقات مرئية، لا يزال المطورون والمستخدمون لا يستطيعون رؤية ما يحدث في كل طبقة، مما يجعلها غير شفافة.

على سبيل المثال، ChatGPT هو صندوق أسود، حيث لا يعرف حتى مبتكروها كيف يعمل، لأنها مدربة على مجموعات بيانات كبيرة جدًا. ولكن بسبب نقص الشفافية، هل من المقبول “الثقة” في نموذج الذكاء الاصطناعي دون فهم كيفية عمله؟

باختصار، لا: وهم الذكاء الاصطناعي يزداد سوءًا. هذا يعني أنه في السيناريوهات عالية المخاطر، مثل القرارات المالية، والمشورة القانونية، والرؤى الطبية، يتطلب الذكاء الاصطناعي التحقق الصارم، والتحقق المتقاطع، والرقابة البشرية.

دعوى ديزني ويونيفرسال التي تم تقديمها في يونيو 2025 تؤكد هذه النقطة. يزعم الاستوديوهان أن أدوات الذكاء الاصطناعي التوليدي تم تدريبها على مواد محمية بحقوق النشر لإنشاء محتوى جديد دون موافقة. هذا القضية تسلط الضوء على واقع جديد: عندما تُشرك الشركات نماذج الذكاء الاصطناعي التي لا تفهمها، قد تُحاسب على القرارات المتخذة. والجهل ليس دفاعًا؛ إنه مسؤولية.

ومع ذلك، غالبًا ما نضع الثقة في أنظمة معقدة لا نفهمها. على سبيل المثال، لا يستطيع معظم ركاب الطيران شرح فيزياء الطيران، ومع ذلك، يركبون الطائرات بثقة لأننا بنينا الثقة من خلال التعرض المتكرر، والخبرة الجماعية، وسجل قوي من السلامة.

يمكن تطبيق نفس المنطق مرة أخرى على الذكاء الاصطناعي. من غير المعقول توقع أن يفهم الجميع كيف تعمل النماذج اللغوية الكبيرة. ولكن الثقة لا تبني على الفهم؛ إنها تتطلب الإلفة، والشفافية حول القيود، ونمط أداء موثوق. يجب على مهندسي الطيران معرفة الاختبارات التي يجب وضعها، وما يبدو عليه الخطأ، ويجب أن نطالب الشيء نفسه من مزودي الذكاء الاصطناعي التوليدي. يجب أن يكون مبدأ الذكاء الاصطناعي الأساسي هو الثقة، ولكن التحقق.

علاوة على ذلك، يعتقد قادة الأعمال غالبًا أن الذكاء الاصطناعي سيكون الرصاصة الفضية التي ستحل جميع مشاكلهم التجارية. ومع ذلك، هذا الخراف يؤثر على العديد من الشركات عند دمج الذكاء الاصطناعي. قد يفضل القادة نماذج معقدة ومبتكرة، ولكن حلًا أبسط قد يكون أكثر ملاءمة إذا أجروا تحليلًا للتكلفة والفائدة. الذكاء الاصطناعي هو أداة قوية، ولكنها لا تناسب كل مهمة. يجب على الشركات التعرف على المشكلة قبل اختيار الأداة.

إعادة بناء الثقة في الذكاء الاصطناعي

على الرغم من أن من الواضح أن الثقة العمياء في الذكاء الاصطناعي هي مشكلة، فإن أنظمة الذكاء الاصطناعي والخوارزميات يمكن أن تكون أفضل أداة تملكها الشركة – عندما تُستخدم بأمان.

对于 الشركات التي تريد استغلال أدوات الذكاء الاصطناعي، يجب أن تكون أول شيء يبحثون عنه هو إجراء تحقيقات كافية حول الموردين. عندما تكتشف الشركة مجالًا يمكن أن يستفيد من كفاءة الذكاء الاصطناعي، يجب على قادة الأعمال تقييم الموردين ليس فقط على ادعاءات الأداء، ولكن على ضوابط الحوكمة. هذا يشمل مراجعة كيفية تطوير النماذج، و是否 تتوفر أدوات الشفافية، وكيف يتم رصد التحيز، و是否 تتوفر سجلات التدقيق. اختيار مورد مع عمليات شفافة ضروري لتحديد المخاطر من البداية.

ربما أهم نقطة عند بناء الثقة في أنظمة الذكاء الاصطناعي هي ضمان حوكمة البيانات مع مجموعات بيانات نظيفة، وممثلة، ومدونة جيدًا. كما يقول المثل: “النفايات الداخلة، النفايات الخارجة”. لذلك، إذا كانت البيانات غير كاملة، أو متحيزة، أو غير دقيقة، حتى النموذج الأكثر تطورًا سوف ينتج نتائج غير موثوقة.

为了 ضمان جاهزية البيانات للذكاء الاصطناعي، يجب على الشركات:

• تدقيق مجموعات البيانات الحالية على الفجوات والتكرار، وتحقق من مصادر التحيز

• توحيد تنسيقات البيانات

• تنفيذ سياسات حوكمة البيانات التي تحدد الملكية وسيطرة الوصول

خطوة أخرى مهمة لقادة الأعمال هي إجراء اختبارات الإجهاد في ظروف مختلفة. على الرغم من أن النموذج قد ينجح جيدًا في الاختبارات المراقبة، من المهم فهم حدود النموذج عند مواجهة بيانات أو مدخلات جديدة لم تتوقعها. لهذا السبب، من المهم اختبار الذكاء الاصطناعي في مجموعة متنوعة من الحالات، مع أنواع مختلفة من المستخدمين، واستخدامات مختلفة، وبيانات من فترات زمنية مختلفة.

التحقق من صحة الذكاء الاصطناعي هو مهمة مستمرة. مع تغير البيانات بمرور الوقت، حتى النماذج الموثوقة يمكن أن تفقد الدقة. لذلك، يهم الرصد المنتظم. يجب على الشركات مراقبة أداء النموذج يومًا بعد يوم: هل ما زال دقيقًا؟ أو هل الزيادات الكاذبة تزداد؟ وكما هو الحال مع أي نظام يحتاج إلى الصيانة، يجب إعادة تدريب النماذج بانتظام مع بيانات جديدة لتبقى ذات صلة.

الذكاء الاصطناعي ليس موثوقًا به أو غير موثوق به؛ إنه مشكل من البيانات التي يتعلم منها، والأشخاص الذين يصنعونه، والقواعد التي تحكمه. كما يتطور الذكاء الاصطناعي من أداة مفيدة إلى مستشار تجاري، يكون للقادة خيار استخدامها بطريقة مدروسة واخلاقية. إذا فعلنا ذلك بشكل صحيح، سيكون الذكاء الاصطناعي ليس فقط قويًا في المستقبل، ولكن سيكون أيضًا مسؤولاً، مع مساءلة واضحة تقع على عاتق مطوريه وأشرفهم.