هيكل المراجعة يهم أكثر من النموذج في الذكاء الاصطناعي للشركات

يعتمد المرحلة القادمة من النموذج في الذكاء الاصطناعي على بناء هيكل مراجعة موثوق به حولها.

كل محادثة حكومية حول حوكمة الذكاء الاصطناعي التي أجريتها خلال السنوات القليلة الماضية ترجع إلى نفس المخاوف: معدلات الوهم، معايير الدقة، واختبار التوجيه. هذه مشاكل حقيقية، بالطبع، ولكن المحادثة ربطت بالطرف الخاطئ للمشكلة.

على الرغم من تحسين النماذج بشكل كبير، إلا أن عدد الإخراجات غير المحدقة من الذكاء الاصطناعي التي تصل إلى كبار المسؤولين قد زادت بشكل متوازي. هذا الإهمال يشير إلى مشكلة في هيكل المراجعة، والصناعة تتحدث قليلا عنها.

قصة النموذج المركزي تجاوزت الواقع

الإطار السائد في الذكاء الاصطناعي للشركات لا يزال يعامل جودة النموذج كالمتغير الرئيسي: إذا كان النموذج دقيقًا بدرجة كافية، فإن الإخراج موثوق به. هذا المنطق كان مفهومًا قبل عامين عندما كانت النماذج الأولى من LLMs أكثر عدم استمرارية وملاءمة للوهم، ولكن الوضع قد تغير.

تنتج نماذج اليوم إجابات متطورة، ومصممة جيدًا، وغنية بالإشارات، عبر مجموعة واسعة من المهام، مكتوبة بلغة جاهزة للمستفيدين. تستخدم المنظمات الآن الذكاء الاصطناعي بكمية تفوق ما كان من المفترض أن تكون عمليات مراجعتها قادرة على التعامل معها. وقد وثقت الأبحاث حول تبني الذكاء الاصطناعي في الشركات هذا الخلاف في تطوير البرمجيات، حيث المطورون الذين يستخدمون الذكاء الاصطناعي ينجزون 21% أكثر من المهام في حين يزيد وقت مراجعة الطلبات بنسبة 91%. تزداد الإنتاجية، لذا لم يعد القدرة هي العائق الحقيقي. قدرة المراجعة هي العائق الحقيقي.

ما تظهره البيانات في عمل التحليلات

صناعة التحليلات هي مكان مناسب لدراسة هذه المشكلة لأن المحترفين في البحث مدربون على الشك. họ يعرفون الفرق بين الارتباط والسببية والنتائج والاستنتاجات. التساؤل عن جودة البيانات هو جزء من الوظيفة.

وفقًا لـ مؤشر ثقة Knit AI، 92% من المحترفين في مجال التحليلات في الشركات يبلغون أن الإخراجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي تصل إلى القيادة العليا دون مراجعة شاملة.
تحدد نتائج مؤشر الثقة ثلاث نقاط ضغط رئيسية:

• الكمية تجاوزت قدرة التحقق. توليد الفرق أكثر من ما لديهم من قدرة على فحصها بدقة.
• الثقة زادت بشكل أسرع من تغيير سلوك التحقق. يشعر الباحثون بالإيجابية تجاه جودة الذكاء الاصطناعي في حين يعترفون بأن ممارسات مراجعتها لم تتغير.
• أدوات المراجعة لأعمال الذكاء الاصطناعي متأخرة عن أدوات الإنتاج. استثمرت المنظمات بشكل كبير في القدرات التوليدية وبشكل نسبي في البنية التحتية لمراجعة ما أنتجته الذكاء الاصطناعي.

الإخراجات المطورة تدعو إلى اقل مراجعة

الوضع الصعب ليس عندما ينتج الذكاء الاصطناعي إجابة خاطئة ويتم اكتشافها من قبل شخص ما. المشكلة الصعبة هي انحياز التأتم، وهو میل إلى تقليل المراجعة للإخراجات التي تبدو ذات صلاحية ومتطورة. دراسة منهجية منشورة في مجلة الذكاء الاصطناعي والمجتمع في عام 2025 درست هذا عبر 35 دراسة مراجعة الأقران ووجدت أن الإخراجات المطورة والمتطورة للذكاء الاصطناعي تقلل بشكل مستمر من عمق المراجعة البشرية – حتى بين المحترفين المخضرمين. عندما تبدو شيء صحيحًا، نقوم بتخصيص انتباه أقل لتحقق ما إذا كان كذلك.

يخلق هذا الإهمال مشكلة في الانتشار. إخراج بحثي الذي يراجعه المحلل بسرعة يصبح نقطة بيانات في تقرير على مستوى نائب الرئيس، والذي يصبح أساسًا لمناقشة على مستوى المجلس الإداري. عندما ينتقل الخطأ إلى هذا الحد، يصبح من الصعب تحديد منشئه وتكلفته باهظة. الخسائر التجارية العالمية الناجمة عن عدم دقة الذكاء الاصطناعي تجاوزت 67 مليار دولار في عام 2024. يمكن أن تصل تكاليف التحقق لكل موظف إلى 14,200 دولار في السنة، فقط لتحقق ما إذا كان المحتوى الذي أنتجته الذكاء الاصطناعي دقيقًا. مرة أخرى، هذه ليست مشاكل في جودة النموذج؛ إنها مشاكل في هيكل المراجعة.

ما تبدو عليه سير عمل الذكاء الاصطناعي الناضج

المنظمات التي تدير هذه المشكلة جيدًا لا تستخدم نماذج أفضل من أي شخص آخر. بدلاً من ذلك، بنوا بنية مراجعة أكثر شمولاً حول النماذج التي يستخدمونها. هناك أربعة مبادئ تحدد نهجهم:

1. الأصول المرئية

كل إخراج للذكاء الاصطناعي يحمل سجلًا شفافًا لمصدر الإدخالات. هذا السجل يمنح المراجعين رؤية قيمة لما يحتاجون إلى تقييم الإخراجات بفعالية. لا يمكنك تقييم ادعاء غير قابل للتتبع.

2. المراجعة المتدرجة حسب المخاطر

لا تحمل جميع إخراجات الذكاء الاصطناعي نفس المخاطر. تطبق سير عمل ناضجة شدة المراجعة بشكل متناسب مع العواقب اللاحقة لخطأ ما. الإخراجات عالية المخاطر تحصل على أكثر من عيون وخطوات التحقق المنظمة. الإخراجات الروتينية تتحرك بسرعة.

3. الاحتكاك في المكان الصحيح

المنظمات التي تكافح أكثر مع ثقة الذكاء الاصطناعي أزالت الاحتكاك بشكل موحد، معاملته كهدف عالمي للسرعة. المنظمات الناجحة كانت انتقائية: الحفاظ على احتكاك متعمد في نقاط التسليم حيث تصبح إخراجات الذكاء الاصطناعي قرارات تنظيمية. процесسها يتطلب التوقيع قبل أن يذهب اكتشاف الذكاء الاصطناعي إلى ورقة المجلس، أو خطوة تحدي منظمة قبل دخول النتائج إلى مناقشات الاستراتيجية.

4. التغذية الراجعة إلى طبقة النموذج

تعتبر السير العمل الأفضل المراجعة عملية توليد بيانات، وليس نقطة فحص. عندما يُشير المراجع إلى خطأ أو يلغي توصية الذكاء الاصطناعي، يتم التقاط ذلك الإشارة وإرسالها إلى كيفية نشر الذكاء الاصطناعي في العمل المستقبلي. تقرير حالة الذكاء الاصطناعي في الشركات من OpenAI وجد أن المنظمات الأعلى أداءً تميزت ليس بتعقيد نماذجها ولكن بصرامة عمليات نشرها.

المرحلة القادمة ستفوز في طبقة المراجعة

الميزة التنافسية الحقيقية في صناعة التحليلات هي من يمكنه أن يثق بثبات بما ينتجه. هذه الثقة تأتي من معرفة من أين أتى الإخراج، ومن قام بمراجعته، وما حدث عندما كان هناك خطأ. التاريخ الحديث أجاب على سؤال النموذج؛ البنية التحتية للتنظيم لنشر النماذج مسؤولية في النطاق الكبير هو حيث لا تزال الصناعة تلحق.

حقيقة أن 92% من محترفي التحليلات رأوا إخراجات غير مراجعة من الذكاء الاصطناعي تصل إلى القيادة العليا ليست فشلًا تكنولوجيًا. إنه فشل في تصميم المنظمة، ويتجلى عبر الصناعات حيث تمت优化 السرعة وتم معاملة المراجعة كتكلفة. الشركة التي لديها النموذج الأذكى لن تفوز بالمرحلة القادمة من الذكاء الاصطناعي في الشركات، ولكن الشركة التي لديها هيكل مراجعة أكثر موثوقية حولها.