نماذج ومنصات الذكاء الاصطناعي

مخطئون بثقة: لماذا تكون أذكى نماذج الذكاء الاصطناعي الأسوأ في تصحيح أخطائها؟

Dr. Tehseen Zia
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالنماذج الأقوى ترتكب أخطاءً أعمق تقاوم التصحيح الذاتي، بينما تصلح النماذج الأضعف…
عرض المزيد
  • النماذج الأقوى ترتكب أخطاءً أعمق تقاوم التصحيح الذاتي، بينما تصلح النماذج الأضعف الأخطاء السطحية.
  • الكشف عن خطأ لا يضمن إصلاحه لأن النماذج قد تعيد الحل دون إدراك الفشل.
  • يجب قياس التصحيح الذاتي بشكل منفصل عن الدقة لأن التوسيع وحده لا يضمن إصلاحًا ذاتيًا موثوقًا.

يعتقد العديد في مجتمع الذكاء الاصطناعي أن الثورة التالية الكبرى ستكون عصر الذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه بدون تدخل بشري. والحجة هو: كلما نمت النماذج أكثر قدرة، سوف تتعلم في النهاية ليس فقط من البيانات، ولكن من نفسها. كل تكرار سوف يراجع السابق. الأخطاء سوف يتم تحديدها، تصحيحها، وإزالتها. مع مرور الوقت، يمكن أن يؤدي هذا التراكم من التحسينات إلى انفجار في الذكاء حيث يبدأ الذكاء الاصطناعي في بناء الذكاء الاصطناعي. هذه الرؤية هي أساس جانب كبير من الإثارة حول الذكاء الاصطناعي العودي، والوكلاء المستقلين، وانفجار الذكاء المتوقع لمدة طويلة. في مركز هذه الرؤية تقع القدرة على أنظمة الذكاء الاصطناعي لتصحيح أخطائها بشكل موثوق. ومع ذلك، بدون تصحيح ذاتي قوي، لا يمكن تحقيق التحسين الذاتي. النظام الذي لا يمكنه التعرف على أنه مخطئ لا يمكن أن يتعلم بشكل معنوي من مخرجاته الخاصة، بغض النظر عن مدى قوته الظاهرة.

كان الافتراض السائد هو أن التصحيح الذاتي سوف يظهر بشكل طبيعي مع نمو النماذج أكثر قدرة. هذا الاعتقاد يبدو بديهيًا. بعد كل شيء، النماذج الأقوى تعرف أكثر، وتعقل بشكل أفضل، وتؤدي بشكل جيد عبر المهام. ومع ذلك، البحث الحديث يكشف عن نتائج غير متوقعة أن النماذج الأكثر تقدمًا غالبًا ما تعاني في تصحيح أخطائها الخاصة، بينما النماذج الأضعف تؤدي بشكل أفضل في التصحيح الذاتي. هذه الظاهرة، المعروفة باسم مفارقة الدقة والتصحيح، تجبرنا على إعادة التفكير ليس فقط في كيفية عمل أنظمة الذكاء الاصطناعي، ولكن في مدى استعدادنا الحقيقي للذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه.

فهم الذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه

الذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه يشير إلى نظام ذكاء اصطناعي يمكن أن يحدد أخطاءه الخاصة، ويتعلم منها، ويراجع سلوكه بشكل متكرر. على عكس النماذج التقليدية، التي تعتمد فقط على بيانات التدريب التي يتم تحضيرها بواسطة البشر، الذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه سوف يقيّم مخرجاته الخاصة بشكل فعال ويتكيف مع مرور الوقت. في النظرية، هذا يخلق دورة من التغذية الراجعة حيث كل دورة من دورات التعلم تُبنى على السابقة، مما يؤدي إلى ما يوصف غالبًا باسم انفجار في الذكاء.

ولكن تحقيق هذا الهدف ليس بالأمر الهين. التحسين الذاتي يتطلب أكثر من القوة الحاسوبية الخام أو مجموعات بيانات أكبر. يتطلب ذلك تقييمًا ذاتيًا موثوقًا، بما في ذلك القدرة على كشف الأخطاء، وتحديد مصادرها، وإنتاج حلول محسنة. بدون هذه القدرات، لا يمكن للنموذج التمييز بين مسار التفكير الصحيح ومسار معيب. التكرار على الحل الخاطئ، بغض النظر عن السرعة، يعزز فقط الأخطاء بدلاً من تحسين الأداء.

هذا التمييز بالغ الأهمية. لدى البشر، يتضمن التعلم من الأخطاء غالبًا التأمل واختبار الفرضيات وتصحيح المسار. أما في الذكاء الاصطناعي، فيجب ترميز هذه العمليات داخل النظام نفسه. إذا لم يستطع النموذج التعرف على أخطائه وتصحيحها بصورة موثوقة، فلن يتمكن من المشاركة على نحو ذي معنى في حلقة تحسين ذاتي، وسيظل الوعد بالذكاء العودي نظريًا لا عمليًا.

مفارقة الدقة والتصحيح

يتم عادة معاملة التصحيح الذاتي على أنه قدرة واحدة، ولكن في الواقع يجمع بين عدة قدرات منفصلة يجب أن تؤخذ في الاعتبار بشكل منفصل. على الأقل، يمكننا فصلها إلى ثلاث قدرات يمكن قياسها: كشف الأخطاء، وتحديد مصدر الخطأ، وتصحيح الخطأ. كشف الأخطاء يسأل عما إذا كان النموذج يمكن أن يتعرف على أن مخرجاته غير صحيحة. تحديد مصدر الخطأ يركز على تحديد مكان حدوث الخطأ. تصحيح الخطأ يشير إلى القدرة على إنتاج حل محسّن.

من خلال قياس هذه القدرات بشكل منفصل، يكشف الباحثون عن رؤى مهمة حول قيود الأنظمة الحالية. يظهر أن النماذج تختلف على نطاق واسع عبر هذه القدرات. بعض النماذج جيدة في كشف الأخطاء ولكن سيئة في تصحيحها. نماذج أخرى بالكاد تتعرف على الأخطاء ولكنها لا تزال تصلحها من خلال محاولات متكررة. أكثر من ذلك، هذه الرؤى تكشف أن التحسين في مجال واحد لا يضمن تحسينًا في مجالات أخرى.

عندما اختبر الباحثون نماذج متقدمة في مهام معقدة للاستدلال الرياضي، ارتكبت هذه النماذج أخطاء أقل، وهو ما كان متوقعًا. لكن المفاجأة كانت أنها عندما ارتكبت أخطاء، كانت أقل احتمالًا لتصحيحها بمفردها. وعلى العكس، كانت النماذج الأضعف، رغم ارتكابها أخطاء أكثر، أفضل بكثير في تصحيح أخطائها دون تغذية راجعة خارجية. بعبارة أخرى، وجد الباحثون أن الدقة والتصحيح الذاتي يسيران في اتجاهين متعاكسين، وهو ما يسمونه مفارقة الدقة والتصحيح. تتحدى هذه النتيجة اعتقادًا راسخًا في تطوير الذكاء الاصطناعي. فكثيرًا ما نفترض أن توسيع النماذج يحسن كل جوانب الذكاء، لكن المفارقة تبين أن هذا الافتراض لا يصح دائمًا، وخصوصًا في قدرات الاستبطان.

فرضية عمق الخطأ

تثير هذه المفارقة سؤالاً واضحًا: لماذا تعمل النماذج الأضعف بشكل أفضل في التصحيح الذاتي من النماذج الأقوى؟ يجد الباحثون إجابة هذه من خلال فحص نوع الأخطاء التي يرتكبها النماذج. لقد وجدوا أن النماذج الأقوى ترتكب أخطاء أقل، ولكن الأخطاء التي ترتكبها تكون “أعمق” وأكثر مقاومة للتصحيح. وعلى العكس، النماذج الأضعف ترتكب أخطاء “أقل عمق” يمكن تصحيحها بسهولة خلال المرور الثاني.

يسمي الباحثون هذه الرؤية فرضية عمق الخطأ. ويصنفون الأخطاء إلى أخطاء في صياغة المشكلة وأخطاء منطقية وأخطاء حسابية. تتضمن أخطاء صياغة المشكلة تفسيرها على نحو خاطئ. وتقع الأخطاء المنطقية حين يكون مسار الاستدلال معيبًا من الناحية البنيوية. أما الأخطاء الحسابية فهي هفوات حسابية بسيطة. بالنسبة إلى GPT-3.5، فإن معظم الأخطاء (62%) أخطاء حسابية بسيطة، وهي أخطاء سطحية. وعندما يُطلب من النموذج أن «يتحقق بعناية»، يستطيع غالبًا العثور على الهفوة الحسابية وتصحيحها. أما بالنسبة إلى DeepSeek، فإن 77% من أخطائه أخطاء في صياغة المشكلة أو في المنطق. وتتطلب هذه الأخطاء العميقة أن يعيد النموذج النظر في نهجه من الأساس. وتواجه النماذج القوية صعوبة في ذلك لأنها تميل إلى التمسك بمسار استدلالها الأصلي. وكلما ازداد ذكاء النموذج، لم يبق إلا أكثر الأخطاء استعصاءً وصعوبة.

لماذا لا يضمن كشف الأخطاء تصحيحها

واحدة من أكثر النتائج إثارة للدهشة في البحث هي أن كشف الأخطاء لا يرتبط بالقدرة على تصحيح الأخطاء. النموذج قد يحدد بشكل صحيح أن إجابته خاطئة ولا يزال يفشل في تصحيحها. نموذج آخر قد يحدد أخطاءه بشكل ضعيف ولكنه يتحسن من خلال محاولات متكررة. يوفر Claude-3-Haiku المثال الأكثر درامية. كان كشف Claude لأخطاءه هو 10.1%، وهو أدنى بين جميع النماذج التي تم اختبارها. على الرغم من هذا الكشف الضعيف، حقق أعلى معدل تصحيح داخلي بنسبة 29.1%. بالمقارنة، كان كشف GPT-3.5 لأخطاءه 81.5% ولكنه صحح فقط 26.8%.

يشير هذا إلى أن بعض النماذج قد تصحح أخطاءها «مصادفةً»، بمجرد حل المشكلة مجددًا عبر مسار مختلف لأخذ العينات، حتى إن لم تدرك أن المحاولة الأولى كانت خاطئة. وهذا الانفصال خطير عند النشر في العالم الحقيقي. فعندما يكون النموذج مفرط الثقة ولا يكتشف أخطاءه المنطقية، قد يقدم تفسيرًا يبدو معقولًا لكنه خاطئ تمامًا بوصفه الحقيقة. وفي بعض الحالات، قد يزيد طلب تحديد الأخطاء من النموذج الوضع سوءًا. وعندما يحدد النموذج موضع الخطأ على نحو غير صحيح، يتمسك بتفسير معيب ويعزز الخطأ. وبدلًا من المساعدة، قد تحبس التلميحات التي يولدها النموذج بنفسه النموذج في مسار استدلال خاطئ. ويعكس هذا السلوك التحيز المعرفي البشري؛ فبمجرد أن نعتقد أننا نعرف ما الذي حدث خطأً، نتوقف عن البحث عن أسباب أعمق.

التكرار يساعد، ولكن ليس بنفس القدر

أظهر البحث أيضًا أن التكرار غالبًا ما يحسن النتائج، ولكن ليس جميع النماذج تستفيد بنفس القدر. النماذج الأضعف تستفيد بشكل كبير من جولات متكررة من إعادة التفكير لأن كل تكرار يمنحها فرصة أخرى لتصحيح مشاكلها السطحية. النماذج الأقوى تظهر مكاسب صغيرة من التكرار. أخطاؤهم لا تُحل بسهولة من خلال التكرار. بدون توجيه خارجي، المحاولات الإضافية غالبًا ما تنتج نفس المنطق المعيب بطرق مختلفة. هذه الرؤية تشير إلى أن تقنيات التحسين الذاتي ليست فعالة بشكل عالمي. نجاحها يعتمد على طبيعة الأخطاء التي يتم ارتكابها، وليس فقط على ذكاء النموذج.

ما يعنيه هذا لتصميم أنظمة الذكاء الاصطناعي

تحمل هذه الرؤى آثارًا عملية. أولاً، يجب أن نوقف افتراضنا أن الدقة الأعلى تعني تصحيحًا ذاتيًا أفضل. الأنظمة التي تعتمد على التحسين الذاتي المستقل يجب أن تُختبر بشكل صريح على سلوك التصحيح، وليس فقط الأداء النهائي. ثانيًا، قد تحتاج النماذج المختلفة إلى استراتيجيات تدخل مختلفة. النماذج الأضعف قد تستفيد من التحقق البسيط والتكرار. النماذج الأقوى قد تحتاج إلى توجيه خارجي، أو التحقق المنظم، أو فحص أدوات لمواجهة أخطاء المنطق العميق. ثالثًا، أنابيب التصحيح الذاتي يجب أن تكون على دراية بالخطأ. فهم ما إذا كانت المهمة عرضة لأخطاء سطحية أو عميقة يمكن أن يخبرنا عما إذا كان التصحيح الذاتي سوف يعمل على الإطلاق. وأخيرًا، يجب أن تفصل معايير التقييم بين كشف الأخطاء، وتحديد مصدرها، وتصحيحها. معاملتها كقيمة واحدة تخفي نقاط الضعف الحاسمة التي تهم في التطبيقات الواقعية.

النقطة الأساسية

يعتمد الذكاء الاصطناعي الذي يمكن أن يتحسن بنفسه ليس فقط على إنتاج إجابات صحيحة، ولكن على القدرة على التعرف على الإجابات الخاطئة، وتشخيصها، وتصحيحها. تكشف مفارقة الدقة والتصحيح أن النماذج الأقوى ليست تلقائيًا أفضل في هذه المهمة. كلما أصبحت النماذج أكثر قدرة، أصبحت أخطاؤها أعمق، وأصعب في الكشف، وأكثر مقاومة للتصحيح الذاتي. هذا يعني أن التقدم في مجال توسيع النماذج وحده لا يكفي. إذا كنا نريد أنظمة ذكاء اصطناعي يمكن أن تتعلم حقًا من أخطائها الخاصة، يجب أن يُعالج التصحيح الذاتي كقدرة منفصلة، ويُقاس بشكل صريح، ويتدرب، ويدعم.

الدكتور تحسين ضياء أستاذ مشارك مثبت في جامعة كومساتس إسلام آباد، ويحمل دكتوراه في الذكاء الاصطناعي من جامعة فيينا للتكنولوجيا في النمسا. يتخصص في الذكاء الاصطناعي والتعلم الآلي وعلوم البيانات والرؤية الحاسوبية، وقد قدم إسهامات مهمة من خلال أبحاث منشورة في مجلات علمية مرموقة. كما قاد مشروعات صناعية متنوعة بصفته الباحث الرئيسي، وعمل مستشارًا في الذكاء الاصطناعي.