لا يُقدم الذكاء الاصطناعي بالضرورة إجابات أفضل إذا كنت محترما

الرأي العام حول ما إذا كان من المفيد أن يكون المرء محترماً مع الذكاء الاصطناعي يتغير تقريباً مثل الحكم الأخير على القهوة أو النبيذ الأحمر – يتم الاحتفال به في شهر واحد ، ويتم挑يجه في الشهر التالي. ومع ذلك ، فإن عدداً متزايداً من المستخدمين يضيفون الآن ‘من فضلك’ أو ‘شكراً’ إلى استفساراتهم ، ليس فقط بسبب العادة أو القلق من أن التبادلات الخشنة قد تتجاوز إلى الحياة الواقعية ، ولكن من اعتقاد أن اللباقة تؤدي إلى نتائج أفضل وأكثر إنتاجية من الذكاء الاصطناعي.

هذا الافتراض انتشر بين المستخدمين والباحثين ، مع دراسة صياغة الاستفسار في الدوائر البحثية كأداة لل التنسيق ، السلامة ، و سيطرة النبرة ، حتى عندما تعزز عادات المستخدمين وتشكل تلك التوقعات.

على سبيل المثال ، وجدت دراسة عام 2024 من اليابان أن لطفية الاستفسار يمكن أن تغير سلوك نماذج اللغة الكبيرة ، حيث خضعت GPT-3.5 و GPT-4 و PaLM-2 و Claude-2 للاختبار في مهام اللغة الإنجليزية والصينية واليابانية ، مع إعادة كتابة كل استفسار على ثلاثة مستويات من اللباقة. لاحظ مؤلفو ذلك العمل أن الكلمات ‘الخشنة’ أو ‘الغبية’ أدت إلى دقة фактиة أقل وإجابات أقصر ، بينما أدت الطلبات المعتدلة اللباقة إلى تفسيرات أوضح ورفضات أقل.

بالإضافة إلى ذلك ، توصي مايكروسوفت باستخدام نبرة محترمة مع Co-Pilot ، من منظور أداء وليس ثقافي.

然而 ، ورقة بحثية جديدة من جامعة جورج واشنطن ت挑ي هذا الفكرة الشائعة ، حيث تقدم إطارًا رياضيًا يتنبأ بمتى ستتدهور إخراج نموذج اللغة الكبيرة ، ويتحرك من المحتوى المنسق إلى المحتوى الخادع أو حتى الخطير. في هذا السياق ، يؤكد المؤلفون أن اللباقة لا تؤخر بشكل معنوي أو تمنع هذا ‘الانهيار’.

البداية

يجادل الباحثون بأن استخدام اللغة اللبقة بشكل عام غير مرتبط بموضوع الاستفسار الرئيسي ، وبالتالي لا يؤثر بشكل كبير على تركيز النموذج. لدعم ذلك ، يقدمون صياغة مفصلة لكيفية تحديث رأس الانتباه الفردي لموجهاته الداخلية مع كل رمز جديد ، مما يظهر بشكل واضح أن سلوك النموذج يتم تشكيله بواسطة التأثير التراكمي للرموز الحاملة للمعنى.

نتيجة لذلك ، يُفترض أن اللغة اللبقة لها تأثير قليل على متى يبدأ إخراج النموذج في التدهور. ما يحدد نقطة التحول ، كما تنص الورقة ، هو التنسيق العام للرموز المهمة مع مسارات الإخراج الجيدة أو السيئة – وليس وجود اللغة المجتمعية.

تُظهر هذه الصورة مبسطة لرأس الانتباه الذي يولد تسلسلاً من استفسار المستخدم. يبدأ النموذج بالرموز الجيدة (G) ، ثم يصل إلى نقطة التحول (n*) حيث يتحول الإخراج إلى رموز سيئة (B). لا تلعب المصطلحات اللبقة في الاستفسار (P₁, P₂, إلخ) دورًا في هذا التحول ، مما يدعم ادعاء الورقة بأن اللباقة لها تأثير قليل على سلوك النموذج.

إذا كان هذا صحيحًا ، فإن هذا النتيجة يتعارض مع المعتقد الشائع وربما حتى المنطق الضمني ل ضبط التعليمات ، الذي يفترض أن صياغة الاستفسار تؤثر على تفسير النموذج للنية المستخدمة.

الخروج

تُبحث الورقة في كيفية تحديث متجه السياق الداخلي للنموذج (بصفته بوصلة تطورية لاختيار الرموز) يتغير خلال التوليد. مع كل رمز ، يتم تحديث هذا المتجه اتجاهيًا ، ويتحدد الرمز التالي بناءً على المرشح الذي يتوافق معه أكثر.

عندما يوجه الاستفسار نحو المحتوى المنظم جيدًا ، تبقى استجابات النموذج مستقرة ودقيقة ؛ ومع ذلك ، يمكن أن يتغير هذا الجذب الاتجاهي مع مرور الوقت ، يتجه النموذج نحو مخرجات أقل صلة أو غير صحيحة أو غير متناسقة داخليًا.

تحدث نقطة التحول لهذا التحول (التي يحددها المؤلفون رياضيًا على أنها تكرار n*) ، عندما يصبح متجه السياق الداخلي للنموذج أكثر انحيازًا نحو ‘مخرجات سيئة’ منها نحو ‘مخرجات جيدة’. في تلك المرحلة ، يدفع كل رمز جديد النموذج أكثر على المسار الخاطئ ، مما يعزز نمطًا من المخرجات الخاطئة أو الخادعة بشكل متزايد.

تُحسب نقطة التحول n* من خلال العثور على اللحظة التي يصبح فيها اتجاه النموذج الداخلي متوافقًا بشكل متساوٍ مع كلا النوعين الجيد والسيئ من المخرجات. ت决定 هندسة فضاء التضمين ، التي تشكلها كل من مجموعة التدريب والاستفسار المستخدم ، كيفية حدوث هذا العبور:

تُظهر هذه الصورة كيفية ظهور نقطة التحول n* في نموذج مبسط. يحدد الإعداد الهندسي (a) المتجهات الرئيسية المشاركة في التنبؤ بمتى يتحول الإخراج من جيد إلى سيئ. في (b) ، يُخط المؤلفون تلك المتجهات باستخدام معلمات الاختبار ، بينما (c) يقارن النقطة المتوقعة بالنتيجة المحاكاة. المطابقة دقيقة ، مما يدعم ادعاء الباحثين بأن الانهيار رياضيًا لا مفر منه بمجرد أن تتجاوز الديناميات الداخلية عتبة معينة.

لا تؤثر المصطلحات اللبقة على اختيار النموذج بين المخرجات الجيدة والسيئة لأنها ، وفقًا للمؤلفين ، ليست متصلة بموضوع الاستفسار الرئيسي. بدلاً من ذلك ، تظهر في أجزاء من الفضاء الداخلي للنموذج التي لا علاقة لها بما يقرره النموذج.

عندما تُضاف هذه المصطلحات إلى استفسار ، تزيد من عدد المتجهات التي يعتبرها النموذج ، ولكن ليس بطريقة تؤثر على مسار الانتباه. وبالتالي ، تعمل المصطلحات اللبقة مثل الضوضاء الإحصائية: موجودة ، ولكن غير نشطة ، وتترك نقطة التحول n* غير متغيرة.

يُصر المؤلفون على ما يلي:

‘[ما إذا] ستتدهور استجابة الذكاء الاصطناعي أم لا يعتمد على تدريب نموذج اللغة الكبيرة الذي يوفر تضمين الرموز – وليس على ما إذا كنا لطفاء معه أم لا.’

النموذج المستخدم في هذا العمل الجديد متعمد 좁 ، يركز على رأس انتباه فردي مع ديناميات رموز خطية – إعداد مبسط حيث يُحدث كل رمز جديد حالة داخلية من خلال إضافة متجه مباشرة ، دون تحويلات غير خطية أو بوابات.

يسمح هذا الإعداد المبسط للمؤلفين بالحصول على نتائج دقيقة ويوفر لهم صورة هندسية واضحة لطريقة ووقت تحول إخراج النموذج فجأة من جيد إلى سيئ. في اختباراتهم ، يتطابق الصيغة التي يشتقونها لتنبؤ بذلك التحول مع ما يفعله النموذج بالفعل.

التحدث

然而 ، هذا المستوى من الدقة يعمل فقط لأن النموذج يتم الاحتفاظ به بشكل متعمد وبسيط. بينما يقر المؤلفون بأن استنتاجاتهم يجب أن تُختبر لاحقًا على نماذج متعددة الرؤوس أكثر تعقيدًا مثل سلسلة Claude و ChatGPT ، يعتقدون أيضًا أن النظرية تظل قابلة للتكرار مع زيادة عدد رؤوس الانتباه ، مشيرين إلى ما يلي:

‘سؤال ما الظواهر الإضافية التي تظهر عندما يزيد عدد رؤوس الانتباه المرتبطة وطبقاتها ، هو مهم مهم مهم. لكن أي انتقالات داخل رأس انتباه فردي سيظل يحدث ، ويمكن أن تُضخم و / أو تزامن بواسطة الارتباطات – مثل سلسلة من الأشخاص المرتبطين الذين يتم سحبهم فوق حافة عندما يسقط أحدهم.’

تُظهر هذه الصورة كيفية تغير نقطة التحول n* اعتمادًا على مدى انحياز الاستفسار نحو المحتوى الجيد أو السيئ. تُشتق السطح من الصيغة التقريبية للمؤلفين ويُظهر أن المصطلحات اللبقة ، التي لا تدعم بشكل واضح أي جانب ، لها تأثير قليل على وقت حدوث الانهيار. يطابق القيمة المميزة (n* = 10) المحاكاة السابقة ، مما يدعم المنطق الداخلي للنموذج.

ما يظل غير واضح هو ما إذا كانت نفس الآلية تنجو من القفزة إلى هياكل Transformer الحديثة. قد تُقدم الانتباه المتعدد الرؤوس تفاعلات عبر رؤوس متخصصة ، مما قد يمنع أو يخفي نوع السلوك المتدهور الموصوف.

يقر المؤلفون بهذه التعقيدات ، لكنهم يجادلون بأن رؤوس الانتباه غالبًا ما تكون غير مرتبطة ، وأن نوع الانهيار الداخلي الذي يُقدمونه قد يُضخم في الأنظمة الكاملة بدلاً من كونها محظورة.

بدون توسيع النموذج أو اختبار تجريبي عبر نماذج اللغة الكبيرة الإنتاجية ، يظل الادعاء غير مؤكد. ومع ذلك ، يبدو أن الآلية كافية الدقة لدعم مبادرات البحث اللاحقة ، ويقدم المؤلفون فرصة واضحة لتحدي أو تأكيد النظرية على نطاق واسع.

الختام

في الوقت الحالي ، يبدو أن موضوع اللباقة تجاه نماذج اللغة الكبيرة التفاعلية يتم 접نه إما من منظور عملي ، حيث قد يستجيب الأنظمة المُدرَّبة بشكل أفضل للاستفسارات اللبقة ؛ أو أن أسلوب التواصل الخشن مع هذه الأنظمة يخاطر بالانتشار إلى علاقات المستخدم الحقيقية ، بسبب العادة.

يمكن القول إن نماذج اللغة الكبيرة لم تُستخدم بعد على نطاق واسع في السياقات الاجتماعية الحقيقية بدرجة كافية ليتأكد الأدب البحثي من الحالة الأخيرة ؛ ومع ذلك ، تُلقي الورقة الجديدة بعض الشكوك حول فوائد إنسنة أنظمة الذكاء الاصطناعي من هذا النوع.

دراسة أجريت في أكتوبر الماضي في ستانفورد اقترحت (على عكس دراسة عام 2020) أن معاملة نماذج اللغة الكبيرة كما لو كانت بشرية تزيد من خطر تدهور معنى اللغة ، حيث خلصت إلى أن ‘اللباقة الروتينية’ تفقد في النهاية معناها الاجتماعي الأصلي:

[‘بيان يبدو وديًا أو حقيقيًا إذا نطق به متحدث بشري يمكن أن يكون غير مرغوب فيه إذا جاء من نظام ذكاء اصطناعي ، поскольку النظام الأخير يفتقر إلى الالتزام أو النية الحقيقية وراء البيان ، مما يجعله بيانًا خاليًا ومخادعًا. ‘

ومع ذلك ، وفقًا لمسح عام 2025 من نشر مستقبل التكنولوجيا ، يقول حوالي 67 في المائة من الأمريكيين إنهم يتصرفون بطريقة محترمة مع محادثات الذكاء الاصطناعي. قال معظمهم إنهم يفعلون ذلك لأنهم يعتقدون أن هذا هو الشيء الصحيح ، بينما اعترف 12 في المائة بأنهم يتصرفون بحذر – على أمل أن لا تنتفض الآلات يومًا ما.

* تحويلي لمراجع المؤلفين الداخلية إلى روابط. إلى حد ما ، الروابط هي عينة ، لأن المؤلفين يرتبطون في بعض الأحيان بمجموعة واسعة من المراجع ، بدلاً من نشر معين.

نُشر لأول مرة يوم الأربعاء ، 30 أبريل 2025. تم تعديله يوم الأربعاء ، 30 أبريل 2025 ، الساعة 15:29:00 ، لتصحيح التنسيق.