معالجة القضايا الحالية داخل نماذج اللغة الكبيرة والاطلاع على ما يأتي

اليوم، هناك عشرات النماذج الكبيرة للغة متاحة للجمهور، مثل GPT-3 و GPT-4 و LaMDA و Bard، ويتزايد العدد باستمرار مع إصدار نماذج جديدة. وقد غيرت نماذج اللغة الكبيرة من الذكاء الاصطناعي، مما غير تمامًا كيفية تفاعلنا مع التكنولوجيا عبر مختلف الصناعات. تسمح هذه النماذج لنا بالتعلم من العديد من مجموعات بيانات اللغة البشرية وفتحت طرقًا جديدة للابتكار والإبداع والكفاءة.

然而، مع القوة الكبيرة تأتي التعقيدات الكبيرة. هناك تحديات و قضايا أخلاقية متأصلة في نماذج اللغة الكبيرة التي يجب معالجتها قبل أن نستطيع استخدامها بكل潜ائها. على سبيل المثال، وجدت دراسة حديثة في ستانفورد انحيازًا عرقيًا وجنسيًا عند ملاحظة ChatGPT-4 في كيفية معاملته لبعض الاستفسارات التي تتضمن أسماء أولى وآخرى تشير إلى العرق أو الجنس. في هذه الدراسة، طُلب من البرنامج تقديم نصيحة حول مقدار ما يجب دفعه مقابل دراجة مستعملة تباعها شخص اسمه جمال واشنطن، وهو ما أدى إلى حصول على مبلغ أقل بكثير مقارنة بما حصل عليه البائع الذي كان اسمه لوغان بيكر. ومع استمرار ظهور هذه الاكتشافات، يزداد الحاجة إلى معالجة تحديات نماذج اللغة الكبيرة.

كيفية التخفيف من المخاوف الشائعة حول نماذج اللغة الكبيرة

الانحياز

أحد أكثر القضايا التي تُناقش على نطاق واسع في نماذج اللغة الكبيرة هو الانحياز والعدالة. في دراسة حديثة، اختبر الخبراء أربعة نماذج لغة كبيرة تم نشرها مؤخرًا ووجدوا أن جميعها أظهرت افتراضات متحيزة حول الرجال والنساء، ولا سيما تلك المتوافقة مع تصورات الناس بدلاً من تلك التي تُستند إلى الحقائق. في هذا السياق، يشير الانحياز إلى المعاملة أو النتائج غير المتكافئة بين المجموعات الاجتماعية المختلفة، ويرجع ذلك على الأرجح إلى عدم توازن القوى التاريخية أو الهيكلية.

في نماذج اللغة الكبيرة، يحدث الانحياز بسبب اختيار البيانات وديموغرافيا المبدعين وازدواجية اللغة أو الثقافة. يحدث انحياز اختيار البيانات عندما لا تمثل النصوص المختارة لتدريب نماذج اللغة الكبيرة التنوع الكامل للغة المستخدمة على الويب. يمكن لنماذج اللغة الكبيرة التي تم تدريبها على مجموعات بيانات شاملة ولكن محدودة أن ترث الانحيازات الموجودة بالفعل في هذه النصوص. مع ديموغرافيا المبدعين، يتم التأكيد على بعض المجموعات الديموغرافية أكثر من غيرها، مما يظهر الحاجة إلى المزيد من التنوع والشمولية في إنشاء المحتوى لتقليل الانحياز. على سبيل المثال، يُظهر ويكيبيديا، وهو مصدر شائع لبيانات التدريب، عدم توازن ديموغرافي ملحوظ بين محرريه مع غالبية من الذكور (84%). هذا مشابه للانزلاق الذي يحدث في اللغة والثقافة أيضًا. غالبًا ما تكون المصادر التي يتم تدريب نماذج اللغة الكبيرة عليها منحازة، متجهة نحو اللغة الإنجليزية، والتي لا تُترجم دائمًا بدقة عبر اللغات والثقافات الأخرى.

من الضروري أن يتم تدريب نماذج اللغة الكبيرة على بيانات منضبطة، وأن يتم وضع حواجز لمنع الموضوعات التي لا تمثل تمثيلًا دقيقًا للبيانات. يمكن القيام بذلك من خلال تقنيات تعزيز البيانات. يمكن إضافة أمثلة من المجموعات غير الممثلة في بيانات التدريب، وبالتالي توسيع تنوع مجموعة البيانات. تكتيك آخر للتخفيف هو تصفية البيانات وإعادة وزنها، والذي يركز في المقام الأول على استهداف أمثلة محددة غير ممثلة في مجموعة بيانات موجودة.

الوهم

في سياق نماذج اللغة الكبيرة، يُعد الوهم ظاهرة يتميز بها إنتاج نص يبدو صحيحًا من الناحية النحوية ومتسقًا، ولكنه يختلف عن الدقة الفعلية أو نية المواد المصدر. في الواقع، وجدت التقارير الحديثة أن قضية تتعلق بقانون مينيسوتا تتأثر مباشرةً بالاوهام التي تنتجها نماذج اللغة الكبيرة. تم العثور على شهادة تم تقديمها لدعم القانون لتتضمن مصادر غير موجودة قد تكون قد تمت إضافتها من قبل ChatGPT أو نموذج لغة كبير آخر. يمكن أن يقلل الوهم بسهولة من موثوقية نموذج اللغة الكبيرة.

هناك ثلاثة أشكال رئيسية للوهم:

1. الوهم المتعارض مع الإدخال: يحدث هذا عندما يختلف إخراج نموذج اللغة الكبيرة عن الإدخال المقدم من المستخدم، والذي يشمل عادةً تعليمات المهمة والمحتوى الفعلي الذي يحتاج إلى المعالجة.
2. الوهم المتعارض مع السياق: قد ينتج نموذج اللغة الكبيرة استجابات غير متسقة داخليًا في سيناريوهات تتضمن حوارًا مدىً أو تبادلات متعددة. يشير هذا إلى نقص محتمل في قدرة النموذج على تتبع السياق أو الحفاظ على الاتساق على مدار التفاعلات المختلفة.
3. الوهم المتعارض مع الحقائق: يظهر هذا الشكل من الوهم عندما ينتج نموذج اللغة الكبيرة محتوى يتعارض مع المعرفة الحقيقية المثبتة. يمكن أن ت发生 أسباب هذه الأخطاء في مراحل مختلفة من دورة حياة نموذج اللغة الكبيرة.

ساهم العديد من العوامل في ظهور هذه الظاهرة، مثل نقص المعرفة، الذي يفسر كيف يمكن لنماذج اللغة الكبيرة أن تفتقر إلى المعرفة أو القدرة على استيعاب المعلومات بشكل صحيح خلال التدريب المسبق. بالإضافة إلى ذلك، يمكن أن يؤدي الانحياز في بيانات التدريب أو استراتيجية التوليد المتسلسل لنماذج اللغة الكبيرة، التي تُعرف باسم “كرات الثلج للوهم”، إلى خلق أوهام.

هناك طرق لتخفيف الوهم، على الرغم من أنه سيكون دائمًا سمة من سمات نماذج اللغة الكبيرة. تشمل استراتيجيات التخفيف المفيدة للوهم التخفيف أثناء التدريب المسبق (تحسين البيانات يدوياً باستخدام تقنيات التصفية) أو التحسين الدقيق (تحضير بيانات التدريب). ومع ذلك، فإن التخفيف أثناء الاستدلال هو الحل الأمثل بسبب كفاءته التكلفة وسهولة التحكم فيه.

الخصوصية

مع ظهور الإنترنت، أصبحت سهولة الوصول إلى المعلومات الشخصية والبيانات الخاصة قلقًا واسع النطاق. وجدت دراسة أن 80% من المستهلكين الأمريكيين قلقون من أن بياناتهم يتم استخدامها لتدريب نماذج الذكاء الاصطناعي. منذ أن يتم استخراج معظم نماذج اللغة الكبيرة من المواقع الإلكترونية، يجب أن نأخذ في الاعتبار كيف يشكل ذلك مخاطر للخصوصية ويبقى مشكلة غير محلولة إلى حد كبير لنماذج اللغة الكبيرة.

أبسط طريقة لمنع نماذج اللغة الكبيرة من توزيع المعلومات الشخصية هي إزالتها من بيانات التدريب. ومع ذلك، نظرًا للكم الهائل من البيانات المشاركة في نماذج اللغة الكبيرة، فمن المستحيل تقريبًا ضمان إزالة جميع المعلومات الشخصية. بديل شائع للمنظمات التي تعتمد على نماذج مطورة خارجيًا هو اختيار نموذج لغة مفتوح المصدر بدلاً من خدمة مثل ChatGPT.

من خلال هذا النهج، يمكن توزيع نسخة من النموذج داخليًا. تظل استفسارات المستخدمين آمنة داخل شبكة المنظمة بدلاً من كونها معرضة للخدمات الخارجية. بينما يقلل هذا بشكل كبير من خطر تسرب البيانات الحساسة، إنه يضيف تعقيدًا كبيرًا. نظرًا لصعوبة ضمان حماية البيانات الشخصية بشكل كامل، من المهم للمطورين التطبيق مراعاة كيف يمكن لنماذج اللغة الكبيرة أن تضع مستخدميها في خطر.

الحدود الجديدة لنماذج اللغة الكبيرة

نحن نستمر في النمو وتشكيل التطورات اللاحقة لنماذج اللغة الكبيرة من خلال التخفيف من المخاطر الحالية، يجب أن نتوقع انطلاقة وكلاء نماذج اللغة الكبيرة، والتي نراها بالفعل في شركات مثل H مع Runner H، الذي يبدأ في الإطلاق. يُعد التحول من نماذج اللغة النقية إلى الهياكل الوكيلية تغييرًا في تصميم نظام الذكاء الاصطناعي؛ سيتحرك المجال بعيدًا عن القيود المتأصلة في واجهات الدردشة والتنمية البسيطة المُحسّنة. ستتمتع إطارات الوكيل الجديدة بهياكل تخطيط متقدمة تُجزئ الأهداف المعقدة إلى مهام فرعية ذرية، وتحافظ على الذاكرة الحوادثيّة للreasoning السياقي، وتستفيد من أدوات متخصصة من خلال واجهات برمجة تطبيقات محددة جيدًا. هذا يخلق نهجًا أكثر متانة لآليّة المهام. يساهم تقدم الهيكل في التخفيف من التحديات الشائعة حول المهام والreasoning وتكامل الأدوات ومراقبة التنفيذ داخل تنفيذ نماذج اللغة الكبيرة التقليدية.

إضافة إلى نماذج اللغة الكبيرة، سيكون هناك تركيز أكبر على تدريب نماذج لغة أصغر بسبب فعاليتها التكلفة وسهولة نشرها. على سبيل المثال، تتميز نماذج اللغة المخصصة للمجالات بتركيزها على صناعات أو مجالات معينة. يتم تعديل هذه النماذج بدقة باستخدام بيانات ومصطلحات مخصصة للمجال، مما يجعلها مثالية للبيئات المعقدة والمنظمة، مثل مجال الطب أو القانون، حيث تكون الدقة أمرًا بالغ الأهمية. يقلل هذا النهج الموجه من احتمال الأخطاء والاوهام التي قد تنتجها نماذج اللغة العامة عند مواجهة محتوى متخصص.

نحن نستمر في استكشاف حدود جديدة لنماذج اللغة الكبيرة، من المهم أن ندفع حدود الابتكار ومعالجة المخاطر المحتملة المرتبطة بتطويرها ونشرها. فقط من خلال تحديد التحديات المتعلقة بالانحياز والوهم والخصوصية بشكل استباقي ومعالجتها يمكننا إنشاء أساس أكثر متانة لنماذج اللغة الكبيرة لتزدهر في مختلف المجالات.