جوجل تتطلع إلى نظام استعلام يشبه GPT-3 بدون نتائج بحث

يقترح بحث جديد من قبل أربعة باحثين في جوجل نظام “خبير” قادر على الإجابة على أسئلة المستخدمين بشكل مسؤول دون تقديم قائمة بالنتائج المحتملة، مشابه للنموذج سؤال-إجابة الذي أصبح معروفًا للجمهور من خلال ظهور GPT-3 خلال العام الماضي.

البحث، الذي يحمل عنوان إعادة التفكير في البحث: جعل الخبراء من الهواة، يُشير إلى أن المعيار الحالي لتقديم قائمة بالنتائج المحتملة للمستخدم في الاستجابة لاستفسار يُعتبر “عبء معرفي”، ويتحدث عن تحسينات في قدرة نظام معالجة اللغة الطبيعية (NLP) على تقديم إجابة مؤثرة ونهائية.

في النموذج المقترح للخبير، ستكون آلاف مصادر النتائج المحتملة محتوية في نموذج اللغة بدلاً من أن تكون متاحة بشكل صريح كمصدر استكشافي للمستخدمين لتقييمها وتحديد مسارها بأنفسهم. مصدر: https://arxiv.org/pdf/2105.02274.pdf

البحث، الذي يقوده دونالد ميتزлер في جوجل ريسيرتش، يقترح تحسينات في نوع الإجابات التي يمكن الحصول عليها حاليًا من نماذج اللغة التلقائية العميقة مثل GPT-3. التحسينات الرئيسية المتوقعة هي: أ) أن النموذج سيكون قادرًا على الإشارة بدقة إلى المصادر التي أبلغت عن الإجابة، و ب) أن النموذج سيمنع من “تحريف” الإجابات أو اختراع مواد مصدر غير موجودة، وهو مشكلة حالية في هذه الهياكل.

تدريب متعدد المجالات والقدرات

بالإضافة إلى ذلك، يُ描ص النموذج اللغوي المقترح، الذي يُوصف في البحث بأنه “نموذج واحد لجميع مهام استرجاع المعلومات”، سيكون مدربًا على مجموعة متنوعة من المجالات، بما في ذلك الصور والنص. كما سيتطلب فهمًا عن مصدر المعرفة، وهو ما يفتقر إليه نماذج GPT-3 الحالية.

‘لاستبدال الفهارس بنموذج موحد، يجب أن يكون من الممكن للنموذج نفسه أن يكون على دراية بمجموعة معرفات الوثائق، بنفس الطريقة التي تفعلها الفهارس التقليدية. أحد الطرق لتحقيق ذلك هو الانتقال بعيدًا عن نماذج اللغة التقليدية وباتجاه نماذج كوربوس التي تُodel العلاقات بين المصطلحات والمستندات والمستندات بشكل مشترك.’

في الصورة أعلاه، من البحث، ثلاثة نهج للاستجابة لاستفسار المستخدم: اليسار، نماذج اللغة الضمنية في نتائج البحث الخوارزمية لجوجل قد اخترت وأعطت الأولوية لجواب “الأفضل”، ولكنها تركتها كأفضل نتيجة من بين العديد من النتائج. الوسط، استجابة محادثية نمط GPT-3، التي تتحدث بسلطة، ولكنها لا تبرر ادعاءاتها أو تشير إلى المصادر. اليمين، نظام الخبير المقترح يدمج “أفضل استجابة” من نتائج البحث المرتبة مباشرة في جواب تعليمي، مع إشارات بالأقواس الأكاديمية (غير معروضة في الصورة الأصلية) تشير إلى المصادر التي أبلغت عن الإجابة.

إزالة النتائج السامة والغير دقيقة

يشير الباحثون إلى أن الطبيعة الديناميكية والمتغيرة باستمرار لفهرس البحث تحد من إمكانية تكرارها بالكامل في نموذج تعلم الآلة من هذا النوع. على سبيل المثال، حيث تم تدريب مصدر موثوق به بشكل مباشر في فهم النموذج للعالم، قد يكون إزالة تأثيره (على سبيل المثال، بعد أن تم إسقاطه) أكثر صعوبة من مجرد إزالة عنوان URL من نتائج البحث، لأن مفاهيم البيانات يمكن أن تصبح مجردة ومتعددة التمثيل خلال عملية التدريب.

بالإضافة إلى ذلك، سيتطلب نموذج من هذا القبيل تدريبه بشكل مستمر لتقديم نفس مستوى الاستجابة للوثائق والمقالات الجديدة كما هو الحال حاليًا مع تحديث جوجل المستمر للمصادر. هذا يعني في الواقع تنفيذًا مستمرًا وتلقائيًا، على عكس النظام الحالي، حيث يتم إجراء تعديلات صغيرة على الأوزان والإعدادات للخوارزمية البحثية الحرة الشكل، ولكن الخوارزمية نفسها عادة ما يتم تحديثها بشكل غير متكرر.

سطح الهجوم لخبير مركزي

يمكن أن يتحول نموذج مركزي دائمًا يدمج ويعمم بيانات جديدة إلى سطح هجوم للاستفسارات البحثية.

حاليًا، يمكن للمهاجم الحصول على الفائدة من خلال الحصول على تصنيف عالٍ للأسماء المجال أو الصفحات التي تحتوي على معلومات خاطئة أو شفرة ضارة. تحت رعاية “خبير” أكثر غموض، يتم تقليل فرصة إعادة توجيه المستخدمين إلى مجالات الهجوم، ولكن يتم زيادة فرصة الهجمات على البيانات السامة.

هذا لأن النظام المقترح لا يلغي خوارزمية ترتيب البحث، ولكن يخفيها عن المستخدم، ويفعل بشكل تلقائي أولوية النتيجة/النتائج العليا، ويدمجها في بيان تعليمي. لقد تمكن المستخدمون الخبيثون منذ فترة طويلة من تنسيق الهجمات ضد خوارزمية بحث جوجل، لبيع منتجات وهمية، أو توجيه المستخدمين إلى مجالات تنتشر الفيروسات، أو لأغراض التلاعب السياسي، من بين العديد من الحالات الأخرى.

ليس ذكاء عام اصطناعي

يشدد الباحثون على أن نظامًا من هذا القبيل سيكون من غير المحتمل أن يعتبر ذكاءً عامًا اصطناعيًا (AGI)، ويوضع مفهوم المنسب العام في سياق معالجة اللغة الطبيعية، خاضع لجميع التحديات التي تواجه هذه النماذج حاليًا.

يحدد البحث خمسة متطلبات لاستجابة “جودة عالية”:

1: السلطة
مثل الخوارزميات الحالية للترتيب، يبدو أن “السلطة” مشتقة من الإشارة من مجالات ذات جودة عالية تعتبر موثوقة في حد ذاتها. يشير الباحثون إلى:

‘الاستجابات يجب أن تولد المحتوى عن طريق سحب من مصادر موثوقة للغاية. هذا هو السبب في أن تأسيس الاتصالات الصريحة بين تسلسلات المصطلحات وبيانات المستندات أمر بالغ الأهمية. إذا كانت جميع المستندات في الكوربوس مخطوطة بنتيجة موثوقية، يجب أن تؤخذ هذه النتيجة في الاعتبار عند تدريب النموذج أو توليد الاستجابات أو كليهما.’

على الرغم من أن الباحثين لا يُقترحون أن النتائج التقليدية لنتائج البحث ستصبح غير متاحة إذا تم العثور على خبير من هذا النوع وتم إظهاره بشكل جيد، إلا أن البحث كله يقدم نظام الترتيب التقليدي ونظام قائمة نتائج البحث في ضوء نظام استرجاع معلومات قديم يعود إلى عدة عقود.

‘حقيقة أن الترتيب هو مكون حاسم في هذا النموذج هو عرضة لأن نظام الاسترجاع يقدم للمستخدمين مجموعة من الإجابات المحتملة، مما يؤدي إلى عبء معرفي كبير على المستخدم. الرغبة في إرجاع إجابات بدلاً من قوائم نتائج مرتّبة كانت واحدة من العوامل الم мотيفية لتطوير أنظمة الإجابة على الأسئلة.’

2: الشفافية
يشير الباحثون إلى:

‘في أي وقت ممكن، يجب أن يتم إتاحة مصدر المعلومات المقدمة للمستخدم. هل هذا المصدر الرئيسي للمعلومات؟ إذا لم يكن، ما هو المصدر الرئيسي؟’

3: التعامل مع الانحياز
يشير البحث إلى أن نماذج اللغة المسبقة التي تم تدريبها لا تقيّم الحقيقة التجريبية، ولكنها تعمم وتعطي الأولوية للاتجاهات السائدة في البيانات. يقر بأن هذا التوجيه يفتح الباب للهجوم (كما حدث مع بوت المحادثة العنصري غير المقصود من مايكروسوفت في عام 2016)، وأن أنظمة مساعدة سوف تحتاج إلى حماية ضد استجابات النظام المتحيزة.

4: تمكين وجهات النظر المتنوعة
يقترح البحث أيضًا آليات لضمان تنوع في وجهات النظر:

‘الاستجابات المولدة يجب أن تمثل مجموعة متنوعة من وجهات النظر المختلفة، ولكنها لا يجب أن تكون مثيرة للجدل. على سبيل المثال، للاستفسارات حول الموضوعات الجدلية، يجب تغطية كلا جانبي الموضوع بطريقة منصفة وموازنة. هذا يرتبط بشكل وثيق بالانحياز في النموذج.’

5: لغة ميسرة
إلى جانب تقديم ترجمات دقيقة في الحالات التي يكون فيها الاستجابة الموثوقة في لغة مختلفة، يُشير البحث إلى أن الاستجابات المضمنة يجب أن تكون “مكتوبة بأشكال بسيطة قدر الإمكان”.