أندرو غوردون، مستشار أبحاث أول، بروليفيك – سلسلة المقابلات

يعتمد أندرو غوردون على خلفيته القوية في علم النفس وعلم الأعصاب لاكتشاف المعرفة كباحث. مع شهادة البكالوريوس في علم النفس، وماجستير في علم الأعصون، ودكتوراه في العلوم المعرفية العصبية، يستخدم أندرو المبادئ العلمية لفهم دوافع المستهلكين وسلوكياتهم وعمليات اتخاذ القرارات.

بروليفيك تم إنشاؤها من قبل الباحثين لصالح الباحثين، بهدف تقديم طريقة متفوقة للحصول على بيانات عالية الجودة ومشاركة الإنسان في أبحاث متقدمة. اليوم، يعتمد أكثر من 35000 باحث من الأكاديمية والصناعة على بروليفيك آي آي لجمع بيانات إنسان نهائية وتعليقات. يُعرف المنصة بمتعاونوها الموثوقين والمشاركين عادلاً، مع دراسة جديدة تُطلق كل ثلاث دقائق.

كيف تستخدم خلفيتك في العلوم المعرفية العصبية لمساعدة الباحثين الذين يقومون بمشاريع تتضمن الذكاء الاصطناعي؟

البداية الجيدة هي تعريف ما يشمل علم الأعصون المعرفي. بشكل أساسي، يبحث علم الأعصون المعرفي في الأسس البيولوجية للعمليات المعرفية. يجمع بين مبادئ العلوم العصبية وعلم النفس، وأحياناً علوم الحاسوب، مما يساعدنا على فهم كيف يتيح لنا دماغنا مختلف الوظائف العقلية. بشكل أساسي، يحتاج أي شخص يمارس بحثًا في علم الأعصون المعرفي إلى امتلاك فهم قوي لمناهج البحث وفهم جيد لكيفية تفكير الناس وسلوكياتهم. هذه الجوانب حاسمة ويمكن دمجها لتطوير وتنفيذ أبحاث ذكاء اصطناعي عالية الجودة. ومع ذلك، هناك تحذير واحد، وهو أن بحث الذكاء الاصطناعي هو مصطلح واسع؛ يمكن أن يشمل أي شيء من تدريب النماذج الأساسية وتعليم البيانات إلى فهم كيفية تفاعل الناس مع أنظمة الذكاء الاصطناعي. تشغيل مشاريع بحثية مع الذكاء الاصطناعي لا يختلف عن تشغيل مشاريع بحثية خارج الذكاء الاصطناعي؛ لا تزال تحتاج إلى فهم جيد للمنهجيات وتصميم الدراسات لإنشاء أفضل البيانات، واختيار العينة بشكل صحيح لتجنب التحيز، ثم استخدام هذه البيانات في تحليلات فعالة للاجابة على سؤال البحث الذي تتناوله.

يشدد بروليفيك على معاملة المشاركين بمنتهى العناية وتعويضهم بشكل عادل. هل يمكنك مشاركة رؤى حول التحديات والحلول في الحفاظ على هذه المعايير؟

نظام التعويض لدينا مصمم لضمان تقدير المشاركين وتكريمهم، ويشعرهم بأنهم يلعبون دورًا هامًا في آلة البحث (لأنهم كذلك). نعتقد أن معاملة المشاركين بمنتهى العناة وتقديم معدل تعويض عادل لهم، يحفزهم على المشاركة بشكل أعمق في البحث، وبالتالي تقديم بيانات أفضل.

لسوء الحظ، لا تفرض معظم منصات العينة عبر الإنترنت هذه المبادئ من الدفع والتعامل. النتيجة هي مجموعة من المشاركين الذين يحفزون على عدم المشاركة في البحث، ولكن على العجلة من خلاله بأسرع ما يمكن لزيادة إمكانيات كسبهم، مما يؤدي إلى بيانات منخفضة الجودة. الحفاظ على الموقف الذي نتبعه في بروليفيك يعد تحديًا؛ نحن في الأساس نكافح ضد التيار. الوضع الراهن في بحث الذكاء الاصطناعي وأشكال أخرى من البحث عبر الإنترنت لم يركز على معاملة المشاركين أو رفاهيتهم، ولكن على زيادة كمية البيانات التي يمكن جمعها بأقل تكلفة.

جعل المجتمع البحثي الأوسع يفهم لماذا اخترنا هذا النهج وما القيمة التي سيراها باستخدامنا بدلاً من منصة منافسة، представляет تحديًا كبيرًا. تحدي آخر، من وجهة النظر اللوجستية، يتضمن تخصيص وقت كبير للاستجابة للقلق أو الاستفسارات أو الشكاوى من المشاركين أو الباحثين بطريقة مناسبة وadil. نكرس الكثير من الوقت لذلك لأنها تبقى المستخدمين على كلا الجانبين – المشاركين والباحثين – سعداء، مما يشجعهم على العودة إلى بروليفيك. ومع ذلك، نعتمد أيضًا بشكل كبير على الباحثين الذين يستخدمون منصتنا ليلتزموا بمعاييرنا العالية من التعامل والتعويض بمجرد أن يغادروا نظام بروليفيك. ما يحدث خارج منصتنا يقع تحت سيطرة فريق البحث، لذلك نعتمد ليس فقط على المشاركين لإبلاغنا إذا كان هناك خطأ، ولكن أيضًا على باحثينا لرفع معاييرهم إلى أعلى مستوى ممكن. نحن نحاول تقديم أكبر قدر ممكن من التوجيه لضمان حدوث ذلك.

مع الأخذ في الاعتبار نموذج أعمال بروليفيك، ما هي أفكارك حول الدور الأساسي لتغذية الرأي البشري في تطوير الذكاء الاصطناعي، خاصة في مجالات مثل اكتشاف التحيز وتحسين العقلية الاجتماعية؟

تغذية الرأي البشري في تطوير الذكاء الاصطناعي أمر بالغ الأهمية. بدون مشاركة الإنسان، نخاطر بتعزيز التحيزات، وتجاهل دقائق التفاعل الاجتماعي البشري، وفشل في معالجة بعض الاعتبارات الأخلاقية السلبية المرتبطة بالذكاء الاصطناعي. قد يمنع ذلك تقدمنا نحو إنشاء أنظمة ذكاء اصطناعي مسؤولة وفعالة وأخلاقية. فيما يتعلق باكتشاف التحيز، فإن دمج تغذية الرأي البشري خلال عملية التطوير أمر بالغ الأهمية لأننا يجب أن نهدف إلى تطوير ذكاء اصطناعي يعكس مجموعة واسعة من الآراء والقيم، دون تفضيل واحد على آخر. جميع الديموغرافيات والخلفيات والثقافات لديها تحيزات غير واعية قد ت phảnع بعض وجهات النظر، والتي قد لا تكون سلبية، ولكنها قد تعكس وجهة نظر لا يتم قبولها على نطاق واسع. أظهر البحث التعاوني بين بروليفيك وجامعة ميشيغان كيف يمكن أن يؤثر خلفية المُعرّفين بشكل كبير على كيفية تقييمهم لجوانب مثل سمية الكلام أو اللياقة. للتعامل مع هذا، يجب أن ننخرط في المشاركين من خلفيات وثقافات ومواقف متنوعة لمنع هذه التحيزات من التأصل في أنظمة الذكاء الاصطناعي قيد التطوير. بالإضافة إلى ذلك، تسمح تغذية الرأي البشري لباحثي الذكاء الاصطناعي بالكشف عن أشكال أكثر دقة من التحيز التي قد لا يتم اكتشافها بواسطة الطرق الآلية.

الوضع مع العقلية الاجتماعية أساسًا هو نفسه. يجد الذكاء الاصطناعي صعوبة في المهام التي تتطلب العقلية الاجتماعية لأنها، بالطبيعة، ليست كائنًا اجتماعيًا، بينما نحن كبشر كذلك. الكشف عن السياق عند طرح سؤال، وفهم السخرية، أو التعرف على الإشارات العاطفية، يتطلب عقلية اجتماعية تشبه عقلية الإنسان التي لا يمكن للذكاء الاصطناعي تعلمها بمفرده. نحن، كبشر، نتعلم اجتماعيًا، لذلك الطريقة الوحيدة لتعليم نظام الذكاء الاصطناعي هذه التقنيات هي استخدام تغذية رأي بشري حقيقي لتدريب الذكاء الاصطناعي على تفسير واستجابة للإشارات الاجتماعية المختلفة. في بروليفيك، قمنا بتطوير مجموعة بيانات للعقلية الاجتماعية مصممة خصيصًا لتعليم نماذج الذكاء الاصطناعي هذه المهارة المهمة.

باختصار، تغذية الرأي البشري لا تساعد فقط في تحديد المجالات التي تتفوق فيها أنظمة الذكاء الاصطناعي أو تفشل، ولكنها también تمكن المطورين من إجراء التحسينات والتعديلات اللازمة للخوارزميات. مثال عملي على ذلك يمكن ملاحظته في كيفية عمل ChatGPT. عندما تسأل سؤالًا، يُقدم ChatGPT أحيانًا إجابتين ويطلب منك تصنيف أفضل إجابة. يتم ذلك لأن النموذج يتعلم دائمًا، والمطورون يفهمون أهمية الإدخال البشري لتحديد أفضل الإجابات، بدلاً من الاعتماد فقط على نموذج آخر.

لقد لعبت بروليفيك دورًا مهمًا في ربط الباحثين بالمشاركين لتدريب الذكاء الاصطناعي والبحث. هل يمكنك مشاركة بعض القصص الناجحة أو التقدمات الكبيرة في الذكاء الاصطناعي التي أتاحتها منصتك؟

نظرًا للطبيعة التجارية لكثير من أعمالنا، خاصة في الفضاء غير الأكاديمي، فإن معظم المشاريع التي نشارك فيها تخضع لاتفاقيات عدم إفصاح صارمة. هذا بشكل أساسي لضمان سرية التقنيات أو الطرق، لحمايتها من التكرار. ومع ذلك، هناك مشروع واحد يمكننا مناقشته، وهو شراكتنا مع Remesh، منصة ذكاء اصطناعي قوية. قمنا بالتعاون مع OpenAI وRemesh لتطوير نظام يستخدم عينات ممثلة للسكان الأمريكيين. في هذا المشروع، شارك الآلاف من الأفراد من عينة ممثلة في مناقشات حول سياسات ذكاء اصطناعي عبر نظام Remesh، مما أتاح تطوير سياسات ذكاء اصطناعي تعكس إرادة العامة، بدلاً من ديموغرافية محددة، بفضل قدرة بروليفيك على تقديم عينة متنوعة إلى هذا الحد.

متى النظر إلى المستقبل، ما هو رؤيتك لمستقبل تطوير الذكاء الاصطناعي الأخلاقي، وكيف تخطط بروليفيك للمساهمة في تحقيق هذه الرؤية؟

أمالى لمستقبل الذكاء الاصطناعي، وتطويره، تتمثل في الاعتراف بأن الذكاء الاصطناعي سيكون جيدًا فقط مثل البيانات التي يتم تدريبه عليها. لا يمكن التأكيد على أهمية جودة البيانات بما فيه الكفاية لأنظمة الذكاء الاصطناعي. تدريب نظام ذكاء اصطناعي على بيانات رديئة يؤدي حتماً إلى نظام ذكاء اصطناعي رديء. الطريقة الوحيدة لضمان بيانات عالية الجودة هي ضمان توظيف مجموعة من المشاركين المتنوعين والمحفزين على تقديم أفضل البيانات الممكنة. في بروليفيك، تهدف نهجنا ومبادئنا التوجيهية إلى تعزيز ذلك بالضبط. من خلال إنشاء مجموعة من المشاركين المحددة بدقة ومراجعة شاملة وذات مصداقية، نتوقع أن يستخدم الباحثون هذا الموارد لإنشاء أنظمة ذكاء اصطناعي أكثر فاعلية وموثوقية وموثوقة في المستقبل.

ما هي بعض أكبر التحديات التي تواجهها في جمع بيانات تدريب الذكاء الاصطناعي البشرية عالية الجودة، وكيف تتعامل بروليفيك مع هذه العقبات؟

أكبر تحدي، دون شك، هو جودة البيانات. لا تكون البيانات السيئة مجرد عدم فائدة – بل يمكن أن تؤدي إلى نتائج ضارة، خاصة عند استخدام أنظمة الذكاء الاصطناعي في مجالات حرجة مثل الأسواق المالية أو العمليات العسكرية. هذا القلق يؤكد على المبدأ الأساسي “القمامة داخل، القمامة خارج”. إذا كانت بيانات الإدخال رديئة، فإن نظام الذكاء الاصطناعي الناتج سيكون ذا جودة منخفضة أو فائدة. غالبًا ما تنتج العينات عبر الإنترنت بيانات أقل جودة مما هو مثالي لتطوير الذكاء الاصطناعي. هناك العديد من الأسباب لهذا، ولكن أحد العوامل الرئيسية التي تتعامل بروليفيك معها هو معاملة المشاركين عبر الإنترنت. غالبًا ما يتم اعتبار هؤلاء الأفراد غير مهمين، ويتلقون تعويضات منخفضة، ومعاملتهم سيئة، وقليل من الاحترام من الباحثين. من خلال الالتزام بمعاملات المشاركين بمنتهى العناية، قامت بروليفيك بتربية مجموعة من المشاركين المتحمسين والمشاركين بعمق والمتعلمين والصادقين والمشاركين بفعالية. لذلك، عندما يتم جمع البيانات من خلال بروليفيك، فإن جودتها عالية ومضمونة، مما يدعم نماذج الذكاء الاصطناعي الموثوقة.

تحدي آخر نواجهه مع بيانات تدريب الذكاء الاصطناعي هو ضمان التنوع داخل العينة. بينما وسعت العينات عبر الإنترنت نطاقًا وتنوعًا للأفراد الذين يمكننا إجراء البحث عليهم مقارنة بالأساليب الشخصية، فإنها غالبًا ما تقتصر على أشخاص من البلدان الغربية. هذه العينات غالبًا ما تميل إلى الأشخاص الأصغر سنًا، والمتعلمين جيدًا، والمتعلمين تعليمًا عاليًا، والميول اليسارية. هذا لا يمثل السكان العالميين بشكل كامل. للتعامل مع هذا، لدى بروليفيك مشاركين من أكثر من 38 دولة حول العالم. كما نقدم للباحثين أدوات لتحديد التكوين الديموغرافي الدقيق لعينتهم مسبقًا. بالإضافة إلى ذلك، نقدم عينة ممثلة من خلال قوالب مطابقة للتعداد مثل العمر والجنس والعرق، أو حتى الانتماء السياسي. هذا يضمن أن تتلقى الدراسات أو مهام التعليق أو مشاريع أخرى مجموعة متنوعة من المشاركين، وبالتالي مجموعة واسعة من الأفكار.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا بروليفيك.