أندرو إنغ ينتقد ثقافة التكيف المفرط في تعلم الآلة

أندرو إنغ، واحد من الأصوات الأكثر تأثيرًا في تعلم الآلة خلال العقد الماضي، يعبّر حاليًا عن مخاوفه بشأن مدى تأكيد القطاع على الابتكارات في هندسة النموذج أكثر من البيانات – وبشكل خاص، مدى السماح للنتائج “المكيفة بشكل مفرط” أن يتم تصويرها على أنها حلول أو تقدم عام.

هذه انتقادات شاملة لثقافة تعلم الآلة الحالية، تنبع من واحدة من أعلى السلطات فيها، وتلعب دورًا في ثقة قطاع يُصاب بخوفات بشأن انهيار ثالث لثقة الأعمال في تطوير الذكاء الاصطناعي في فترة ستين عامًا.

إنغ، أستاذ في جامعة ستانفورد،也是 واحد من مؤسسي deeplearning.ai، ونشر في مارس رسالة على موقع المنظمة التي تلخص خطابًا حديثًا له إلى توصيتين أساسيتين:

أولاً، أن ي停止 المجتمع البحثي الشكوى من أن تنظيف البيانات يمثل 80% من التحديات في تعلم الآلة، ويتعامل مع الوظيفة من خلال تطوير منهجيات وعمليات MLOps قوية.

ثانيًا، أن يتحرك بعيدًا عن “الانتصارات السهلة” التي يمكن الحصول عليها من خلال تكيف البيانات مع نموذج تعلم الآلة، بحيث يعمل النموذج جيدًا على ذلك النموذج لكنه يفشل في التعميم أو إنتاج نموذج قابل للتوزيع على نطاق واسع.

مواجهة تحدي هندسة البيانات وتنقيطها

“رأيي”، كتب إنغ، “هو أن если 80% من عملنا هو تحضير البيانات، فإن ضمان جودة البيانات هو العمل المهم لفريق تعلم الآلة.”

بدلاً من الاعتماد على المهندسين لاكتشاف أفضل طريقة لتحسين مجموعة البيانات، آمل أن نتمكن من تطوير أدوات MLOps تساعد في جعل بناء أنظمة الذكاء الاصطناعي، بما في ذلك بناء مجموعات بيانات عالية الجودة، أكثر تكرارًا وتنظيمًا.

MLOps هو مجال ناشئ، ويعرفه الناس بشكل مختلف. لكني أعتقد أن المبدأ التنظيمي الأكثر أهمية لأدوات وفرق MLOps يجب أن يكون ضمان تدفق البيانات المستمر والعالية الجودة في جميع مراحل المشروع. هذا سيساعد الكثير من المشاريع على السير بشكل أسهل.

في حديثه على Zoom في جلسة أسئلة وأجوبة مباشرة مباشرة في نهاية أبريل، تحدث إنغ عن نقص التطبيق في أنظمة تحليل الأشعة في مجال الأشعة:

من الواضح أن عندما نجمع البيانات من مستشفى ستانفورد، ثم نقوم بتدريب واختبار على البيانات من نفس المستشفى، نستطيع نشر أوراق بحثية تظهر [الخوارزميات] قابلة للمقارنة مع أخصائيي الأشعة في تحديد حالات معينة.

…[عندما] تأخذ نفس النموذج، نفس نظام الذكاء الاصطناعي، إلى مستشفى أقدم في الشارع، مع آلة أقدم، ويتعامل الفني ببروتوكول تصوير مختلف قليلاً، فإن انحراف البيانات يسبب انخفاضًا كبيرًا في أداء نظام الذكاء الاصطناعي. في المقابل، يمكن لأي أخصائي أشعة أن يمشي في الشارع إلى المستشفى الأقدم ويعمل بشكل جيد.

التحديد غير الكافي ليس حلاً

يحدث التكيف المفرط عندما يتم تصميم نموذج تعلم الآلة خصيصًا لتلبية الغرابة في مجموعة بيانات معينة (أو في طريقة تنسيق البيانات). يمكن أن يتضمن ذلك، على سبيل المثال، تحديد أوزان تنتج نتائج جيدة من تلك المجموعة، لكنها لا “تعمم” على بيانات أخرى.

في العديد من الحالات، يتم تحديد هذه المعلمات على جوانب “غير بيانات” من مجموعة التدريب، مثل الدقة المحددة للمعلومات المجمعة، أو غرابة أخرى لا يضمن تكرارها عبر مجموعات بيانات لاحقة.

على الرغم من أنه سيكون لطيفًا، التكيف المفرط ليس مشكلة يمكن حلها ببساطة من خلال توسيع نطاق أو مرونة هندسة البيانات أو تصميم النموذج، عندما ما هو مطلوب هو ميزات شاملة وقوية جدًا ستؤدي بشكل جيد في مجموعة من بيئات البيانات – تحدي أكثر شوكًا.

بشكل عام، هذا النوع من “التحديد غير الكافي” يؤدي فقط إلى المشاكل التي أشار إليها إنغ مؤخرًا، حيث يفشل نموذج تعلم الآلة في بيانات غير مرئية. الفرق في هذه الحالة هو أن النموذج يفشل ليس لأن البيانات أو تنسيق البيانات مختلف عن مجموعة التدريب الأصلية المخصصة، ولكن لأن النموذج مرن جدًا بدلاً من أن يكون هشًا.

في أواخر عام 2020، نشر مقال التحديد غير الكافي يعرض مصداقية تعلم الآلة الحديثة للتحديات انتقادات شديدة لهذا الممارسة، وضم أسماء ما لا يقل عن أربعين باحثًا وعالمًا في تعلم الآلة من جوجل وMIT، من بين مؤسسات أخرى.

ينتقد المقال “التعلم القصير”، ويشير إلى كيف يمكن للنماذج غير المحددة أن تتبع مسارات غير منتظمة بناءً على نقطة البذرة العشوائية التي يبدأ منها تدريب النموذج. يلاحظ المساهمون:

لقد رأينا أن التحديد غير الكافي شائع في خطوط أنابيب تعلم الآلة العملية عبر العديد من المجالات. في الواقع، بفضل التحديد غير الكافي، يتم تحديد جوانب مهمة من القرارات بواسطة اختيارات عشوائية مثل البذرة العشوائية المستخدمة لمبادرة المعلمة.

الآثار الاقتصادية لتغيير الثقافة

على الرغم من مؤهلاته الأكاديمية، إنغ ليس أكاديميًا خاليًا من العواطف، بل لديه خبرة عميقة وعالية المستوى في الصناعة كشريك مؤسس لجوجل برين وكورسيرا، وكعالم رئيسي لبيانات كبيرة والذكاء الاصطناعي في بايدو، وكما هو مؤسس لاندنغ إيه آي، الذي يدير 175 مليون دولار أمريكي لبدء مشاريع جديدة في القطاع.

عندما يقول “جميع تعلم الآلة، وليس فقط الرعاية الصحية، لديها فجوة بين概念 الإثبات وإنتاجها”، فهو يعني ذلك كدعوة للاستيقاظ لقطاع يتميز بمستوى متزايد من الهيبة والتاريخ المتنقط، ويتميز بأنه استثمار تجاري غير مؤكد على المدى الطويل، مضطرب بمشاكل التعريف والنطاق.

مع ذلك، فإن الأنظمة المخصصة لتعلم الآلة التي تعمل جيدًا في الموقع وتفشل في بيئات أخرى تمثل نوعًا من السيطرة على السوق يمكن أن يكافئ الاستثمار الصناعي. تقديم “مشكلة التكيف المفرط” في سياق خطر مهني يقدم طريقة غير صادقة لتحويل الاستثمار الصناعي في البحث المفتوح إلى أنظمة مخصصة، حيث يمكن لمنافسيها التكرار، لكن ذلك يسبب مشاكل.

إذا كان هذا النهج سيعمل على المدى الطويل، فإن ذلك يعتمد على مدى الحاجة إلى اختراقات حقيقية في تعلم الآلة لمستويات استثمار أكبر، وعلى ما إذا كانت جميع المبادرات الإنتاجية ستهجر في النهاية إلى FAANG إلى حد ما، بسبب الموارد الهائلة اللازمة لاستضافة وتشغيلها.