الأولوية للثقة في الذكاء الاصطناعي

يعتمد المجتمع بشكل متزايد على تطبيقات الذكاء الاصطناعي وتعلم الآلة، مما يغير طريقة استهلاك المعلومات. من المحادثات التي يقودها الذكاء الاصطناعي إلى المراجعات التي يتم إنتاجها من نماذج اللغة الكبيرة، فإن المجتمع لديه وصول إلى المزيد من المعلومات والرؤى العميقة أكثر من أي وقت مضى. ومع ذلك، مع سباق الشركات التكنولوجية لتنفيذ الذكاء الاصطناعي في سلسلة قيمها، تطرح سؤالًا حاسمًا. هل يمكننا حقًا الثقة في مخرجات حلول الذكاء الاصطناعي؟

هل يمكننا حقًا الثقة في مخرجات الذكاء الاصطناعي بدون تقدير عدم اليقين

对于 مدخلات معينة، قد يكون نموذج قد أنتج العديد من مخرجات أخرى ممكنة بنفس القدر. قد يكون هذا بسبب عدم كفاية بيانات التدريب أو التغييرات في بيانات التدريب أو أسباب أخرى. عند نشر النماذج، يمكن للمنظمات استخدام تقدير عدم اليقين لتزويد مستخدميها النهائيين بفهم أوضح لمدى الثقة التي يجب وضعها في مخرجات نموذج الذكاء الاصطناعي / تعلم الآلة. تقدير عدم اليقين هو عملية تقدير ما تلك المخرجات الأخرى التي يمكن أن تكون.

تخيل نموذجًا يتنبأ بدرجة الحرارة العالية للغد. قد ينتج النموذج مخرجات 21 درجة مئوية، ولكن تقدير عدم اليقين المطبق على تلك المخرجات قد يشير إلى أن النموذج يمكن أن ينتج مخرجات 12 درجة مئوية أو 15 درجة مئوية أو 16 درجة مئوية؛ مع معرفة ذلك، كيف نثق الآن في التنبؤ البسيط بدرجة 20 درجة مئوية؟ على الرغم من إمكاناته لتعزيز الثقة أو الحذر، فإن العديد من المنظمات تختار تخطي تقدير عدم اليقين بسبب العمل الإضافي الذي يتعين عليها القيام به لتنفيذه، بالإضافة إلى متطلباته للموارد الحاسوبية وسرعة الاستدلال.

نظم الإنسان في الحلقة، مثل أنظمة التشخيص والتنبؤ الطبية، تتضمن البشر كجزء من عملية اتخاذ القرار. من خلال الثقة العمياء في بيانات حلول الذكاء الاصطناعي / تعلم الآلة في مجال الرعاية الصحية، يخاطر العاملون في مجال الرعاية الصحية بتشخيص مريض بشكل خاطئ، مما قد يؤدي إلى نتائج صحية دون المستوى الأمثل – أو أسوأ. يمكن لتقدير عدم اليقين أن يسمح للعاملين في مجال الرعاية الصحية بمعرفة، بشكل كمي، متى يمكنهم وضع المزيد من الثقة في مخرجات الذكاء الاصطناعي ومتى يجب معاملتها باحتياط. وبالمثل، في نظام tự động بالكامل مثل السيارة ذاتية القيادة، يمكن لمخرجات نموذج تقدير مسافة عائق أن تؤدي إلى حادث قد تم تجنبه في وجود تقدير عدم يقين على تقدير المسافة.

تحدي استخدام أساليب مونت كارلو لبناء الثقة في نماذج الذكاء الاصطناعي / تعلم الآلة

أساليب مونت كارلو، التي تم تطويرها خلال مشروع مانهاتن، هي طريقة قوية لأداء تقدير عدم اليقين. تتضمن إعادة تشغيل الخوارزميات بشكل متكرر مع مدخلات مختلفة قليلاً حتى لا توفر المزيد من التكرارات معلومات إضافية في المخرجات؛ عندما يصل هذا العملية إلى حالة من هذا القبيل، يقال أنها قد توصلت إلى التقارب. أحد عيوب أساليب مونت كارلو هو أنها عادة ما تكون بطيئة ومستهلكة للحاسوب، تتطلب العديد من التكرارات من حساباتها المكونة للحصول على مخرجات متقاربة ولديها تباين داخلي عبر تلك المخرجات. نظرًا لأن أساليب مونت كارلو تستخدم مخرجات مولدات الأرقام العشوائية كواحدة من بناءاتها الرئيسية، حتى عندما تقوم بتشغيل مونت كارلو مع العديد من التكرارات الداخلية، ستتغير النتائج التي تحصل عليها عند تكرار العملية بالمعايير نفسها.

الطريق الأمام لضمان ثقة نماذج الذكاء الاصطناعي / تعلم الآلة

على عكس الخوادم التقليدية ومسرعات الذكاء الاصطناعي، يتم تطوير فئة جديدة من منصات الحوسبة لتعالج التوزيعات الاحتمالية التجريبية بشكل مباشر بنفس الطريقة التي تعالج بها منصات الحوسبة التقليدية الأعداد الصحيحة والقيم العائمة. من خلال نشر نماذج الذكاء الاصطناعي على هذه المنصات، يمكن للمنظمات تلقائيًا تنفيذ تقدير عدم اليقين على نماذجها المدربة مسبقًا ويمكنها أيضًا تسريع مهام الحوسبة الأخرى التي تستخدم تقنيات مونت كارلو تقليديًا، مثل حسابات VaR في التمويل. على وجه الخصوص، لحالة VaR، تسمح هذه الفئة الجديدة من المنصات للمنظمات بالعمل مع توزيعات تجريبية بنيت مباشرة من بيانات السوق الحقيقية، بدلاً من تقريب هذه التوزيعات bằng عينات تم إنشاؤها بواسطة مولدات الأرقام العشوائية، للحصول على تحليلات أكثر دقة ونتائج أسرع.
تم خفض الحواجز أمام تقدير عدم اليقين بشكل كبير من خلال اختراقات الحوسبة الحديثة. يسلط مقال بحثي حديث نشره زملائي وأنا في ندوة تعلم الآلة مع أنماط الحوسبة الجديدة في NeurIPS 2024، كيف سمحت لنا منصة الحوسبة الجيل التالي التي طورناها بتشغيل تحليل تقدير عدم اليقين بسرعة تزيد عن 100 مرة مقارنةً بتشغيل التحليلات التقليدية المعتمدة على مونت كارلو على خادم من فئة Intel-Xeon عالي المستوى. تسمح هذه التقدمات للمنظمات التي تنشر حلول الذكاء الاصطناعي بتنفيذ تقدير عدم اليقين بسهولة و chạy ذلك التقدير غير اليقين مع عبء منخفض.

يعتمد مستقبل ثقة الذكاء الاصطناعي / تعلم الآلة على الحوسبة الجيل التالي المتقدمة

مع دمج المنظمات لمزيد من حلول الذكاء الاصطناعي في المجتمع، ستصبح ثقة الذكاء الاصطناعي / تعلم الآلة أولوية قصوى. لم يعد من الممكن للشركات أن تتخلى عن تنفيذ مرافق في عمليات نشر نماذج الذكاء الاصطناعي لتمكين المستهلكين من معرفة متى يجب معاملة مخرجات نموذج الذكاء الاصطناعي باحتياط. الطلب على هذا النوع من القابلية للتفسير و تقدير عدم اليقين واضح، حيث يشير حوالي ثلاثة من كل أربعة أشخاص إلى أنهم سيكونون أكثر استعدادًا للثقة في نظام الذكاء الاصطناعي إذا كانت آليات التأكيد المناسبة موجودة.

تجعل التكنولوجيا الحاسوبية الجديدة من الأسهل تنفيذ تقدير عدم اليقين و تشغيله. في حين أن الصناعة والهيئات التنظيمية تتصارع مع تحديات أخرى مرتبطة بتشغيل الذكاء الاصطناعي في المجتمع، هناك على الأقل فرصة لتعزيز الثقة التي يحتاجها البشر، من خلال جعل تقدير عدم اليقين معيارًا في عمليات نشر الذكاء الاصطناعي.