التفسير يمكن أن يعالج مشكلة الذكاء الاصطناعي لكل صناعة: الافتقار إلى الشفافية

بواسطة: ميغيل جيتي ، نائب الرئيس لخطاب البحث والتطوير ، تزيد السرعة.

ربما كان الذكاء الاصطناعي، في مراحله الأولى، قادرًا على الاعتماد على أمجاد الحداثة. كان من المقبول أن يتعلم التعلم الآلي ببطء ويحافظ على عملية مبهمة حيث يستحيل على المستهلك العادي اختراق حسابات الذكاء الاصطناعي. هذا يتغير. مع بدء المزيد من الصناعات مثل الرعاية الصحية والتمويل ونظام العدالة الجنائية في الاستفادة من الذكاء الاصطناعي بطرق يمكن أن يكون لها تأثير حقيقي على حياة الناس، يرغب المزيد من الناس في معرفة كيفية استخدام الخوارزميات، وكيفية الحصول على البيانات، وما إلى ذلك. مدى دقة قدراتها. إذا أرادت الشركات البقاء في طليعة الابتكار في أسواقها، فإنها تحتاج إلى الاعتماد على الذكاء الاصطناعي الذي سيثق به جمهورها. إن إمكانية شرح الذكاء الاصطناعي هي العنصر الأساسي لتعميق هذه العلاقة.

تختلف قابلية شرح الذكاء الاصطناعي عن إجراءات الذكاء الاصطناعي القياسية لأنها توفر للأشخاص طريقة لفهم كيفية إنشاء خوارزميات التعلم الآلي للمخرجات. الذكاء الاصطناعي القابل للتفسير هو نظام يمكنه تزويد الأشخاص بالنتائج المحتملة و نقائص. إنه نظام تعلم آلي يمكنه تلبية رغبة الإنسان في الإنصاف والمساءلة واحترام الخصوصية. يعد الذكاء الاصطناعي القابل للتفسير أمرًا ضروريًا للشركات لبناء الثقة مع المستهلكين.

بينما يتوسع الذكاء الاصطناعي ، يحتاج مقدمو الذكاء الاصطناعي إلى فهم أن الصندوق الأسود لا يمكنه ذلك. يتم إنشاء نماذج الصندوق الأسود مباشرة من البيانات وفي كثير من الأحيان لا يستطيع حتى المطور الذي أنشأ الخوارزمية تحديد ما الذي دفع العادات المكتسبة للجهاز. لكن المستهلك الواعي لا يريد الانخراط في شيء لا يمكن اختراقه بحيث لا يمكن محاسبته. يريد الناس معرفة كيفية وصول خوارزمية الذكاء الاصطناعي إلى نتيجة محددة دون غموض المدخلات من المصدر والمخرجات الخاضعة للرقابة ، خاصةً عندما تكون حسابات الذكاء الاصطناعي الخاطئة غالبًا بسبب تحيزات الآلة. نظرًا لأن الذكاء الاصطناعي أصبح أكثر تقدمًا ، يريد الناس الوصول إلى عملية التعلم الآلي لفهم كيفية وصول الخوارزمية إلى نتيجتها المحددة. يجب أن يفهم القادة في كل صناعة أنه عاجلاً أم آجلاً ، لن يفضل الناس هذا الوصول ولكنهم يطالبون به كمستوى ضروري من الشفافية.

تعتبر أنظمة ASR مثل المساعدين الممكّنين للصوت وتكنولوجيا النسخ والخدمات الأخرى التي تحول الكلام البشري إلى نص خاصة ابتليت بالتحيزات. عند استخدام الخدمة لتدابير السلامة ، يمكن أن تكون الأخطاء بسبب اللهجات أو عمر الشخص أو خلفيته أخطاء فادحة ، لذلك يجب أخذ المشكلة على محمل الجد. يمكن استخدام بقايا تقطيع السيارات بشكل فعال في كاميرات جسم الشرطة ، على سبيل المثال ، لتسجيل التفاعلات ونسخها تلقائيًا - الاحتفاظ بسجل ، إذا تم نسخه بدقة ، يمكن أن ينقذ الأرواح. ستتطلب ممارسة القابلية للتفسير ألا يعتمد الذكاء الاصطناعي على مجموعات البيانات المشتراة فحسب ، بل يسعى إلى فهم خصائص الصوت الوارد الذي قد يساهم في حدوث أخطاء إن وجدت. ما هو الملف الصوتي؟ هل يوجد ضوضاء في الخلفية؟ هل المتحدث من دولة لا تتحدث الإنجليزية أولاً أم من جيل يستخدم مفردات لم يتعلمها الذكاء الاصطناعي بعد؟ يحتاج التعلم الآلي إلى أن يكون استباقيًا في التعلم بشكل أسرع ويمكن أن يبدأ من خلال جمع البيانات التي يمكنها معالجة هذه المتغيرات.

أصبحت الضرورة واضحة ، لكن الطريق إلى تنفيذ هذه المنهجية لن يكون دائمًا حلًا سهلًا. تتمثل الإجابة التقليدية للمشكلة في إضافة المزيد من البيانات ، ولكن سيكون من الضروري إيجاد حل أكثر تعقيدًا ، خاصةً عندما تكون مجموعات البيانات المشتراة التي تستخدمها العديد من الشركات متحيزة بطبيعتها. هذا لأنه من الناحية التاريخية ، كان من الصعب شرح قرار معين تم اتخاذه من قبل الذكاء الاصطناعي وهذا بسبب طبيعة تعقيد النماذج من طرف إلى طرف. ومع ذلك ، يمكننا الآن ، ويمكننا البدء بسؤال كيف فقد الناس الثقة في الذكاء الاصطناعي في المقام الأول.

لا محالة ، سوف يرتكب الذكاء الاصطناعي أخطاء. تحتاج الشركات إلى بناء نماذج تدرك أوجه القصور المحتملة ، وتحديد متى وأين تحدث المشكلات ، وإنشاء حلول مستمرة لبناء نماذج ذكاء اصطناعي أقوى:

1. عندما يحدث خطأ ما ، سيحتاج المطورون إلى شرح ما حدث و وضع خطة فورية لتحسين النموذج لتقليل الأخطاء المستقبلية المماثلة.
2. لكي تعرف الآلة حقًا ما إذا كانت صحيحة أم خاطئة ، يحتاج العلماء إلى ذلك إنشاء حلقة التغذية الراجعة حتى يتمكن الذكاء الاصطناعي من معرفة عيوبه والتطور.
3. هناك طريقة أخرى لبناء الثقة في ASR بينما لا يزال الذكاء الاصطناعي يتحسن إنشاء نظام يمكن أن يوفر درجات الثقة، وعرض الأسباب التي تجعل الذكاء الاصطناعي أقل ثقة. على سبيل المثال ، عادةً ما تولد الشركات درجات من صفر إلى 100 لتعكس عيوب الذكاء الاصطناعي الخاصة بها وتأسيس الشفافية مع عملائها. في المستقبل ، قد تقدم الأنظمة تفسيرات لاحقة لسبب صعوبة الصوت من خلال تقديم المزيد من البيانات الوصفية حول الصوت ، مثل مستوى الضوضاء المدرك أو لهجة أقل فهماً.

ستؤدي الشفافية الإضافية إلى رقابة بشرية أفضل على تدريب وأداء الذكاء الاصطناعي. كلما أصبحنا أكثر انفتاحًا بشأن المكان الذي نحتاج إلى تحسينه ، زادت مساءلتنا في اتخاذ إجراءات بشأن تلك التحسينات. على سبيل المثال ، قد يرغب الباحث في معرفة سبب إخراج نص خاطئ حتى يتمكن من تخفيف المشكلة ، بينما قد يرغب ناسخ النص في دليل على سبب إساءة تفسير ASR للمدخلات للمساعدة في تقييمهم لمدى صحتها. يمكن أن يخفف إبقاء البشر في الحلقة من بعض المشاكل الأكثر وضوحًا التي تنشأ عندما يذهب الذكاء الاصطناعي دون رادع. يمكنه أيضًا تسريع الوقت المطلوب للذكاء الاصطناعي لاكتشاف أخطائه وتحسينه وتصحيحه في النهاية في الوقت الفعلي.

يتمتع الذكاء الاصطناعي بالقدرات على تحسين حياة الناس ، ولكن فقط إذا قام البشر ببنائه لإنتاجه بشكل صحيح. نحن بحاجة ليس فقط إلى محاسبة هذه الأنظمة ولكن أيضًا الأشخاص الذين يقفون وراء الابتكار. من المتوقع أن تلتزم أنظمة الذكاء الاصطناعي المستقبلية بالمبادئ التي وضعها الأشخاص ، وحتى ذلك الحين فقط سيكون لدينا نظام يثق به الناس. حان الوقت لوضع الأساس والسعي لتحقيق هذه المبادئ الآن بينما لا يزال البشر في النهاية يخدمون أنفسنا.