يمكن لشرحability أن تعالج مشكلة الصناعة كلها: نقص الشفافية

بواسطة: ميجويل جيتي، نائب الرئيس لبحث وتطوير الكلام، Rev.

في مراحلها الأولى، كان من الممكن للذكاء الاصطناعي أن يعتمد على جديدته. كان من المقبول أن يتعلم التعلم الآلي ببطء ويحافظ على عملية غير شفافة حيث يصعب على المستهلك العادي فهم حسابات الذكاء الاصطناعي. ولكن هذا يتغير. مع开始 المزيد من الصناعات مثل الرعاية الصحية والتمويل ونظام العدالة الجنائية في استخدام الذكاء الاصطناعي بطرق يمكن أن يكون لها تأثير حقيقي على حياة الناس، يريد المزيد من الناس معرفة كيف يتم استخدام الخوارزميات، وكيف يتم الحصول على البيانات، وما مدى دقة قدراتها. إذا أرادت الشركات البقاء في طليعة الابتكار في أسواقها، فإنها تحتاج إلى الاعتماد على الذكاء الاصطناعي الذي سيتوافق مع جمهورها. شرح الذكاء الاصطناعي هو المكون الرئيسي لتعزيز تلك العلاقة.

يتفوق شرح الذكاء الاصطناعي على الإجراءات العادية للذكاء الاصطناعي لأنه يقدم للناس طريقة لفهم كيفية عمل خوارزميات التعلم الآلي. الذكاء الاصطناعي القابل للشرح هو نظام يمكنه تقديم الناس بالنتائج المحتملة والقصور. إنه نظام تعلم آلي يمكنه تحقيق الرغبة الإنسانية في العدالة والمساءلة والاحترام للخصوصية. شرح الذكاء الاصطناعي أمر ضروري للشركات لبناء الثقة مع المستهلكين.

مع توسع الذكاء الاصطناعي، يحتاج مزودو الذكاء الاصطناعي إلى فهم أن النموذج الأسود لا يمكن. يتم إنشاء نماذج 箱ة مباشرة من البيانات، وغالبًا ما لا يستطيع حتى المطور الذي أنشأ الخوارزمية تحديد ما دفع عادات التعلم الآلي. لكن المستهلك الواعي لا يريد التعامل مع شيء غير قابل للاختراق بحيث لا يمكن مساءلته. الناس يريدون معرفة كيف يصل خوارزمية الذكاء الاصطناعي إلى نتيجة محددة دون غموض الإدخال والمخرجات، خاصة عندما تكون أخطاء الذكاء الاصطناعي غالبًا ناتجة عن التحيز الآلي. مع تقدم الذكاء الاصطناعي، يريد الناس الوصول إلى عملية التعلم الآلي لفهم كيف وصلت الخوارزمية إلى نتيجتها المحددة. يجب على قادة كل صناعة أن يفهموا أن الناس سيتطلبون في النهاية هذا النوع من الشفافية لا يفضلونه.

نظم التعرف على الكلام مثل المساعدين الصوتيين وتكنولوجيا النسخ والخدمات الأخرى التي تحول الكلام البشري إلى نص متأثرة بشكل خاص بالتحيزات. عندما يتم استخدام الخدمة لأغراض أمنية، يمكن أن تكون الأخطاء بسبب اللهجات أو عمر الشخص أو خلفيته خطأً جسيمًا، لذلك يجب اعتبار المشكلة على محمل الجد. يمكن استخدام التعرف على الكلام بشكل فعال في كاميرات الشرطة، على سبيل المثال، لتسجيل التفاعلات وتحويلها تلقائيًا – مما يحافظ على سجل يمكن أن ينقذ الأرواح إذا تم نسخها بدقة. سيتطلب ممارسة الشرح أن لا يعتمد الذكاء الاصطناعي فقط على مجموعات البيانات المشتراة، بل يسعى إلى فهم خصائص الصوت الواردة التي قد تساهم في الأخطاء إذا وجدت. ما هو الملف الصوتي؟ هل هناك ضوضاء في الخلفية؟ هل المتكلم من دولة غير ناطقة بالإنجليزية أو من جيل يستخدم مفردات لم يتعلمها الذكاء الاصطناعي بعد؟ يجب على التعلم الآلي أن يكون استباقيًا في التعلم بشكل أسرع، ويمكن أن يبدأ بجمع البيانات التي يمكنها معالجة هذه المتغيرات.

تكون الحاجة واضحة، لكن المسار لتنفيذ هذه الطريقة لن يكون دائمًا له حل سهل. الجواب التقليدي للمشكلة هو إضافة المزيد من البيانات، ولكن حلًا أكثر تعقيدًا سيكون ضروريًا، خاصة عندما تكون مجموعات البيانات التي يستخدمها العديد من الشركات متحيزة بشكل 内trinsic. هذا بسبب صعوبة تفسير قرار معين تم إصداره بواسطة الذكاء الاصطناعي، وذلك بسبب طبيعة تعقيد النماذج من النهاية إلى النهاية. ومع ذلك، يمكننا الآن، ويمكننا البدء bằng سؤال كيف خسر الناس ثقتهم في الذكاء الاصطناعي في المقام الأول.

بلا شك، سوف يرتكب الذكاء الاصطناعي الأخطاء. تحتاج الشركات إلى بناء نماذج تدرك القصور المحتملة، وتحدد عندما وأين تحدث المشاكل، وتنشئ حلول مستمرة لتقوية نماذج الذكاء الاصطناعي:

1. عندما يحدث شيء خاطئ، سوف يحتاج المطورون إلى شرح ما حدث و تطوير خطة فورية لتحسين النموذج لتقليل الأخطاء المماثلة في المستقبل.
2. لكي يعرف الجهاز ما إذا كان صحيحًا أو خاطئًا، يحتاج العلماء إلى إنشاء حلقة تغذية راجعة حتى يتمكن الذكاء الاصطناعي من التعلم من قصوره وتطوير نفسه.
3. طريقة أخرى لتعزيز الثقة بينما لا يزال الذكاء الاصطناعي يتطور هي إنشاء نظام يمكنه تقديم درجات ثقة، ويوفر أسبابًا لعدم ثقته. على سبيل المثال، تنتج الشركات عادةً درجات من 0 إلى 100 لتعكس قصور الذكاء الاصطناعي الخاص بهم، وتنشئ شفافية مع عملائها. في المستقبل، قد تقدم الأنظمة تفسيرات لاحقة لما كلف الصوت بالتحدي من خلال تقديم المزيد من البيانات الوصفية حول الصوت، مثل مستوى الضوضاء المتصورة أو لهجة أقل فهمًا.

سوف يؤدي مزيدًا من الشفافية إلى تحسين الرقابة البشرية على تدريب الذكاء الاصطناعي وأدائه. كلما كنا أكثر انفتاحًا حول ما نحتاج إلى تحسينه، كلما كنا أكثر مساءلة لاتخاذ إجراءات لتلك التحسينات. على سبيل المثال، قد يريد باحث معرفة لماذا تم إخراج نص خاطئ حتى يتمكن من التخفيف من المشكلة، بينما قد يريد كاتب النسخ دليلًا على لماذا أسيء تفسير الإدخال من قبل التعرف على الكلام لمساعدته في تقييم صلاحيته. يمكن أن يخفف الحفاظ على البشر في الحلقة بعض المشاكل الأكثر وضوحًا التي تظهر عندما يترك الذكاء الاصطناعي دون رقابة. كما يمكن أن يسرع من الوقت اللازم للذكاء الاصطناعي لاكتشاف أخطائه، وتحسين نفسه، وتصحيح نفسه في الوقت الفعلي.

يتمتع الذكاء الاصطناعي بالقدرات على تحسين حياة الناس، ولكن فقط إذا بناه البشر لينتج بشكل صحيح. نحن بحاجة إلى مساءلة هذه الأنظمة، ولكن أيضًا الأشخاص خلف الابتكار. من المتوقع أن يلتزم أنظمة الذكاء الاصطناعي في المستقبل بمبادئ وضعها الناس، وستكون لدينا نظام يثق به الناس فقط في ذلك الوقت. لقد حان الوقت لوضع الأسس والسعي نحو تلك المبادئ الآن، بينما لا يزال البشر يخدمون أنفسهم.