قادة الفكر

قابلية التفسير قد تحل مشكلة الذكاء الاصطناعي في كل صناعة: انعدام الشفافية

Miguel Jetté
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالذكاء الاصطناعي القابل للتفسير يبني ثقة المستهلك من خلال الكشف عن عمليات اتخاذ…
عرض المزيد
  • الذكاء الاصطناعي القابل للتفسير يبني ثقة المستهلك من خلال الكشف عن عمليات اتخاذ القرارات الخوارزمية.
  • تتطلب أنظمة التعرف التلقائي على الكلام الشفافية للتخفيف من التحيزات الناتجة عن اللهجات أو العمر أو الخلفية.
  • تمكن حلقات التغذية الراجعة ودرجات الثقة الذكاء الاصطناعي من التعلم من الأخطاء والتحسن.

بواسطة: ميجويل جيتي، نائب الرئيس لبحث وتطوير الكلام، Rev.

في مراحلها الأولى، كان من الممكن للذكاء الاصطناعي أن يعتمد على جديدته. كان من المقبول أن يتعلم التعلم الآلي ببطء ويحافظ على عملية غير شفافة حيث يصعب على المستهلك العادي فهم حسابات الذكاء الاصطناعي. ولكن هذا يتغير. مع بدء المزيد من الصناعات مثل الرعاية الصحية والتمويل ونظام العدالة الجنائية في استخدام الذكاء الاصطناعي بطرق يمكن أن يكون لها تأثير حقيقي على حياة الناس، يريد المزيد من الناس معرفة كيف يتم استخدام الخوارزميات، وكيف يتم الحصول على البيانات، وما مدى دقة قدراتها. إذا أرادت الشركات البقاء في طليعة الابتكار في أسواقها، فإنها تحتاج إلى الاعتماد على الذكاء الاصطناعي الذي سيثق به جمهورها. شرح الذكاء الاصطناعي هو المكون الرئيسي لتعزيز تلك العلاقة.

تختلف قابلية تفسير الذكاء الاصطناعي عن الإجراءات المعتادة للذكاء الاصطناعي لأنه يقدم للناس طريقة لفهم كيفية إنتاج خوارزميات التعلم الآلي للمخرجات. الذكاء الاصطناعي القابل للشرح هو نظام يمكنه تزويد الناس بالنتائج المحتملة وأوجه القصور. إنه نظام تعلم آلي يمكنه تحقيق الرغبة الإنسانية في العدالة والمساءلة والاحترام للخصوصية. شرح الذكاء الاصطناعي أمر ضروري للشركات لبناء الثقة مع المستهلكين.

مع توسع الذكاء الاصطناعي، يحتاج مزودو الذكاء الاصطناعي إلى فهم أن نهج الصندوق الأسود لا يمكن أن يستمر دون تغيير. يتم إنشاء نماذج الصندوق الأسود مباشرة من البيانات، وغالبًا ما لا يستطيع حتى المطور الذي أنشأ الخوارزمية تحديد ما دفع عادات التعلم الآلي. لكن المستهلك الواعي لا يريد التعامل مع شيء غير قابل للاختراق بحيث لا يمكن مساءلته. الناس يريدون معرفة كيف يصل خوارزمية الذكاء الاصطناعي إلى نتيجة محددة دون غموض الإدخال والمخرجات، خاصة عندما تكون أخطاء الذكاء الاصطناعي غالبًا ناتجة عن التحيز الآلي. مع تقدم الذكاء الاصطناعي، يريد الناس الوصول إلى عملية التعلم الآلي لفهم كيف وصلت الخوارزمية إلى نتيجتها المحددة. يجب على قادة كل صناعة أن يفهموا أن الناس سيتطلبون في النهاية هذا النوع من الشفافية لا يفضلونه.

نظم التعرف على الكلام مثل المساعدين الصوتيين وتكنولوجيا النسخ والخدمات الأخرى التي تحول الكلام البشري إلى نص متأثرة بشكل خاص بالتحيزات. عندما يتم استخدام الخدمة لأغراض أمنية، يمكن أن تكون الأخطاء بسبب اللهجات أو عمر الشخص أو خلفيته خطأً جسيمًا، لذلك يجب اعتبار المشكلة على محمل الجد. يمكن استخدام التعرف على الكلام بشكل فعال في الكاميرات التي يرتديها رجال الشرطة على أجسامهم، على سبيل المثال، لتسجيل التفاعلات وتحويلها تلقائيًا – مما يحافظ على سجل يمكن أن ينقذ الأرواح إذا تم نسخها بدقة. سيتطلب ممارسة الشرح أن لا يعتمد الذكاء الاصطناعي فقط على مجموعات البيانات المشتراة، بل يسعى إلى فهم خصائص الصوت الواردة التي قد تساهم في الأخطاء إذا وجدت. ما هو الملف الصوتي؟ هل هناك ضوضاء في الخلفية؟ هل المتكلم من دولة غير ناطقة بالإنجليزية أو من جيل يستخدم مفردات لم يتعلمها الذكاء الاصطناعي بعد؟ يجب على التعلم الآلي أن يكون استباقيًا في التعلم بشكل أسرع، ويمكن أن يبدأ بجمع البيانات التي يمكنها معالجة هذه المتغيرات.

تكون الحاجة واضحة، لكن المسار لتنفيذ هذه الطريقة لن يكون دائمًا له حل سهل. الجواب التقليدي للمشكلة هو إضافة المزيد من البيانات، ولكن حلًا أكثر تعقيدًا سيكون ضروريًا، خاصة عندما تكون مجموعات البيانات التي يستخدمها العديد من الشركات متحيزة بطبيعتها. هذا بسبب صعوبة تفسير قرار معين تم إصداره بواسطة الذكاء الاصطناعي، وذلك بسبب طبيعة تعقيد النماذج من النهاية إلى النهاية. ومع ذلك، يمكننا الآن، ويمكننا البدء بطرح سؤال كيف خسر الناس ثقتهم في الذكاء الاصطناعي في المقام الأول.

بلا شك، سوف يرتكب الذكاء الاصطناعي الأخطاء. تحتاج الشركات إلى بناء نماذج تدرك القصور المحتملة، وتحدد عندما وأين تحدث المشاكل، وتنشئ حلول مستمرة لتقوية نماذج الذكاء الاصطناعي:

  1. عندما يحدث شيء خاطئ، سوف يحتاج المطورون إلى شرح ما حدث و تطوير خطة فورية لتحسين النموذج لتقليل الأخطاء المماثلة في المستقبل.
  2. لكي يعرف الجهاز ما إذا كان صحيحًا أو خاطئًا، يحتاج العلماء إلى إنشاء حلقة تغذية راجعة حتى يتمكن الذكاء الاصطناعي من التعلم من قصوره وتطوير نفسه.
  3. طريقة أخرى لتعزيز الثقة بينما لا يزال الذكاء الاصطناعي يتطور هي إنشاء نظام يمكنه تقديم درجات ثقة، ويوفر أسبابًا لعدم ثقته. على سبيل المثال، تنتج الشركات عادةً درجات من 0 إلى 100 لتعكس قصور الذكاء الاصطناعي الخاص بهم، وتنشئ شفافية مع عملائها. في المستقبل، قد تقدم الأنظمة تفسيرات لاحقة لسبب صعوبة معالجة الصوت من خلال تقديم المزيد من البيانات الوصفية حول الصوت، مثل مستوى الضوضاء المتصورة أو لهجة أقل فهمًا.

سوف يؤدي المزيد من الشفافية إلى تحسين الرقابة البشرية على تدريب الذكاء الاصطناعي وأدائه. كلما كنا أكثر انفتاحًا حول ما نحتاج إلى تحسينه، كلما كنا أكثر مساءلة لاتخاذ إجراءات لتلك التحسينات. على سبيل المثال، قد يريد باحث معرفة لماذا تم إخراج نص خاطئ حتى يتمكن من التخفيف من المشكلة، بينما قد يريد كاتب النسخ دليلًا على لماذا أسيء تفسير الإدخال من قبل التعرف على الكلام لمساعدته في تقييم صلاحيته. يمكن أن يخفف الحفاظ على البشر في الحلقة بعض المشاكل الأكثر وضوحًا التي تظهر عندما يترك الذكاء الاصطناعي دون رقابة. كما يمكن أن يسرع من الوقت اللازم للذكاء الاصطناعي لاكتشاف أخطائه، وتحسين نفسه، وتصحيح نفسه في الوقت الفعلي.

يتمتع الذكاء الاصطناعي بالقدرات على تحسين حياة الناس، ولكن فقط إذا بناه البشر لينتج بشكل صحيح. نحن بحاجة إلى مساءلة هذه الأنظمة، ولكن أيضًا الأشخاص خلف الابتكار. من المتوقع أن يلتزم أنظمة الذكاء الاصطناعي في المستقبل بمبادئ وضعها الناس، وستكون لدينا نظام يثق به الناس فقط في ذلك الوقت. لقد حان الوقت لوضع الأسس والسعي نحو تلك المبادئ الآن، بينما لا يزال البشر يخدمون أنفسهم.

ميغيل جيت هو رئيس البحث والتطوير في مجال الذكاء الاصطناعي في Rev، منصة لتفريغ الكلام إلى نص التي تجمع بين الذكاء الاصطناعي والبشر المهرة. يقود الفريق المسؤول عن تطوير منصة الذكاء الاصطناعي الأكثر دقة لتفريغ الكلام إلى نص في العالم. وهو يعتز بحل المشكلات المعقدة مع تحسين الحياة، وهو ملتزم بتعزيز الشمول والمساواة من خلال التكنولوجيا. في أكثر من عقدين من الزمن عمل على تنفيذ تقنيات الصوت مع الشركات بما في ذلك Nuance Communications وVoiceBox. حصل على ماجستير في الرياضيات والإحصاء من جامعة ماكجيل في مونتريال. عندما لا يكون يطور التواصل من خلال الذكاء الاصطناعي، يقضي وقتَه كمصور لمنافسات تسلق الصخور.