نقص الثقة في الذكاء الاصطناعي يمكن أن يعوق الابتكار والقيمة التجارية

أظهر استطلاع حديث بين قادة الأعمال العالميين أن الذكاء الاصطناعي الموثوق به هو أولوية رئيسية، ومع ذلك، فإن العديد منهم لا يتخذون خطوات كافية لتحقيقه، ولكن بأي ثمن؟

في الواقع، كشفت استطلاع IBM أن 85% من المستجيبين يعتقدون أن المستهلكين أكثر احتمالاً لل选择 شركة شفافة حول كيفية بناء نماذج الذكاء الاصطناعي وإدارتها واستخدامها.

然而، اعترف الغالبية بأنهم لم يتخذوا خطوات رئيسية لضمان موثوقية الذكاء الاصطناعي ومسؤوليته، مثل تقليل التحيز (74%) ومراقبة تباين الأداء وانحراف النموذج (68%) وضمان القدرة على تفسير القرارات المدعومة بالذكاء الاصطناعي (61%). هذا أمر مخيف، خاصة عند النظر في استخدام الذكاء الاصطناعي الذي يزداد باستمرار – حيث قال 35% إنهم يستخدمون الآن الذكاء الاصطناعي في أعمالهم، بزيادة عن 31% من العام الماضي.

حضرت مؤخراً قمة الابتكار الشركي الحصري في تورونتو حيث تبادل الحضور الأفكار المبتكرة وعرض التكنولوجيا التي من المحتمل أن تؤثر على المستقبل. لقد كان لي شرف المشاركة في ثلاث جلسات مستديرة في قطاعات الخدمات المالية والتأمين والبيع بالتجزئة مع ثلاثة مجالات رئيسية ظهرت: الحاجة إلى مزيد من الشفافية لتعزيز الثقة في الذكاء الاصطناعي، ودمقرطة الذكاء الاصطناعي من خلال التطبيقات منخفضة الرمز / بدون رمز، وتطوير لتسريع وقت القيمة ومعالجة المخاطر من خلال أفضل الممارسات للحوكمة التنظيمية للذكاء الاصطناعي.

زيادة الثقة في تقنيات الذكاء الاصطناعي. تعزز جائحة كوفيد-19 وتسريع الاتجاه نحو تبني بوتات الدعم الفني الافتراضي ومساعدي المالية الافتراضية وتسجيل العملاء بدون لمس. سيستمر هذا الاتجاه كما هو مذكور في البحث الذي أجراه كابجيمييني الذي يظهر أن 78% من المستهلكين يخططون لزيادة استخدام تقنيات الذكاء الاصطناعي، بما في ذلك إدارة الهوية الرقمية في تفاعلاتهم مع الشركات المالية.

尽管 هناك فوائد متأصلة، إلا أن هناك العديد من التحديات. وأهمها استمرار عدم ثقة المستهلك في تقنيات الذكاء الاصطناعي وكيف يؤثر طابعها الشامل على حقوقهم الخاصة والأمن. قال 30% من المستهلكين إنهم سيكونون أكثر راحة في مشاركة معلوماتهم البيومترية إذا قدمت شركات الخدمات المالية المزيد من الشفافية في شرح كيفية جمع معلوماتهم وإدارتها وأمانها.

يجب على مسؤولي تقنية المعلومات أن يعتمدوا مبادئ الذكاء الاصطناعي الموثوق به وينشئون إجراءات صارمة لحماية حقوق الخصوصية والأمن. يمكنهم تحقيق ذلك من خلال التشفير وتقليل البيانات والتحقق الآمن، بما في ذلك النظر في معايير الهوية الرقمية اللامركزية الناشئة . ونتيجة لذلك، ست看到 جهودك في أتمتة العمليات الذكية وخدماتك الذاتية أكثر قبولاً وتحتاج إلى تدخل بشري أقل.

إزالة الحواجز أمام ديمقراطية الذكاء الاصطناعي. هناك تحول متزايد نحو تطبيقات الذكاء الاصطناعي منخفضة الرمز / بدون رمز، والتي تتنبأ الأبحاث بأنها ستصل إلى 45.5 مليار دولار أمريكي بحلول عام 2025. المحرك الرئيسي هو وقت القيمة الأسرع مع تحسين إنتاجية تطوير التطبيقات بمرة 10.

على سبيل المثال، يعتبر 56% من الشركات المالية أن جمع البيانات من المقترضين أحد أكثر الخطوات تحدياً وعدم كفاءة في عملية تقديم القرض، مما يؤدي إلى معدلات إهمال عالية. في حين أن تقنيات تحديد الهوية البيومترية وتجميع البيانات المدعومة بالذكاء الاصطناعي تثبت تحسين الكفاءة في عملية تقديم القرض، قد تؤدي أيضاً إلى مخاطر الامتثال خاصةً، الخصوصية والسرية والتحيز في الخوارزمية.

لمعالجة وتخفيف هذه المخاطر، يجب أن تتضمن التطبيقات منخفضة الرمز / بدون رمز اختبارات شاملة لضمان أدائها وفقاً لأهداف التصميم الأولية، وإزالة التحيز المحتمل في مجموعة بيانات التدريب التي قد تشمل تحيز العينة وتحيز التسمية وأمانها من هجمات الذكاء الاصطناعي المعادية التي يمكن أن تؤثر سلباً على نتائج الخوارزمية. ينبغي النظر في مبادئ العلوم البيانية المسؤولة من حيث العدالة والدقة والسرية والأمان.

تطوير إطار حوكمة وتنظيمي للذكاء الاصطناعي. حوكمة الذكاء الاصطناعي لم تعد مبادرة جيدة، بل أمر ضروري. وفقاً لمتابع السياسات الوطنية للذكاء الاصطناعي التابع لمنظمة التعاون الاقتصادي والتنمية، هناك أكثر من 700 مبادرة تنظيمية للذكاء الاصطناعي قيد التطوير في أكثر من 60 دولة. ومع ذلك، هناك أكواد سلوك طوعية ومبادئ أخلاقية للذكاء الاصطناعي تم تطويرها من قبل منظمات المعايير الدولية مثل معهد مهندسي الكهرباء والإلكترونيات (IEEE) و المعهد الوطني للمعايير والتكنولوجيا (NIST).

تتمثل المخاوف من قبل المنظمات حول افتراض أن لوائح الذكاء الاصطناعي ستفرض المزيد من التزامات الامتثال الصارمة عليهم، مدعومة بآليات إنفاذ قاسية، بما في ذلك عقوبات للعدم المطابق. ومع ذلك، فإن لوائح الذكاء الاصطناعي أمر لا مفر منه.

تتخذ أوروبا وأمريكا الشمالية مواقف استباقية ستتطلب من مسؤولي تقنية المعلومات التعاون مع نظرائهم التكنولوجيين والأعمال لتكوين سياسات فعالة. على سبيل المثال، اقترحت اللجنة الأوروبية قانون الذكاء الاصطناعي لفرض التزامات قائمة على المخاطر على مقدمي الذكاء الاصطناعي لحماية حقوق المستهلك، وفي الوقت نفسه تعزيز الابتكار والفرص الاقتصادية المرتبطة بتكنولوجيا الذكاء الاصطناعي.

بالإضافة إلى ذلك، في يونيو 2022، أصدرت الحكومة الفيدرالية الكندية مشروع قانون تنفيذ الميثاق الرقمي الذي يحمي من الآثار السلبية لأنظمة الذكاء الاصطناعي عالية المخاطر. كما تقدم الولايات المتحدة بمبادرات تنظيمية للذكاء الاصطناعي، على أساس قطاعي. و لجنة التجارة الفيدرالية (FTC) و مجلس الاحتياطي الفيدرالي جميعهم يفرضون عضلاتهم التنظيمية من خلال آليات إنفاذها لحماية المستهلكين من الآثار السلبية الناجمة عن زيادة تطبيقات الذكاء الاصطناعي التي قد تؤدي إلى نتائج تمييزية، ولو دون قصد. إطار تنظيمي للذكاء الاصطناعي ضروري لأي شركة مبتكرة.

تحقيق الذكاء الاصطناعي الموثوق به يتطلب رؤى مدفوعة بالبيانات

لا يمكن تحقيق تنفيذ الذكاء الاصطناعي الموثوق به بدون نهج مدفوع بالبيانات لتحديد أين يمكن لتطبيقات تقنيات الذكاء الاصطناعي أن يكون لها أكبر تأثير قبل المضي قدماً في التنفيذ. هل هو لتحسين المشاركة مع العملاء، أو لتحقيق كفاءات تشغيلية أو لتخفيف مخاطر الامتثال؟

كل من هذه المحركات التجارية يتطلب فهمًا لكيفية تنفيذ العمليات وكيفية التعامل مع الإسكات والاستثناءات وتحديد التباين في طرق تنفيذ العمليات وموانعها وأسبابها. بناءً على هذا التحليل المدفوع بالبيانات، يمكن للمنظمات اتخاذ قرارات تجارية مدروسة حول التأثير والنتائج المرتبطة بتنفيذ حلول مدعومة بالذكاء الاصطناعي لتقليل الاحتكاك عند تسجيل العميل وتحسين الكفاءات التشغيلية. بمجرد أن تحصل المنظمات علىประโยชน من الرؤى المدفوعة بالبيانات، يمكنهم بعد ذلك أتمتة العمليات شديدة التكلفة مثل متطلبات الامتثال للذكاء الاصطناعي ومراجعة الامتثال و KYC وAML في الخدمات المالية.

النقطة الرئيسية هي أن جزءاً لا يتجزأ من أتمتة العمليات المدعومة بالذكاء الاصطناعي هو تنفيذ ممارسات الذكاء الاصطناعي الموثوق به. يجب ألا يتم النظر في الاستخدام الأخلاقي للذكاء الاصطناعي فقط كالتزام قانوني وأخلاقي، بل كأمر ضروري تجاري. من المعقول أن تكون شفافًا في تطبيق الذكاء الاصطناعي. إنه يؤدي إلى الثقة وينمّي ولاء العلامة التجارية.