التفاعل بين الآلة والإنسان: مشكلة “الميل الأخير” التي تعيق تقدم الذكاء الاصطناعي في الشركات

حتى وقت قريب جدا، كانت المحادثات في غرف المجالس حول الذكاء الاصطناعي تركز على النماذج نفسها. هل الناتج دقيق؟ كيف كانت بيانات التدريب نظيفة؟ كيف يمكننا تقليل الانحياز؟ هل يتم التحكم في الهلوسة؟ تلك الأسئلة لا تزال مهمة، بالطبع، ولكن الناتج لم يعد الشيء الوحيد الذي يهتم به المجلس والمساهمون. بدلاً من ذلك، أصبحوا مهتمين بشيء أكثر صعوبة في القياس – هل أنظمة الذكاء الاصطناعي تعمل فعلاً مع الناس بنفس الكفاءة التي يمكن أن تعمل بها في التفاعلات اليومية.

ذلك جزئياً原因 لما وجدت شركة آي بي إم نفسها最近 تواجه مقترح مساهم يطالب بزيادة الشفافية حول كيفية إدارة الانحياز والحوكمة في الذكاء الاصطناعي. ركز المقترح على تحديد الانحياز، ولكن الفكرة الأوسع كانت أن الذكاء الاصطناعي أصبح جزءاً من عمليات اتخاذ القرار، ويتحكم في المساءلة والنتائج التجارية بشكل أكبر.

ما أراه في محادثات مع الشركات هو أن قلة من الناس ما زالوا يتناقشون حول ما إذا كانت النماذج قادرة. معظم المنظمات تعرف بالفعل أن هذه الأنظمة يمكن أن تولد نتائج، وتأتمر عمليات العمل، وتظهر رؤى بسرعة غير عادية. السؤال الأصعب هو ما إذا كان ذلك ي cải thiện النتائج بشكل مستمر داخل الشركة. هل الموظفون يستخدمون هذه الأنظمة بطرق مفيدة؟ هل يثقون بالتوصيات التي يتلقونها؟ هل القرارات أصبحت أوضح وأسرع وأكثر اتساقاً؟ أو هل الشركات تنتج فقط المزيد من المحتوى، والمزيد من التحليل، والمزيد من الضوضاء دون تغيير في كيفية عمل الناس؟ الفراغ بين قدرة الذكاء الاصطناعي واعتماد الإنسان هو ما أسميه “الميل الأخير” للذكاء الاصطناعي في الشركات. यह هو المكان الذي تتقاطع فيه عائد الاستثمار، والثقة، والمساءلة، والاتساق التشغيلي، وهو المكان الذي ت开始 فيه العديد من التطبيقات في التوقف.

القدرة ليست الحاجز – السياق البشري هو

مقترح مساهم شركة آي بي إم نفسه ركز على الانحياز، وهو قلق متزايد في الصناعة. طالب القرار شركة آي بي إم بتقديم تقارير إضافية حول الطرق التي تستخدمها لتحديد وتخفيف الانحياز عبر نماذج الذكاء الاصطناعي، بما في ذلك المخاطر المحتملة المرتبطة بهذه الجهود. وافقت شركة آي بي إم، مشيرة إلى أن معظم هذه المعلومات كانت بالفعل متاحة للجمهور من خلال بطاقات النماذج، ووثائق الحوكمة، وتقارير الشفافية، والتقارير المقدمة إلى مؤسسة ستانفورد للشفافية في النماذج. واعترف معظم المراقبين أن شركة آي بي إم قد فعلت أكثر من العديد من البائعين لتحقيق ممارسات الذكاء الاصطناعي المسئولة، في حين الاعتراف بأن الحوكمة والانحياز لا يزالان تحديات غير محلولة على مستوى الصناعة.

ما يثير اهتمامي ليس ما إذا كان رد شركة آي بي إم صحيحاً أو خاطئاً. إنه ما يقوله هذا الوضع كله عن اتجاه محادثات الذكاء الاصطناعي في الشركات. المجالس قد انتقلت بشكل كبير إلى مرحلة جديدة من تقييم الذكاء الاصطناعي تركز على جودة القرار، والimpact التشغيلي، وثقة الموظفين، واعتماد طويل الأمد داخل الشركة.

هذا هو المكان الذي يؤديني إليه منظور العلوم العصبية إلى استنتاج مختلف عن معظم محادثات الذكاء الاصطناعي في الشركات. البشر ليسوا آلات منطقية لل输入-الخرج. ننظر إلى القرارات بذاكرة محدودة، وثقة متقلبة، واهتمام زائد، ونية متغيرة باستمرار. عندما تشعر التفاعلات بالبطء، أو عندما تفتقد الاستجابات المسبقة إلى ما كنا نعتزم فعله، أو عندما يجب على الناس محاربة النظام للحصول على شيء مفيد، ينهار الالتزام قبل أن تدرك معايير اعتماد طويلة الأمد ذلك. rủiك الهلوسة، والاتساق، والانحياز يزيد فقط من مشكلة الاحتكاك داخل عمليات العمل التي تمت صياغتها في الأصل لتحسين الإنتاجية وصنع القرار. هذا “الميل الأخير” هو ما تقلل الشركات منه بشكل شائع: القيمة لا تُنشأ عندما يولد نموذج إجابة، ولكن عندما يقدم الإجابة الصحيحة في الوقت الصحيح، ويمكن للموظفين الوثوق بها بما يكفي للعمل على ما ينتجه.

لماذا نتجاهل “البشر في الحلقة” الحقيقي – المستخدم؟

لقد سمعنا مؤخراً الكثير عن “البشر في الحلقة” وأهمية وجود إنسان لتحديد خروج الذكاء الاصطناعي. ولكن ماذا لو كان المستخدم الحقيقي – المستخدم – لا يفهم بشكل صحيح؟ التفاعل بين البشر هو معقد ومتعدد الأوجه، ولكن السبب في أن الاتصال المباشر يعمل جيداً هو أن لا يفقد أي دقة. إذا تردد شخص ما، أو خسر الثقة، أو أصبح محبطة أو مشوشاً، أو تغيرت نيته، فإن ذلك يمر خلال التفاعل ويتغير الحوار وفقاً لذلك. معظم أنظمة الذكاء الاصطناعي لا تزال تعاني من التعرف على هذه الإشارات لأنها أكثر أو أقل “على السكة” في أنすべて ما تستجيب إليه هو آخر سؤال من المستخدم.

في رأيي، هذا يصبح أحد التحديات الحاسمة لتطبيقات الذكاء الاصطناعي في الشركات. بنينا أنظمة استثنائية في توليد المعلومات، في حين أنها لا تزال محدودة في khảية التعرف على ما إذا كانت تلك المعلومات تساعد شخصاً على اتخاذ قرارات أفضل.

يمكن لمنظمة أن تploy أدوات الذكاء الاصطناعي لآلاف الموظفين ولا تزال تفشل في تحقيق التوجيه المعني في كيفية استخدام هذه الأنظمة. الإطارات مثل إطار إدارة مخاطر الذكاء الاصطناعي من NIST، و ISO/IEC 42001، و قانون الذكاء الاصطناعي في الاتحاد الأوروبي يدفعون المنظمات نحو نضج الحوكمة والمساءلة التشغيلية. لكن الحوكمة على الورق فقط تذهب إلى حد معين إذا ظل التفاعل الموظف مع الذكاء الاصطناعي متجزئاً. إذا كانت الفرق المختلفة تثق وتستخدم الذكاء الاصطناعي بطرق مختلفة تماماً، يصبح قياس عائد الاستثمار بشكل مستمر شبه مستحيل، وهذا مشكلة لا يمكن حلها بكمية التوجيه.

تكلفة إفراط الذكاء الاصطناعي

نحن الآن ندخل مرحلة حيث يصبح الذكاء الاصطناعي كاملاً في عمليات العمل. هناك مساعدون متأصّلون في حزمة الإنتاجية، وملخصات اجتماعات الذكاء الاصطناعي تصل بعد كل مكالمة، ولوحات تظهر رؤى تنبؤية في الوقت الفعلي، ومحركات توصية تغذي الموظفين بمقترحات دائمة، وتحليل آلي يظهر أسرع مما يمكن للفرق أن تعمله بشكل واقعي. على الورق، يبدو هذا وكأنه تقدم – الشركات تنتج أكثر من المعلومات من أي وقت مضى. لكن العلوم المعرفية أوضحت هذا لعدة عقود: المزيد من المعلومات لا ينتج تلقائياً قرارات أفضل.

يمكن للأشخاص امتصاص فقط كمية معينة من المعلومات قبل أن يبدأ العبء الزائد في الظهور. التوصيات الكثيرة تؤدي إلى التردد. التنبيهات الكثيرة تصبح ضوضاء الخلفية. خيارات الذكاء الاصطناعي الكثيرة يمكن أن تترك الموظفين يشككون بدلاً من التصرف بثقة. ما يثير اهتمامي هو أن أنظمة الذكاء الاصطناعي أصبحت استثنائية في إنتاج المعلومات، في حين أنها لا تزال متواضعة في فهم كيفية استقبال البشر لتلك المعلومات وinterpretها في السياق. المجالس لا تهتم أخيراً بكيفية إنتاج النماذج لملخصات، أو توصيات، أو رؤى محددة. تهتم بتحديد ما إذا كانت القرارات أصبحت أوضح وأكثر موثوقية عبر الشركة.

دخل الذكاء الاصطناعي مرحلة المساءلة

مقترح مساهم شركة آي بي إم قد جاء من مخاوف حول الانحياز، ولكنني أعتقد أنه يعكس شيء أوسع يحدث في جميع أنحاء الذكاء الاصطناعي في الشركات. انتهى روعة الذكاء الاصطناعي، والشركات التي تبحث عن عائد صلب على استثماراتها في الذكاء الاصطناعي لا يمكنها artık النظر إلى قدرة النموذج وحدها. لقد أثبتت التكنولوجيا نفسها، ولكنها تحتاج الآن إلى درجة من المساءلة. هل الموظفون يستخدمون هذه الأنظمة بانتظام؟ هل القرارات تتحسن؟ هل الثقة والالتزام تزدادان بمرور الوقت، أو تتناقصان تدريجياً؟ عندما يصبح الذكاء الاصطناعي أكثر اندماجاً في عمليات العمل اليومية، قد تحتاج الجيل التالي من الأنظمة إلى أن يصبح أكثر دراية بسلوك الإنسان، والانتباه، والثقة، والنية إذا أرادت الشركات الحفاظ على التبني والعودة على الاستثمار. حتى ذلك الحين، سوف يبقى “الميل الأخير” واحداً من أكبر التحديات في تبني الذكاء الاصطناعي في الشركات.