الاعتبارات الأخلاقية عند تطوير الذكاء الاصطناعي لتحليل المشاعر

الذكاء الاصطناعي لتنظيم المشاعر هو أحد أحدث التطورات التكنولوجية في مجال التعلم الآلي. على الرغم من أنه يظهر إمكانيات كبيرة، إلا أن القضايا الأخلاقية تهدد بتأثير معدل تبنيه ومدى استمراريته. هل يمكن لمطوري الذكاء الاصطناعي التغلب على هذه القضايا؟

ما هو تحليل المشاعر بالذكاء الاصطناعي؟

تحليل المشاعر بالذكاء الاصطناعي هو نوع من أنواع نماذج التعلم الآلي. غالباً ما يعتمد على تكنولوجيا الرؤية الحاسوبية التي تقوم بتصوير وتحليل التعبيرات الوجهية لفهم المزاج في الصور والفيديوهات. ومع ذلك، يمكنه أيضًا العمل على مقاطع صوتية لتحديد نبرة الصوت أو النص المكتوب لتقييم مشاعر اللغة.

يمثل هذا النوع من الخوارزمية تقدمًا مثيرًا في مجال الذكاء الاصطناعي، لأنه حتى الآن، لم تتمكن النماذج من فهم المشاعر الإنسانية. بينما يمكن للنماذج اللغوية الكبيرة مثل ChatGPT محاكاة المزاج والشخصيات بشكل مقنع، إلا أنها لا تستطيع الشعور بأي شيء ولا تظهر ذكاءً عاطفيًا.على الرغم من أن نموذج تحليل المشاعر لا يستطيع الشعور، إلا أنه يمكنه اكتشاف وتسجيل المشاعر. هذا التطور مهم لأنه يُشير إلى أن الذكاء الاصطناعي قد يكون قريبًا من الفهم الحقيقي وإظهار السعادة، الحزن أو الغضب.

استخدامات تحليل المشاعر بالذكاء الاصطناعي

يمكن للشركات، والمعلمين، والاستشاريين، وأخصائيي الرعاية الصحية النفسية استخدام الذكاء الاصطناعي لتحليل المشاعر.

تقييم المخاطر في المكتب

يمكن لفريق الموارد البشرية استخدام الخوارزميات لتحليل المشاعر في رسائل البريد الإلكتروني أو المحادثات داخل التطبيق بين أعضاء الفريق. بديلاً عن ذلك، يمكنهم دمج خوارزميتهم في نظام المراقبة أو نظام الرؤية الحاسوبية. يمكن للمستخدمين تتبع المزاج لحساب معايير مثل خطر الإقلاع، معدل الإرهاق، ورضا الموظف.

مساعدة وكلاء خدمة العملاء

يمكن للبائعين استخدام وكلاء خدمة العملاء الذكية داخل الشركة لمستخدمي النهاية أو المساعدين الافتراضيين لحل المواقف المليئة بالتوتر. منذ أن يمكن للنموذج التعرف على المزاج، يمكنه اقتراح تقنيات التهدئة أو تغيير نبرة الصوت عندما يدرك أن المستهلك يغضب. يمكن أن تحسن مثل هذه الإجراءات رضا العملاء وความ مخلصة.

مساعدة الطلاب في الفصل الدراسي

يمكن للمعلمين استخدام هذا الذكاء الاصطناعي لمنع المتعلمين عن البقاء خلف الركب. لقد استخدمت شركة واحدة بالفعل أداتها لقياس نقاط العضلات على وجوه الطلاب بينما تسجل سرعتها ودرجاتها. هذا الأسلوب يحدد مزاجهم، دوافعهم، نقاط قوتهم وpoints ضعفهم. يزعم مؤسس الشركة أنهم يصلون إلى درجات أعلى بنسبة 10٪ عند استخدام البرنامج.

إجراء بحوث السوق الداخلية

يمكن للشركات إجراء بحوث السوق الداخلية باستخدام نموذج تحليل المشاعر. يمكنه مساعدتهم على فهم كيف يتفاعل جمهورهم المستهدف مع منتجهم أو خدمتهم أو مواد التسويق، مما يمنحهم رؤى قيمة مدفوعة بالبيانات. وبالتالي، قد يسرعون من وقت الوصول إلى السوق ويزيدون من إيراداتهم.

المشكلة في استخدام الذكاء الاصطناعي لتحليل المشاعر

تشير الأبحاث إلى أن الدقة تعتمد بشكل كبير على المعلومات المستخدمة في التدريب. أثبتت مجموعة بحثية هذا المفهوم بشكل تجريبي عندما حقق نموذجها دقة بنسبة 92.05٪ في مجموعة بيانات التعبيرات الوجهية الأنثوية اليابانية ودقة بنسبة 98.13٪ في مجموعة بيانات كوهن-كانادي الممتدة.

على الرغم من أن الفرق بين 92٪ و98٪ قد يبدو غير مهم، إلا أنه يعتبر مهمًا — يمكن أن يكون لهذا الاختلاف الطفيف عواقب كبيرة. من أجل المرجع، ثبت أن معدل تلوث البيانات بنسبة 0.001٪ يمكن أن يكون فعالًا في إنشاء أبواب خلفية في النموذج أو إحداث سوء تصنيف متعمد.

علاوة على ذلك، على الرغم من أن الدراسات تظهر وعدًا — حيث تظهر معدلات الدقة فوق 90٪ إمكانيات — إلا أن الباحثين يُجرُونها في بيئات خاضعة للرقابة. في العالم الحقيقي، الصور الغامضة، التعبيرات الوجهية المزيفة، الزوايا السيئة، والمشاعر الدقيقة هي أكثر شيوعًا. بعبارة أخرى، قد لا يكون الذكاء الاصطناعي قادرًا على الأداء بشكل متسق.

الحالة الراهنة لتحليل المشاعر بالذكاء الاصطناعي

تحليل المشاعر الخوارزمي هو عملية استخدام خوارزمية لتحديد ما إذا كانت نبرة النص إيجابية أو محايدة أو سلبية. يمكن اعتبار هذه التكنولوجيا أساسًا لنمذج تحليل المشاعر الحديث، لأنها مهدت الطريق لتقدير المزاج الخوارزمي. ساهمت تكنولوجيا مماثلة مثل برامج التعرف على الوجه أيضًا في التقدم.

يمكن للخوارزميات الحديثة اكتشاف المزاج البسيط مثل السعادة، الحزن، الغضب، الخوف، والدهشة بدقة متغيرة. هذه التعبيرات الوجهية هي فطرية ومتفق عليها — بمعنى أنها طبيعية ومتفق عليها عالميًا — لذلك يُعتبر تدريب الذكاء الاصطناعي على التعرف عليها أمرًا نسبيًا.

علاوة على ذلك، غالبًا ما تكون التعبيرات الوجهية الأساسية مبالغًا فيها. ي