معهد AI Now يحذر من إساءة استخدام برنامج الكشف عن العواطف وغيرها من القضايا الأخلاقية

أصدر معهد AI Now تقريرًا يحث المشرعين والهيئات التنظيمية الأخرى على وضع حدود صارمة لاستخدام تكنولوجيا الكشف عن العواطف ، وحظره في الحالات التي قد يتم استخدامها لاتخاذ قرارات مهمة مثل توظيف الموظفين أو قبول الطلاب. بالإضافة إلى ذلك ، 含ى التقرير عددًا من الاقتراحات الأخرى المتعلقة بموضوعات مختلفة في مجال الذكاء الاصطناعي.

معهد AI Now هو معهد أبحاث يقع في جامعة نيويورك ، ويمتلك مهمة دراسة تأثير الذكاء الاصطناعي على المجتمع. يصدر معهد AI Now تقريرًا سنويًا يُظهر نتائجه المتعلقة بحالة أبحاث الذكاء الاصطناعي والآثار الأخلاقية لاستخدام الذكاء الاصطناعي حاليًا. كما ذكرت بي بي سي ، فقد تناول التقرير هذا العام مواضيع مثل التمييز الخوارزمي ، وعدم وجود تنوع في أبحاث الذكاء الاصطناعي ، ومسائل العمل.

التعرف على العواطف ، وهو المصطلح الفني للخوارزميات التي تكتشف العواطف ، هو مجال سريع النمو في أبحاث الذكاء الاصطناعي. يُدعي أولئك الذين يستخدمون التكنولوجيا لاتخاذ قرارات أن الأنظمة يمكن أن تستخلص معلومات موثوقة حول حالات الناس العاطفية من خلال تحليل التعبيرات الدقيقة ، بالإضافة إلى إشارات أخرى مثل نبرة الصوت ولغة الجسد. يشير معهد AI Now إلى أن التكنولوجيا يتم استخدامها عبر مجموعة واسعة من التطبيقات ، مثل تحديد من يجب توظيفه ، وضبط أسعار التأمين ، ومراقبة ما إذا كان الطلاب ي chú ý في الفصل.

أوضح الأستاذ كيت كروفورد ، المؤسس المشارك لمعهد AI Now ، أن الناس يعتقدون غالبًا أن العواطف البشرية يمكن التنبؤ بها بدقة باستخدام نماذج بسيطة. قال كروفورد إن بعض الشركات تقوم ببناء برامجها على عمل بول إيكمان ، وهو عالم نفس قام بفرض فرضية أن هناك ستة أنواع أساسية من العواطف تسجل على الوجه. ومع ذلك ، يشير كروفورد إلى أن الدراسات التي أجريت منذ تقديم نظرية إيكمان أظهرت أن هناك تباينًا أكبر في التعبيرات الوجهية وأن التعبيرات يمكن أن تتغير بسهولة عبر المواقف والثقافات.

قال كروفورد لبي بي سي “في الوقت نفسه الذي يتم نشر هذه التكنولوجيا ، هناك العديد من الدراسات التي تظهر أنه لا يوجد دليل ملموس على أن الناس لديهم علاقة متسقة بين العاطفة التي يشعرون بها وطريقة مظهر وجههم”.

لهذا السبب ، يجادل معهد AI Now بأن الكثير من التعرف على العواطف يعتمد على نظريات غير موثوقة وعلوم مشكوك فيها. وبالتالي ، لا ينبغي نشر أنظمة الكشف عن العواطف حتى يتم إجراء المزيد من الأبحاث ، وينبغي للحكومات “تحديدًا حظر استخدام التعرف على العواطف في عمليات اتخاذ القرارات عالية المخاطر”. جادل معهد AI Now بأننا يجب أن نوقف بشكل خاص استخدام التكنولوجيا في “السياقات الاجتماعية والسياسية الحساسة” ، والتي تشمل التوظيف والتعليم والشرطة.

على الأقل شركة واحدة لتنمية الذكاء الاصطناعي التي تختص في التعرف على العواطف ، Emteq ، وافقت على أن هناك حاجة إلى لوائح تمنع إساءة استخدام التكنولوجيا. أوضح مؤسس Emteq ، تشارلز ندوكا ، لبي بي سي bahwa أنظمة الذكاء الاصطناعي يمكنها التعرف بدقة على التعبيرات الوجهية المختلفة ، ولكن لا يوجد خريطة بسيطة من التعبير إلى العاطفة. أعرب ندوكا عن قلق بشأن أن اللوائح قد تذهب بعيدًا وتثبط البحث ، مشيرًا إلى أنه إذا “تم حظر الأشياء ، فمن المهم جدًا أن الناس لا يلقون بالطفل مع الماء”.

كما ذكرت NextWeb ، أوصى معهد AI Now أيضًا بعدد من السياسات والقواعد التي يجب أن توجه صناعة الذكاء الاصطناعي في المستقبل.

شدد معهد AI Now على الحاجة إلى جعل أماكن العمل أكثر تنوعًا في صناعة الذكاء الاصطناعي ، وأشار إلى أن العمال يجب أن يكونوا مخولين بالحق في التعبير عن مخاوفهم بشأن الذكاء الاصطناعي الغازية والاستغلالية. يجب أن يكون لموظفي التكنولوجيا الحق في معرفة ما إذا كانت جهودهم تستخدم لإنشاء أعمال ضارة أو غير أخلاقية.

كما أوصى معهد AI Now بأن يتخذ المشرعون خطوات لتحديد موافقة مستنيرة لاستخدام أي بيانات مشتقة من الذكاء الاصطناعي المتعلق بالصحة. بالإضافة إلى ذلك ، أوصى بضرورة أخذ خصوصية البيانات على محمل الجد أكثر ، و rằng الدول يجب أن تعمل على تصميم قوانين الخصوصية للبيانات البيومترية التي تغطي كلاً من الكيانات الخاصة وال عامة.

أخيرًا ، أوصى المعهد بأن تبدأ صناعة الذكاء الاصطناعي في التفكير والعمل بشكل أكثر عالمية ، محاولة للتصدي للآثار السياسية والاجتماعية والبيئية الأكبر للذكاء الاصطناعي. أوصى بضرورة بذل جهد كبير لتحديد تأثير الذكاء الاصطناعي فيما يتعلق بالتجريد الجغرافي والمناخ ، و أن الحكومات يجب أن تجعل تأثير المناخ على صناعة الذكاء الاصطناعي متاحًا علنًا.