شركات ابداعية تطور أدوات ذكاء اصطناعي لاكتشاف المضايقات عبر البريد الإلكتروني

منذ أن أصبحت حركة مي توو بارزة في أواخر عام 2017، أصبح هناك اهتمام متزايد بالحوادث المتعلقة بالمضايقات الجنسية، بما في ذلك المضايقات في مكان العمل والمضايقات عبر البريد الإلكتروني أو الرسائل الفورية.

كما ذكرها الجارديان، فقد قام باحثو الذكاء الاصطناعي والمهندسون بإنشاء أدوات لاكتشاف المضايقات عبر وسائل الاتصالات النصية، والتي أطلقوا عليها اسم مي توو بوتس. يتم تنفيذ مي توو بوتس من قبل الشركات في جميع أنحاء العالم من أجل وضع علامات على الاتصالات المحتملة التي قد تكون ضارة أو مضايقة. واحد من الأمثلة على ذلك هو بوت تم إنشاؤه من قبل شركة نيكس إيه آي، والذي يتم استخدامه حاليًا من قبل حوالي 50 شركة مختلفة. يستخدم البوت خوارزمية تحليل الوثائق الخاصة بالشركة والمراسلات والبريد الإلكتروني وقارنتها مع بيانات التدريب الخاصة بالرسائل المضايقة أو البلاغة. يمكن إرسال الرسائل التي يُعتبرها محتملة المضايقة أو الضرر إلى مدير الموارد البشرية لاستعراضها، على الرغم من أن نيكس إيه آي لم تكشف عن الشروط المحددة التي يبحث عنها البوت عبر المراسلات التي يفحصها.

أضاف بعض الشركات الناشئة الأخرى أدوات اكتشاف مضايقات مدعومة بالذكاء الاصطناعي. تمتلك شركة سبوت بوت شات يمكنه تمكين الموظفين من الإبلاغ بشكل مجهول عن اتهامات بالمضايقات الجنسية. سيسأل البوت أسئلة ويعطي نصائح من أجل جمع المزيد من التفاصيل وتحقيق المزيد في الحادث. تريد سبوت مساعدة فرق الموارد البشرية في التعامل مع قضايا المضايقات بطريقة حساسة مع الحفاظ على السرية.

وفقًا للجارديان، أوضح البروفيسور بريان سوبيرانا، أستاذ الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا وكلية هارفارد للقانون، أن محاولات استخدام الذكاء الاصطناعي لاكتشاف المضايقات لها قيودها. يمكن أن تكون المضايقات خفية وصعبة في الكشف، وغالبًا ما تظهر فقط كنمط يظهر عند فحص أسابيع من البيانات. لا يمكن للبوتات، حتى الآن، أن تتجاوز الكشف عن كلمات محددة وتحليل الديناميات العلاقية أو الثقافية الأوسع التي قد تكون في اللعب. على الرغم من تعقيدات اكتشاف المضايقات، يعتقد سوبيرانا أن البوتات يمكن أن تلعب دورًا في مكافحة المضايقات عبر الإنترنت. يمكن أن يرى البوتات تستخدم لتدريب الناس على اكتشاف المضايقات عند رؤيتهم، وإنشاء قاعدة بيانات للرسائل المحتملة التي قد تكون مشكلة. كما أشار سوبيرانا إلى أن هناك تأثيرًا وهميًا قد يجعل الناس أقل احتمالًا للمضايقة من زملائهم حتى لو اشتبهوا في أن رسائلهم قد يتم فحصها، حتى لو لم يكن كذلك.

على الرغم من أن سوبيرانا يعتقد أن البوتات لها استخدامات محتملة في مكافحة المضايقات، يجادل أيضًا بأن سرية البيانات والخصوصية هي قضية كبيرة. يصرح سوبيرانا بأن مثل هذه التكنولوجيا يمكن أن تخلق جوًا من الشك والخوف إذا استخدمت بشكل خاطئ. كما أعربت سام سميثرز، المدير التنفيذي لمنظمة حقوق المرأة فاوسيت سوسايتي، عن قلقها بشأن كيفية استخدام البوتات. قالت سميثرز:

“نريد أن ننظر بعناية إلى كيفية تطوير التكنولوجيا، ومن هو وراءها، وما إذا كان النهج المتبع مدفوعًا بثقافة مكان العمل التي تسعى إلى منع المضايقات وتعزيز المساواة، أو إذا كان مجرد طريقة أخرى للسيطرة على الموظفين”.

سيتم وضع أساليب لاستخدام البوتات لاكتشاف المضايقات مع الحفاظ على السرية والخصوصية بين مطورو البوتات والشركات والمنظمين. بعض الطرق الممكنة لاستخدام قوة التنبؤ للبوتات والذكاء الاصطناعي مع الحفاظ على الخصوصية تشمل الحفاظ على المراسلات بشكل مجهول. على سبيل المثال، يمكن أن تتم إنتاج تقارير من البوت التي تتضمن فقط وجود لغة محتملة الضار وعددها من المرات التي تظهر فيها اللغة المحتملة المضايقة. يمكن أن يحصل فريق الموارد البشرية على فكرة إذا كانت استخدامات لغة السامية تقل بعد ندوات التوعية، أو إذا كان يجب أن يكونوا على حذر من زيادة المضايقات.

على الرغم من الخلاف حول الاستخدامات المناسبة للخوارزميات والبوتات في اكتشاف المضايقات، يبدو أن الجانبين يتفقان على أن القرار النهائي للتدخل في حالات المضايقات يجب أن يكون من قبل الإنسان، وأن البوتات يجب أن تحذر الناس فقط من الأنماط المطابقة بدلاً من القول بشكل قاطع إن شيء ما كان حالة من المضايقة.