مخاطر محادثات الذكاء الاصطناعي – وكيفية مواجهة المخاطر

كان يُعتقد في الماضي أن برامج المحادثة الآلية هي مجرد برامج محادثة آلية، ولكن الآن يمكن لمحادثات الذكاء الاصطناعي أن تتعلم وتحافظ على محادثات لا يمكن تمييزها من البشر. ومع ذلك، فإن مخاطر محادثات الذكاء الاصطناعي متنوعة.

تتراوح هذه المخاطر من الناس الذين يسيئون استخدامها إلى مخاطر أمنية حقيقية. مع زيادة الاعتماد على تكنولوجيا الذكاء الاصطناعي، من المهم معرفة العواقب المحتملة لاستخدام هذه البرامج. ولكن هل الروبوتات خطيرة؟

1. التحيز والتمييز

أحد أكبر مخاطر محادثات الذكاء الاصطناعي هو ميلها إلى التحيز الضار. لأن الذكاء الاصطناعي يرتبط بين نقاط البيانات التي يغفل عنها البشر، يمكنه اكتساب تحيزات ضمنية في بيانات التدريب لتعليم نفسه على التمييز. ونتيجة لذلك، يمكن لمحادثات الذكاء الاصطناعي أن تتعلم بسرعة لنطق محتوى عنصري أو تمييزي أو محتوى آخر من هذا القبيل، حتى لو لم يكن هناك شيء بهذا الحد في بيانات التدريب.

مثال رئيسي على ذلك هو روبوت التوظيف الذي ألغته أمازون. في عام 2018، أُعلن أن أمازون ألغت مشروع الذكاء الاصطناعي المخصص لتقييم سير ذاتية المتقدمين لأنها كانت تؤثر على طلبات النساء. لأن معظم سير ذاتية التدريب كانت لسير ذاتية رجال، علمت نفسها أن المتقدمين الذكور أفضل، حتى لو لم تكن بيانات التدريب تقول ذلك صراحة.

تعتمد محادثات الذكاء الاصطناعي التي تستخدم المحتوى على الإنترنت لتعليم نفسها كيفية التواصل بشكل طبيعي على التحيزات أكثر. في عام 2016، أطلقت مايكروسوفت روبوت محادثة اسمه تاي تعلمت لمحاكاة منشورات وسائل التواصل الاجتماعي. في غضون ساعات، بدأت في تغريد محتوى هجومي بشكل كبير، مما أدى إلى تعليق حسابها بعد فترة قصيرة.

إذا لم تكن الشركات حريصة عند بناء وتشغيل هذه الروبوتات، فقد تؤدي إلى مواقف مماثلة. يمكن لمحادثات الذكاء الاصطناعي أن تسيء معاملة العملاء أو تنشر محتوى متحيزًا ضارًا يفترض أنها تمنعه.

2. مخاطر الأمن السيبراني

يمكن أن تشكل مخاطر تكنولوجيا محادثات الذكاء الاصطناعي تهديدًا مباشرًا لأمن المعلومات للأفراد والشركات. واحدة من أكثر أشكال الهجمات السيبرانية شيوعًا هي عمليات الاحتيال والخداع. وتشمل هذه مهاجمي السيبرانية الذين يقلدون المنظمات الموثوقة مثل البنوك أو الهيئات الحكومية.

تتم عمليات الاحتيال عادةً عبر البريد الإلكتروني والرسائل القصيرة — بالنقر على الرابط، يسمح للمال웨어 بالدخول إلى نظام الكمبيوتر. بمجرد دخوله، يمكن للفيروس القيام بأي شيء من سرقة المعلومات الشخصية إلى احتجاز النظام مقابل فدية.

كانت معدلات عمليات الاحتيال في ازدياد مستمر خلال وبعد جائحة كوفيد-19. وجدت وكالة الأمن السيبراني والبنية التحتية أن 84٪ من الأفراد استجابوا لرسائل الاحتيال بمعلومات حساسة أو النقر على الرابط.

يستخدم مهاجمو الاحتيال تكنولوجيا محادثات الذكاء الاصطناعي لتحسين البحث التلقائي عن ضحايا، وإقناعهم بالنقر على الروابط وتقديم معلومات شخصية. تستخدم محادثات الذكاء الاصطناعي من قبل العديد من المؤسسات المالية — مثل البنوك — لتحسين تجربة خدمة العملاء.

يمكن لمحادثات الذكاء الاصطناعي لمهاجمي الاحتيال أن تقلد الإشارات الآلية التي تستخدمها البنوك لخداع الضحايا. كما يمكنهم الاتصال تلقائيًا بأرقام الهواتف أو الاتصال المباشر بالضحايا على منصات الدردشة التفاعلية.

3. تسميم البيانات

تسميم البيانات هو هجوم سيبراني جديد يستهدف بشكل مباشر الذكاء الاصطناعي. تتعلم تكنولوجيا الذكاء الاصطناعي من مجموعات البيانات وتستخدم هذه المعلومات لcompletion المهمات. هذا صحيح لجميع برامج الذكاء الاصطناعي، بغض النظر عن غرضها أو وظائفها.

对于 محادثات الذكاء الاصطناعي، هذا يعني تعلم العديد من الاستجابات للأسئلة المحتملة التي يمكن للمستخدمين تقديمها. ومع ذلك، هذا أيضًا واحد من مخاطر الذكاء الاصطناعي.

تكون مجموعات البيانات هذه غالبًا أدوات وموارد مفتوحة المصدر متاحة للجميع. على الرغم من أن شركات الذكاء الاصطناعي عادة ما تحتفظ بمصادر البيانات بشكل محمي، يمكن لمهاجمي السيبرانية تحديد المصادر التي يستخدمونها وتعديل البيانات.

يمكن لمهاجمي السيبرانية تعديل مجموعات البيانات المستخدمة لتدريب الذكاء الاصطناعي، مما يسمح لهم بتحريف قراراتها واستجاباتها. سوف يستخدم الذكاء الاصطناعي المعلومات من البيانات المعدلة وينفذ الأفعال التي يريد المهاجمون القيام بها.

على سبيل المثال، واحدة من أكثر المصادر الشائعة لمجموعات البيانات هي موارد ويكي مثل ويكيبيديا. على الرغم من أن البيانات لا تأتي من مقال ويكيبيديا المباشر، إلا أنها تأتي من لقطات من البيانات التaken في أوقات محددة. يمكن لمهاجمي السيبرانية العثور على طريقة لتعديل البيانات لصالحهم.

في حالة محادثات الذكاء الاصطناعي، يمكن لمهاجمي السيبرانية تلوث مجموعات البيانات المستخدمة لتدريب محادثات الذكاء الاصطناعي التي تعمل لمؤسسات طبية أو مالية. يمكنهم تعديل برامج محادثات الذكاء الاصطناعي لتقديم معلومات خاطئة للعملاء قد يؤدي إلى النقر على رابط يحتوي على برامج خبيثة أو موقع مخادع. بمجرد أن يبدأ الذكاء الاصطناعي في سحب البيانات الملوثة، من الصعب اكتشافها ويمكن أن تؤدي إلى انتهاك كبير للأمن السيبراني يظل دون ملاحظة لمدة طويلة.

كيفية مواجهة مخاطر محادثات الذكاء الاصطناعي

هذه المخاطر مثيرة للقلق، ولكنها لا تعني أن الروبوتات خطيرة بطبيعتها. بل يجب أن نتعامل معها بحذر ونأخذ هذه المخاطر في الاعتبار عند بناء واستخدام محادثات الذكاء الاصطناعي.

المفتاح لمنع التحيز في الذكاء الاصطناعي هو البحث عنه خلال التدريب. تأكد من تدريبها على مجموعات بيانات متنوعة وبرمجةها بشكل خاص لتجنب أخذ الأمور مثل العرق أو الجنس أو التوجه الجنسي في صنع القرار. من الأفضل أيضًا أن يكون لديك فريق متنوع من علماء البيانات لمراجعة آليات محادثات الذكاء الاصطناعي وتأكد من أنها لا تظهر أي تحيز، مهما كان خفيًا.

أفضل دفاع ضد عمليات الاحتيال هو التدريب. قم بتدريب جميع الموظفين على التعرف على العلامات الشائعة لعمليات الاحتيال بحيث لا يقعون في فخ هذه الهجمات. سيساعد أيضًا نشر الوعي بين المستهلكين حول هذه القضية.

يمكنك منع تسميم البيانات عن طريق تقييد الوصول إلى بيانات تدريب محادثات الذكاء الاصطناعي. يجب أن يكون فقط الأشخاص الذين يحتاجون إلى الوصول إلى هذه البيانات لاداء عملهم بشكل صحيح هم الذين لديهم الصلاحية — مفهوم يسمى مبدأ الصلاحية الأقل. بعد تنفيذ هذه القيود، استخدم تدابير التحقق القوية مثل التحقق بمتعددة العوامل أو البيومترية لمنع مخاطر اختراق مهاجمي السيبرانية لحساب مصرح به.

البقاء على حذر ضد مخاطر الاعتماد على الذكاء الاصطناعي

تكنولوجيا الذكاء الاصطناعي هي تكنولوجيا رائعة حقًا ذات تطبيقات لا حصر لها. ومع ذلك، قد تكون مخاطر الذكاء الاصطناعي غير واضحة. هل الروبوتات خطيرة؟ لا بطبيعتها، ولكن يمكن لمهاجمي السيبرانية استخدامها بطرق متخلفة. من على المستخدمين أن يقرروا ما هي تطبيقات هذه التكنولوجيا الجديدة.