باحثون يعتقدون أن الذكاء الاصطناعي يمكن استخدامه للمساعدة في حماية خصوصية الأشخاص

نشر两个 أستاذين في علوم المعلومات مؤخرًا مقالة في مجلة المحادثة ، بحجة أن الذكاء الاصطناعي يمكن أن يساعد في الحفاظ على خصوصية الأشخاص ، وتصحيح بعض القضايا التي أنشأها.

يجادل Zhiyuan Chen و Aryya Gangopadhyay بأن خوارزميات الذكاء الاصطناعي يمكن استخدامها للدفاع عن خصوصية الأشخاص ، مما يعارض بعض القضايا المتعلقة بالخصوصية التي أنشأتها استخدامات أخرى للذكاء الاصطناعي. يعترف Chen و Gangopadhyay بأن العديد من المنتجات التي نستخدمها للراحة لا تعمل بدون الوصول إلى كميات كبيرة من البيانات ، والتي تبدو في البداية متعارضة مع محاولات الحفاظ على الخصوصية. بالإضافة إلى ذلك ، مع انتشار الذكاء الاصطناعي في المزيد والمزيد من الصناعات والتطبيقات ، سيتم جمع المزيد من البيانات وتخزينها في قواعد البيانات ، مما يجعل اختراقات تلك القواعد Datenbase مغرية. ومع ذلك ، يعتقد Chen و Gangopadhyay أنه عندما يستخدم بشكل صحيح ، يمكن للذكاء الاصطناعي المساعدة في تخفيف هذه القضايا.

يشرح Chen و Gangopadhyay في منشورهم أن مخاطر الخصوصية المرتبطة بالذكاء الاصطناعي تأتي من مصدرين على الأقل. المصدر الأول هو مجموعات البيانات الكبيرة التي جمعت لتدريب نماذج الشبكات العصبية ، في حين أن التهديد الثاني للخصوصية هو النماذج نفسها. يمكن أن “تتسرب” البيانات من هذه النماذج ، حيث يمكن أن تكشف سلوك النماذج عن تفاصيل حول البيانات المستخدمة في تدريبها.

تتكون الشبكات العصبية العميقة من طبقات متعددة من الخلايا العصبية ، مع اتصال كل طبقة بالطبقات المحيطة بها. تقوم الخلايا العصبية الفردية ، بالإضافة إلى الروابط بين الخلايا العصبية ، بتشفير مختلف البتات من بيانات التدريب. قد يثبت أن النموذج جيد جدًا في تذكر أنماط بيانات التدريب ، حتى لو لم يكن النموذج يعتمد على البيانات الموجودة. توجد آثار بيانات التدريب داخل الشبكة ، ويمكن لممثلي المخاطر أن يكتشفوا جوانب من بيانات التدريب ، كما وجدت جامعة كورنيل خلال أحد الدراسات.

يمكن أن تستغل خوارزميات التعرف على الوجوه من قبل المهاجمين ليكشفوا عن الصور ، وبالتالي الأشخاص ، الذين تم تدريبهم على نموذج التعرف على الوجه. وجد باحثو كورنيل أن حتى لو لم يكن المهاجمون لديهم وصول إلى النموذج الأصلي المستخدم في تدريب التطبيق ، يمكنهم仍ًا اختبار الشبكة وتحديد ما إذا كان شخص معين تم تضمينه في بيانات التدريب ببساطة عن طريق استخدام نماذج تم تدريبها على بيانات متشابهة جدًا.

تستخدم بعض نماذج الذكاء الاصطناعي حاليًا لحماية البيانات من الاختراقات ومحاولة ضمان خصوصية الأشخاص. غالبًا ما تستخدم نماذج الذكاء الاصطناعي لاكتشاف محاولات الاختراق من خلال التعرف على أنماط السلوك التي يستخدمها المخترقون لاختراق الأساليب الأمنية. ومع ذلك ، غالبًا ما يغير المخترقون سلوكياتهم لمحاولة خداع الذكاء الاصطناعي القائم على التعرف على الأنماط.

تتمثل الطرق الجديدة لتدريب الذكاء الاصطناعي وتطويره في جعل نماذج الذكاء الاصطناعي والتطبيقات أقل عرضة لأساليب الاختراق وتكتيكات التهرب الأمني. تسعى التعلم المعادي إلى تدريب نماذج الذكاء الاصطناعي على محاكاة الإدخالات الضارة أو الخبيثة ، وبالتالي جعل النموذج أكثر متانة ضد الاستغلال ، وبالتالي الاسم “المعادي”. وفقًا لتشين وغانغوبادي ، اكتشفت أبحاثهم طرقًا لمكافحة البرامج الضارة المصممة لسرقة معلومات الأشخاص الخاصة. أوضح الباحثان أن أحد الطرق التي وجدوها الأكثر فعالية لمقاومة البرامج الضارة كان إدخال عدم اليقين في النموذج. الهدف هو جعل من الصعب على الجهات الفاسدة توقع كيف سيتعامل النموذج مع أي إدخال معين.

تتضمن الطرق الأخرى لاستخدام الذكاء الاصطناعي لحماية الخصوصية تقليل تعرض البيانات عند إنشاء النموذج وتنفيذه ، بالإضافة إلى اختبار الشبكة لاكتشاف نقاط الضعف. عندما يتعلق الأمر بحماية خصوصية البيانات ، يمكن أن يساعد التعلم الفيدرالي في حماية خصوصية البيانات الحساسة ، حيث يسمح بتدريب النموذج دون أن يغادر بيانات التدريب الأجهزة المحلية التي تحتوي على البيانات ، وبالتالي عزل البيانات ، وغالبًا ما يكون معظم 매개 변수 النموذج من التجسس.

في النهاية ، يجادل تشين وغانغوبادي بأن जबक أن انتشار الذكاء الاصطناعي قد خلق تهديدات جديدة لخصوصية الأشخاص ، يمكن للذكاء الاصطناعي أيضًا المساعدة في حماية الخصوصية عند تصميمه باهتمام واهتمام.