يعتقد الباحثون أن الذكاء الاصطناعي يمكن استخدامه للمساعدة في حماية خصوصية الناس

نشر两个 أستاذان في علوم المعلومات مؤخرًا مقالة في The Conversation ، يجادلان بأن الذكاء الاصطناعي يمكن أن يساعد في الحفاظ على خصوصية الناس ، وتصحيح بعض القضايا التي أحدثها.

يجادل Zhiyuan Chen و Aryya Gangopadhyay بأن خوارزميات الذكاء الاصطناعي يمكن استخدامها للدفاع عن خصوصية الناس ، مما يعاكس بعض القضايا المتعلقة بالخصوصية التي أحدثها استخدام الذكاء الاصطناعي. يعترف Chen و Gangopadhyay بأن العديد من المنتجات التي نستخدمها لتحقيق الراحة لن تعمل بدون الوصول إلى كميات كبيرة من البيانات ، والتي تبدو في البداية متعارضة مع محاولات الحفاظ على الخصوصية. بالإضافة إلى ذلك ، مع انتشار الذكاء الاصطناعي في المزيد والمزيد من الصناعات والتطبيقات ، سيتم جمع المزيد من البيانات وتخزينها في قواعد البيانات ، مما يجعل اختراقات تلك القواعد داده. ومع ذلك ، يعتقد Chen و Gangopadhyay أنه عندما يستخدم بشكل صحيح ، يمكن للذكاء الاصطناعي المساعدة في التخفيف من هذه القضايا.

يشرح Chen و Gangopadhyay في منشورهم أن مخاطر الخصوصية المرتبطة بالذكاء الاصطناعي تأتي من مصدرين على الأقل. المصدر الأول هو مجموعات البيانات الكبيرة التي جمعت لتدريب نماذج الشبكات العصبية ، بينما представляет الخطر الثاني للخصوصية النماذج نفسها. يمكن أن “تتسرب” البيانات من هذه النماذج ، مما يجعل سلوك النماذج يفضح تفاصيل حول البيانات المستخدمة في التدريب.

تتكون الشبكات العصبية العميقة من طبقات متعددة من الخلايا العصبية ، مع اتصال كل طبقة بالطبقات المحيطة بها. تقوم الخلايا العصبية الفردية ، وكذلك الروابط بين الخلايا العصبية ، بتشفير مختلف البتات من بيانات التدريب. قد يثبت أن النموذج جيد جدًا في تذكر أنماط بيانات التدريب ، حتى لو لم يكن النموذج يعتمد على البيانات بشكل مفرط. توجد آثار لبيانات التدريب داخل الشبكة ، ويمكن للممثلين الخبيثين أن يكتشفوا جوانب من بيانات التدريب ، كما وجدت جامعة كورنيل خلال واحدة من دراساتها. وجد باحثو جامعة كورنيل أن خوارزميات التعرف على الوجوه يمكن استغلالها من قبل المهاجمين للكشف عن الصور ، وبالتالي الأشخاص ، الذين تم استخدامهم لتدريب نموذج التعرف على الوجوه. اكتشف باحثو جامعة كورنيل أنه حتى لو لم يكن المهاجمون لديهم وصول إلى النموذج الأصلي المستخدم في التدريب ، قد يكون المهاجمون لا يزالون قادرين على اختبار الشبكة وتحديد ما إذا كان شخص معين تم تضمينه في بيانات التدريب ببساطة عن طريق استخدام نماذج تم تدريبها على بيانات متشابهة للغاية.

تستخدم بعض نماذج الذكاء الاصطناعي حاليًا لحماية البيانات من الاختراقات ومحاولة ضمان خصوصية الناس. غالبًا ما تستخدم نماذج الذكاء الاصطناعي لاكتشاف محاولات الاختراق من خلال التعرف على أنماط السلوك التي يستخدمها المخترقون لاختراق أساليب الأمان. ومع ذلك ، غالبًا ما يغير المخترقون سلوكهم لمحاولة خداع الذكاء الاصطناعي القائم على التعرف على الأنماط.

تتمثل الطرق الجديدة لتدريب الذكاء الاصطناعي وتطويره في جعل نماذج الذكاء الاصطناعي والتطبيقات أقل عرضة لطرق الاختراق وتكتيكات التهرب من الأمان. تسعى التعلم المعادي إلى تدريب نماذج الذكاء الاصطناعي على محاكاة الإدخالات الضارة أو الخبيثة ، وبالتالي جعل النموذج أكثر متانة للاستغلال ، وبالتالي “المعادي” في الاسم. وفقًا لما يقوله Chen و Gangopadhyay ، اكتشفت أبحاثهم طرقًا لمكافحة البرمجيات الخبيثة المصممة لسرقة معلومات الناس الخاصة. أشار الباحثان إلى أن واحدة من الطرق التي وجدوها الأكثر فعالية لمقاومة البرمجيات الخبيثة كانت إدخال عدم اليقين في النموذج. الهدف هو جعل من الصعب على الجهات الفاعلة الخبيثة توقع كيف سيستجيب النموذج لأي إدخال معين.

تشمل الطرق الأخرى لاستخدام الذكاء الاصطناعي لحماية الخصوصية تقليل تعرض البيانات عند إنشاء النموذج وتدريبه ، وكذلك اختبار الشبكة لاكتشاف نقاط الضعف. عندما يتعلق الأمر بحماية خصوصية البيانات ، يمكن أن يساعد التعلم الفيدرالي في حماية خصوصية البيانات الحساسة ، حيث يسمح بتدريب النموذج دون أن يغادر بيانات التدريب الأجهزة المحلية التي تحتوي على البيانات ، وبالتالي عزل البيانات ومعظم معاملات النموذج من التجسس.

في النهاية ، يجادل Chen و Gangopadhyay بأن انتشار الذكاء الاصطناعي قد خلق تهديدات جديدة لخصوصية الناس ، لكن الذكاء الاصطناعي يمكن أن يساعد أيضًا في حماية الخصوصية عند تصميمه باحترام واهتمام.