بيلي كاكسمار، مرشح دكتوراه في جامعة واترلو – سلسلة المقابلات

بيلي كاكسمار هي مرشحة دكتوراه في مدرسة علوم الحاسوب بجامعة واترلو وأستاذة قادمة في جامعة ألبرتا. اهتماماتها البحثية تتعلق بتطوير تقنيات تعزيز الخصوصية المتعمدة على المستخدم، من خلال الدراسة الموازية للنهج الفني لحسابات خاصة إلى جانب تصورات المستخدمين واهتماماتهم وفهمهم لهذه التقنيات. تهدف عملها إلى تحديد الإمكانات والقيود الخصوصية لتطبيقات التعلم الآلي.

اهتماماتك البحثية تتعلق بتطوير تقنيات تعزيز الخصوصية المتعمدة على المستخدم، لماذا الخصوصية في الذكاء الاصطناعي مهمة جدا؟

الخصوصية في الذكاء الاصطناعي مهمة جدا، لأن الذكاء الاصطناعي في عالمنا لا يوجد بدون بيانات. البيانات، في حين أنها مجرد تجريد مفيد، هي في النهاية شيء يصف الناس وسلوكياتهم. نادرا ما نعمل مع بيانات حول سكان الأشجار ومستويات المياه؛ لذلك، في أي وقت نعمل مع شيء يمكن أن يؤثر على الناس الحقيقيين، نحتاج إلى أن نكون على دراية بذلك ونفهم كيف يمكن أن يفعل نظامنا الخير أو الضرر. هذا صحيح بشكل خاص للذكاء الاصطناعي، حيث يستفيد العديد من الأنظمة من كميات هائلة من البيانات أو يأملون في استخدام بيانات حساسة جدا (مثل بيانات الصحة) لمحاولة تطوير فهم جديد للعالم.

ما هي بعض الطرق التي رأيت فيها أن التعلم الآلي خاضل الخصوصية للمستخدمين؟

خاضل هو كلمة قوية. ومع ذلك، في أي وقت يستخدم نظام معلومات عن الأشخاص بدون موافقتهم، بدون إبلاغهم، وبез مراعاة الأضرار المحتملة، فإنه يخاطر بخيانه لnorms الخصوصية الفردية أو الاجتماعية. بشكل أساسي، هذا يؤدي إلى خيانة من خلال ألف جروح صغيرة. هذه الممارسات يمكن أن تكون تدريب نموذج على صناديق بريد المستخدمين، أو تدريب على رسائل نصية للمستخدمين، أو على بيانات الصحة؛ كل ذلك بدون إبلاغ موضوعات البيانات.

يمكنك تعريف ما هو الخصوصية التفاضلية، وما هي آرائك حولها؟

الخصوصية التفاضلية هي تعريف أو تقنية ظهرت إلى الصدارة فيما يتعلق بالاستخدام لتحقيق الخصوصية الفنية. التعريفات الفنية للخصوصية، بشكل عام، تشمل两个 جانب رئيسي؛ ما هو المحمي، ومن؟ في الخصوصية الفنية، гарантиات الخصوصية هي حماية تتحقق إذا تم الوفاء بمجموعة من الافتراضات. هذه الافتراضات قد تكون حول الأعداء المحتملين أو تعقيدات النظام أو الإحصائيات. إنها تقنية مفيدة جدا لها تطبيقات واسعة. ومع ذلك، ما هو مهم أن نلاحظ هو أن الخصوصية التفاضلية ليست مكافئة مع الخصوصية.

الخصوصية ليست محدودة بتعريف أو مفهوم واحد، ومن المهم أن نكون على دراية بأفكار أخرى أبعد من ذلك. على سبيل المثال، السلامة السياقية هي مفهوم概念ي للخصوصية يأخذ في الاعتبار أشياء مثل كيف تطبيقات أو منظمات مختلفة تغير تصورات الخصوصية للأفراد فيما يتعلق bằng موقف. هناك أيضا مفاهيم قانونية للخصوصية مثل تلك التي تتضمنها قانون حماية البيانات الشخصية الكندي (PIPEDA)، ولوائح حماية البيانات الأوروبية (GDPR)، وقانون حماية المستهلك الكاليفورني (CCPA). كل هذا لكي نقول إننا لا يمكن أن نعامل الأنظمة الفنية كما لو كانت موجودة في فراغ خالي من عوامل الخصوصية الأخرى، حتى لو كانت الخصوصية التفاضلية مستخدمة.

نوع آخر من التعلم الآلي الذي يعزز الخصوصية هو التعلم الفيدرالي، كيف يمكنك تعريف ما هو، وما هي آرائك حولها؟

التعلم الفيدرالي هو طريقة للتعلم الآلي عندما يتم تدريب النموذج على مجموعة من قواعد البيانات الموزعة عبر عدة أصحاب أو مواقع. إنه ليس بشكل nộiزي نوعا من التعلم الآلي الذي يعزز الخصوصية. نوع التعلم الآلي الذي يعزز الخصوصية يحتاج إلى تعريف正式 لما هو محمي، ومن هو المحمي منه، والشروط التي يجب أن تتحقق لحماية هذه الحماية. على سبيل المثال، عندما نفكر في حساب تفاضلي بسيط، فإنه يضمن أن شخصا ما يشاهد الإخراج لن يكون قادرا على تحديد ما إذا كان نقطة بيانات معينة ساهمت أم لا.

علاوة على ذلك، الخصوصية التفاضلية لا توفر هذه الضمانة إذا، على سبيل المثال، هناك ارتباط بين نقاط البيانات. التعلم الفيدرالي لا يحتوي على هذه الميزة؛ إنه ببساطة يتدرب على نموذج على مجموعة من البيانات دون الحاجة إلى أصحاب تلك البيانات لتزويد قواعد البيانات الخاصة بهم أو طرف ثالث مباشرة. في حين أن ذلك يبدو مثل ميزة الخصوصية، ما هو مطلوب هو ضمان正式 أن لا أحد يمكن أن يتعلم المعلومات المحمية بالنظر إلى الوسائط ونتائج الأطراف غير الموثوق بها التي ستراقبها.

ما هي بعض القيود الحالية لهذه النهج؟

القيود الحالية يمكن وصفها على أنها طبيعة التبادل بين الخصوصية والفائدة. حتى لو قمنا بكل شيء آخر، أبلغنا عن آثار الخصوصية على أولئك المتأثرين، قيمنا النظام لما نحاول القيام به، إلخ، فإنه لا يزال يعود إلى تحقيق الخصوصية المثالية يعني أننا لا نصنع النظام، تحقيق الفائدة المثالية بشكل عام لا يحتوي على حماية خصوصية، لذلك السؤال هو كيف نحدد ما هو “المثالي” التبادل. كيف نجد نقطة الانطلاق الصحيحة ونبني نحوها بحيث نحقق الوظيفة المرغوبة مع توفير الحماية الخصوصية اللازمة.

أنت تهدف حاليا إلى تطوير تقنيات الخصوصية المتعمدة على المستخدم من خلال الدراسة الموازية للحلول الفنية لحسابات خاصة. هل يمكنك أن تذهب إلى بعض التفاصيل حول ما هي بعض هذه الحلول؟

ما أعنيه بهذه الحلول هو أننا يمكن، بمعنى واسع، تطوير أي عدد من الأنظمة الخصوصية الفنية. ومع ذلك، عند القيام بذلك، من المهم تحديد ما إذا كانت ضمانات الخصوصية تصل إلى أولئك المتأثرين. هذا يمكن أن يعني تطوير نظام بعد معرفة ما هي أنواع الحماية التي تقدرها السكان. يمكن أن يعني تحديث نظام بعد معرفة كيف يستخدم الناس نظاما حقيقيا مع اعتبارات التهديد والخطر الحقيقية. حل فني يمكن أن يكون نظاما صحيحا يلبي التعريف الذي ذكرتُه أعلاه. حل متعمد على المستخدم سوف يصمم نظامَه على أساس مدخلات من المستخدمين وأولئك المتأثرين في مجال التطبيق المقصود.

أنت تبحث حاليا عن طلاب الدراسات العليا المهتمين بالبدء في سبتمبر 2024، لماذا تعتقد أن الطلاب يجب أن يكونوا مهتمين بالخصوصية في الذكاء الاصطناعي؟

أعتقد أن الطلاب يجب أن يكونوا مهتمين لأنها شيء سيزداد انتشارا في مجتمعنا. لتكون لديك فكرة عن مدى سرعة هذه الأنظمة، انظر إلى التكامل الأخير للتشات جبت عبر مقالات الأخبار والوسائط الاجتماعية ومناقشات حول آثاره. نحن نعيش في مجتمع حيث جمع البيانات واستخدامها متأصلان في حياتنا اليومية بحيث نقدم دائما معلومات عن أنفسنا إلى شركات ومنظمات مختلفة. هذه الشركات تريد استخدام البيانات، في بعض الحالات لتحسين خدماتها، وفي حالات أخرى من أجل الربح. في هذه النقطة، يبدو من غير الواقعي أن نفترض أن ممارسات استخدام البيانات الشركات سوف تتغير. ومع ذلك، وجود أنظمة حماية الخصوصية التي تحمي المستخدمين مع السماح ببعض التحليلات المطلوبة من الشركات يمكن أن يساعد في تحقيق التوازن بين المخاطر والفوائد التي أصبحت جزءا ضمنيا من مجتمعنا.

شكرا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا صفحة جيثاب الخاصة ببيلي كاكسمار.