باتريشيا ثاين، الرئيس التنفيذي لشركة Private AI – سلسلة المقابلات

باتريشيا ثاين هي المؤسس المشارك والرئيس التنفيذي لشركة Private AI، وهي مرشحة دكتوراه في علوم الحاسوب في جامعة تورنتو، وعضو ما بعد التخرج في معهد فيكتور الذي يقوم بأبحاث حول معالجة اللغة الطبيعية الحافظة للخصوصية، مع التركيز على التشفير التطبيقي. كما تقوم بأبحاث حول الأساليب الحسابية لفك الشفرة اللغوية المفقودة.

باتريشيا هي حاصلة على منحة الدراسات العليا من المجلس الوطني للبحوث الكندية، وزمالة الدراسات العليا من شركة RBC، وزمالة الدراسات العليا بياتريس “تريكسي” وورسلي في علوم الحاسوب، ومنحة الدراسات العليا في أونتاريو. لديها ثماني سنوات من الخبرة في البحث وتطوير البرمجيات، بما في ذلك في مختبر تطور اللغة في جامعة ماكجيل، ومختبر اللغويات الحاسوبية في جامعة تورنتو، وقسم اللغويات في جامعة تورنتو، ووكالة الصحة العامة في كندا.

ما الذي جذبك في البداية إلى علوم الحاسوب؟

القدرة على حل المشكلات وكونك مبدعًا في نفس الوقت. إنها مثل الحرفة. يمكنك رؤية أفكارك تتحقق، مثل النجار الذي يبني الأثاث. كما سمعت شخصًا يقول مرة: البرمجة هي الأداة الإبداعية النهائية. حقيقة أن المنتجات التي تبنيها يمكن أن تتوسع ويتسنى استخدامها من قبل الناس في جميع أنحاء العالم هي مثل التوت على الكيك.

يمكنك مناقشة قصة ولادة شركة Private AI وكيف نشأت من ملاحظتك أن هناك نقصًا في الأدوات التي تسهل الحفاظ على الخصوصية؟

من خلال الكلام والكتابة، يتم إنتاج بعض المعلومات الحساسة وتحويلها إلى الشركات التي نستخدم خدماتها. عندما كنا ننظر فيما النماذج التي يجب بناؤها، كان هناك طبقة من الخصوصية التي يجب دمجها والتي ببساطة لم تكن موجودة في السوق. لاستخدام حلول الخصوصية، يجب على الشركات إما نقل بيانات مستخدميها إلى طرف ثالث أو استخدام حلول مفتوحة المصدر من الدرجة الثانية التي لا تصلح لحماية خصوصية المستخدم بشكل جيد أو بناء حل داخلي مع خبرة قليلة في الخصوصية. لذلك، قررنا التركيز على إنشاء أفضل المنتجات الممكنة للمطورين وأفرق الذكاء الاصطناعي الذين يحتاجون إلى جعل مخرجات تقنيات تعزيز الخصوصية تعمل بسهولة لمتطلباتهم.

لماذا تعتبر الخصوصية الحافظة للذكاء الاصطناعي مهمة؟

حوالي 80 في المائة من المعلومات التي يتم إنتاجها غير مهيكلة والذكاء الاصطناعي هو الطريقة الوحيدة لفهم كل تلك البيانات. يمكن استخدامها من أجل الخير، مثل مساعدة الكشف عن السقوط للسكان المسنين، أو من أجل الشر، مثل تحديد الشخصيات وتتبع أفراد السكان غير الممثلة. ضمان أن يتم بناء الخصوصية في البرمجيات التي ننشئها يجعل من الصعب استخدام الذكاء الاصطناعي بطريقة ضارة.

كيف تكون الخصوصية ميزة تنافسية؟

هناك العديد من الأسباب، ولكن إليك بعضها:

1. معظم المستخدمين يهتمون بالخصوصية، و随ما يصبح المستهلكون أكثر تعليمًا، ينمو هذا القلق: 70 في المائة من المستهلكين يهتمون بخصوصية بياناتهم.
2. من السهل جدًا التعامل مع الشركات الأخرى إذا كان لديك بروتوكولات حماية البيانات و تقنيات الخصوصية المناسبة.
3. عندما تبني منتجاتك بطريقة حافظة للخصوصية، فإنك تتبع بشكل أفضل نقاط الضعف في خدمتك، و特别 من خلال تقليل البيانات، تتخلص من البيانات التي لا تحتاجها والتي قد تسبب لك مشاكل عند حدوث هجوم إلكتروني.

يمكنك مناقشة أهمية خصوصية بيانات التدريب و почему هي عرضة للتعكس العكسي؟

هذا سؤال رائع و يحتاج إلى المزيد من التثقيف. ببساطة، نماذج التعلم الآلي تتذكر المعلومات. كلما كانت النماذج أكبر، زادت المعلومات التي تتذكرها. هذا يعني أن المعلومات التي تم تدريب النماذج عليها يمكن أن تظهر في الإنتاج. لقد تم إثبات ذلك في العديد من الأبحاث، بما في ذلك الشارر السري: تقييم واختبار التذكر غير المقصود في الشبكات العصبية و استخراج بيانات التدريب من نماذج اللغة الكبيرة.

كما تم إثبات أن المعلومات الشخصية يمكن استخراجها من التضمين الكلمات، ومن أجل أولئك الذين لديهم شكوك حول أن هذا مشكلة حقيقية، كان هناك أيضًا فضيحة هذا العام عندما كتبت روبوت حب كوري تفاصيل المستخدمين في المحادثات مع مستخدمين آخرين.

ما هي آراؤك حول التعلم الفيدرالي و خصوصية المستخدم؟

التعلم الفيدرالي هو خطوة جيدة عندما يسمح بها الاستخدام. ومع ذلك، لا يزال من الممكن استخراج معلومات حول مدخلات المستخدم من تحديثات الوزن المرسلة إلى السحابة من جهاز مستخدم معين، لذلك من المهم دمج التعلم الفيدرالي مع تقنيات تعزيز الخصوصية الأخرى (الخصوصية التفرقية والتشفير المتجانس / الحساب الآمن المتعدد الأطراف). يجب اختيار كل تقنية تعزيز الخصوصية وفقًا لاستخدام الحالة – لا يمكن استخدام أي منها كمسدس لحل جميع المشاكل. نقوم بمراجعة شجرة القرار هنا. الفائدة الكبيرة هي أنك لا ترسل أبدًا بياناتك الخام خارج جهازك. العيب الكبير هو أنه إذا كنت بحاجة إلى بيانات لتصحيح نظام أو التحقق من تدريبه بشكل صحيح، يصبح من الصعب الحصول عليها. التعلم الفيدرالي هو بداية جيدة مع العديد من المشاكل غير المحلولة التي تعمل عليها الأبحاث والصناعة.

كيف تمكن Private AI المطورين من دمج تحليل الخصوصية مع几 سطور من الشفرة لضمان الخصوصية؟

تقنياتنا تعمل كواجهة برمجة تطبيقات REST التي يرسل إليها مستخدمونا طلبات POST مع النص الذي يريدون حزفه أو إزالة الهوية أو إعادة تحديد الهوية مع بيانات واقعية. بعض عملائنا يرسلون عبر نصوص محادثات تحتاج إلى حزفها من أجل الامتثال لPCI، في حين يرسل آخرون عبر محادثات كاملة حتى يتمكنوا من استخدام المعلومات لتدريب نماذج لغة أو تحليلات أخرى. يمكن لمستخدمينا أيضًا اختيار الكيانات التي يحتاجون إلى الاحتفاظ بها أو حتى استخدامها كبيانات وصفية لتتبع مكان تخزين البيانات الشخصية. نحن نزيل عنهم ألم الحاجة إلى تدريب نظام دقيق لاكتشاف واستبدال المعلومات الشخصية في بيانات قذرة حقًا.

لماذا تعتبر الخصوصية للأجهزة الذكية مشكلة حالية وما هي آراؤك حول حلها؟

في النهاية، أفضل طريقة لحل مشكلة الخصوصية هي التابعة لاستخدام الحالة، والأجهزة الذكية ليست مختلفة. في حين أن بعض استخدامات الحالة قد تعتمد على التوزيع على الحواف، والاستدلال على الحواف، والتعلم الفيدرالي الحافظ للخصوصية (على سبيل المثال، الاستشعار الجماعي في المدن الذكية)، قد تحتاج استخدامات الحالة الأخرى إلى الاعتماد على تجميع البيانات وتفريغ الهوية (على سبيل المثال، معلومات استخدام الطاقة). ومع ذلك، الأجهزة الذكية هي مثال رئيسي على كيفية أن تكون الخصوصية والأمن يدا بيد. هذه الأجهزة مشهورة بعدم أمانها ضد الهجمات الإلكترونية، لذلك هناك فقط ما يمكن أن تفعله تقنيات تعزيز الخصوصية دون إصلاح الثغرات الأساسية للأجهزة. من ناحية أخرى، دون التفكير في وسائل تعزيز خصوصية المستخدم، يمكن مشاركة المعلومات المجمعة من داخل منازلنا، دون رقابة، مع أطراف غير معروفة، مما يجعل من الصعب جدًا ضمان أمان المعلومات. لدينا两个 جبهات للتحسين هنا، وقد يكون مشروع التشريع الذي تقترحه المفوضية الأوروبية حول أمان الأجهزة الذكية هو ما يؤثر على مصنعي الأجهزة لاتخاذ مسؤولية جادة تجاه أمان وخصوصية المستهلكين.

هل هناك أي شيء آخر تود مشاركته حول Private AI؟

نحن مجموعة من الخبراء في الخصوصية، واللغة الطبيعية، واللغة المنطوقة، ومعالجة الصور، وتنفيذ نماذج التعلم الآلي في بيئات منخفضة الموارد، مدعومة من قبل M12، صندوق الاستثمار التابع لشركة مايكروسوفت.

نضمن أن المنتجات التي ننشئها، بالإضافة إلى كونها دقيقة للغاية، تكون كفاءة حسابية أيضًا، بحيث لا تتحمل فاتورة سحابة ضخمة في نهاية الشهر. كما أن بيانات عملائنا لا تنتقل أبدًا إلينا – يتم معالجتها كلها في بيئتهم.

شكرًا على المقابلة الرائعة، لمعرفة المزيد، زوروا Private AI.