كيف سيقتل التحيز استراتيجية الذكاء الاصطناعي والتعلم الآلي و ماذا يمكن فعله حيال ذلك

‘التحيز’ في نماذج من أي نوع يصف حالة حيث يستجيب النموذج بشكل غير دقيق للاستعلامات أو بيانات الإدخال لأنها لم يتم تدريبها على كميات كافية من البيانات عالية الجودة والمتنوعة لتوفير استجابة دقيقة. مثال على ذلك ميزة فتح قفل الهاتف باستخدام التعرف على الوجه من شركة آبل، والتي فشلت بنسبة أعلى بكثير للأشخاص ذوي البشرة الداكنة مقارنة بالtons الأفتح. لم يتم تدريب النموذج على صور كافية لاشخاص ذوي البشرة الداكنة. كان هذا مثالًا على التحيز منخفض الخطورة، ولكنه بالضبط السبب في أن قانون الذكاء الاصطناعي في الاتحاد الأوروبي قد وضع متطلبات لإثبات فعالية النموذج (والسيطرة عليه) قبل إطلاقه في السوق. يجب أن تكون النماذج التي تؤثر على الأعمال أو المالية أو الصحة أو الحالة الشخصية موثوقة بها، وإلا لن يتم استخدامها.

مكافحة التحيز بالبيانات

كميات كبيرة من البيانات عالية الجودة

من بين ممارسات إدارة البيانات المهمة، فإن مكونًا رئيسيًا لتحقيق وتقليل التحيز في نماذج الذكاء الاصطناعي والتعلم الآلي هو الحصول على كميات كبيرة من البيانات عالية الجودة والمتنوعة. هذا يتطلب التعاون مع منظمات متعددة تملك هذه البيانات. تقليديًا، يتم تحدي الحصول على البيانات والتعاون بسبب مخاوف الخصوصية وحماية الملكية الفكرية – لا يمكن إرسال البيانات الحساسة إلى مالك النموذج، ولا يمكن لمالك النموذج أن يتخلى عن الملكية الفكرية الخاصة به. حل شائع هو العمل مع بيانات اصطناعية أو محاكاة، والتي يمكن أن تكون مفيدة ولكنها أيضًا имеет قيودًا مقارنة باستخدام البيانات الحقيقية والكاملة. यह هو المكان الذي توفر فيه تقنيات تعزيز الخصوصية الإجابات اللازمة.

البيانات الاصطناعية: قريبة ولكن ليس تمامًا

البيانات الاصطناعية يتم إنشاؤها بشكل اصطناعي لتحاكي البيانات الحقيقية. هذا صعب القيام به، ولكنه يصبح أسهل قليلاً باستخدام أدوات الذكاء الاصطناعي. يجب أن تكون البيانات الاصطناعية الجيدة لها نفس المسافات المميزة مثل البيانات الحقيقية، وإلا لن تكون مفيدة. يمكن استخدام البيانات الاصطناعية الجيدة لتعزيز تنوع بيانات التدريب بشكل فعال من خلال ملء الفجوات لالسكان الصغيرة أو الهامشية، أو للسكان الذين لا يمتلكهم موفر الذكاء الاصطناعي. يمكن استخدام البيانات الاصطناعية أيضًا لمعالجة الحالات الحدية التي قد تكون صعبة العثور عليها في كميات كافية في العالم الحقيقي. بالإضافة إلى ذلك، يمكن للمنظمات إنشاء مجموعة بيانات اصطناعية لتلبية متطلبات الإقامة والخصوصية التي تحظر الوصول إلى البيانات الحقيقية. هذا يبدو رائعًا، ومع ذلك، فإن البيانات الاصطناعية هي مجرد جزء من اللغز، وليس الحل.

واحدة من القيود الواضحة للبيانات الاصطناعية هي الانفصال عن العالم الحقيقي. على سبيل المثال، سيواجه المركبات ذاتية القيادة التي تم تدريبها فقط على البيانات الاصطناعية صعوبة في التعامل مع ظروف الطريق الحقيقية غير المتوقعة. بالإضافة إلى ذلك، ترث البيانات الاصطناعية التحيز من البيانات الحقيقية المستخدمة لإنشائها – مما يهزم الغرض من مناقشتنا. في الختام، فإن البيانات الاصطناعية هي خيار مفيد لتعديل دقيق ومعالجة الحالات الحدية، ولكن التحسينات الكبيرة في فعالية النموذج وتقليل التحيز لا تزال تعتمد على الوصول إلى البيانات الحقيقية.

طريقة أفضل: البيانات الحقيقية من خلال عمليات العمل التي تمكّنها تقنيات تعزيز الخصوصية

تقنيات تعزيز الخصوصية تحمي البيانات أثناء استخدامها. عندما يتعلق الأمر بنماذج الذكاء الاصطناعي والتعلم الآلي، يمكنها أيضًا حماية الملكية الفكرية للنموذج الذي يتم تشغيله – “طائرين بحجر واحد”. توفر الحلول التي تستخدم تقنيات تعزيز الخصوصية خيارًا لتدريب النماذج على مجموعات بيانات حقيقية وحساسة لم تكن متاحة من قبل بسبب مخاوف الخصوصية والأمان. هذا الفك في تدفقات البيانات إلى البيانات الحقيقية هو الخيار الأفضل لتقليل التحيز. ولكن كيف سيعمل هذا في الواقع؟

للحظة، تبدأ الخيارات الرائدة ببيئة حوسبة موثوقة. ثم، يتم دمجها مع حل برمجي يستند إلى تقنيات تعزيز الخصوصية، مما يجعلها جاهزة للاستخدام من الصندوق بينما يعالج متطلبات الحوكمة والأمان للبيانات التي لا يتم تضمينها في بيئة تنفيذ موثوقة стандартية (TEE). مع هذا الحل، يتم تشفير النماذج والبيانات قبل إرسالها إلى بيئة حوسبة آمنة. يمكن استضافة البيئة في أي مكان، وهو ما يهم عند معالجة بعض متطلبات توطين البيانات. هذا يعني أن كلاً من الملكية الفكرية للنموذج وأمان البيانات المُدخلة يتم الحفاظ عليهما أثناء الحساب – ولا يمتلك حتى موفر بيئة التنفيذ الموثوقة وصولًا إلى النماذج أو البيانات داخلها. ثم يتم إرسال النتائج المشفرة обратًا للمراجعة، وتتوفر سجلات للمراجعة.

هذا التدفق يفتح أفضل جودة بيانات بغض النظر عن مكان وجودها أو من يمتلكها، مما يخلق طريقًا لتقليل التحيز وإنشاء نماذج فعالة يمكننا الوثوق بها. هذا التدفق هو أيضًا ما وصفته لوائح الاتحاد الأوروبي للذكاء الاصطناعي في متطلباتها لصندوق تجريبي تنظيمي للذكاء الاصطناعي.

تسهيل الامتثال الأخلاقي والقانوني

الحصول على بيانات حقيقية جيدة هو صعب. متطلبات الخصوصية وتوطين البيانات تحد فورًا من مجموعات البيانات التي يمكن للمنظمات الوصول إليها. من أجل حدوث الابتكار والنمو، يجب أن تتدفق البيانات إلى أولئك الذين يمكنهم استخراج القيمة منها.

المادة 54 من قانون الاتحاد الأوروبي للذكاء الاصطناعي توفر متطلبات لأنواع نماذج “الخطر العالي” فيما يتعلق بما يجب إثباته قبل إطلاقها في السوق. بشكل موجز، سيتعين على الفرق استخدام بيانات العالم الحقيقي داخل صندوق تجريبي تنظيمي للذكاء الاصطناعي لإظهار فعالية النموذج الكافية والامتثال لجميع السيطرات المحددة في الفصل الثالث. تتضمن السيطرات مراقبة، شفافية، تفسيرية، أمان البيانات، حماية البيانات، تقليل البيانات، وحماية النموذج – افكر في DevSecOps + Data Ops.

التحدي الأول سيكون العثور على مجموعة بيانات حقيقية لاستخدامها – لأن هذا البيانات الحساسة بشكل طبيعي لنماذج من هذا النوع. بدون ضمانات فنية، قد تتردد العديد من المنظمات في الوثوق بموفر النموذج ببياناتها أو لن يتمكنوا من القيام بذلك. بالإضافة إلى ذلك، فإن الطريقة التي يحدد بها القانون “صندوقًا تجريبيًا تنظيميًا للذكاء الاصطناعي” هي تحدي في حد ذاتها. بعض المتطلبات تشمل ضمان إزالة البيانات من النظام بعد تشغيل النموذج، بالإضافة إلى ضوابط الحوكمة، وإنفاذ القانون، والتقارير لإثبات ذلك.

لقد حاولت العديد من المنظمات استخدام غرف نظيفة للبيانات (DCRs) وبيئات تنفيذ موثوقة (TEEs) جاهزة للاستخدام. ومع ذلك، تتطلب هذه التقنيات خبرة وعملاً كبيرين لتحقيق متطلبات التنظيم والبيانات. غرف نظيفة للبيانات أسهل في الاستخدام، ولكنها ليست مفيدة بعد لاحتياجات الذكاء الاصطناعي والتعلم الآلي الأكثر قوة. بيئات التنفيذ الموثوقة هي خوادم آمنة وستظل بحاجة إلى منصة تعاون متكاملة لتكون مفيدة بسرعة. هذا، مع ذلك، يحدد فرصة لمنصات تقنيات تعزيز الخصوصية لدمجها مع بيئات التنفيذ الموثوقة لإزالة هذا العمل، وتبسيط إعداد واستخدام صندوق تجريبي تنظيمي للذكاء الاصطناعي، وبالتالي الحصول على البيانات الحساسة.

من خلال تمكين استخدام مجموعات بيانات أكثر تنوعًا وشمولاً بطريقة تحافظ على الخصوصية، تساعد هذه التقنيات على ضمان امتثال ممارسات الذكاء الاصطناعي والتعلم الآلي للمعايير الأخلاقية والمتطلبات القانونية المتعلقة بحماية البيانات (مثل GDPR و قانون الاتحاد الأوروبي للذكاء الاصطناعي في أوروبا). في الختام، بينما غالبًا ما يتم استقبال المتطلبات بالأنين والزفرات، فإن هذه المتطلبات ببساطة توجيهنا لبناء نماذج أفضل يمكننا الوثوق بها واعتمادها لأخذ قرارات مهمة مدفوعة بالبيانات مع حماية خصوصية موضوعات البيانات المستخدمة لتطوير النموذج وتعديله.