الأخلاقيات
وثيقة بيضاء جديدة تُحدد منهجية للتصديق من الخوارزميات الإصطناعية
تم نشر وثيقة بيضاء جديدة من قبل TÜV AUSTRIA و معهد تعلم الآلة في جامعة يوهانس كيبلر . وقد أُنشئت منهجية للتصديق من الخوارزميات الإصطناعية.
تُقر الوثيقة في البداية بكون الإصطناعي من بين أسرع المجالات نمواً حول العالم، ويكون خلف العديد من التطبيقات اليومية المتعلقة بالتعرف على الصور والنظم التوصيفية وبرامج الدردشة والتشخيص أو التنبؤ.
ثم تطرح هذه الأسئلة:
- هل هذا الذكاء الإصطناعي موثوق به وآمن?
- هل يعمل الذكاء الإصطناعي على تنفيذ الوظيفة المتوقعة منه?
- هل يُضيف استخدام الذكاء الإصطناعي القيمة المتوقعة?
- هل بيانات التدريب نظيفة ومتوافرة بشكل صحيح?
- هل يتم التعامل بحذر مع كمية كبيرة من البيانات الحساسة?
تُطوّر منهجية التصديق الجديدة التي طوّرها TÜV AUSTRIA وJKU لدعم المصنعين في تطوير نماذج تعلم الآلة الآمنة والموثوقة والعالية الجودة. كما ستوفر ختمًا للجودة لأنظمة الذكاء الإصطناعي الموثوقة.
الأستاذ سيب هوتشريتر هو مدير معهد تعلم الآلة.
“تعلم الآلة هو حاليًا التكنولوجيا المُكَمِّلة الأكثر أهمية وسيكون له تأثير كبير على بيئتنا الفنية وكل حياتنا، على المجتمع، على المدى الطويل”، يقول الأستاذ هوتشريتر. “لذلك، من المهم أكثر تعزيز ثقة المستهلكين في هذه التكنولوجيا من خلال تصديق تطبيقات تعلم الآلة. هذا هو السبب في كوننا سعداء بالمشاركة في مساعدة تحديد معايير الجودة اللازمة”.
الأستاذ هوتشريتر يتمتع بسمعة عالمية فيما يتعلق بالذكاء الإصطناعي ولعب دورًا رئيسيًا في تنفيذ أول كرسي تعلم الآلة في النمسا ودرجة أولى في الذكاء الإصطناعي في JKU Linz. كما أنه عضو مجلس إدارة ELLIS، وهو شبكة تميّز من أفضل العلماء الأوروبيين في مجال تعلم الآلة.
تصديق التطبيقات
المرحلة الأولى من النجاح، وفقًا للوثيقة البيضاء، قد تم تحقيقها بالفعل. تطبيقات التعلم الإشرافي في المخاطر المنخفضة إلى المتوسطة يمكن تصديقها بالفعل.
DI.Dr. ستيفان هاس هو الرئيس التنفيذي لمجموعة TÜV AUSTRIA.
“لقد بدأنا في تنفيذ أول مشاريع التصديق، حيث توجد التطبيقات في الغالب في البيئة الصناعية ولكن أيضًا في قطاع المستهلك. في المراحل التالية للتعاون التطويري، ستُوسّع النهج الحالية لتصديق التطبيقات الحساسة من حيث السلامة، استنادًا إلى طيف أوسع من أساليب تعلم الآلة”، يقول DI.Dr. هاس. “نحن سعداء بشكل خاص أن يكون معهد JKU لتعلم الآلة إلى جانبنا كشريك ذي كفاءة عالية واعتراف دولي في هذا العمل الصعب”.
يتضمن التصديق فحص نماذج تعلم الآلة وعمليات تطويرها بدقة في عدة أبعاد. وهذا يعني ليس فقط فحص الوظائف الفعلية وموثوقية النماذج المُدرَّبة، ولكن أيضًا أمان البرمجيات وعمليات تطويرها. كما يتم فحص كيفية التعامل مع البيانات الشخصية بسرية ومعايير أخلاقية أخرى.
