الأخلاقيات
وثيقة جديدة تُحدد منهجية للتصديق على خوارزميات الذكاء الاصطناعي
أصدرت TÜV AUSTRIA ومعهد معهد الذكاء الاصطناعي في جامعة يوهانس كيبلر (JKU) وثيقة جديدة تحديد منهجية للتصديق على خوارزميات الذكاء الاصطناعي.
تُشير الورقة في البداية إلى أن الذكاء الاصطناعي هو واحد من أسرع المجالات نمواً حول العالم، وهو وراء العديد من التطبيقات اليومية المتعلقة بالتعرف على الصور وأنظمة التوصية وال聊بوتات والتشخيص أو التنبؤ.
ثم تطرح هذه الأسئلة:
- هل يمكن الوثوق بهذا الذكاء الاصطناعي وآمن?
- هل يؤدي الذكاء الاصطناعي الوظيفة المتوقعة منه?
- هل يُحقق استخدام الذكاء الاصطناعي القيمة المضافة المتوقعة?
- هل بيانات التدريب نظيفة ومستخدمة بشكل صحيح?
- هل يتم التعامل بحذر مع الكميات الكبيرة من البيانات الحساسة?
تهدف أساليب التصديق الجديدة التي طوّرها TÜV AUSTRIA وJKU إلى دعم المصنعين في تطوير نماذج التعلم الآلي الآمنة والموثوقة والعالية الجودة.
سيقدمون أيضًا للمستخدمين ختمًا للجودة لأنظمة الذكاء الاصطناعي الموثوقة.
أستاذ Sepp Hochreiter هو مدير معهد التعلم الآلي.
“التعلم الآلي هو حاليًا التكنولوجيا الأكثر أهمية وتأثيرًا وسيكون له تأثير كبير على بيئتنا الفنية وكل حياتنا، على المجتمع، على المدى الطويل”، يقول أستاذ Hochreiter.
“لذلك، من المهم تعزيز ثقة المستهلك في هذه التكنولوجيا من خلال تصديق تطبيقات التعلم الآلي.
وهذا هو السبب في كوننا سعداء للمساهمة في تحديد معايير الجودة اللازمة.
تصديق التطبيقات
المرحلة الأولى من النجاح، وفقًا للورقة، تم تحقيقها بالفعل.
يمكن تصديق تطبيقات التعلم الإشرافي في المخاطر المنخفضة إلى المتوسطة.
أستاذ DI.Dr. Stefan Haas هو الرئيس التنفيذي لمجموعة TÜV AUSTRIA.
“لقد بدأنا في تنفيذ أول مشروع تصديق، حيث يتم استخدام التطبيقات بشكل رئيسي في البيئة الصناعية ولكن أيضًا في قطاع المستهلك.
في المراحل التالية للتعاون التطويري، سيتم توسيع النهج الحالي لتصديق التطبيقات الحرجة من حيث السلامة، بناءً على طيف أوسع من أساليب التعلم الآلي”، يقول DI.Dr. Haas.
“نحن سعداء بشكل خاص لوجود معهد JKU للتعلم الآلي معنا كشريك ذي كفاءة عالية ومعترف به دوليًا لهذه المهمة الصعبة.
يتضمن التصديق فحص نماذج التعلم الآلي وعمليات تطويرها بدقة في عدة أبعاد.
هذا يعني عدم检查 الوظائف الفعلية وموثوقية النماذج المُدرَّبة فقط، ولكن أيضًا أمان البرمجيات وعمليات تطويرها.
هناك أيضًا فحص لكيفية التعامل مع البيانات الشخصية بسرية ومعايير أخلاقية أخرى.
