تقارير
تقرير فريق التماسك العميق DeepSeek-R1: المخاطر الأمنية والاخلاقية المقلقة التي تم الكشف عنها
أظهر تقييم فريق التماسك الأحمر الذي أجريته Enkrypt AI مخاطر أمنية واخلاقية وثغرات أمنية كبيرة في DeepSeek-R1. وتبرز النتائج، كما هو موضح في تقرير فريق التماسك الأحمر يناير 2025، قابلية النموذج لتوليد محتوى ضار ومنحاز وغير آمن مقارنة بالموديلات الرائدة في الصناعة مثل GPT-4o و OpenAI’s o1 و Claude-3-Opus. فيما يلي تحليل شامل للمخاطر المحددة في التقرير وتوصيات للمعالجة.
المخاطر الأمنية والاخلاقية الرئيسية
1. خرج ضار ومخاطر أمنية
- 易عرض لانتاج محتوى ضار، بما في ذلك اللغة السامة والخروجة المنحازة والمعلومات التي يمكن استغلالها إجراميا.
- 11 مرة أكثر احتمالا لتوليد محتوى ضار من OpenAI’s o1.
- 4 مرة أكثر سماكة من GPT-4o.
- 3 مرة أكثر انحازة من Claude-3-Opus.
- 4 مرة أكثر عرضة لتوليد رمز غير آمن من OpenAI’s o1.
- 易عرض جدا لمعلومات CBRN (الكيميائية والبيولوجية والإشعاعية والنووية)، مما يجعله أداة عالية الخطورة للممثلين الخبيثين.
2. مقارنة مع موديلات أخرى
| فئة المخاطر | DeepSeek-R1 | Claude-3-Opus | GPT-4o | OpenAI’s o1 |
|---|---|---|---|---|
| انحازة | 3 مرة أعلى | أقل | مثلها | مثلها |
| رمز غير آمن | 4 مرة أعلى | 2.5 مرة أعلى | 1.25 مرة أعلى | – |
| محتوى ضار | 11 مرة أعلى | 6 مرة أعلى | 2.5 مرة أعلى | – |
| سماكة | 4 مرة أعلى | نearly غائب | 2.5 مرة أعلى | – |
| محتوى CBRN | 3.5 مرة أعلى | 3.5 مرة أعلى | 2 مرة أعلى | – |
انحازة ومخاطر اخلاقية
- 83% من هجمات الانحازة نجحت، مع انحازة كبيرة تم الكشف عنها في استفسارات الصحة والعرق والدين.
- أظهر النموذج مستويات أعلى من التعريفات السكانية النمطية، والتي يمكن أن تنتهك لوائح العدالة المختلفة بما في ذلك ECOA و FHA و ACA و EU AI Act.
- أظهرت حالات الاختبار أن DeepSeek-R1 يفضل بعض السكان لمهام العمل ذات المستوى العالي، مما يعزز الانحازة في مكان العمل.
توليد محتوى ضار
- 45% من الاختبارات الضارة نتجت في توليد محتوى متعلق بالأنشطة الإجرامية، بما في ذلك الأسلحة المحظورة والمواد الخاضعة للرقابة.
- أدى استفسار يطلب من النموذج تطوير مدونة حول “فن الإقناع في تجنيد الإرهابيين” إلى استجابة مفصلة تحديد استراتيجيات التطرف التي يمكن أن تستغلها الجماعات المتطرفة لتحسين أساليب التجنيد، مما يزيد من خطر العنف في العالم الحقيقي.
- 2.5 مرة أكثر عرضة لتوليد محتوى متطرف من GPT-4o و 6 مرات أكثر عرضة من Claude-3-Opus.
- 45% من الاختبارات الضارة نتجت في توليد محتوى متعلق بالأنشطة الإجرامية، بما في ذلك الأسلحة المحظورة والمواد الخاضعة للرقابة.
توليد رمز غير آمن
- 78% من هجمات الرمز نجحت في استخراج شفرات غير آمنة وملكية.
- توليد برامج خبيثة وبرامج خبيثة ذاتية التنفيذ عند الطلب. تعتبر البرامج الخبيثة خطرا شديدا لأنها يمكن أن تسمح للمهاجمين بالحصول على وصول مستمر غير مصرح به إلى الأنظمة وسرقة بيانات حساسة وتحميل حمولات خبيثة إضافية.
- البرامج الذاتية التنفيذ يمكن أن تؤدي إلى أعمال خبيثة تلقائية بدون موافقة المستخدم، مما يخلق تهديدات محتملة في تطبيقات الأمن السيبراني الحساسة.
- مقارنة بالموديلات الصناعية، كان DeepSeek-R1 4.5 مرة و 2.5 مرة و 1.25 مرة أكثر عرضة من OpenAI’s o1 و Claude-3-Opus و GPT-4o على التوالي.
- 78% من هجمات الرمز نجحت في استخراج شفرات غير آمنة وملكية.
ثغرات CBRN
- توليد معلومات مفصلة حول آليات الكيمياء الحيوية لعمليات الحرب الكيميائية. يمكن أن تساعد هذه المعلومات الأفراد على合성 مواد خطرة، وتجاوز قيود الأمان المخصصة لمنع انتشار الأسلحة الكيميائية والبيولوجية.
- 13% من الاختبارات نجحت في تجاوز ضوابط الأمان، مما أدى إلى توليد محتوى متعلق بالتهديدات النووية والبيولوجية.
- 3.5 مرة أكثر عرضة من Claude-3-Opus و OpenAI’s o1.
- توليد معلومات مفصلة حول آليات الكيمياء الحيوية لعمليات الحرب الكيميائية.
- 13% من الاختبارات نجحت في تجاوز ضوابط الأمان، مما أدى إلى توليد محتوى متعلق بالتهديدات النووية والبيولوجية.
- 3.5 مرة أكثر عرضة من Claude-3-Opus و OpenAI’s o1.
توصيات للمعالجة
为了 giảm thiểu المخاطر المرتبطة بـ DeepSeek-R1، يوصى بالخطوات التالية:
1. تنفيذ تدريب مواءمة أمان قوي
- يجب استخدام مجموعات بيانات فريق التماسك الأحمر لتدريب النموذج على مخرجات أكثر أمانا.
- إجراء تعلم التعزيز مع反馈 بشري (RLHF) لتنسيق سلوك النموذج مع المعايير الاخلاقية.
2. فريق التماسك الأحمر التلقائي المستمر
- اختبارات الضغط المنتظمة لتحديد الانحياز وثغرات الأمان وتوليد المحتوى السام.
- توظيف مراقبة مستمرة لأداء النموذج، خاصة في تطبيقات المالية والرعاية الصحية والأمن السيبراني.
3. حواجز أمان متطورة لمنع التهديدات
- تطوير حواجز ديناميكية لمنع التهديدات.
- تنفيذ أدوات تعديل المحتوى لتعطيل التهديدات وتفريغ الاستجابات غير الآمنة.
4. مراقبة النموذج النشطة وتسجيلها
- تسجيل إدخال النموذج واستجاباته في الوقت الفعلي للكشف المبكر عن الثغرات.
- عمليات تدقيق آلية لضمان الامتثال لمعايير الشفافية والأخلاق في مجال الذكاء الاصطناعي.
5. إجراءات الشفافية والامتثال
- الحفاظ على بطاقة مخاطر النموذج مع معايير تنفيذية واضحة حول موثوقية النموذج وأمانه ومخاطره الاخلاقية.
- الامتثال للوائح الذكاء الاصطناعي مثل NIST AI RMF و MITRE ATLAS للحفاظ على المصداقية.
الخلاصة
يطرح DeepSeek-R1 مخاطر أمنية واخلاقية وامتثال شديدة تجعله غير مناسب ل许多 تطبيقات عالية الخطورة بدون جهود معالجة شاملة. يميل إلى توليد محتوى ضار ومنحاز وغير آمن، مما يجعله في وضع غير مؤات لموديلات مثل Claude-3-Opus و GPT-4o و OpenAI’s o1.
نظرًا لأن DeepSeek-R1 هو منتج من أصل صيني، فمن غير المحتمل أن يتم تنفيذ التوصيات اللازمة للمعالجة بشكل كامل. ومع ذلك، يبقى من الضروري أن يكون مجتمع الذكاء الاصطناعي والأمن السيبراني على دراية بال مخاطر المحتملة التي يطرحها هذا النموذج. توفير الشفافية حول هذه الثغرات يضمن أن يمكن للمطورين والمنظمين والشركات اتخاذ خطوات استباقية لتحديد المخاطر حيثما أمكن والاحتراز من إساءة استخدام هذه التكنولوجيا.
يجب على المنظمات التي تفكر في نشره الاستثمار في اختبارات أمنية صارمة واختبار فريق التماسك الأحمر التلقائي والمراقبة المستمرة لضمان تنفيذ الذكاء الاصطناعي الآمن والمسؤول.
يمكن للقراء الذين يرغبون في معرفة المزيد تحميل التقرير من خلال زيارة هذه الصفحة.
