شراكات
مايكروسوفت تطلق مبادرة لشفافية الذكاء الاصطناعي لوكلاء المؤسسات

النقاط الرئيسيةتراقب الضوابط الحالية النشاط حول النماذج لكنها لا تستطيع التحقق مما يحدث داخلها.
عرض المزيد
- تراقب الضوابط الحالية النشاط حول النماذج لكنها لا تستطيع التحقق مما يحدث داخلها.
- يتطلب الإطار أدلة تبقى قابلة للنقل عندما تنتقل المؤسسات بين النماذج أو المزوّدين.
- ستوسّع مايكروسوفت مشاركتها في مبادرة معايير وكلاء الذكاء الاصطناعي التابعة للمعهد الوطني للمعايير والتقنية لتطوير معايير مفتوحة.
أعلنت مايكروسوفت مبادرة شفافية الذكاء الاصطناعي في 17 نوفمبر 2026، خلال مؤتمر Microsoft Ignite، وجمعت أكثر من 40 مؤسسة لتطوير معايير مفتوحة لتأمين نماذج الذكاء الاصطناعي ووكلائه وحوكمتها عبر مختلف مقدمي الخدمات.
قدّم رئيس مجلس الإدارة والرئيس التنفيذي ساتيا ناديلا هذه المبادرة بمشاركة عملاء وشركاء، منهم Accenture وAdobe وKPMG وMastercard وVolvo Cars. ويهدف هذا التعاون إلى جعل أنظمة الذكاء الاصطناعي خاضعة للمساءلة، وقابلة للتحقق منها بصورة مستقلة، وآمنة من أساس تصميمها، بصرف النظر عن النموذج أو مقدم الخدمة. ويقوم المبدأ الناظم للمبادرة على أن زيادة استقلالية الذكاء الاصطناعي تستلزم مزيدًا من الشفافية.
فجوة الأدلة في المؤسسات
تربط المؤسسات النماذج بالبيانات والأدوات وبيانات الاعتماد والبنية التحتية، ما يتيح للوكلاء اتخاذ إجراءات من دون موافقة بشرية عند كل خطوة. وتقول مايكروسوفت إن الضوابط الحالية تستطيع رصد النشاط المحيط بالنماذج، لكنها لا تستطيع رؤية ما يجري داخلها أو التحقق بصورة مستقلة من روايات النماذج عن سلوكها.
وتطرح مدونة الأمن التابعة للشركة تمييزًا مشابهًا بشأن احتواء الوكلاء: فاكتشاف الوكيل وحوكمته واحتواءه لا يكشف، مع ذلك، عن سلوك النموذج الذي يقوم عليه. وهذا يترك ثلاثة أسئلة بعد أي نشاط ذي تبعات مهمة: ما الذي طُلب من الذكاء الاصطناعي فعله وما الذي أُذن له به، وما الذي حدث بين الطلب والنتيجة، وهل يمكن التحقق من النشاط بصورة مستقلة؟
وتشبّه مايكروسوفت الوكلاء الذين لديهم صلاحية الوصول إلى البيانات والأدوات وبيانات الاعتماد بمطلعين ذوي امتيازات يعملون بسرعة الآلات وعلى نطاقها. وتؤدي فجوة الأدلة الناجمة عن ذلك إلى مخاطر أمنية ومخاطر تتعلق بالامتثال والتدقيق والمساءلة، فيما تظل مسؤولية المساءلة على عاتق المؤسسة التي تنشر الوكلاء عندما يتعين على قياداتها الرد على العملاء والموظفين ومجالس الإدارة والمدققين والجهات التنظيمية.
إطار الرصد والتحقق والتحكم
ينظم إطار المبادرة هذه المتطلبات ضمن ثلاثة أجزاء. ويغطي الرصد الطلب والتفويض، والنموذج وبيئة تشغيله، والبيانات والأدوات التي جرى الوصول إليها، والإجراءات المتخذة. كما يدعو إلى المراقبة المستمرة لنشاط الوكلاء ومؤشرات المخاطر في ضوء السياسات والحدود المقررة.
يتناول التحقق مصدر الأدلة. إذ من شأن سجلات هوية الوكيل والنية المفوضة إليه والإجراءات التي اتخذها أن توضح ما إذا كانت المعلومات صادرة عن النموذج أو بيئة تشغيله أو أنظمة مستقلة للهوية والسياسات. ويمكن بعد ذلك التحقق من الإشارات التي أبلغ عنها النموذج بمقارنتها بسجلات رُصدت بصورة مستقلة عبر أنظمة الأمن والامتثال الخاصة بالمؤسسة، بدلًا من الاعتماد حصرًا على رواية مقدم الخدمة.
يستخدم التحكم أدلة الغرض من كل سير عمل والجهة المالكة له والبيانات التي يتعامل معها والصلاحيات المفوضة إليه، لفرض السياسات قبل اتخاذ إجراءات ذات تبعات مهمة. وتدعم السجلات نفسها إعادة بناء ما حدث أثناء التحقيقات والاحتواء والتعافي وعمليات التدقيق. ومن المفترض أن تظل هذه السجلات قابلة للاستخدام عندما تغيّر المؤسسات نماذجها أو مقدمي خدماتها، بما في ذلك الانتقال بين النماذج المغلقة والنماذج ذات الأوزان المفتوحة، حتى تتمكن فرق التطوير من تحديث الوكلاء من دون المساس بحوكمة الأمن أو عمليات تدقيق الامتثال.
العمل على المعايير وتطبيقها في المنتجات
ستوسع مايكروسوفت مشاركتها في مبادرة SI لمعايير الوكلاء التابعة لـ NIST، وستستفيد من أبحاثها الخاصة لتطوير معايير مفتوحة على مستوى الصناعة لشفافية الذكاء الاصطناعي وأمنه وحوكمته. ويهدف برنامج NIST إلى تعزيز وضع معايير تقنية تقودها الصناعة وبروتوكولات مفتوحة، لتمكين الوكلاء المستقلين من العمل بأمان والتشغيل المتبادل عبر الأنظمة الرقمية.
وتجمع الركائز الاستراتيجية للمبادرة بين إرشادات طوعية وتحليلات للفجوات بهدف وضع معايير تقودها الصناعة، وجهود لخفض العوائق أمام البروتوكولات القابلة للتشغيل المتبادل التي تقودها المجتمعات، وأبحاث في مصادقة الوكلاء وبنية الهوية التحتية وتقييمات الأمن.
وتخطط مايكروسوفت أيضًا لإدراج أعمال المبادرة ضمن Microsoft AI وMicrosoft Foundry وMicrosoft Copilot. وسيتمكن العملاء من استخدام الأدلة الناتجة مع أدوات الأمن والامتثال من مايكروسوفت أو من مقدمي خدمات آخرين.
ويتمثل الاختبار العملي للمبادرة في معرفة ما إذا كان المشاركون قادرين على تحويل هذا الإطار إلى معايير مشتركة وأدلة قابلة للنقل: سجلات تتيح للمؤسسة حوكمة الوكلاء قبل أن يتصرفوا وإعادة بناء سلوكهم بعد ذلك، حتى عند تغيير النموذج الذي تقوم عليه الخدمة أو مقدمها.












