يعرف.ai الخاص بك أكثر مما ينبغي: AI الموثوق بها لم تعد اختيارية

النماذج التوليدية تنتقل من مختبرات البحث إلى العمليات التجارية العادية — ويعزز الضعف الهيكلي الصامت إلى جانبها.

خذ على سبيل المثال هذا: تم الوصول إلى مايكروسوفت كوبيلوت إلى ما يقرب من ثلاثة ملايين سجل حساس لكل منظمة في النصف الأول من عام 2025. وتعني هذه الأرقام وجود مشكلة hệ thống مع كيفية التعامل مع الذكاء الاصطناعي. بنت الشركات محركات قوية لمعالجة البيانات، ولكنها لم تضع حماية كافية للبيانات التي تستخدمها.

النماذج اللغوية الكبيرة وأدوات المساعدة غالبًا ما تحسب الوثائق والرسائل والقواعد البيانية دون أي حماية قوية. ويتسبب هذا الفجوة، الذي يكشف عن “بيانات في الاستخدام” أثناء الاستدلال، في تهديد مباشر للأعمال التي تضع الأولوية للخصوصية والامتثال وثقة العملاء.

هنا يأتي دور الحوسبة الموثوق بها. تستخدم هذه العملية بيئات تنفيذ موثوقة مدعومة بالأجهزة (TEEs) للحفاظ على سلامة الشفرة والبيانات أثناء استخدامها. هذه البيئات هي مناطق ذاكرة معزولة محمية من نظام التشغيل المضيف والهيبرفايزر.

تغير هذا الحماية نموذج الأمان، مما يسمح للأسرار بالمعاملات دون كشفها لباقي العمود. وتوفر مايكروسوفت ومزودي السحابة الآخرون الآن استدلال خاص وأجهزة افتراضية (VMs) تدمج الاستدلال داخل TEEs.

لماذا من المهم الحفاظ على الخصوصية في القواعد والحوكمة

التشفير التقليدية عادة ما يحمي البيانات التي تكون إما في حالة الراحة أو أثناء النقل، مع عدم حماية البيانات التي يتم معالجتها بنفس القدر من الحماية، على الرغم من أن هذا هو المكان الذي تتفاعل فيه الذكاء الاصطناعي التوليدي أكثر مع المدخلات الخاصة.

في وقت سابق من العام، كشفت دراسة أجريت بواسطة باحثين من جامعة كورنيل حول وحدات الحوسبة الموثوقة كيف يمكن أن تساعد العزل المدعوم بالأجهزة والتصديق في تقليل الحاجة إلى الثقة بين الأطراف. وعلاوة على ذلك، قدر المحللون في العام الماضي أن قيمة البنية التحتية للحوسبة الخاصة كانت تزيد على 13 مليار دولار، مع توقع نمو أسرع إلى 350.04 مليار دولار بحلول عام 2032.

بمعنى بسيط، أكثر الناس يستخدمون هذه التكنولوجيا، مما يؤدي إلى اهتمام المنظمين وأفرقة الامتثال بنظم الذكاء الاصطناعي أكثر من أي وقت مضى. وبالتالي، فإن الإطار الذي يضمن ألا يغادر البيانات الحساسة أبدًا التنفيذ المحمي أثناء استعلامات النموذج سيجعل سجلات المراجعة أسهل في المتابعة، مما يقلل من خطر المشاكل القانونية.

然而، إذا لم تصبح حماية التشغيل معيارًا، قد يؤدي ذلك إلى تأخير قبول المنظمين لنظم الذكاء الاصطناعي في المجالات التي يتم حكمها بشكل صارم.

حالات حياتية حيث الخصوصية ضرورية

هناك العديد من السيناريوهات المؤسسية التي تظهر لماذا الحوسبة الموثوقة ليست роскошية بل شيئًا ضروريًا لكل منظمة.

على سبيل المثال، في التمويل، يمكن أن تنطبق هذه الحالة على المؤسسات التي تحتاج إلى تشغيل نماذج اكتشاف الاحتيال وتحليل المخاطر ضد سجلات معاملات العملاء دون منح مشغلين النماذج الخارجيين الوصول إلى السجلات الأصلية.

في مجال الرعاية الصحية، يمكن أن يكون هناك حالات حيث يجب أن تعمل نماذج تشخيصية على بيانات سريرية محمية مع الحفاظ على خصوصية المرضى وملء التزامات التنظيمية الصارمة. وعلاوة على ذلك، قد تتطلب الحكومات ووكالات الدفاع التنفيذ المصدق لتشغيل حمولات حساسة على السحاب الثالثة.

هناك أيضًا خطوط بحثية تجمع بين مجموعات بيانات من مصادر متعددة، ولا سيما البحث الصحي الفيدرالي الذي يمكن أن يستمر فقط إذا كان كل مشارك واثقًا من أن مدخلاته ستبقى غير قابلة للقراءة أثناء الحساب.

هناك أيضًا أبحاث أكاديمية وصناعية توثق باستمرار نهج الحفاظ على الخصوصية للتدفقات 作业 الطبية التي تتوافق مع التنفيذ الموثوق.

كيف يحمي التنفيذ الموثوق البيانات أثناء الاستخدام

يعتمد التنفيذ الموثوق على نظامين متصلين: العزل بالأجهزة والتصديق. يمنع العزل بالأجهزة البرمجيات خارج النطاق الآمن من قراءة ذاكرة النطاق.

التصديق هو طريقة قابلة للتحقق لتحقق الشفرة التي تعمل داخل النطاق وضمان صحة النطاق نفسه. تتيح هذه الميزات لمالك النموذج إظهار أن النموذج سيعمل مع المدخلات في بيئة محكمة ومختومة وأن المخرجات لن تظهر إلا بعد اتباع قواعد النطاق.

النتيجة هي عقد بين مالكي البيانات ومشغلي النماذج ومزودي السحاب الذي يقلل من الحاجة إلى عمل قانوني عدواني أو لجوء إلى سياسات هشة.

القيود والمعوقات الواقعية

بالطبع، يأتي اعتماد الحوسبة الموثوقة مع تحدياته الخاصة. يجعل التصديق والأجهزة القادرة على العمل في النطاقات من عملية النشر أكثر تعقيدًا، نظرًا لوجود فجوة في النظام البيئي بين أدوات الخدمة التقليدية والنظام التشغيلي الموثوق. قد تفرض بعض أنظمة التشغيل النطاقات عبءً ثقيلًا، تكلفته قد تصل إلى عشرة أضعاف أكثر من تشغيل الاستدلال العادي، ويمكن أن يكون هناك تبادلات في الأداء اعتمادًا على مقدار العمل.

علاوة على ذلك، تكون التكاليف أعلى الآن مما كانت عليه للاستدلال السحابي العادي، مما قد يجعل من الصعب على الشركات الصغيرة فهم الأرقام. وهناك أيضًا مشكلة التغيير في معايير التأثير المتبادل، التي قد تترك بعض المبتكرين في خطر أن يجدوا أنفسهم محاصرين مع بائعينهم.

然而، هذه القضايا ليست أكثر من مشاكل هندسية عابرة يمكن حلها. يواصل مزودو السحاب وصناعو الرقاقات إطلاق منتجات جديدة، ويقوم المشاريع البرمجية بإنشاء برنامج وسيط يربط بين حزم الذكاء الاصطناعي الحالية و TEEs.

إذا كان هناك شيء، فإن الشركات التي تعتقد أن التشفير العادي وسيطرات الوصول كافيين تتعرض لخطر أكبر لأنها سوف تكون عرضة للخطر عندما تعالج النماذج كمية كبيرة من السجلات الحساسة.

نداء للتغيير في ممارسات الشركات

فرق إدارة المخاطر تحتاج إلى تغيير القواعد لشراء واستخدام الذكاء الاصطناعي. لا تزال تصنيف البيانات والحوكمة مهمين، ولكن يجب أن يكونا مدعومين bằng ضمانات فنية عند استخدامها.

يجب أن تتطلب العقود مع مزودي النماذج الخارجيين منهم إظهار دليل على التصديق. يجب أن تطلب فرق الشراء معايير الأداء وخيارات مدققة للتنفيذ الموثوق. يجب أن تتضمن تمارين الفريق الأحمر اختبارًا موثوقًا كجزء من عملهم. تنتقل هذه الخطوات المسؤولية من الالتزامات العفوية إلى سيطرات يمكن التحقق منها.

علاوة على ذلك، يجب على المجموعات السياسية ومجموعات المعايير الصناعية وضع التوقعات. يجب على المدققين وضباط الامتثال والمنظمين المطالبة بضمانات وقت التشغيل القابل للتحقق لفئات الحمولات التي تعالج البيانات الخاضعة للتنظيم.

ستقلل هذه القواعد من عدد الانتهاكات التي تحدث لاحقًا وستمنح القطاع حرية الابتكار دون القلق بشأن المشاكل القانونية. سيسمح هذا للتدفقات 作业 المالية والرعاية الصحية والقطاع العام باستخدام نماذج جديدة دون أي عقبات تنظيمية.

السرية كالمعيار

أصبحت نماذج الذكاء الاصطناعي التوليدية أداة مفيدة للأعمال التي تتعامل مع المعلومات الخاصة للغاية. هذا يعني أن التنفيذ الموثوق لم يعد خيارًا فاخرًا بل يجب أن يكون ممارسة стандартية لأي نظام ذكاء اصطناعي يتعامل مع البيانات الخاضعة للتنظيم أو المملوكة أو الشخصية.

هناك أدوات متاحة بالفعل، مثل TEEs وخدمات التصديق والعروض الخاصة لأجهزة افتراضية، وتتحسن Economics بسرعة. الخيار الآخر هو الحفاظ على الأصول الحساسة مفتوحة للتسرب في وقت الاستدلال، مما قد يؤدي إلى عواقب قانونية ومالية وسمعة لا يمكن للأعمال تحملها. على سبيل المثال، وفقًا لتقرير IBM عن تكلفة خرق البيانات لعام 2025، بلغ متوسط تكلفة خرق البيانات العالمي مبلغًا يقرب من 5 ملايين دولار، مع فرض لوائح مثل GDPR غرامات تصل إلى 20 مليون يورو لخرق خطير.

الشركات التي تضع الخصوصية أولاً في حوكمة الذكاء الاصطناعي سوف تحصل على ميزة: يمكنهم تشغيل اختبارات أكثر شمولاً وامتثالاً واستخدام النماذج في مجالات كانت خارج نطاق الابتكار الخارجي من قبل. باختصار، حماية البيانات أثناء تشغيل النماذج ليست عائقًا أمام التحول، بل هي أساس الذكاء الاصطناعي المسؤول والقابل للتوسع في الأعمال والحكومة.