رأي

الذكاء الاصطناعي ينتقل إلى حواسيبنا — لكن من يتحكم فيما يمكنه رؤيته؟

Adlin Pertishya
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةلا تضمن المعالجة المحلية للذكاء الاصطناعي تلقائيًا الخصوصية أو الأمان للوكلاء على…
عرض المزيد
  • لا تضمن المعالجة المحلية للذكاء الاصطناعي تلقائيًا الخصوصية أو الأمان للوكلاء على الجهاز.
  • يجب أن يعمل الوكلاء بموجب أقل امتيازات وصول مقصورة على ما يتطلبه كل سير عمل محدد.
  • يحتاج المستخدمون إلى تحكم شفاف وقابل للإلغاء فيما يمكن للوكلاء رؤيته والقيام به.

بدأت وكلاء الذكاء الاصطناعي تتجاوز نوافذ الدردشة لتصل إلى أنظمة التشغيل والتطبيقات والملفات التي يستخدمها الناس يوميًا.

تُدشّن حواسيب Windows الجديدة والبرمجيات التي صدرت خلال الأشهر الأخيرة عصرًا جديدًا من سير العمل المستقل متعدد الخطوات بالذكاء الاصطناعي، للمستخدم العادي وداخل بيئات المؤسسات، ولم يعد هذا التحول مجرد توقع تقني.

تدعم أجهزة الكمبيوتر المزوّدة بتقنية RTX وتعمل بنظام Windows من NVIDIA تشغيل وكلاء الذكاء الاصطناعي محليًا، فيما وسّعت Perplexity قدرات وكلائها لتشمل أجهزة كمبيوتر متوافقة تعمل بنظام Windows، ما يتيح تنفيذ مهام تشمل الملفات المحلية والتطبيقات المتصلة. وفي الوقت نفسه، تطوّر Microsoft وسائل حماية للتحكم في كيفية وصول الوكلاء إلى الموارد واتخاذهم الإجراءات.

لكن زيادة الاستقلالية تنطوي على مخاطر أمنية أكبر. ففي 19 أكتوبر، حذّرت Hayete Gallot، نائبة الرئيس التنفيذية للأمن في Microsoft، من أن على المؤسسات بذل المزيد لتأمين «الموظفين الداخليين الوكلاء»، مشيرةً إلى أن وكلاء الذكاء الاصطناعي غالبًا ما يُمنحون صلاحيات مفرطة، ويمكنهم الوصول إلى بيانات حساسة وأدوات وأنظمة، في أثناء اتخاذ القرارات ضمن عمليات حيوية.

تقوم استراتيجية Microsoft الأمنية لنظام Windows على الاحتواء، والحد من الأذونات، ومحدودية الإشراف، مع تزايد القلق من أن يتجاوز أثر خطأ الوكيل مجرد تقديم إجابة خاطئة. فقد يكشف معلومات حساسة، أو يغيّر ملفات مهمة، أو يتسبب في أنشطة غير مرغوب فيها داخل تطبيقات الأعمال.

الذكاء الاصطناعي المحلي لا يعني تلقائيًا ذكاءً اصطناعيًا خاصًا

يمكن أن يساعد استخدام وكلاء الذكاء الاصطناعي على الحاسوب في الحد من كمية البيانات الحساسة المنقولة إلى الخدمات السحابية، لكن المعالجة المحلية لا توفر حماية أمنية شاملة.

حتى النموذج الذي يعمل على الجهاز نفسه قد يتيح الوصول إلى عدد مفرط من الملفات، أو يعاني ضعفًا أمنيًا، أو يرتبط بتطبيقات أخرى عبر وصلات غير آمنة.

قال Bayron Quintero، الرئيس التنفيذي والمؤسس المشارك لشركة iData Global المتخصصة في حلول الذكاء الاصطناعي في أنحاء الأمريكتين، إن المشكلة لا تكمن دائمًا في نموذج الذكاء الاصطناعي، بل غالبًا ما تكون في حوكمة المؤسسة.

وأضاف في حديثه إلى Unite.AI أن الشركات قد تمنح وصولًا مفرطًا أو محدودًا أكثر من اللازم إلى البيانات والتطبيقات وعمليات الأعمال. وقد تُمنح الوكلاء صلاحيات لا تتناسب مع المهام المتوقعة منهم.

وقال Quintero: «يكمن التحدي في ضمان عمل الوكيل وفق مبدأ الحد الأدنى من الامتيازات، بحيث لا يصل إلا إلى البيانات والأنظمة والإجراءات اللازمة لسير عمل معين». وهذا يعني منحه إمكانية الوصول إلى البيانات والأنظمة والإجراءات اللازمة لسير عمل محدد دون غيرها.

وأشار إلى أن الملكية الواضحة للبيانات، وضوابط الوصول المستندة إلى الأدوار، والمراقبة المستمرة للتفاعلات مع الأنظمة الداخلية وأنظمة الجهات الخارجية، كلها ضمانات أساسية.

وشدد Quintero على أنه لا يوجد ما يسمى بالذكاء الاصطناعي المحلي الآمن.

فالصلاحيات المفرطة، والتشفير الضعيف، وقصور المراقبة، وعمليات الدمج غير الآمنة، قد تجعل الوكيل الذي يعمل على الجهاز محفوفًا بالمخاطر بقدر نظيره السحابي، أو أشد خطورة.

لا يقتصر الأمن على مكان تشغيل نموذج النظام؛ بل يشمل أيضًا كيفية تهيئته وإدارته.

الحد الفاصل الجديد هو الأذونات

يتمثل السؤال المطروح على المستخدم العادي في ما إذا كانت صلاحيات وصول وكيل الذكاء الاصطناعي مناسبة للمهمة الموكلة إليه.

لا ينبغي للوكيل فحص محرك أقراص بأكمله إذا طُلب منه تلخيص مستند واحد فحسب. كما ينبغي ألا تقرأ أداة لتنظيم الصور البيانات المالية تلقائيًا أو تتمكن من إرسال الرسائل. ويجب أن تكون الأذونات محدودة بدقة، وشفافة، وقابلة للإلغاء.

يُعد نموذج حساب الوكيل ومساحة العمل في Microsoft خطوةً نحو فصل نشاط الوكيل عن جلسة المستخدم. لكن لا بد أن تكون وسائل الحماية فعّالة خارج نطاق العروض التوضيحية أيضًا.

تدعو إرشادات Microsoft الأمنية لوكلاء Windows إلى الحصول على موافقة المستخدم، وتسجيل الأنشطة، واعتماد آلية تحدّ الوكلاء من الوصول إلى ما يحتاجون إليه. وينبغي لأصحاب العمل والمطورين مراقبة كيفية استجابة الوكلاء للتعليمات المضللة الواردة في المستندات أو المواقع الإلكترونية أو الرسائل.

قد تصادف الوكلاء محتوى غير موثوق أثناء تنفيذ مهمة مُصرّح بها. وإذا تعامل الوكيل مع نص عدائي على أنه أمر، فقد ينشأ خطر أمني كبير، إذ يمكن الوصول إلى هذه المعلومات بسهولة.

يجب أن تقترن موافقة الإنسان وإمكانية الوصول وفق مبدأ الحد الأدنى من الامتيازات باحتواء الإجراءات الحساسة.

الملاءمة تتطلب حدودًا واضحة

لن يُقيَّم حاسوب الذكاء الاصطناعي بقدر ما تستطيع الوكلاء أتمتته من العمل فحسب، بل أيضًا بمدى ثقة المستخدم في مشاركة بياناته الشخصية والمهنية.

في حين يمكن لـالذكاء الاصطناعي الوكيلي، عند إجراء المعالجة محليًا، تعزيز السرعة والحد من انكشاف بعض البيانات، فإن ذلك لا يلغي الحاجة إلى الأذونات والرقابة.

ينبغي أن يكون المبدأ واضحًا: لا يجوز للوكلاء الوصول إلا إلى ما يلزم لإنجاز المهمة، وينبغي أن يتمكن المستخدمون من فهم ما يفعله الوكيل، وتتبع أفعاله، ومنعه.

مع ازدياد قدرة الحواسيب على التصرف نيابةً عنا، يجب ألا تكون السيطرة أمرًا يُفكَّر فيه لاحقًا، بل ينبغي أن تكون جزءًا من التصميم.

Adlin Pertishya هو مراسل تقنية وأعمال عمل لدى Finance Outlook India و Silicon India و StartupBeat وآخرين.