كيفية معالجة تحديات أمان الشبكة المتعلقة بالذكاء الاصطناعي العامل

تمثل الذكاء الاصطناعي العامل (AI) الحد الأقصى التالي للذكاء الاصطناعي، ويتعهد بالخروج من قدرات الذكاء الاصطناعي التوليدي (GenAI). على عكس معظم أنظمة GenAI، التي تعتمد على الإشارات البشرية أو الإشراف، الذكاء الاصطناعي العامل هو ذكي لأنه لا يتطلب إدخال المستخدم لحل المشكلات المعقدة متعددة الخطوات. من خلال استخدام نظام بيئي رقمي من نماذج اللغة الكبيرة (LLM)، والتعلم الآلي (ML) ومعالجة اللغة الطبيعية (NLP)، يقوم الذكاء الاصطناعي العامل بالمهام بشكل مستقل نيابة عن الإنسان أو النظام، مما يحسن الإنتاجية والعمليات بشكل كبير.

على الرغم من أن الذكاء الاصطناعي العامل ما زال في مراحله الأولى، إلا أن الخبراء أشاروا إلى بعض الحالات الاستخدامية المبتكرة. فكر في بيئة خدمة العملاء لمصرف حيث يقوم وكيل الذكاء الاصطناعي ب更多 من مجرد الإجابة على أسئلة المستخدم عند سؤاله. بدلاً من ذلك، سيقوم الوكيل بإكمال المعاملات أو المهام مثل نقل الأموال عند إشارة المستخدم. ومثال آخر يمكن أن يكون في إعداد مالي حيث تساعد أنظمة الذكاء الاصطناعي العامل المحللين البشرين بتحليل كميات كبيرة من البيانات بشكل مستقل وسريع لإنشاء تقارير جاهزة للتدقيق من أجل اتخاذ قرارات مدعومة بالبيانات.

الفرص غير العادية للذكاء الاصطناعي العامل لا يمكن إنكارها. ومع ذلك، مثل أي تكنولوجيا جديدة، هناك مخاوف أمنية وتركيبية وامتثالية. طبيعة هذه الوكالات الفريدة تطرح عدة تحديات أمنية وتركيبية للشركات. ويجب على الشركات معالجة هذه التحديات لتحقيق مكاسب الذكاء الاصطناعي العامل وتأمين أمان الشبكة والكفاءة.

ما هي تحديات أمان الشبكة التي يخلقها الذكاء الاصطناعي العامل للشركات؟

تتمتع الوكالات الذكية بعمليات أساسية أربعة. الأولى هي الإدراك وجمع البيانات. هذه المئات والآلاف والملايين من الوكالات تجمع وجمعت البيانات من أماكن متعددة، سواء كانت السحابة أو على الموقع أو الحافة وغيرها، ويمكن أن تكون هذه البيانات مادية من أي مكان، وليس من موقع جغرافي محدد. الخطوة الثانية هي اتخاذ القرارات. بمجرد جمع الوكالات للبيانات، تستخدم نماذج الذكاء الاصطناعي والتعلم الآلي لاتخاذ القرارات. الخطوة الثالثة هي التنفيذ. بعد اتخاذ القرار، تقوم الوكالات بتنفيذ القرار. الخطوة الأخيرة هي التعلم، حيث تستخدم الوكالات البيانات التي جمعتها قبل وبعد اتخاذ القرار لتعديل وتكيف بشكل مناسب.

في هذه العملية، يتطلب الذكاء الاصطناعي العامل الوصول إلى مجموعات بيانات ضخمة للعمل بشكل فعال. ستتكامل الوكالات عادةً مع أنظمة البيانات التي تتعامل مع أو تخزن المعلومات الحساسة، مثل السجلات المالية وقواعد البيانات الصحية والمعلومات الشخصية الأخرى (PII). للأسف، يُ复ّع الذكاء الاصطناعي العامل الجهود المبذولة لتأمين بنية الشبكة ضد الضعف، خاصةً مع الاتصال عبر السحابة. كما يطرح تحديات أمن الخروج، مما يجعل من الصعب على الشركات حماية نفسها من التسرب وكذلك اختراقات التحكم والسيطرة. إذا تم اختراق وكيل الذكاء الاصطناعي، يمكن أن تسرّب البيانات الحساسة بسهولة أو سرقت. وبالمثل، يمكن لأفراد الخبيثة اختراق الوكالات واستخدامها لإنشاء ونشر معلومات خاطئة على نطاق واسع. عند حدوث اختراقات، لا توجد فقط غرامات مالية، ولكن أيضًا عواقب على السمعة.

يمكن أن يُثني القدرات الأساسية مثل الرصد والتسلسل عن الذكاء الاصطناعي العامل لأنه من الصعب تتبع مجموعات البيانات التي يصل إليها وكلاء الذكاء الاصطناعي، مما يزيد من خطر تعرض البيانات أو الوصول إليها من قبل مستخدمين غير مصرح لهم. وبالمثل، يمكن أن تعوق قدرة الذكاء الاصطناعي العامل على التعلم والتكيف الديناميكي عمليات التدقيق الأمنية التقليدية، التي تعتمد على سجلات منظمة لتتبع تدفق البيانات. كما أن الذكاء الاصطناعي العامل عابر وديناميكي ويعمل باستمرار، مما يخلق حاجة مستمرة لضمان الرصد والأمان الأمثل. كما أن الحجم يُعد تحديًا آخر. لقد نمت السطح الهجومي بشكل كبير، وامتدت إلى ما وراء مركز البيانات على الموقع والسحابة لتشمل الحافة. في الواقع، اعتمادًا على الشركة، يمكن للذكاء الاصطناعي العامل إضافة آلاف أو ملايين النقاط النهائية الجديدة على الحافة. وتعمل هذه الوكالات في مواقع متعددة، سواء كانت سحابة أو على الموقع أو الحافة وغيرها، مما يجعل الشبكة أكثر عرضة للهجوم.

نهج شامل لمعالجة تحديات أمان الذكاء الاصطناعي العامل

يمكن للشركات معالجة تحديات أمان الذكاء الاصطناعي العامل بتطبيق حلول أمنية وأفضل الممارسات في كل من الخطوات الأربعة الأساسية:

1. الاستقبال وجمع البيانات: تحتاج الشركات إلى اتصال شبكي عالي السرعة مشفر من النهاية إلى النهاية لتمكين وكلائها من جمع كمية هائلة من البيانات المطلوبة للعمل. تذكر أن هذه البيانات يمكن أن تكون حساسة أو قيمة للغاية، اعتمادًا على حالة الاستخدام. يجب على الشركات نشر حل اتصال مشفر عالي السرعة لتشغيله بين جميع هذه المصادر البيانية لحماية البيانات الحساسة و PII.
2. اتخاذ القرارات: يجب على الشركات ضمان حصول وكلائها على النماذج الصحيحة والبنية التحتية للذكاء الاصطناعي والتعلم الآلي لاتخاذ القرارات الصحيحة. من خلال تنفيذ جدار الحماية السحابي، يمكن للشركات الحصول على الاتصال والأمان اللازمين لوكلائها للوصول إلى النماذج الصحيحة بطريقة قابلة للتدقيق.
3. تنفيذ الإجراءات: يقوم وكلاء الذكاء الاصطناعي بتنفيذ الإجراءات بناءً على القرار. ومع ذلك، يجب على الشركات تحديد وكيل من بين مئات أو آلاف الوكلاء الذي اتخذ ذلك القرار. كما يجب على الشركات معرفة كيفية تواصل وكلائهم مع بعضهم البعض لتجنب الصراع أو “الروبوتات التي تقاتل بعضها البعض”. وبالتالي، تحتاج الشركات إلى رصد وتسلسل الإجراءات التي يقوم بها وكلاؤهم. الرصد هو القدرة على تتبع ومراقبة وتفهم الحالات الداخلية وسلوك وكلاء الذكاء الاصطناعي في الوقت الفعلي. التسلسل هو القدرة على تتبع وتوثيق البيانات والقرارات والإجراءات التي يقوم بها وكيل الذكاء الاصطناعي.
4. التعلم والتكيف: تنفق الشركات ملايين، إن لم تكن مئات الملايين أو أكثر، لضبط خوارزمياتها، مما يزيد من قيمة ودقة هذه الوكالات. إذا حصل ممثل خبيث على هذا النموذج وسرقه، يمكن أن يكون جميع هذه الموارد في يديه في دقائق. يمكن للشركات حماية استثماراتها من خلال ميزات أمان الخروج التي تحمي ضد التسرب واختراقات التحكم والسيطرة.

استغلال الذكاء الاصطناعي العامل بطريقة آمنة ومسؤولة

يحمل الذكاء الاصطناعي العامل إمكانيات مذهلة، مما يمنح الشركات فرصة للوصول إلى مستويات جديدة من الإنتاجية والكفاءة. ومع ذلك، مثل أي تكنولوجيا ناشئة في مجال الذكاء الاصطناعي، يجب على الشركات اتخاذ الاحتياطات لحماية شبكاتها وبياناتها الحساسة. الأمان هو أمر بالغ الأهمية اليوم، خاصةً مع المتسللين المتقدمين والمنظمين الذين يتم تمويلهم من قبل الدول، مثل عاصفة الملح وسيلك تايفون، والتي لا تزال تقوم بهجمات على نطاق واسع.

يجب على الشركات الشراكة مع خبراء أمن السحابة لتطوير استراتيجية أمنية قوية ومرنة ومتقدمة قادرة على معالجة التحديات الفريدة للذكاء الاصطناعي العامل. يمكن لهؤلاء الشركاء تمكين الشركات من تتبع وإدارة وحماية وكلائهم؛ بالإضافة إلى ذلك، يساعدهم على توفير الوعي الذي يحتاجونه لتحقيق المعايير المتعلقة بالامتثال والتركيبة.