لماذا تظل الشركات حذرية من الذكاء الاصطناعي — وكيفية نشره بأمان

لقد غزا الذكاء الاصطناعي العالم. في حين أن بعض المنظمات كانت رائدة في اعتمادها، اتخذت العديد من الشركات نهجًا أكثر حذرًا — مخافة القضايا المتعلقة بالخصوصية والامتثال والتشغيل التي لا تزال مستمرة حتى اليوم.

لقد عملت على مئات من عمليات النشر التي تتضمن أدوات أمنية مدعومة بالذكاء الاصطناعي، ورأيت نمطًا مألوفًا يتحقق. يأتي المبشرون بالحماس في البداية. تظهر الاختبارات وعدًا. ثم تأتي المناقشات الداخلية والمراجعات القانونية، و في النهاية يحدث توقف عندما تغرق المنظمات في حلقة مفرغة من التحليل. على الرغم من الإمكانيات الهائلة للذكاء الاصطناعي في تحويل عمليات الأمن، لا تزال العديد من الشركات مترددة في تبنيها بالكامل.

في مجال الأمن السيبراني، غالبًا ما تكون الحذر هي الاستجابة الصحيحة. لكن تأخير عمليات نشر الذكاء الاصطناعي لن يوقف Threats المزودة بالذكاء الاصطناعي التي تزداد الآن في الحجم والتكرار. التحدي الحقيقي هو كيفية تبني الذكاء الاصطناعي بأمان ومدروسًا وبدون المساس بالثقة.

هنا ما تعلمته من الخطوط الأمامية — وما أوصي به لقيادات الأمن الذين استعدوا للتحرك بالثقة.

1. مشكلة ثقة البيانات

العقبة الأولى والأكبر هي إدارة البيانات. تخشى العديد من الشركات فكرة أن البيانات الحساسة قد تتسرب أو تُستخدم بشكل خاطئ — أو في الأسوأ — تُستخدم لتدريب نموذج يفيد منافسًا. تعزز انتهاكات البيانات الواضحة وتأكيدات البائعين الغامضة هذه المخاوف.

ليس هذا شكوكية مفرطة. عندما تتعامل مع معلومات تعريف العملاء أو الملكية الفكرية أو البيانات المنظمة، يمكن أن يبدو تسليمها إلى طرف ثالث وكأنك تفقد السيطرة. وحتى يفعل البائعون عملًا أفضل في توضيح سياساتهم حول فصل البيانات و الاحتفاظ بها و مشاركة الأطراف الرابعة و تدريب النماذج، ستبقى عملية التبني محорожة.

هنا يصبح الحوكمة أمرًا بالغ الأهمية. يجب على مسؤولي أمن المعلومات تقييم البائعين باستخدام الإطارات الناشئة مثل إطار إدارة مخاطر الذكاء الاصطناعي التابع لمعهد المعايير الوطني أو ISO/IEC 42001، والتي تقدم توجيهات عملية حول الثقة والشفافية والمساءلة في أنظمة الذكاء الاصطناعي.

2. لا يمكنك تحسين ما لا تقيس

عقبة أخرى شائعة هي عدم وجود معايير أساسية. لا يمكن للعديد من الشركات量 تقييم الأداء الحالي، مما يجعل إثبات عائد الاستثمار من أدوات الذكاء الاصطناعي أمرًا شبه مستحيل. كيف يمكنك أن تدعي تحقيق مكسب في الكفاءة بنسبة 40% إذا لم يكن أحد يتبع مدة المهام قبل الأتمتة؟

سواء كانت متوسط الوقت للكشف (MTTD) أو معدلات الإيجابيات الكاذبة أو ساعات تحليل الأمان المحفوظة، تحتاج المنظمات إلى البدء بقياس تدفقات العمل الحالية. بدون هذه البيانات، يبقىกรณة الذكاء الاصطناعي قصة غير مكتملة — ولا يوقع الرعاة التنفيذيون على مبادرات كبيرة بدون أرقام حقيقية ومدافعة.

ابحث عن معايير أساسية الآن، بما في ذلك:

• متوسط الوقت للكشف / الاستجابة (MTTD/MTTR)
• تقليل الإيجابيات الكاذبة والسلبيات الكاذبة و حجم التذاكر
• ساعات التحليل المحفوظة لكل حادث
• تحسين تغطية الأمان (على سبيل المثال، نقاط الضعف الممسوحة ومعالجتها)
• الحوادث المحلولة دون تصعيد

ستصبح هذه المعايير الأساسية هي العمود الفقري لاستراتيجية تبرير الذكاء الاصطناعي.

3. عندما تعمل الأدوات بشكل جيد جدًا

مما يثير الدهشة أن أحد أسباب تأخير تبني الذكاء الاصطناعي هو أن بعض الأدوات تعمل بشكل جيد جدًا — مما يفضح المزيد من المخاطر أكثر مما هو مستعد المنظمة لمواجهته.

منصات التهديدات المتقدمة وأدوات مراقبة الويب المظلم وحلول الرؤية المزودة بقوة الذكاء الاصطناعي غالبًا ما تكشف عن بيانات اعتماد مسروقة أو نطاقات متشابهة أو نقاط ضعف غير محددة من قبل. بدلاً من خلق وضوح، يمكن أن تولد هذه الرؤية الهائلة مشكلة جديدة: من أين نبدأ؟

لقد رأيت فرقًا تعطل مسحًا متقدمًا لأن حجم النتائج خلق راحة سياسية أو ميزانية. تتطلب رؤية أفضل أولوية أفضل — و استعدادًا لمواجهة المشاكل وجهًا لوجه.

4. قفل في العقود التقليدية

حتى عندما تكون الأدوات الأفضل متاحة، فإن العديد من الشركات مقفلة في اتفاقيات مدتها سنوات مع بائعين تقليديين. تحمل بعض هذه العقود غرامات مالية شديدة لدرجة أن التبديل في منتصف المدة ليس خيارًا.

أمان البريد الإلكتروني هو حالة كلاسيكية. تقدم حلول حديثة الآن اكتشاف التهديدات مدعومًا بالذكاء الاصطناعي و نمذجة السلوك و متانة مدمجة لأنظمة الهجينة. لكن إذا لم يكن بائعك الحالي قد تبقى و أنت مقفل في صفقة مدتها خمس سنوات، فإنك في الأساس متجمد في المكان حتى انتهاء العقد.

ليس الأمر فقط يتعلق بالتكنولوجيا. إنه يتعلق بالتوقيت و الشراء و التخطيط الاستراتيجي.

5. صعود الذكاء الاصطناعي المخفي

تبني الذكاء الاصطناعي لا يحدث فقط من الأعلى إلى الأسفل — إنه يحدث في كل مكان، غالبًا بدون علم الأمن. تظهر أبحاثنا أن أكثر من 85% من الموظفين يستخدمون بالفعل أدوات الذكاء الاصطناعي مثل ChatGPT و Copilot و Bard. (ليس إلى ذكر DeepSeek و TikTok!)

بدون إشراف مناسب، قد يدخل الموظفون بيانات حساسة إلى أدوات عامة، أو يعتمدون على مخرجات غير دقيقة، أو ينتهكون سياسات الشركة عن غير قصد. إنه كابوس الامتثال وحماية البيانات، ولا ي解决 المشكلة بالتظاهر بأنه لا وجود لها.

يجب على قادة الأمن أن يأخذوا موقفًا استباقيًا من خلال:

• إعداد سياسات استخدام مقبولة
• حظر تطبيقات الذكاء الاصطناعي غير المعتمدة حيثما لزم الأمر وتوجيه تلك المستخدمين إلى أدوات موثوقة
• نشر منصات الذكاء الاصطناعي المعتمدة وآمنة للاستخدام الداخلي
• تدريب الموظفين على استخدام الذكاء الاصطناعي بشكل مسؤول

ملاحظة الحقل: سياسات استخدام الذكاء الاصطناعي لن تتغير. لا يمكنك فرض ما لا تعرف عنه، لذا الخطوة الأولى هي量 استخدام، ثم إيقاف التشغيل على فرض التنفيذ.

6. الاستعانة بمصادر خارجية تحمل مخاطرها الخاصة

قلة من الشركات لديها البنية التحتية لإنشاء واستضافة نماذج كبيرة داخلية. هذا يعني أن الاستعانة بمصادر خارجية غالبًا ما تكون الطريق الوحيد القابل للتطبيق — ولكنها تحمل مخاطر الطرف الثالث و سلسلة التوريد التي يعرفها مسؤولو أمن المعلومات جيدًا.

تسلط الحوادث مثل SolarWinds و Kaseya و اختراق Snowflake الأخير على كيفية أن الثقة في الشركاء الخارجيين بدون رؤية يمكن أن تؤدي إلى تعرضات كبيرة. عند الاستعانة بمصادر خارجية لبنى تحتية الذكاء الاصطناعي، ت наслед الوضع الأمني للبائع — جيدًا أو سيئًا.

ليس من الكافِ الثقة في العلامة التجارية. اطلب وضوحًا حول:

• دورة حياة النموذج وتواتر التحديث
• بروتوكولات الاستجابة للحوادث
• ضوابط أمن البائع وتاريخ الامتثال
• عزل البيانات ومراقبة المستأجر

7. توسع سطح الهجوم للذكاء الاصطناعي

مع تبني المنظمات للذكاء الاصطناعي، يجب عليها أيضًا الاستعداد لمجالات الهجوم المحددة للذكاء الاصطناعي. يجرّب المهاجمون بالفعل:

• تسميم النموذج (تغيير بيانات التدريب بطريقة خفية)
• حقن التوجيه (تلاعب بسلوك النماذج اللغوية الكبيرة)
• مدخلات معادية (التحايل على الكشف)
• استغلال الهلوسة (خداع المستخدمين للاعتماد على مخرجات كاذبة)

هذه ليست نظرية. إنها حقيقية ومتزايدة. مع تبني المدافعين للذكاء الاصطناعي، يجب عليهم أيضًا تعديل استراتيجيات اختبار الحمر ومراقبتهم و استجابتهم لتأخذ في الاعتبار هذا السطح الجديد والفريد للهجوم.

8. قد تكون الناس والإجراءات الحقيقية العائق

एक من التحديات الأكثر إهمالًا هي جاهزية المنظمة. غالبًا ما تتطلب أدوات الذكاء الاصطناعي تغييرات في تدفقات العمل ومهارات العقلية.

يحتاج المحللون إلى فهم متى يثقون بالذكاء الاصطناعي، ومتى يتحديونه، و كيفية التصعيد بشكل فعال. يحتاج القادة إلى دمج الذكاء الاصطناعي في عمليات اتخاذ القرار دون تلقين المخاطر تلقائيًا.

يجب أن تتطور التدريبات و الكتيبات وإدارة التغيير جنبًا إلى جنب مع التكنولوجيا. تبني الذكاء الاصطناعي ليس مجرد مبادرة تكنولوجية. إنه تحول بشري.

ماذا يمكننا فعله؟

على الرغم من التحديات، أعتقد بثقة أن فوائد الذكاء الاصطناعي في الأمن تفوق المخاطر — إذا تم تنفيذه بشكل صحيح. هذا هو كيفية نصيحتي للمنظمات للتحرك إلى الأمام:

• ابحث عن حالة استخدام محددة ذات تأثير قابل للقياس. قم بتشغيل اختبارات مراقبة. أعد تأكيد الأداء. بناء الثقة بالبيانات، وليس الدعاية.
• اجلب القانون والخطر والأمن في وقت مبكر
• لا تنتظر حتى مرحلة العقد. اجلب القانون والامتثال لمراجعة شروط معاملة البيانات والمخاطر التنظيمية وآثار سلسلة التوريد في وقت مبكر.

قياس كل شيء

تتبع معايير الأداء الرئيسية قبل وبعد التنفيذ. أنشئ لوحات تحكم تتحدث في كل من لغة الأمن و لغة الأعمال. المعايير تجعل أو تكسر تمويل الذكاء الاصطناعي.

اختر شركاء لديهم دليل حقيقي على مشاريع ناجحة في العالم الواقعي

انظر ما وراء العروض التوضيحية. اطلب المراجع. اسأل عن دعم ما بعد البيع و تعقيد النشر و النتائج في بيئات مثل بيئتك.

ماذا يأتي بعد ذلك؟ الحالات المستخدمة الناشئة التي تستحق المتابعة

ما زلنا في بداية رحلة الذكاء الاصطناعي في الأمن. قادة الأمن المتطلعون يبحثون بالفعل عن:

• مساعدات الذكاء الاصطناعي لإدارة جدار الحماية و تلقين الشؤون و تلقين الامتثال
• استخدام تدفقات التهديدات المزودة بقوة الذكاء الاصطناعي التي تسرع من استجابة التهديدات من اليوم السıfır و دقتها
• اختبار الهجوم التوليدي و محاكاة الهجوم
• بنية تحتية متعددة البائعين ذاتية العلاج
• مراقبة الهوية القائمة على المخاطر مدعومة بالذكاء الاصطناعي السلوكي

هذه الحالات المستخدمة تنتقل من مختبرات الابتكار إلى الإنتاج. المنظمات التي تبني العضلات الآن ستكون أفضل استعدادًا للاستفادة.

الفكرة النهائية: التأخير ليس الدفاع

الذكاء الاصطناعي موجود والتهديدات المزودة بالذكاء الاصطناعي موجودة أيضًا. كلما تأخرت، زادت الأرض التي تفقدونها. لكن هذا لا يعني أنك يجب أن تتسرع بدون تفكير.

مع التخطيط العناية و الحوكمة الشفافة و الشركاء المناسبين، يمكن لمنظمتك تبني الذكاء الاصطناعي بأمان — مع تعزيز القدرات دون التضحية بالسيطرة.

مستقبل الأمن هو محسّن. السؤال الوحيد هو ما إذا كنت ستقود أو تتبع.