قادة الفكر

الذكاء الاصطناعي موجود بالفعل داخل عملك. إذا لم تقم بتأمينه، فأنت متأخر

Gil Geron
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالذكاء الاصطناعي الخفي يخلق مخاطر غير مرئية لا يمكن للسياسات وحدها أن تمنعها.
عرض المزيد
  • الذكاء الاصطناعي الخفي يخلق مخاطر غير مرئية لا يمكن للسياسات وحدها أن تمنعها.
  • أمن الذكاء الاصطناعي يتطلب أدوات جديدة لأن وسائل الدفاع التقليدية لا تستطيع تتبع النماذج.
  • يجب على مدراء الأمن التنفيذيين تمكين اعتماد الذكاء الاصطناعي بشكل آمن بدلاً من محاولة حظره.

سواءً أطلقت الذكاء الاصطناعي رسميًا عبر مؤسستك أم لا، فهو موجود بالفعل. الموظفون يستخدمون ChatGPT لصياغة المستندات، وربما يحمّلون بيانات حساسة إلى الأدوات عبر الإنترنت لتسريع التحليل، ويعتمدون على الأدوات التوليدية لتقليل الوقت في كل شيء من code إلى خدمة العملاء. الذكاء الاصطناعي يحدث معك أو بدونك، وهذا يجب أن يبقي مسؤولي الأمن السيبراني مستيقظين طوال الليل.

هذا الانتشار الهادئ للأدوات غير المراجعة للذكاء الاصطناعي عبر جميع الأقسام قد خلق طبقة جديدة سريعة النمو من تكنولوجيا الظل. إنها لامركزية، غير مرئية إلى حد كبير، ومليئة بالمخاطر. من انتهاكات الامتثال إلى تسرب البيانات واتخاذ القرارات غير القابلة للتتبع، عواقب تجاهل هذه الموجة من استخدام الذكاء الاصطناعي واقعية. ومع ذلك لا يزال الكثير من الشركات يعتقدون أنهم يستطيعون كبحها بالسياسات أو الجدران النارية.

الحقيقة هي أن الذكاء الاصطناعي لا يمكن حظره. يمكن فقط تأمينه. وكلما قبلت الشركات ذلك أسرع، كلما تمكنت من سد الفجوات الخطرة التي فتحها الذكاء الاصطناعي بالفعل.

الذكاء الاصطناعي الظل يتسلل إلى المؤسسات، وهو نقطة عمياء أمنية

لقد رأينا هذا النمط من قبل. انتشرت تبني السحابة في أوائل العقد الأول من القرن الحادي والعشرين بهذه الطريقة، حيث سعت الفرق إلى الأدوات التي تساعدها على التحرك بسرعة، غالبًا دون موافقة فريق الأمن. حاولت العديد من فرق الأمن مقاومة التغيير، إلا أنها اضطرت إلى القيام بعمليات تنظيف رد فعلية بمجرد حدوث خروقات أو تكوينات خاطئة أو فشل في الامتثال.

اليوم، يحدث الشيء نفسه مع الذكاء الاصطناعي. وفقًا 2024 State of AI Security Report، أكثر من نصف المؤسسات تستخدم الذكاء الاصطناعي لتطوير تطبيقاتها المخصصة، ومع ذلك القليل منها يمتلك رؤية حول مكان وجود تلك النماذج، وكيفية تكوينها، أو ما إذا كانت تكشف عن بيانات حساسة.

هذا يخلق خطرين:

  1. الموظفون يستخدمون أدوات عامة للوصول إلى بيانات مملوكة أو حساسة، مما يعرض تلك المعلومات لأنظمة خارجية دون إشراف.
  2. الفرق الداخلية تنشر نماذج الذكاء الاصطناعي دون ضوابط أمان كافية، مما ينتج ثغرات يمكن استغلالها وممارسات سيئة قد تفشل في عمليات التدقيق.

الذكاء الاصطناعي الظل ليس مجرد قضية أمنية، بل يمكن أن يكون أزمة حوكمة. إذا لم تستطع رؤية أين يُستخدم الذكاء الاصطناعي، لا يمكنك إدارة كيفية تدريبه، أو البيانات التي يمكنه الوصول إليها، أو المخرجات التي يولدها. وإذا لم تقم بتتبع قرارات الذكاء الاصطناعي، تفقد القدرة على شرحها أو الدفاع عنها، مما يتركك عرضة للمخاطر التنظيمية أو السمعة أو التشغيلية.

لماذا تفشل الأدوات الأمنية التقليدية

معظم الأدوات الأمنية لم تُصمم للتعامل مع الذكاء الاصطناعي. فهي لا تتعرف على قطع نماذج الذكاء الاصطناعي، ولا تستطيع مسح مسارات البيانات الخاصة بالذكاء الاصطناعي، ولا تعرف كيف تتعقب تفاعلات نماذج اللغة الكبيرة أو تفرض حوكمة النماذج. حتى الأدوات الموجودة تميل إلى التركيز على أجزاء ضيقة من اللغز، مما يترك المؤسسات تتعامل مع حلول نقطية دون رؤية متكاملة.

هذه مشكلة. لا يمكن أن يكون أمان الذكاء الاصطناعي فكرة لاحقة أو إضافة ثانوية. يجب دمجه في طريقة إدارة بيئة السحابة، وحماية البيانات، وهيكلة خطوط أنابيب DevSecOps. وإلا فإنك تقلل من أهمية الذكاء الاصطناعي المتزايدة في عملياتك وتفوت فرصة تأمينه كجزء أساسي من بنية عملك التحتية.

أسطورة “فقط احظره” يجب أن تنتهي

من السهل التفكير أنك تستطيع حل ذلك بحظر شامل عبر سياسات “لا أدوات ذكاء اصطناعي من طرف ثالث” أو “لا تجارب داخلية”. لكن هذا مجرد تفكير أمل. ببساطة، الموظفون اليوم يستخدمون أدوات الذكاء الاصطناعي لإنجاز أعمالهم بسرعة أكبر. وهم لا يفعلون ذلك بنية خبيثة، بل لأن ذلك ينجح.

الذكاء الاصطناعي هو مضاعف قوة، وسيستمر الناس في اللجوء إليه طالما يساعدهم على الوفاء بالمواعيد النهائية، وتقليل الجهد، أو حل المشكلات بسرعة.

محاولة حظر هذا السلوك تمامًا لن توقفه. بل سيقوده إلى مزيد من العمل تحت الأرض. وعندما يحدث خطأ ما، ستكون في أسوأ وضع ممكن دون رؤية، ولا سياسات، ولا خطة للاستجابة.

اعتمد الذكاء الاصطناعي بشكل استراتيجي، آمن، ومرئي

النهج الأكثر ذكاءً هو تبني الذكاء الاصطناعي بشكل استباقي، ولكن وفقًا لشروطك. يبدأ ذلك بثلاثة أشياء:

  1. قدّم للموظفين خيارات آمنة ومصرح بها. إذا أردت توجيه الاستخدام بعيدًا عن الأدوات الخطرة، عليك تقديم بدائل آمنة. سواء كانت نماذج لغة داخلية، أو أدوات طرف ثالث تم مراجعتها، أو مساعدين ذكاء اصطناعي مدمجين في الأنظمة الأساسية، المفتاح هو تلبية احتياجات الموظفين بأدوات سريعة ولكن أكثر أمانًا.

  2. حدد سياسات واضحة وطبقها. تحتاج حوكمة الذكاء الاصطناعي إلى أن تكون محددة، قابلة للتنفيذ، وسهلة المتابعة. ما نوع البيانات التي يمكن مشاركتها مع أدوات الذكاء الاصطناعي؟ ما هي الخطوط الحمراء؟ من المسؤول عن مراجعة واعتماد مشاريع الذكاء الاصطناعي الداخلية؟ انشر سياساتك وتأكد من وجود آليات تنفيذ، تقنية وإجرائية، في مكانها.

  3. استثمر في الرؤية والمراقبة. لا يمكنك تأمين ما لا تراه. تحتاج إلى أدوات يمكنها اكتشاف استخدام الذكاء الاصطناعي الخفي، وتحديد مفاتيح الوصول المكشوفة، وإشارة إلى النماذج غير المُكوَّنة بشكل صحيح، وتسليط الضوء على الأماكن التي قد يتسرب فيها البيانات الحساسة إلى مجموعات التدريب أو المخرجات. إدارة وضع الذكاء الاصطناعي أصبحت بسرعة ذات أهمية مماثلة لإدارة وضع أمان السحابة.

يحتاج المسؤولون التنفيذيون للأمن (CISOs) إلى قيادة هذا التحول

سواء أعجبك ذلك أم لا، فإن هذه لحظة حاسمة لقيادة الأمن. لم يعد دور المسؤول التنفيذي للأمن (CISO) يقتصر على حماية البنية التحتية فقط. بل أصبح يتعلق أكثر بتمكين الابتكار بأمان، مما يعني مساعدة المؤسسة على استخدام الذكاء الاصطناعي للتسريع مع ضمان دمج الأمن والخصوصية والامتثال في كل خطوة.

هذا النوع من القيادة يبدو كالتالي:

  • تثقيف مجلس الإدارة والتنفيذيين حول المخاطر الفعلية مقابل المتصورة للذكاء الاصطناعي
  • إنشاء شراكات مع فرق الهندسة والمنتج لدمج الأمن في مراحل مبكرة من نشر الذكاء الاصطناعي
  • الاستثمار في أدوات حديثة تفهم كيفية عمل أنظمة الذكاء الاصطناعي
  • بناء ثقافة يكون فيها الاستخدام المسؤول للذكاء الاصطناعي مسؤولية الجميع

ليس من الضروري أن يكون المسؤول التنفيذي للأمن (CISO) خبيرًا في الذكاء الاصطناعي داخل الغرفة، لكنه يجب أن يكون هو من يطرح الأسئلة الصحيحة. ما النماذج التي نستخدمها؟ ما البيانات التي تغذيها؟ ما الحواجز الوقائية الموجودة؟ هل يمكننا إثبات ذلك؟

الخلاصة: عدم اتخاذ أي إجراء هو أكبر مخاطر على الإطلاق

الذكاء الاصطناعي يغيّر بالفعل طريقة عمل أعمالنا. سواء كان ذلك فرق خدمة العملاء التي تُعد ردودًا أسرع، أو فرق المالية التي تحلل التوقعات، أو المطورين الذين يسرّعون سير عملهم، فإن الذكاء الاصطناعي مدمج في العمل اليومي. تجاهل هذه الحقيقة لا يبطئ الاعتماد، بل يدعو إلى وجود نقاط عمياء، وتسريبات بيانات، وفشل تنظيمي.

أخطر مسار للمستقبل هو الجمود. يجب على المسؤولين التنفيذيين للأمن (CISOs) وقادة الأمن قبول ما هو حقيقي بالفعل: الذكاء الاصطناعي موجود. إنه في أنظمتك، وهو في سير عملك، ولن يختفي. السؤال هو ما إذا كنت ستؤمنه قبل أن يتسبب في أضرار لا يمكن التراجع عنها.

احتضن الذكاء الاصطناعي، لكن لا تفعل ذلك أبدًا دون عقلية أمان أولاً. فهذا هو السبيل الوحيد للبقاء في الصدارة أمام ما سيأتي لاحقًا.

جيل جيرون هو الرئيس التنفيذي والشريك المؤسس لشركة Orca Security. يتمتع بخبرة تزيد على 20 عامًا في قيادة تطوير منتجات الأمن السيبراني وتقديمها. وقبل توليه منصب الرئيس التنفيذي، شغل منصب الرئيس التنفيذي للمنتجات منذ تأسيس الشركة. وهو يولي رضا العملاء اهتمامًا كبيرًا، وقد عمل معهم عن كثب لضمان قدرتهم على النمو بأمان في السحابة. يلتزم جيل بتقديم حلول أمن سيبراني سلسة دون المساس بالكفاءة. وقبل مشاركته في تأسيس Orca Security، قاد فريقًا كبيرًا من المتخصصين في الأمن السيبراني في Check Point Software Technologies.