معظم الذكاء الاصطناعي في الشركات غير آمن. هنا ما يمكن للشركات فعله

تسابق الشركات لتبني الذكاء الاصطناعي التوليدي لتبقى منافسة في أسواقها. ومع ذلك ، تواجه فرق الأمن تحديًا كبيرًا لأنها تعتمد على إطارات قديمة مصممة ل時代 تقني مختلف. الأدوات التي حمت المنظمات بنجاح لعدة عقود تترك الآن ثغرات حرجة معرضة عند互одействة الموظفين مع منصات الذكاء الاصطناعي القائمة على المتصفح. لتبني أحدث التقنيات بأمان ، يجب على الشركات إعادة التفكير بشكل كامل في كيفية التحكم في الوصول إلى المعلومات واكتشاف التهديدات الناشئة.

التهديد المتزايد للذكاء الاصطناعي المظلم في الشركات

الذكاء الاصطناعي المظلم ي出现 عندما يتجاوز الموظفون القنوات الرسمية لتقنيات المعلومات ويستخدمون أدوات الذكاء الاصطناعي من الدرجة الاستهلاكية غير المصرح بها لأداء مهام العمل. تقدم هذه المنصات سرعة وسهولة لا يمكن أن تتماشى معها العمليات الرسمية للموافقة ، مما يجعلها لا تقاوم للعاملين الذين يركزون على الإنتاجية.

كشفت الأبحاث الحديثة عن أن 73.8٪ من تفاعل الموظفين مع ChatGPT يحدث على حسابات غير شركات ، مما يعني أن المعلومات الحساسة تتدفق مباشرة إلى النماذج العامة. وبالمثل ، يصل استخدام Gemini و Bard على الحسابات الشخصية إلى 94.4٪ و 95.9٪ على التوالي.

تستلزم إسناد المهام إلى منصات خارجية غير خاضعة للفحص عواقب كبيرة. تشير التحليلات إلى أن 55٪ من فشل الذكاء الاصطناعي يأتي من هذه الحلول الخارجية ، مما يخلق مخاطر تمتد من الضرر بالسمعة إلى الخسائر المالية. غالبًا ما يلي ذلك سوء ثقة العملاء وغرامات الامتثال والقضايا القانونية. بالنسبة للشركات التي تستخدم أدوات الذكاء الاصطناعي الخارجية دون إجراء تحليل للمخاطر قبل النشر ، هذا أمر مخيف.

بدون إرشادات قابلة للتنفيذ ، يتجاوز الموظفون المعلومات الحساسة للشركة ، مما يخلق مسؤوليات كبيرة عن الخصوصية ، بينما تفتقر العديد من المنصات الخارجية إلى الإجراءات الأمنية الصارمة اللازمة لحماية السجلات التجارية السرية. يمكن أن تؤدي سياسات تخزين البيانات وممارساتها عبر هذه الحلول إلى كشف معلومات العملاء وسجلات مالية محتملة للانتهاكات.

لماذا تفشل منع فقدان البيانات التقليدية

تم تصميم أدوات منع فقدان البيانات التقليدية لمنع تنزيل الملفات أو إرسالها عبر مرفقات البريد الإلكتروني. هذه الحلول تتميز في الغرض الأصلي لها ولكن تواجه تحديًا أساسيًا في عصر الذكاء الاصطناعي القائم على المتصفح. على سبيل المثال ، لا يمكنها مراقبة أو حظر النص الذي يضفه الموظف يدويًا أو يلصقه مباشرة في نافذة تحفيز الذكاء الاصطناعي ، مما يخلق نقطة عمياء في تغطية الأمان التي تزداد مشكلة مع كل ربع.

يصبح الفجوة واضحة عند فحص ما يمكن لهذه الأدوات حماية ما لا يمكن حماية:

• يحمي منع فقدان البيانات: تنزيل الملفات ، مرفقات البريد الإلكتروني ، نقل USB ، وتحميل المستندات
• يفتقد منع فقدان البيانات: إجراءات النسخ واللصق في نوافذ المتصفح ، التحفيزات المكتوبة يدويًا ، والصور المحولة إلى نص والمدخلات النصية المباشرة لتطبيقات الويب

随着 تسارع تبني الذكاء الاصطناعي عبر المنظمات ، تتوسع هذه الفجوة وتخلق ممرًا لتهريب المعلومات الذي لم تكن البنية الأمنية التقليدية مصممة لمواجهته. ت发现 فرق الأمان نفسها في موقف استجابي ، حيث تكتشف انتهاكات الأمان فقط بعد أن تكون المحتوى الحساس قد غادر بالفعل سيطرة المنظمة.

ما هو أفضل نهج للذكاء الاصطناعي الآمن في الشركات؟

التمسك بحلول منع فقدان البيانات التقليدية مع تجاهل واقع تبني الذكاء الاصطناعي لا يشكل استراتيجية تجارية قابلة للتطبيق على المدى الطويل. تحتاج الشركات إلى تحديث أنفسها إلى اكتشاف التهديدات التي تقودها الذكاء الاصطناعي والتي تكيفت مع الهجمات الجديدة وتفرض حدود صارمة على استخدام الذكاء الاصطناعي لحماية المعلومات الحساسة. تكمل ممارسات الحوكمة المركزية لمنع الكشف العرضي هذا الأساس الأمني.

تحويل إلى سياق متعدد الطبقات للذكاء الاصطناعي

تعتمد أدوات الكشف عن التهديدات التقليدية على قواعد استجابة تبحث عن التوقيعات التاريخية للهجمات المعروفة. هذا النهج إما يولد إيجابيات كاذبة زائدة من خلال وضع علامة على سلوك الموظف العادي على أنه مشبوه أو ي忽ن الهجمات الجديدة التي لا تتطابق مع أي نمط سابق في قاعدة البيانات.

على سبيل المثال ، أدركت مستشفى Artesia General هذه القيود في حماية عمليات الرعاية الصحية والنظم الإلكترونية ، مما أدى إلى نشر تقنية Darktrace. بدون قائمة مسبقة بالتهديدات ، تعلم المنصة كل جهاز ومستخدم وتفاعل داخل شبكة المستشفى لتطوير فهم لما يبدو عليه السلوك العادي من الأساس.

يحقق مكون Cyber AI Analyst التحقيقات باستخدام طرق تشبه تحليلات الإنسان بينما يربط بين الشذوذ الدقيقة التي قد تشير إلى تهديدات حقيقية لسجلات المرضى وعمليات المستشفى. النظام يفحص تلقائيًا تهديدات الشبكة في Artesia لتحديد ما هي التحذيرات التي تمثل حوادث أمنية حقيقية.

يقلل هذا النهج متعدد الطبقات من الإيجابيات الكاذبة التي تثقل كاهل فرق الأمان. عند الانتقال من 100 تحذير آمن يوميًا إلى ثلاثة تحذيرات حرجة فقط تتطلب انتباهًا بشريًا ، يضيق تركيزهم. يحصل المحللون على المعلومات التي يحتاجونها بدقة دون قضاء ساعات على التحقيق اليدوي.

فرض سياسات استخدام داخلية صارمة للذكاء الاصطناعي

تتمثل في تحديد حدود صارمة وتنفيذ حواجز تقنية تتحكم في ما يمكن أن يدخل إلى نماذج الذكاء الاصطناعي العامة ، مما يعالج الثغرات التي لا يمكن لحلول منع فقدان البيانات التقليدية إغلاقها بمفردها.

توفر سامسونج مثالًا حذرًا لما يحدث عندما يصل الموظفون إلى أدوات الذكاء الاصطناعي دون حواجز تقنية كافية. في غضون 20 يومًا بعد السماح للوصول إلى ChatGPT في أبريل 2023 ، عانت الشركة من ثلاثة تسريبات منفصلة أذاعت معلومات سرية للغاية عبر عدة أقسام.

لصق المهندسون قاعدة بيانات مصدر شفرة نیمكونDUCT في ChatGPT للتحقق من أخطاء البرمجة ، مما كشف عن تفاصيل حيوية حول عمليات التصنيع في سامسونج. في حادثة أخرى ، قام موظف بتحميل شفرة متخصصة مصممة لتحديد عيوب المعدات بينما كان يبحث عن اقتراحات لتحسينها. كما قام الموظفون بتحويل الاجتماعات المسجلة إلى نص قبل إطعام هذه النصوص إلى ChatGPT لتوليد دقائق تلقائية.

مرة واحدة يدخل المعلومات إلى قاعدة بيانات نموذج الذكاء الاصطناعي العام ، لا يوجد زر حذف لإعادة استردادها أو مسحها من قاعدة المعرفة. في النهاية ، حظرت سامسونج ChatGPT بالكامل لأن المحتوى المخترق لا يمكن استعادته.

تأسيس حوكمة بيانات مركزية

حل الذكاء الاصطناعي في الشركات آمن فقط كما هو INFORMATION يمكنه الوصول إليه داخل المنظمة ، وتشكل معايير الأذونات الموحدة عبر جميع الأنظمة أساس نشر الذكاء الاصطناعي الآمن. عندما تعاني شبكة الشركة الداخلية من أذونات غير متسقة وممارسات إدارة متفرقة ، يمكن لأدوات الذكاء الاصطناعي المعتمدة أن تكشف عن ملفات الموارد البشرية أو السجلات المالية سرية بشكل غير مقصود إلى موظفين غير مخولين.

على سبيل المثال ، واجهت AXIS Capital هذا التحدي بشكل مباشر عند التعامل مع منصات السياسات والclaims المنفصلة والمجزأة عبر جغرافيات مختلفة. كان كل خط أعمال قد أنشأ معايير مرجعية إ报 cáo riêng ، مما أدى إلى أخطاء في التسعير والتأمين والتعديلات على المطالبات التي جعلت الإبلاغ على مستوى الشركات صعبًا للغاية.

طوّرت شركة التأمين استراتيجية على مستوى المنظمة باستخدام استمارة رعاية على الويب وقواعد أمان صارمة لتوحيد التصنيفات المرجعية الأساسية. بدءًا من نظام التصنيف الصناعي الشمالي الأمريكي ورموز التصنيف الصناعي القياسية ، ثم توسع AXIS إلى رموز التصنيف والتأمين التي كانت قد تباينت في السابق حسب الموقع.

من خلال تنفيذ إدارة البيانات المركزية والسيطرة ، أنشأت الشركة مصدرًا واحدًا آمنًا للtruth يمكن الوصول إليه عبر جميع العمليات. هذا أزال التناقضات التي كانت قد عانت منها منصاتها في حين سمح لAXIS بتسريع العمليات الأساسية للتأمين مثل تقديم عروض جديدة ، وتقليل المخاطر التشغيلية ، وتحقيق تحليلات موثوقة على مستوى الشركات.

ضمان مستقبل الابتكار في الشركات

تبني الذكاء الاصطناعي في الأعمال أمر لا مفر منه حيث تتنافس المنظمات من أجل الحصول على ميزة سوقية. سوف يسرع الاعتماد على الإطارات الأمنية التقليدية وممارسات الحوكمة غير المنظمة من التسريبات وانتهاكات الامتثال. السؤال ليس ما إذا كانت الشركات سوف تتبنى الذكاء الاصطناعي ، ولكن ما إذا كانت سوف تفعل ذلك بأمان. من خلال تنفيذ اكتشاف التهديدات التي تقودها الذكاء الاصطناعي وتأسيس الرقابة الصارمة على الوصول إلى المعلومات ، يمكن للشركات أن تتبنى ابتكارات الذكاء الاصطناعي مع حماية المحتوى الأكثر حساسية.