المخاطر الخفية للذكاء الاصطناعي الخفي

لم يخطط معظم فرق الشركات لتسلم الذكاء الاصطناعي عملياتهم. بدأ الأمر بأدوات بسيطة وعدت بكتابة أسرع، واجتماعات أكثر سلاسة، ورسائل إخبار أفضل. قام الموظفون بتثبيت مساعدي الذكاء الاصطناعي في متصفحاتهم، ووصلوهم بالبريد الإلكتروني، وأضافوهم إلى زوم و실험وا مع Slack و Google Workspace.

لكن تلك التجارب الأولى انتقلت بسرعة أكبر من التحكم الشركي وانتشرت عبر أنظمة SaaS التي تعمل على تشغيل الشركات بأكملها حتى أصبحت الذكاء الاصطناعي متأصلاً في العمل اليومي. وهذا بالضبط كيف ظهر الذكاء الاصطناعي الخفي، وهو واحد من أخطر المخاطر غير المقدرة في الشركات الحديثة اليوم، ونمو داخل معظم المنظمات قبل أن يدرك القادة مدى ارتباطه العميق بالبيانات الحساسة.

يشير الذكاء الاصطناعي الخفي إلى أدوات الذكاء الاصطناعي التي تعمل داخل المنظمة دون موافقة، ودون رؤية، وغالبًا بدون حماية. بمجرد أن تدمج هذه الأدوات مباشرة مع منصات مثل Salesforce و Zoom و Microsoft 365، فإنها تكتسب الوصول إلى المعلومات التي يفترض أن تكون آمنة. والخطر يظهر بالفعل في فشل الامتثال، وحركات البيانات غير الخاضعة للرقابة، وحوادث حيث يتخذ وكلاء الذكاء الاصطناعي إجراءات لا أحد يتوقعها.

لقد قمنا بعمل سنوات مع شركات اعتقدت أنها لديها برامج أمنية قوية. ومع ذلك، عندما ساعدنا في التحقيق في بيئات SaaS الخاصة بهم، اكتشفوا مئات من الاتصالات النشطة بالذكاء الاصطناعي التي لم يؤذنوا بها. كانت بعض هذه الاتصالات نشطة لمدة أشهر، في حين أن البعض الآخر ينتمي إلى موظفين غادروا الشركة بالفعل. ينمو الذكاء الاصطناعي الخفي بهدوء لأنه يتحرك بسرعة أكبر من الحوكمة وأسرع من معظم المنظمات التي تم إنشاؤها للكشف.

أنابيب البيانات غير المرئية

ت开始 القصة غالبًا بنوايا نبيلة: ممثل مبيعات يريد كتابة رسائل إلكترونية أفضل، أو مدير نجاح العملاء يريد نسخًا من الاجتماعات المهمة، أو مهندس يريد طريقة أسرع لمراجعة الشفرة. تجعل أدوات الذكاء الاصطناعي هذه المهام سهلة التنفيذ، لذلك يعتمد الموظفون عليها بسرعة. لكن الاعتماد هو فقط الخطوة الأولى.

تطلب العديد من هذه الأدوات صلاحيات واسعة عبر OAuth أو امتدادات المتصفح أو مفتاح API. بمجرد منحها، تكتسب الوصول إلى سجلات CRM، وملاحظات العملاء، ورسائل داخلية أو شفرة مصدر سرية.

لقد رأينا ما يحدث بعد ذلك. في حالة واحدة، اكتشف فريق أن مساعد الذكاء الاصطناعي المتصل بSalesforce قد أنشأ أكثر من أربعمائة تقرير في نهاية الأسبوع. في البداية، افترض الجميع أن هذا خطأ في النظام. ومع ذلك، حصل الذكاء الاصطناعي على وصول واسع. بدأ في توفير المهام بسرعة لا يمكن لمحلل بشري أن يحاولها. ظهرت توقعات المبيعات الحساسة ومعلومات العملاء في أماكن لا ينبغي أن تكون فيها، فقط لأن أداة الذكاء الاصطناعي قررت أن تعمل.

نشرت منظمة أخرى خدمة نسخ الذكاء الاصطناعي لمساعدة فرقها المواجهة للعملاء. سجلت كل اجتماع وجابت تفاصيل حول الأسعار، وقضايا العملاء، والخطط القادمة، والرؤى التنافسية. كل هذه المعلومات ذهبت مباشرة إلى نظام طرف ثالث بدون اتفاقية وبدون رؤية لكيفية تخزين البيانات أو استخدامها. تحدث حوادث مثل هذه أكثر فأكثر لأن أدوات الذكاء الاصطناعي تعمل بشكل مختلف عن البرامج التقليدية. تقرأ المزيد من البيانات وتتحرك بسرعة، وغالبًا ما تعمل بدون حدود واضحة.

随着 تسارع اعتماد الذكاء الاصطناعي، سوف يستمر سطح الهجوم في الاتساع. يعد ظهور بروتوكول سياق النموذج على وجه الخصوص جعل الذكاء الاصطناعي أكثر قوة من خلال السماح للوكلاء بالتفاعل مباشرة مع بيانات الشركات. ومع ذلك، فإن هذا الراحة يفتح أيضًا أبوابًا جديدة للهجمات على سلسلة التوريد وترقية الامتيازات.

يجب على التنفيذيين أن يفهموا أن الذكاء الاصطناعي الحديث لا يناسب النماذج الأمنية القديمة التي لا تزال الشركات تعتمد عليها، لأن أدوات الذكاء الاصطناعي هذه تعيش داخل أنظمتك، وليس على الحافة، مما يجعلها أكثر صعوبة في الكشف عنها وأصعب في الإدارة.

limitations of Traditional Security Tools

تم بناء معظم البرامج الأمنية من أجل عالم حيث تعيش التطبيقات داخل شبكة الشركة ويتصل المستخدمون من خلال أنماط متوقعة. ومع ذلك، فقد كسر الذكاء الاصطناعي هذا النموذج. تعيش الأدوات الحديثة داخل منصات SaaS، وليس على خوادم الشركة. تت沟通 عبر واجهات برمجة التطبيقات، وليس عبر الشبكات. تقرأ وكتابة البيانات بشكل مستمر، وتتصرف بطرق لا يمكن أن تفهمها أنظمة المراقبة التقليدية.

تظهر خبرتنا أن المنظمات غالبًا ما تقلل من شأن عدد أدوات الذكاء الاصطناعي في بيئتها. لا يعرف العديد منهم أي التكاملات النشطة أو مدة وجود الصلاحيات. يفترض البعض الآخر أن تسجيل الدخول الوحيد أو قواعد جدار الحماية كافية لضمان سلامتهم. لا هم كذلك. يزدهر الذكاء الاصطناعي الخفي في أنظمة الهوية، وطبقات الصلاحيات، والتكاملات مع الطرف الثالث التي نادرًا ما يراجعها فرق الأمن. إنه يختبئ في الأماكن التي لا تنظر الشركات إليها وفي الأدوات التي يقوم الموظفون بتثبيتها لأنهم يريدون التحرك بسرعة.

يجعل تحول الذكاء الاصطناعي المدمج هذا العمل أكثر صعوبة. تتم تسليم منصات مثل Microsoft 365 و Google Workspace و Slack و Salesforce الآن مع قدرات الذكاء الاصطناعي المدمجة. بعضها ممكن تمكينه افتراضيًا. يمكن تنشيط البعض الآخر بنقرة واحدة. قد تكون المنظمات تستخدم بالفعل ميزات الذكاء الاصطناعي دون أن تدرك ما البيانات التي تستهلكها تلك الميزات أو كيف تخزن تلك الأنظمة الإخراج. يأتي الخطر ليس فقط من ما يضيفه الموظفون، ولكن أيضًا من ما يقدمه البائعون.

استعادة السيطرة

يجب اعتبار الذكاء الاصطناعي الخفي فشلًا للموظفين. بدلاً من ذلك، إنه نتيجة طبيعية للتقدم التقني السريع، ويحتاج القادة إلى رؤية، وليس اللوم. الخطوة الأولى هي افتراض وجود الذكاء الاصطناعي الخفي وبدء خريطة لمكان التفاعل الحالي للذكاء الاصطناعي مع الأنظمة الحيوية. الخطوة الثانية هي إنشاء مجموعة موافق عليها من أدوات الذكاء الاصطناعي بحيث يمكن للفرق أن تحصل على الابتكار بأمان. من غير الواقعي حظر الذكاء الاصطناعي، وتوفير خيارات آمنة هو الطريق المستدام الوحيد.

مراقبة الوقت الحقيقي ضرورية أيضًا. لا يمكن لمراجعات الربع السنوي مواكبة الأدوات التي يمكن أن تسرق البيانات في ساعات. تحتاج المنظمات إلى رؤية مستمرة لماذا وكلاء الذكاء الاصطناعي نشطون، وما الصلاحيات التي يحملونها، وما إذا كانت تلك الصلاحيات تتماشى مع الوصول الأقل امتيازًا. عندما نعمل مع فرق التنفيذيين، نشجعهم على طرح أسئلة مباشرة: أي الأدوات تصل إلى أنظمة العملاء، وأي الأدوات تصل إلى بيئات الإنتاج، وأي الأدوات لا تزال نشطة بعد مغادرة المستخدمين؟

لقد رأينا منظمات تحول هذا الارتباك إلى وضوح. بمجرد أن يرى القادة أين يعمل الذكاء الاصطناعي داخل أنظمتهم، يمكنهم وضع الحدود الصحيحة في المكان وترك الفرق تستخدمه بأمان. هذا هو عندما يتوقف الذكاء الاصطناعي عن كونه خطرًا ويتحول إلى ميزة حقيقية.

الذكاء الاصطناعي الخفي ليس شيئًا سيأتي في المستقبل. إنه موجود بالفعل. ولكن المنظمات التي تتعامل معه قبل أن ينمو إلى أزمة ستقود عصر الذكاء الاصطناعي.