لماذا تزيد الحظر على الذكاء الاصطناعي من المخاطر الأمنية وكيف يجب على المؤسسات الاستجابة

عبر الولايات المتحدة، تتحرك المناطق التعليمية والمنظمات الحكومية لتحديد أو حظر الوصول إلى تقنيات الذكاء الاصطناعي التوليدي (GenAI) أو أدوات معينة. في كولورادو، حظرت منطقة مدرسة بوالدر فالي مؤخرًا ChatGPT على شبكات المنطقة، مستشهدة بقلق بشأن الإساءة، السلامة، والنزاهة الأكاديمية.

الانطباع عن الحد من التعرض للحوادث الأمنية أو إساءة استخدام البيانات هو مفهوم. المنصات التي تفتقر إلى حواجز أمنية قوية أو التزامات خصوصية غير واضحة، مثل DeepSeek، تستحق الحظر والفحص. لكن حظر الوصول إلى أدوات GenAI لا يقلل من المخاطر بشكل معنوي؛ إنه يتحول ببساطة إلى بيئات حيث تختفي الإشراف.

وجدت دراسة أجريت بواسطة College Board أن 84% من طلاب المدارس الثانوية أبلغوا عن استخدام GenAI لأعمال المدرسة، حتى مع أن 45% من المديرين أبلغوا عن بعض القيود على الوصول إلى الذكاء الاصطناعي في المدرسة. وبالمثل، وجد تقرير من IBM أن 80% من موظفي المكتب يستخدمون الذكاء الاصطناعي، لكن فقط 22% يعتمدون حصريًا على أدوات الموظفين المقدمة من أصحاب العمل.

سياسات الوصول وحدها لا تحدد السلوك. يمكن للطلاب سحب هواتفهم واستخدام أي أداة ذكاء اصطناعي عبر شبكة البيانات الخلوية، أو استخدام المنصة أثناء وجودهم في المنزل أو على واي فاي العامة. يمكنهم أيضًا استخدام VPNs و سطح المكتب البعيد و الإضافات لتجاوز القيود. يمكن لموظفي المكتب القيام بذلك أيضًا لتجاوز سيطرة مكان العمل.

ينبغي للمنظمات أن تفترض أنه عندما يكون هناك إرادة لاستخدام الذكاء الاصطناعي، هناك طريقة. عندما تقيد التكنولوجيا بطريقة تدفع الاستخدام إلى ما وراء الرؤية المؤسسية، تزيد مخاطر الذكاء الاصطناعي الخفي. لا يوجد إشراف على ما يتم إدخاله في الاستدلالات أو ما البيانات يتم الاحتفاظ بها بواسطة النموذج. يفقد أي سيطرة على الأمن على الفور.

علاوة على مخاطر الذكاء الاصطناعي الخفي، تخلق الحظر فجوة في المعرفة، تترك الطلاب غير مستعدين تمامًا لاستخدام التكنولوجيا التي ستكون جزءًا كبيرًا من مستقبلهم. هذه الأدوات تتم تضمينها بشكل متزايد في محركات البحث، منصات الأعمال، حزم الإنتاجية، والأجهزة الشخصية. وجدت دراسة من Pew Research أن 62% من البالغين في الولايات المتحدة يقولون إنهم يتفاعلون مع الذكاء الاصطناعي على الأقل عدة مرات في الأسبوع. من المؤكد تقريبًا أن الطلاب والموظفين سوف يواجهون أنظمة GenAI بغض النظر عن سياسات المؤسسة.

في هذا البيئة، التعليم هو الحاجز الأكثر موثوقية ضد القلق بشأن الإساءة أو الأمن، وضمان أن الطلاب والعاملين على حد سواء مستعدون جيدًا لاستخدام أداة ستكون حيوية لمسيرتهم المهنية. تعليم الاستخدام المسؤول والأخلاقي يجهز المستخدمين للاعتراف بمخاطر البيانات واتخاذ قرارات مستنيرة في أي مكان يلتقون بهذه الأنظمة.

ينبغي أن تركز برامج التعليم على كيفية معالجة نماذج اللغة الكبيرة (LLMs) للبيانات و الاحتفاظ بها، وكيفية تحديد الهلوسة، وكيفية التحقق من مخرجات الذكاء الاصطناعي المولدة، وكيفية تحديد حملات الاحتيال والصور المولدة بواسطة الذكاء الاصطناعي، على سبيل المثال لا الحصر. علّم المستخدمين أن يكونوا شكاكًا. غالبًا ما يتم تقديم مخرجات الذكاء الاصطناعي بثقة وبلغة منقحة، مما يمكن أن يخلق وهمًا في السلطة. بدون تدريب، قد يفترض المستخدمون أن الإجابة المنسقة جيدًا هي دقيقة بطبيعتها.

القدرة على تساؤل المحتوى الرقمي هي خط الدفاع الأول مع تصاعد الهجمات الخبيثة المزيفة والهجمات على تطبيقات الذكاء الاصطناعي. وجدت دراسة من Gartner أن 62% من المنظمات تعرضت لهجوم مزيّف في العام الماضي، و 32% واجهت هجومًا على تطبيقات الذكاء الاصطناعي. من المتوقع أن تظل وتيرة ومدى هذه الحوادث في تصاعد.

المنظمات الحكومية، مثل المدارس والحكومات المحلية، معرضة بشكل خاص للهندسة الاجتماعية المزيفة لأن الكثير من أنشطتها يتم تسجيلها وتوزيعها علنًا. يمكن تحرير مقاطع صوتية من الاجتماعات العامة و استخدامها لإنشاء مكالمات صوتية مقنعة. لقد رأينا ممثلي التهديدات يستخدمون هذا للاحتيال، مثل إعادة توجيه الأموال خلال المعاملات الحساسة. بينما يحدث هذا بشكل شائع في الحالات المستهدفة، المستخدمون الذين لم يتم تدريبهم على التعرف على هذه التقنيات، أو حتى يعرفون أنها ممكنة، هم في وضع غير متميز من البداية.

بعد التعليم، ينبغي للمنظمات أن تكون لديها سياسات واضحة متعلقة باستخدام الذكاء الاصطناعي والحوكمة. هذه السياسات يجب أن تحدد الأدوات المعتمدة، وحالات الاستخدام المقبولة، وما البيانات التي يمكن إدخالها في أي نموذج. يجب تطبيق السياسات بشكل متسق عبر الإدارات بدلاً من اختلافها من فصل دراسي إلى آخر أو مكتب إلى آخر. التوقعات الواضحة تقلل من الغموض وتعزز المساءلة.

بدلاً من الحظر الشامل، ينبغي للمنظمات أن تسعى إلى تشكيل كيفية استخدام التكنولوجيا في الممارسة. عندما يقرّ المؤسسة أداة يمكن الوصول إليها وأمنها وجيدة، تصبح هذه الأداة هي الافتراضية لمعظم المستخدمين. ينخفض استخدام الذكاء الاصطناعي الخفي بشكل هامشي لأن هناك بديلًا واضحًا لا يتضمن تنزيل VPN لاستخدامه.

تسعى المنظمات والمؤسسات إلى توفير وصول آمن إلى LLMs بطريقة تتم فيها حماية بياناتها وعدم مشاركتها أو استخدامها للتدريب. هناك فئة متزايدة من أدوات تمكين الذكاء الاصطناعي والأمان تظهر لتحقيق ذلك. يمكنهم توفير الوصول إلى عدة LLMs مع الحفاظ على بيانات المؤسسة في حاويات آمنة. اتفاقيات عدم الاحتفاظ بالبيانات توفر الإطار القانوني لضمان أن بيانات المنظمة تظل ملكية للشركة أو المؤسسة، و لا يمكن تدريب النموذج عليها. بالإضافة إلى ذلك، إذا غادر موظف المؤسسة، فإن أي استخدام للذكاء الاصطناعي، أو سير العمل، أو البيانات يظل ملكية المنظمة.

يمكن تطبيق الحواجز الفنية على مستوى الميزة. قد تسمح المؤسسة للطلاب أو الموظفين بإعداد أسئلة عامة داخل LLM معطوب مع إيقاف تحميل الملفات، أو مشاركة الوثائق، أو القدرات عالية الخطورة الأخرى. هذه التكوينات تحافظ على فوائد الإنتاجية دون فتح الباب أمام التعرض غير الخاضع للسيطرة للبيانات.

يمكن لأدوات أكثر تقدمًا أن تقوم تلقائيًا بتمييز المعلومات الحساسة قبل أن تصل إلى النموذج. على سبيل المثال، استبدال أسماء المرضى أو المعرفات بمحاذير محايدة حتى يتمكن الأطباء والممرضون من استخدام GenAI بدون كشف البيانات المحمية. أخرى تدمج ضوابط منع فقدان البيانات التي تكتشف وتمنع أرقام الأمان الاجتماعي، أو بيانات الحسابات المالية، أو المعلومات المنظمة الأخرى من أن يتم إدخالها في الاستدلالات.

السياسات الواضحة مع الحواجز الفنية، مبنية على أساس تعليمي، تُشكل أفضل دفاع، خاصة مع تغير التكنولوجيا بسرعة. GenAI تتطور بشكل أسرع من معظم المنظمات الحكومية – ومنطقتها – يمكنها التكيف. محاولة حظر كل نموذج جديد khi يظهر هو أمر غير مستدام لأن النموذج يتم حظره، يكون نموذج آخر قد اكتسب زخمًا. المستخدمون المدربون على فهم المخاطر الأساسية يمكنهم التكيف عبر الأدوات والإصدارات.

الأمن في بيئة مدعومة بالذكاء الاصطناعي يعتمد على الاعتراف بالواقع الذي أصبح GenAI الآن متأصلًا في الحياة اليومية. لا يوجد إمكانية لإعادة وضع الجني في الزجاجة. الحظر الشامل قد يرسل إشارات الحذر، لكنها غالبًا ما تتبادل المخاطر المرئية والقابلة للإدارة بالمخاطر غير المرئية وغير الخاضعة للإدارة. علّم شخصًا كيفية استخدام الذكاء الاصطناعي بشكل مسؤول، وسيكون مستعدًا لما يأتي بعد ذلك.