خطر البيانات الاصطناعية الذي لا يلاحظه أحد: تعرض الأسرار في سير العمل المؤسسية

معظم المناقشات حول مخاطر البيانات الاصطناعية في المؤسسات تبدأ مع قلق مألوف: موظفون يلصقون بيانات العملاء في Chatbots. تسيطر مخاطر الخصوصية والأمان على العناوين الرئيسية وملفات تعريف الأعمال، وتشير الدراسات إلى أن أمان البيانات والخصوصية يعتبران من بين أكبر مخاطر البيانات الاصطناعية التي تقلق المؤسسات.

然而، البيانات التي تظهر من استخدام المؤسسات في العالم الحقيقي تحكي قصة مختلفة. أكثر المعلومات الحساسة التي تدخل أدوات البيانات الاصطناعية ليست بيانات شخصية على الإطلاق. إنها الأسرار والمعرفات.

مفاتيح وصول، رموز، webhook، ووثائق المصادقة تحتل الآن أكبر حصة من حالات تعرض البيانات الحساسة التي لوحظت في أدوات البيانات الاصطناعية. هذه الحالات نادراً ما تنشأ عن الإهمال أو النية الخبيثة، بل تنشأ عن الأعمال الروتينية مثل تصحيح التكامل الفاشل، أو تصحيح الأتمتة، أو اختبار الشفرة، أو حل مشكلة العملاء. مع تضمين البيانات الاصطناعية في سير العمل اليومية، تحدث هذه اللحظات باستمرار وأحياناً خارج نطاق الرؤية التقليدية للأمان.

خطر البيانات الاصطناعية المخفي في الظاهر

أجريت دراسة最近 حول استخدام البيانات الاصطناعية في الممارسة العملية من قبل Nudge Security، وتمت دراسة البيانات المجهولة عبر بيئات المؤسسات لفهم كيفية استخدام أدوات البيانات الاصطناعية في مكان العمل. بدلاً من الاعتماد على الاستطلاعات أو التقارير الذاتية، قامت الدراسة بتحليل النشاط الملاحظ لأدوات البيانات الاصطناعية والتمكين والسلوك في بيئات سaaS للمؤسسات.

النتائج توفر رؤية جديدة حول مكان ظهور مخاطر البيانات الاصطناعية في استخدام المؤسسات. حالات تعرض البيانات الحساسة في أدوات البيانات الاصطناعية تهيمن عليها بيانات الأمان. الأسرار والمعرفات تمثل حوالي 48 في المائة من أحداث البيانات الحساسة التي تم الكشف عنها، مقارنة بـ 36 في المائة لبيانات مالية و 16 في المائة لمعلومات الصحة. تشير هذه الأنماط إلى أن أكبر تحدي لتعرض البيانات الاصطناعية ليس تسرب الخصوصية، بل انتشار الأسرار.

تشير الدراسة نفسها إلى أن استخدام البيانات الاصطناعية قد تجاوز التجربة. أدوات البيانات الاصطناعية مدمجة في سير العمل، متكاملة مع منصات الأعمال الأساسية، وقادرة على اتخاذ إجراءات مستقلة. مزودو نماذج اللغة الكبيرة هم الآن شبه عالميين، مع وجود OpenAI في 96 في المائة من المؤسسات و Anthropic في 78 في المائة.

أظهرت دراسة من McKinsey أن 88 في المائة من المؤسسات تقارن استخدام البيانات الاصطناعية بانتظام في وظيفة أعمال على الأقل، مقارنة بـ 78 في المائة من العام الماضي. أدوات ذكاء الاجتماعات، منصات الترميز المدعومة بالبيانات الاصطناعية، مولدات العروض، وتكنولوجيا الصوت يتم نشرها على نطاق واسع، مما يعكس كيف توسعت البيانات الاصطناعية من واجهات الدردشة إلى سير العمل اليومية. هذا التوسع مهم لأن المخاطر تتبع الاستخدام. مع تضمين البيانات الاصطناعية في بيئات المطورين ومنصات التعاون ودعم العملاء، تكتسب قرباً من الأنظمة الحساسة وبيانات التشغيل.

كما تم دفع التبني من الأسفل. وجدت دراسة حديثة من KPMG أن 44 في المائة من الموظفين يستخدمون أدوات البيانات الاصطناعية بطرق لم يصرح بها أصحاب العمل، مما يعكس كيف يدخلون هذه الأدوات بسرعة إلى سير العمل اليومية. يقوم الموظفون بتثبيت ملحقات المتصفح، ووصل المساعدين، وتجربة التكاملات لتسريع المهام اليومية، غالباً خارج عمليات الشراء المركزية. يصف محللو الأمان هذا النمط بأنه “بيانات اصطناعية ظليلة”، حيث تعمل الأدوات داخل المتصفحات وبيئات سaaS خارج الرؤية التقليدية لتقنية المعلومات. نظراً لأن هذه الأدوات يمكن نشرها في لحظة ويتطلب القليل من الإعداد الفني، فإن برامج الحوكمة التي تتكز على عمليات موافقة البائع وسياسات الاستخدام المقبولة تتعثر في مواكبة كيفية إدخال البيانات الاصطناعية واستخدامها عبر المؤسسة.

لماذا يمكن أن تخلق الأسرار الم