ذكاء الضوء الخفية كان مشكلة سهلة: المخاطر الحقيقية مخفية في برنامج الموافقة

منذ عامين ، كان ذكاء الضوء الخفية يعني أن الموظفين يلصقون بيانات العملاء في ChatGPT. الحل ، بشكل عام ، كان قابلًا للإدارة: اكتشف الأدوات ، وافق على الأدوات الجيدة ، وحظر الأدوات السيئة ، و درب الناس. معظم المنظمات في منتصف تنفيذ هذا الدليل ، حيث 61% منهم قد واجهوا بالفعل ذكاء الضوء الخفية في بيئاتهم ، والكتاب ينجح بشكل عام.

然而 ، هذا الوصف لا يصف المشكلة بعد الآن. لقد تحول ذكاء الضوء الخفية من مشكلة سلوكية إلى مشكلة هيكلية. لا يمكن للحوكمة التقليدية مواكبة المناظر الطبيعية الحديثة ، بما في ذلك وكلاء ذكاء الضوء الخفية المدمجين في برامج الموافقة ، والوكلاء الذين يربطهم الموظفون بأنفسهم في الأنظمة المعتمدة ، مما يجعل الهوية هي النقطة الوحيدة للسيطرة.

الظلالتان اللتان لا تراقبهما

السؤال المثير للاهتمام في عام 2026 ليس أي أداة فتحها الموظف. السؤال هو أي وكيل خفي أرسله موردك المعتمد في آخر تحديث للبرنامج ، وما هي الصلاحيات التي ورثها من الشخص الذي قام بتثبيته.

كان ذكاء الضوء الخفية في السابق سؤالاً عن السلوك. يمكنك رؤيته ، وسميته ، ووضع سياسة ضده. الإصدار الذي ينتشر الآن هو هيكلي. يأتي عبر برنامج قد وافقت عليه بالفعل ، ويتحرك تحت بيانات اعتماد قد صدرت بالفعل ، في تدفقات عمل قد تم فحصها بالفعل. الظل لم يعد سلوكياً ، بل هو هيكلي. الموظفون لا يزالون في الصورة ، لكنهم انتقلوا من استخدام الذكاء الاصطناعي إلى تثبيته: ربط الوكلاء في الأنظمة التي لديهم بالفعل وصول إليها ، ويفعلون ذلك من خلال واجهات مصممة لجعل ذلك بسيطاً. السياسات المكتوبة للسلوك الأول لا تصل إلى الثاني.

هذا هو السبب في أن “حظره” لم يكن कभًا النقاش الحقيقي. مسؤولو الأمن الذين تقدموا في ذكاء الضوء الخفية من خلال الموافقة على أدوات المؤسسة ودفع الموظفين نحو بدائل محكمة فازوا في الجولة الأولى واكتشفوا أن الجولة التالية كانت بالفعل قيد التنفيذ ، وكان لديها两个 متجهين ، وليس واحدًا فقط. الأول هو ما يرسله موردو البرامج المعتمدة إلى المنتجات التي تعمل بالفعل: نماذج مدمجة ، ووضع وكلاء ، وتكاملات جديدة وصلت في ملاحظة إصدار لم يقرأها أحد. الثاني هو ما يربطه الموظفون بأنفسهم: نموذج لغة كبير متصل ببرنامج إدارة علاقات العملاء من خلال تطبيق تلقائي بدون كود ، نموذج GPT مخصص تم منحه مفتاح وصول إلى مستودع البيانات ، اتصال MCP من مساعد سطح المكتب إلى نظام إنتاج. كلاهما ينتج نفس النتيجة ، والتي تشمل وكلاء يتصرفون تحت بيانات اعتماد معتمدة ، ضد أنظمة معتمدة ، في تدفقات عمل لم تمر عبر أي مراجعة مصممة لالتقاطهم. يمكن لعمليات الشراء رؤية المتجه الأول و تفويته الثاني تمامًا.

من الجيد أن نكون صادقين حول كيفية الفوز في الجولة الأولى بشكل غير متساو. تسع من كل عشرة منظمات تخطط لزيادة الميزانية التكنولوجية المتعلقة بالذكاء الاصطناعي ، مع العديد منهم يخططون لتوسيع نطاقها عبر عمليات تكنولوجيا المعلومات في الأشهر 6-24 القادمة. الإنفاق يتدفق نحو القدرات الذكية. السيطرات تتقدم بوصة بوصة. هذا الخلل هو المشكلة ، وليس جانباً من جوانبها.

الحدود كانت دائمًا بشرية

النموذج الذهني الذي عمل للجولة الأولى لا يعمل لهذه الجولة. ذكاء الضوء الخفية كسلوك موظف افترض وجود إنسان في الحلقة يختار شيئاً يمكن لفريق الأمن التأثير عليه. ذكاء الضوء الخفية كهندسة مورد يزيل الخيار. النموذج الذي كتب البريد الإلكتروني ، الوكيل الذي جدول الاجتماع ، المساعد الذي ملخص الوثيقة ووجهها إلى الأمام. لا يحتاج أي منهم إلى موظف ليทำ أي شيء سوى الاستمرار في استخدام البرامج التي تم告诉هم استخدامها.

الجواب الصادق هو أن الحدود التي لا يزال العديد من برامج الأمن تدافع عنها كانت حدودة للعمل البشري. الموظفون يفتحون الأدوات ، الموظفون يمنحون الوصول ، الموظفون يأخذون قرارات يمكن لفريق الأمن ملاحظتها وتوجيهها. هذه الحدود تتحلل في两个 اتجاه في نفس الوقت. من الأعلى ، يرسل الموردون وكلاء إلى منتجات معتمدة أسرع من أي عملية مراجعة يمكنها مواكبة ذلك. من الأسفل ، يخرج الموظفون من دور المستخدم ويدخلون دور المدمج ، من خلال ربط الوكلاء بالأنظمة من خلال واجهات مصممة لتكون ذاتية الخدمة وليس لديها أدوات حوكمة. الحدود البديلة ، التي بنيت حول ما تفعله الهويات ، بغض النظر عما إذا كانت هذه الهويات أشخاصاً أو لا ، وتفعلها بغض النظر عن من نشرها ، تتطلب نسيجًا للسيطرة لا يمتلكه معظم المنظمات بعد.

المكان الوحيد المتبقي للنظر

الهوية هي النقطة الصحيحة للسيطرة ، ولكن الإطار يجب أن يتغير. الصياغة التقليدية تقول “الهوية هي الحدود الجديدة” لأن المستخدمين في كل مكان والأجهزة في كل مكان وبرامج السحابة في كل مكان. كان ذلك صحيحاً قبل عقد من الزمن ، الآن هو أمر مسلم به. الإصدار الذي يهم في عام 2026 مختلف: الهوية هي المكان الوحيد الذي يمكنك رؤية ما يفعله الذكاء الاصطناعي بالفعل ، لأنها عندما تفعله ، يكون حدود الأداة قد تم تجاوزها بالفعل. الوكيل يتصرف تحت بيانات اعتماد شخص ما. من ، مع أي نطاق ، ضد أي بيانات ، بموجب أي تفويض هي الأسئلة التي تنتج سجلاً مفيداً. لا يمكن للحوكمة على مستوى الأداة الإجابة على هذه الأسئلة لأن الأداة لم تعد وحدة التحليل.

يقر معظم قادة تكنولوجيا المعلومات بالفعل بأن الوحدة له تأثير مباشر على قدرتهم على تنفيذ وتوسيع الذكاء الاصطناعي بأمان. السؤال الأصعب هو ما تعنيه الوحدة في الواقع في طبقة السيطرة. لا يمكن أن يعني فقط عددًا أقل من لوحات التحكم. يعني نسيجًا هوياتيًا موحدًا حيث كل ممثل ، إنسان أو حساب خدمة أو وكيل أو نموذج مدمج ، يتم توفيره وتنسيقه ومراقبته وإلغاؤه من خلال نفس الميكانيكا. أي شيء أقل من ذلك يعطيك مظهر الحوكمة الموحدة عندما في الواقع هو مجرد تنفيذ منقسم.

مراجعة المورد لديك تاريخ انتهاء صلاحية

للأسف ، المراجعة التي يقوم بها مورد لا صلاحية لها إلا لمدة معينة. هذا له آثار غير مريحة على هيكلة برامج الأمن. معظم لجان حوكمة الذكاء الاصطناعي منظمة حول مراجعة الأداة ، مع مورد يأتي ويتم تقييمه ، أو الموافقة عليه ، أو رفضه ، من أجل إضافته إلى السجل. هذا العملية تفترض أن سلوك الأداة في وقت الموافقة هو سلوكها في الإنتاج.对于 برامج الذكاء الاصطناعي المدمجة ، هذا الافتراض مكسور قبل أن يجف الحبر. سيرسل المورد نموذجًا جديدًا ، أو وضع وكيل جديد ، أو تكاملًا جديدًا ، ومراجعة الحوكمة التي تمت الموافقة عليها قبل ستة أشهر هي الآن تصف منتجًا لا يوجد.

خارج الأداة ، إلى الهوية

البرامج التي ستحمل هي تلك التي تنقل الحوكمة من الأداة إلى الهوية. كل عمل ضد بياناتك ، من قبل أي ممثل ، يمكن تتبعه إلى هوية مع مالك معروف ، و مجموعة صلاحيات محددة ، و فترة حياة محددة. سواء كان إنساناً أو غير إنساني ، موظفاً أو وكيل ، أداة معتمدة أو وضع مدمج ، السؤال هو نفسه: من هذا ، ما الذي يسمح له بفعله ، وكيف نعرف متى ينبغي أن يتوقف عن كونه صحيحاً؟ البرامج التي يمكنها الإجابة على هذه الأسئلة لا تحتاج إلى الفوز في سباق الموافقة على الأداة. البرامج التي لا تستطيع سوف تكون تلعب لعبة اللحاق بالأمور ضد مورد و موظفين يرسلون أسرع من أي عملية مراجعة يمكنها التحرك.

ذكاء الضوء الخفية كفئة لن تذهب. خاصة مع عصر جديد من القوى العاملة الوكيل ، 72% من المنظمات لديها بالفعل وكلاء ذكاء اصطناعي في الإنتاج. بدلاً من ذلك ، أصبح جزءًا صغيرًا من مشكلة أكبر. المنظمات التي تنفق الدورة المالية القادمة على اكتشاف الأداة وسياسة الموافقة هي تلك التي تحل مشكلة عام 2024 في جدول زمني لعام 2026. تلك التي تنفقها على أدوات طبقة الهوية لجميع البشر ، والوكلاء ، والفاصل بينهما ، هي تلك التي تحل المشكلة التي ستواجهها بالفعل.

الجولة الأولى من ذكاء الضوء الخفية علمت فرق الأمن أنهم لا يستطيعون تجاوز فضول الموظفين. الجولة الثانية ستعلمهم أنهم لا يستطيعون تجاوز سرعة مورد أو عبقرية الموظف. كلا الدرسين يشيران إلى نفس الاستنتاج. وحدة الحوكمة لم تكن قط سوف تكون الأداة. كانت دائمًا سوف تكون الهوية التي تعمل من خلالها.