قادة الفكر
إضاءة الضوء على الذكاء الاصطناعي المظلم
على مدار الصناعات، يعمل العمال بشكل متزايد على استخدام أدوات الذكاء الاصطناعي (AI) لتحويل العمليات اليومية. سواء كان ذلك من خلال استخدام المحترفين في التسويق لتشكيل حملات باستخدام ChatGPT أو مهندسي البرمجيات لكتابة الشفرة باستخدام أدوات توليدية، فإن الذكاء الاصطناعي يندمج بشكل هادئ في معظم جوانب الأعمال. في الواقع، وجد مشروع NANDA التابع لمعهد ماساتشوستس للتكنولوجيا أن في أكثر من 90% من المنظمات، يستخدم الموظفون حسابات الدردشة الشخصية لدعم عملهم اليومي، في كثير من الأحيان دون إشراف على الإدارة، ومع ذلك، فإن فقط 40% من الشركات لديها اشتراكات رسمية لأدوات النموذج اللغوي الكبير (LLM). هذا الانقطاع بين استخدام الذكاء الاصطناعي المصرح به والخفي قد فتح ثغرة أمنية جديدة: الذكاء الاصطناعي المظلم.
بدون إشراف، يمكن مشاركة البيانات الحساسة مع النماذج الخارجية، ويمكن أن تكون الإخراجات غير دقيقة أو متحيزة، ويفقد فريق الامتثال الرؤية فيما يتعلق بمكان ومANNER معالجة المعلومات. مع استمرار الموظفين في التجربة مع الأدوات خارج القنوات المعتمدة، تحتاج المنظمات إلى إعادة تخيل استراتيجيتها لإدارة الذكاء الاصطناعي، أو سوف تستمر هذه المخاطر في الظهور. بالنسبة لمديري المعلومات، فإن حظر أدوات الذكاء الاصطناعي ليس الحل، لأنه قد يؤثر على القدرة التنافسية. بدلاً من ذلك، يجب أن تركز على الحواجز المتكيفة التي توازن بين الابتكار وإدارة المخاطر المسئولة.
لتبقى المنظمات вперед من المخاطر المرتبطة بالذكاء الاصطناعي، يجب أن تقيم سياسات الذكاء الاصطناعي التي تعزز الاستخدام المسئول. يجب أن تشجع هذه الإرشادات الموظفين على استخدام الذكاء الاصطناعي بمنطق، وأي سياسة يتم وضعها يجب أن تكون متوافقة مع قيم الشركة ومدى تحمل المخاطر. لتحقيق برنامج ناجح، يجب على المنظمات أن تتجاوز نماذج الحوكمة القديمة والأدوات التقليدية التي لا تكتشف أو تتبع استخدام الذكاء الاصطناعي عبر أعمالها.
في حين أن إنشاء سياسة للذكاء الاصطناعي هو خطوة مهمة، فإن جوهر الأمر هو ضمان أن تكون هذه السياسات مصممة لتكون عملية ويمكن تنفيذها ومتوافقة مع الرؤية الابتكارية واحتياجات الامتثال لكل عمل، دون أن تعيق تقدمها.
هذه هي الخطوات الأربع التي يمكن للمنظمات اتخاذها:
1. تحديد الإطار الأمثل
لا يتعين على الشركات أن تبدأ من الصفر. لقد طورت مؤسسات رائدة بالفعل إطارات توفر نقاط مرجعية قيمة. الموارد من منظمة التعاون والتنمية الاقتصادية، المعهد الوطني للمعايير، وISO/IEC يمكن أن توفر إرشادات حول إدارة الذكاء الاصطناعي بأمان وفعالية. بالإضافة إلى ذلك، بدأت الهيئات الحكومية في التدخل. التنظيمات الجديدة من الاتحاد الأوروبي تحدد التوقعات حول الشفافية والمساءلة والحوكمة. معًا، ستساعد هذه الموارد على توفير أساس قوي للمنظمات لبناء وتطوير إطاراتها الخاصة لتوجيه استخدام الذكاء الاصطناعي المسئول.
2. زيادة رؤية الذكاء الاصطناعي
عندما تسير المنظمات في طريقها نحو إدارة المخاطر الفعالة للذكاء الاصطناعي، من الضروري أن يطور قادة الأمن فهمًا قويًا لاستخدام الذكاء الاصطناعي في أعمالهم. يجب أن يستثمروا في أدوات توفر رؤية في النشاط عبر الوظائف. يمكن لهذه الأدوات مراقبة وسلوك المستخدمين، وستترك لا حجر على حجر فيما يتعلق بتحديد استخدام الذكاء الاصطناعي التوليدي. هذه الرؤية حيوية فيما يتعلق بتحديد استخدام الذكاء الاصطناعي المظلم، ومساعدة القادة في تقييم المخاطر ومعالجتها.
3. تشكيل مجلس الذكاء الاصطناعي
عندما يتم تحديد الرؤية، يمكن لقادة الأمن استخدامها لتحديد سياسات جديدة. منذ أن يؤثر استخدام الذكاء الاصطناعي على العمل ككل، لا ينبغي لهم عزل عملية اتخاذ القرار. يجب على مسؤولي أمن المعلومات النظر في تشكيل مجلس للذكاء الاصطناعي يضم مساهمين رئيسيين من الأمن والقانون والتقنية والإدارة العليا. في الواقع، gartner يُظهر أن 55% من المنظمات قد أنشأت بالفعل مجلسًا للذكاء الاصطناعي، بينما عينت 54% رئيسًا للذكاء الاصطناعي أو قائدًا مخصصًا للإشراف على الاستراتيجية والتنفيذ.
يمكن لهذه المجموعات متعددة الوظائف تقييم المخاطر والفرص التي يقدمها أدوات الذكاء الاصطناعي، سواء كانت مخولة أو غير مخولة، والتي ت开始 في بيئات الأعمال. يمكنهم بعد ذلك تشكيل سياسات جديدة معًا تتماشى مع احتياجات أعمالهم وتوازن المخاطر.
على سبيل المثال، إذا وجد المجلس أداة الذكاء الاصطناعي الشهيرة التي تُستخدم دون موافقة تثير مخاوف أمنية، فيمكنه أن يوصي بمنع تلك التطبيق ويوافق على بديل أكثر أمانًا. يجب أن تدعم هذه السياسات الاستثمارات في ضوابط الأمن ومنصات الذكاء الاصطناعي المعتمدة التي تتوافق مع معايير الامتثال. مع ظهور التطورات الجديدة في السوق، يمكن للمجلس أيضًا إدخال عملية رسمية للموظفين لطرح أدوات للفحص، مما يساعد المنظمة على البقاء مرنة ومتوافقة مع استراتيجيتها للذكاء الاصطناعي.
4. تعزيز تعليم الذكاء الاصطناعي
سيتم تعزيز تعليم الموظفين حول الذكاء الاصطناعي وتفاعلهم معه جزءًا أساسيًا آخر لضمان موافقة المنظمة على مستوى الشركة وتقليل استخدام الذكاء الاصطناعي المظلم.
في استطلاع Pew Research، بين العمال الذين تلقوا التدريب في العمل (51%)، قال ربعهم (24%) إنها تتعلق باستخدام الذكاء الاصطناعي. يجب على المنظمات أن تضمن وجود برامج تدريب على الذكاء الاصطناعي، لأنها يمكن أن تساعد الموظفين على فهم الفرص والوظائف المتاحة لهم. يمكن أن يساهم تعزيز مهاراتهم أيضًا في نموهم في مسيرتهم المهنية وزيادة رضاهم عن وظائفهم.
يجب أن تركز برامج التدريب على الذكاء الاصطناعي على ما هو أبعد من الاستخدام الأساسي والامتثال لمساعدة الفرق على فهم السياق الأوسع للذكاء الاصطناعي وكيف يعمل في نظام أعمالهم. الموضوعات التي يجب تغطيتها تشمل سبب أهمية استخدام الذكاء الاصطناعي المسئول، وما هي السياسات الموجودة لحماية كل من الأعمال والعملاء، وكيفية تحديد المخاطر المحتملة في معالجة البيانات أو الخصوصية. عندما يكون الموظفون مجهزين بالمعلومات الصحيحة، فإنهم يصبحون شركاء نشطين في الابتكار بأمان.
تشكيل مستقبل الذكاء الاصطناعي المسئول
الذكاء الاصطناعي المظلم لن يختفي قريبًا. مع اندماج التكنولوجيا التوليدية بشكل أكبر في سير العمل اليومي، ستتضاعف التحديات التي تواجه المنظمات. يواجه القادة الآن خيارًا بين معاملة الذكاء الاصطناعي المظلم كتهديد لا يمكن السيطرة عليه أو الاعتراف به كفرصة لتعزيز الكفاءة والإنتاجية، عندما يتم إدارته بشكل صحيح.
إن تطوير سياسة أو مجلس للذكاء الاصطناعي ليس عملًا منفردًا. كما أن استراتيجية المنظمة يجب أن تتطور بسرعة مع تطور الذكاء الاصطناعي. يمكن للذكاء الاصطناعي أن يوجه قرارات أكثر ذكاءً، ويعجل بالابتكار، ويعزز الإنتاجية عبر جميع الوظائف. لكن لتحقيق هذه المكاسب، يجب على الموظفين فهم الأدوات المتاحة لهم وكيفية استخدامها بشكل مسؤول. تلك التي تنجح ستبقى مرنة، وتحسن سياساتها بشكل استباقي للبقاء أمام التغيير، لا لتتبعه.
