توظيف الذكاء الاصطناعي التوليدي: كشف عن الآثار الأمنية لادوات الذكاء الاصطناعي التوليدي

من المعقول القول أن الذكاء الاصطناعي التوليدي جذب الان انتباه كل غرفة مجلس إدارة وقائد أعمال في الأرض. كان هذا التكنولوجيا في السابق على هامش التكنولوجيا و صعب التسلح ، ولكن अब أبواب الذكاء الاصطناعي التوليدي قد açıldı على نطاق واسع بفضل التطبيقات مثل ChatGPT أو DALL-E. نحن نشهد الآن قبولًا شاملًا للذكاء الاصطناعي التوليدي في جميع الصناعات والفئات العمرية حيث يجد الموظفون طرقًا للاستفادة من التكنولوجيا لصالحهم.

أشار استطلاع最近 إلى أن 29٪ من جيل زد، 28٪ من جيل إكس، و 27٪ من جيل الألفية يستخدمون أدوات الذكاء الاصطناعي التوليدي كجزء من عملهم اليومي. في عام 2022، كان اعتماد الذكاء الاصطناعي التوليدي على نطاق واسع عند 23٪، ومن المتوقع أن يصل إلى 46٪ بحلول عام 2025.

الذكاء الاصطناعي التوليدي هو تكنولوجيا ناشئة و سريعة التطور التي تستخدم نماذج مدربة لإنشاء محتوى أصلي في أشكال مختلفة، من النص المكتوب والصور، إلى مقاطع الفيديو والموسيقى، وحتى كود البرمجيات. باستخدام نماذج اللغة الكبيرة والبيانات الهائلة، يمكن للتكنولوجيا إنشاء محتوى فريد في لحظة، وهو في كثير من الحالات أكثر دقة وإقناعًا من العمل البشري.

然而، بينما تستخدم الشركات بشكل متزايد الذكاء الاصطناعي التوليدي لدعم عملياتها اليومية، والموظفون سريعون في الاستفادة من التكنولوجيا، فإن سرعة اعتمادها وعدم وجود لوائح قد أثار مخاوف أمنية وامتثال تنظيمي كبيرة.

وفقًا لمسح أجري على السكان بشكل عام، أكثر من 80٪ من الناس قلقون من المخاطر الأمنية التي تطرحها ChatGPT والذكاء الاصطناعي التوليدي، و 52٪ من المستطلعين يريدون إيقاف تطوير الذكاء الاصطناعي التوليدي حتى تتمكن اللوائح من اللحاق. هذا المزاج الأوسع قد تم التعبير عنه أيضًا من قبل الشركات نفسها، حيث أن 65٪ من قادة تكنولوجيا المعلومات لا يريدون الموافقة على الوصول بدون عوائق إلى أدوات الذكاء الاصطناعي التوليدي بسبب مخاوف أمنية.

الذكاء الاصطناعي التوليدي لا يزال مجهولًا غير معروف

أدوات الذكاء الاصطناعي التوليدي تعتمد على البيانات. النماذج، مثل تلك المستخدمة في ChatGPT و DALL-E، يتم تدريبها على بيانات خارجية أو متاحة بحرية على الإنترنت، ولكن للاستفادة القصوى من هذه الأدوات، يحتاج المستخدمون إلى مشاركة بيانات محددة جدًا. في كثير من الأحيان، عند تحفيز أدوات مثل ChatGPT، يشارك المستخدمون معلومات أعمال حساسة لتحقيق نتائج دقيقة وشاملة. هذا يخلق الكثير من المجهول للمنظمات. مخاطر الوصول غير المصرح به أو الإفصاح غير المقصود عن المعلومات الحساسة “مضمنة” عند استخدام أدوات الذكاء الاصطناعي التوليدي المتاحة بحرية.

هذه المخاطر بحد ذاتها ليست سيئة بالضرورة. المشكلة هي أن هذه المخاطر لم يتم استكشافها بشكل جيد. حتى الآن، لم تكن هناك أي تحليل حقيقي لأثر الأعمال باستخدام أدوات الذكاء الاصطناعي التوليدي على نطاق واسع، والاطار القانوني والتنظيمي العالمي حول استخدام الذكاء الاصطناعي التوليدي لم يصل بعد إلى أي شكل من أشكال النضج.

التنظيم لا يزال قيد العمل

المنظمون يقييمون بالفعل أدوات الذكاء الاصطناعي التوليدي من حيث الخصوصية وأمان البيانات وصحة البيانات التي ينتجونها. ومع ذلك، كما هو الحال مع التكنولوجيا الناشئة، فإن الجهاز التنظيمي لدعم واستخدامها يقع خلفه بضع خطوات. بينما يتم استخدام التكنولوجيا من قبل الشركات والموظفين على نطاق واسع، فإن الإطارات التنظيمية لا تزال في مرحلة التخطيط.

هذا يخلق خطرًا واضحًا وحاليًا للشركات، وهو خطر لا يؤخذ على محمل الجد كما ينبغي. التنفيذيين مهتمون بطبيعة الحال بكيفية تقديم هذه المنصات لفرص أعمال مادية مثل التأتمتة والنمو، ولكن مديري المخاطر يسألون عن كيفية تنظيم هذه التكنولوجيا، وما قد تكون لها آثار قانونية في النهاية، وكيف يمكن أن تتعرض بيانات الشركة للخطر أو الكشف. العديد من هذه الأدوات متاحة بحرية لأي مستخدم لديه متصفحًا و اتصالًا بالإنترنت، لذلك بينما ينتظرون اللوائح حتى تتمكن من اللحاق، يجب على الشركات أن تبدأ في التفكير بجدية في قواعدها الداخلية الخاصة باستخدام الذكاء الاصطناعي التوليدي.

دور مسؤولي أمن المعلومات في حوكمة الذكاء الاصطناعي التوليدي

مع عدم وجود إطارات تنظيمية، يجب على مسؤولي أمن المعلومات أن يلعبوا دورًا حاسمًا في إدارة استخدام الذكاء الاصطناعي التوليدي داخل منظمتهم. يجب أن يفهموا من يستخدم التكنولوجيا و لماذا، وكيف يحميون معلومات المؤسسة عند تفاعل الموظفين مع أدوات الذكاء الاصطناعي التوليدي، وكيف يديرون مخاطر الأمان للتكنولوجيا الأساسية، وكيف يوازنون بين التبادل الأمني والقيمة التي تقدمها التكنولوجيا.

هذا ليس مهمة سهلة. يجب إجراء تقييمات مخاطر مفصلة لتحديد النتائج السلبية والإيجابية الناجمة عن استخدام التكنولوجيا، أولاً من خلال نشر التكنولوجيا بشكل رسمي، وثانيًا من خلال السماح للموظفين باستخدام أدوات متاحة بحرية بدون إشراف. بالنظر إلى طبيعة الوصول السهل إلى تطبيقات الذكاء الاصطناعي التوليدي، يجب على مسؤولي أمن المعلومات التفكير بعناية في سياسة الشركة المتعلقة باستخدامها. هل يجب أن يكون الموظفون أحرارًا في استخدام أدوات مثل ChatGPT أو DALL-E لجعل عملهم أسهل؟ أو يجب أن يكون الوصول إلى هذه الأدوات مقيدًا أو معززًا بطريقة ما، مع إرشادات داخلية وإطارات حول كيفية استخدامها؟ أحد المشاكل الواضحة هو أن حتى لو تم إنشاء إرشادات استخدام داخلية، فإن التكنولوجيا تتطور بسرعة لدرجة أن الإرشادات قد تصبح قديمة قبل أن تكتمل.

一种 من الطرق لحل هذه المشكلة قد تكون بالفعل بالابتعاد عن أدوات الذكاء الاصطناعي التوليدي نفسها، والتركيز على تصنيف البيانات وحمايتها. تصنيف البيانات كان دائمًا جانبًا حاسمًا من حماية البيانات من التعرض أو التسرب، وهذا ينطبق على هذه الحالة أيضًا. يتضمن تعيين مستوى من الحساسية للبيانات، مما يحدد كيفية معاملتها. هل يجب تشفيرها؟ هل يجب حجبها لاحتوائها؟ هل يجب إخطارها؟ من يجب أن يكون لديه الوصول إليها، وأين يسمح بمشاركتها؟ من خلال التركيز على تدفق البيانات، بدلاً من الأداة نفسها، سيكون مسؤولو أمن المعلومات وضباط الأمن على أرض أكثر استقرارًا لمواجهة بعض المخاطر المذكورة.

مثل جميع التكنولوجيا الناشئة، الذكاء الاصطناعي التوليدي هو كل من نعمة ومخاطر للشركات. بينما يقدم قدرات جديدة مثل التأتمتة وتصور المفاهيم الإبداعية، فإنه يطرح أيضًا تحديات معقدة حول أمان البيانات وحماية الملكية الفكرية. بينما لا يزال الإطار التنظيمي والقانوني قيد الصياغة، يجب على الشركات أن تتبع خط الفصل بين الفرصة والمخاطر، وتنفذ سياساتها الخاصة التي تعكس موقفها الأمني العام. سيدفع الذكاء الاصطناعي التوليدي الأعمال إلى الأمام، ولكن يجب أن نكون حذرين في الحفاظ على يد واحدة على العجلة.