عندما يؤدي سوء استخدام الذكاء الاصطناعي إلى أزمة شركات

تفتقر معظم الشركات إلى السياسات التي تمنع الكوارث التى تضر بالسمعة الناجمة عن أدوات الذكاء الاصطناعي

كشفت الاستطلاعات الأخيرة أن حوالي 30 في المائة فقط من الشركات قد أنشأت سياسات الذكاء الاصطناعي. وفي الوقت نفسه ، يشارك 77 في المائة من الموظفين أسرار الشركة على ChatGPT ، وفقًا لتقرير أمان البيانات السحابية للشركات وذكاء الأعمال الصادر عن LayerX. هذا المزيج يخلق ظروفًا مثالية للأزمات التى تضر بالسمعة.

تتمحور معظم سياسات الذكاء الاصطناعي الحالية على المخاطر الفنية والامتثال. تتناول بروتوكولات أمان البيانات وتقييم البائعين والمتطلبات التنظيمية. ومع ذلك ، غالبًا ما تفوت هذه السياسات كارثة العلاقات العامة التي يمكن أن تنتشر في غضون ساعات بسبب سوء استخدام الذكاء الاصطناعي. في Red Banyan ، نقدم المشورة لمجموعة متزايدة من المنظمات خلال أزمات متعلقة بالذكاء الاصطناعي ، وبدءًا في رؤية نمط شائع. عادة ما يتم احتواء الانتهاك الفني بسرعة ، ولكن الضرر الذي يلحق بالسمعة والعلاقات مع العملاء وثقة أصحاب المصلحة يمكن أن يستمر لشهر أو سنوات.

مشكلة الذكاء الاصطناعي الخفية

تأتي أكبر تهديد من ما يسميه أمنيون “الذكاء الاصطناعي الخفي.” هذا هو حيث يستخدم الموظفون حسابات الذكاء الاصطناعي الشخصية غير المعتمدة لأداء المهام ، وتجاوزًا للضوابط الأمنية للشركة. معظم الوقت ، يفعلون ذلك دون أن يدركوا تمامًا المخاطر.

وفقًا لبحث Cyberhaven ، 11 في المائة من البيانات التي يقوم بها الموظفون في ChatGPT هي معلومات سرية. يجب أن يثير هذا الرقم قلق كل مسؤول تقني ومدير اتصالات. نحن نتحدث عن شفرة المصدر ، وعقود العملاء ، وخطط الطرق غير المنشورة ، والتنبؤات المالية ، وسجلات الموظفين التي تتدفق إلى الأنظمة التي لا تسيطر عليها المنظمات.

كيف تحدث التعرض للبيانات

يمكن لمهندسي البرمجيات اللجوء إلى أدوات الذكاء الاصطناعي مثل Claude أو ChatGPT لتصحيح الأخطاء أو تحسين قطع من الشفرة. في عام 2023 ، مُهندسو برمجيات سامسونج فعلوا ذلك بالضبط – قاموا بتحميل شفرة المصدر الداخلية إلى ChatGPT أثناء محاولة تصحيح المشكلات. أدى تسرب شفرة المصدر السرية إلى أن تطبق سامسونج قيودًا شاملة على استخدام الذكاء الاصطناعي في جميع أقسام الهندسة.

يستخدم المحترفون في التسويق وموظفي الموارد البشرية الذكاء الاصطناعي لتحسين كتابتهم. يرفعون مشاريع مقترحة ووثائق سياسات داخلية وأحيانًا حتى اتفاقيات العملاء ، ويطلبون من الذكاء الاصطناعي تحسين الوضوح أو исправление الأخطاء النحوية. تحتوي هذه الوثائق غالبًا على توقعات مالية أو شروط قانونية أو خطط استراتيجية التي سيجد منافسوها قيمة.

أحيانًا يقوم فريق خدمة العملاء بتجربة أدوات كفاءة الذكاء الاصطناعي ويقومون بإدخال محادثات العملاء الفعلية وتذاكر الدعم. يريدون من الذكاء الاصطناعي تلخيص التفاعلات أو اقتراح استجابات أفضل. عندما تتضمن هذه الإدخالات أسماء العملاء أو معلومات الاتصال أو تفاصيل الحساب أو تاريخ الشراء ، فإن الشركة قد انتهكت احتمالاً لوائح الخصوصية مثل GDPR أو CCPA.

يمكن لفريق تطوير المنتج أن يطرح أفكارًا جديدة ويصف القدرات غير المعلنة إلى ChatGPT ، آملًا أن يساعد الذكاء الاصطناعي على تحسين أفكارهما أو تحديد المشكلات المحتملة. يمكن أن تكشف هذه الوصفات عن مزايا تنافسية أو ابتكارات تكنولوجية أو استراتيجيات سوقية التي تهدف الشركة إلى الحفاظ عليها سرية حتى الإطلاق.

يمكن أن يتم الاحتفاظ بجميع هذه المعلومات من قبل نماذج اللغة الكبيرة وتزويد استجابات الذكاء الاصطناعي للمستخدمين الآخرين في المستقبل.

على سبيل المثال ، بعد أن يصف فريق تطوير المنتج منتجهم القادم إلى ChatGPT ، يمكن لمنافس أو صحفي أن يسأل أداة الذكاء الاصطناعي عن إصدارات الشركة القادمة. قد يُشير ChatGPT إلى المعلومات السرية التي تمت مشاركتها ويكشف عن منتج أو تكنولوجيا جديدة أنفقت الشركة موارد كبيرة على تطويرها.

كيف يصبح هذا أزمة علاقات عامة

عندما تظهر هذه الحوادث ، نادرًا ما تظل محصورة في مشاكل تكنولوجية. ها ما يحدث عادة:

يتم اكتشاف الانتهاك ، غالبًا عن طريق الحظ أو من خلال تنبيه طرف ثالث. تبدأ إدارة تكنولوجيا المعلومات في التحقيق أثناء محاولة تقييم النطاق. وفي غضون ذلك ، إذا كان الحادث يتضمن بيانات العملاء أو معلومات خاضعة للتنظيم ، فإن التزامات قانونية تتطلب الإفصاح. بمجرد الإفصاح ، يبدأ التغطية الإعلامية. يضخم الوسائط الاجتماعية القصة. يبدأ العملاء في الاتصال بالقلق. ي开始 الموظفون في القلق بشأن أمن وظائفهم ومسؤوليتهم.

في غضون 24 إلى 48 ساعة ، ما بدأ كحادث تقني أصبح أزمة سمعة كاملة. تحتاج الشركة إلى شرح ما حدث ولماذا فشلت الضوابط وما الذي يُبذل لمنع تكرارها. إذا لم تكن الشركة قد أعدت لهذا السيناريو ، فإن الاستجابة غالبًا ما تكون بطيئة وغير متسقة أو دفاعية. كل خطأ يطيل الأزمة ويزيد من الضرر.

بناء إطار استجابة للأزمات لحوادث الذكاء الاصطناعي

يحتاج مسؤولو تكنولوجيا المعلومات إلى التعاون مع فرق الاتصالات والقانونية لبناء بروتوكولات استجابة للأزمات خصيصًا لحوادث الذكاء الاصطناعي. المخاطر الفنية والسياسات مهمة ، ولكنها غير كافية بدون خطة لإدارة تداعيات الإعلام عند حدوث شيء ما.

هذه هي الخطوات الستة القابلة للتنفيذ لبدء هذه العملية:

1. تحديد مسارات التدرج الواضحة. عند اكتشاف تعرض للبيانات المرتبط بالذكاء الاصطناعي ، من الذي يتم إخطاره على الفور؟ يجب أن يتم إخطار تكنولوجيا المعلومات والقانون والاتصالات والقسم التنفيذي بسرعة. قم بإنشاء شجرة قرار تحدد متى يتم تنشيط بروتوكولات الأزمة بناءً على نوع وحساسية البيانات المُفصلة.
2. تطوير قوالب الاستجابة. قم بكتابة بيانات التأخير والوثائق المتعلقة بالسؤال والأجابة لسيناريوهات سوء استخدام الذكاء الاصطناعي الشائعة. يجب أن تتناول هذه القوالب سوء استخدام الموظفين وقضايا أمان البائعين والتعرض العرضي للبيانات. توفر القوالب الجاهزة استجابات أسرع وأكثر συνέما عندما يكون الوقت حرجًا.
3. تدريب المتحدثين. يحتاج المديرون التنفيذيون وفرق الاتصالات إلى تدريب إعلامي يركز بشكل خاص على كيفية مناقشة حوادث الذكاء الاصطناعي. التكنولوجيا معقدة ومليئة بال жарجون ، والتي يمكن أن تكون صعبة التنقل عند الإجابة على أسئلة أصحاب المصلحة.
4. مراقبة العلامات المبكرة. يجب أن تشمل مراقبة الوسائط الاجتماعية الكلمات الرئيسية المرتبطة بشركتك وأدوات الذكاء الاصطناعي. أحيانًا تكون الإشارة الأولى لمشكلة هي أن موظفًا ينشر على LinkedIn أو أن 客户ًا يشتكي على تويتر عن استجابة تم إنشاؤها بواسطة الذكاء الاصطناعي.
5. إجراء محاكاة الأزمات. تمارين الطاولة التي تمشي خلال سيناريو تعرض للبيانات المرتبط بالذكاء الاصطناعي تساعد الفرق على فهم أدوارهم وتحديد الفجوات في خطة الاستجابة. يجب أن تشمل هذه التمارين تكنولوجيا المعلومات والقانون والاتصالات وإدارة الموارد البشرية والقيادة التنفيذية.
6. بناء العلاقات قبل أن تحتاج إليها. قم بإنشاء اتصالات مع شركات الاتصالات بالأزمات ، وأمنيين إلكترونيين يمكنهم تقديم التأكيد الثالث ، ومستشارين قانونيين ذوي خبرة في قضايا متعلقة بالذكاء الاصطناعي. عندما تطرأ أزمة ، تريد مستشارين موثوقين يمكنهم التحرك على الفور.

الطريق إلى الأمام

يستمر الفجوة بين اعتماد الذكاء الاصطناعي و حوكمة الذكاء الاصطناعي في النمو. للموظفين وصول سهل إلى أدوات قوية يمكن أن تخلق مخاطر سمعة كبيرة. تركز مسؤولو تكنولوجيا المعلومات تقليديًا على الجانب التكنولوجي لإدارة المخاطر المرتبطة بالذكاء الاصطناعي. ومع ذلك ، فإن البعد السمعي لحوادث الذكاء الاصطناعي يتطلب الانتباه والاستعداد المتساوي.

السؤال ليس ما إذا كانت منظمتك ستواجه أزمة متعلقة بالذكاء الاصطناعي. بالنظر إلى معدلات التبني الحالية وانتشار الذكاء الاصطناعي الخفي ، السؤال هو متى. الشركات التي تستعد الآن ، مع سياسات تتعامل مع المخاطر الفنية والسمعة ، سوف تتعامل مع هذه الحوادث بشكل أفضل من تلك التي تُدرك أنها غير مستعدة.