انتقل بسرعة، لكن لا تكسر الأشياء: كيف توازن بين اعتماد الذكاء الاصطناعي المسؤول والابتكار

وفقًا لمسح عالمي حديث من مكينسي، حتى وإن كان 78% من المنظمات تستخدم الذكاء الاصطناعي في وظيفة أعمال واحدة على الأقل، إلا أن只有 13%雇وها خبراء في الامتثال للذكاء الاصطناعي، و 6% فقط لديهم خبراء في أخلاقيات الذكاء الاصطناعي في طاقمهم.

هذا، بصراحة، سلوك مخالف.

على الرغم من أنني كنت في الماضي القريب مؤمنًا كبيرًا بفلسفة “انتقل بسرعة وكسر الأشياء” في وادي السيليكون، إلا أننا لا نستطيع أن نكون هكذا خاليين من الاهتمام بالذكاء الاصطناعي – تكنولوجيا أكثر قوة من أي شيء رأيناه من قبل وتتطور بسرعة خيالية.

اعتماد الذكاء الاصطناعي دون أي حواجز معنوية هو بالضبط نوع الانتقال السريع والقصير الذي يضمن في النهاية العودة والخروج عن مسار الأمان وتهديد كل شيء. لا يحتاج الأمر إلا إلى حادث واحد من انحياز الذكاء الاصطناعي أو سوء استخدامه لتفكيك سنوات من بناء العلامة التجارية.

ومع ذلك، فإن العديد من مسؤولي المعلومات ومديري التكنولوجيا يدركون هذه المخاطر، ويبدو أنهم يعملون تحت افتراض أن المنظمين سيتدخلون في النهاية وسيحفظونهم من إنشاء إطاراتهم الخاصة، مما يؤدي إلى الكثير من الحديث عن المخاطر مع القليل من الرقابة الفعلية.

على الرغم من أنني لا أستطيع أن أرفض أن التنظيمات سوف تأتي في النهاية، إلا أنني أقل ثقة في أن يتم إنشاء هذه التنظيمات في أي وقت قريب. تم تقديم ChatGPT منذ ثلاث سنوات تقريبًا الآن، ونحن فقط بدأنا نرى أشياء مثل اجتماع مجلس الشيوخ حول حوادث الأمان المتعلقة بالمحادثات. الحقيقة هي أننا قد ننتظر سنوات قبل أن نرى أي تنظيم معنوي.

بدلاً من اعتبار هذا كعذر للتنفس، ينبغي أن يشجع هذا الأعمال على اتخاذ نهج أكثر استباقية. خاصةً إذا علمنا أن الشركات التي لا تملك إطاراتها الخاصة سوف تتعثر في محاولة تطبيق الامتثال عندما يأتي التنظيم في النهاية. هذا هو بالضبط ما حدث عندما تم سن GDPR وCCPA.

مثل الشركات الناشئة الصغيرة في بداية الألفية التي أصبحت الآن تخضع لمعايير أعلى كتكنولوجيا الشركات الكبيرة التي نمت إليها، علينا أن ننضج في نهجنا لاعتماد الذكاء الاصطناعي بشكل مسؤول.

لا يوجد “اشتر الآن وادفع لاحقًا” مع عمليات نشر الذكاء الاصطناعي المسؤول – ابدأ الآن

الخطوة الأولى في نهج أكثر مسؤولية للذكاء الاصطناعي هي التوقف عن انتظار المنظمين ووضع قواعدك الخاصة. أي مكسب متوقع للاستارت السريع دون حواجز اليوم سوف يعود ليلدغك في المستقبل عندما تواجه عملية تطبيق الامتثال باهظة التكلفة والمزعجة.

بالطبع، المشكلة ليست معرفة من哪里 تبدأ، فقد أجرت شركتي مؤخرًا مسحًا ل 500 مسؤول معلومات ومدير تكنولوجيا في الشركات الكبيرة، وذكر نصفهم تقريبًا (48%) أن “تحديد ما يشكل استخدامًا مسؤولًا أو نشرًا للذكاء الاصطناعي” هو تحدي لضمان استخدام أخلاقي للذكاء الاصطناعي.

من السهل أن نبدأ بالتركيز على المخاطر المحتملة، على سبيل المثال، على الرغم من أن استخدام الذكاء الاصطناعي قد يوفر الوقت للموظفين، إلا أنه يفتح أيضًا إمكانية مشاركة كميات كبيرة من بيانات الهوية الشخصية أو الأسرار التجارية مع نماذج لغة غير مرخصة وغير موافق عليها.

أي شركة رقمية اليوم تعرف جيدًا دورة حياة تطوير البرمجيات (SDLC)، والتي توفر إطارًا لإنشاء منتجات جيدة. ينبغي دمج أفضل الممارسات للحوكمة في هذا العمل اليومي لضمان أن تكون اتخاذ القرارات المسؤولة جزءًا من الروتين، وليس فكرة متأخرة.

يجب إنشاء هيئة حاكمة، مثل لجنة أخلاقيات أو مجلس حوكمة، لتحديد المعايير حول كيفية تطبيق الذكاء الاصطناعي داخل المنظمة، وتنظيم معايير مراقبة هذه المعايير. وظيفيًا، هذا يشبه حوكمة أدوات الذكاء الاصطناعي ونمذجة الحوكمة، وموافقة الحلول، وتنظيم المخاطر، وتنظيم المعايير، والاتصالات الشفافة. على الرغم من أنه قد يكون عملية جديدة تقنيًا، إلا أنه لا يختلف كثيرًا عن أفضل الممارسات للبيانات وحماية السلاسة الأمنية ويمكن تطبيقه تلقائيًا لضمان الكشف المبكر عن أي مشاكل.

بالطبع، لا tấtى المخاطر تتطلب نفس مستوى الاهتمام، لذلك من المهم أيضًا تطوير عملية إدارة المخاطر المتدرجة بحيث يمكن لفريقك التركيز على معظم جهودهم على ما تم تحديده على أنه أولويات عالية.

أخيرًا، وأهم شيء، التواصل الواضح والشفاف حول ممارسات الحوكمة داخليًا وخارجيًا هو أمر بالغ الأهمية. هذا يشمل الحفاظ على وثائق حية لمعايير الحوكمة وتقديم التدريب المستمر لتحديث الفرق.

توقف عن معاملة الحوكمة كتهديد للابتكار

من المحتمل أن يكون التهديد الحقيقي للذكاء الاصطناعي المسؤول هو الاعتقاد بأن الحوكمة والابتكار في صراع مع بعضهما البعض. بيانات المسح أظهرت أن 87% من مسؤولي المعلومات ومديري التكنولوجيا يعتقدون أن التنظيمات سوف تقيد الابتكار.

لكن الحوكمة يجب أن تعامل كشريك استراتيجي، وليس كفرملة للهجوم.

أحد الأسباب التي تجعل الحوكمة تعتبر قوة احتكاك تبطئ الزخم هو أنها غالبًا ما تترك لنهاية تطوير المنتج، ولكن الحواجز يجب أن تكون جزءًا من العملية. كما ذكرنا أعلاه، يمكن دمج الحوكمة في دورات السباق بحيث يمكن لفريق المنتج التحرك بسرعة، في حين أن الفحوصات الآلية للعدالة والانحياز والامتثال تتم في متوازي. على المدى الطويل، هذا يدفع ثمنه كcustomers، موظفين، ومنظمين يشعرون بالثقة أكثر عندما يرون المسؤولية مبنية من البداية.

وقد أثبتت الأبحاث أن هذا يؤدي إلى مكافآت مالية. أظهرت الدراسات أن المنظمات التي تطبق إطارات حوكمة البيانات والذكاء الاصطناعي بشكل جيد تختبر تحسنًا بنسبة 21-49% في الأداء المالي. وفشل في إنشاء هذه الإطارات يأتي بنتائج سيئة. وفقًا لدراسة مماثلة، بحلول عام 2027، سوف تفشل غالبية المنظمات (60%) في تحقيق القيمة المتوقعة لاستخدامها للذكاء الاصطناعي بسبب إطارات الحوكمة الأخلاقية غير المتماسكة.

ملاحظة هامة حول هذا الحجج هو أن فرق الحوكمة والخطر والامتثال (GRC) تساعد في الحفاظ على الأمور سليمة وسريعة.

عند إدارته جيدًا، يبني فريق GRC علاقات إيجابية مع الفريق القانوني، ويعمل كعينهم على الأرض، ويوفر لهم التقارير التي يحتاجونها، في حين يعمل مع فريق التطوير لتحديد المخاطر المحتملة للقضايا والغرامات. في النهاية، هذا يعزز أن الاستثمار في الحوكمة في البداية هو أفضل طريقة لضمان ألا تعطل الابتكار.

إنشاء أنظمة حوكمة ومراقبة يمكن أن تتوسع

على الرغم من أن العديد من مسؤولي المعلومات ومديري التكنولوجيا يشعرون أن التنظيمات قد تقيد الابتكار، إلا أن نسبة كبيرة منهم (84%) توقع أن تزيد من مراقبة الذكاء الاصطناعي في течение 12 شهرًا القادمة. بالنظر إلى احتمال استمرار توسيع وتوسع التكاملات في المستقبل، من المهم أن تكون أنظمة الحوكمة قادرة على التوسع معها.

شيء أراه غالبًا في المراحل الأولى من التكاملات في الشركات الكبيرة هو أن الوحدات المختلفة داخل الأعمال تعمل في غرف منفصلة بحيث تقوم بتشغيل عمليات نشر مختلفة في نفس الوقت وبأفكار مختلفة حول ما يعني “الذكاء الاصطناعي المسؤول”. لتجنب هذه الانقطاعات، من الحكمة أن تقوم الشركات بإنشاء مركز متميز للذكاء الاصطناعي يدمج الخبرة الفنية والامتثال والأعمال.

سيحدد مركز التميز للذكاء الاصطناعي معايير الشركة وعمليات الموافقة المتدرجة حيث توجد مسار للنشرات منخفضة المخاطر. هذا يحافظ على السرعة في نفس الوقت الذي يضمن أن عمليات النشر عالية المخاطر تمر بفحوصات أمان رسمية. على同样، ينبغي أن يحدد مركز التميز معايير أمان للذكاء الاصطناعي لمسؤولي الشركة العليا بحيث لا تفقد المسؤولية في الوظائف اليومية.

لكن لجعل هذا حقيقة، يحتاج المسؤولون التنفيذيون إلى رؤية محسنة لمؤشرات الحوكمة. لوحات التوجيه التي تقدم بيانات في الوقت الفعلي حول هذه المؤشرات سوف تكون أكثر فاعلية من التقارير الثابتة الحالية للامتثال التي تصبح قديمة وعادة ما تظل غير مقروءة. في الواقع، ينبغي للشركات بناء سجلات مخاطر الذكاء الاصطناعي، بنفس الطريقة التي تتبع بها مخاطر الأمان الإلكتروني، بالإضافة إلى الحفاظ على سجلات تدقيق تعكس من بنى تنفيذ التعلم الآلي، وكيف تم اختباره، وكيف يعمل على مدار الوقت.

الأهم من ذلك كله هو أن الذكاء الاصطناعي المسؤول يتطلب أن تكون الحوكمة عملية مستمرة. لا يتعلق الأمر فقط بموافقات عند الإطلاق، ولكن المراقبة المستمرة على مدار عمر النموذج. وبالتالي، التدريب هو المفتاح. يجب تدريب المطورين، والفنيين، وقادة الأعمال على ممارسات الذكاء الاصطناعي المسؤول بحيث يمكنهم تحديد المشاكل في وقت مبكر والحفاظ على معايير الحوكمة العالية مع تطور الأنظمة. بذلك، ستكون عمليات نشر الذكاء الاصطناعي أكثر موثوقية وفعالية وربحية – دون الحاجة إلى كسر أي شيء في هذه العملية.