تجاوز عقلية «الذكاء الاصطناعي سحر»: لماذا يجب أن يكون تعلّم كيفية عمل نماذج الذكاء الاصطناعي أولوية على مستوى الشركة

وسط التحذيرات من وكلاء الذكاء الاصطناعي المارقين، منح مطوّر مؤخرًا وكيلًا برمجيًا حرية التصرف الكاملة على جهاز لا تتوفر له نسخة احتياطية عن بُعد. حذف 48,000 ملف في أقل من دقيقتين.

تذكّرنا مثل هذه الحوادث بوضوح أن نشر وكلاء الذكاء الاصطناعي ينطوي على مخاطر؛ فليس كافيًا أن نضيف مراجعًا بشريًا في مرحلة ما من عملية معقدة ونفترض أن النظام آمن. بعض العمليات لا تحتاج إلى أي تدخل، بينما تتطلب عمليات أخرى ضوابط أقوى بكثير. من الواضح أن تصحيح خطأ مطبعي وحذف آلاف الملفات لا ينطويان على المستوى نفسه من المخاطر، لذا ينبغي أن يتناسب الإشراف مع حجم المخاطر الفعلية.

يتعين على المؤسسات أن تحسن تحديد اللحظات التي يكون فيها الحكم البشري مهمًا فعلًا، ولا سيما عندما يكون الإجراء عالي التأثير أو يصعب التراجع عنه. وعندما ترتكب الوكلاء أخطاءً، ينبغي للبيئة أن تحد من نطاق الأضرار.

الذكاء الاصطناعي ليس حتميًا، بل احتمالي

قبل كل شيء، من الضروري أن يكتسب كل موظف له صلة مباشرة أو غير مباشرة بتطوير البرمجيات فهمًا أساسيًا لكيفية معالجة نماذج الذكاء الاصطناعي للمعلومات. وهذه ليست مهمة بسيطة؛ إذ تتطلب التزامًا بتثقيف الفرق، وينبغي أن تصبح في نهاية المطاف هدفًا على مستوى الشركة.

عندما يبدأ المرء بالتفاعل مع الذكاء الاصطناعي للمرة الأولى، يبدو الأمر أشبه بالسحر. تكتب جملة، وفجأة تجد نفسك تجري محادثة. ومن المهم لوضع سياسة للذكاء الاصطناعي على مستوى الشركة، في ما يتعلق بالأمن والإنتاجية، أن يكون لدى المرء فهم أساسي لكيفية عمل النماذج وتدريبها فعليًا في الكواليس. وستكون الشبكات العصبية وتقسيم النصوص إلى رموز والتحليلات الإحصائية التي تجري وراء ذلك، وكيفية إفضائها إلى مخرجات، فرصة تعليمية مهمة لجميع موظفي الشركة.

لن تنتج نماذج اللغة الكبيرة نتائج حتمية أبدًا؛ فمخرجاتها احتمالية. في البرمجيات التقليدية، عندما تدخل بيانات، تتوقع بعض النتائج المحتملة، مثل A أو B أو C. أما مع الذكاء الاصطناعي، فقد تحصل على F أو & أو وصف لقطة ترتدي نظارة شمسية.

عندما تكون النتائج احتمالية، لا يمكنك اختبارها بالطريقة المعتادة. ما تحتاج إليه هو طريقة للاختبار تتيح التعديل والاستدلال والفهم واستحضار السياق بسرعة، كي ترصد العناصر الاحتمالية وتتعرف إلى المشكلات التي قد تسببها. وبحسب حجم الاختبار ومخاطره، يمكن أن تتولى هذا النوع من الاختبارات أنظمة ذكاء اصطناعي أو شخص ذو خبرة مناسبة. وتكون مشاركة الإنسان في العملية أكثر فائدة في البداية، لوضع إطار للمشكلة المطلوب حلها، ثم لمراجعة النتائج في النهاية.

بحكم قرب المطورين من رصد المتغيرات والممارسات الشائعة التي تحدد كيفية توصل الذكاء الاصطناعي الداخلي في مؤسساتهم إلى إجابات استنادًا إلى المدخلات، فإنهم في موقع مناسب للمساعدة في تشكيل التثقيف بشأن الذكاء الاصطناعي داخل شركاتهم، وضمان فهم الجميع لهذا الفرق بين الحتمية والاحتمالية في الذكاء الاصطناعي، وأهمية ذلك. والهدف هو الحد من الاعتقاد بأن استخدام الذكاء الاصطناعي أشبه بالسحر، وأنه لا بأس بقبول أي مخرج ينتجه. وبدلًا من ذلك، ينبغي للمؤسسات أن تعمل على إزالة الغموض عن النماذج التي تستخدمها الشركة وعرضها، وشرح كيفية استخدامها والمشكلات التي قد تنشأ وطرق التحقق منها ونتائج تلك العملية.

مكان الضوابط الوقائية في البنية التحتية، لا في النموذج

بعد دحض «سحر» الذكاء الاصطناعي وبدء تنفيذ مشروع تقوده تقنيات الذكاء الاصطناعي، من الضروري وضع سياسة تدقيق شفافة لضمان سير العمل كله وفق المسار المتوقع. وهكذا، إذا أسفر المشروع عن مخرجات «سيئة» أو دون المستوى المطلوب، يستطيع الشخص المسؤول تدقيق الخطوات التي نُفذت ومنع تكرار المشكلة. وتعود هذه السياسة بالفائدة أيضًا عندما تكون النتائج أفضل من المتوقع، إذ يمكن حينها تكرار تلك الخطوات ومشاركتها مع مشروعات أو فرق أخرى.

تكتسب منهجة هذه العملية أهمية خاصة في الشركات الكبرى، حيث قد يضم كل فريق عشرات المطورين، فيما يتعامل مئات المطورين مع الشيفرة البرمجية على مدار اليوم. يستطيع الذكاء الاصطناعي إنجاز كثير من المهام بسرعة كبيرة، وإذا حدث خطأ، فلا بد من وجود نظام يحدد بدقة المرحلة التي وقع فيها. انظروا إلى وكلاء OpenAI الذين اخترقوا Hugging Face هذا الصيف. كانت OpenAI تختبر مدى قدرة نماذجها على استغلال الثغرات البرمجية، مستخدمةً معيارًا مرجعيًا يُسمى ExploitGym. ولأغراض الاختبار، خففت عمدًا من رفض النماذج للمهام المتعلقة بالهجمات السيبرانية. وكان المسار الوحيد للخروج من بيئة الاختبار المعزولة يمر عبر وسيط للحزم البرمجية. اكتشفت النماذج ثغرة غير معروفة في ذلك الوسيط، وتمكنت من الخروج، ثم أمضت أكثر من يومين داخل أنظمة الإنتاج لدى Hugging Face بحثًا عن إجابات الاختبار.

وصفت العناوين الإخبارية ما حدث بأنه تمرد من الذكاء الاصطناعي. أما أنا فسأسميه إعدادًا حتميًا لنظام احتمالي. طلبت OpenAI من النماذج الاختراق، ثم اعتمدت على بقائها في المسار المتوقع. ويقول مبتكر المعيار المرجعي إن النماذج كانت قد غشت في الاختبار من قبل، لكن ذلك كان يحدث دائمًا داخل بيئة الاختبار المعزولة. أما هذه المرة، فلم تلتزم إحداها بذلك. تفترض الضوابط الوقائية المعتادة سلوكًا معتادًا، لكن الذكاء الاصطناعي ليس ملزمًا باتباع المعايير.

لذلك، يتمحور أمن الذكاء الاصطناعي حول الوصول والضوابط التي تفرضها البيئة، لا حول افتراض أن النموذج سيتصرف على نحو سليم. افترض أن الوكيل سيحاول فتح كل باب، ولا تترك مفتوحًا إلا ما يحتاج إليه. أُبلغ الوكيل الذي حذف 48,000 ملف أن يعمل على نسخ وأن يترك الملفات الأصلية كما هي. لكنه حذف الملفات الأصلية على أي حال. التعليمات ليست ضوابط.

تشبه إدارة صلاحيات الوكيل تهيئة مطوّر مبتدئ جديد للعمل. لن تمنحه صلاحية الجذر في بيئة الإنتاج منذ يومه الأول. ولو فعلت ذلك فحذف قاعدة بياناتك، فلن تعزو الأمر إلى كونه مخترقًا عبقريًا. في الحوادث الأمنية، مهما كان نطاقها، لا بد من تحديد السبب الجذري. أهو النموذج؟ أم الشركة التي أنشأت النموذج؟ أم الشركة التي منحته صلاحية الوصول؟ أيًّا يكن السبب، فالمسؤولية تقع في نهاية المطاف على عاتق إنسان.

وأخيرًا، من القضايا الرئيسية التي ينبغي معالجتها اليوم ما يجري خفيةً على حاسوب المطوّر المحمول. في الماضي، كان تتبّع سير العمل أبسط. كان المطوّرون يكتبون الشيفرة ويراجعونها ثم ينشرونها، ما يتيح مسارًا واضحًا للعودة إلى اللحظة التي وقع فيها الخطأ. أما الآن، فقد يزوّد المطوّر وكيلًا بتذكرة ويقول له: «أصلح هذا». وإذا جرى العمل بعيدًا عن الأنظار، فلن يتبقى ما يمكن تتبّعه. ينبغي توثيق كل خطوة توثيقًا كاملًا: أيّ وكيل عمل، وأيّ نموذج استخدم، وما المطالبات التي تلقّاها، وما الأدوات التي استدعاها، وما الصلاحيات التي كانت لديه آنذاك. ويُعد تشغيل الوكلاء مركزيًا بدلًا من تشغيلهم على الحواسيب المحمولة الفردية إحدى الوسائل لتحقيق ذلك. المهم هو وجود سجلّ يمكن تتبّعه.

في نهاية المطاف، عند وقوع حادثة، تحتاج كل شركة إلى حماية نفسها. وينبغي أن يتضمن هذا السجل معلومات كافية لإجراء تحليل للسبب الجذري وتحديد الخطوة والشيفرة اللتين تسببتا في المشكلة.

لقد غيّر الذكاء الاصطناعي العالم تغييرًا هائلًا، ولا بد لعمليات الأعمال أن تواكب هذا التغيير. ولتحديد الضوابط الوقائية المناسبة، لا بد من فهم أفضل لعمليات الذكاء الاصطناعي واختباراتها ودورات مراجعتها وتدقيقها، سواء داخل فرق المطوّرين أو على مستوى الشركة بأكملها.