لماذا تصبح المشتريات أداة تنظيمية قوية للذكاء الاصطناعي

بالرغم من كل الاهتمام الموجه إلى تشريعات الذكاء الاصطناعي، قد تنبع بعض القواعد الأكثر تأثيرًا التي تحكم هذه التقنية من مكان غير متوقع حقًا: أقسام المشتريات.

مثل العديد من البدايات التنظيمية في الولايات المتحدة، تقدم كاليفورنيا مثالًا مبكرًا: فقد وضعت متطلبات محددة لشراء المنتجات والخدمات التي تستخدم الذكاء الاصطناعي التوليدي. يجب على الجهات الحكومية تقييم المخاطر المرتبطة بمشتريات GenAI، حيث تخضع الاستخدامات المتوسطة والعالية المخاطر لمزيد من التدقيق من قبل إدارة تكنولوجيا كاليفورنيا (CDT). تتطلب طلبات العروض لغة إفصاح عن GenAI، وقد يُطلب من البائعين الكشف عن استخدامهم للتقنية حتى عندما يكون الذكاء الاصطناعي مجرد عنصر فرعي في المنتج أو الخدمة المشتراة.

الأمر الأكثر إثارة للاهتمام هو ما يحدث بعد إتمام الصفقة. إرشادات كاليفورنيا إرشادات شراء GenAI تمتد إلى ما بعد الشراء الأولي. من المتوقع أن يراقب مديرو العقود تقنية GenAI بمرور الوقت لأن بعض التغييرات في التقنية قد تُطلق تقييمًا جديدًا للمخاطر.

هذا يغيّر الأمور بالنسبة للبائعين إذ لم يعد اجتياز عملية الشراء مجرد إجابة على استبيان أمان وتقديم بعض الوثائق. بدأت حوكمة الذكاء الاصطناعي تصبح جزءًا من تكلفة الدخول لممارسة الأعمال في كاليفورنيا. وعلى الرغم من أن هذا هو الوضع الحالي في كاليفورنيا، إلا أنه غالبًا ما يُقَلِّد الولايات الأخرى عندما لا تكون هناك تشريعات فيدرالية، مما يعني أن الشركات ستكون قصيرة النظر إذا اعتبرت ذلك مجرد مشكلة مشتريات في كاليفورنيا.

عندما يبدأ المشتري في وضع القواعد

كيف أصبحت أقسام المشتريات نقطة الانطلاق لحوكمة الذكاء الاصطناعي؟ يمكن للحكومات أن تقضي سنوات في مناقشة التشريعات، لكن قواعد الشراء يمكن أن تكون أكثر مرونة لأنها تستهدف جمهورًا أكثر فورية: أي شخص يرغب في الحصول على العقد.

في غياب تشريعات شاملة للذكاء الاصطناعي، وجدت الجهات المشتريّة طريقة أخرى لتحديد توقعاتها بشأن الذكاء الاصطناعي. يمكنها أن تقرر ما تحتاج إلى معرفته حول استخدام البائع للتقنية، وما الأدلة التي تتوقع رؤيتها، ومستوى المخاطر التي تكون مستعدة لقبولها قبل توقيع العقد. بالنسبة للمشتريين الكبار، ولا سيما الحكومات والمؤسسات الكبرى، يمكن أن تحمل هذه المتطلبات وزنًا كبيرًا.

لفرق المشتريات في القطاع الخاص أسبابها الخاصة لبدء طرح أسئلة حول أمور مثل مكان استخدام الذكاء الاصطناعي أو ما الأدلة المتاحة التي تثبت وجود ضوابط مناسبة. تقضي المؤسسات بالفعل وقتًا كبيرًا في فحص ممارسات الأمان والخصوصية لمورديها. إضافة الذكاء الاصطناعي يجلب مجموعة أخرى من المخاطر التي يحتاج المشترون إلى فهمها قبل أن يمنحوا البائع بياناتهم، أو يدمجوا تقنيته في عملية حاسمة، أو يسمحوا له باتخاذ قرارات تؤثر على العملاء والموظفين.

قد تكون مخاطر الذكاء الاصطناعي الخاصة بك مملوكة لشخص آخر

أحد الجوانب الأكثر أهمية في نهج كاليفورنيا هو إدراكها لصعوبة رسم خط واضح حول استخدام المنظمة للذكاء الاصطناعي. سواء كانت قد اشترت عرضًا للذكاء الاصطناعي خاصًا بها، أو تتعاون مع شركات استشارية تقدم خدمات، أو تستخدم ببساطة خدمات سحابية، فإن الذكاء الاصطناعي مدمج داخل المنظمات أو سلاسل إمدادها.

تأخذ عملية الشراء في كاليفورنيا بعضًا من هذا في الاعتبار. فهي تغطي مشتريات تكنولوجيا المعلومات وغير تكنولوجيا المعلومات التي تشمل GenAI، بما في ذلك المستشارين الذين يستخدمون التقنية، وتدعو إلى تقييم المخاطر عندما يتم التعرف على GenAI أثناء عملية الشراء.

تشبه العملية ما حدث عندما أدركت فرق الأمن السيبراني أن حماية أنظمتهم الخاصة لم تكن كافية إذا كان لدى مورد يمتلك وصولًا إلى بياناتهم أو بنيتهم التحتية ضوابط ضعيفة. أدت هذه الإدراك إلى تحويل الأمن السيبراني للجهات الخارجية إلى جزء رئيسي من إدارة مخاطر الموردين، وهو الاتجاه الذي يبدو أن الذكاء الاصطناعي يسير فيه أيضًا.

كما يخلق ذلك مشكلة محورية للمنظمات التي أنشأت برامج منفصلة للأمان والخصوصية وحوكمة الذكاء الاصطناعي وكل التزام امتثال جديد يظهر. المخاطر لا تحترم تلك الحدود التنظيمية. يمكن لتطبيق الذكاء الاصطناعي أن يثير أسئلة خصوصية، وتعريض أمان، والتزامات تنظيمية في آن واحد.

إن بناء صومعة أخرى لحكمه لا يضيف سوى مكان آخر قد يضيع فيه شيء بين الثغرات.

المشكلة في إثبات الامتثال مرة واحدة

تعقيد إضافي لمسألة معقدة بالفعل هو أن الذكاء الاصطناعي يتحرك. يتم تحديث النماذج، وتطلق الشركات ميزات جديدة، ويجد الموظفون استخدامات للأدوات لم يتوقعها أحد عندما تم شراؤها، وتتغير البيانات. هذه السائلة تعني أن التنظيم يحتاج إلى التغيير أيضًا.

مع ذلك، لا يزال الكثير من نشاط الامتثال يُبنى حول لحظة زمنية معينة. يأتي تدقيق، فيُجمع الأدلة. يرسل عميل استبيانًا، فيُتابع أحدهم جمع الإجابات. تظهر متطلبات جديدة، ويبدأ مشروع امتثال آخر.

كان هذا النهج مرهقًا بالفعل، ومع الذكاء الاصطناعي يصبح من الصعب بشكل متزايد الدفاع عنه. قد يكون تقييم المخاطر الذي أُجري عند شراء المنتج دقيقًا تمامًا في ذلك الوقت، لكنه يصبح قديمًا جدًا بعد عام.

تبدو كاليفورنيا أنها تدرك ذلك، حيث إن دليل مراقبة العقود يدعو إلى تقييم مستمر لتسليمات الذكاء الاصطناعي التوليدي، بما في ذلك المخرجات غير الدقيقة، والمحتوى المفبرك والتحيز. يمكن أن تتطلب التغييرات أو الإضافات إلى تقنية الذكاء الاصطناعي التوليدي في العقود التي كانت تتطلب سابقًا استشارة CDT أيضًا إعادة تقييم.

يأخذ إطار إدارة مخاطر الذكاء الاصطناعي من NIST نظرة مماثلة لإدارة مخاطر الذكاء الاصطناعي، معتبراً إياه عملية مستمرة عبر دورة حياة الذكاء الاصطناعي. سيتطلب ذلك منظمات تتبنى عقلية مختلفة عن تلك التي اعتادت الاستعداد للتدقيق التالي ثم التنفس الصعداء عندما ينتهي.

المشتريات تريد الأدلة، لا الاندفاع

كان هناك الكثير من الحماس حول الامتثال الآلي، خاصةً مع سعي الشركات لمواكبة العدد المتزايد من متطلبات الأمان والخصوصية والذكاء الاصطناعي. الجاذبية مفهومة، لكن الخطر يظهر عندما يُخلط الكفاءة بالحكم.

إن إكمال سير العمل لا يخبرك ما إذا كان الخطر الأساسي قد تغير. على سبيل المثال، قد يكون المورد الذي لم يستخدم الذكاء الاصطناعي لخدمة معينة قبل ستة أشهر يستخدمه الآن. لهذا السبب يجب أن يعمل الامتثال كحلقة مستمرة وليس كخط نهاية. تحتاج المنظمات إلى معرفة ما تحكمه، والتحقق من أن الضوابط تستمر في أداء ما يُفترض بها، ودمج المخاطر والمتطلبات الجديدة في العملية عندما تظهر.

عند تنفيذ ذلك بشكل صحيح، يجعل ذلك المشتريات أقل ألمًا بشكل كبير. عندما يسأل العميل كيف يتم حوكمة الذكاء الاصطناعي، لا تكون الإجابة موجودة في وثيقة كتبها شخص ما العام الماضي لتدقيق. هناك مجموعة مستمرة من الأدلة الحالية تُظهر كيف تُدار المخاطر عمليًا، وهذا يصبح ذا أهمية تجارية.

تُظهر كاليفورنيا كيف يمكن للمشتريات تحويل مبادئ حوكمة الذكاء الاصطناعي إلى متطلبات يجب على الموردين تلبيتها إذا أرادوا الحصول على الأعمال. يمكن للمشترين من القطاع العام الآخرين فعل ذلك أيضًا، بينما تمتلك فرق المشتريات في المؤسسات حافزًا كبيرًا لطرح أسئلة أصعب على مورديهم.

قد تكتشف الشركات في النهاية أن حوكمة الذكاء الاصطناعي ليست شيئًا تقوم به فقط لأن المنظم يطلب ذلك. ستحكم الذكاء الاصطناعي لأن فريق المشتريات قرر أن يطلب منهم إثبات ذلك، وسيفعلون ذلك بسعادة من أجل الفوز بالأعمال.