الحوكمة الاصطناعية: مشكلة للمعظم، وميزة للقليل

الذكاء الاصطناعي للشركات يتراكم المخاطر بشكل أسرع مما يُحسب له. وبدأ وكلاء الذكاء الاصطناعي في لمس بيانات العملاء، ورمز الإنتاج، وقرارات الأعمال الهامة، وفي معظم المنظمات، يتم حكمهم بواسطة ضوابط مصممة لera مختلفة من التكنولوجيا. وفي الوقت نفسه، فإن الدعم الخارجي الذي قد تعتمد عليه الشركات يصبح أقل. وقد خفض مختبرو الذكاء الاصطناعي الرائدين التزاماتهم الطوعية بالسلامة، ولا تزال التنظيمات متفرقة عبر الولايات القضائية. ويتساقط عبء الثقة على الشركات التي تنشر الذكاء الاصطناعي، لأنها في النهاية هي التي ستتأثر بالنتائج السلبية عند ظهورها.

أقوم بعمل استراتيجي في مجال الذكاء الاصطناعي مع الشركات عبر hầu جميع الصناعات، وأتحدث مع المديرين التنفيذيين والمجالس يوميًا. والنمط المتسق الذي أراه هو كما يلي: يزداد النشر سرعةً، بينما لا تتماشى البنية التحتية للسيطرة معها. والنمط متسق بما فيه الكفاية بحيث أعتبره هيكليًا وليس فشلًا لشركة معينة، وسأقدم تنبؤًا: نحن لسنا بعيدين عن أن يضطر الرئيس التنفيذي لشرح أن خطأً كبيرًا قد كلّف الشركة ملايين الدولارات، وسوف يلقي باللوم على الذكاء الاصطناعي. وسأقترح بلباقة أن هذا ليس عذرًا.

الخبر السار هو أنني أرى من القليل من الشركات التي تعامل الحوكمة بشكل مختلف، وأعتقد أن تلك الشركات تبني ميزة طويلة الأمد تتراكم مع مرور الوقت، بينما تنتظر الشركات الأخرى على جانب الطريق وتخاطر بالاعتيادية. وفهم ما يراه القليل يبدأ بفهم إلى أين تؤدي المسار الحالي.

نحن نميل نحو مشكلة

التحويلات الحالية صغيرة بما يكفي لامتصاص المخاطر بواسطة الإشراف البشري. ووجدت دراسة حالة الذكاء الاصطناعي في الشركات أن ربع الشركات فقط قد نقلت على الأقل 40٪ من تجارب الذكاء الاصطناعي إلى الإنتاج. ومعظم الشركات لا تزال في البداية، وتشغيل عدد قليل من الوكلاء في حالات استخدام ضيقة مع أشخاص يتابعون كل مخرجات.

المسار هو ما يهم. مع زيادة التحويلات من وكلاء إلى 20، إلى 200، إلى 2000 وما بعدها، تتراكم التعقيدات. كل وكيل جديد يأتي بسلوكه الخاص، بالإضافة إلى التفاعلات مع كل نظام يلمسه وكل وكيل آخر يعمل معه. عند وكلاء، تكون الثقة سهلة: تعرف الفريق، وتستعرض المخرجات بنفسك. عند 20 وكيلًا، يجب أن تصبح الثقة عملية، مع أصحاب محددين، واختبارات، ومسارات تصعيد. يمكن أن تعمل، لكنها تصبح أكثر صعوبة في الاستمرار. عند 200 وكيل، يصبح المراجعة غير رسمية مسرحية، لأن لا فريق قيادة يمكنه مراقبة تلك النشاطات. وعند 2000 وكيل، يصبح الوكيل البشري في الحلقة غير مفيد تقريبًا، لأن التفاعلات بين الوكلاء والبيانات والعمليات التجارية تشكل شبكة تتجاوز ما يمكن الإشراف عليه يدوياً. عند تلك النقطة، تحتاج الثقة إلى أن تكون موجودة أيضًا في المقاييس وتكون متأصلة في البنية التحتية الفنية للشركة.

تكلفة الانتظار

البنية التحتية للثقة المفقودة هي أيضًا أحد أسباب العائدات المخيبة. في استطلاع المديرين التنفيذيين العالمي لشركة، قال 56٪ من المديرين التنفيذيين إن الذكاء الاصطناعي لم ينتج أي زيادة في الإيرادات أو خفض التكاليف خلال العام الماضي. من تجربتي، حتى العائدات المعلنة تبدو أقل اقناعًا عند فحص الاقتصاد التحتية. تعتبر معظم الشركات ساعات المحفوظة وتناديها بالعائد على الاستثمار. تصبح ساعات المحفوظة عائدًا ماليًا فقط عندما تحول المنظمة السعة إلى شيء أكثر قيمة: إنتاج أكبر، جودة أفضل، تكاليف أقل، نمو أسرع، إلخ.

يتطلب ذلك الثقة. لا يمكن للشركة نقل الحكم البشري إلى عمل أكثر قيمة إلا عندما يثق القيادة في الأنظمة التي تأخذ على عاتقها العمل الأقل قيمة. في غياب الثقة، تتراكم الشركات الديون الفنية التي لا تتناسب معها، وتؤثر على الإنتاجية بمرور الوقت. إنه أسوأ العالمين: زيادة الإنفاق مع القليل من العرض.

مشكلة المصعد

الارتباط بين الثقة والاعتماد ليس جديدًا، ويمكننا العودة إلى منتصف القرن العشرين للحصول على نقطة مرجعية معقولة. مصاعد بدون سائق تمت موجودة منذ عقود قبل أن يركبها أحد. كان التكنولوجيا تعمل، لكن الركاب كانوا يدخلون سيارة، ولا يرون سائقًا، ويتوقفون. ما تغير هو ليس المصعد، بل ضوابط السلامة المحيطة به. بعد إضراب عمال المصعد في عام 1945، الذي أغلق المباني المكتبية في جميع أنحاء نيويورك، قامت الصناعة ببناء الثقة في الآلة نفسها: زر وقف الطوارئ، خط الهاتف، أبواب إعادة فتح عند مقاومة، وصوت مسجل يشرح ما يجب فعله. في غضون جيل، أصبح ركوب مصعد بدون سائق شائعًا لدرجة أن الدخول إلى مصعد مع شخص يدير الأزرار يبدو قديمًا. لم تكن الحاجز ل हट سائق من الحلقة هي القدرة. كانت الثقة، والصناعة حلتها ببناء ضوابط مرئية ويمكن التحقق منها في النظام ووضعها في مكان يمكن كل راكب رؤيته.

الذكاء الاصطناعي للشركات في مرحلة الدخول، ثم الخروج. فرق القيادة ترى وكلاء بدون سائق ويتردد، ويتردد بشكل منطقي: معظم المنظمات لم تبني بعد ما يعادل زر الوقف، والخط الهاتفي، والباب الذي لن يغلق عليك. الشركات التي تضع تلك الضوابط في أنظمتها ستكون تلك التي يبقى فيها الناس، والعملاء، والمنظمون.

يمكن لموفري البرامج حمل جزء فقط من هذا

许多 قيادي يأملون أن يحمل موفرو البرامج عبء الثقة. يمكن لموفري البرامج تقديم ضمانات أمان على مستوى النموذج وضوابط أمان، والجيدون يفعلون ذلك. يبقى من مسؤوليتك تحديد ما إذا كان نشر معين مناسب لبياناتك، والتزاماتك التنظيمية، وعميلك، وتحمل المخاطر، لأن موردك يفتقر إلى السياق لفعل ذلك. لم ير موردك أبدًا التزاماتك، وليس لديه طريقة لتحديد تكلفة نتيجة سيئة لك.

التزام مورد بالسلامة يغطي نموذجه، وليس استخدامك له. كما أنه ليس دائمًا: كما أظهر العام الماضي، يمكن تعديل تلك الالتزامات أو سحبها. حلت الصناعات الخاضعة للرقابة هذا السؤال منذ زمن بعيد لنمذج الطرف الثالث، والمعيار الذي استقروا عليه هو الصحيح: المؤسسة التي تنشر النموذج تملك المخاطر.

ما يفعله القليل

الشركات التي تتقدم تتخذ ثلاث خطوات:

1. هم يبنيون البنية التحتية للسيطرة الآن، مصممة لمقياسهم المقصود، وليس لمقياسهم الحالي، لأن الضوابط يجب أن تكون موجودة قبل وكلاء الذين يحتاجون إليها.
2. هم يدمجون تصنيف المخاطر والتخفيف في بداية عملية النشر، وليس كبوابة مراجعة في النهاية، بحيث يتم تصنيف كل حالة استخدام وتكون الضوابط متناسبة مع المخاطر من اليوم الأول.
3. هم يقومون بإنشاء حوكمة مستقلة مع سلطة حقيقية للتحقق من سلوك هذه الأنظمة كما هو موضح، مع الحفاظ على المرونة لتطوير التكنولوجيا. المصداقية تجعل التحقق موثوقًا به. والمرونة تبقيه حديثًا.

من الجدير بالذكر أن قليلًا من المنظمين قد وضعوا قواعد صريحة حول استخدام ومراقبة الذكاء الاصطناعي التوليدي، لكن ذلك لا يعني أننا لا شيء لننظر إليه للاسترشاد. المنظمون لديهم قواعد محددة جيدًا لإدارة النماذج التقليدية، ويمكننا استخدامها كدليل. في أبريل، أصدرت الإحاطة التنظيمية لمجلس الاحتياطي الفيدرالي، ووكالة التحكم في العملات، وشركة التأمين على الودائع إرشادات مراجعة النماذج المنقحة، التي تعكس عقودًا من الممارسة، ونهج قائم على المبادئ الذي يتضمن مخازن النماذج، وضوابط أمان متناسبة مع التعرض، وتحقق مستقل، ومراقبة مستمرة، ومسؤولية المؤسسة عن منتجات البائع، وأمرت المؤسسات بتطبيق ممارسات مماثلة للذكاء الاصطناعي بنفسها. الرسالة واضحة: المبادئ التي تعمل معروفة، والقواعد الرسمية للذكاء الاصطناعي ليست قادمة قريبًا. الشركات التي تنتظر وضوحًا تنظيميًا سوف تنتظر بينما يتصرف القليل.

السؤال الذي يهم

الفجوة تتشكل بالفعل. معظم الشركات تعامل الحوكمة كتكلفة: شيء يتم امتصاصه، وتحمله، وتقليله. القليل يعاملونها كبنية تحتية تتيح لهم نقل الناس إلى عمل أكثر قيمة وتنمية بثقة. كل فريق قيادة على جانب أو آخر، سواء اختاروا ذلك عمدًا أو لا، والفجوة تتراكم بهدوء قبل مقياس يكشف عنها. لا أحد يفكر مرتين قبل دخول المصعد اليوم، لأن الثقة تم بناؤها فيه. الشركات التي تفعل الشيء نفسه للذكاء الاصطناعي سوف تتنامى أكثر من كل من لا يزال يقرر ما إذا كان سيدخل.