كيف تبني الذكاء الاصطناعي القابل للشرح الثقة والمساءلة

لقد غامر الشركات بالفعل في تبني الذكاء الاصطناعي، وسارعت إلى نشر محادثات روبوتية، ومولدات محتوى، وأدوات دعم اتخاذ القرارات عبر عملياتها. وفقًا لمكينسي، يستخدم 78% من الشركات الذكاء الاصطناعي في واحد على الأقل من وظائف الأعمال.

من الطبيعي أن يكون هناك هysteria في التنفيذ — الجميع يرى القيمة المحتملة. لكن في هذا العجلة، تتجاهل العديد من المنظمات حقيقة أن جميع التكنولوجيات القائمة على الشبكات العصبية، بما في ذلك كل نظام الذكاء الاصطناعي التوليدي واللغة في الاستخدام اليوم والمرئي في المستقبل، تشترك في عيب كبير: أنها غير متوقعة وultimately غير قابلة للسيطرة.

كما تعلم البعض، يمكن أن يكون هناك عواقب حقيقية نتيجة لذلك. في أحد معارض بيع سيارات Шевرولت التي نشرت روبوت محادثة على موقعها على الإنترنت، قنع زبون الروبوت القوي ببيع سيارة Шевرولت تاهو مقابل 1 دولار فقط. كما حث زبون آخر الروبوت على كتابة برنامج بايثون لمعادلات ديناميكية سائلة معقدة، والتي قام بها بسعادة. قام المعرض بتعطيل الروبوت بعد أن أصبحت هذه الحوادث مشهورة.

في العام الماضي، خسرت شركة طيران كندا في محكمة المطالبات الصغيرة عندما ادعت أن روبوت المحادثة الخاص بها، الذي قدم لمسافر معلومات غير دقيقة حول خصم الحداد، “هو كيان قانوني منفصل مسؤول عن أفعاله الخاصة”.

ينبع هذا عدم التوقيع من الهيكل الأساسي للنماذج اللغوية الكبيرة. إنها كبيرة ومعقدة لدرجة أن من المستحيل فهم كيفية وصولها إلى إجابات محددة أو توقع ما ستنتج حتى تنتج الإخراج. تستجيب معظم المنظمات لهذه القضية المتعلقة بالموثوقية بدون الاعتراف الكامل بها.

الحل البديهي هو التحقق من نتائج الذكاء الاصطناعي يدويا، وهو ما يعمل ولكن يحد بشدة من إمكانات التكنولوجيا. عندما يتم تحويل الذكاء الاصطناعي إلى مساعد شخصي — صياغة النص، وتسجيل دقائق الاجتماعات، و تلخيص الوثائق، والمساعدة في البرمجة — فإنه يوفر مكاسب إنتاجية متواضعة. ليس كافيا لتحويل الاقتصاد.

ستصل المنافع الحقيقية للذكاء الاصطناعي عندما ن停止 استخدامه لمساعدة الوظائف الحالية وبدلاً من ذلك إعادة تشكيل العمليات والأنظمة والشركات بأكملها لاستخدام الذكاء الاصطناعي بدون تدخل بشري في كل خطوة. فكر في معالجة القروض: إذا قدم بنك لموظفي القروض مساعد الذكاء الاصطناعي لتلخيص الطلبات، فقد يعملون بسرعة 20-30% أسرع. لكن نشر الذكاء الاصطناعي لمعالجة عملية اتخاذ القرار بأكملها (مع الحفاظ على الحماية المناسبة) يمكن أن يقلل التكاليف بنسبة أكثر من 90% ويقلل الوقت اللازم几乎 إلى الصفر. هذا هو الفرق بين التحسين المتواضع والتحول.

طريق الذكاء الاصطناعي الموثوق به

لاستخدام الذكاء الاصطناعي بكل إمكانه بدون الانحدار إلى عدم التوقيع ي đòiي مزيج متقدم من المناهج الفنية والتفكير الاستراتيجي. بينما تقدم عدة طرق حالية حلول جزئية، لكل منها قيود كبيرة.

تحاول بعض المنظمات التخفيف من مشاكل الموثوقية من خلال دفع النظام — التوجيه الخفيف لسلوك الذكاء الاصطناعي في الاتجاهات المرغوبة حتى يستجيب بناءً على مدخلات معينة. أثبت باحثو أنثروبيك هشاشة هذا النهج من خلال تحديد “ميزة جسر Голден غيت” في شبكة عصبية كلود و، من خلال تعزيزها بشكل مصطنع، أ CAUSED كلود لتطوير أزمة هوية. عندما سُئل عن شكله المادي، لم يعترف بأنه لا يمتلك أي شكل مادي، بل ادعى أنه يعد جسر غولدن غيت نفسه. كشفت هذه التجربة عن كيفية تغيير وظيفة النموذج بسهولة وكيف أن كل دفع يمثل تنازلاً، قد يحسن جانباً من الأداء بينما يضر بآخر.

نهج آخر هو السماح للذكاء الاصطناعي بمراقبة الذكاء الاصطناعي الآخر. بينما يمكن أن يلتقط هذا النهج الطبقي بعض الأخطاء، فإنه يضيف تعقيدا إضافيا ولا يزال يفتقر إلى الموثوقية الشاملة. الحواجز المبرمجة مسبقا هي تدخل أكثر مباشرة، مثل حظر الاستجابات التي تحتوي على كلمات أو أنماط معينة، مثل مكونات المواد الكيميائية السابقة للأسلحة. بينما تكون هذه الحواجز فعالة ضد القضايا المعروفة، فإنها لا تستطيع أن تتوقع الإخراجات المشكلة الجديدة التي تظهر من هذه الأنظمة المعقدة.

نهج أكثر فعالية هو بناء عمليات مركزة على الذكاء الاصطناعي يمكنها العمل بشكل مستقل، مع وضع إشراف بشري استراتيجيا لالتقاط قضايا الموثوقية قبل أن تسبب مشاكل في العالم الحقيقي. لا تريد أن يؤيد الذكاء الاصطناعي أو يرفض طلبات القروض مباشرة، ولكن يمكن للذكاء الاصطناعي إجراء تقييم أولي للمشغلين البشريين لمراجعته. يمكن أن يعمل هذا، ولكنه يعتمد على اليقظة البشرية لالتقاط أخطاء الذكاء الاصطناعي ويتداخل مع المكاسب المحتملة للكفاءة من استخدام الذكاء الاصطناعي.

بناء المستقبل

تؤشر هذه الحلول الجزئية إلى نهج أكثر شمولا. المنظمات التي تفكر بشكل جوهري في كيفية إنجاز عملها بدلاً من مجرد تعزيز العمليات الحالية بمساعدة الذكاء الاصطناعي ستحصل على أكبر ميزة. لكن يجب ألا يكون الذكاء الاصطناعي أبدا الخطوة الأخيرة في عملية أو قرار ذي مخاطر عالية، فما هو أفضل طريق للمضي قدمًا؟

أولاً، يبني الذكاء الاصطناعي عملية قابلة للتكرار وشفافة توفر نتائج متسقة بشكل موثوق. ثانياً، يراجع البشر هذه العملية لضمان فهم كيفية عملها ومدى ملاءمة المدخلات. وأخيراً، تعمل العملية بشكل مستقل — بدون استخدام الذكاء الاصطناعي — مع مراجعة دورية للنتائج من قبل البشر.

فكر في صناعة التأمين. النهج التقليدي قد يضيف مساعدي الذكاء الاصطناعي لمعالجين المطالبات لمساعدتهم على العمل بكفاءة أكبر. نهج أكثر ثورة سوف يستخدم الذكاء الاصطناعي لتطوير أدوات جديدة — مثل رؤية الكمبيوتر التي تحلل صور الضرر أو نماذج كشف الاحتيال المحسنة التي تحدد أنماط مشبوهة — ودمج هذه الأدوات في أنظمة أوتوماتيكية تحكمها قواعد واضحة ومفهومة. سوف يصمم ويراقب البشر هذه الأنظمة بدلاً من معالجة مطالبات فردية.

يحافظ هذا النهج على الإشراف البشري في النقطة الحاسمة حيث يهم أكثر: تصميم واعتماد النظام نفسه. إنه يسمح بزيادات كفاءة أسي ويقضي على خطر أن يؤدي عدم توقيع الذكاء الاصطناعي إلى نتائج ضارة في الحالات الفردية.

قد يحدد الذكاء الاصطناعي مؤشرات محتملة لقدرة سداد القرض في بيانات المعاملات. يمكن للخبراء البشريين بعد ذلك تقييم هذه المؤشرات من حيث العدالة وبناء نماذج صريحة واضحة لتحديد قوتها التنبؤية.

سيخلق هذا النهج للذكاء الاصطناعي القابل للشرح فرقا واضحا بين المنظمات التي تستخدم الذكاء الاصطناعي سطحيا وتلك التي تحول عملياتها حولها. ستسحب الأخيرة بشكل متزايد في صناعاتها، قادرة على تقديم منتجات وخدمات عند نقاط سعر لا يستطيع منافسوها مطابقتها.

على عكس الذكاء الاصطناعي الأسود، فإن أنظمة الذكاء الاصطناعي القابل للشرح تضمن أن البشر يحتفظون بالإشراف المهم على تطبيق التكنولوجيا، مما يخلق مستقبلا حيث يزيد الذكاء الاصطناعي من الإمكانات البشرية بدلاً من استبدال العمل البشري ببساطة.