قادة الفكر
عندما يبدأ الذكاء الاصطناعي إجراء المعاملات، من يتحمل المسؤولية؟

النقاط الرئيسيةالذكاء الاصطناعي الفاعل ينقل السيطرة المالية من الموافقة على المعاملات إلى التكوين…
عرض المزيد
- الذكاء الاصطناعي الفاعل ينقل السيطرة المالية من الموافقة على المعاملات إلى التكوين الاستباقي للقواعد.
- تواجه شركات التكنولوجيا المالية مسؤولية قانونية عن قرارات الذكاء الاصطناعي بموجب افتراض قابل للدحض بوجود خلل خوارزمي.
- الأذونات الدقيقة ذات عتبات المخاطر المبرمجة تتيح للمستخدمين منح استقلالية محدودة للذكاء الاصطناعي بأمان.
عالم المالية يتحرك نحو الذكاء الاصطناعي الوكيل، حيث لا يقوم الذكاء الاصطناعي ببساطة بالإجابة على الأسئلة ولكن يقوم بالفعل بعمليات شراء والتفاوض بالنيابة عنك. عند الجمع بين هذا والتمويل غير المرئي، تختفي الخدمات المصرفية في خلفية الحياة اليومية. إنها خطوة كبيرة إلى الأمام من فتح تطبيق أو ملء النماذج إلى السماح لسيارتك أو برامج العمل أو محفظة هويتك الرقمية الآمنة بمعالجة المدفوعات والقروض فورًا وتلقائيًا.
هذا هو الاتجاه الذي نسير نحوه – مع سوق عالمي للذكاء الاصطناعي الهائل في الخدمات المالية يتوقع أن ينمو بمعدل سنوي متوسط يزيد عن 40٪، ويتجاوز 80 مليار دولار بحلول عام 2034. في غضون بضع سنوات، سنتوقف عن إجراء الخدمات المصرفية ونبدأ الإشراف على الأنظمة التي تدير حياتنا المالية من أجلنا. عندما تتحرك أنظمة الذكاء الاصطناعي من تقديم المشورة للمستخدمين إلى تنفيذ المعاملات نيابة عنهم، يجب على شركات التكنولوجيا المالية مواجهة سؤال أساسي: عندما تتخذ آلة قرارًا ماليًا، من يتحمل المسؤولية القانونية والتنظيمية؟
الانتقال من المساعدة إلى الوكالة
في المجال المالي، الذي كان يتطلب تقليديًا حضور البشر لحظة المعاملة، كان من غير المتصور سابقًا منح الآلات سلطة تقرير ما إذا كانت المعاملة ستُجرى، ومتى وكيف، دون حاجة إلى تقدير بشري لحظة اتخاذ القرار.
التمويل غير المرئي بالفعل تطوّر من خلال المدفوعات المدمجة والاشتراكات التلقائية وإتمام الشراء بنقرة واحدة والبنية التحتية للمدفوعات الفورية. تتحرك الخدمات المصرفية بشكل متزايد إلى المنتجات من داخل تطبيقات الخدمات المصرفية. عند الجمع بين هذا والأنظمة الوكيلة، نحصل على قدرات مالية موجّهة بالأهداف تفهم السياق وتجمع المعلومات ذات الصلة عبر المنصات وتبدأ سير العمل تلقائيًا. باختصار، يُحوّل التمويل القائم على الوكلاء النية البشرية إلى اتخاذ القرارات الديناميكية المستمرة دون الحاجة إلى مدخلات بشرية في الوقت الفعلي.
المعاملات، كما نعرفها، تصبح أقرب إلى بنية تحتية تعمل في الخلفية وأقل اعتمادًا على تفاعل واعٍ.
ما هي الآثار؟
يمكن النظر إلى صعود التمويل القائم على الوكلاء من خلال عدسة التحكم والسلوك والثقة.
السيطرة لم تعد تتعلق بفتح التطبيقات أو النقر على الأزرار، بل تستوعبها الطبقات غير المرئية لأنظمة الهوية والمدفوعات والأتمتة، فتوجّه كيفية تحرك الأموال. لم تعد تمارس في نقطة المعاملة ولكن في وقت سابق، عندما يحدد الأشخاص تفضيلاتهم وحدودهم وأهدافهم والصلاحيات. بدلاً من اتخاذ القرار كل مرة يجب أن تتحرك الأموال، يقررون القواعد التي يمكن أن تتحرك بموجبها. ثم يواصل النظام تطبيق هذه السيطرة، فيفسر القواعد في الوقت الفعلي ويتصرف وفقًا لها.
هذا يغير بشكل جوهري ويفسح المجال للتحدي في طريقة ممارسة المستخدمين للسيطرة. في حين كانت السيطرة تقع في الفعل، فإنها الآن تتجه نحو التكوين. أنت لا تدير المعاملات، ولكن بدلاً من ذلك، تضع الشروط التي يُسمح بموجبها بحدوث المعاملات. يصبح الإشراف على مراجعة وتعديل هذه الشروط بدلاً من الموافقة على المدفوعات واحدة تلو الأخرى.
لشركات التكنولوجيا المالية، هذا يغير مكان وجود المسؤولية. السيطرة لم تعد موجودة في الواجهة ولكن في البنية التحتية نفسها. تقع في كيفية التحقق من الهوية، وكيف يتم تصميم الصلاحيات، وكيف يتم تسجيل القرارات، وكيف يمكن تدقيق الإجراءات أو التراجع عنها. هذه الطبقات تشكل كيفية ممارسة السيطرة المالية الفعلية، حتى لو لم ير المستخدمونها مباشرة. وبالتالي، يتم توجيه السيطرة إلى قابلية منطق الوكيل للتدقيق الاستباقي. هذا ينتقل من الإشراف على الموافقة على المعاملات في الوقت الفعلي إلى حوكمة “دوال الهدف”، الأهداف الأساسية المبرمجة في الذكاء الاصطناعي، لضمان أن النية الأساسية للآلة تظل متوافقة مع المصالح الطويلة الأمد للمستخدم قبل تحرك سنتيم واحد.
عندما تتحرك الإجراءات المالية إلى الخلفية، تتغير أيضًا طريقة تفاعل الناس مع أموالهم. أشياء أقل لإدارتها، وتذكيرات أقل للموافقة، وأسباب أقل للتحقق. بمرور الوقت، تفسح عادة إدارة المعاملات بصورة نشطة المجال لمراجعة دورية لكيفية عمل النظام. إذا جعلت المدفوعات غير النقدية المعاملات بدون مجهود، وجعلت التجديدات التلقائية المعاملات مستمرة، فإن الأنظمة الوكيلة تجعلها مستقلة.
ماذا يحدث بعد ذلك للثقة؟ عندما يتطور المستخدم من روتين سابق من الإشراف، تصبح موثوقية النظام الأساسي حجر الزاوية للثقة. الناس لم يعدوا يحكمون الخدمة من حيث موثوقيتها في معالجة الدفع، ولكن من حيث الثقة التي يمكن أن يسمحوا لها باتخاذ القرارات نيابة عنهم. سيريد المستخدمون معرفة كيف يتم اتخاذ القرارات، وما هي البيانات التي يتم النظر فيها، وما هي الحدود الموجودة، وماذا يحدث عندما يحدث خطأ.
ماذا يحدث عندما يحدث خطأ؟
معظم القانون المالي مبني على فكرة أن البشر يبدأون المعاملات عمدًا. ولكن عندما يتم فصل لحظة النية ولحظة التنفيذ، يضعف هذا الافتراض. مع الأنظمة المستقلة، يصبح الفعل الذي يبدأ المعاملة غير مباشر. قد يكون المستخدم قد أذن بمجموعة واسعة من القواعد، ولكن ليس معاملة محددة. لذلك، عندما يحدث خطأ، يصبح من الصعب تحديد القرار الدقيق الذي أدى إليه. فكرة المتحكم الوحيد والواضح لم تعد صالحة، وتتدهور السلسلة الواضحة للنية والتنفيذ والسببية التي اعتمدت عليها الإطارات القانونية دائمًا.
تُدخل الأنظمة الوكيلة تفسيرات خوارزمية لنية المستخدم ونتائج تنشأ من البيانات الآنية بدلًا من التعليمات الصريحة. قد يبدو أن المعاملة الواحدة هي نتيجة لأحكام آلية متعددة تراكمت مع مرور الوقت.
يخلق هذا تحديات عملية. أولًا، يصبح من الصعب فك تشابك النزاعات لأن من غير الواضح ما إذا كانت القضية تكمن في تكوين المستخدم الأصلي أو تفسير النظام للنية أو البيانات التي اعتمد عليها أو الإجراء النهائي الذي اتخذه. يصبح تنفيذ القانون أكثر تعقيدًا، لأن الإطارات التقليدية للتصريح والمسؤولية لا تنتقل بسهولة إلى اتخاذ القرارات بواسطة الوكلاء.
ومع ذلك، في نظر الجهة التنظيمية، تظل المؤسسة المالية مسؤولة عن الإخفاقات أو الانتهاكات أو الأضرار الناجمة عن هذه الأنظمة. يعالج القانون أفعال الذكاء الاصطناعي كما لو كانت قد نفذت من قبل موظف بشري. إذا ارتكب الذكاء الاصطناعي خطأً، تتحمل الشركة المسؤولية، خاصة إذا نشأ الخطأ من إعداد سيئ أو تكوين غير كاف أو إشراف غير كاف. وبالتالي، لا يمكن إنكار أهمية ضمان الجودة والإشراف البشري في اتخاذ القرارات المستقلة. بل إنهما يصبحان أكثر أهمية لضمان أن الأنظمة تعمل على النحو المقصود.
يعني ذلك أن تكون مسؤولاً عن القرارات التي يتخذها البرنامج الذي صمّم ليعمل بشكل مستقل، غالبًا في مواقف لم يتصورها أي إنسان صراحة. ستنتقل أسئلة المسؤولية وقابلية التدقيق وقابلية التفسير من الهامش القانوني إلى مركز التصميم. ستحتاج المؤسسات المالية إلى نماذج أوضح لتتبع القرارات وإسناد المسؤولية وإثبات أن حتى الإجراءات المستقلة يمكن فهمها ومراجعتها وحوكمتها. لجسر الفجوة في المسؤولية، يجب على الصناعة أن تتبنى “قرينة قابلة للدحض بوقوع خلل خوارزمي”. هذا الإطار يفترض قانونيًا أن هناك خطأً في النظام في أي معاملة متنازع عليها ما لم تستطع المؤسسة المالية تقديم سجل مراجعة لا يمكن تغييره يثبت أن الوكيل التزم بدقة بضوابط الحماية المبرمجة فيه.
يُساعد وجود مسؤول رفيع يشرف على كل “وكيل” في إدارة مخاطر الإجراءات غير المقصودة ويمنع تصاعد الأخطاء إلى مشاكل حقيقية. هذا يضمن أن تظل الشركة على الجانب الصحيح من القانون مع الحفاظ على المسؤولية.
ما هو الطريق الأمثل للمضي قدمًا؟
عندما يدخل الذكاء الاصطناعي الوكيل إلى المالية، يجب أن تصبح الحوكمة واضحة بالقدر نفسه. سيتعين على فرق القانون والامتثال أداء دور نشط في تصميم إطارات التصريح لوكلاء الذكاء الاصطناعي، وتحديد المسؤولية عبر الشركاء، ووضع حدود عقدية للإجراءات الآلية، وإنشاء معايير وثائقية واضحة تحدد بوضوح من هو مسؤول عماذا. تحتاج الموافقة أيضًا إلى التطور – يجب أن يكون للمستخدمين فهم واضح لما يوقعون عليه وحدود صلاحيات الوكيل.
في الوضع المثالي، يحتفظ العملاء بالسيطرة الكاملة ويكونون دائمًا على دراية بما يفعله وكيل الذكاء الاصطناعي بالضبط. بدلاً من الاعتماد على عقود طويلة ومربكة يتم التوقيع عليها مرة واحدة، تصبح الموافقة ديناميكية ومفصلة، تمنح من خلال “أذونات دقيقة” لمهام محددة. ومع ذلك، لتجنب خطر “إرهاق الإشعار”، حيث يوافق المستخدمون تلقائيًا على الإشعارات دون قراءتها، يجب دعم الموافقة بعتبات للمخاطر مبرمجة بشكل ثابت. تعمل هذه كقواطع أمان تلقائية، فتوقف أي إجراء غير حتمي أو عالي التباين يخرج عن ملف تعريف سلوكي تاريخي للمستخدم.
على سبيل المثال، قد يسمح المستخدم لوكيل الذكاء الاصطناعي بتصريح رقمي لإنفاق ما يصل إلى 50 يورو نيابة عنه لمدة يوم واحد. يتم تسجيل كل إجراء، مما يخلق مسارًا واضحًا يثبت أن الذكاء الاصطناعي ظل ضمن الحدود المصرح بها. إذا حاول الذكاء الاصطناعي القيام بشيء غير عادي أو محفوف بالمخاطر، يتوقف النظام تلقائيًا ويتطلب تأكيدًا سريعًا من خلال بصمة الإصبع أو مسح الوجه، على سبيل المثال. تحوّل الأذونات الدقيقة ما كان يمكن أن يصبح مشكلة قانونية إلى إجراء أمان في الوقت الفعلي – مكسب للمستخدمين والمؤسسات على حد سواء. يحتفظ المستخدمون بالرؤية والسيطرة، بينما تعمل استقلالية الذكاء الاصطناعي ضمن حدود واضحة ومسؤولة. يتم الحفاظ على هذه الرؤية بشكل أفضل من خلال “التحقق المستمر”، حيث تعمل طبقة “الحارس” القائمة على القواعد بالتوازي مع وكيل الذكاء الاصطناعي. هذه الطبقة الثانوية لا تبدأ المعاملات ولكنها تمتلك السلطة المطلقة لرفض أي إجراء يخرق الحدود الآمنة المحددة مسبقًا، مما يضمن أن تظل السلامة المتمحورة حول الإنسان استباقية بدلًا من الاكتفاء بتسجيلها.
في النهاية، يعتمد نجاح التمويل القائم على الوكلاء على قدرته على العمل بأمان وموثوقية وبطريقة تتمحور حول الإنسان. يقع التحدي في تحويل نظام معقد وغير مرئي إلى شيء يمكن للناس الثقة به وفهمه والشعور بالسيطرة عليه.












