قادة الفكر
متى يبدأ الذكاء الاصطناعي في التعاملات، من هو المسؤول؟
يتحرك عالم المالية نحو الذكاء الاصطناعي العامل، حيث لا يقوم الذكاء الاصطناعي فقط بالإجابة على الأسئلة ولكن يقوم بالفعل بشراء وتفاوض على behalf. عندما يتم الجمع بين هذا والتمويل غير المرئي، يختفي البنك إلى الخلفية في الحياة اليومية. إنها خطوة كبيرة إلى الأمام من فتح التطبيق أو ملء الاستمارات إلى جعل سيارتك أو برنامج العمل أو محفظة الهوية الرقمية الآمنة تتعامل مع المدفوعات والقروض بشكل فوري وآلي.
هنا حيث نحن ذاهبون – مع سوق عالمي ضخم للذكاء الاصطناعي في خدمات المالية متوقع أن ينمو بمعدل سنوي متوسط يزيد عن 40٪، ويتجاوز 80 مليار دولار بحلول عام 2034. في غضون بضع سنوات، سن停止 القيام بالبنوك وبدء الإشراف على الأنظمة التي تدير حياتنا المالية من أجلنا. عندما يتحرك نظام الذكاء الاصطناعي من مستشار المستخدمين إلى تنفيذ المعاملات نيابة عنهم، يجب على شركات التكنولوجيا المالية مواجهة سؤال أساسي: عندما يتخذ آلة قرار مالي، من يحمل المسؤولية القانونية والتنظيمية؟
الانتقال من المساعدة إلى الوكالة
للمالية، التي كانت تطلب تقليدياً وجود الإنسان في لحظة التعامل، كان من المستحيل في الماضي أن يُستأمن على الآلات بالوكالة لتحديد ما إذا، متى، وكيف يجب التعامل – دون أن يتطلب لحظة القرار حكماً إنسانياً.
已经 تطورت المالية غير المرئية من خلال المدفوعات المدمجة والاشتراكات التلقائية وزر الإغلاق في وضع واحد والسكك الحقيقية. أصبحت البنوك تتحرك بشكل متزايد إلى المنتجات من داخل تطبيقات البنوك. عندما يتم الجمع بين هذا مع الأنظمة الوكيلية، نحصل على قدرات مالية تهدف إلى تحقيق الأهداف وتفهم السياق وجمع المعلومات ذات الصلة عبر المنصات وتشغيل سير العمل بشكل مستقل. باختصار، تحول المالية الوكيلية النية البشرية إلى اتخاذ قرارات ديناميكية ومستمرة دون الحاجة إلى مدخلات بشرية في الوقت الفعلي.
المعاملات، كما نعرفها، تصبح أكثر بنية تحتية وخلفية وأقل تفاعلاً واعياً.
ما هي الآثار؟
يمكن النظر إلى صعود المالية الوكيلية من خلال عدسة السيطرة والسلوك والثقة.
السيطرة لم تعد تتعلق بفتح التطبيقات أو النقر على الأزرار، بل تمتصها طبقات الهوية والمدفوعات والأتمتة غير المرئية، وتوجيه كيفية تحرك المال. لم تعد تمارس في نقطة التعامل، بل في وقت سابق، عندما يحدد الناس تفضيلاتهم وحدودهم وأهدافهم وتصريحاتهم. بدلاً من اتخاذ القرار في كل مرة يجب أن يتحرك المال، يقررون القواعد التي يمكن أن يتحرك بها. ثم تقوم النظام بتقديم هذه السيطرة إلى الأمام، وتفسير هذه القواعد في الوقت الفعلي والعمل وفقاً لذلك.
هذا يغير بشكل أساسي ويفسح المجال للتحدي في الطريقة التي يمارس بها المستخدمون السيطرة. في حين كانت السيطرة تقع في الإجراء،，现在 تتجه نحو التكوين. أنت لا تدير المعاملات، بل تضع شروطاً لما يسمح بحدوثها. الإشراف يصبح مراجعة وتعديل هذه الشروط بدلاً من الموافقة على المدفوعات واحدة تلو الأخرى.
对于 شركات التكنولوجيا المالية، هذا يغير حيث تكمن المسؤولية. السيطرة لم تعد محصورة في الواجهة، بل في البنية التحتية نفسها. تكمن في كيفية التحقق من الهوية، وكيف يتم تصميم الأذونات، وكيف يتم تسجيل القرارات، وكيف يمكن إجراء الفعاليات أو إبطالها. هذه الطبقات تشكل كيفية ممارسة السيطرة المالية الفعلية، حتى لو لم ير المستخدمونها مباشرة. وبالتالي، يتم توجيه السيطرة إلى مسبقاً إلى قابليتها للتدقيق في منطق الوكيل. هذا ينتقل الإشراف من الموافقة على المعاملات في الوقت الفعلي إلى حوكمة “الوظائف الموضوعية”، الأهداف الأساسية المبرمجة في الذكاء الاصطناعي، لضمان أن يبقى النية الأساسية للآلة متوافقة مع المصالح طويلة الأجل للمستخدم قبل تحريك سنت واحد.
عندما تتحرك الأفعال المالية إلى الخلفية، يتغير أيضًا الطريقة التي يتعامل بها الناس مع أموالهم. أشياء أقل لإدارة، أقل من المطالبات للموافقة، وأقل أسباب للتحقق. مع مرور الوقت، يyield习惯 إدارة المعاملات الفعلية إلى مراجعة دورية لكيفية عمل النظام. إذا جعلت المدفوعات النقدية المعاملات بدون جهد، وجعلت التجديدات التلقائية مستمرة، فإن الأنظمة الوكيلية تجعلها مستقلة.
ماذا يصبح من الثقة؟ عندما يتطور المستخدم من روتين سابق من الإشراف، تصبح موثوقية النظام التحتية حداً أساسياً للثقة. الناس لم يعد يحكمون على الخدمة من حيث موثوقيتها في معالجة الدفع، بل من حيث ثقتها في اتخاذ القرارات نيابة عنهم. المستخدمون سيريدون معرفة كيفية اتخاذ القرارات، ما البيانات التي يتم النظر فيها، ما هي الحدود، وماذا يحدث عندما يحدث شيء خاطئ.
ماذا يحدث عندما يحدث شيء خاطئ؟
معظم القانون المالي مبني على فكرة أن البشر يبدأون المعاملات عمداً. لكن عندما يتم فصل لحظة النية ولحظة التنفيذ، يضعف هذا الافتراض. مع الأنظمة المستقلة، يصبح الفعل المبادر غير مباشر. قد يكون المستخدم قد أذن بمجموعة واسعة من القواعد، لكنه لم يؤذن بمعاملات محددة. لذلك، عندما ي发生 شيء خاطئ، يصبح من الصعب تحديد القرار الذي أدى إليه. فكرة صانع القرار الواضح الوحيد لا تظل صالحة، وتتأثر السلسلة الواضحة من صانع القرار والتنفيذ والسببية التي اعتمدت عليها الإطارات القانونية.
تُقدم الأنظمة الوكيلية تفسيرات خوارزمية للنية المستخدمة والنتائج التي تظهر من البيانات في الوقت الفعلي بدلاً من الإرشادات الصريحة. ما يبدو وكأنه معاملة واحدة قد يكون في الواقع نتيجة للقضايا الآلية المتعددة المتراكمة بمرور الوقت.
هذا يخلق تحديات عملية. أولاً، يصبح من الصعب فك تشابك النزاعات لأن من غير الواضح ما إذا كان القضية تكمن في تكوين المستخدم الأصلي، أو تفسير النظام للنية، أو البيانات التي اعتمد عليها، أو الإجراء الذي اتخذه في النهاية. يصبح تنفيذ القانون أكثر تعقيداً، لأن الإطارات التقليدية للتصريح والمسؤولية لا تنتقل بسهولة إلى اتخاذ القرارات الوكيلية.
ومع ذلك، في عيون المنظم، تظل المؤسسة المالية مسؤولة عن الأخطاء أو الانحرافات أو الأضرار الناجمة عن هذه الأنظمة. يعالج القانون أفعال الذكاء الاصطناعي كما لو كانت قد نفذت من قبل موظف بشري. إذا ارتكب الذكاء الاصطناعي خطأ، تتحمل الشركة المسؤولية، خاصة إذا كان الخطأ ناتجًا عن إعداد سيئ أو تكوين غير كاف أو إشراف غير كاف. يمكن أن يصبح من الضروري ضمان الجودة والإشراف البشري في مواجهة اتخاذ القرارات المستقلة. إذا كان هناك شيء، يصبح أكثر أهمية لضمان أن الأنظمة تعمل كما هو موضح.
يหมาย ذلك أن يكون مسؤولاً عن القرارات التي يتخذها البرنامج الذي صمّم ليعمل بشكل مستقل، في كثير من الأحيان في مواقف لم يتصورها أي إنسان صراحة. ستنتقل أسئلة المسؤولية والقابلية للتدقيق والوضوح من الهامش القانوني إلى مركز التصميم. ستحتاج المؤسسات المالية إلى نماذج أوضح لتتبع القرارات وتصريح المسؤولية وإثبات أن الأفعال المستقلة يمكن فهمها ومراجعتها وحوكمتها. لجسر الفجوة في المسؤولية، يجب على الصناعة أن تتبنى “افتراض الخلل الخوارزمي القابل للنقض”. هذا الإطار يفترض قانونياً أن خطأ النظام قد حدث في أي معاملة متنازع عليها ما لم تتمكن المؤسسة المالية من تقديم سجل تدقيق لا يمكن تغييره يثبت أن الوكيل اتبع دقيقاً الحواجز البرمجية.
يُساعد وجود شخص مسؤول للإشراف على كل “وكيل” في إدارة مخاطر الأفعال غير المقصودة ومنع الأخطاء من تصاعد إلى مشاكل حقيقية. هذا يضمن أن تظل الشركة على الجانب الصحيح من القانون مع الحفاظ على المسؤولية.
ما هو الطريق الأمثل للتقدم؟
عندما يدخل الذكاء الاصطناعي الوكيل إلى المالية، يجب أن يصبح الحوكمة أكثر صرامة. سيتعين على فرق القانون والامتثال اللعب دوراً نشطاً في تصميم إطارات التصريح للوكلاء الذكاء الاصطناعي، وتصريف المسؤولية عبر الشركاء، وتحديد الحدود التعاقدية للإجراءات الآلية، وإنشاء معايير وثائقية واضحة تحدد من هو مسؤول عن ماذا.
في المثالي، هذا هو عالم حيث يظل العملاء تحت السيطرة الكاملة ودائماً على دراية بما يفعله وكيل الذكاء الاصطناعي بالضبط. بدلاً من الاعتماد على عقود طويلة ومربكة يتم التوقيع عليها مرة واحدة، يصبح الموافقة ديناميكياً ومتفرقة، منحها من خلال “أذونات صغيرة” لمهام محددة. ومع ذلك، لتفادي خطر “إرهاق الإشعارات”، حيث يوافق المستخدمون تلقائياً على الإشعارات دون قراءتها، يجب دعم الموافقة بآليات حماية الخطر المبرمجة. تعمل هذه كمنظمات أتمتة تلقائية، تؤخر أي إجراء غير محدد أو متغير يخرج عن ملف سلوكي تاريخي للمستخدم.
على سبيل المثال، قد يسمح المستخدم لوكيل الذكاء الاصطناعي بجواز سفر رقمي لإنفاق ما يصل إلى 50 يورو على حسابه لمدة يوم واحد. يتم تسجيل كل إجراء، مما يخلق مسارًا واضحًا يثبت أن الذكاء الاصطناعي ظل ضمن الحدود المصرح بها. إذا حاول الذكاء الاصطناعي القيام بشيء غير عادي أو مخاطر، يوقف النظام تلقائياً ويتطلب تأكيد سريع من خلال بصمة الإصبع أو مسح الوجه، على سبيل المثال. تتحول الأذونات الصغيرة ما كان يمكن أن يكون مشكلة قانونية إلى إجراء أمان في الوقت الفعلي – فوز للعملاء والمؤسسات على حد سواء. يحتفظ المستخدمون بالرؤية والسيطرة، بينما تعمل استقلالية الذكاء الاصطناعي داخل حدود واضحة ومسؤولة. يتم الحفاظ على هذه الرؤية من خلال “التحقق المستمر”، حيث تعمل طبقة “الحارس” القائمة على القواعد بالتوازي مع وكيل الذكاء الاصطناعي. هذه الطبقة الثانوية لا تُشغل المعاملات، ولكنها تملك السلطة المطلقة لإلغاء أي إجراء يخرق الحدود الآمنة المحددة مسبقاً، مما يضمن أن يظل الأمان الموجه نحو البشر نشطاً بدلاً من مجرد تسجيله.
في النهاية، ستعتمد نجاح المالية الوكيلية على قدرتها على العمل بأمان وثبات وطريقة موجهة نحو البشر. التحدى يكمن في تحويل نظام معقد وغير مرئي إلى شيء يمكن الناس الثقة به، وفهمه، والشعور بالسيطرة عليه.
