عندما يبدأ الذكاء الاصطناعي في التعامل، من هو المسؤول؟

عالم المالية يتحرك نحو الذكاء الاصطناعي العامل، حيث لا يقوم الذكاء الاصطناعي ببساطة بالإجابة على الأسئلة ولكن يقوم بالفعل بشراء وتفاوض بالنيابة عنك. عند الجمع بين هذا وتمويل الخدمات المالية غير المرئية، تختفي الخدمات المصرفية في خلفية الحياة اليومية. إنها خطوة كبيرة إلى الأمام من فتح تطبيق أو ملء النماذج إلى السماح لسيارتك أو برامج العمل أو هويتك الرقمية الآمنة بمعالجة المدفوعات والقروض تلقائيًا ودون توقف.

هذا هو المكان الذي نحن متوجهين إليه – مع سوق عالمي للذكاء الاصطناعي الهائل في خدمات المالية يتوقع أن ينمو بمعدل سنوي متوسط يزيد عن 40٪، ويتجاوز 80 مليار دولار بحلول عام 2034. في غضون بضع سنوات، سن停止 القيام بالخدمات المصرفية وبدء الإشراف على الأنظمة التي تدير حياتنا المالية من أجلنا. عندما تتحرك أنظمة الذكاء الاصطناعي من تقديم المشورة للمستخدمين إلى تنفيذ المعاملات نيابة عنهم، يجب على شركات التكنولوجيا المالية مواجهة سؤال أساسي: عندما يتخذ آلة قرار مالي، من يحمل المسؤولية القانونية والتنظيمية؟

الانتقال من المساعدة إلى الوكالة

للمالية، التي كانت ت đòi традиعيًا وجود البشر في لحظة المعاملة، كان من غير الممكن في الماضي أن تُستخدم الآلات بالوكالة لتحديد متى وكيف يتم التعامل – دون الحاجة إلى حكم بشري في لحظة القرار.

التمويل غير المرئي已经 تطوّر من خلال المدفوعات المدمجة والاشتراكات التلقائية وزر الإعداد الفوري والسكك الحديدية في الوقت الفعلي. تتحرك الخدمات المصرفية بشكل متزايد إلى المنتجات من داخل تطبيقات الخدمات المصرفية. عند الجمع بين هذا والنظم العاملة، نحصل على قدرات مالية مدفوعة بالغرض التي تفهم السياق وتجمع المعلومات ذات الصلة عبر المنصات وتبدأ سير العمل تلقائيًا. باختصار، يُحوّل التمويل العامل النية البشرية إلى اتخاذ القرارات الديناميكية المستمرة دون الحاجة إلى مدخلات بشرية في الوقت الفعلي.

المعاملات، كما نعرفها، تصبح أكثر بنية تحتية وخلفية وأقل تفاعل واعيًا.

ما هي الآثار?

يمكن النظر إلى صعود التمويل العامل من خلال عدسة التحكم والسلوك والثقة.

السيطرة لم تعد تتعلق بفتح التطبيقات أو النقر على الأزرار، ولكنها تمتصها الطبقات غير المرئية لأنظمة الهوية والمدفوعات والautomation، وتوجيه كيفية تحرك الأموال. لم تعد تمارس في نقطة المعاملة ولكن في وقت سابق، عندما يحدد الأشخاص تفضيلاتهم وحدودهم وأهدافهم والصلاحيات. بدلاً من اتخاذ القرار كل مرة يجب أن تتحرك الأموال، يقررون القواعد التي يمكن أن تتحرك بموجبها. ثم تُحمل هذه السيطرة إلى الأمام من قبل النظام، وتفسر هذه القواعد في الوقت الفعلي وتنفذها وفقًا لذلك.

هذا يغير بشكل جوهري ويفسح المجال للتحدي في طريقة ممارسة المستخدمين للسيطرة. في حين كانت السيطرة تقع في الإجراء،，现在 تتجه نحو التكوين. أنت لا تدير المعاملات، ولكن بدلاً من ذلك، تضع شروطًا لم تتمكن من حدوثها. يصبح الإشراف على مراجعة وتعديل هذه الشروط بدلاً من الموافقة على المدفوعات واحدة تلو الأخرى.

لشركات التكنولوجيا المالية، هذا يغير مكان وجود المسؤولية. السيطرة لم تعد موجودة في الواجهة ولكن في البنية التحتية نفسها. تقع في كيفية التحقق من الهوية، وكيف يتم تصميم الصلاحيات، وكيف يتم تسجيل القرارات، وكيف يمكن إرجاع الإجراءات أو إلغائها. هذه الطبقات تشكل كيفية ممارسة السيطرة المالية الفعلية، حتى لو لم ير المستخدمونها مباشرة. وبالتالي، يتم توجيه السيطرة إلى مساءلة منطق الوكيل. هذا ينتقل من الإشراف على الموافقة على المعاملات في الوقت الفعلي إلى حوكمة “الوظائف الموضوعية”، الأهداف الأساسية المبرمجة في الذكاء الاصطناعي، لضمان أن النية الأساسية للآلة تظل متوافقة مع المصالح الطويلة الأمد للمستخدم قبل تحرك سنتيم واحد.

عندما تتحرك الإجراءات المالية إلى الخلفية، يتغير أيضًا طريقة تفاعل الناس مع أموالهم. أشياء أقل لإدارة، وتذكيرات أقل للموافقة، وأسباب أقل للتحقق. بمرور الوقت، يyield习 العادة الفعلية لإدارة المعاملات إلى مراجعة دورية لكيفية عمل النظام. إذا جعلت المدفوعات النقدية المعاملات بدون مجهود، وجعلت التجديدات التلقائية المعاملات مستمرة، فإن الأنظمة العاملة تجعلها تلقائية.

ماذا يحدث بعد ذلك للثقة؟ عندما يتطور المستخدم من روتين سابق من الإشراف، يصبح موثوقية النظام الأساسي حجر الزاوية للثقة. الناس لم يعدوا يحكمون الخدمة من حيث موثوقيتها في معالجة الدفع، ولكن من حيث الثقة التي يمكن أن يسمحوا لها بالاتخاذ القرارات نيابة عنهم. سيريد المستخدمون معرفة كيف يتم اتخاذ القرارات، وما هي البيانات التي يتم النظر فيها، وما هي الحدود الموجودة، وماذا يحدث عندما يحدث خطأ.

ماذا يحدث عندما يحدث خطأ؟

معظم القانون المالي مبني على فكرة أن البشر يبدأون المعاملات عمدًا. ولكن عندما يتم فصل لحظة النية ولحظة التنفيذ، يضعف هذا الافتراض. مع الأنظمة المستقلة، يصبح الفعل المبادئ غير مباشر. قد يكون المستخدم قد أذن بمجموعة واسعة من القواعد، ولكن ليس معاملة محددة. لذلك، عندما يحدث خطأ، يصبح من الصعب تحديد القرار الدقيق الذي أدى إليه. فكرة المتحكم الوحيد والواضح لم تعد صالحة، وتتدهور السلسلة الواضحة للنية والتنفيذ والسببية التي اعتمدت عليها الإطارات القانونية دائمًا.

تُقدم الأنظمة العاملة تفسيرات خوارزمية للنية المستخدمة والنتائج التي تنشأ من البيانات في الوقت الفعلي بدلاً من الإرشادات الصريحة. قد يبدو أن المعاملة الواحدة هي نتيجة للقضايا التلقائية المتعددة المتراكمة مع مرور الوقت.

يخلق هذا تحديات عملية. أولًا، يصبح من الصعب فك تشابك النزاعات لأن من غير الواضح ما إذا كانت القضية تكمن في تكوين المستخدم الأصلي أو تفسير النظام للنية أو البيانات التي اعتمد عليها أو الإجراء النهائي الذي اتخذه. يصبح تنفيذ القانون أكثر تعقيدًا، لأن الإطارات التقليدية للتصريح والمسؤولية لا تنتقل بسهولة إلى اتخاذ القرارات العامل.

ومع ذلك، في نظر المشرع، لا يزال المؤسسة المالية مسؤولة عن الأخطاء أو الانقطاعات أو الأضرار الناجمة عن هذه الأنظمة. يعالج القانون أفعال الذكاء الاصطناعي كما لو كانت قد نفذت من قبل موظف بشري. إذا ارتكب الذكاء الاصطناعي خطأً، تتحمل الشركة المسؤولية، خاصة إذا نشأ الخطأ من إعداد سيئ أو تكوين غير كاف أو إشراف غير كاف. وبالتالي، لا يمكن إنكار أهمية جودة التأكيد والرقابة البشرية في面 اتخاذ القرارات المستقلة. إذا كان هناك شيء، يصبحون أكثر أهمية لضمان أن الأنظمة تعمل حسب النية.

يعني ذلك أن تكون مسؤولاً عن القرارات التي يتخذها البرنامج الذي صمّم ليعمل بشكل مستقل، غالبًا في مواقف لم يتصورها أي إنسان صراحة. ستنتقل أسئلة المسؤولية والقابلية للفحص والوضوح من الهامش القانوني إلى مركز التصميم. ستحتاج المؤسسات المالية إلى نماذج أوضح لتتبع القرارات وتصحيب المسؤولية وإثبات أن حتى الإجراءات المستقلة يمكن أن تفهم وتراجع وتحكم. لجسر الفجوة في المسؤولية، يجب على الصناعة أن تتبنى “افتراض خاطئ للخطأ الخوارزمي”. هذا الإطار يفترض قانونيًا أن هناك خطأًا في النظام في أي معاملة متنازع عليها trừ إذا استطاعت المؤسسة المالية تقديم سجل مراجعة لا يمكن تغييره يثبت أن الوكيل اتبع دائمًا الحواجز المبرمجة.

يُساعد وجود شخص مسؤول عن كل “وكيل” في إدارة المخاطر الإجراءات غير المقصودة ويتجنب الأخطاء من تصاعد إلى مشاكل حقيقية. هذا يضمن أن تظل الشركة على الجانب الصحيح من القانون مع الحفاظ على المسؤولية.

ما هو الطريق الأمثل للمضي قدمًا؟

عندما يدخل الذكاء الاصطناعي العامل إلى المالية، يجب أن يصبح الحوكمة متسقة بشكل متساوٍ. سيتعين على فرق القانون والامتثال اللعب دورًا نشطًا في تصميم إطارات التصريح للوكلاء الذكاء الاصطناعي، وتحديد المسؤولية عبر الشركاء، ووضع حدود عقدية للإجراءات الآلية، وإنشاء معايير وثائقية واضحة تحدد بوضوح من هو مسؤول عماذا. يتطلب الموافقة أيضًا التطور – يجب أن يكون للمستخدمين فهم واضح لما يوقعون عليه وحدود السلطة العاملة.

في المثالي، هذا هو عالم حيث يظل العملاء تحت السيطرة الكاملة ودائمًا على دراية بما يفعله وكيل الذكاء الاصطناعي بالضبط. بدلاً من الاعتماد على عقود طويلة ومربكة يتم التوقيع عليها مرة واحدة، تصبح الموافقة ديناميكية ومتفرقة، تمنح من خلال “أذونات دقيقة” لمهام محددة. ومع ذلك، لتجنب خطر “إرهاق الإشعار”، حيث يوافق المستخدمون تلقائيًا على الإشعارات دون قراءتها، يجب دعم الموافقة بحواجز مخاطر محددة مسبقًا. تعمل هذه كمنظمات تلقائية “مفصلة”، تُوقف أي إجراء غير محدد أو متغير يخرج عن ملف تعريف سلوكي تاريخي للمستخدم.

على سبيل المثال، قد يسمح المستخدم لوكيل الذكاء الاصطناعي بجواز سفر رقمي لإنفاق ما يصل إلى 50 يورو من behalfه لمدة يوم واحد. يتم تسجيل كل إجراء، مما يخلق مسارًا واضحًا يثبت أن الذكاء الاصطناعي ظل ضمن الحدود المصرح بها. إذا حاول الذكاء الاصطناعي القيام بشيء غير عادي أو مخاطر، يُوقف النظام تلقائيًا ويتطلب تأكيدًا سريعًا من خلال بصمة الإصبع أو مسح الوجه، على سبيل المثال. تُحول الأذونات الدقيقة ما يمكن أن يكون قد تم تحويله إلى مشكلة قانونية إلى إجراء أمان في الوقت الفعلي – فوز لفوز للمستخدمين والمؤسسات على حد سواء. يحتفظ المستخدمون بالرؤية والسيطرة، بينما تعمل استقلالية الذكاء الاصطناعي ضمن حدود واضحة ومسؤولة. يتم الحفاظ على هذه الرؤية بشكل أفضل من خلال “التحقق المستمر”، حيث تعمل طبقة “الحارس” القائمة على القواعد بالتوازي مع وكيل الذكاء الاصطناعي. هذه الطبقة الثانوية لا تُشغل المعاملات ولكنها تمتلك السلطة المطلقة لرفض أي إجراء يخرق الحدود الآمنة المحددة مسبقًا، مما يضمن أن تظل السلامة البشرية نشطة بدلاً من مجرد تسجيل.

في النهاية، يعتمد نجاح التمويل العامل على قدرته على العمل بأمان وثبات وطريقة مركزة على الإنسان. يقع التحدي في تحويل نظام معقد وغير مرئي إلى شيء يمكن للناس الثقة به وفهمه والشعور بالسيطرة عليه.